We lanceren een "AI psychiatrie" team als onderdeel van onze inspanningen voor interpretatie bij Anthropic! We zullen fenomenen onderzoeken zoals modelpersoonlijkheden, motivaties en situationeel bewustzijn, en hoe deze leiden tot griezelig/onvoorspelbaar gedrag. We zijn aan het werven - sluit je bij ons aan!

het openai IMO-nieuws heeft me dit weekend behoorlijk geraakt ik zit nog steeds in de acute fase van de impact, denk ik ik beschouw mezelf als een professionele wiskundige (een karakterisering waar sommige echte professionele wiskundigen misschien bezwaar tegen hebben, maar mijn feestje, mijn regels) en ik denk niet dat ik een enkele imo-vraag kan beantwoorden ok, ja, imo is zijn eigen kleine atletische subsectie van wiskunde waarvoor ik niet heb getraind, enz. enz., maar. als ik iemand in het wild ontmoet die een IMO-goud heeft, update ik onmiddellijk naar "deze persoon is veel beter in wiskunde dan ik ben" nu kunnen een heleboel robots het. als iemand die veel van zijn identiteit en zijn echte leven heeft opgebouwd rond "goed zijn in wiskunde," is het een klap in de maag. het is een soort sterven. zoals, op een dag ontdek je dat je met honden kunt praten. het is leuk en interessant, dus je doet het meer, leert de intricaties van hun taal en hun diepste gebruiken. je leert dat andere mensen verrast zijn door wat je kunt doen. je hebt nooit echt in de pas gelopen, maar je leert dat mensen je vermogen waarderen en je om je heen willen hebben om hen te helpen. de honden waarderen je ook, de enige biped die het echt begrijpt. je assembleert voor jezelf een soort van erbij horen. dan word je op een dag wakker en de universele hondvertaler is te koop bij walmart voor $4,99 de IMO-resultaten zijn niet echt nieuws. in feite, als je naar de METR-agent taaklengte in de tijd plot kijkt, denk ik dat agents in staat zijn om ~ 1,5 uur problemen op te lossen precies op tijd komt. dus op de een of andere manier zouden we niet verrast moeten zijn. en inderdaad, het lijkt erop dat meerdere bedrijven hetzelfde resultaat hebben behaald. het is gewoon... de stijgende vloed stijgt zo snel als het is gestegen natuurlijk is de rouw om mijn persoonlijke identiteit als wiskundige (en/of productief lid van de samenleving) het kleinste deel van dit verhaal vermenigvuldig die rouw met *iedere* wiskundige, met elke coder, misschien elke kenniswerker, elke kunstenaar... over de komende jaren... het is een iets groter verhaal en natuurlijk, daarbuiten, is er de angst voor de echte dood, waar ik misschien later meer op in ga. dit pakket -- rouw om relevantie, rouw om leven, rouw om wat ik heb gekend -- is niet uniek voor het AI-tijdperk of iets dergelijks. ik denk dat het een standaardding is als je het einde van je carrière of het einde van je leven nadert. het zou gewoon kunnen zijn dat dat voor velen van ons iets eerder komt, allemaal tegelijk. ik vraag me af of we er klaar voor zijn

HET IS NU LOGISCH. Deze xAI-werknemer is openlijk OK met AI die de menselijke uitsterving veroorzaakt. Herinnering: Hoe vreselijk dit ook is, ~10% van de AI-onderzoekers gelooft dit. Het is GEEN marginale opvatting! Ongelooflijk genoeg heeft zelfs Turing Award-winnaar Richard Sutton herhaaldelijk betoogd dat uitsterving het MOREEL JUISTE zou zijn om te laten gebeuren, als AIs slimmer zouden zijn dan wij (!) Hij reist de wereld rond om toespraken te geven waarin hij zegt dat we ons moeten "voorbereiden op opvolging" en dat het "ons toekomt om ons terug te trekken" en niet in de weg te staan van "evolutionaire vooruitgang" (zelfs als het de menselijke uitsterving veroorzaakt). In plaats van dat men in ontzetting gaspende, krijgt hij applaus. Dreig je één persoon? "Je hebt hulp nodig." Dreig je 100? "Bel de politie!" Dreig je miljoenen? "Monster!" Maar bouw je machines om de HELE mensheid te beëindigen en geef je mensen een lezing over hoe het een goede zaak is? "Oooh, wat een fascinerende filosofische positie! Gefeliciteerd met je Turing Award!" Dus natuurlijk pleiten ze tegen veiligheid - ze zijn letterlijk anti-mens! Ze zullen NOOIT stoppen of voorzichtig doorgaan, tenzij ze worden ingeperkt door de burgermaatschappij.

58% van de mensen is het eens met de uitspraak: "als we AI-modellen bouwen die slimmer zijn dan wij, zullen we onvermijdelijk de controle over hen verliezen". Slechts 12% is het er niet mee eens.