Ik ben veel optimistischer geworden dat we krachtige AI kunnen creëren die in zekere zin "de mensheid liefheeft", en @AmandaAskell & het @AnthropicAI-team krijgen hier een enorme hoeveelheid krediet voor. Helaas is het een fijne kunst die weinigen op zo'n hoog niveau kunnen uitvoeren.

"dit zal niet werken voor superintelligentie" is een zeer veelvoorkomend thema in de reacties die ik hier krijg, en ... dat zou wel eens waar kunnen zijn. Maar mensen lijken zich een superintelligentie voor te stellen die bijvoorbeeld alle natuurkunde uit een enkele afbeelding kan afleiden, wat kwalitatief heel anders zou zijn dan de Claudes die we vandaag de dag zien. Op de huidige koers zou Claude ~6 een vorm van superintelligentie kunnen zijn, en ik vind het niet vanzelfsprekend dat iedereen sterft als ze zo'n Claude 6 bouwen.