Als elke mens plotseling dood neervalt, zou AI ook stoppen met functioneren. Maar dat is geen wet van het universum. Wanneer zal AI in staat zijn om zonder ons door te draaien? Geweldig nieuw stuk van @ajeya_cotra, dat "zelfvoorzienende AI" onderzoekt, en hoe we dan meer risico lopen.

"Wanneer kan AI gewoon goed functioneren zonder mensen?" is een intense vraag, en dat is het punt. Ajeya heeft sterke bezwaren tegen hoe wild de toekomst zou kunnen zijn - zelfs met mensen die momenteel de mogelijkheden van AI enorm hypen. Ik bewonder de scherpte van de mijlpaal.

Je kunt Ajeya's volledige essay hier lezen: