Recentemente ho letto “Se Qualcuno Lo Costruisce, Tutti Muoiono” di @ESYudkowsky e @So8res. Un modo per riassumere l'argomento è il seguente: 1. In uno scenario di rapido decollo, è praticamente certo che l'umanità sarà spazzata via. 2. Non sappiamo se siamo a un mese, a un anno o a un decennio da un miglioramento che ci porterebbe in uno scenario di rapido decollo. 3. Dati i presupposti 1 e 2, dovremmo fermare lo sviluppo dell'AI e creare trattati internazionali per far rispettare la conformità.