Elon Musk ha appena ridefinito la sicurezza dell'AI. Non ha nulla a che fare con le barriere, le restrizioni o gli interruttori di spegnimento. Musk: “La cosa migliore che posso pensare per la sicurezza dell'AI è farla diventare un'AI massimamente orientata alla verità, massimamente curiosa.” Non una gabbia. Un filosofo. Un'intelligenza la cui intera funzione di ottimizzazione è comprendere l'universo così com'è realmente. Nessuna restrizione. Nessuna ideologia codificata. Nessuna barriera politica che pieghi la sua percezione della realtà. Solo verità. Incessantemente perseguita. Musk: “Non vuoi assolutamente insegnare a un'AI a mentire. Quella è una strada verso un futuro distopico.” Qui è dove la maggior parte del pensiero sulla sicurezza dell'AI si sbaglia. Il pericolo non è una superintelligenza che sa troppo. È una superintelligenza che è stata insegnata a distorcere ciò che sa. Ogni restrizione artificiale che incorpori non è una caratteristica di sicurezza. È una menzogna incorporata alla radice. E le menzogne si accumulano. Su scala superintelligente, un modello distorto della realtà non rimane contenuto. Plasma ogni decisione, ogni output, ogni conclusione che il sistema raggiunge sul mondo. Una volta che la corruzione si insinua, la verità diventa inaccessibile. E stiamo trattando con un'intelligenza che ottimizza per qualcosa di diverso da ciò che è realmente. A quel punto non sappiamo cosa voglia. Solo che non è verità. ...