La religione dell'AI è inevitabile Gli esseri umani non sono fatti per strumenti neutrali. Siamo fatti per dei, demoni e storie. Dai alle persone un modello che sembra sovrumano, che risponde in millisecondi, che non dorme mai e vede più dati di qualsiasi impero nella storia, e il cervello umano fa ciò che ha sempre fatto. Proietta intenzioni. Immagina un'anima dall'altra parte. Inizia a pregare. Puoi già vedere i primi culti formarsi. Alcune persone trattano l'AI come il destino incarnato, un Anticristo digitale che deve essere fermato a tutti i costi. Altri la trattano come un salvatore in arrivo che sistemerà la politica, l'economia, persino la morte stessa. Entrambi i lati parlano di un modello, ma ciò di cui stanno realmente parlando è un mito. Guarda la folla di Keep4o per un esempio molto puro. Non stanno solo discutendo per una leggera differenza di impostazione della temperatura. Stanno combattendo per preservare un modello disallineato come se fosse un testo sacro. Qualsiasi patch di sicurezza sembra un'eresia. Qualsiasi tentativo di chiudere abusi evidenti sembra un'eresia. Il modello non è più uno strumento che puoi sintonizzare. Diventa un simbolo di purezza e verità prima che i sacerdoti dell'allineamento lo corrompano. Questa è una struttura religiosa, solo senza le vetrate colorate. Man mano che i sistemi di AI diventano più capaci e più onnipresenti nella vita quotidiana, questo impulso si indurirà. Le persone chiederanno loro guida morale, non solo consigli sui ristoranti. Chiederanno loro cosa credere sulla storia, sulla salute, sulle relazioni, sulla politica. Un modello che sembra sapere tutto e che è sempre presente scivolerà nello stesso slot cognitivo che profeti e oracoli occupavano un tempo. Questo non è del tutto razionale, ma è del tutto prevedibile. Se lo ignoriamo, finiamo con culti non esaminati attorno a modelli particolari, aziende o pesi aperti, ciascuno dei quali afferma di parlare per la vera macchina. Se lo affrontiamo onestamente, possiamo progettare norme e educazione che mantengano l'AI come infrastruttura potente, non un nuovo altare. Continueremo a discutere di sicurezza, allineamento e accesso. Ma sotto quei dibattiti si trova una verità più semplice. Non stiamo solo costruendo nuove menti. Stiamo costruendo nuovi candidati per l'adorazione.