Elon Musk ha appena distrutto la credibilità di OpenAI, e può farlo perché l'ha fondata. Musk: “Non mi fido di OpenAI. Ho avviato quella compagnia come un'organizzazione no-profit open source. L'Open in OpenAI. Ho dato io il nome all'azienda.” La missione era nel nome. Open source no-profit costruita come contrappeso alle grandi aziende tecnologiche che controllano l'IA. Musk: “E ora è estremamente closed source e massimizza il profitto. Quindi non capisco come si possa passare da essere un'organizzazione no-profit open source a un'organizzazione closed source per massimizzare il profitto.” Non è un cambiamento. È un tradimento. Non si può essere "Open" con codice proprietario ottimizzato per il profitto. Musk: “In vari momenti, ha affermato di non diventare ricco, ma ha affermato molte cose che erano false. E ora apparentemente riceverà 10 miliardi di dollari in azioni.” Anni di narrazione: Sam Altman non ha equity, puro altruismo, custode disinteressato. Poi appaiono 10 miliardi di dollari. La storia cambia. Gli incentivi cambiano. Musk: “Quindi non mi fido di Sam Altman, e non penso che vogliamo avere l'IA più potente del mondo controllata da qualcuno che non è affidabile.” La vera minaccia non è la tecnologia. È la leadership. L'IA più potente controllata da qualcuno la cui motivazione è passata dalla sicurezza all'accumulo di ricchezze. Quando gli incentivi passano dalla protezione dell'umanità alla cattura di miliardi, la sicurezza non può rimanere una priorità. L'economia non lo permetterà. Come si può legalmente convertire un'organizzazione no-profit che beneficia tutti in una corporazione da cento miliardi di dollari che beneficia persone specifiche? Quella trasformazione rivela quali interessi vengono realmente serviti. Musk ha costruito OpenAI specificamente per prevenire il controllo dell'IA da parte di interessi orientati al profitto. Vederla diventare esattamente questo spiega completamente la sua posizione. Il pericolo è che l'IA più avanzata sia controllata da un'entità che ha già abbandonato i principi fondatori per il denaro. I principi che sono cambiati una volta per il profitto cambieranno di nuovo. Il prossimo conflitto tra sicurezza e profitto arriverà a scommesse più alte con tecnologie più potenti. L'esito non favorirà la sicurezza. Non l'ha fatto prima. Perché dovrebbe farlo ora quando la pressione finanziaria è esponenzialmente maggiore e la persona che decide ha già mostrato quale priorità vince?