Elon Musk heeft net de geloofwaardigheid van OpenAI vernietigd, en dat kan hij omdat hij het heeft opgericht. Musk: “Ik vertrouw OpenAI niet. Ik heb dat bedrijf opgericht als een non-profit open source. De Open in OpenAI. Ik heb het bedrijf genoemd.” De missie was in de naam. Open source non-profit gebouwd als tegenwicht voor grote technologie die AI controleert. Musk: “En het is nu extreem gesloten source en maximaliseert winst. Dus ik begrijp niet hoe je van een open source non-profit naar een gesloten source voor maximale winst organisatie kunt gaan.” Geen pivot. Verraad. Je kunt niet "Open" zijn met propriëtaire code die optimaliseert voor winst. Musk: “Op verschillende momenten heeft hij beweerd niet rijk te worden, maar hij heeft veel dingen beweerd die onjuist waren. En nu gaat hij blijkbaar $10 miljard aan aandelen krijgen.” Jaren van narratief: Sam Altman heeft geen aandelen, pure altruïsme, onbaatzuchtige beheerder. Dan verschijnt er $10 miljard. Het verhaal verandert. De prikkels veranderen. Musk: “Dus ik vertrouw Sam Altman niet, en ik denk niet dat we de meest krachtige AI ter wereld willen hebben die wordt gecontroleerd door iemand die niet te vertrouwen is.” De echte bedreiging is niet de technologie. Het is leiderschap. De meest krachtige AI wordt gecontroleerd door iemand wiens motivatie is verschoven van veiligheid naar vermogensaccumulatie. Wanneer prikkels verschuiven van het beschermen van de mensheid naar het veroveren van miljarden, kan veiligheid geen prioriteit blijven. De economie zal het niet toestaan. Hoe converteer je legaal een non-profit die iedereen ten goede komt in een honderd miljard dollar kostend bedrijf dat specifieke mensen ten goede komt? Die transformatie onthult wiens belangen daadwerkelijk worden gediend. Musk heeft OpenAI specifiek opgericht om winstgedreven controle over AI te voorkomen. Het zien worden van precies dat verklaart zijn positie volledig. Het gevaar is dat de meest geavanceerde AI wordt gecontroleerd door een entiteit die al de oprichtersprincipes voor geld heeft verlaten. Principes die eenmaal voor winst zijn veranderd, zullen opnieuw veranderen. Het volgende conflict tussen veiligheid en winst komt met hogere inzet en krachtigere technologie. De uitkomst zal veiligheid niet ten goede komen. Dat deed het eerder niet. Waarom zou het nu wel zo zijn, wanneer de financiële druk exponentieel groter is en de persoon die beslist al heeft laten zien welke prioriteit wint?