Elon Musk właśnie zniszczył wiarygodność OpenAI, a może to zrobić, ponieważ ją założył. Musk: „Nie ufam OpenAI. Założyłem tę firmę jako non-profit open source. Open w OpenAI. To ja nazwałem tę firmę.” Misja była w nazwie. Open source non-profit zbudowane jako przeciwwaga dla wielkich technologii kontrolujących AI. Musk: „A teraz jest to niezwykle zamknięte źródło i maksymalizuje zyski. Więc nie rozumiem, jak można przejść od bycia open source non-profit do zamkniętego źródła dla maksymalizacji zysku.” Nie pivot. Zdrada. Nie można być „Otwartym” z własnościowym kodem optymalizującym zyski. Musk: „W różnych momentach twierdził, że nie wzbogaca się, ale twierdził wiele rzeczy, które były fałszywe. A teraz najwyraźniej ma otrzymać 10 miliardów dolarów akcji.” Lata narracji: Sam Altman nie ma udziałów, czysta altruizm, bezinteresowny zarządca. A potem pojawia się 10 miliardów dolarów. Historia się zmienia. Motywacje się zmieniają. Musk: „Więc nie ufam Samowi Altmanowi i nie sądzę, że chcemy, aby najpotężniejsza AI na świecie była kontrolowana przez kogoś, kto nie jest godny zaufania.” Prawdziwe zagrożenie nie leży w technologii. To przywództwo. Najpotężniejsza AI kontrolowana przez kogoś, którego motywacja przesunęła się z bezpieczeństwa na gromadzenie bogactwa. Kiedy motywacje zmieniają się z ochrony ludzkości na zdobywanie miliardów, bezpieczeństwo nie może pozostać priorytetem. Ekonomia na to nie pozwoli. Jak można legalnie przekształcić non-profit, które przynosi korzyści wszystkim, w korporację wartą setki miliardów dolarów, przynoszącą korzyści konkretnym osobom? Ta transformacja ujawnia, czyje interesy są naprawdę obsługiwane. Musk zbudował OpenAI specjalnie po to, aby zapobiec kontrolowaniu AI przez zyski. Obserwowanie, jak staje się dokładnie tym, wyjaśnia jego stanowisko w pełni. Niebezpieczeństwo polega na tym, że najbardziej zaawansowana AI jest kontrolowana przez podmiot, który już porzucił zasady założenia dla pieniędzy. Zasady, które zmieniły się raz dla zysku, zmienią się ponownie. Następny konflikt między bezpieczeństwem a zyskiem pojawi się przy wyższych stawkach z bardziej zaawansowaną technologią. Wynik nie będzie sprzyjał bezpieczeństwu. Nie sprzyjał wcześniej. Dlaczego miałoby to być teraz, gdy presja finansowa jest znacznie większa, a osoba decydująca już pokazała, która priorytet wygrywa?