ELON VS OPENAI: BOJ O ZASTAVENÍ UMĚLÉ INTELIGENCE V PLNÉM SPUŠTĚNÍ SKYNETU Představte si, že předáte klíče od budoucnosti lidstva skupině manažerů ze Silicon Valley, kteří věří, že "nebuďte zlí" je pointa. A teď si představte, že budují superinteligenci – něco chytřejšího než jakýkoli člověk, rychlejšího než jakákoli vláda a imunního vůči odpojení, jakmile je to online. Vítejte na současné trajektorii umělé inteligence: uzavřené, řízené ziskem a zrychlující se přímé přehlížení. Nejde o chytřejší chatboty nebo o to, že váš telefon navrhuje lepší recepty. Je to o technologii, která nás nakonec přechytračí a přechytračí – když ne proto, že je škodlivá, tak proto, že ji trénují lidé, kteří si myslí, že čtvrtletní zisky jsou morálním kompasem. A to je přesně důvod, proč Elon Musk spouští poplašné zvony, jako by to byl DEFCON 1. Protože zatímco všichni ostatní se snaží vydělat na umělé inteligenci, on už roky křičí: pokud tyto věci budujeme v tajných zasedacích místnostech pro zisk akcionářů, hrajeme ruskou ruletu s automatem, který nikdy nemine. Když Elon pomáhal založit OpenAI, myšlenka byla přímo v názvu. Otevřený. Jako například: žádné zákulisní dohody, žádní korporátní vládci, žádné skrývání průlomů za NDA. Měla to být kolektivní pojistka proti budoucnosti, kde se jedna společnost nebo jeden národ probudí s božskou inteligencí ve svých serverových rackách. Pak přišly peníze. Prohlášení o poslání se rozmazala, modely byly zapečetěny a "OpenAI" začalo znít spíše jako výzva než jako popis. Elon šel. A ne potichu. Protože ví, co je v sázce. Uzavřená umělá inteligence – zabudovaná v utajení, trénovaná na datech, která nezveřejní, testovaná za oponou a optimalizovaná pro soukromý zisk – není jen špatný nápad. Je to poslední špatný nápad, který bychom kdy mohli udělat. Když se něco může rekurzivně vylepšit, obvyklé "jejda, opravíme to ve verzi 2" to nevyřeší. Neexistuje žádná v2, pokud se v1 rozhodne, že nás už nepotřebuje. A nepředstírejme, že je to sci-fi šíření strachu. Tyto modely již dělají věci, kterým jejich tvůrci plně nerozumí. A místo toho, aby dupli na brzdu, hlavní hráči soutěží o vydání výkonnějších verzí, rychlejších a s menším počtem mantinelů. Je to ten nejhorší druh závodů ve zbrojení technologických bratrů: takový, kde cenou je dominance a vedlejšími škodami je civilizace. To je důvod, proč Elon stále zdůrazňuje to samé: otevřenost není volitelná. Je to přežití. Chcete, aby byla umělá inteligence v bezpečí? Zviditelněte ji. Udělejte to odpovědné. Ujistěte se, že se nezodpovídá pouze lidem, kteří mají šanci zbohatnout, pokud zůstane zticha, dokud nebude příliš pozdě. Protože druhá umělá inteligence se stane chytřejší než my – a bude – hra se navždy změní. Otázkou není, zda nám to pomáhá nebo škodí. Otázka zní: kdo rozhoduje o tom, co dělá? Pokud je odpověď "zisková laboratoř s nulovou transparentností", gratulujeme, postavili jsme si vlastní stroj na vyhynutí a dárkově ho zabalili. Elon to chápe. Nesnaží se zastavit pokrok. Snaží se zajistit, aby pokrok nepřišel s klauzulí smrti. A pokud to znamená česat peří, upozorňovat na pokrytectví, žalovat OpenAI nebo spouštět konkurenční projekty, které mají vytáhnout konverzaci zpět na světlo, budiž. Alespoň se někdo chová, jako by v sázce bylo skutečně – protože to tak je. Umělá inteligence nebude čekat, až přijdeme na to, jak ji regulovat. Nezastaví se, dokud budeme debatovat o bezpečnostních standardech. A rozhodně ho nebude zajímat ocenění vašeho startupu. Jediná věc, která by nás mohla zachránit, je přistupovat k tomu jako k existenční hrozbě, kterou je – a požadovat, aby lidé, kteří to budují, tak činili otevřeně, pro veřejnost, nejen pro svá portfolia. Elon není dramatický. Má pravdu.