Včera jsem byl na akci o AI pro vědu, panelové diskusi zde na NeurIPS. Panelisté diskutovali o tom, jak plánují nahradit lidi na všech úrovních vědeckého procesu. Tak jsem vstal a protestoval, že to, co dělají, je zlo. Rozhlédni se kolem sebe, řekl jsem. Místnost je plná výzkumníků různých druhů, většina z nich mladá. Jsou tu, protože milují výzkum a chtějí přispět k rozvoji lidského poznání. Pokud člověka vyřadíte z dění, tedy že lidé už nemají žádnou roli ve vědeckém výzkumu, připravujete ho o činnost, kterou miluje, a o klíčový zdroj smyslu v jeho životě. A všichni chceme dělat něco smysluplného. Proč jsem se zeptal, že nám chcete vzít příležitost přispívat k vědě? Moje otázka změnila průběh panelu a nastavila tón pro zbytek diskuse. Poté ke mně přišlo několik účastníků, buď aby mi poděkovali za to, že jsem vyjádřil jejich pocity, nebo se zeptali, jestli to opravdu myslím vážně. Tak jsem si řekl, že se k otázce vrátím. Jeden z panelistů se mě zeptal, zda bych opravdu raději měl radost z vědecké práce než hledání léku na rakovinu a umožnění nesmrtelnosti. Odpověděl jsem, že rakovinu nakonec vyléčíme a pravděpodobně si jednou budeme moci zvolit nesmrtelnost. Věda už s lidmi v čele dělá velký pokrok. Jednou dostaneme i fúzní energii a cestování do vesmíru. Možná by vyřazení lidí z dění urychlilo tento proces, ale nemyslím si, že by to stálo za to. Myslím, že je zásadní, abychom my lidé byli zodpovědní za svůj vlastní pokrok. Rozšiřování kolektivního lidského poznání je podle mě to nejvýznamnější, co můžeme udělat. Pokud lidé už nebudou schopni užitečně přispívat vědě, bude to katastrofa. Takže ne. Nemyslím si, že stojí za to hledat lék na rakovinu rychleji, pokud to znamená, že už nikdy nebudeme moci dělat vědu. Mnozí z těch, kteří ke mně včera večer přišli mluvit, a ptali se, jestli to myslím vážně, nebo jen trollím, si mysleli, že tento předpoklad je absurdní. Samozřejmě, že ve vědě bude vždy místo pro lidi. Vždy budou úkoly, které mohou dělat jen lidé, vhled, který mají jen lidé, a tak dále. Proto bychom měli AI vítat. Výzkum je náročný a potřebujeme veškerou pomoc, kterou můžeme získat. Odpověděl jsem, že doufám, že mají pravdu. To znamená, že opravdu doufám, že vždy budou části výzkumného procesu, pro které budou lidé nezbytní. Ale proti čemu jsem argumentoval nebylo to, co bychom mohli nazvat "slabou vědeckou automatizací", kdy lidé zůstávají v důležitých rolích v obraze, ale "silnou vědeckou automatizací", kde jsou lidé zbyteční. Jiní si mysleli, že je nezralé o tom diskutovat, protože plná automatizace vědy není na obzoru. Opět doufám, že mají pravdu. Ale nevidím nic špatného na tom o tom mluvit teď. A rozhodně si nemyslím, že potřebujeme výzkum automatizace vědy, abychom šli dál. Jiní však poznamenali, že jde o zbytečný argument. Automatizace vědy přichází, ať už chceme nebo ne, a měli bychom si na ni zvyknout. Vlak přijíždí a můžeme na něj nasednout, nebo mu stát v cestě. Myslím, že je to pozoruhodně zbabělý argument. Je na nás jako na společnosti, abychom rozhodli, jak budeme technologie využívat, které vyvíjíme. Není to vlak, je to náklaďák, a radši vezmeme volant. Jeden z panelistů použil analogii se šachem a tvrdil, že mnoho lidí hraje šachy, i když počítače jsou dnes v šachu mnohem lepší než lidé. Takže se můžeme věnovat vědě jako koníčku, i když skutečná věda je prováděna počítači. Hráli bychom si daleko od hranice, možná bychom doplňovali mezery, které AI systémy nezajímají. To bylo, mírně řečeno, neuspokojivá odpověď. I když miluji hry, rozhodně nepovažuji hraní her za tak významné jako rozšiřování lidských znalostí. Díky, ale ne. Celkově ale bylo pozoruhodné, že většina těch, s nimiž jsem mluvil, mi poděkovala za to, že jsem to zmínil, protože jsem vyjádřil obavy, které už měli. Jeden z nich poznamenal, že pokud pracujete na automatizaci vědy a ani trochu se nebojíte konečného cíle, jste psychopat. Dodal bych, že další možností je, že vlastně nevěříte tomu, co děláte. Někteří se možná ptají, proč tento argument uvádím o vědě a ne například o vizuálním umění, hudbě nebo herním designu. To proto, že včerejší akce byla o AI pro vědu. Ale myslím, že stejný argument platí pro všechny oblasti lidského tvůrčího a intelektuálního vyjádření. Dělat lidskou intelektuální nebo tvůrčí práci zbytečnou je něco, čemu bychom se měli vyhnout, kdykoli můžeme, a rozhodně bychom se tomu měli vyhnout, pokud neexistují stejně smysluplné nové role, do kterých by lidé mohli přejít. Dalo by se dále tvrdit, že vyřazovat lidi z smysluplné kreativní práce, jako je vědecký výzkum, je neuvěřitelně egoistické. Intelektuální uspokojení z vynalézání nových AI metod získáváte, ale další generace nemá šanci přispět. Proč chcete svým dětem (akademickým i biologickým) odebrat možnost zapojit se do nejsmysluplnější činnosti na světě? V co tedy věřím, když jsem výzkumník v oblasti AI, který aktivně pracuje na metodách AI používaných k automatizaci vědy? Věřím, že AI nástroje, které nám pomáhají být produktivnější a kreativnější, jsou skvělé, ale že AI nástroje, které nás nahrazují, jsou špatné. Miluji vědu a bojím se budoucnosti, kdy budeme zatlačeni zpět do temného středověku, protože už nemůžeme přispívat vědě. Lidská agentura, včetně tvůrčích procesů, je zásadní a musí být chráněna téměř za každou cenu. Nevím přesně, jak řídit vývoj AI a jeho používání tak, abychom dostali nové nástroje, ale nebyli nahrazeni. Ale vím, že je to nesmírně důležité.