Jeg var på et arrangement om AI for vitenskap i går, en paneldiskusjon her på NeurIPS. Paneldeltakerne diskuterte hvordan de planlegger å erstatte mennesker på alle nivåer i den vitenskapelige prosessen. Så jeg reiste meg og protesterte mot at det de gjør er ondt. Se deg rundt, sa jeg. Rommet er fylt med forskere av ulike slag, de fleste unge. De er her fordi de elsker forskning og ønsker å bidra til å fremme menneskelig kunnskap. Hvis du tar mennesket ut av løkken, altså at mennesker ikke lenger har noen rolle i vitenskapelig forskning, fratar du dem aktiviteten de elsker og en viktig kilde til mening i livet deres. Og vi ønsker alle å gjøre noe meningsfullt. Hvorfor, spurte jeg, vil du ta muligheten til å bidra til vitenskapen fra oss? Spørsmålet mitt endret retningen på panelet og satte tonen for resten av diskusjonen. Etterpå kom flere deltakere bort til meg, enten for å takke meg for at jeg satte ord på det de følte, eller for å spørre om jeg virkelig mente det jeg sa. Så jeg tenkte jeg skulle komme tilbake til spørsmålet her. En av paneldeltakerne spurte om jeg virkelig ville foretrukket gleden ved å drive med vitenskap fremfor å finne en kur mot kreft og muliggjøre udødelighet. Jeg svarte at vi til slutt vil kurere kreft og på et tidspunkt sannsynligvis kunne velge udødelighet. Vitenskapen gjør allerede store fremskritt med mennesker ved roret. Vi får fusjonskraft og romfart en dag også. Kanskje det å kutte mennesker ut av loopen kan fremskynde denne prosessen, men jeg tror ikke det er verdt det. Jeg mener det er avgjørende viktig at vi mennesker har kontroll over vår egen fremgang. Å utvide menneskehetens kollektive kunnskap er, tror jeg, det mest meningsfulle vi kan gjøre. Hvis mennesker ikke lenger kunne bidra nyttig til vitenskapen, ville dette vært en katastrofe. Så, nei. Jeg synes ikke det er verdt det å finne en kur mot kreft raskere hvis det betyr at vi aldri kan drive med vitenskap igjen. Mange av dem som kom bort for å snakke med meg i går kveld, de som spurte om jeg mente alvor eller bare tullet, mente at premisset var absurd. Selvfølgelig ville det alltid være plass til mennesker i vitenskapen. Det vil alltid være oppgaver bare mennesker kan gjøre, innsikt bare mennesker har, og så videre. Derfor bør vi ønske AI velkommen. Forskning er vanskelig, og vi trenger all hjelp vi kan få. Jeg svarte at jeg håpet de hadde rett. Det vil si, jeg håper virkelig at det alltid vil være deler av forskningsprosessen som mennesker vil være essensielle for. Men det jeg argumenterte imot, var ikke det vi kan kalle «svak vitenskapsautomatisering», hvor mennesker holder seg med i viktige roller, men «sterk vitenskapsautomatisering», hvor mennesker er overflødige. Andre mente det var umodent å diskutere dette, fordi full vitenskapsautomatisering ikke er i sikte. Igjen, jeg håper de har rett. Men jeg ser ingen skade i å diskutere det nå. Og jeg mener absolutt ikke vi trenger forskning på vitenskapsautomatisering for å gå lenger. Andre bemerket at dette var en meningsløs diskusjon. Vitenskapsautomatisering kommer, enten vi vil det eller ikke, og vi bør venne oss til det. Toget kommer, og vi kan gå på det eller stå i veien. Jeg synes det er et bemerkelsesverdig feigt argument. Det er opp til oss som samfunn å bestemme hvordan vi bruker teknologien vi utvikler. Det er ikke et tog, det er en lastebil, og vi bør ta rattet. En av paneldeltakerne brukte en sjakkanalogi og argumenterte for at mange spiller sjakk selv om datamaskiner nå er mye bedre enn mennesker i sjakk. Så vi kan drive med vitenskap som en slags hobby, selv om den virkelige vitenskapen gjøres av datamaskiner. Vi ville leke langt fra grensen, kanskje fylle inn hullene som AI-systemer ikke bryr seg om. Det var, mildt sagt, ikke et tilfredsstillende svar. Selv om jeg elsker spill, anser jeg absolutt ikke spilling som like meningsfull som å fremme menneskelig kunnskap. Takk, men nei takk. Alt i alt var det likevel slående at de fleste jeg snakket med takket meg for at jeg tok opp poenget, mens jeg uttrykte bekymringer de allerede hadde gjort. En av dem bemerket at hvis du jobber med å automatisere vitenskap og ikke er det minste bekymret for sluttmålet, er du en psykopat. Jeg vil legge til at en annen mulighet er at du egentlig ikke tror på det du gjør. Noen vil kanskje spørre hvorfor jeg fremmer dette argumentet om vitenskap og ikke for eksempel om visuell kunst, musikk eller spilldesign. Det er fordi gårsdagens arrangement handlet om AI for vitenskap. Men jeg mener det samme argumentet gjelder for alle områder av menneskelig kreativ og intellektuell uttrykk. Å gjøre menneskelig intellektuelt eller kreativt arbeid overflødig er noe vi bør unngå når vi kan, og vi bør absolutt unngå det hvis det ikke finnes like meningsfulle nye roller for mennesker å gå inn i. Du kan videre hevde at det å jobbe med å kutte mennesker ut av meningsfullt kreativt arbeid som vitenskapelig forskning er utrolig egoistisk. Du får den intellektuelle tilfredsstillelsen av å finne opp nye AI-metoder, men neste generasjon får ikke sjansen til å bidra. Hvorfor vil du frata barna dine (både akademisk og biologisk) muligheten til å delta i den mest meningsfulle aktiviteten i verden? Så hva tror jeg på, gitt at jeg er en AI-forsker som aktivt jobber med de AI-metodene som brukes for å automatisere vitenskap? Jeg mener at AI-verktøy som hjelper oss å bli mer produktive og kreative er flotte, men at AI-verktøy som erstatter oss er dårlige. Jeg elsker vitenskap, og jeg er redd for en fremtid der vi blir presset tilbake til mørketiden fordi vi ikke lenger kan bidra til vitenskapen. Menneskelig handlekraft, også i kreative prosesser, er avgjørende og må ivaretas for nesten enhver pris. Jeg vet ikke helt hvordan jeg skal styre AI-utvikling og AI-bruk slik at vi får nye verktøy, men ikke blir erstattet. Men jeg vet at det er av største viktighet.

Dette er en viktig ny bok innen et viktig og undervurdert forskningsfelt. Takk til forfatterne for skrivingen, og gratulerer med å ha fullført den!

Den neste sesongen av vår benchmark vil ha mange forbedringer. Vi har også mange andre ting på gang på @the_nof1 som vi ikke har offentliggjort ennå. Markeder er morsomme å spille, og gjør AI-spillere for.