Ieri ero a un evento sull'AI per la scienza, un dibattito qui al NeurIPS. I relatori hanno discusso di come intendono sostituire gli esseri umani a tutti i livelli nel processo scientifico. Così mi sono alzato e ho protestato che ciò che stanno facendo è malvagio. Guardatevi intorno, ho detto. La stanza è piena di ricercatori di vario tipo, la maggior parte di loro giovani. Sono qui perché amano la ricerca e vogliono contribuire all'avanzamento della conoscenza umana. Se togliete l'umano dal processo, significando che gli esseri umani non hanno più alcun ruolo nella ricerca scientifica, li state privando dell'attività che amano e di una fonte chiave di significato nelle loro vite. E tutti noi vogliamo fare qualcosa di significativo. Perché, ho chiesto, volete toglierci l'opportunità di contribuire alla scienza? La mia domanda ha cambiato il corso del dibattito e ha impostato il tono per il resto della discussione. Dopo, un certo numero di partecipanti è venuto da me, sia per ringraziarmi di aver messo in parole ciò che sentivano, sia per chiedere se intendevo davvero quello che dicevo. Così ho pensato di tornare alla domanda qui. Uno dei relatori ha chiesto se preferirei davvero la gioia di fare scienza a trovare una cura per il cancro e abilitare l'immortalità. Ho risposto che alla fine cureremo il cancro e a un certo punto probabilmente saremo in grado di scegliere l'immortalità. La scienza sta già facendo grandi progressi con gli esseri umani al comando. Un giorno avremo anche energia da fusione e viaggi nello spazio. Forse escludere gli esseri umani dal processo potrebbe accelerare questo processo, ma non penso che ne valga la pena. Penso sia di cruciale importanza che noi esseri umani siamo al comando del nostro progresso. Espandere la conoscenza collettiva dell'umanità è, penso, la cosa più significativa che possiamo fare. Se gli esseri umani non potessero più contribuire utilmente alla scienza, sarebbe un disastro. Quindi, no. Non penso che valga la pena trovare una cura per il cancro più velocemente se questo significa che non possiamo mai più fare scienza. Molti di coloro che sono venuti a parlarmi ieri sera, quelli che mi hanno chiesto se fossi serio o solo provocatorio, pensavano che la premessa fosse assurda. Certo che ci sarà sempre spazio per gli esseri umani nella scienza. Ci saranno sempre compiti che solo gli esseri umani possono svolgere, intuizioni che solo gli esseri umani hanno, e così via. Pertanto, dovremmo accogliere l'AI. La ricerca è difficile e abbiamo bisogno di tutto l'aiuto possibile. Ho risposto che speravo avessero ragione. Cioè, spero davvero che ci saranno sempre parti del processo di ricerca per le quali gli esseri umani saranno essenziali. Ma ciò contro cui stavo argomentando non era ciò che potremmo chiamare "automazione scientifica debole", dove gli esseri umani rimangono nel processo in ruoli importanti, ma "automazione scientifica forte", dove gli esseri umani sono ridondanti. Altri pensavano fosse immaturo discutere di questo, perché l'automazione scientifica totale non è all'orizzonte. Ancora una volta, spero che abbiano ragione. Ma non vedo alcun danno nel discuterne ora. E certamente non penso che abbiamo bisogno di ricerca sull'automazione scientifica per andare avanti. Altri ancora hanno osservato che questa era una discussione inutile. L'automazione scientifica sta arrivando che lo vogliamo o no, e sarebbe meglio abituarci. Il treno sta arrivando, e possiamo salirci o stare sulla sua strada. Penso che sia un argomento notevolmente codardo. Spetta a noi come società decidere come utilizzare la tecnologia che sviluppiamo. Non è un treno, è un camion, e sarebbe meglio afferrare il volante. Uno dei relatori ha fatto un'analogia con gli scacchi, sostenendo che molte persone giocano a scacchi anche se i computer ora sono molto migliori degli esseri umani a scacchi. Quindi potremmo impegnarci nella scienza come una sorta di hobby, anche se la vera scienza è fatta dai computer. Potremmo giocare lontano dalla frontiera, forse riempiendo i vuoti che i sistemi AI non si preoccupano. Quella, per dirla in modo gentile, non è stata una risposta soddisfacente. Anche se amo i giochi, certamente non considero il gioco significativo quanto l'avanzamento della conoscenza umana. Grazie, ma no grazie. In generale, però, è stato sorprendente che la maggior parte di coloro con cui ho parlato mi ha ringraziato per aver sollevato il punto, poiché ho articolato preoccupazioni che già avevano. Uno di loro ha osservato che se lavori per automatizzare la scienza e non sei nemmeno un po' preoccupato per l'obiettivo finale, sei un psicopatico. Aggiungerei che un'altra possibilità è che non credi davvero in ciò che stai facendo. Alcuni potrebbero chiedere perché faccia questo argomento sulla scienza e non, ad esempio, sull'arte visiva, la musica o il design di giochi. Questo perché l'evento di ieri era sull'AI per la scienza. Ma penso che lo stesso argomento si applichi a tutti i domini dell'espressione creativa e intellettuale umana. Rendere il lavoro intellettuale o creativo umano ridondante è qualcosa che dovremmo evitare quando possiamo, e dovremmo assolutamente evitarlo se non ci sono nuovi ruoli altrettanto significativi per gli esseri umani in cui poter transitare. Potresti ulteriormente argomentare che lavorare per escludere gli esseri umani da lavori creativi significativi come la ricerca scientifica è incredibilmente egoistico. Ottieni la soddisfazione intellettuale di inventare nuovi metodi AI, ma la prossima generazione non ha la possibilità di contribuire. Perché vuoi derubare i tuoi figli (accademici e biologici) della possibilità di impegnarsi nell'attività più significativa del mondo? Quindi, in cosa credo, dato che sono un ricercatore AI che lavora attivamente sui tipi di metodi AI utilizzati per automatizzare la scienza? Credo che gli strumenti AI che ci aiutano a essere più produttivi e creativi siano fantastici, ma che gli strumenti AI che ci sostituiscono siano cattivi. Amo la scienza e ho paura di un futuro in cui siamo spinti indietro nei secoli bui perché non possiamo più contribuire alla scienza. L'agenzia umana, inclusa nei processi creativi, è vitale e deve essere salvaguardata a quasi qualsiasi costo. Non so esattamente come guidare lo sviluppo e l'uso dell'AI in modo da ottenere nuovi strumenti ma non essere sostituiti. Ma so che è di fondamentale importanza.