Wczoraj byłem na wydarzeniu poświęconym AI w nauce, na dyskusji panelowej tutaj na NeurIPS. Paneliści omawiali, jak planują zastąpić ludzi na wszystkich poziomach w procesie naukowym. Więc wstałem i protestowałem, że to, co robią, jest złe. Rozejrzyjcie się wokół, powiedziałem. Pokój jest wypełniony badaczami różnych rodzajów, większość z nich jest młoda. Są tutaj, ponieważ kochają badania i chcą przyczynić się do poszerzania ludzkiej wiedzy. Jeśli wyjmiecie człowieka z procesu, co oznacza, że ludzie nie mają już żadnej roli w badaniach naukowych, pozbawiacie ich aktywności, którą kochają, i kluczowego źródła sensu w ich życiu. A wszyscy chcemy robić coś znaczącego. Dlaczego, zapytałem, chcecie odebrać nam możliwość przyczynienia się do nauki? Moje pytanie zmieniło bieg panelu i nadało ton reszcie dyskusji. Po tym, wielu uczestników podeszło do mnie, aby podziękować mi za wyrażenie tego, co czuli, lub zapytać, czy naprawdę miałem na myśli to, co powiedziałem. Więc pomyślałem, że wrócę do tego pytania tutaj. Jeden z panelistów zapytał, czy naprawdę wolałbym radość z robienia nauki od znalezienia lekarstwa na raka i umożliwienia nieśmiertelności. Odpowiedziałem, że w końcu wyleczymy raka i w pewnym momencie prawdopodobnie będziemy mogli wybrać nieśmiertelność. Nauka już robi wielkie postępy z ludźmi u steru. Kiedyś zdobędziemy energię fuzyjną i podróże kosmiczne. Może wykluczenie ludzi z procesu mogłoby przyspieszyć ten proces, ale nie sądzę, że byłoby to warte. Uważam, że kluczowe znaczenie ma, abyśmy my, ludzie, byli odpowiedzialni za nasz własny postęp. Rozszerzanie zbiorowej wiedzy ludzkości jest, moim zdaniem, najbardziej znaczącą rzeczą, jaką możemy zrobić. Jeśli ludzie nie mogliby już użytecznie przyczynić się do nauki, byłoby to katastrofą. Więc nie. Nie sądzę, że warto znaleźć lekarstwo na raka szybciej, jeśli oznacza to, że nigdy więcej nie będziemy mogli robić nauki. Wielu z tych, którzy podeszli do mnie wczoraj wieczorem, tych, którzy pytali mnie, czy mówię poważnie, czy tylko żartuję, uważało, że założenie jest absurdalne. Oczywiście zawsze będzie miejsce dla ludzi w nauce. Zawsze będą zadania, które tylko ludzie mogą wykonać, wgląd, który tylko ludzie mają, i tak dalej. Dlatego powinniśmy przyjąć AI. Badania są trudne i potrzebujemy wszelkiej pomocy, jaką możemy uzyskać. Odpowiedziałem, że mam nadzieję, że mają rację. To znaczy, naprawdę mam nadzieję, że zawsze będą części procesu badawczego, w których ludzie będą niezbędni. Ale to, przeciwko czemu argumentowałem, to nie to, co moglibyśmy nazwać "słabą automatyzacją nauki", gdzie ludzie pozostają w procesie w ważnych rolach, ale "silną automatyzacją nauki", gdzie ludzie są zbędni. Inni uważali, że to niedojrzałe, aby o tym dyskutować, ponieważ pełna automatyzacja nauki nie jest na horyzoncie. Znowu, mam nadzieję, że mają rację. Ale nie widzę żadnej szkody w dyskutowaniu o tym teraz. I z pewnością nie sądzę, że potrzebujemy badań nad automatyzacją nauki, aby pójść dalej. Jeszcze inni zauważyli, że to bezsensowna dyskusja. Automatyzacja nauki nadchodzi, czy tego chcemy, czy nie, i lepiej, abyśmy się do tego przyzwyczaili. Pociąg nadjeżdża, a my możemy wsiąść do niego lub stanąć na jego drodze. Uważam, że to niezwykle tchórzliwy argument. To od nas jako społeczeństwa zależy, jak wykorzystamy technologię, którą rozwijamy. To nie pociąg, to ciężarówka, i lepiej, abyśmy chwycili za kierownicę. Jeden z panelistów użył analogii do szachów, argumentując, że wiele osób gra w szachy, mimo że komputery są teraz znacznie lepsze od ludzi w szachach. Więc moglibyśmy angażować się w naukę jako rodzaj hobby, nawet jeśli prawdziwa nauka jest wykonywana przez komputery. Moglibyśmy bawić się daleko od granicy, być może wypełniając luki, które systemy AI nie obchodziły. To było, delikatnie mówiąc, niezadowalająca odpowiedź. Chociaż uwielbiam gry, z pewnością nie uważam grania w gry za tak samo znaczące jak poszerzanie ludzkiej wiedzy. Dzięki, ale nie dzięki. Ogólnie jednak uderzające było to, że większość tych, z którymi rozmawiałem, dziękowała mi za poruszenie tego tematu, ponieważ wyraziłem obawy, które już mieli. Jeden z nich zauważył, że jeśli pracujesz nad automatyzacją nauki i nie jesteś nawet trochę zaniepokojony końcowym celem, jesteś psychopatą. Dodałbym, że inną możliwością jest to, że tak naprawdę nie wierzysz w to, co robisz. Niektórzy mogą zapytać, dlaczego argumentuję o nauce, a nie, na przykład, o sztuce wizualnej, muzyce czy projektowaniu gier. To dlatego, że wczorajsze wydarzenie dotyczyło AI w nauce. Ale myślę, że ten sam argument odnosi się do wszystkich dziedzin ludzkiej twórczości i ekspresji intelektualnej. Sprawienie, że ludzka praca intelektualna lub twórcza stanie się zbędna, to coś, czego powinniśmy unikać, gdy tylko możemy, a powinniśmy to absolutnie unikać, jeśli nie ma równie znaczących nowych ról, w które ludzie mogą się przekształcić. Można by dalej argumentować, że praca nad wykluczeniem ludzi z znaczącej pracy twórczej, takiej jak badania naukowe, jest niezwykle egoistyczna. Otrzymujesz satysfakcję intelektualną z wynajdywania nowych metod AI, ale następne pokolenie nie ma szansy na wkład. Dlaczego chcesz okraść swoje dzieci (akademickie i biologiczne) z szansy na zaangażowanie się w najbardziej znaczącą działalność na świecie? Więc w co wierzę, biorąc pod uwagę, że jestem badaczem AI, który aktywnie pracuje nad rodzajem metod AI używanych do automatyzacji nauki? Wierzę, że narzędzia AI, które pomagają nam być bardziej produktywnymi i kreatywnymi, są świetne, ale że narzędzia AI, które nas zastępują, są złe. Kocham naukę i boję się przyszłości, w której zostaniemy odepchnięci z powrotem do ciemnych wieków, ponieważ nie będziemy mogli przyczynić się do nauki. Ludzka agencja, w tym w procesach twórczych, jest kluczowa i musi być chroniona za wszelką cenę. Nie wiem dokładnie, jak kierować rozwojem AI i jej użyciem, abyśmy otrzymali nowe narzędzia, ale nie zostali zastąpieni. Ale wiem, że to ma ogromne znaczenie.