Вчера я был на мероприятии по ИИ для науки, панельной дискуссии здесь, на NeurIPS. Панелисты обсуждали, как они планируют заменить людей на всех уровнях научного процесса. Я встал и протестовал, что то, что они делают, — это зло. Посмотрите вокруг, сказал я. Комната заполнена исследователями различных специальностей, большинство из них молодые. Они здесь, потому что любят исследования и хотят внести свой вклад в развитие человеческого знания. Если вы уберете человека из процесса, то есть если люди больше не будут играть никакой роли в научных исследованиях, вы лишаете их деятельности, которую они любят, и ключевого источника смысла в их жизни. А мы все хотим делать что-то значимое. Почему, спросил я, вы хотите лишить нас возможности внести вклад в науку? Мой вопрос изменил ход панели и задал тон для остальной части обсуждения. После этого ко мне подошло несколько участников, чтобы поблагодарить меня за то, что я выразил то, что они чувствовали, или спросить, действительно ли я имел в виду то, что сказал. Поэтому я подумал, что вернусь к этому вопросу здесь. Один из панелистов спросил, действительно ли я предпочел бы радость от занятия наукой, чем нахождение лекарства от рака и возможность бессмертия. Я ответил, что мы в конечном итоге найдем лекарство от рака и, вероятно, в какой-то момент сможем выбрать бессмертие. Наука уже делает большие успехи с людьми у руля. Мы когда-нибудь получим термоядерную энергию и космические путешествия. Возможно, исключение людей из процесса могло бы ускорить этот процесс, но я не думаю, что это того стоит. Я считаю, что крайне важно, чтобы мы, люди, контролировали наш собственный прогресс. Расширение коллективного знания человечества — это, на мой взгляд, самое значимое, что мы можем сделать. Если люди больше не смогут полезно вносить вклад в науку, это будет катастрофой. Так что нет. Я не думаю, что стоит находить лекарство от рака быстрее, если это означает, что мы никогда больше не сможем заниматься наукой. Многие из тех, кто подошел поговорить со мной прошлой ночью, те, кто спрашивал меня, серьезен ли я или просто троллю, считали, что предпосылка абсурдна. Конечно, в науке всегда будет место для людей. Всегда будут задачи, которые могут выполнять только люди, инсайты, которые есть только у людей, и так далее. Поэтому мы должны приветствовать ИИ. Исследования сложны, и нам нужна вся помощь, которую мы можем получить. Я ответил, что надеюсь, что они правы. То есть, я искренне надеюсь, что всегда будут части исследовательского процесса, в которых люди будут необходимы. Но то, против чего я выступал, это не то, что мы могли бы назвать "автоматизацией слабой науки", где люди остаются в процессе в важных ролях, а "автоматизацией сильной науки", где люди становятся избыточными. Другие считали, что спорить об этом незрело, потому что полная автоматизация науки не на горизонте. Снова, я надеюсь, что они правы. Но я не вижу вреда в обсуждении этого сейчас. И я определенно не думаю, что нам нужно продвигать исследования по автоматизации науки дальше. Тем не менее, другие заметили, что это бессмысленный спор. Автоматизация науки неизбежна, хотим мы этого или нет, и нам лучше привыкнуть к этому. Поезд приближается, и мы можем сесть в него или встать у него на пути. Я считаю, что это замечательно трусливый аргумент. Нам как обществу решать, как мы будем использовать технологии, которые мы разрабатываем. Это не поезд, это грузовик, и нам лучше схватить за руль. Один из панелистов привел аналогию с шахматами, утверждая, что многие люди играют в шахматы, даже несмотря на то, что компьютеры сейчас намного лучше людей в шахматах. Так что мы могли бы заниматься наукой как хобби, даже если настоящую науку делают компьютеры. Мы бы играли вдали от фронтира, возможно, заполняя пробелы, которые системам ИИ не интересны. Это было, мягко говоря, не удовлетворительным ответом. Хотя я люблю игры, я определенно не считаю игру столь же значимой, как продвижение человеческого знания. Спасибо, но нет. В целом, однако, было примечательно, что большинство из тех, с кем я говорил, поблагодарили меня за то, что я поднял этот вопрос, так как я выразил беспокойства, которые у них уже были. Один из них заметил, что если вы работаете над автоматизацией науки и даже немного не беспокоитесь о конечной цели, вы психопат. Я бы добавил, что другой возможностью является то, что вы не верите в то, что делаете. Некоторые могут спросить, почему я делаю этот аргумент о науке, а не, например, о визуальном искусстве, музыке или дизайне игр. Это потому, что вчерашнее мероприятие было о ИИ для науки. Но я думаю, что тот же аргумент применим ко всем областям человеческого творческого и интеллектуального выражения. Делать человеческую интеллектуальную или творческую работу избыточной — это то, чего мы должны избегать, когда можем, и мы должны абсолютно избегать этого, если нет равноценных значимых новых ролей, в которые люди могут перейти. Вы также можете утверждать, что работа над исключением людей из значимой творческой работы, такой как научные исследования, невероятно эгоистична. Вы получаете интеллектуальное удовлетворение от изобретения новых методов ИИ, но следующее поколение не получает шанса внести свой вклад. Почему вы хотите лишить своих детей (академических и биологических) возможности участвовать в самой значимой деятельности в мире? Так во что же я верю, учитывая, что я исследователь ИИ, который активно работает над теми методами ИИ, которые используются для автоматизации науки? Я верю, что инструменты ИИ, которые помогают нам быть более продуктивными и креативными, — это здорово, но инструменты ИИ, которые заменяют нас, — это плохо. Я люблю науку, и я боюсь будущего, в котором нас вернут в темные века, потому что мы больше не можем вносить вклад в науку. Человеческая агентность, включая творческие процессы, жизненно важна и должна быть защищена почти любой ценой. Я не совсем знаю, как направить развитие ИИ и использование ИИ так, чтобы мы получили новые инструменты, но не были заменены. Но я знаю, что это имеет первостепенное значение.

Это важная новая книга по важной и недооцененной области исследований. Спасибо авторам за написание и поздравления с завершением!

Следующий сезон нашего бенчмарка будет полон улучшений. Также у нас есть много других дел в @the_nof1, о которых мы еще не сообщили. Играть на рынках весело, и создавать AI игроков.