Вчора я був на заході, присвяченому штучному інтелекту для науки, панельній дискусії тут, у NeurIPS. Учасники панелі обговорювали, як вони планують замінити людей на всіх рівнях наукового процесу. Тож я підвівся і заперечив, що те, що вони роблять, — це зло. Озирнись навколо, сказав я. Кімната заповнена різними дослідниками, більшість із них молоді. Вони тут, бо люблять дослідження і хочуть сприяти розвитку людських знань. Якщо виключити людину з кола, тобто вона більше не має жодної ролі в наукових дослідженнях, ви позбавляєте її улюбленої діяльності та ключового джерела сенсу в їхньому житті. І ми всі хочемо зробити щось значуще. Чому, запитав я, ви хочете забрати у нас можливість зробити внесок у науку? Моє питання змінило хід панелі і задало тон подальшій дискусії. Після цього до мене підійшли кілька учасників, щоб подякувати за те, що я висловив свої почуття, або запитати, чи справді я мав на увазі те, що сказав. Тож я вирішив повернутися до питання тут. Один із учасників панелі запитав, чи справді я віддаю перевагу радості від науки, а не пошуку ліків від раку та забезпечення безсмертя. Я відповів, що ми зрештою вилікуємо рак і, ймовірно, зможемо обрати безсмертя. Наука вже досягає значних успіхів під керівництвом людей. Колись ми отримаємо термоядерну енергію і космічні подорожі. Можливо, виключення людей із циклу могло б прискорити цей процес, але я не думаю, що це того варте. Я вважаю, що надзвичайно важливо, щоб ми, люди, відповідали за власний прогрес. Розширення колективних знань людства, на мою думку, є найважливішим, що ми можемо зробити. Якщо люди більше не зможуть корисно робити внесок у науку, це буде катастрофа. Тож ні. Я не думаю, що варто швидше знаходити ліки від раку, якщо це означає, що ми ніколи більше не зможемо займатися наукою. Багато тих, хто підходив поговорити зі мною минулої ночі, хто питав, чи я серйозно, чи просто тролю, вважали цю ідею абсурдною. Звісно, у науці завжди знайдеться місце для людей. Завжди будуть завдання, які можуть виконувати лише люди, розуміння, яке мають лише люди, і так далі. Тому ми повинні вітати ШІ. Дослідження — це складно, і нам потрібна вся можлива допомога. Я відповів, що сподіваюся, що вони мають рацію. Тобто я щиро сподіваюся, що завжди будуть частини дослідницького процесу, для яких люди будуть життєво важливими. Але те, проти чого я сперечався, було не те, що ми могли б назвати «слабкою науковою автоматизацією», де люди залишаються в курсі важливих ролей, а проти «сильної наукової автоматизації», де люди є зайвими. Інші вважали, що сперечатися про це — це незріло, адже повна автоматизація науки ще не на горизонті. Знову ж таки, сподіваюся, вони мають рацію. Але я не бачу нічого поганого в тому, щоб обговорити це зараз. І я точно не думаю, що нам потрібні дослідження з наукової автоматизації, щоб рухатися далі. Ще інші зауважували, що це безглуздий аргумент. Автоматизація науки прийде, хочемо ми цього чи ні, і нам краще звикнути до неї. Поїзд іде, і ми можемо сісти на нього або стати на його шляху. Я вважаю, що це надзвичайно боягузливий аргумент. Саме нам як суспільству вирішувати, як ми використовуємо розроблені технології. Це не потяг, це вантажівка, і нам краще взяти кермо. Один із учасників панелі навів шахову аналогію, стверджуючи, що багато людей грають у шахи, хоча комп'ютери зараз набагато кращі за людей у шахах. Тож ми можемо займатися наукою як хобі, навіть якщо справжня наука виконується комп'ютерами. Ми б гралися далеко від фронтиру, можливо, заповнюючи прогалини, які не цікаві системам ШІ. Це, м'яко кажучи, була незадовільна відповідь. Хоч я й люблю ігри, я точно не вважаю гру такою ж значущою, як розвиток людських знань. Дякую, але ні, дякую. Загалом було вражаюче, що більшість із тих, з ким я спілкувався, подякували мені за підняття цієї теми, адже я висловив їхні вже занепокоєння. Один із них зауважив, що якщо ти працюєш над автоматизацією науки і навіть трохинь не переймаєшся кінцевою метою, ти психопат. Я б додав, що ще одна можливість — це те, що ви насправді не вірите у те, що робите. Дехто може запитати, чому я роблю цей аргумент про науку, а не, наприклад, про візуальне мистецтво, музику чи дизайн ігор. Це тому, що вчорашній захід був присвячений штучному інтелекту для науки. Але я вважаю, що той самий аргумент стосується всіх сфер людського творчого та інтелектуального самовираження. Робити людську інтелектуальну чи творчу працю зайвою — це те, чого слід уникати, коли це можливо, і абсолютно слід уникати цього, якщо немає таких же значущих нових ролей, у які люди могли б адаптуватися. Можна також стверджувати, що викреслення людей із значущої творчої роботи, такої як наукові дослідження, є надзвичайно егоїстичним. Ви отримуєте інтелектуальне задоволення від винаходу нових методів ШІ, але наступне покоління не отримує шансу зробити внесок. Чому ви хочете позбавити своїх дітей (академічних і біологічних) можливості займатися найзначущішою діяльністю у світі? Отже, у що я вірю, враховуючи, що я дослідник ШІ, який активно працює над типом ШІ методів автоматизації науки? Я вважаю, що інструменти ШІ, які допомагають нам бути продуктивнішими та креативнішими, є чудовими, але інструменти, які нас замінюють, — це погано. Я люблю науку і боюся майбутнього, де нас відкинуть у темні віки, бо ми більше не можемо робити внесок у науку. Людська дія, включно з творчими процесами, є життєво важливою і має бути захищена майже будь-якою ціною. Я не зовсім знаю, як спрямувати розробку ШІ та його використання так, щоб ми отримували нові інструменти, але не були замінені. Але я знаю, що це надзвичайно важливо.