昨日、NeurIPSで開催された科学のためのAIに関するパネルディスカッションに参加しました。パネリストたちは、科学的プロセスのあらゆるレベルで人間をどのように置き換える計画かを議論しました。だから私は立ち上がり、彼らのしていることは悪だと抗議しました。周りを見ろと言っただろう。部屋は様々な研究者で満たされており、その多くは若い。彼らは研究を愛し、人類の知識の進歩に貢献したいと思っているからここにいます。人間をその輪から外し、つまり人間が科学研究に関与しなくなると、彼らが愛する活動や人生の重要な意味源を奪うことになります。そして私たちは皆、意味のあることをしたいと思っています。なぜ私たちから科学に貢献したいというのですか? 私の質問がパネルの流れを変え、議論のトーンを決定づけました。その後、多くの参加者が私のもとに来て、言葉にしてくれたことに感謝したり、本当に本気で言ったのか尋ねたりしました。そこで、ここで質問に戻ろうと思いました。 パネリストの一人が、本当に科学をする喜びを、がんの治療法を見つけて不死を可能にするよりも良いのかと尋ねました。私は、いずれがんを治し、いつかは不死を選べるかもしれないと答えました。科学はすでに人間が舵を握り、大きな進歩を遂げています。いつか核融合エネルギーや宇宙旅行も実現するでしょう。人間を巻き込みから切り離すことでこのプロセスを早めるかもしれませんが、それだけの価値はないと思います。私たち人間が自分自身の進歩を自分で切り開くことは極めて重要だと思います。人類の集合的な知識を広げることこそが、私たちができる最も意味のあることだと思います。もし人間が科学に有益な貢献ができなくなったら、これは大惨事になるでしょう。そう、ううん。もし二度と科学ができないなら、がんの治療法を早く見つける価値はないと思います。 昨夜私に話しかけに来た多くの人、本気かただのトローリングか尋ねた多くの人は、その前提を馬鹿げていると思いました。もちろん、科学の世界に人間が存在する余地は常にあります。人間だけができる課題や、人間だけが持つ洞察力など、常に存在します。したがって、AIを歓迎すべきです。研究は難しく、私たちはできる限りの助けが必要です。私は彼らの言う通りであってほしいと返しました。つまり、研究プロセスの中に人間が常に不可欠な部分が常に存在し続けることを心から願っています。しかし私が反論していたのは、人間が重要な役割で情報を共有し続ける「弱い科学自動化」ではなく、「強力な科学自動化」、つまり人間が冗長であるというものでした。 また、完全な科学の自動化が目前にないため、これについて議論するのは未熟だと考える人もいます。改めて、彼らが正しいことを願っています。でも今話し合っても害はないと思う。そして、科学自動化の研究がこれ以上進む必要はないと思います。 しかし、これは無意味な議論だと指摘する者もいました。科学の自動化は、望むと望むまいとやって来るでしょうし、慣れるべきです。列車が来る、乗るか邪魔するかだ。それは非常に臆病な主張だと思います。私たちが開発した技術をどのように活用するかは、社会として決める責任があります。列車じゃなくてトラックだ。ハンドルを掴んだほうがいい。 パネリストの一人がチェスの例えをし、コンピューターが今や人間よりはるかに上手いにもかかわらず、多くの人がチェスをしていると主張しました。だから、本当の科学はコンピューターによって行われているとしても、趣味として科学に取り組むかもしれません。私たちは辺境から遠く離れた場所で遊び、AIシステムが気にしない空白を埋めることになるでしょう。控えめに言っても、それは満足のいく答えではなかった。私はゲームが大好きですが、ゲームプレイを人類の知識を進歩させることほど意味があるとは決して考えていません。ありがとう、でも遠慮します。 しかし全体としては、私がすでに懸念していたことを伝えた多くの人が感謝してくれたのは印象的でした。そのうちの一人は、科学の自動化に取り組んでいて最終目標を少しも気にしないなら、あなたはサイコパスだと言いました。もう一つの可能性として、あなたは自分のやっていることを本当に信じていないのかもしれません。 なぜ科学についてこの議論をし、例えば視覚芸術や音楽、ゲームデザインの話ではないのかと疑問に思う人もいるでしょう。それは昨日のイベントが科学のためのAIに関するものだったからです。しかし、同じ議論は人間の創造的かつ知的な表現のすべての領域に当てはまると思います。人間の知的または創造的な仕事を不要にすることは、可能な限り避けるべきであり、人間が移行できる同じくらい意味のある新しい役割がなければ絶対に避けるべきです。 科学研究のような意味のある創造的活動から人間を排除しようとするのは、非常に利己的だと主張することもできます。新しいAI手法を発明することで知的な満足感は得られますが、次世代が貢献する機会はありません。なぜあなたは子どもたち(学業面も生物学面も)の世界で最も意味のある活動に参加する機会を奪いたいのですか? では、私は科学の自動化に使われるAI手法に積極的に取り組むAI研究者として、何を信じているのでしょうか?私は、私たちをより生産的で創造的にするためのAIツールは素晴らしいですが、私たちを置き換えるAIツールは悪いと信じています。私は科学が大好きで、科学に貢献できなくなり、暗黒時代に押し戻される未来を恐れています。創造的なプロセスを含む人間の主体性は不可欠であり、ほぼどんな犠牲を払っても守られなければなりません。 新しいツールが出てきて置き換えられないように、AI開発や利用をどう導くべきか正直わかりません。でも、それが何よりも重要だと分かっています。

これは重要でありながら過小評価されている研究分野に関する重要な新刊です。執筆してくれた著者の皆さんに感謝します。完結おめでとうございます!

ベンチマークの次のシーズンには、多くの改善が加えられます。また、@the_nof1では他にもまだ公表していないことがたくさんあります。マーケットはプレイするのが楽しく、AI プレーヤーになります。