我昨天參加了一個關於科學的 AI 活動，這裡在 NeurIPS 舉行了一場小組討論。小組成員討論了他們計劃如何在科學過程的各個層面取代人類。因此我站起來抗議他們所做的事情是邪惡的。我說，看看你周圍，這個房間裡充滿了各種研究人員，大多數都是年輕人。他們在這裡是因為他們熱愛研究，並希望為推進人類知識做出貢獻。如果你把人類排除在外，意味著人類在科學研究中不再有任何角色，你就是剝奪了他們所熱愛的活動和他們生活中一個關鍵的意義來源。我們都想做一些有意義的事情。我問，為什麼你們想要剝奪我們貢獻科學的機會？ 我的問題改變了小組的討論方向，並為接下來的討論定下了基調。之後，許多與會者來找我，要麼感謝我把他們的感受用言語表達出來，要麼問我是否真的意味著我所說的話。因此我想在這裡重申這個問題。 其中一位小組成員問我是否真的更喜歡做科學的快樂，而不是找到癌症的治療方法和實現不朽。我回答說，我們最終會治癒癌症，並且在某個時候可能能夠選擇不朽。科學已經在有人的掌舵下取得了巨大的進展。我們總有一天會獲得核聚變能和太空旅行。也許把人類排除在外可以加快這個過程，但我認為這不值得。我認為人類掌控自己的進步至關重要。擴展人類的集體知識，我認為是我們能做的最有意義的事情。如果人類無法再對科學做出有意義的貢獻，這將是一場災難。因此，不，我不認為如果這意味著我們再也無法做科學，那麼更快找到癌症的治療方法是值得的。 昨晚來找我交談的許多人，問我是否認真或只是開玩笑，認為這個前提是荒謬的。當然，科學中總會有空間給人類。總會有只有人類能做的任務，只有人類能夠洞察的事情，等等。因此，我們應該歡迎 AI。研究是艱難的，我們需要所有的幫助。我回答說，我希望他們是對的。也就是說，我真心希望在研究過程中總會有一些人類必不可少的部分。但我所反對的不是我們所謂的「弱科學自動化」，在這種情況下人類在重要角色中保持在循環中，而是「強科學自動化」，在這種情況下人類是多餘的。 其他人認為爭論這個問題是不成熟的，因為完全的科學自動化不在眼前。再次，我希望他們是對的。但我認為現在討論這個問題沒有任何害處。我也確實不認為我們需要進一步研究科學自動化。 還有其他人評論這是一場無意義的爭論。科學自動化無論我們想不想都會到來，我們最好習慣它。火車正在駛來，我們可以上車或站在它的路上。我認為這是一種非常懦弱的論點。作為一個社會，我們有責任決定如何使用我們開發的技術。這不是一輛火車，而是一輛卡車，我們最好抓住方向盤。 其中一位小組成員做了一個棋類比喻，認為儘管計算機現在在棋類上比人類更好，但仍然有很多人玩棋。因此，我們可能會把科學當作一種愛好，即使真正的科學是由計算機完成的。我們可能會在遠離前沿的地方玩耍，填補 AI 系統不在乎的空白。這樣的回答，說得輕鬆點，並不令人滿意。雖然我喜歡遊戲，但我當然不認為玩遊戲的意義能與推進人類知識相提並論。謝謝，但不需要。 總的來說，令人驚訝的是，我所交談的大多數人都感謝我提出這一點，因為我表達了他們已經擁有的擔憂。其中一位評論道，如果你在自動化科學方面工作，卻對最終目標毫不擔心，那你就是一個精神病患者。我想補充的是，另一種可能性是你並不真正相信你所做的事情。 有些人可能會問，為什麼我對科學提出這個論點，而不是例如視覺藝術、音樂或遊戲設計。那是因為昨天的活動是關於科學的 AI。但我認為同樣的論點適用於所有人類創造性和智力表達的領域。當我們能夠避免時，讓人類的智力或創造性工作變得多餘是我們應該避免的，如果沒有同樣有意義的新角色讓人類過渡，我們更應該避免。 你還可以進一步爭辯，將人類排除在有意義的創造性工作之外，例如科學研究，是極其自私的。你獲得了發明新 AI 方法的智力滿足感，但下一代卻沒有機會貢獻。為什麼你想剝奪你的孩子（學術和生物上的）參與世界上最有意義活動的機會？ 那麼，考慮到我是一名積極從事自動化科學的 AI 方法研究的 AI 研究人員，我相信什麼呢？我相信幫助我們提高生產力和創造力的 AI 工具是很棒的，但取代我們的 AI 工具是壞的。我熱愛科學，我擔心未來我們被推回黑暗時代，因為我們無法再對科學做出貢獻。人類的主動性，包括在創造過程中，是至關重要的，必須不惜一切代價加以保護。 我不確定如何引導 AI 的發展和使用，以便我們獲得新工具但不被取代。但我知道這是至關重要的。