考えれば考えるほど、まるで漫画の悪役のモノローグのように読めます。 「だから、違う。もし二度と科学ができないなら、がんの治療法を早く見つける価値はないと思います。」 ジュリアンのことはぼんやり知っていて、研究者としては少し尊敬していました。数年前に一度話したことがあるかもしれません。これは。。。意外。 一般的に言えば、ほとんどの人は基本的な道徳原則(「殺人は悪いこと」)で大まかに一致しており、詳細やニュアンス、そこに至る方法については違いがあると思います。 しかしこれは非常に稀で深刻な価値の不一致を示しており、がんで亡くなる子どもたちが科学を楽しむオタクたちの方が上回っているように見えるのです。それに、私もオタクで、自分がキャリアにしている唯一の分野(つまり知能)で自分に勝てる機械を作ることに対して、複雑な気持ちがあります。もし私より何でも上手くできる超知能を作れば、せめて私のささやかな人間としての存在を楽しませるためのよく作られたパズルができればいいのですが。 しかし最終的には、子どもたちが癌で死ぬ世界を作ることは、本当に深く悪であり、むしろそうしない世界を作ればいいのです。 誤解であることを本当に願っていますが、フォローアップのコメントではその方向には向いていません。そうでなければ、私にとっては全く異質な道徳観を持つ誰かに過ぎません。そうなれば、彼が決して権力の座に就かないことを願う。 強力で整合性のあるAIをできるだけ早く構築し、世界のあらゆる問題を改善させることは道徳的義務です。 もし建てなければ、みんな死ぬ。