感想。。。 最近、奇妙な問題に直面しています。 長期的な思考は私にとって自然なもので、簡単にそうするように自分に条件付けてきました。 今ではほとんど不可能に感じられます。 なぜでしょうか。AGI。 将来の計画を立てようと座るたびに、同じ気づきが浮かびます。 私たちは誰が最初の本格的なAGIを作るのかを見守っていますが、誰が作れば世界を実質的に支配することになるでしょう。 そのため、長期的な計画が現実から乖離しているように感じられます。自分が誰の世界に生きるのか分からないので、未来を自信を持って支えることができません。 AGIは最後のレースです。 ビデオゲームの最終レベルに差し掛かっています。 あるプレイヤーがすべての知的で目標達成のためのタスクを自動化できるシステムを構築した瞬間、その創造者はほぼ神のような存在に変えてしまう。 一つの企業があらゆる領域で競争を凌駕する能力を得ます。それで競争は終わります。これで選択肢は終わります。二位は先に到達した者の世界観の奴隷となります。 だからこそ、AGIをめぐるインセンティブは非常に危険なのです。 すべてのプレイヤーは、ためらいが従属への直接的な道であることを理解しています。 その論理は加速を強い、近道を押し、安全面での慎重さを消し去ります。競争が競争者にとって存在の危機になると、外部性は意味を失います。 ...