感想。。。 最近、奇妙な問題に直面しています。 長期的な思考は私にとって自然なもので、簡単にそうするように自分に条件付けてきました。 今ではほとんど不可能に感じられます。 なぜでしょうか。AGI。 将来の計画を立てようと座るたびに、同じ気づきが浮かびます。 誰が最初のAGIを作るのか、そして誰が世界を実質的に支配するかを見守っています。 そのため、長期的な計画が現実から乖離しているように感じられます。自分が誰の世界に生きるのか分からないので、未来を自信を持って支えることができません。 AGIは最後のレースです。 すべての知的で目標達成のための作業を自動化できるシステムは、その創造者を神に近い存在に変えてしまう。 一つの企業があらゆる領域で競争を凌駕する能力を得ます。それで競争は終わります。これで選択肢は終わります。二位は先に到達した者の世界観の奴隷となります。 だからこそ、AGIをめぐるインセンティブは非常に危険なのです。 すべてのプレイヤーは、ためらいが従属への直接的な道であることを理解しています。 その論理は加速を強い、近道を押し、安全面での慎重さを消し去ります。競争が競争者にとって存在の危機になると、外部性は意味を失います。 また、人間的な要素もあり、それ自体がリスクとなります。 ...