この技術の今後を伝える「AGI」と「ASI」という用語については、複雑な感情を持つようになりました。 一方で、AGIはこの問題に執着する才能ある人々(@demishassabis、@ShaneLegg、@ilyasutなど)を動機付ける上で重要な役割を果たし、多くの進歩を可能にする資本の流れを促進しました。 一方で、「AGI」や「ASI」などの変種は、私たちの生涯で最も興味深い技術がどのように構築され、使われるかについての議論を積極的に損なっています。 A) 少なくとも多くの人がこの言葉を解釈する意味では、私たちが向かっている方向を正確に表しているわけではありません。最近の、@karpathyや@dwarkesh_spとの会話を見れば、私たちが真の人間の知性からどれほど遠いかがすぐにわかります。離陸の証拠もなく、タイムラインはどんどん膨らんでいます。私たちはビジネスの働き方や技術の構築方法を変革するかもしれない非常に有用な技術を開発していますが、「一般的な知能」とは無関係です。 b) あまりにも過重になってしまい、ほとんど二人が同じように定義したり、タイムラインについて合意したりしていない(すでに到達しているのか30年先なのかは別として)。だからこそ、AGIに関するブログ記事は、進むために独自のローカルな定義を思い起こさなければならないのです。私は主に、なぜ「知能」がほとんど一貫性のない形で使われるのかという@random_walkerの見解に賛同しています。 c) 最も重要なのは、恐怖を呼び起こすことです。これはSFや哲学の歴史的使い方(2001年やHer、シンギュラリティを呼び起こすものなど)に関連していますが、実際に私たちがいる技術ツリーとは全く関係ありません。AIの議論を非常に簡単に擬人化し、仮定の話に逸れてしまいます。 このすべての終わりに私たちが築こうとしているもの、そしてそれがビジネスや社会にとって何を意味するのか、別の言葉が必要かもしれません。