私の最初の発表した学術論文はムーアの法則に関するもので、現在のAI開発は似ています。ムーアの法則の指数関数的な発展は単一の技術の結果ではなく、何十年にもわたって複数の異なる技術が、あるチップ製造の手法が失敗したときに備えられたものでした。この法則の規則的なペースは調整機能として機能し、絶えず変化する競合他社が自己成就的で能力成長の予言を作り上げるよう圧力をかけました。 同様に、AI開発もすでに多くの障害に直面しており、新しい技術や研究(合成データ手法、推論、強化学習の新たな活用法)で克服しなければなりませんでした。しかし、あなたが内部関係者でない限り(あるいはXのAIを注意深く追っていない限り)、そうした障害は見られず、ただ指数関数的な進展が続くだけです。 この分野の資金と人材の多さを考えると、たとえ事前研修などが壁にぶつかっても、業界全体が他の多くのアプローチのいずれか、あるいは複数に急速に移行するのが見られると予想しています。すでに見て取れるように、ワールドモデルの開発、LLMの代替案、新しいトレーニング方法など。小規模で精密に調整されたモデルの台頭に賭けている代替エコシステムも含まれます。これらの技術の中にはスタートアップから生まれたものもあれば、AIラボ自体で開発されているものもあります。 Xの人々は細部にまでこだわり、AIをスポーツのように扱い、チームやアプローチを応援したり反対したりします。しかし、合理的な期間を通じて、多くの指標でAI開発が滑らかな指数関数的に見える可能性はあります。