ルカンは長年にわたりトランスフォーマー/LLMのコンセンサスに対して最も攻撃的な批判者であり、これが彼の代表作です 「実際のセンサーデータの多くは予測不可能であり、生成的手法はうまく機能しません。」これは、テキスト予測のスケーリングだけでは真の知能が得られないという彼の考えを体現しています 彼の言うことが正しいかどうかは別として、物理的な世界に主体性を取り戻す別の考え方が市場に出るのを見るのが楽しみです。「注意」する価値はある:)

多くの人がLLMの限界に本質的に懐疑的な理由があり、Judea Pearlほど「因果の梯子」で説明しているのは非常に良い理由があります。 基本的にこの推論の階段には三つの段があります。段1は「関連付け」で、データの相関を観察します。「ライターを持ち歩く人は肺がんになりやすい」みたいな感じです。これがトランスフォーマーが無限スケールで特に優れていることです 2番目のランクは「介入」で、実際に何かをしたときに何が起こるかを理解することであり、小学校で皆が学んだ「科学的方法」の基礎を形成します。「もし誰かにライターを持ち歩かせたら、がんを引き起こすのか?」3段目は「反事実」で、もしあなたがxyzをしたらどうなっていたかを推論します。これは基本的に最高の推論形態であり、回顧的因果推論です。これが道徳哲学の基盤です 基本的に、どれだけ計算を使っても、1ランクから2や3ランク(私にとっては人間の知能体験をより代表するレベル)へ進むことはできません。これには因果グラフが必要であり、構造化された観察が必要です。これは、基本的に曲線フィッティングに過ぎないトランスのアーキテクチャとは根本的に異なります 現在のAIメタで無制限の「全か無か」の投資に対する本当のためらいがある理由の一つは、利益が投資家や科学者が考えるよりも限定的であり、何らかの基本原理の真実に立ち返る必要があるからだと思います