現時点では、モデルがあまりにも速く大きく変化しているため、それに頼る唯一の方法はハイパースケーラーへの往復輸送だという考え方です。 これがウェブサーバーで起きた動向です。HTMLは非常に速く変化し、HTMLで書かれたアプリは従来の「クライアントコード」が配布されるよりも速く改善されていました。問題は帯域幅の増加が十分に速くなかったことです。そのため、制約によりより多くの計算がサーバー上で行われることを強いられました。これにより、エンドユーザー向けの「ウェブUI」の発展が遅れてしまいました。例えば、今日のチャットインターフェースは、ハイパースケーラーで動作するモデルと情報を行き来する最も効果的な方法です。 自然言語は非常に不正確で、やり取りはストレスの多いため、より構造化されたインターフェースがモデルの使用に自然に移行するのが自然な流れです。そして、モデルを使うための「ランタイム」も徐々にデバイス上に移動し、より速く効率的になっていきます。 だからこそ、今日「ウェブアプリ」を使うと、往復が多くても、ブラウザに含まれた非常に大きな「エッジ」ランタイム+実行可能コードのブラウザキャッシュも利用しています。