この友達は最高です。 WebAssembly(WASM)インタプリタはトランスモデルの重みにハードコーディングされて埋め込まれており、ロスレスです。 これはLLMの中で実際のコンピュータを動かすのと同等です。 コンピュータは、今日の多くのモデルが行うような単なる推論ではなく、実際に実行計算を行うことができます。 この考え方はTIのDSPチップに少し似ています。 ARMは論理的思考を担当し、DSPは高速データ計算に特化しています。 それぞれが自分の強みを活かすべきです。 例えば、LLMはハイブリッドアーキテクチャを構築することで、3.11と3.8のどちらが大きな問題かを見極めることができません。 1. ニューラルネットワークは推論と理解を担っています 2. 組み込みインタプリタ/計算エンジンは高精度計算を担当します このようにして、知的推論能力と決定論的計算の正確性の両方を考慮に入れることができます。 これは数値計算、物理シミュレーション、金融モデリング、暗号操作に大きな利点をもたらします。