このREPLは今まで見たことのないものだ。ニューラルネットワーク上で動いている。 これはフィードフォワードネットワークで、注意を活用し、完全に動作するWASMインタプリタを実装しています。 WASMがLLMを解釈するという記事を見たとき、私はこれを作らなければなりませんでした。Wasm + AI の背後にある技術 + A repl ...ブラウザ上で動作し、Replit上で構築・デプロイされた — これは私の個人的なヒーロー🐐の一人である@amasadへのオマージュです このアイデアは@PerceptaAIの最近の投稿に基づいていますが、モデルアーキテクチャや重要な実装の詳細は提供されなかったため、Replitエージェントで多くの試行錯誤とテストを重ねる必要がありました。AIがこれを作れるとは驚きです。手作りの重みを持つニューラルネットワークアーキテクチャを、訓練データに含めない新しいものを実装できるのです。 追伸:ほとんどはSFOからミュンヘンへのフライト中にスマホでやりました。生きている時代は本当に素晴らしいですね!