Dieses REPL ist anders als alles, was du bisher gesehen hast. Es läuft auf einem neuronalen Netzwerk. Es ist ein Feedforward-Netzwerk, das Aufmerksamkeit verwendet, und es implementiert einen voll funktionsfähigen wasm-Interpreter. Als ich einen Artikel über das Thema wasm-Interpretation von llms sah, musste ich das bauen. Wasm + die Technologie hinter AI + ein repl … läuft in einem Browser und wurde auf Replit erstellt und bereitgestellt - das ist eine Hommage an @amasad, einen meiner persönlichen Helden 🐐 Die Idee basiert auf einem aktuellen Beitrag von @PerceptaAI, aber sie haben die Modellarchitektur oder wirklich irgendwelche wichtigen Implementierungsdetails nicht bereitgestellt, also musste ich viel herausfinden und mit dem Replit-Agenten testen, um es zu bauen - es ist verblüffend, dass AI dies produzieren kann - eine neuronale Netzwerkarchitektur mit handgefertigten Gewichten, um etwas zu implementieren, das zu neu ist, um in irgendeinem seiner Trainingsdaten zu sein. P.S. Es wurde alles auf meinem Handy gemacht, das meiste davon während des Flugs von SFO nach München, was für eine Zeit, um am Leben zu sein!