Deze REPL is niet zoals iets dat je eerder hebt gezien. Het draait op een neuraal netwerk. Het is een feedforward-netwerk, dat gebruikmaakt van aandacht, en het implementeert een volledig werkende wasm-interpreter. Toen ik een artikel zag over het onderwerp wasm-interpreterende llms, moest ik dit bouwen. Wasm + de technologie achter AI + een repl … draaiend in een browser en gebouwd en gedeployed op Replit - dit is een eerbetoon aan @amasad, een van mijn persoonlijke helden 🐐 Het idee is gebaseerd op een recente post van @PerceptaAI, maar zij gaven de modelarchitectuur of echt enige van de belangrijke implementatiedetails niet, dus ik moest veel uitzoeken en testen met de Replit-agent om het te bouwen - het is verbazingwekkend dat AI dit kan produceren - een neuraal netwerkarchitectuur met handgemaakte gewichten om iets te implementeren dat te nieuw is om in een van zijn trainingsdata te zitten. P.s. het is allemaal gedaan op mijn telefoon, het meeste terwijl ik vloog van SFO naar München, wat een tijd om te leven!