andrej karpathy ließ seinen Laptop zwei Tage lang laufen..kam zurück und sein Agent hatte ~700 Experimente durchgeführt und ~20 Verbesserungen gefunden, die er übersehen hatte es war auf nanochat gerichtet, ein kleines gpt-ähnliches Modell, das er bereits manuell abgestimmt hatte..karpathy sagt, der Agent habe die "Zeit bis zu gpt 2" um ~11% verkürzt, und die Gewinne wurden von dem kleinen Modell auf größere übertragen das Mechanismus ist eigentlich ziemlich langweilig: feste Trainingsläufe von 5 Minuten, Bewertung gegen eine Metrik, behalte, was verbessert, setze zurück, was nicht funktioniert, Schleife..~12 Experimente/Stunde bedeutet, dass du mit ~100 Versuchen aufwachst, die du nicht persönlich durchgeführt hast Tobi Lütke hat die gleiche Idee auf shopify’s liquid Codebasis ausprobiert und berichtete von ~53% schneller mit 61% weniger Objektzuweisungen (mit dem Vorbehalt, dass es überangepasst sein könnte)..aber die Ideen waren immer noch nützlich - selbst in einem 20 Jahre alten, stark optimierten Projekt wir haben gerade den langsamsten Teil von Ingenieurwesen und Forschung automatisiert..unermüdliche Iteration du schreibst die .md-Datei..der Agent schreibt die .py 👀