Enda et sladderinnlegg med svar der jeg blindt gir etter i en tåke, eller reklamerer for et produkt Bare for å være tydelig, Karpathy lå allerede bak som programmerer før GPT kom ut, fordi han stort sett var forsker som jobbet med Jupyter-notatbøker og python
Andrej Karpathy
Andrej Karpathy12 timer siden
Jeg har aldri følt meg så langt bak som programmerer. Yrket blir dramatisk omstrukturert ettersom bitene programmereren bidrar med blir stadig sjeldnere. Jeg har en følelse av at jeg kunne vært ti ganger kraftigere hvis jeg bare satte sammen det som har blitt tilgjengelig det siste ~året, og en manglende evne til å kreve boosten føles tydelig som et ferdighetsproblem. Det finnes et nytt programmerbart abstraksjonslag å mestre (i tillegg til de vanlige lagene under) som involverer agenter, underagenter, deres prompts, kontekster, minne, moduser, tillatelser, verktøy, plugins, ferdigheter, kroker, MCP, LSP, slash-kommandoer, arbeidsflyter, IDE-integrasjoner, og et behov for å bygge en altomfattende mental modell for styrker og fallgruver ved fundamentalt stokastisk, feilbarlig, uforståelig og skiftende enheter plutselig blandet med det som pleide å være god gammeldags ingeniørkunst. Det er tydelig at et kraftig utenomjordisk verktøy ble delt rundt, bortsett fra at det ikke har noen manual og alle må finne ut hvordan de skal holde det og bruke det, mens det resulterende jordskjelvet med styrke 9 ryster yrket. Brett opp ermene for å ikke falle bakpå.
(den originale nano-gpt var ren og briljansen lå i ideen og ren kjøring + kunnskap om gpt-2-arkitekturen, koden i seg selv var utrolig enkel)
God jul
54