Var spesielt nysgjerrig på å spørre @karpathy hvorfor selvkjørende biler tok et tiår+ fra fantastiske demoturer til til og med noe utplassert. Andrej ledet AI hos Tesla i 5 år. Jeg ønsket virkelig å vite om disse friksjonene skulle forlenge AGI-tidslinjene våre, eller om de var idiosynkratiske for selvkjøring. Kjøring har en veldig høy feilkostnad. Mennesker er overraskende pålitelige sjåfører - vi har en alvorlig ulykke hvert 400 000 miles/7 år. Og selvkjørende biler må matche eller slå denne sikkerhetsprofilen før de kan tas i bruk. Men er de fleste domener slik? Før intervjuet virket det for meg som om nesten alle domener vi ønsker å koble AGI til har en mye lavere feilkostnad. Hvis helt autonome programvareingeniører ikke fikk lov til å gjøre en feil på 7 år, ville distribusjonen faktisk være supertreg. Andrej kom med et interessant poeng som jeg ikke hadde hørt før: sammenlignet med selvkjøring har programvareutvikling en høyere (og potensielt ubegrenset) kostnad for feil: > Hvis du skriver faktisk kode i produksjonskvalitet, kan enhver form for feil føre til et sikkerhetsproblem. Hundrevis av millioner av menneskers personlige personnummer kan bli lekket. > Ved selvkjøring, hvis ting går galt, kan du bli skadet. Det er verre utfall. Men i programvare er det nesten ubegrenset hvor forferdelig noe kan være. > På noen måter er programvareutvikling et mye vanskeligere problem [enn selvkjøring]. Selvkjøring er bare en av tusenvis av ting folk gjør. Det er nesten som en enkelt vertikal. Mens når vi snakker om generell programvareutvikling, er det mer overflateareal. Det er potensielt en annen grunn til at LLM-> utbredte AGI-overgangen kan skje mye raskere: LLM-er gir oss oppfatning, representasjoner og sunn fornuft (for å håndtere eksempler utenfor distribusjon) gratis, mens disse måtte støpes fra bunnen av for selvkjørende biler. Jeg spurte Andrej om dette: > jeg vet ikke hvor mye vi får gratis. LLM-er er fortsatt ganske feilbarlige, og de har mange hull som fortsatt må fylles ut. Jeg tror ikke at vi får magisk generalisering helt ut av boksen. > Det andre aspektet jeg ønsket å komme tilbake til er at selvkjørende biler ikke er på langt nær ferdige fortsatt. Utplasseringene er ganske minimale. Selv Waymo har svært få biler. De har bygget noe som lever i fremtiden. De har måttet trekke tilbake fremtiden, men de måtte gjøre den uøkonomisk. > Dessuten, når du ser på disse bilene og det ikke er noen som kjører, er det mer menneske i løkken enn du kanskje forventer. På en måte har vi faktisk ikke fjernet personen, vi har flyttet dem til et sted hvor du ikke kan se dem.