Levensupdate: Ik heb besloten om 1X te verlaten. Het was een eer om te helpen het bedrijf te laten groeien. Ik kwam in 2022 bij Halodi Robotics (de vorige naam van het bedrijf) als de enige werknemer in Californië. Op dat moment waren we met ongeveer 40 mensen uit Noorwegen en 2 in Texas. Mijn eerste aanwerving en ik werkten een paar maanden vanuit mijn garage om geld te besparen. Vandaag de dag is 1X honderden mensen sterk, met hardware, design, software, AI, productie, product allemaal verhuisd naar de SF Bay Area, die op volle toeren draait en werkt aan het klaar maken van NEO voor thuis. Een grote dank aan al mijn collega's met wie ik heb samengewerkt. Het was een moeilijke beslissing om te vertrekken. Wanneer je werkt bij een spannend startup dat snel groeit, is er altijd zoveel te doen en nooit een perfect moment om verder te gaan. We hebben verschillende projecten in de pijplijn die zo spannend zijn omdat ze de algemene autonomie en schaalbaarheid van onze implementatieaanpak aanzienlijk bevorderen en echt een realistisch pad tonen naar een werkend product. De recente update van het World Model voor autonomie is daar een voorbeeld van, en er komt meer aan. De 1X-fabriek is zo spannend. Dingen versnellen met een snelheid waar ik een paar jaar geleden nog van zou zijn geschrokken. In 2022 waren de meeste technologen, onderzoekers en investeerders sceptisch over humanoïden en grootschalig imitatie leren. "Waarom benen?" "Hoe kan end-to-end leren ooit goed genoeg zijn?" "Waarom voor het huis gaan en niet voor de fabriek?" "Hoe zullen we ooit genoeg data verzamelen?" Het Overton-venster voor algemene robotica is sindsdien enorm verschoven. Hoewel we nog vroeg in onze missie zijn, blijf ik ervan overtuigd dat huisrobots binnenkort net zo gewoon zullen zijn als airconditioners, auto's en ChatGPT. Praat gewoon met de bot, en hij zal het rustig voor je doen. Hele economieën zullen uiteindelijk zich rond deze technologie herschikken. Mensen begrijpen het nu. Wat is de volgende stap? Ik geloof dat vooruitgang in toegepaste deep learning over het algemeen draait om "de magie benutten" van een paar magische objecten. Deze magische objecten bezitten veel meer generalisatiekracht dan je normaal zou verwachten. Gewoon de LLM vragen om te begrijpen wat je wilt, is magie. Video-generatiemodellen zijn magie. Redeneren is magie. Je komt niet elke dag een magisch object tegen, maar als je dat doet, zorg je ervoor dat je het pakt en het aan het werk zet om iets nuttigs te maken in de robot op de een of andere manier. Veel van mijn vroege overtuiging over waar robotica naartoe ging, kwam voort uit het werken aan BC-Z van 2018-2021. Het "magische object" waar ik destijds op wedde, was de verrassende data-absorptiecapaciteit van supervised learning en "vraag gewoon om generalisatie". Dit leidde tot veel van de standaard ingrediënten die we vandaag in VLAs zien: - Generalisatie naar ongeziene taalcommando's - Menselijke geleide DAgger voor beleidsverbetering - Open-loop aanvullende voorspellingen + terugtrekkende horizoncontrole, ook wel actiechunking genoemd - Manipulatie sleutelpunten om het servomotoren te verbeteren - Eenvoudige ResNet18 met FiLM-conditioning op multimodale invoer Het volgende "magische object" waar we bij 1X op wedden, waren videomodellen, omdat ze duidelijk magische objecten zijn die een datadistributie leren die niet te verschillend is van wat een robot moet leren. Ze generaliseren verrassend goed. Ik heb opnieuw het gevoel dat er nu meer magische objecten in het spel zijn, wat veel nieuwe mogelijkheden voor robotica en daarbuiten opent. Ik neem een paar maanden de tijd om mijn eerdere overtuigingen te legen en een frisse kijk te krijgen. Toen ik Google in 2022 verliet, heb ik ongeveer 2 weken nagedacht over wat ik daarna moest doen. Deze keer wil ik veel meer tijd nemen om bij te benen wat er is gebeurd in de bredere AI + robotica ruimte. Ik ben bezig met het opnieuw implementeren van enkele deep learning papers. Ik werk aan een grote tutorial voor mijn blog. Ik leer alle trucs voor gevorderde gebruikers van Claude. Ik lees de blogposts van Thinking Machines om te begrijpen welke soorten experimenten er worden uitgevoerd in grenslaboratoria. Ik lees de thesis van Ben Katz uit 2016 over de Mini-cheetah actuator. Ik reis in maart naar China om ongelooflijke bedrijven in het Chinese robotica-ecosysteem te ontmoeten. Nu, meer dan ooit, is het tijd voor zowel mensen als machines om te leren. De volgende stap in mijn levenssequentie zal een belangrijke zijn. Aan collega's en investeerders die vroeg op 1X hebben gewed, zelfs voordat we een huishoudnaam werden - ik dank jullie uit de grond van mijn hart. Ik zal het niet vergeten♥️