Sundar Pichai, administrerende direktør i Google, innrømmet nylig noe slående (Spar dette). Google forstår ikke fullt ut hvordan sine egne AI-systemer fungerer lenger. Dette er et grunnleggende skifte i hvordan AI-utvikling skjer akkurat nå. Når Googles ingeniører trener disse massive AI-modellene, koder de ikke hver atferd for hånd slik eldre programvare gjør. I stedet mater de AI-en med milliarder av data og lar den finne mønstre på egen hånd. Når disse modellene blir utrolig store og komplekse, begynner de å gjøre ting ingen eksplisitt har programmert dem til å gjøre. Googles AI lærte seg å forstå og oversette bengali, et språk den aldri var spesifikt trent på. Det er det rare, systemet fant det ut selv. Dette fenomenet kalles emergent atferd. Det skjer fordi når du skalerer opp en modell til milliarder av parametere, endrer noe seg. På en viss terskel utvikler disse modellene plutselig evner som føles nesten intuitive. De begynner å resonnere seg gjennom komplekse problemer, jobber på språk de ikke burde kunne, løser oppgaver de aldri ble trent på. Det er som om AI-en lærer seg selv. Kjerneproblemet er misforholdet mellom evne og forståelse. Google implementerte AI-systemer til millioner av mennesker, vel vitende om at de ikke har et komplett kart over hvordan disse systemene kommer frem til sine konklusjoner. ...