Sundar Pichai, VD för Google, erkände nyligen något slående (Spara detta). Google förstår inte längre fullt ut hur deras egna AI-system fungerar. Detta är en grundläggande förändring i hur AI-utveckling sker just nu. När Googles ingenjörer tränar dessa massiva AI-modeller kodar de inte varje beteende för hand som äldre mjukvara. Istället matar de AI:n med miljarder databitar och låter den själv lista ut mönster. När dessa modeller blir otroligt stora och komplexa börjar de göra saker som ingen uttryckligen programmerat dem att göra. Googles AI lärde sig att förstå och översätta bengali, ett språk den aldrig specifikt tränats på. Det är det konstiga, systemet har listat ut det självt. Detta fenomen kallas emergent beteende. Det händer eftersom när man skalar upp en modell till miljarder parametrar, förändras något. Vid en viss tröskel utvecklar dessa modeller plötsligt förmågor som känns nästan intuitiva. De börjar resonera sig igenom komplexa problem, arbetar på språk de inte borde kunna, löser uppgifter de aldrig tränats i. Det är som om AI:n lär sig själv. Kärnproblemet är klyftan mellan förmåga och förståelse. Google implementerade AI-system för miljontals människor med vetskapen om att de inte har en komplett karta över hur dessa system når sina slutsatser. ...