Sundar Pichai, CEO van Google, heeft onlangs iets opmerkelijks toegegeven (Bewaar dit). Google begrijpt niet meer volledig hoe zijn eigen AI-systemen werken. Dit is een fundamentele verschuiving in hoe AI-ontwikkeling momenteel plaatsvindt. Wanneer de ingenieurs van Google deze enorme AI-modellen trainen, coderen ze niet elke gedraging handmatig zoals bij oudere software. In plaats daarvan voeren ze de AI miljarden gegevens in en laten ze zelf patronen ontdekken. Zodra deze modellen ongelooflijk groot en complex worden, beginnen ze dingen te doen die niemand expliciet heeft geprogrammeerd. De AI van Google leerde om Bengali te begrijpen en te vertalen, een taal waarop het nooit specifiek is getraind. Dat is het vreemde deel, het systeem heeft het zelf uitgezocht. Dit fenomeen wordt emergent gedrag genoemd. Het gebeurt omdat wanneer je een model opschaalt naar miljarden parameters, er iets verschuift. Bij een bepaalde drempel ontwikkelen deze modellen plotseling capaciteiten die bijna intuïtief aanvoelen. Ze beginnen complexe problemen te redeneren, werken in talen die ze niet zouden moeten kennen, en lossen taken op waarvoor ze nooit zijn getraind. Het is alsof de AI zichzelf onderwijst. Het kernprobleem is de kloof tussen capaciteit en begrip. Google heeft AI-systemen uitgerold naar miljoenen mensen, wetende dat ze geen compleet overzicht hebben van hoe deze systemen tot hun conclusies komen. ...