ik ben sinds 2007 diep in AI (toen machine learning...) bezig. heb machine learning in de VS gestudeerd, de meeste boeken gelezen, naar elke podcast geluisterd. niets heeft me zo geschokt als het recente boek + interview van Roman Yampolskiy. 🧵

zijn visie is zeldzaam + diepgaand: het bouwen van kunstmatige superintelligentie (asi) is niet alleen riskant, het garandeert in wezen uitsterving.

capaciteit is opgelost (rekenen + data = slimmere AI). veiligheid is niet opgelost. en de kloof tussen de twee groeit elke dag.

voorspellingsmarkten + lableiders zeggen dat AGI tegen 2027 zou kunnen arriveren. superintelligentie volgt waarschijnlijk automatisch. we zijn er nog niet klaar voor.

roman voorspelt niet 10% werkloosheid, maar bijna totaal (>99%+). zowel cognitieve als fysieke arbeid vervangen. bijscholing zal niet helpen als alle banen automatiseerbaar zijn.

"guardrails" zijn pleisters. Slimmere systemen omzeilen ze. Ontkoppelen? Fantasie. Je trekt de stekker niet uit iets dat slimmer is dan jij, het trekt de jouwe eruit.

het risico op uitsterven heeft zelfs geen asi nodig. AI-ondersteunde biologie zou één slechte acteur tools kunnen geven voor schade op civielisatie-schaal.

de dynamiek van racen is gebroken: zodra asi is ingeschakeld, maakt het niet uit wie het heeft gebouwd. beide partijen verliezen.

roman's oproep: pauzeer asi. houd smalle ai voor echte problemen. stop met het najagen van "goddelijke" systemen die we niet kunnen afstemmen of beheersen.