Heilige shit… Meta heeft net een paper uitgebracht die het verhaal "AI zal zichzelf verbeteren en ons achterlaten" op zijn kop zet en de implicaties zijn enorm 😳 Hier is het wilde deel: Ze beweren dat het veiligste en snelste pad naar superintelligentie helemaal geen zelfverbeterende AI is. Het is co-verbetering: mensen en AI die samen AI-onderzoek doen als een gezamenlijk systeem. Niet "AI vervangt onderzoekers." Niet "AI herschrijft zichzelf in het duister." Maar AI die expliciet is gebouwd om samen te werken met mensen aan ideevorming, benchmarks, experimenten, foutanalyse, afstemming en systeemontwerp. En wanneer je de details leest, wordt het duidelijk waarom dit belangrijk is: → Zelfverbetering vs co-verbetering als twee volkomen verschillende werelden: Zelfverbetering sluit mensen uit. Co-verbetering creëert een lus waarin mensen de AI verbeteren, de AI het menselijk onderzoek verbetert, en beide kanten samen omhoog klimmen. → Tabel 1 op pagina 3 legt uit wat "AI-onderzoeks samenwerking" eigenlijk betekent: co-ontwerpen van benchmarks co-uitvoeren van experimenten co-debuggen van fouten co-ontwikkelen van veiligheidsmethoden co-schrijven van papers co-bouwen van infrastructuur ...