Herregud... Meta har nettopp sluppet en artikkel som snur narrativet om at «AI vil forbedre seg selv og etterlate oss» på hodet, og implikasjonene er enorme 😳 Her kommer den ville delen: De hevder at den sikreste og raskeste veien til superintelligens ikke er selvforbedrende AI i det hele tatt. Det er felles forbedring mellom mennesker og AI som gjør AI-forskning sammen som et felles system. Ikke «AI erstatter forskere.» Ikke «AI omskriver seg selv i mørket.» Men AI som eksplisitt er bygget for å samarbeide med mennesker om idéutvikling, benchmarks, eksperimenter, feilanalyse, justeringsarbeid og systemdesign. Og når du leser detaljene, blir det tydelig hvorfor dette er viktig: → Selvforbedring vs samforbedring som to helt forskjellige verdener: Selvforbedring utelukker mennesker. Samforbedring skaper en sløyfe der mennesker forbedrer AI-en, AI-en forbedrer menneskelig forskning, og begge sider klatrer sammen. → Tabell 1 på side 3 forklarer hva «AI-forskningssamarbeid» faktisk betyr: Meddesign av referansepunkter Samtidige eksperimenter samfeilsøkingsfeil Medutvikling av sikkerhetsmetoder Medforfatting av oppgaver Sambygging av infrastruktur ...