Jednou z mých opakujících se nočních můr je, že jsem pozván na Hostinu starosty a stydím se za svůj omezený žaludeční kapacitu a slabou chuť k jídlu

Sakra... Meta právě vydala článek, který obrací narativ "AI se zlepší a nechá nás pozadu" a důsledky jsou obrovské 😳 Tady je ta divoká část: Tvrdí, že nejbezpečnější a nejrychlejší cestou k superinteligenci není vůbec sebezlepšující se umělá inteligence. Jde o společné zlepšování lidí a AI, kteří společně provádějí výzkum AI jako společný systém. Ne "AI nahrazuje výzkumníky." Ne "AI se přepisuje ve tmě." Ale AI, která je explicitně navržena ke spolupráci s lidmi na tvorbě nápadů, benchmarkech, experimentech, analýze chyb, zarovnání a návrhu systémů. A když si přečtete podrobnosti, je jasné, proč na tom záleží: → Sebezdokonalování vs. společné zlepšování jako dva zcela odlišné světy: Seberozvoj lidi vyřazuje z těla. Společné zlepšování vytváří smyčku, kdy lidé zlepšují AI, AI zlepšuje lidský výzkum a obě strany společně lezou. → Tabulka 1 na straně 3 rozkládá, co vlastně znamená "spolupráce ve výzkumu AI": Spolunavrhování benchmarků Společné provozování experimentů Selhání spoluladění Spoluvývoj bezpečnostních metod Spolupsaní článků Infrastruktura pro spoluvýstavbu Je to doslova celý výzkumný proces, ale sdílený. → Každá současná technika seberozvoje (syntetická data, sebeodměna, samohraní, NAS atd.) má slepá místa: hackování odměn, drift, křehkost, chybějící lidské minulosti, nulová transparentnost. Společné zlepšování obchází poruchy tím, že udržuje lidi v procesu uvažování. Základní myšlenka zasáhne silně: Sebezdokonalující se AI pohání vpřed bez dozoru. Spoluzlepšující AI táhne lidstvo vzhůru s sebou. A ten větší nárok: Spolu-superinteligence není "AI se stává superinteligentní." Jsou to lidé + AI, kteří se společně stávají superinteligentními — protože obě strany se učí, hromadí tiché znalosti a iterují v rámci stejného výzkumného cyklu. Pokud tento paradigmat zůstane, budoucnost nebude "AGI vs lidstvo." Je to sloučený výzkumný organismus. Kolektivní inteligence. Tento článek působí jako nejjasnější plán pro budoucnost AI, která nekončí na ostrí zarovnání. Tvrdí, že nemusíme předběhnout superinteligenci. Musíme se s ním společně vyvíjet. A upřímně? Dává to mnohem větší smysl než alternativy.