Sakra... Meta právě vydala článek, který obrací narativ "AI se zlepší a nechá nás pozadu" a důsledky jsou obrovské 😳 Tady je ta divoká část: Tvrdí, že nejbezpečnější a nejrychlejší cestou k superinteligenci není vůbec sebezlepšující se umělá inteligence. Jde o společné zlepšování lidí a AI, kteří společně provádějí výzkum AI jako společný systém. Ne "AI nahrazuje výzkumníky." Ne "AI se přepisuje ve tmě." Ale AI, která je explicitně navržena ke spolupráci s lidmi na tvorbě nápadů, benchmarkech, experimentech, analýze chyb, zarovnání a návrhu systémů. A když si přečtete podrobnosti, je jasné, proč na tom záleží: → Sebezdokonalování vs. společné zlepšování jako dva zcela odlišné světy: Seberozvoj lidi vyřazuje z těla. Společné zlepšování vytváří smyčku, kdy lidé zlepšují AI, AI zlepšuje lidský výzkum a obě strany společně lezou. → Tabulka 1 na straně 3 rozkládá, co vlastně znamená "spolupráce ve výzkumu AI": Spolunavrhování benchmarků Společné provozování experimentů Selhání spoluladění Spoluvývoj bezpečnostních metod Spolupsaní článků Infrastruktura pro spoluvýstavbu ...