Cazzo santo… Meta ha appena pubblicato un documento che capovolge la narrativa "L'AI si migliorerà da sola e ci lascerà indietro" e le implicazioni sono enormi 😳 Ecco la parte folle: Sostengono che il percorso più sicuro e veloce verso la superintelligenza non è affatto l'AI auto-migliorante. È il co-miglioramento tra umani e AI che fanno ricerca sull'AI insieme come un sistema congiunto. Non "l'AI sostituisce i ricercatori." Non "l'AI si riscrive da sola nell'oscurità." Ma un'AI costruita esplicitamente per collaborare con gli umani su ideazione, benchmark, esperimenti, analisi degli errori, lavoro di allineamento e progettazione del sistema. E quando leggi i dettagli, diventa ovvio perché questo sia importante: → Auto-miglioramento vs co-miglioramento come due mondi completamente diversi: L'auto-miglioramento esclude gli umani. Il co-miglioramento crea un ciclo in cui gli umani migliorano l'AI, l'AI migliora la ricerca umana, e entrambe le parti scalano insieme. → La Tabella 1 a pagina 3 scompone cosa significa realmente "collaborazione nella ricerca sull'AI": co-progettazione di benchmark co-esecuzione di esperimenti co-debugging dei fallimenti co-sviluppo di metodi di sicurezza co-scrittura di articoli co-costruzione di infrastrutture È letteralmente l'intero pipeline di ricerca, ma condivisa. → Ogni attuale tecnica di auto-miglioramento (dati sintetici, auto-ricompensa, auto-gioco, NAS, ecc.) ha punti ciechi: hacking delle ricompense, deriva, fragilità, mancanza di priorità umane, zero trasparenza. Il co-miglioramento evita le modalità di fallimento mantenendo gli umani nel ciclo di ragionamento. L'idea centrale colpisce forte: L'AI auto-migliorante corre avanti senza supervisione. L'AI co-migliorante trascina l'umanità verso l'alto con sé. E la rivendicazione più grande: La co-superintelligenza non è "l'AI che diventa superintelligente." È umani + AI insieme che diventano superintelligenti — perché entrambe le parti stanno imparando, accumulando conoscenze tacite e iterando all'interno dello stesso ciclo di ricerca. Se questo paradigma si afferma, il futuro non è "AGI contro l'umanità." È un organismo di ricerca fuso. Un'intelligenza collettiva. Questo documento sembra il piano più chiaro finora per un futuro dell'AI che non finisce in un equilibrio di allineamento precario. Sostiene che non abbiamo bisogno di superare la superintelligenza. Dobbiamo co-evolvere con essa. E onestamente? Ha molto più senso delle alternative.