il riassunto dell'intervista di Dwarkesh Patel con Ilya Sutskever • Gli approcci attuali "andranno avanti per un po' e poi si esauriranno"; continueranno a migliorare, ma non porteranno all'AGI. • Il tipo di sistema che funzionerebbe è qualcosa "che non sappiamo ancora come costruire." • Si prevedono impatti significativi sul mercato del lavoro nei prossimi anni. • Principale collo di bottiglia: generalizzazione. I modelli sono molto peggiori degli esseri umani in questo. • Puoi allenarti su ogni problema di programmazione competitiva, e il modello non svilupperà mai un vero "gusto", mentre un adolescente impara a guidare in circa 10 ore. • I punteggi di valutazione sembrano ottimi, ma le prestazioni nel mondo reale sono inferiori perché l'addestramento RL finisce per ottimizzare per le valutazioni stesse. • I veri hacker dei premi sono i ricercatori che creano questi benchmark e cicli di addestramento. • Dice di avere idee su cosa manca, ma non le condividerà pubblicamente. • L'ASI, tuttavia, entro 5-20 anni "Sai cosa c'è di folle? Che tutto questo è reale" Ho davvero sentito quella frase.