Julian Schrittwieser (antropisk): - Diskusjonen om AI-boblen på X er "veldig skilt" fra det som skjer i grenselaboratoriene. «I grenselaboratoriene ser vi ingen nedgang i fremgangen.» - AI vil ha en "massiv økonomisk innvirkning". Inntektsanslag for OpenAI, Anthropic og Google er faktisk "ganske konservative". - Ved å ekstrapolere fra ting som METR-data, neste år, vil modellene kunne jobbe på egen hånd med en hel rekke oppgaver. Oppgavelengden er viktig, fordi den låser opp muligheten for et menneske til å overvåke et team av modeller, som hver jobber autonomt i timevis av gangen (i motsetning til å måtte snakke med en agent hvert 10. minutt for å gi tilbakemelding). - "Ekstremt sannsynlig" at den nåværende tilnærmingen til trening av AI-modeller (pre-training, RL) kommer til å produsere et system som kan yte på omtrent menneskelig nivå i stort sett alle oppgaver vi bryr oss om produktivitetsmessig. - On Move 37: «Jeg tror det er ganske klart at disse modellene kan gjøre nye ting.» AlphaCode og AlphaTensor "beviste at du kan oppdage nye programmer og algoritmer". AI «oppdager absolutt nye ting» allerede, og «vi beveger oss bare oppover skalaen for hvor imponerende, hvor interessante tingene den er i stand til å oppdage på egen hånd.» - "Høyst sannsynlig" at vi en gang neste år kommer til å ha noen oppdagelser som folk enstemmig er enige om er superimponerende. - AI vil på egen hånd kunne gjøre et gjennombrudd som er verdig en Nobelpris i 2027 eller 2028. - Om AIs evne til å akselerere utviklingen av AI: Et veldig vanlig problem i mange vitenskapelige felt er at det blir vanskeligere og vanskeligere å gjøre fremskritt etter hvert som feltet utvikler seg (dvs. for 100 år siden kunne en enkelt forsker oppdage det første antibiotikumet ved et uhell, mens det nå tar milliarder av dollar å oppdage et nytt stoff). Det samme kan skje med AI-forskning – selv om AI vil gjøre forskning på ny AI mer produktiv, kan det hende at det ikke blir en eksplosjon på grunn av nye fremskritt som blir vanskeligere og vanskeligere å finne.