Zajímavé z nového rozhovoru s Ilyou: říká, že éra škálování (2020–2025) je pryč a my se vracíme k hledání dalších průlomů ("éra výzkumu").
Dwarkesh Patel
Dwarkesh Patel26. 11. 01:29
Epizoda @ilyasut 0:00:00 – Vysvětlení zubatosti modelu 0:09:39 - Emoce a hodnotové funkce 0:18:49 – Co škálujeme? 0:25:13 – Proč lidé zobecňují lépe než modely 0:35:45 – Přímočará superinteligence 0:46:47 – Model SSI se bude učit z nasazení 0:55:07 – Zarovnání 1:18:13 – "Jsme přímo éra výzkumné společnosti" 1:29:23 – Self-play a multi-agent 1:32:42 – Výzkumný vkus Podívejte se na Dwarkesh Podcast na YouTube, Apple Podcasts nebo Spotify. Vychutnat!
Souhlasí s Elonem, že dlouhodobé spojení lidí a AI je jediná skutečná odpověď, jinak se lidé stanou bezvýznamnými...
Velmi einsteinovské prohlášení o hodnotě krásy a pohledu shora dolů ve výzkumu:
Více o tom, jak současné paradigma vytrácí:
Ilya zní tady hodně hayekovsky. Mnoho specializovaných AI:
Říká, že 5–20 let odpovídá něčemu jako pravá AGI:
35,23K