У мене виникли змішані почуття щодо термінів «AGI» та «ASI», які показують, куди рухається ця технологія. З одного боку, AGI відіграв ключову роль у мотивації талановитих людей, які були одержимі цією проблемою (@demishassabis, @ShaneLegg, @ilyasut та багатьма іншими), і забезпечив потік капіталу, який зробив можливими багато наших досягнень. З іншого боку, «AGI» або «ASI» чи будь-який інший варіант зараз активно шкодить дискурсу про те, як створюється і використовується найцікавіша технологія нашого життя. A) Це не точний опис того, куди ми рухаємося, принаймні так, як більшість людей це трактують. Погляньте на нещодавні розмови з @karpathy і @dwarkesh_sp — і ви одразу побачите, наскільки ми далекі від чогось, що нагадує справжній людський інтелект. Немає доказів зльоту, часові рамки постійно розширюються. Ми створюємо дуже корисні технології, які можуть змінити спосіб роботи бізнесу або створення технологій, але не мають нічого спільного з «загальним інтелектом». б) вона стала настільки перевантаженою, що я майже не помітив, що двоє людей не визначають це однаково або не погоджуються щодо термінів (незалежно від того, чи ми вже досягли цього, чи через 30 років). Ось чому кожен блог-пост про AGI має вигадувати власне локальне визначення, щоб рухатися далі. Я здебільшого підтримую @random_walker думку про те, чому «інтелект» використовується майже незв'язно завжди. в) найголовніше — це викликає страх — пов'язаний з історичним використанням у науковій фантастиці та філософії (згадайте 2001, Her, будь-що, що викликає сингулярність), що не має нічого спільного з технологічним деревом, на якому ми насправді знаходимося. Це робить кожну дискусію про ШІ надзвичайно легкою для антропоморфизації та відходу в гіпотетичні варіанти. Можливо, нам знадобиться інший термін для того, що ми намагаємося побудувати в кінці всього цього, і що це означає для бізнесу та суспільства.