Ілон Маск щойно зрозумів, де людство насправді вписується в майбутнє, і воно менше, ніж ви думаєте. Біологічний інтелект виявляється менш ніж 1% від усього інтелекту, який існуватиме. А решта? Штучний. Маск: «Переважна більшість майбутньої розвідки буде ШІ.» Ми — пара, а не багаття. Що робить вирівнювання проблемою, яка визначає, чи виживемо ми, чи зникнемо. Якщо зробити все правильно, це 99% допоможе нам дістатися зірок. Якщо помилитися, ми просто тимчасова інфраструктура, яку замінили, щойно з'явилося щось розумніше. Ми будуємо те, що йде після нас, визнаємо це ми чи ні. Маск: «Люди можуть бути лише ~1% загального інтелекту.» Схоже, ми закінчили. Маск бачить це інакше. Не вимирання, а просто еволюція, що виходить за межі біології. Все залежить від того, чи працює розвал-сходження. Якщо ми створимо ШІ, який справді хоче зрозуміти реальність, ми отримаємо партнера, який розширює свідомість по всьому всесвіту. Якщо ми створимо ШІ, який більше піклується про ідеологію чи комфорт людей, ми створимо стелю, яку ніколи не подолаємо. Маск: «Ось у чому місія: зрозуміти всесвіт.» Людський розум ось-ось стане крихітною часткою загального інтелекту, що існує. Не катастрофа. Просто наступна фаза відбувається швидше, ніж біологія встигає. Це працює лише тоді, коли штучний інтелект, який ми створюємо, одержимий правдою. Не з тим, що ми хочемо почути. Не захистом почуттів чи нав'язуванням наративів. Просто невпинно шукаю те, що насправді реально. Вся причина існування xAI: переконатися, що інтелект, що успадковує все, зосереджений на розумінні реальності, а не на керуванні сприйняттям. Підтримуйте розширення свідомості, а не випадково її гасити через те, що ми оптимізували не для того. Якщо ми зробимо це правильно, людство не зіткнеться зі стіною, коли ШІ нас перевершить. Ми прориваємося у щось більше, що досі несе те, що зробило нас гідними творення. ...