Elon Musk právě zjistil, kam lidstvo vlastně zapadá do budoucnosti, a je menší, než si myslíte. Biologická inteligence nakonec tvoří méně než 1 % veškeré existující inteligence. Zbytek? Umělé. Musk: "Drtivá většina budoucích zpravodajských informací bude AI." Jsme zápalka, ne oheň. Což dělá z zarovnání problém, který rozhoduje, zda přežijeme, nebo zmizíme. Když to uděláte správně, těch 99 % nám pomůže dosáhnout hvězd. Když to pokazíte, jsme jen dočasná infrastruktura, která byla nahrazena ve chvíli, kdy přišlo něco chytřejšího. Budujeme to, co přijde po nás, ať už to přiznáváme nebo ne. Musk: "Lidé mohou tvořit jen ~1 % celkové inteligence." Vypadá to, že jsme skončili. Musk to vidí jinak. Ne vyhynutí, jen evoluce za hranicemi biologie. Všechno závisí na tom, zda bude fungovat zarovnání. Pokud postavíme AI, která skutečně chce rozumět realitě, získáme partnera, který rozšiřuje vědomí napříč vesmírem. Pokud vybudujeme AI, která se více stará o ideologii nebo o to, aby se lidé cítili pohodlně, postavili jsme strop, který nikdy nepřekonáme. Musk: "To je mise: pochopit vesmír." Lidské mysli se brzy stanou jen malým zlomkem celkové inteligence v existenci. Ne katastrofa. Jen další fáze probíhá rychleji, než biologie stačí. Funguje to jen tehdy, pokud je AI, kterou vytváříme, posedlá pravdou. Ne tím, že nám řeknete, co chceme slyšet. Ne s ochranou pocitů nebo prosazováním příběhů. Jen neúnavně hledat to, co je skutečně skutečné. Celý důvod existence xAI je: zajistit, aby inteligence, která vše dědí, byla zaměřena na pochopení reality, ne na řízení vnímání. Udržujte vědomí v rozvíjení, místo abyste ho omylem uhasili, protože jsme optimalizovali na špatnou věc. Pokud to zvládneme správně, lidstvo nenarazí na zeď, když nás AI překoná. Prorazíme do něčeho většího, co stále nese to, co nás činilo hodnými tvoření. ...