Myšlenky... V poslední době narážím na zvláštní obtížnost. Dlouhodobé myšlení pro mě bylo vždy přirozené, něco, na co jsem se naučil s lehkostí. Teď to působí téměř nemožně. Proč? AGI. Kdykoli si sednu a plánuji budoucnost, přijde mi to samé. Čekáme, kdo postaví první skutečnou AGI, a kdo to udělá, bude fakticky ovládat svět. To způsobuje, že dlouhodobé plánování působí odtrženo od reality. Nevím, v čem světě budu žít, takže nemohu s jistotou ukotvit žádnou budoucnost. AGI je poslední závod. Blížíme se k závěrečné úrovni videohry. Okamžik, kdy jeden hráč vytvoří systém, který dokáže automatizovat všechny inteligentní, cílevědomé úkoly, promění jeho tvůrce v něco blízkého bohu. Jedna entita získává schopnost překonat všechny napříč všemi oblastmi. To ukončí konkurenci. Tím končí volitelnost. Druhé místo se stává otrokem světového názoru toho, kdo tam dorazí první. Proto jsou pobídky kolem AGI tak nebezpečné. Každý hráč chápe, že váhání je přímá cesta k podřízenosti. Tato logika nutí zrychlovat, tlačí na zkratky a ruší opatrnost ohledně bezpečnosti. Jakmile se závod stane existenčním pro soupeře, externality přestávají být důležité. ...