Myšlenky... V poslední době narážím na zvláštní obtížnost. Dlouhodobé myšlení pro mě bylo vždy přirozené, něco, na co jsem se naučil s lehkostí. Teď to působí téměř nemožně. Proč? AGI. Kdykoli si sednu a plánuji budoucnost, přijde mi to samé. Čekáme, kdo postaví první skutečnou AGI, a kdo to udělá, bude fakticky ovládat svět. To způsobuje, že dlouhodobé plánování působí odtrženo od reality. Nevím, v čem světě budu žít, takže nemohu s jistotou ukotvit žádnou budoucnost. AGI je poslední závod. Blížíme se k závěrečné úrovni videohry. Okamžik, kdy jeden hráč vytvoří systém, který dokáže automatizovat všechny inteligentní, cílevědomé úkoly, promění jeho tvůrce v něco blízkého bohu. Jedna entita získává schopnost překonat všechny napříč všemi oblastmi. To ukončí konkurenci. Tím končí volitelnost. Druhé místo se stává otrokem světového názoru toho, kdo tam dorazí první. Proto jsou pobídky kolem AGI tak nebezpečné. Každý hráč chápe, že váhání je přímá cesta k podřízenosti. Tato logika nutí zrychlovat, tlačí na zkratky a ruší opatrnost ohledně bezpečnosti. Jakmile se závod stane existenčním pro soupeře, externality přestávají být důležité. Je tu také lidský faktor, který je sám o sobě rizikem. Mnoho lidí, kteří tuto hranici posouvají na tuto hranici, vychází z motivů, které nemají nic společného se stabilitou nebo odpovědností. Někteří chtějí dominanci. Někteří chtějí vytvořit další civilizaci. Někteří chtějí potkat boha svého vlastního stvoření. Tyto pobídky formují rozhodování způsoby, které nejsou v souladu s rozsahem moci, kterou se snaží vytvořit. To je hlavní důvod, proč mi dlouhodobé plánování teď připadá zvláštní. Budoucnost bude definována jediným výsledkem řízeným jednou skupinou. Pravděpodobné se stává irelevantním, když je určující událost absolutní. A jakmile to internalizujete, je jasné, že už si neplánujeme vlastní budoucnost. Čekáme, který bůh přijde první a jehož svět nakonec budeme otroky.

Jediné, co chci vědět, je, jestli @santiagoroel největší troll naživu, protože není možné, že by omylem oblékl vestu Inversion Patagonia na debatu, kde používá tyto metriky k oceňování L1.

Jarvis... prosím, aktivujte obranný režim a zablokujte každý nadcházející příspěvek na Spotify Wrapped dřív, než se dostane ke mně.