Düşünce... Son zamanlarda garip bir zorlukla karşılaşıyorum. Uzun vadeli düşünce benim için her zaman doğal oldu, kendimi kolaylıkla buna koşullandırdım. Şimdi neredeyse imkansız geliyor. Neden? AGI. Gelecek için plan yaptığım her zaman aynı farkındalığa kapılıyorum. İlk gerçek AGI'yi kimin kuracağını ve kim yapacağını görmek için bekliyoruz ve kim yapacaksa, fiilen dünyayı ele geçirecek. Bu da uzun vadeli planlamayı gerçeklikten kopuk hissettirir. Hangi dünyada yaşayacağımı bilmiyorum, bu yüzden geleceği güvenle sabitleyemem. AGI son yarıştır. Video oyununun son seviyesine yaklaşıyoruz. Bir oyuncunun tüm zeki, hedefe ulaşan görevleri otomatikleştirebilen bir sistem kurması, yaratıcısını neredeyse bir tanrıya dönüştürüyor. Bir varlık, her alanda herkesi geride bırakma yeteneği kazanır. Bu rekabeti sona erdiriyor. Bu isteğe bağlı olanı sona erdiriyor. İkinci yer, oraya ilk ulaşan kişinin dünya görüşünün kölesi olur. Bu yüzden AGI etrafındaki teşvikler çok tehlikeli. Her oyuncu, tereddün doğrudan boyun eğme yol olduğunu anlar. Bu mantık hızlanmayı zorlar, kestirmeleri destekler ve güvenlik konusunda temkinli bir şeyi ortadan kaldırır. Yarış yarışmacılar için varoluşsal hale geldiğinde, dışsal etkiler artık önemsiz hale gelir. ...