Düşünce... Son zamanlarda garip bir zorlukla karşılaşıyorum. Uzun vadeli düşünce benim için her zaman doğal oldu, kendimi kolaylıkla buna koşullandırdım. Şimdi neredeyse imkansız geliyor. Neden? AGI. Gelecek için plan yaptığım her zaman aynı farkındalığa kapılıyorum. İlk AGI'yi kimin kuracağını görmek için bekliyoruz ve kim yapacaksa, fiilen dünyayı ele geçirecek. Bu da uzun vadeli planlamayı gerçeklikten kopuk hissettirir. Hangi dünyada yaşayacağımı bilmiyorum, bu yüzden geleceği güvenle sabitleyemem. AGI son yarıştır. Tüm zeki, hedefe ulaşan görevleri otomatikleştirebilen bir sistem, yaratıcısını neredeyse bir tanrıya dönüştürür. Bir varlık, her alanda herkesi geride bırakma yeteneği kazanır. Bu rekabeti sona erdiriyor. Bu isteğe bağlı olanı sona erdiriyor. İkinci yer, oraya ilk ulaşan kişinin dünya görüşünün kölesi olur. Bu yüzden AGI etrafındaki teşvikler çok tehlikeli. Her oyuncu, tereddün doğrudan boyun eğme yol olduğunu anlar. Bu mantık hızlanmayı zorlar, kestirmeleri destekler ve güvenlik konusunda temkinli bir şeyi ortadan kaldırır. Yarış yarışmacılar için varoluşsal hale geldiğinde, dışsal etkiler artık önemsiz hale gelir. Ayrıca insan unsuru da vardır, ki bu kendi riskidir. ...