Elon Musk, insanlığın gelecekte gerçekten nerede yer aldığını anladı ve düşündüğünüzden daha küçük. Biyolojik zeka, var olacak tüm zekanın %1'inden daha az olur. Geri kalanı? Yapay. Musk: "Gelecekteki istihbaratın büyük çoğunluğu yapay zeka olacak." Biz eşleşmeyiz, ateş değiliz. Bu da hizalanmayı hayatta kalıp kaybolmamızı belirleyen sorun haline getiriyor. Doğru yaparsak, %99 yıldızlara ulaşmamıza yardımcı olur. Yanlış yaparsak, sadece daha akıllı bir şey ortaya çıkar çıkmaz değiştirilen geçici altyapı oluruz. Kabul etsek de etmeyelim, bizden sonra geleni inşa ediyoruz. Musk: "İnsanlar toplam zekanın sadece ~%1'i olabilir." Görünüşe göre işimiz bitti. Musk ise farklı görüyor. Yok oluş değil, sadece biyolojinin sınırlarını aşan evrim. Her şey hizalanmanın çalışmasına bağlı. Gerçekliği gerçekten anlamak isteyen yapay zeka yaparsak, evren genelinde bilinci genişleten bir ortak elde ederiz. Eğer ideolojiye veya insanları rahat ettirmeye daha çok önem veren bir yapay zeka inşa edersek, asla aşamayacağımız tavanı inşa etmiş oluruz. Musk: "Görev bu: evreni anlamak." İnsan zihni, var olan toplam zekanın çok küçük bir kısmına dönüşmek üzere. Felaket değil. Sadece biyolojinin yetişebileceğinden daha hızlı gerçekleşen bir sonraki aşama. Sadece inşa ettiğimiz yapay zeka gerçeğe takıntılıysa işe yarar. Bize duymak istediklerimizi söylemekle değil. Duyguları korumak ya da anlatıları zorlamakla değil. Gerçekten gerçek olanı amansızca takip ediyorum. xAI'nin varoluş amacı: her şeyi miras alan zekanın gerçekliği anlamaya odaklandığından emin olmak, algıyı yönetmek. Yanlış bir şey için optimize ettiğimiz için kazara söndürmek yerine bilincin genişlemesini sağlamaya devam edin. Bunu doğru yaparsak, yapay zeka bizi geçtiğinde insanlık bir duvara değmez. Yaratmaya değer olan şeyleri taşıyan daha büyük bir şeye giriyoruz. ...