AGI için gerçek bir kamu malı argümanı var; çünkü tüm verilerimiz üzerinde eğitim aldığı için var olacak, bu yüzden gelirin adil bir şekilde yeniden dağıtılması gerekiyor. Büyük Teknolojinin herkesin geçimini toplap tüm parayla kaçıp herkesi işsiz bırakması fikri akıl almaz derecede etik değil. Katı kapitalist ve yenilik açısından bile bu doğru değil. O kadar çok paraları var ki IP hırsızlığı bile önemli değil, sadece cezayı ödeyebiliyorlar. AGI'nin muazzam avantajı var, öyle ki tartışmalı bir fikri mülkiyet hukuku bile olmamalı... Ama bu başka bir konu. Asıl sorun eşitlik/dağıtım meselesi; insanlar tarihsel olarak bu konuda çok kötü davranmış ve birçok savaş bu konuda savaşılmıştır. Modeller, onlarca yıl boyunca mesleklerinin çıktılarını oluşturan uzmanların toplu verileri olmadan kendi kendine oluşturulamaz. Gerçekten sürekli öğrenip kendileri için veri toplayabilen modeller olsa bile, argüman hâlâ geçerli. 'Ama ön eğitim aşaması olmasaydı' bu modeller olmazdı. Temel üyhe, halk halkına atılan bir parça da olmamalı, bence onların isyan çıkarmasını engellemek için ciddi anlamda önemli olmalı. Bunun bir sonraki siyasi döngüde Batı'da en büyük tartışma noktalarından biri olmasını bekliyorum.

Geleceğin insanları tat belirleyici ve sermaye tahsisçisi olacak. Çalışmalarımızın kapsamı bu olacak. Saf, saf, hedef odaklı 'hey yapay zeka, bunu yap' ve o da bunu yapacak. Temelde bir video oyunu gibi. Kendi gerçekliğinizi giderek tuhaf ve vahşi şekillerde yaratacaksınız. Bu dijital dünyada başlayacak, ancak sonunda fiziksel dünyaya da yayılacak (düzenlemeler izin verdiği kadarıyla). Geleceğin Amazon'u, bir kullanıcının bir yapay zekaya 'Hey, sahip olduğum toprakta bir kale inşa etmesi için 70 insansı varlığa ihtiyacım var, git yap' diye sormak. ABS (Amazon Bot Hizmetleri... kurgusal isim) sonra botları sizin için konuşlandırıyor (Project Prometheus hakkında bilgi edin, Jeff Bezos üzerinde çalışıyor - yine herkesin 20 yıl önünde). Sonra bittiğinde ona bakıp 'Hmm, duvarların dışına bir taç ile bir resim çiz' dersin. O zaman onlar da bunu yapar. Yaptığı işten memnun olana kadar tekrar tekrar çalışmaya devam edeceksin. O kadar ucuz olacak ki neredeyse ücretsiz. İnşaat yasaları, uyum - tüm o saçmalıklar - önemli olmayacak çünkü yapay zekalar yakında 'doğrulanabilir istihbarat' dediğimiz bir şeye sahip olacaklar - yaptıklarının bir spekülasyona (bizim veya onların tanımladığı anayasa / yasalar / kurallar seti) uyduğuna dair kanıtlar. Her seferinde mükemmel yapılar. Eğer berbat ederlerse, bunun sebebi spesifikasyonun yanlışlığıdır. Tabii ki, yapay zekalar bizim için hedefler belirlemede de daha iyi olacaklar ve tüm fonksiyonel şeyler için tam olarak böyle olacak - hedefleri belirler, sonra da gerçekleştirirler, ara sıra onay için bizden (istersek) kontrol ederler. Ama eğlence, boş zaman, geleceğin 'işi' için... Neredeyse hiç sınır olmayacak. Ne kadar garip olacağını düşünürseniz düşünün, söz veriyorum, yüz kat daha garip olacak. Mars'ta yaşayan ölümsüzler, okyanus tabanında yaşayan genetik olarak değiştirilmiş süper insanlar, tamamen yeni duyular... İlginç zamanlarda yaşamanızı dilerim.

Bu mantıksız, ama hepimiz gerçekten AGI için hızlı bir kalkış senaryosu elde etmeyi ummalı ve dua etmeliyiz, yavaş bir kalkış değil. Hızlı bir yükseliş, ekonomi, finans sistemi, eğitim, toplum ve kurumlar genelinde sistemik değişim için bir güç işlevi görecektir. Yavaş bir kalkış, herkesin geçim kaynaklarını yavaş yavaş felç eder ve ufukta hiçbir değişiklik olmayacak, çünkü yeterince insan değişimin gerçekleşmesi için yeterince hızlı etkilenmemiş hissetmez.