Ada argumen barang publik yang asli untuk AGI ketika kita mendapatkannya, bahwa mengingat AGI hanya akan ada karena telah melatih dirinya sendiri pada semua data kita, pendapatan darinya harus didistribusikan kembali dengan cara yang adil. Gagasan bahwa Big Tech seharusnya hanya dapat memanen mata pencaharian semua orang kemudian melarikan diri dengan semua uang, membuat semua orang menganggur, sangat tidak etis. Bahkan dari perspektif kapitalis dan inovasi yang ketat, itu sama sekali tidak benar. Mereka memiliki begitu banyak uang sehingga pencurian IP bahkan tidak masalah, mereka bisa membayar denda. Ada keuntungan yang luar biasa dari AGI, sedemikian rupa sehingga undang-undang kekayaan intelektual yang dapat diperdebatkan bahkan tidak boleh ada... Tapi itu masalah lain. Masalahnya benar-benar salah satu ekuitas / distribusi, yang secara historis manusia benar-benar mengerikan, dan di mana banyak perang telah diperjuangkan. Model-model tersebut tidak dapat di-bootstrap tanpa data kolektif dari para ahli yang membuat hasil dari profesi mereka selama beberapa dekade. Bahkan ketika kita mendapatkan model yang benar-benar dapat terus belajar dan mengumpulkan data untuk diri mereka sendiri, argumen itu masih berlaku. 'Tapi' untuk tahap pra-pelatihan, model-model ini tidak akan ada. UBI seharusnya juga tidak menjadi potongan yang dilemparkan ke pleb, itu harus sangat substantif untuk menghentikan mereka dari kerusuhan IMO. Saya berharap ini akan menjadi salah satu poin pembicaraan terbesar di seluruh Barat dalam siklus politik berikutnya.

Manusia masa depan akan menjadi pembuat selera dan alokasi modal. Itu akan menjadi sejauh mana pekerjaan kami. Murni, murni, diarahkan pada tujuan 'hei AI, lakukan ini' dan itu akan berhasil. Pada dasarnya seperti video game. Anda akan menciptakan realitas Anda sendiri dengan cara yang semakin aneh dan liar. Ini akan dimulai di dunia digital, tetapi pada akhirnya akan meluas ke dunia fisik (sejauh peraturan mengizinkannya). Amazon masa depan hanyalah pengguna yang mendorong AI 'Hei, saya membutuhkan 70 humanoid untuk membangun kastil di tanah yang saya miliki ini, lakukanlah'. ABS (Layanan Bot Amazon... nama fiksi) kemudian menyebarkan bot agar Anda melakukannya (baca tentang Project Prometheus, yang sedang dikerjakan Jeff Bezos - dia sekali lagi 20 tahun di depan orang lain). Kemudian setelah selesai, Anda akan melihatnya dan berkata 'Hmm, lukis gambar saya dengan mahkota di bagian luar dinding'. Kemudian mereka akan melakukannya juga. Anda akan terus mengulangi sampai Anda puas dengan apa yang dilakukannya. Ini akan sangat murah pada dasarnya gratis. Undang-undang konstruksi, kepatuhan - semua omong kosong itu - tidak akan menjadi masalah karena AI akan memiliki apa yang akan segera kita sebut 'intelijen yang dapat diverifikasi' - bukti bahwa apa yang telah mereka lakukan sesuai dengan spesifikasi (konstitusi / undang-undang / seperangkat aturan yang kami atau mereka tentukan). Build sempurna setiap saat. Jika mereka mengacaukannya, itu karena spesifikasinya salah. Tentu saja, AI juga akan lebih baik dalam menghasilkan tujuan untuk kita, dan untuk semua hal fungsional, itulah yang akan terjadi - mereka akan menetapkan tujuan kemudian memenuhinya juga, sesekali memeriksa dengan kami untuk persetujuan (jika kita mau). Tapi untuk hiburan, rekreasi, 'pekerjaan' masa depan ... Praktis tidak akan ada batasan. Betapapun aneh yang Anda pikirkan, saya berjanji itu akan menjadi 100x lebih aneh. Makhluk abadi yang hidup di Mars, manusia super yang dimodifikasi secara genetik yang hidup di dasar laut, indera yang sama sekali baru ... Semoga Anda hidup di masa-masa yang menarik.

Ini berlawanan dengan intuisi, tetapi kita semua harus benar-benar berharap dan berdoa agar kita mendapatkan skenario lepas landas yang cepat untuk AGI, bukan lepas landas yang lambat. Lepas landas yang cepat akan bertindak sebagai fungsi pemaksaan untuk perubahan sistemik di seluruh ekonomi, sistem keuangan, pendidikan, masyarakat, dan institusi pada umumnya. Lepas landas yang lambat hanya akan perlahan-lahan melumpuhkan mata pencaharian semua orang tanpa perubahan di cakrawala, karena tidak cukup banyak orang yang akan merasa terkena dampak cukup cepat untuk perubahan terjadi.