Dario Amodei, WEF'te Machines of Loving Grace'in devamı yayımlanmak üzere olduğunu söyledi. Bugün yayınlanacak ve Axios'a Anthropic tarafından erken bir bakış atıldı. Başlığı 'Teknolojinin Ergenliği: Güçlü Al'ın Riskleriyle Yüzleşmek ve Aşmak.'

Bazı alıntılar: ' Bence hem çalkantılı hem de kaçınılmaz bir geçiş ritüeline giriyoruz, bu da bir tür olarak kim olduğumuzu test edecek. İnsanlığa neredeyse hayal edilemez bir güç verilecek ve sosyal, politik ve teknolojik sistemlerimizin bunu kullanacak olgunluğa sahip olup olmadığı derinden belirsiz.'

'Artık yapay zeka modelleri çözülmemiş matematiksel problemleri çözmede ilerlemeye başladığı ve kodlamada yeterince iyi olduğumuz noktadayız ki, tanıştığım en güçlü mühendislerden bazıları neredeyse tüm kodlamalarını yapay zekaya devrediyor. Üç yıl önce, yapay zeka ilkokul aritmetik sorunlarıyla mücadele ediyordu ve tek bir satır kod yazabiliyordu. Benzer iyileşme oranları biyolojik bilim, finans, fizik ve çeşitli ajanik görevlerde de görülmektedir. Eğer bu üssel artış devam ederse—ki bu kesin değil, ama artık on yıllık bir geçmişe sahip—o zaman yapay zekanın insanlardan her konuda daha iyi olması birkaç yıldan fazla olamaz. Aslında, bu tablo muhtemelen ilerleme hızını hafife alıyor. Artık yapay zeka Anthropic'te kodun büyük kısmını yazdığı için, yeni nesil yapay zeka sistemlerini inşa etme hızımızı şimdiden önemli ölçüde hızlandırıyor. Bu geri bildirim döngüsü ay ay daha da gücleniyor ve mevcut yapay zeka neslinin bir sonraki neslini özerk şekilde inşa edeceği noktaya sadece 1–2 yıl uzaklıkta olabilir. Bu döngü zaten başladı ve önümüzdeki aylar ve yıllar içinde hızla hızlanacak. Son 5 yılın ilerlemesini Anthropic içinden izlerken, önümüzdeki birkaç aylık modellerin nasıl şekillendiğine bakarak, ilerleme hızını ve saatin tıkını hissedebiliyorum.'

'Bir yapay zeka şirketinin CEO'su olarak bunu söylemek biraz garip ama bence bir sonraki risk seviyesi aslında yapay zeka şirketleri. Yapay zeka şirketleri büyük veri merkezlerini kontrol ediyor, sınır modelleri eğitiyor, bu modelleri nasıl kullanacakları konusunda en yüksek uzmanlığa sahip ve bazı durumlarda günlük temas ve on milyonlarca kullanıcıyla etkileme potansiyeline sahip. Onların eksik olan en önemli şeyi, bir devletin meşruiyeti ve altyapısı; bu yüzden bir yapay zeka otokrasisinin araçlarını inşa etmek için gereken şeylerin çoğu yapay zeka şirketinin yapması yasa dışı olurdu ya da en azından son derece şüpheli olurdu. Ama bazıları imkansız değil: örneğin, yapay zeka ürünlerini kullanarak devasa tüketici kullanıcı kitlesini beyin yıkamak için kullanabilirler ve kamuoyu bunun oluşturduğu riske karşı dikkatli olmalı. Bence yapay zeka şirketlerinin yönetiminin çok fazla incelenmeyi hak ettiğini düşünüyorum.'

'Bir veri merkezindeki dahiler ülkesi' ifadesinin ima ettiği gibi, yapay zeka çok geniş bir insan bilişsel yeteneğine sahip olacak—belki de hepsi. Bu, mekanize tarım, ulaşım veya hatta bilgisayar gibi önceki teknolojilerden çok farklıdır. Bu durum, insanların yerinden edilen işlerden uygun olabilecekleri benzer işlere kolayca geçişini zorlaştıracak. Örneğin, finans, danışmanlık ve hukuk gibi giriş seviyesi işler için gereken genel entelektüel yetenekler, özel bilgi oldukça farklı olsa bile, oldukça benzerdir. Bu üç teknolojiden sadece birini bozan bir teknoloji, çalışanların diğer iki yakın yedek bölüme geçmesine (veya lisans öğrencilerinin bölüm değiştirmesine olanak tanıyacaktı). Ancak üçünü aynı anda bozmak (benzer birçok işle birlikte) insanların uyum sağlaması daha zor olabilir. Ayrıca, mevcut işlerin çoğu kesintiye uğrayacak değil. Bu kısım daha önce de yaşanmıştı—çiftçiliğin istihdamın büyük bir yüzdesiydi. Ancak çiftçiler, daha önce yaygın olmasa da, nispeten benzer fabrika makinelerini işletmeye geçebiliyordu. Buna karşılık, yapay zeka giderek insanların genel bilişsel profiline uyum sağlıyor; bu da eski işler otomatikleştiğinde normalde oluşturulan yeni işlerde de iyi olacağı anlamına geliyor. Başka bir şekilde söylemenin başka bir yolu, yapay zekanın belirli insan işlerinin yerine geçmediği, daha çok genel bir emek yerine insan iğneleyicisi olduğudur.'

'Örneğin, kodlamada modellerimiz "vasat bir kodlayıcı" seviyesinden "güçlü bir kodlayıcı"ya, oradan da "çok güçlü bir kodlayıcıya" geçti. Şimdi genel olarak beyaz yakalı çalışmalarda da aynı ilerlemeyi görmeye başlıyoruz. Bu nedenle, belirli becerilere veya mesleklere sahip (yeniden eğitimle uyum sağlayabilen) insanları etkilemek yerine, yapay zekanın belirli içsel bilişsel özelliklere sahip kişileri, yani daha düşük entelektüel yeteneğe sahip (ki bunu değiştirmesi daha zor) etkilediği bir durum riskiyle karşı karşıyayız. Bu insanların nereye gideceği veya ne yapacakları net değil ve işsiz ya da çok düşük maaşlı bir "alt sınıf" oluşturabileceklerinden endişeliyim.

Anthropic, çalışanları 'geleneksel anlamda ekonomik değer sağlamadıklarında' bile çalışmalarını sürdürmeyi planlıyor. 'Üçüncüsü, şirketler çalışanlarına nasıl bakacaklarını düşünmeli. Kısa vadede, şirketler içinde çalışanların yeniden atandırılması konusunda yaratıcı olmak, işten çıkarma ihtiyacını önlemenin umut verici bir yolu olabilir. Uzun vadede, devasa toplam servetin olduğu ve birçok şirketin artan verimlilik ve sermaye yoğunlaşması nedeniyle değer kazandığı bir dünyada, geleneksel anlamda ekonomik değer sağlamayı bes etmedikleri zaman bile insan çalışanlara ödeme yapmak mümkün olabilir. Anthropic şu anda yakın gelecekte paylaşacağımız kendi çalışanlarımız için çeşitli olası yolları değerlendiriyor.'

'Anthropic'in tüm kurucu ortakları, servetimizin %80'ini bağışlayacağına söz verdiler.'

Ağır gerçekler, buna tamamen katılıyorum ve benzer şeyleri defalarca söyledim. 'Ayrıca, son birkaç yıl teknolojiyi durdurma veya hatta önemli ölçüde yavaşlatma fikrinin temelde sürdürülebilir olmadığını açıkça göstermeli. Güçlü yapay zeka sistemleri oluşturmanın formülü inanılmaz derecede basittir, öyle ki, neredeyse doğru veri ve ham hesaplama kombinasyonundan kendiliğinden ortaya çıktığı söylenebilir. İnsanlığın transistörü icat ettiği anda yaratılması muhtemelen kaçınılmazdı, hatta ateşi kontrol etmeyi ilk öğrendiğimizde daha da önce. Bir şirket inşa etmezse, diğerleri de neredeyse aynı hızda yapar. Eğer demokratik ülkelerdeki tüm şirketler karşılıklı anlaşma veya düzenleyici kararla gelişimi durdursa veya yavaşlatsa, otoriter ülkeler basitçe devam ederdi. Teknolojinin inanılmaz ekonomik ve askeri değeri ile anlamlı bir uygulama mekanizmasının olmaması göz önüne alındığında, onları durdurmaya nasıl ikna edebileceğimizi göremiyorum.'

Harika şeyler, kesinlikle tamamını okumaya değer. 'Önümüzdeki yıllar inanılmaz derecede zor olacak, bizden verebileceğimizden daha fazlasını talep edecek. Ama araştırmacı, lider ve vatandaş olarak geçirdiğim zamanda, kazanabileceğimize inanacak kadar cesaret ve asalet gördüm—en karanlık koşullara düştüğümüzde, insanlığın son anda kazanmak için gereken güç ve bilgeliği toplama yoluna sahip olduğuna. Zamanımızı kaybedecek bir şey yok.'