Dün NeurIPS'de bir panel tartışması olan bilim için yapay zeka üzerine bir etkinlikteydim. Panelistler, bilimsel süreçte insanları her seviyede nasıl değiştirmeyi planladıklarını tartıştı. Bu yüzden ayağa kalkıp yaptıklarının kötü olduğunu itiraz ettim. Etrafına bak, dedim. Oda, çoğu genç olmak üzere çeşitli türden araştırmacılarla dolu. Burada, araştırmayı sevdikleri ve insan bilgisinin ilerlemesine katkıda bulunmak istedikleri için varlar. İnsanı döngüden çıkarırsanız, yani insanların artık bilimsel araştırmada hiçbir rolü kalmaz, bu da onları sevdikleri aktiviteden ve hayatlarının anlam kaynağından mahrum bırakmış olursunuz. Ve hepimiz anlamlı bir şey yapmak istiyoruz. Neden diye sordum, bilime katkıda bulunma fırsatını bizden almak istiyorsun? Sorum panelin gidişatını değiştirdi ve tartışmanın geri kalanının tonunu belirledi. Sonrasında birçok katılımcı yanıma geldi, ya duygularını kelimelere döktüğüm için teşekkür etmek ya da söylediklerimi gerçekten kastedip etmediğimi sormak için. Bu yüzden burada soruya geri dönmek istedim. Panelistlerden biri, gerçekten bilim yapmanın sevincini, kansere bir tedavi bulup ölümsüzlüğü mümkün kılmaktan çok tercih edip etmediğimi sordu. Ben de sonunda kanseri iyileştireceğimizi ve muhtemelen bir noktada ölümsüzlüğü seçebileceğimizi söyledim. Bilim şimdiden insanların başında büyük ilerleme kaydediyor. Bir gün füzyon gücü ve uzay yolculuğu da olacak. Belki insanları döngüden çıkarmak bu süreci hızlandırabilir, ama bence buna değmez. Bence biz insanların kendi ilerlememizden sorumlu olmamız çok önemli. İnsanlığın kolektif bilgisini genişletmek, bence yapabileceğimiz en anlamlı şey. Eğer insanlar artık bilime faydalı bir katkı sağlayamıyorsa, bu bir felaket olurdu. Yani, hayır. Eğer bu bilim yapamayacağımız anlamına geliyorsa, kansere daha hızlı bir tedavi bulmanın değdiğini düşünmüyorum. Dün gece yanıma gelip konuşmaya gelenler, ciddi mi olduğumu ya da sadece trol mi yaptığımı soranlar, bu önermenin saçma olduğunu düşündü. Elbette bilimde insanlara her zaman yer olacaktı. Her zaman sadece insanların yapabileceği görevler, sadece insanların sahip olduğu içgörü ve benzeri şeyler olacaktır. Bu nedenle, yapay zekayı memnuniyetle karşılamalıyız. Araştırma zor ve alabileceğimiz tüm yardıma ihtiyacımız var. Ben de umduğum doğru olduklarını söyledim. Yani, araştırma sürecinde insanların vazgeçilmez olacağı bölümler her zaman olmasını gerçekten umuyorum. Ama karşı çıktığım şey, insanların önemli rollerde döngüde kaldığı "zayıf bilim otomasyonu" değil, insanların gereksiz olduğu "güçlü bilim otomasyonu"ydu. Diğerleri ise bunun hakkında tartışmanın olgunlaşmamış olduğunu düşündü, çünkü tam bilim otomasyonu ufukta değil. Yine, umarım haklıdırlar. Ama şimdi bunu tartışmakta bir zararım yok. Ve kesinlikle daha ileri gitmek için bilim otomasyonu üzerine araştırmaya ihtiyacımız olduğunu düşünmüyorum. Bazıları ise bunun anlamsız bir tartışma olduğunu belirtti. Bilim otomasyonu istesek de istemesek de geliyor ve buna alışmamız lazım. Tren geliyor, ona binebilir ya da yolunda durabiliriz. Bence bu son derece korkakça bir argüman. Geliştirdiğimiz teknolojiyi nasıl kullanacağımıza toplum olarak karar vermek bize kalmıştır. Bu bir tren değil, bir kamyon, direksiyonu tutmalıyız. Panelistlerden biri, bilgisayarların artık safirde insanlardan çok daha iyi olmasına rağmen birçok kişinin saç oynadığını savunarak bir saç benzetmesi yaptı. Yani bilimi bir tür hobi olarak yapabiliriz, gerçek bilim bilgisayarlar tarafından yapılsa bile. Sınırdan uzakta oynuyor oluruz, belki yapay zeka sistemlerinin umursamadığı boşlukları doldururuz. Bu, hafif tabiri gerekirse, tatmin edici bir cevap değildi. Oyunları sevsem de, kesinlikle oyun oynamayı insan bilgisini ilerletmek kadar anlamlı bulmuyorum. Teşekkürler, ama hayır. Genel olarak, konuştuğum çoğu kişinin konuyu gündeme getirdiğim için bana teşekkür etmesi dikkat çekiciydi, çünkü zaten sahip oldukları endişeleri dile getiriyordum. Biri, bilimi otomatikleştirme üzerinde çalışıyorsanız ve nihai hedef hakkında hiç endişelenmiyorsanız, psikopat olduğunuzu söyledi. Başka bir ihtimal de yaptığın işe gerçekten inanmaman olabilir. Bazıları neden bu argümanı bilimsel olarak yaptığımı sorabilir, örneğin görsel sanat, müzik veya oyun tasarımı hakkında değil. Çünkü dünkü etkinlik bilim için yapay zeka hakkındaydı. Ama aynı argümanın insan, yaratıcı ve entelektüel ifadesinin tüm alanları için geçerli olduğunu düşünüyorum. İnsan entelektüel veya yaratıcı çalışmalarını gereksiz kılmak, mümkün olduğunda kaçınmamız gereken bir şeydir ve insanların geçiş yapabileceği eşit anlamlı yeni roller yoksa kesinlikle kaçınmalıyız. Ayrıca, insanları bilimsel araştırma gibi anlamlı yaratıcı çalışmalardan mahrum bırakmanın inanılmaz derecede egoist olduğunu da iddia edebilirsiniz. Yeni yapay zeka yöntemleri icat etmenin entelektüel tatmini yaşarsın ama bir sonraki nesil katkıda bulunma şansı bulamıyor. Neden çocuklarınızın (akademik ve biyolojik olarak) dünyadaki en anlamlı aktiviteye katılma şansını elinden almak istiyorsunuz? Peki, bilimi otomatikleştirmek için kullanılan yapay zeka yöntemleri üzerinde aktif olarak çalışan bir yapay zeka araştırmacısı olduğum için neye inanıyorum? Daha üretken ve yaratıcı olmamıza yardımcı olan yapay zeka araçlarının harika olduğuna inanıyorum, ama yerimizi alan yapay zeka araçlarının kötü olduğuna inanıyorum. Bilimi seviyorum ve artık bilime katkıda bulunamayacağımız için karanlık çağlara geri itileceğimiz bir gelecekten korkuyorum. İnsan özenliliği, yaratıcı süreçler dahil, hayati öneme sahiptir ve neredeyse her ne pahasına olursa olsun korunmalıdır. Yapay zeka geliştirme ve yapay zeka kullanımını nasıl yönlendireceğimi tam olarak bilmiyorum, böylece yeni araçlar elde edebiliriz ama yerini doldurulmayız. Ama bunun çok önemli olduğunu biliyorum.