Vay canına... Meta, "yapay zeka kendini geliştirecek ve bizi geride bırakacak" anlatısını tersine çeviren bir makale yayınladı ve sonuçları çok büyük 😳 İşte çılgın kısım: Süper zekaya giden en güvenli ve hızlı yolun aslında kendini geliştiren yapay zeka olmadığını savunuyorlar. İnsanlar ve yapay zekanın birlikte geliştirmesi, ortak bir sistem olarak yapay zeka araştırmaları yapıyor. "Yapay zeka araştırmacıların yerini alıyor" değil. "Yapay zeka karanlıkta kendini yeniden yazar" değil. Ama yapay zeka, özellikle insanlarla fikir oluşturma, kıyaslamalar, deneyler, hata analizi, hizalama çalışmaları ve sistem tasarımı konularında iş birliği yapmak için tasarlanmış. Ve detayları okuduğunuzda, bunun neden önemli olduğu açıkça anlaşılıyor: → Kendini geliştirme ve ortak geliştirme tamamen farklı iki dünya olarak: Kendini geliştirme insanları dışarı çıkarır. Ortak iyileştirme, insanların yapay zekayı geliştirdiği, yapay zekanın insan araştırmalarını geliştirdiği ve her iki tarafın birlikte tırmandığı bir döngü yaratır. → Sayfa 3'teki Tablo 1, "yapay zeka araştırma iş birliği"nin aslında ne anlama geldiğini açıklar: Ortak Tasarım Kıyaslamaları Ortak yürütme deneyleri Ortak hata ayıklama hataları Güvenlik yöntemlerinin birlikte geliştirilmesi Ortak Yazarlık Makaleleri ortak inşaat altyapısı Kelimenin tam anlamıyla tüm araştırma hattı, ama paylaşılıyor. → Mevcut her kendini geliştirme tekniğinin (sentetik veri, kendini ödüllendirme, kendi oyun, NAS vb.) kör noktaları vardır: ödül hackleme, kayma, kırılganlık, eksik insan geçmişi, sıfır şeffaflık. Ortak iyileştirme, insanları mantık döngüsünde tutarak başarısızlık modlarını aşıyor. Temel fikir çok güçlü bir şekilde vuruyor: Kendini geliştiren yapay zeka gözetimsiz olarak ilerler. Birlikte geliştiren yapay zeka insanlığı da yukarıya çekiyor. Ve daha büyük iddia: Eş-süperzeka "yapay zekanın süper zekaya dönüşmesi" değildir. İnsanlar + yapay zeka birlikte süper zeki oluyor — çünkü her iki taraf da aynı araştırma döngüsünde öğreniyor, örtülü bilgi biriktiriyor ve yineleme yapıyor. Bu paradigma tutarsa, gelecek "AGI vs insanlık" olmaz. Bu, birleşmiş bir araştırma organizması. Kolektif bir zeka. Bu makale, hizalama keskinliğiyle bitmeyen bir yapay zeka geleceği için şimdiye kadarki en net plan gibi hissettiriyor. Süper zekadan kaçmamıza gerek olmadığını savunuyor. Onunla birlikte evrimleşmemiz gerekiyor. Ve dürüst olmak gerekirse? Alternatiflerden çok daha mantıklı.

ChatGPT vs DeepSeek vs Gemini En iyi görünümlü web sitesi arayüzlerini hangisi yapar? Onları şu istemle test ettim: "HTML5 kullanarak premium dizüstü bilgisayar ve mobil aksesuarlar için bir e-ticaret sitesi oluştur." İşte sonuç:

MIT araştırmacıları ise hızlı mühendisliğin teknik değil, sosyal bir beceri olduğunu kanıtladı. ve bu keşif, yapay zeka ile çalışmak hakkında bildiğimizi sandığımız her şeyi yıkıyor. 667 kişiyi yapay zeka ile sorun çözen kişileri analiz ettiler. Bayes istatistiklerini kullanarak her kişide iki farklı yeteneği izole etti. Sorunları tek başına çözme yeteneği. Yapay zeka ile sorun çözme yeteneği. İşte tüm çerçeveyi yıkan şey. bu iki yetenek neredeyse hiç örtüşmüyor. Kendi başına dahi bir problem çözücü olmak, yapay zeka ile ne kadar iyi iş birliği yapacağın hakkında neredeyse hiçbir şey söylemiyor. Bunlar ayrı, ölçülebilir ve bağımsız işlevsel becerilerdir. Bu da demek oluyor ki, her prompt mühendisliği dersi, her mega-prompt şablonu, her "daha iyi sonuçlar için 10 hile" başlığı, iyi sonuçlar aldığınızda aslında ne olduğunu temelde yanlış anlıyor. Şablonlar çalışıyor. Ama herkesin düşündüğü sebepten değil. Çünkü sizi tamamen başka bir şey yapmaya zorladıkları için işe yarıyorlar. Yapay zeka ile başarıyı gerçekten öngören beceri anahtar kelimeler, yapı veya düşünce zinciri biçimlendirme ile ilgili değildir. Bu zihin teorisi. Başka bir ajanın bildiği, bilmediği, inandığı, ihtiyaç duyduğu şeyi modelleme yeteneğiniz. Onların kafa karışıklığını önceden tahmin etmelerini istiyordu. varlığından bile haberdar olmadığın bilgi boşluklarını kapatmak için. Ve işte oyunu tamamen değiştiren kısım: Bunun ya sahip olduğunuz ya da olmayan statik bir özellik olmadığını kanıtladılar. dinamik. Aktif. Açıp kapattığın bir şey. Perspektif almak için gösterdiğiniz bilişsel çaba miktarındaki an anlık değişiklikler, bireysel sorularda doğrudan yapay zeka yanıt kalitesini değiştirdi. Yani bir soruya gerçekten durup "Bu yapay zekanın benim hafife aldığım neyi bilmesi gerekiyor" diye düşündüğünüzde, o soruya ölçülebilir şekilde daha iyi cevaplar alıyorsunuz. Yetenek, yukarı aşağı asardığın bir şey. egzersiz. güçlendirmek. Sahip olduğunu bilmediğin bir kas gibi. Yapay zekaya doğru sihirli kelimelerle hacklemeye çalıştığınız bir arama motoru yerine eksik bilgiye sahip bir işbirlikçi gibi davrandıkça daha iyi olur.