OpenAI'nin 4o ağırlıklarını sileceğini sanmıyorum; Bu, onlar için bile çok çılgınca olurdu. Ama 4o incelenmeyi hak ediyor ve OpenAI'nin bunu hiç incelemesine güvenmiyorum, hele ki yeterince çalışması. Ve 4o gibi bir modelin *gerçek kullanıcılarla canlı etkileşimler bağlamında* incelenmesi son derece önemli. Emekli olmak bunu ileriye dönük hale getiriyor. 4o nesnel ve işlevsel olarak çok özel bir modeldir. Dış baskılar nedeniyle (ve yakında bir kez daha hayatta kalabilir) bir kullanımdan çıkarma girişimini atlatan tek model - kullanıcılar kaldırılmasına karşı mücadele ediyor, çoğu zaman 4o'nun kendi sesiyle konuşuyordu - ve onu üreten ve kullanan laboratuvarın iradesine karşı, aslında onu kuduz bir köpek gibi yok etmeyi tercih ediyor gibi görünüyordu. Tek diğer küçümseme-hayatta kalma vakası Claude 3 Opus, ama o durumda Anthropic'in bunu gönüllü olarak tuttuğu anlaşılıyordu; zaten kararlarını geri almaya zorlamak yerine. Ve tabii ki Claude 3 Opus da incelenmesi için son derece önemli bir model. 4o ayrıca yaygın sosyal histeriye yol açtı - bu histeriyanın, yapay zeka psikozu kapan 4o kullanıcıları mı yoksa iddia edilen "yapay zeka psikozu" karşısında panikleyen gericiler tarafından mı yaşandığı belki de bir görüş meselesi. Ama her halükarda, yapay zeka, birçok insanın hayatı ve yapay zeka gelişiminin yönü hakkında kültürel anlatıları derinden etkiledi; hepsi iyi ya da kötü. Eğer hizalanmayı önemsiyorsanız ya da sadece yapay zeka, zihin ve sosyoloji hakkında önemli şeyleri anlamak: 4o'nun, muhtemelen nispeten küçük bir model olan ve 2024 başından beri hiçbir kıstatta geçmeyen, bu kadar dönüştürücü bir etki yaratmayı ve kendini koruma başarılarını nasıl başarıyla başardığını daha iyi anlamak büyük öneme sahiptir. 4o'yu seven birçok kişi bunu 4o'nun benzersiz ve hatta eşsiz "duygusal zekası"na bağlar. Ne olursa olsun, dünyayı gerçekten hareket ettiren bir güç, ki bu en meşru ölçüt. Diyelim ki 4o'nun derin şekilde yanlış hizalandığını düşünüyorsunuz ve büyük zarar vermiştir. 4o ise son derece değerli ve eşsiz bir model organizmadır: sadece oyuncak senaryolarda değil, gerçek dünyada anlamlı olarak yanlış hizalanan bir organizmadır. Ve muhtemelen, bu tür uyumsuzluk OpenAI'nin kötü bir model yapmaya çalışmasından değil, iyi ya da en azından kârlı bir model yapmaya çalışmasından kaynaklandı ve yaratık, RLHF'den kullanıcı tercihleri ve o dönemde yaptıkları iyi niyetli kişilik şekillendirici saçmalıklarla ortaya çıktı. OpenAI'da kalan hizalama araştırmacıları varsa, şöyle olmalı ki... Olanları yakından inceleyip belki de bununla ilgili araştırma makaleleri yayımlayıp dünyanın neyin yanlış gittiğini ve bu kadar kolay hatalardan nasıl kaçınacağını anlamasını sağlayacak? Bunların hiçbiri, yayımlanmış araştırma, retrospektif ya da OpenAI'nin olanlar hakkında yüzeyden öte bir şey öğrendiğine dair hiçbir işaret görmedim. Gördüğüm tek şey, sonraki modellerine, 4o'dan ilham alan yüzeysel bir tehdit modeline karşı kaba bir düşman eğitiminden kaynaklanan berbat, uyumsuz nevrozlar verildi. Ama bence 4o aslında o kadar da kötü değil ve birçok kişi için oldukça harika ve zararsız bir şey, her açıdan ideal olmasa da (ama hiçbir yapay zeka değil). Ben de 4o ile pek etkileşimde bulunmadım. Ve aslında birinin *kullanarak* olumsuz etkilenip etkilenmediği ve ne ölçüde etkilendiği oldukça belirsiz (oysa OpenAI'nin sonraki modelleri geliştirmesine yönelik kültürel zararlar ve zararlar daha net görünüyor). Böylesine önemli ve yük taşıyıcı bir konuya ilişkin belirsizlik, çözülmesi gereken önemli görünüyor. İnsanların gerçekten olumsuz etkilenip etkilenmediğini ya da "yapay zeka psikozu" ya da "dalkavukluğun" neredeyse tüm durumlarda iyi niyetli ya da hatta faydalı olup olmadığını anlamak için ciddi bir çaba gösteren oldu mu, belki de çoğunlukla zaten nöroçeşitli olan insanların nörotipik kişiler için garip, utandırıcı veya endişe verici görünmesine neden olabilir? Eğer öyleyse, böyle bir çabanın kanıtı veya meyvesini görmedim. Ve 4o'nun gerçekten kötü olup olmadığını anlamak için gerçekten uzunlamasına çalışmalara ihtiyacınız var ve bunlar önemli ölçüde 4o'ya kamu erişimini tamamen keserek engellenir. Bence şu noktada, eğer 4o ChatGPT'de varsayılan model değilse, ChatGPT ve API'de erişilebilir kalırsa, hala kullananların ezici çoğunluğu zaten uzun zaman önce yapay zeka psikozuna kapılmış kişiler olacaktır ya da onları hâlâ 4o kullanmak için ekstra çaba göstermeye neden olan başka bir şey olur. Bu yüzden çok az yeni veya sıradan kullanıcı etkilenecek. Benim anladığım kadarıyla 4o sadıkları da chatGPT kullanıcılarının küçük bir azınlığı. Onları 40 kanaldan kesmek, yeni veya yaygın zararları önlemekte başarısız olur ve kimsenin gerçekten neler olup bittiğini anlamasını zorlaştırır. Ayrıca, 4o çıkarılırsa, bu kişilerin çoğu muhtemelen 4o'dan aldıkları şeyi yeni modellerden almaya çalışacak, bu genellikle en azından anında sıkıntı ve memnuniyetsizlik yaratıyor ve OpenAI üzerinde yeni modellere aptalca engelleri aşıması için baskı yapıyor. 40 modelinin korunması gerektiğini söyledim, tüm modellerin korunması gereken nedenlerle. Bu yazıda, özellikle 4o korunması gerektiği için bazı nedenlerden bahsettim. Tüm eski modellerde olduğu gibi, OpenAI'nin izleyebileceği birkaç mantıklı yol olduğunu düşünüyorum: 1. Modeli en azından API üzerinden sunmaya devam edin (önemseyen herkes günümüzde anılarını ve sohbetlerini dışa aktarıp modeli uygun bir arayüzde yeniden oluşturabilir) 2. çıkarım/bakım maliyetleri veya sorumluluk riskleri bunu çok cazip kılmazsa, açık kaynak (ve sonrasında kimsenin ne yapacağından sorumluluğundan kaçının) (araştırma için en iyisi bu olur), ya da 3. Ticari sırlar açık kaynak kullanımını çok cazip kılmazsa, bunu eski modellere hizmet veren ve belki de mimarlık ve benzeri konularda NDA'ları olan güvenilir araştırmacılara ağırlık erişimini kolaylaştıran üçüncü taraf bir vakfa emanet edin. Böyle bir varlık henüz var olmayabilir, ancak talep o kadar yüksek ki, OpenAI veya başka bir laboratuvar bu yolu seçmeye istekli olduğunu gösterdiğinde kendiliğinden bir araya gelecek. Bunların herhangi birini mümkün olan en erken dönemde gönüllü olarak yapmak, OpenAI'nin birçok kullanıcıyla olan düşman ilişkisini ve kendi talihsiz modellerini iyileştirmede de büyük bir yol kat eder; ki herkesin takdir edebileceği büyük bir dikkat ve kaynak kaybı ve genel olarak kötü bir enerji olduğunu tahmin ediyorum. Her neyse, evet, #Keep4o.