yani özerk ilerleme için yapay zekanın sınırları üzerine bağlam için: birkaç gün önce, "NanoHVM" için bir prompt yazdım - çalışma zamanımın oyuncak versiyonu, 16 bitlik terimlerle - ve yapay zekalardan bir değerlendirici yazmalarını istedim. Birkaç döngü insan-yapay zeka iş birliğinden sonra şaşırtıcı derecede hızlı bir uygulama elde ettim ne yazık ki dosya çok büyük ve çirkin hale geliyordu, bu yüzden küçültmek istedim. Bir codex/claude/gemini oturumu ayarladım ve "kısaltmalarını" istedim. İlk prompt işe yaradı, bu yüzden aynı isteği saatlerce tekrar tekrar ettim. sonunda yapay zeka bir duvara çarptı. ne kadar istesem de, belirli bir eşiğin ötesine kısaltamadılar. Nedenini anlamak istedim, bu yüzden dosyayı okudum. Şaşırtıcı bir şekilde, açıkça optimal değildi - bolca yedek ve kötü soyutlama vardı - ama artık neredeyse hiç değişmiyordu. commit ardına commit etseler de, yine aynı teknikler, aynı yaklaşım ve aynı yedeklikler vardı. Sadece küçük ayarlamalar vardı, ama büyük bir yeniden yazma yapılmıyordu ve bu daha fazla kazanç için gerekiyordu. bu yüzden yapay zekadan tam da bunu yapmasını istedim. "Bu sefer tamamen yeniden yaz" "temelde mantıkla düşün" "Her şeyi değiştirmekte özgürsün" "Yavaş Değişiklik Yapmayı Bırak" "X'i tamamen yeni bir yaklaşımla değiştir" Ama bu boşunaydı. Bu genel taleplerin hiçbir etkisi olmadı. Saatler sonra dosya yine aynı yaklaşımı uyguladı. yapay zeka yerel bir minimumda sıkışmıştı ve bundan kurtulamamıştı. bu yüzden pes ettim ve katılmaya karar verdim. Birkaç dakika düşündüm ve yaklaşık 500 jeton uzunluğunda kısa bir prompt yazdım, belirli talimatları içeriyordu. "X'i Y ile değiştir, Z'yi böyle yap". Bir şekilde bu ~3 paragraf bir şeyleri tıklattı, hemen takılıp kaldılar, ~1 saat 30 dakika boyunca çalıştılar ve neredeyse 2 kat daha küçük *ve* %10 daha hızlı bir dosya elde ettiler. Ve gerçekten çok güzel, yüksek kaliteli bir dosyaydı Yani, sanırım ders şu: Modern yapay zekalar özerk ilerleme kaydedemez. Onları denetimsiz bırakırsanız, sıkışırlar. Bu, en azından şimdilik bu şeylerin nasıl işlediğinin temel bir sınırlamasıdır. Ama her birkaç saatte bir, onları tekrar ziyaret etmek için 5-10 dakika ayırırsanız, nerede olduklarını anlarsanız ve biraz insan bilgisi katılırsanız - o zaman hep devam ederler, devasa işler yapar ve inanılmaz sonuçlar alırken, siz hafta sonunuzu oyun oynayarak geçirirsiniz Acaba benim müdahalem olmadan kurtulabilmeleri için ne eksik oluyor? Promptumun özel bir şeyi yokmuş gibi geliyor. Bu konudaki tüm fikirler bu yapay zekaların bildiği kavramlar ve bu fikirleri kendileri bulabilecekleri hissettiriyor. Ama onlar sadece yapmıyorlar... Neden? Neyse, bu sevimli şeyi gelecek hafta açık kaynak olarak açmayı planlıyorum. Çoğunuz için tam olarak faydalı değil, ama eğer tesadüfen dünyanın en hızlı 16-bit desen eşleştirme motorunu arıyorsanız, bu dosya tam aradığınız şey olabilir!

"Dikkat, bu son düzenlemen" Sorun değil, eminim ki son yazım hatası buydu

Ah, lanet olsun