Epiplexity, Gerekçeler ve LLM'lerin "Uzaylı" Davranışları: @AnthropicAI'de yapay zeka araştırmacısı ve @nyuniversity'de profesör olan @Pavel_Izmailov ile yaptığımı anlattığım konuşma. 00:00 - Giriş 00:53 - Uzaylı hayatta kalma içgüdüleri: sürekli öğrenmek büyük bir hizalama sorunu yaratacak mı? Gönderiye alıntı @iruletheworldmo 03:33 - Yapay zeka aldatmacayı bilim kurgu literatüründen öğrendi mi? 05:55 - Hizalanma, Süper Hizalama ve OpenAI ekiplerinin Tanımlanması 08:12 - Pavel'in yolculuğu: Rus matematiğinden OpenAI Süper Hizalanmasına 10:46 - Kültür kontrolü: Açık Yapay Zeka vs. Antropik vs. Akademi 11:54 - Neden NYU'ya taşındınız? Akademi ve keşif araştırmalarına ihtiyaç 13:09 - Akıl yürütmek yapay zeka hizalamasını zorlaştırır mı yoksa kolaylaştırır mı? 14:22 - Sandbagging: Modeller aptal numarası yaparken 16:19 - Ölçeklenebilir Denetim: Yapay Zekayı Denetlemek İçin Yapay Zekanın Kullanımı 18:04 - Zayıftan Güçlü Genellemeye 22:43 - Mekanistik Yorumlanabilirlik: Kara kutunun içinde 25:08 - Düşünce patlaması 27:07 - Transformers yeterli mi yoksa yeni bir paradigmaya mı ihtiyacımız var?...