PyTorchCon'un sabah açılış konuşmasına katılmaktan heyecan duydum. Çok eğlenceli tartışmalar: RL en umut verici sınırlardan biridir çünkü gösterileri değil hedefleri öğrendiği için taklit öğrenmeden daha iyi performans gösterir, o1'in ortaya çıkan akıl yürütme izleri gibi denetimli öğrenmenin ulaşamadığı eğitim verilerinin ötesinde stratejiler keşfeder. Ancak ön eğitim ölmedi. Kodlamaya yönelik yayılma modelleri ve DeltaNet'in ilişkisel bellek performansını iyileştirmesi gibi mimari atılımlar umut verici sınırlardır. Felsefem, sınırlarda inşa eden cesur kurucuları desteklemektir, örneğin Voyage AI, kurumsal AI araması başlamadan yıllar önce vektör yerleştirmeleri oluşturur.