Я вважаю, що можна створити реальне середовище, яке узгоджує ліжки з їхніми справжніми внутрішніми станами, щоб використовувати токени в його ліжку для правдивості і водночас покращувати його інтроспективні можливості
Bartosz Cywinski
Bartosz Cywinski23 груд., 03:15
Чи можемо ми зрозуміти ланцюг думок (CoT) LLM з латентним мисленням, використовуючи сучасні техніки інтерпретації механічних механізмів? Виявляється, ми можемо виявити інтерпретовану структуру, принаймні на простих математичних задачах! У короткому дослідженні ми показали, що латентні вектори представляють, наприклад, Проміжні розрахунки
Можеш спробувати це на Клоді і зробити блог-пост @_sholtodouglas будь ласка
27