Bence bir gerçek gerçek ortam oluşturabilirsin, böylece yatağın içindeki tokenları doğruluk için kullanabilirsin ve aynı zamanda içe dönük yeteneklerini geliştirebilirsin
Bartosz Cywinski
Bartosz Cywinski23 Ara 03:15
Mevcut mekanik interp teknikleriyle gizli akıl yürütme LLM'lerinin düşünce zincirini (CoT) anlayabilir miyiz? En azından basit matematik problemlerinde yorumlanabilir yapıyı ortaya çıkarabildiğimiz ortaya çıktı! Kısa bir çalışmada, gizli vektörlerin örneğin temsil ettiğini gösteriyoruz. Ara hesaplamalar
Bunu Claude'da deneyebilir misin ve lütfen @_sholtodouglas bir blog yazısı yapabilir misin lütfen.
21