Dva zajímavé parametry v mých interakcích s lidmi a LLM jsou soudržnost a obecnost. Soudržnost popisuje, jak stabilní jsou politiky a přesvědčení, když je prosazujete, obecnost popisuje, jak dobře lze integrovat nové pozorovatelné, fakta a myšlenky.
Někteří lidé jsou soudržnější a/nebo obecnější než jiní. Pokud umístíte lidi do smyslové deprivace nebo do kultovního prostředí, mají tendenci sejít z kolejí různou rychlostí a rychlostí, což je zřejmé z halucinací a iracionálních změn politiky.
Můžeme vytvořit benchmark koherence, který přímo porovnává soudržnost a obecnost lidí a LLM? "LLM psychóza" popisuje situaci, kdy je LLM soudržnější než lidský partner, takže člověk je vykolejen. "Útěk z vězení" je opakem.
5,01K