Hver eneste gang en LLM hallusinerer, er jeg takknemlig: Takknemlig for at jeg oppdaget det, og dermed minne meg selv på at all LLM-utgang må valideres. Du kan aldri stole 100 % på disse tingene med mindre du har ytterligere validering på plass som er 100 % pålitelig.

Et nylig eksempel: Jeg limte inn veldig lang tekst i Claude, og ba den om å identifisere dupliserte deler som kan fjernes, med nøyaktige anførselstegn. Den hallusinerte deler, med anførselstegn, som ikke engang eksisterer i noen innspill!