Pokaždé, když má LLM halucinace, jsem vděčný: Jsem vděčný, že jsem si toho všiml, a tak si připomínám, že jakýkoli výstup LLM musí být validován. Těmto věcem nikdy nemůžete věřit na 100%, pokud nemáte k dispozici další ověření, které je 100% spolehlivé.

Nedávný příklad: Vložil jsem velmi dlouhý text do Claude a požádal ho, aby identifikoval duplicitní části, které lze odstranit, a ukázal přesné citace. Vytváří halucinace částí, s uvozovkami, které ani neexistují v žádném vstupu!