La IA siempre te mentirá. No es un error, es una ley matemática. Yo, un estudiante de matemáticas de la Universidad Carnegie Mellon, te diré por qué con matemáticas. Todos los modelos de lenguaje hacen una sola cosa: predecir la siguiente palabra más probable según todo lo que han leído. Pero aquí hay un nudo muerto. La suposición del modelo, la llamamos q(x). La probabilidad del mundo real, la llamamos p(x). q(x) nunca puede ser igual a p(x). Siempre hay un abismo entre ellos. Hay una fórmula matemática que se utiliza para medir este abismo. Mientras el modelo no pueda predecir perfectamente la siguiente palabra nunca podrá ese abismo nunca será cero. Entonces, ¿qué sucede cuando la IA no conoce la verdad? No puede detenerse, debe darte una respuesta. Solo puede, a regañadientes, dar una respuesta que cree que es "la más parecida". Aunque sea incorrecta. Eso es lo que se llama "alucinación". Una suposición increíblemente confiada basada en información incompleta. Lo más grave es que las matemáticas incluso dan un límite inferior. Incluso el modelo más perfecto, su tasa de alucinación nunca puede ser inferior a este número....