Du änderst ein Wort in einem Kreditantrag: die Religion. Das LLM lehnt ihn ab. Zurückändern? Genehmigt. Das Modell erwähnt nie die Religion. Es stellt einfach das gleiche Schuldenverhältnis anders dar, um gegensätzliche Entscheidungen zu rechtfertigen. Wir haben eine Pipeline entwickelt, um diese versteckten Vorurteile zu finden 🧵1/13