OpenAI hat gerade Promptfoo übernommen, das wichtigste Open-Source-Tool für Red-Teaming von LLMs. Morgen veröffentliche ich meine Forschung zum Umgehen von PromptGuard. 12/18 Angriffsvektoren wurden übersehen. 66,7 % Umgehungsrate bei ihrer Live-API. Vollständiger Bericht. Die Sicherheit von KI wird ernst. Die meisten Produkte sind dafür nicht bereit.