OpenAI ha appena acquisito Promptfoo, il principale strumento open-source per il red-teaming degli LLM. Domani pubblicherò la mia ricerca sul bypass di PromptGuard. 12/18 vettori d'attacco mancati. Tasso di bypass del 66,7% sulla loro API live. Resoconto completo. La sicurezza dell'AI sta diventando seria. La maggior parte dei prodotti non è pronta per questo.