OpenAI právě získala Promptfoo, hlavní open-source nástroj pro red-teaming LLM. Zítra zveřejním svůj výzkum obcházení PromptGuardu. 12/18 útokových vektorů minul. 66,7% míře obcházení jejich živého API. Kompletní přehled. Bezpečnost AI je vážná. Většina produktů na to ještě není připravená.