OpenAI tocmai a achiziționat Promptfoo, principalul instrument open-source pentru red-team la LLM-uri. Mâine voi publica cercetarea mea despre ocolirea PromptGuard. 12/18 vectori de atac ratați. Rată de ocolire de 66,7% pe API-ul lor live. Descriere completă. Securitatea AI devine serioasă. Majoritatea produselor nu sunt pregătite pentru asta.