Se non alleni i tuoi CoT a sembrare belli, potresti ottenere un certo livello di sicurezza monitorandoli. Sembra una buona idea! Ma sono scettico che questo funzioni in modo sufficientemente affidabile da essere considerato portante in un caso di sicurezza. Inoltre, man mano che l'RL viene scalato, mi aspetto che i CoT diventino sempre meno leggibili.

Wow, OpenAI lancia una nuova funzione di file.

Quante cose da amare di Claude 4! Il mio preferito è che il modello è così forte che abbiamo dovuto attivare ulteriori mitigazioni di sicurezza secondo la politica di ridimensionamento responsabile di Anthropic

Ti sfidiamo a superare la nostra nuova difesa contro il jailbreak! Ci sono 8 livelli. Riuscirai a trovare un unico jailbreak per superarli tutti?

gli esseri umani hanno costruito macchine che parlano con noi come fanno le persone e tutti si comportano come se questo fosse normale ora. È piuttosto pazzesco.