Se não treinares os teus CoTs para parecerem bons, poderás obter alguma segurança ao monitorizá-los. Parece uma boa ideia! Mas sou cético de que isto funcione de forma fiável o suficiente para ser considerado numa análise de segurança. Além disso, à medida que o RL é escalado, espero que os CoTs se tornem cada vez menos legíveis.

Uau, a OpenAI lançou uma nova funcionalidade de arquivos.

Tantas coisas para amar sobre Claude 4! Meu favorito é que o modelo é tão forte que tivemos que ativar mitigações de segurança adicionais de acordo com a política de escalonamento responsável da Anthropic

Desafiamos você a quebrar nossa nova defesa contra jailbreak! Existem 8 níveis. Você consegue encontrar um único jailbreak para vencê-los todos?

os humanos construíram máquinas que falam connosco como as pessoas fazem e toda a gente age como se isto fosse normal agora. é bastante louco