Se você não treinar seus CoTs para ficarem bonitos, poderá obter alguma segurança monitorando-os. Isso parece bom de se fazer! Mas estou cético de que isso funcionará de forma confiável o suficiente para suportar carga em um caso de segurança. Além disso, à medida que o RL é ampliado, espero que os CoTs se tornem cada vez menos legíveis.

Uau, OpenAI lança novo recurso de arquivos

Tantas coisas para amar em Claude 4! Meu favorito é que o modelo é tão forte que tivemos que ativar mitigações de segurança adicionais de acordo com a política de dimensionamento responsável da Anthropic

Desafiamos você a quebrar nossa nova defesa de jailbreak! Existem 8 níveis. Você consegue encontrar um único jailbreak para vencer todos eles?

Os humanos construíram máquinas que falam conosco como as pessoas fazem e todos agem como se isso fosse normal agora. é muito louco