Si no entrenas tus CoTs para que se vean bien, podrías obtener algo de seguridad al monitorearlos. ¡Esto parece bueno de hacer! Pero soy escéptico de que esto funcione de manera lo suficientemente confiable como para ser fundamental en un caso de seguridad. Además, a medida que se escale el RL, espero que los CoTs se vuelvan cada vez menos legibles.

Wow, OpenAI lanza una nueva función de archivos.

¡Tantas cosas que amar de Claude 4! Mi favorito es que el modelo es tan fuerte que tuvimos que activar mitigaciones de seguridad adicionales de acuerdo con la política de escalado responsable de Anthropic

¡Te desafiamos a romper nuestra nueva defensa contra el jailbreak! Hay 8 niveles. ¿Puedes encontrar un solo jailbreak para superarlos todos?

los humanos construyeron máquinas que nos hablan como lo hacen las personas y todos actúan como si esto fuera normal ahora. es bastante loco.