Si no entrenas a tus CoTs para que se vean bien, podrías obtener algo de seguridad al monitorearlos. ¡Esto parece bueno hacerlo! Pero soy escéptico de que esto funcione de manera lo suficientemente confiable como para soportar carga en un caso de seguridad. Además, a medida que se amplíe el RL, espero que los CoT sean cada vez menos legibles.

Wow OpenAI lanza una nueva función de archivos

¡Tantas cosas que amar de Claude 4! Mi favorito es que el modelo es tan fuerte que tuvimos que activar mitigaciones de seguridad adicionales de acuerdo con la política de escalado responsable de Anthropic

¡Te desafiamos a romper nuestra nueva defensa contra el jailbreak! Hay 8 niveles. ¿Puedes encontrar un solo jailbreak para vencerlos a todos?

Los humanos construyeron máquinas que nos hablan como lo hacen las personas y todos actúan como si esto fuera normal ahora. Es una locura