Если вы не обучите свои CoT так, чтобы они выглядели хорошо, вы можете получить некоторую безопасность от их мониторинга. Это кажется хорошим делом! Но я скептически настроен, что это будет работать достаточно надежно, чтобы быть основой в случае безопасности. Кроме того, по мере масштабирования RL я ожидаю, что CoT будут становиться все менее и менее разборчивыми.

Вау, OpenAI выпустила новую функцию файлов.

Так много причин любить Claude 4! Моё любимое — это то, что модель настолько мощная, что нам пришлось включить дополнительные меры безопасности в соответствии с политикой ответственного масштабирования Anthropic.

Мы бросаем вам вызов сломать нашу новую защиту от джейлбрейка! Существует 8 уровней. Сможете ли вы найти единственный джейлбрейк, чтобы победить их всех?

люди создали машины, которые разговаривают с нами, как люди, и все ведут себя так, будто это нормально. Это довольно безумно.