Wenn Sie Ihre CoTs nicht so trainieren, dass sie gut aussehen, könnten Sie etwas Sicherheit durch deren Überwachung erhalten. Das scheint gut zu sein! Aber ich bin skeptisch, ob das zuverlässig genug funktioniert, um tragfähig in einem Sicherheitsfall zu sein. Außerdem erwarte ich, dass CoTs, wenn das RL skaliert wird, immer weniger lesbar werden.

Wow, OpenAI bringt eine neue Dateifunktion heraus.

So viele Dinge, die man an Claude 4 lieben kann! Mein Favorit ist, dass das Modell so stark ist, dass wir gemäß der verantwortungsvollen Skalierungsrichtlinie von Anthropic zusätzliche Sicherheitsmaßnahmen aktivieren mussten

Wir fordern Sie heraus, unsere neue Jailbreak-Abwehr zu überwinden! Es gibt 8 Level. Können Sie einen einzigen Jailbreak finden, um sie alle zu besiegen?

Menschen haben Maschinen gebaut, die mit uns sprechen wie Menschen, und jeder tut so, als wäre das jetzt normal. Das ist ziemlich verrückt.