Als je je CoTs niet traint om er goed uit te zien, kun je enige veiligheid krijgen door ze te monitoren. Dit lijkt goed om te doen! Maar ik ben sceptisch dat dit betrouwbaar genoeg zal werken om dragend te zijn in een veiligheidszaak. Bovendien verwacht ik dat naarmate RL wordt opgeschaald, CoTs steeds minder leesbaar zullen worden.

Wauw, OpenAI introduceert een nieuwe bestandsfunctie

Zoveel dingen om van te houden aan Claude 4! Mijn favoriet is dat het model zo sterk is dat we extra veiligheidsmaatregelen moesten inschakelen volgens het beleid van Anthropic voor verantwoord schalen

We dagen je uit om onze nieuwe jailbreak-verdediging te doorbreken! Er zijn 8 niveaus. Kun jij een enkele jailbreak vinden om ze allemaal te verslaan?

mensen hebben machines gebouwd die met ons praten zoals mensen dat doen en iedereen doet alsof dit nu normaal is. het is best gek