Hvis du ikke trener CoT-ene dine til å se fine ut, kan du få litt sikkerhet ved å overvåke dem. Dette virker bra å gjøre! Men jeg er skeptisk til at dette vil fungere pålitelig nok til å være bærende i en sikkerhetssak. I tillegg til at RL skaleres opp, forventer jeg at CoT-er blir mindre og mindre lesbare.

Wow OpenAI slipper ny filfunksjon

Så mange ting å elske med Claude 4! Min favoritt er at modellen er så sterk at vi måtte slå på ytterligere sikkerhetsbegrensninger i henhold til Anthropics retningslinjer for ansvarlig skalering

Vi utfordrer deg til å bryte vårt nye jailbreaking-forsvar! Det er 8 nivåer. Kan du finne et enkelt jailbreak for å slå dem alle?

Mennesker bygde maskiner som snakker til oss som mennesker gjør, og alle oppfører seg som om dette er normalt nå. Det er ganske nøtt