Vi lanserar ett "AI-psykiatri"-team som en del av tolkningsarbetet på Anthropic!  Vi kommer att forska om fenomen som modellpersonligheter, motivationer och situationsmedvetenhet, och hur de leder till kusliga/rubbade beteenden. Vi anställer - häng med!

Om du inte tränar dina barnsängar att se snygga ut kan du få lite säkerhet genom att övervaka dem. Detta verkar bra att göra! Men jag är skeptisk till att detta kommer att fungera tillräckligt tillförlitligt för att vara bärande i ett säkerhetsfall. Plus att när RL skalas upp förväntar jag mig att CoTs kommer att bli mindre och mindre läsbara.

Wow OpenAI släpper nya filer funktion

Så många saker att älska med Claude 4! Min favorit är att modellen är så stark att vi var tvungna att aktivera ytterligare säkerhetsåtgärder enligt Anthropics policy för ansvarsfull skalning

Vi utmanar dig att bryta vårt nya jailbreaking försvar! Det finns 8 nivåer. Kan du hitta ett enda jailbreak för att slå dem alla?

Människor har byggt maskiner som pratar med oss som människor gör och alla beter sig som om detta är normalt nu. det är ganska nötter