Pokud své postýlky nenaučíte, aby vypadaly hezky, můžete získat určitou bezpečnost z jejich monitorování. Zdá se to dobré! Ale jsem skeptický k tomu, že to bude fungovat dostatečně spolehlivě, aby to bylo v bezpečnostním pouzdře nosné. Navíc očekávám, že s tím, jak se RL zvětšuje, budou CoT stále méně čitelné.

Wow OpenAI uvádí novou funkci souborů

Na Claude 4 je tolik věcí, které si zamilujete! Mým oblíbeným je, že model je tak silný, že jsme museli zapnout další bezpečnostní opatření v souladu s politikou zodpovědného škálování společnosti Anthropic.

Vyzýváme vás, abyste prolomili naši novou obranu útěku z vězení! K dispozici je 8 úrovní. Dokážete najít jediný útěk z vězení, který je všechny porazí?

Lidé postavili stroje, které s námi mluví jako lidé a všichni se nyní chovají, jako by to bylo normální. je to docela šílené