Jeśli nie wytrenujesz swoich CoT, aby wyglądały ładnie, możesz uzyskać pewne bezpieczeństwo z ich monitorowania. To wydaje się dobre do zrobienia! Ale jestem sceptyczny, czy to będzie działać wystarczająco niezawodnie, aby być nośnym w przypadku bezpieczeństwa. Ponadto, w miarę jak RL będzie się rozwijać, spodziewam się, że CoT będą coraz mniej czytelne.

Wow, OpenAI wprowadza nową funkcję plików

Tak wiele rzeczy, które można pokochać w Claude 4! Moim ulubionym jest to, że model jest tak mocny, że musieliśmy włączyć dodatkowe środki zaradcze zgodnie z polityką odpowiedzialnego skalowania Anthropic

Wyzwanie dla Ciebie: przełam naszą nową obronę przed jailbreakiem! Jest 8 poziomów. Czy potrafisz znaleźć jeden jailbreak, aby pokonać je wszystkie?

ludzie zbudowali maszyny, które rozmawiają z nami jak ludzie, a wszyscy zachowują się, jakby to było normalne. To całkiem szalone.