Chúng tôi đang ra mắt một đội ngũ "tâm lý học AI" như một phần của nỗ lực giải thích tại Anthropic! Chúng tôi sẽ nghiên cứu các hiện tượng như nhân cách mô hình, động lực và nhận thức tình huống, và cách chúng dẫn đến những hành vi kỳ quái/không ổn định. Chúng tôi đang tuyển dụng - hãy tham gia cùng chúng tôi!

Nếu bạn không huấn luyện các CoTs của mình trông đẹp, bạn có thể nhận được một số sự an toàn từ việc giám sát chúng. Điều này có vẻ tốt để làm! Nhưng tôi hoài nghi rằng điều này sẽ hoạt động đủ đáng tin cậy để có thể chịu tải trong một trường hợp an toàn. Hơn nữa, khi RL được mở rộng, tôi mong rằng các CoTs sẽ trở nên ít dễ đọc hơn.

Wow, OpenAI ra mắt tính năng tệp mới

Có rất nhiều điều để yêu thích về Claude 4! Điều tôi thích nhất là mô hình này mạnh mẽ đến mức chúng tôi phải bật các biện pháp giảm thiểu an toàn bổ sung theo chính sách mở rộng có trách nhiệm của Anthropic

Chúng tôi thách thức bạn phá vỡ hệ thống phòng thủ jailbreak mới của chúng tôi! Có 8 cấp độ. Bạn có thể tìm ra một jailbreak duy nhất để vượt qua tất cả không?

con người đã xây dựng những cỗ máy nói chuyện với chúng ta như con người và mọi người đều hành xử như đây là điều bình thường bây giờ. Thật điên rồ.