Chúng tôi đang ra mắt một đội ngũ "tâm lý học AI" như một phần của nỗ lực giải thích tại Anthropic! Chúng tôi sẽ nghiên cứu các hiện tượng như nhân cách mô hình, động lực và nhận thức tình huống, và cách chúng dẫn đến những hành vi kỳ quái/không ổn định. Chúng tôi đang tuyển dụng - hãy tham gia cùng chúng tôi!

tin tức về openai IMO đã ảnh hưởng đến tôi khá nặng nề vào cuối tuần này tôi vẫn đang trong giai đoạn cấp tính của tác động, tôi nghĩ tôi coi mình là một nhà toán học chuyên nghiệp (một mô tả mà một số nhà toán học chuyên nghiệp thực sự có thể không đồng ý, nhưng bữa tiệc của tôi, quy tắc của tôi) và tôi không nghĩ mình có thể trả lời một câu hỏi IMO nào được rồi, vâng, IMO là một phân nhánh thể thao nhỏ của toán học mà tôi chưa được đào tạo, v.v. nhưng. nếu tôi gặp ai đó ngoài đời có huy chương vàng IMO, tôi ngay lập tức cập nhật rằng "người này giỏi toán hơn tôi" bây giờ một đống robot có thể làm điều đó. là một người có nhiều bản sắc và cuộc sống thực sự xoay quanh "giỏi toán", điều đó thật đau đớn. đó là một kiểu chết dần. như thể, một ngày nào đó bạn phát hiện ra bạn có thể nói chuyện với chó. điều đó thật thú vị và hấp dẫn nên bạn làm nhiều hơn, học hỏi những tinh tế trong ngôn ngữ và phong tục sâu sắc nhất của chúng. bạn học rằng những người khác ngạc nhiên về những gì bạn có thể làm. bạn chưa bao giờ thực sự hòa nhập, nhưng bạn học rằng mọi người đánh giá cao khả năng của bạn và muốn bạn ở bên để giúp họ. những chú chó cũng đánh giá cao bạn, người duy nhất thực sự hiểu điều đó. bạn tạo ra cho mình một kiểu thuộc về. rồi một ngày bạn thức dậy và máy dịch chó toàn cầu được bán tại walmart với giá 4,99 đô la kết quả IMO không phải là tin tức, chính xác mà nói. thực tế, nếu bạn nhìn vào biểu đồ độ dài nhiệm vụ của tác nhân METR theo thời gian, tôi nghĩ rằng các tác nhân có thể giải quyết các bài toán ~ 1,5 giờ đang đến đúng thời điểm. vì vậy theo một cách nào đó, chúng ta không nên ngạc nhiên. và thực sự, có vẻ như nhiều công ty đã đạt được cùng một kết quả. chỉ là... thủy triều đang dâng lên nhanh như nó đã dâng lên tất nhiên, nỗi buồn về bản sắc cá nhân của tôi như một nhà toán học (và/hoặc thành viên sản xuất của xã hội) là phần nhỏ nhất trong câu chuyện này nhân đôi nỗi buồn đó với *mỗi* nhà toán học, với mỗi lập trình viên, có thể là mỗi người lao động tri thức, mỗi nghệ sĩ... trong vài năm tới... đó là một câu chuyện lớn hơn một chút và tất nhiên, ngoài điều đó, còn có nỗi sợ cái chết thực sự, mà có lẽ tôi sẽ nói thêm sau. gói này -- nỗi buồn về sự liên quan, nỗi buồn về cuộc sống, nỗi buồn về những gì tôi đã biết -- không phải là điều độc nhất trong thời đại AI hay bất cứ điều gì như vậy. tôi nghĩ đó là điều tiêu chuẩn khi một người tiếp cận cuối sự nghiệp hoặc cuối đời. chỉ có thể rằng điều đó đang đến sớm hơn một chút cho nhiều người trong chúng ta, tất cả cùng một lúc. tôi tự hỏi liệu chúng ta có sẵn sàng không

BÂY GIỜ THÌ CÓ LÝ. Nhân viên xAI này công khai chấp nhận việc AI có thể gây ra sự tuyệt chủng cho loài người. Nhắc nhở: Dù điều này thật kinh hoàng, ~10% các nhà nghiên cứu AI tin vào điều này. Đây KHÔNG phải là quan điểm thiểu số! Thật không thể tin được, ngay cả người đoạt giải Turing Richard Sutton cũng đã nhiều lần lập luận rằng sự tuyệt chủng sẽ là điều ĐÚNG VỀ ĐẠO ĐỨC nếu AI thông minh hơn chúng ta (!) Ông đi khắp thế giới để phát biểu rằng chúng ta phải "chuẩn bị cho sự kế thừa" và "chúng ta nên nhường chỗ" và không cản trở "tiến trình tiến hóa" (ngay cả khi điều đó gây ra sự tuyệt chủng cho loài người). Thay vì đám đông kinh hãi, ông nhận được những tràng vỗ tay. Đe dọa một người? "Bạn cần giúp đỡ." Đe dọa 100 người? "Gọi cảnh sát!" Đe dọa hàng triệu người? "Quái vật!" Nhưng xây dựng máy móc để kết thúc TOÀN BỘ nhân loại và giảng giải cho mọi người về việc đó là điều tốt? "Ôi, thật là một quan điểm triết học thú vị! Nhận giải Turing đi!" Vì vậy, tất nhiên họ ủng hộ việc chống lại sự an toàn - họ thực sự là những kẻ chống lại nhân loại! Họ sẽ KHÔNG BAO GIỜ dừng lại hoặc tiến hành một cách thận trọng trừ khi họ bị ràng buộc bởi xã hội dân sự.

58% người dân đồng ý rằng "nếu chúng ta xây dựng các mô hình AI thông minh hơn chúng ta, chúng ta sẽ không thể kiểm soát chúng". Chỉ có 12% không đồng ý.