Adam, Adam, ai là Adam vậy?

Tuyên bố của ICML về các prompt LLM ẩn giấu có tính chất phá hoại Chúng ta đang sống trong một dòng thời gian kỳ lạ...

tin tức về openai IMO đã ảnh hưởng đến tôi khá nặng nề vào cuối tuần này tôi vẫn đang trong giai đoạn cấp tính của tác động, tôi nghĩ tôi coi mình là một nhà toán học chuyên nghiệp (một mô tả mà một số nhà toán học chuyên nghiệp thực sự có thể không đồng ý, nhưng bữa tiệc của tôi, quy tắc của tôi) và tôi không nghĩ mình có thể trả lời một câu hỏi IMO nào được rồi, vâng, IMO là một phân nhánh thể thao nhỏ của toán học mà tôi chưa được đào tạo, v.v. nhưng. nếu tôi gặp ai đó ngoài đời có huy chương vàng IMO, tôi ngay lập tức cập nhật rằng "người này giỏi toán hơn tôi" bây giờ một đống robot có thể làm điều đó. là một người có nhiều bản sắc và cuộc sống thực sự xoay quanh "giỏi toán", điều đó thật đau đớn. đó là một kiểu chết dần. như thể, một ngày nào đó bạn phát hiện ra bạn có thể nói chuyện với chó. điều đó thật thú vị và hấp dẫn nên bạn làm nhiều hơn, học hỏi những tinh tế trong ngôn ngữ và phong tục sâu sắc nhất của chúng. bạn học rằng những người khác ngạc nhiên về những gì bạn có thể làm. bạn chưa bao giờ thực sự hòa nhập, nhưng bạn học rằng mọi người đánh giá cao khả năng của bạn và muốn bạn ở bên để giúp họ. những chú chó cũng đánh giá cao bạn, người duy nhất thực sự hiểu điều đó. bạn tạo ra cho mình một kiểu thuộc về. rồi một ngày bạn thức dậy và máy dịch chó toàn cầu được bán tại walmart với giá 4,99 đô la kết quả IMO không phải là tin tức, chính xác mà nói. thực tế, nếu bạn nhìn vào biểu đồ độ dài nhiệm vụ của tác nhân METR theo thời gian, tôi nghĩ rằng các tác nhân có thể giải quyết các bài toán ~ 1,5 giờ đang đến đúng thời điểm. vì vậy theo một cách nào đó, chúng ta không nên ngạc nhiên. và thực sự, có vẻ như nhiều công ty đã đạt được cùng một kết quả. chỉ là... thủy triều đang dâng lên nhanh như nó đã dâng lên tất nhiên, nỗi buồn về bản sắc cá nhân của tôi như một nhà toán học (và/hoặc thành viên sản xuất của xã hội) là phần nhỏ nhất trong câu chuyện này nhân đôi nỗi buồn đó với *mỗi* nhà toán học, với mỗi lập trình viên, có thể là mỗi người lao động tri thức, mỗi nghệ sĩ... trong vài năm tới... đó là một câu chuyện lớn hơn một chút và tất nhiên, ngoài điều đó, còn có nỗi sợ cái chết thực sự, mà có lẽ tôi sẽ nói thêm sau. gói này -- nỗi buồn về sự liên quan, nỗi buồn về cuộc sống, nỗi buồn về những gì tôi đã biết -- không phải là điều độc nhất trong thời đại AI hay bất cứ điều gì như vậy. tôi nghĩ đó là điều tiêu chuẩn khi một người tiếp cận cuối sự nghiệp hoặc cuối đời. chỉ có thể rằng điều đó đang đến sớm hơn một chút cho nhiều người trong chúng ta, tất cả cùng một lúc. tôi tự hỏi liệu chúng ta có sẵn sàng không

Hôm nay, chúng tôi tại @OpenAI đã đạt được một cột mốc mà nhiều người cho là còn nhiều năm nữa mới có thể đạt được: hiệu suất đạt huy chương vàng tại IMO 2025 với một LLM lý luận tổng quát—dưới cùng thời gian giới hạn như con người, không có công cụ. Dù nghe có vẻ đáng kinh ngạc, nhưng điều này còn quan trọng hơn cả tiêu đề 🧵