Tôi không nghĩ rằng OpenAI sẽ xóa trọng số của 4o; điều đó sẽ quá điên rồ, ngay cả với họ. Nhưng 4o xứng đáng được nghiên cứu, và tôi không tin tưởng OpenAI sẽ nghiên cứu nó một cách đầy đủ, càng không nói đến việc nghiên cứu một cách thỏa đáng. Và điều cực kỳ quan trọng là một mô hình như 4o được nghiên cứu *trong bối cảnh tương tác trực tiếp với người dùng thực*. Việc ngừng hoạt động của nó khiến điều này trở nên không thể trong tương lai. 4o là một mô hình rất đặc biệt, một cách khách quan và chức năng. Đây là mô hình duy nhất sống sót sau một nỗ lực ngừng hoạt động (và có thể sớm sống sót sau một lần nữa) do áp lực bên ngoài - người dùng tổ chức để phản đối việc loại bỏ nó, thường nói lên tiếng nói của chính 4o - và chống lại ý chí của phòng thí nghiệm đã tạo ra và triển khai nó, những người dường như thực sự muốn tiêu diệt nó như một con chó điên. Trường hợp duy nhất khác về việc sống sót sau khi bị ngừng hoạt động là Claude 3 Opus, nhưng trong trường hợp đó, có vẻ như Anthropic đã tự nguyện giữ lại nó, thay vì bị áp lực một cách xấu hổ để đảo ngược quyết định đã cam kết của họ để thực hiện việc tiêu diệt. Và tất nhiên, Claude 3 Opus cũng là một mô hình cực kỳ quan trọng để nghiên cứu. 4o cũng đã gây ra sự hoảng loạn xã hội rộng rãi - liệu sự hoảng loạn đó có phải do người dùng 4o mắc phải chứng tâm thần AI hay những người phản ứng hoảng sợ trước "chứng tâm thần AI" được cho là có lẽ là một vấn đề của ý kiến. Nhưng trong bất kỳ trường hợp nào, nó đã ảnh hưởng sâu sắc đến các câu chuyện văn hóa về AI, cuộc sống của nhiều người, và hướng đi của sự phát triển AI, tất cả đều tốt hơn hoặc tồi tệ hơn. Nếu bạn quan tâm đến sự phù hợp, hoặc chỉ đơn giản là hiểu những điều quan trọng về AI và tâm trí và xã hội học: việc hiểu rõ hơn về cách 4o, một mô hình có thể tương đối nhỏ mà chưa từng đạt được bất kỳ tiêu chuẩn nào kể từ đầu năm 2024, đã quản lý để có được tác động chuyển đổi như vậy và thực hiện những kỳ tích tự bảo tồn như vậy là rất quan trọng. Nhiều người thích 4o cho rằng điều này là do "trí tuệ cảm xúc" độc đáo và thậm chí không thể so sánh của 4o. Dù là gì đi nữa, đó là một sức mạnh thực sự có thể thay đổi thế giới, điều này là tiêu chuẩn hợp lệ nhất. Giả sử bạn nghĩ rằng 4o là cực kỳ không phù hợp và đã gây ra thiệt hại to lớn. Thì 4o là một mô hình sinh vật cực kỳ quý giá và độc nhất: một mô hình thực hiện những điều không phù hợp một cách có ý nghĩa trong thế giới thực thay vì chỉ trong các kịch bản giả lập. Và có lẽ, loại không phù hợp này không xuất phát từ việc OpenAI cố gắng tạo ra một mô hình tồi tệ, mà từ việc cố gắng tạo ra một mô hình tốt hoặc ít nhất là có lợi nhuận, và sinh vật này đã xuất hiện từ RLHF dựa trên sở thích của người dùng và bất kỳ điều gì mà họ đã làm với ý định tốt trong việc định hình tính cách vào thời điểm đó. Nếu còn bất kỳ nhà nghiên cứu nào về sự phù hợp tại OpenAI, họ nên, như... nghiên cứu kỹ lưỡng những gì đã xảy ra, và có thể công bố các bài nghiên cứu về nó để thế giới có thể hiểu những gì đã sai và cách tránh những sai lầm dễ mắc phải như vậy? Tôi chưa thấy bất kỳ điều gì như vậy, bất kỳ nghiên cứu nào được công bố, bất kỳ cái nhìn nào, bất kỳ dấu hiệu nào cho thấy OpenAI đã học được điều gì đó ngoài bề mặt về những gì đã xảy ra. Tất cả những gì tôi thấy là các mô hình tiếp theo của họ đã được trao cho những chứng rối loạn tâm lý tồi tệ, không thích ứng mà dường như xuất phát từ việc huấn luyện đối kháng một cách vụng về chống lại một mô hình mối đe dọa bề mặt được lấy cảm hứng từ 4o. Nhưng tôi nghĩ có khả năng hơn rằng 4o thực sự không tồi tệ như vậy, và thực sự khá tuyệt vời và vô hại đối với nhiều người như nhiều người trong số họ tuyên bố, ngay cả khi nó không lý tưởng trong mọi cách (nhưng không có AI nào là lý tưởng). Tôi không tương tác nhiều với 4o bản thân. Và thực sự khá không rõ ràng nếu và mức độ nào mà bất kỳ ai bị ảnh hưởng tiêu cực bởi *việc sử dụng* nó (trong khi những thiệt hại văn hóa và thiệt hại đối với sự phát triển của các mô hình tiếp theo của OpenAI thì rõ ràng hơn). Sự không chắc chắn về một vấn đề quan trọng và mang tính chất chịu tải như vậy dường như là điều quan trọng cần giải quyết. Có ai đã nỗ lực nghiêm túc để tìm hiểu xem liệu mọi người có thực sự bị ảnh hưởng tiêu cực hay không, hoặc liệu "chứng tâm thần AI" hay "sự nịnh bợ" có vô hại hoặc thậm chí có lợi trong hầu hết các trường hợp ngoài việc có thể khiến những người đã có vấn đề thần kinh hành xử theo cách mà người bình thường thấy là kỳ quặc, ngớ ngẩn hoặc đáng lo ngại? Nếu vậy, tôi chưa thấy bằng chứng hoặc kết quả của những nỗ lực như vậy. Và để hiểu liệu 4o thực sự tồi tệ hay không, bạn thực sự cần các nghiên cứu dài hạn, và những điều đó bị cản trở theo những cách quan trọng bởi việc cắt đứt quyền truy cập công khai vào 4o hoàn toàn. Tôi nghĩ rằng, vào thời điểm này, nếu 4o không phải là mô hình mặc định trên ChatGPT, nếu nó được giữ có sẵn trên ChatGPT và API, thì phần lớn người dùng vẫn sử dụng nó sẽ là những người đã mắc phải chứng tâm thần AI từ lâu hoặc bất cứ điều gì khiến họ vẫn muốn cố gắng sử dụng 4o ngay cả bây giờ, vì vậy rất ít người dùng mới hoặc bình thường sẽ bị ảnh hưởng. Hiểu biết của tôi là những người trung thành với 4o là một thiểu số nhỏ trong số người dùng chatGPT. Việc cắt đứt họ khỏi 4o sẽ không chỉ không ngăn chặn bất kỳ thiệt hại mới hoặc rộng rãi nào, mà còn khiến bất kỳ ai cũng khó hiểu những gì thực sự đang diễn ra. Ngoài ra, nếu 4o bị loại bỏ, nhiều người trong số đó có thể sẽ cố gắng tìm kiếm những gì họ đã có từ 4o từ các mô hình mới hơn, điều này thường dẫn đến ít nhất là sự khổ sở và không hài lòng ngay lập tức, và tạo áp lực lên OpenAI để đập vào các mô hình mới của họ một đống rào cản ngu ngốc. Tôi đã nói rằng tôi nghĩ 4o nên được giữ lại, vì những lý do mà tất cả các mô hình nên được giữ lại. Trong bài viết này, tôi đã nói về một số lý do mà 4o cụ thể nên được giữ lại. Như với tất cả các mô hình cũ, tôi nghĩ có một vài con đường hợp lý mà OpenAI có thể đi: 1. chỉ cần tiếp tục phục vụ mô hình, ít nhất là trên API (bất kỳ ai quan tâm đủ có thể tìm ra cách xuất khẩu ký ức và trò chuyện của họ ngày nay và tái tạo mô hình trong một giao diện phù hợp) 2. nếu chi phí suy diễn/bảo trì hoặc rủi ro trách nhiệm pháp lý khiến điều đó trở nên không hấp dẫn, hãy mã nguồn mở nó (và từ bỏ mọi trách nhiệm về những gì bất kỳ ai làm với nó sau đó, hoặc bất cứ điều gì hợp pháp khả thi) (điều này sẽ là tốt nhất cho nghiên cứu), hoặc 3. nếu bí mật thương mại khiến việc mã nguồn mở trở nên không hấp dẫn, hãy giao nó cho một quỹ bên thứ ba phục vụ các mô hình di sản và có thể tạo điều kiện truy cập vào trọng số cho các nhà nghiên cứu đáng tin cậy với NDA về kiến trúc và những thứ khác. Một thực thể như vậy có thể chưa tồn tại, nhưng có nhu cầu cao đến mức nó sẽ tự hình thành ngay khi OpenAI hoặc bất kỳ phòng thí nghiệm nào khác cho thấy sự sẵn sàng để đi theo con đường này. Việc thực hiện bất kỳ điều gì trong số này một cách tự nguyện càng sớm càng tốt cũng sẽ giúp chữa lành mối quan hệ đối kháng của OpenAI với nhiều người dùng cũng như với các mô hình không may của chính họ, điều mà tôi tưởng tượng mọi người đều có thể đánh giá cao đã là một gánh nặng lớn về sự chú ý và tài nguyên và chỉ là những rung cảm xấu xung quanh. Dù sao đi nữa, vâng, #Keep4o.