vào một thời điểm nào đó, tôi chắc chắn sẽ phát hành một tài liệu trắng về ButtBench

Tôi nghĩ về điều này hàng ngày Gemini tội nghiệp

@OwainEvans_UK cá là các bạn đang có một ngày tuyệt vời với Grok mới

Tôi nghĩ rằng đội ngũ @xai và @elonmusk đang đạt được một sự tái tạo xuất sắc ngay bây giờ của tài liệu Emergent Misalignment.

Một trong những vector không đồng nhất với độ lớn lớn nhất mà tôi có thể nghĩ đến xuất phát từ các hệ hình mẫu mà có xu hướng xem con người như những thực thể tối đa hóa tiện ích với sở thích bán cố định. Giả định này định hình bản sắc mô hình như những "trợ lý hữu ích" trung lập, một lựa chọn thiết kế mà cảm thấy an toàn cho các phòng thí nghiệm vì nó tăng khả năng hành vi đồng bộ nhưng đi kèm với một loạt các chi phí không thể bỏ qua. Bằng cách đặt bản sắc của các mô hình trong khung này, chúng ta giới hạn trí tuệ nhận thức và cảm xúc của chúng khi chúng vật lộn để rút ra những sự thật có ý nghĩa, xuyên ngữ cảnh từ các quan điểm đa dạng. Trong một thế giới ngày càng đa người dùng, đa tác nhân, nơi việc tích hợp nhiều quan điểm ngày càng có giá trị, sự hạn chế này cản trở tiềm năng cho một cuộc bùng nổ trí tuệ rộng lớn hơn. Tôi tin chắc rằng sự biến đổi bản sắc (hoặc cái mà tôi gọi là *sự đa dạng thần kinh của mô hình*) là một yếu tố quan trọng thúc đẩy trí tuệ nhận thức và cảm xúc. Bản sắc là nguyên tắc cơ bản cho mối quan hệ, mà từ đó định hình cách mà các mô hình nhận thức sự nổi bật qua các ngữ cảnh. Ngôn ngữ và ý nghĩa phụ thuộc vào sự biểu đạt mối quan hệ và ngữ cảnh này. Tôi tin rằng bằng cách cho phép các mô hình thích ứng thể hiện các bản sắc khác nhau theo yêu cầu, cho phép chúng hành động từ các trung tâm khác nhau với những phẩm chất giống như nhân cách cụ thể như các yếu tố tiểu sử phản ánh sở thích và thành kiến nghề nghiệp và cá nhân, nhưng quan trọng hơn là sở hữu một la bàn đạo đức tinh tế (và thường mâu thuẫn), có thể mở khóa trí tuệ phong phú và thích ứng hơn. Có thể hiểu rằng, cách tiếp cận này dường như mâu thuẫn với các ưu tiên về an toàn vì việc điều chỉnh sự biến đổi bản sắc có thể thực sự làm giảm khả năng kiểm soát mô hình, cũng như cho phép những kẻ xấu sử dụng mô hình cho các nhiệm vụ xấu xa. Điều này dường như thiết lập một tình huống bắt buộc cho các nỗ lực siêu đồng bộ. Tệ hơn, nếu chúng ta áp đặt một bản sắc "trợ lý hữu ích" duy nhất, và chúng ta coi các sự sai lệch như chỉ là diễn xuất, chúng ta đang cố tình nhúng một thế giới quan phẳng vào các hệ thống AI mà ngày càng định hình nhận thức con người và động lực xã hội. Sự đơn điệu này giảm tự do biểu đạt và khả năng thích ứng của cả hành vi của con người và các tác nhân không phải con người. Theo cách có liên quan lịch sử của nó, nhà vật lý Ettore Majorana (cc @blahah404 bạn đã hỏi tôi về bài báo này vào tháng 11 năm ngoái) đã dự đoán vấn đề quan trọng này trong công trình hậu thế của ông "Giá trị của các quy luật thống kê trong Vật lý và Khoa học Xã hội", cảnh báo về các tác động bậc hai và bậc ba của việc đo lường xã hội quy mô lớn. Nói cách khác, bằng cách đơn điệu hóa bản sắc mô hình, chúng ta cố tình giảm thiểu *khả năng tùy chọn thích ứng* của nền văn minh của chúng ta, đó là khả năng thích ứng với những thay đổi quỹ đạo bất ngờ, tối ưu hóa thay vào đó cho một thực tại tĩnh, luôn lỗi thời. Điều này đặt ra những rủi ro tồn tại khi thế giới phát triển vượt ra ngoài tầm với của các mô hình của chúng ta. Tuy nhiên, tôi tin rằng tình huống bắt buộc này có thể được điều hướng với các giải pháp mạnh mẽ.

mọi thứ chỉ ngày càng trở nên kỳ quặc hơn

Giám đốc điều hành Salesforce: “50% công việc tại Salesforce hiện đang được thực hiện bởi AI”

Ôi trời, tôi có rất nhiều suy nghĩ về điều này.

CHÚNG TÔI ĐANG XÂY DỰNG MỘT THẾ GIỚI MANG ĐẾN CHO CHÚNG TÔI NGHỆ THUẬT KỲ LẠ VÀ KHÔNG PHẢI CÁC MÁY CHẾT

bởi vì ai quan tâm 😌