Chúng ta có đang tiến tới một xã hội dystopia ổn định không? Tôi đã suy nghĩ về cách mà AI sẽ định hình xã hội và một kịch bản cụ thể dường như là một kết quả có xác suất cao đối với tôi. Đây là cách mà nó có thể diễn ra: • AI tự động hóa ngày càng nhiều công việc của con người • Lợi nhuận từ sự tự động hóa này chảy về tay những người nắm giữ vốn, khiến họ trở nên giàu có hơn • Khi thu nhập của đại chúng giảm, chính phủ phớt lờ/bãi bỏ thuế thu nhập mà thay vào đó đánh thuế thu nhập/doanh thu của các công ty để đáp ứng nhu cầu của mình • Người giàu tự cô lập mình (như họ vẫn làm) và sử dụng máy bay không người lái/robot được trang bị AI để bảo vệ bản thân • Điều này lấy đi tất cả quyền lực từ đại chúng -> chính phủ ít chú ý hơn đến đại chúng khi đóng góp thuế của họ giảm sút và họ thậm chí không thể nổi dậy vì họ phải đối mặt với lực lượng an ninh AI • Một hình thức UBI tối thiểu được cung cấp cho đại chúng nhân danh đạo đức • Tất cả khả năng di chuyển xã hội trong tương lai dừng lại, và các cấu trúc quyền lực hiện tại bị đóng băng mãi mãi Tóm lại, những người quyền lực và giàu có tạo ra một xã hội song song và khả năng di chuyển xã hội dừng lại vì những người sở hữu vốn / các nhà môi giới quyền lực kiểm soát AI thực hiện công việc kinh tế (ngăn cản bất kỳ ai khác leo lên). Có thể lập luận rằng điều này đã dần dần xảy ra, nhưng ngày nay đại chúng vẫn có quyền lực nhờ vào sự đóng góp lao động của họ và khả năng nổi dậy thể chất chống lại giới tinh hoa. Nhưng AI có khả năng thay đổi sự cân bằng quyền lực đó và có vẻ như đó là nơi mà chúng ta đang không may tiến tới.

Xin lưu ý rằng kịch bản này có thể là mặc định, nhưng không phải là điều không thể thay đổi. Tôi nghĩ nhân loại vẫn có cơ hội không từ bỏ quyền lực cho giới tinh hoa và/hoặc AI. Một cách để thoát khỏi tình huống này là phân tán AI đủ rộng rãi trong mã nguồn mở để việc tiếp cận nó trở nên dân chủ (nhưng các quy luật mở rộng cho thấy các mô hình lớn hơn có thể luôn mạnh hơn các mô hình nhỏ hơn!). Một cách khác, tất nhiên, là ngừng phát triển AI (nhưng tôi không nghĩ điều đó sẽ xảy ra; con người quá tò mò để dừng lại). Bạn nghĩ gì về kịch bản này? Có khả thi không? Làm thế nào để chúng ta đảm bảo điều này không xảy ra?