Tôi muốn tiếp tục một chút về chủ đề này, mà (cho đến nay) tôi thấy rất ít mối quan tâm. Có rất nhiều kho dữ liệu cá nhân mà chúng ta đã xây dựng ở nhiều nơi khác nhau, bao gồm cả các ứng dụng nhắn tin. Một "ứng dụng giết người" thực sự cho Gen AI là tiếp nhận chúng và biến dữ liệu đó thành doanh thu.

Ví dụ, nếu bạn sử dụng một số ứng dụng nhắn tin bảo mật, bạn sẽ nhận thấy chúng rất hữu ích trong việc sao lưu lịch sử trò chuyện của bạn để "bạn không mất dữ liệu". Tôi biết một số người thực sự phụ thuộc vào điều này, nhưng cũng đồng nghĩa với việc bạn (trùng hợp) đã mang theo một đống dữ liệu khổng lồ.

Dữ liệu đó hiện tại hoàn toàn không rõ ràng đối với các công ty quảng cáo. Nó có giá trị không? Tôi không biết. Có thể mọi thứ có thể được khai thác một cách có lợi từ nó đã tồn tại trong một diễn đàn công khai! Nhưng chắc chắn có ai đó muốn tìm hiểu.

Tương tự, có rất nhiều thứ trên máy tính hoặc điện thoại của bạn mà "được biết" bởi một công ty công nghệ này hay công ty công nghệ khác, nhưng có thể không phải bởi mọi công ty công nghệ. Ví dụ, Google có nhiều năm thư điện tử của tôi và rất nhiều tài liệu trên đám mây, nhưng Meta, Claude và OpenAI thì không. Tuy nhiên.

Bây giờ tôi không biết tương lai sẽ ra sao. Có thể trong mười năm nữa, chúng ta sẽ sống trong một utopia hoặc dystopia do AI tạo ra và những lo ngại về quảng cáo nhắm mục tiêu sẽ trở nên lỗi thời. Nhưng nếu bạn đang xem xét các mô hình kinh doanh hiện tại, việc khai thác tất cả dữ liệu đó chính là biên giới tiếp theo.

Tất cả những điều này đòi hỏi phải thuyết phục mọi người cài đặt các công cụ AI hữu ích trên máy tính của họ và cho phép những công cụ đó truy cập vào các kho dữ liệu liên quan. Những công cụ này đã có sẵn từ hầu hết các công ty AI, và các công ty công nghệ đều có "chiến lược AI" cho các ứng dụng hiện có của họ.

Bây giờ mọi người sẽ nói với bạn rằng điều này có thể được thực hiện bằng cách sử dụng các mô hình địa phương và TEE. Đúng vậy, nó có thể. Nhưng để làm bất cứ điều gì hữu ích (ngoài việc giúp bạn soạn thảo văn bản và tóm tắt mọi thứ) thì những công cụ đó cần phải thực hiện các hành động trong thế giới. Điều đó tạo ra, trước tiên, một rủi ro không mong muốn về việc lộ dữ liệu.

Tôi chưa nói (chưa) về các công ty cố tình cố gắng kiếm tiền từ dữ liệu. Hiện tại, tôi chỉ đang nói về rủi ro rò rỉ dữ liệu vô tình (hoặc ác ý). Các cuộc tấn công tiêm lệnh khiến một mô hình truyền dữ liệu riêng tư ra ngoài.

Chúng ta vẫn chưa thấy được "sâu" tiêm lệnh thực tế đầu tiên. Nhưng tôi cá là chúng ta sẽ thấy! Điều đó sẽ rất thú vị. Tình trạng hiện tại trong việc phòng ngừa rủi ro này thì... có phần mơ hồ ngay bây giờ.

Ví dụ, những ý tưởng tốt nhất của chúng tôi ngay bây giờ là "không bao giờ để bất cứ điều gì vượt qua ranh giới riêng/tổng quát" điều này thực sự không hữu ích cho nhiều nhiệm vụ. Hoặc "sử dụng các mô hình để kiểm tra vi phạm quyền riêng tư" điều này làm tôi nhớ đến câu chuyện của Dr. Seuss về vị vua sử dụng mèo để đuổi những con chuột ăn trộm phô mai của ông.

Nhưng mối quan tâm đó là thứ yếu. Rủi ro thực sự là các công ty xây dựng những thứ này sẽ *cố ý* thiết kế nó để trích xuất thông tin. Hãy xem xét một tác nhân thực hiện tìm kiếm cho bạn, sử dụng một công cụ tìm kiếm mở. Gửi thông tin riêng tư làm cho việc tìm kiếm trở nên hữu ích hơn!

Vậy dữ liệu cá nhân của bạn cho mô hình địa phương/TEE biết bạn thích gì. Bạn yêu cầu đại lý tìm kiếm sản phẩm. Có bao nhiêu thông tin cá nhân về sở thích của bạn đi kèm với tìm kiếm đó, một cách có chủ đích?

Câu trả lời, theo như tôi thấy, là: rất nhiều! Càng nhiều ngữ cảnh mà một công cụ tìm kiếm có về mong muốn của bạn, thì kết quả càng tốt hơn. Và tình cờ, việc nhắm mục tiêu và theo dõi quảng cáo cũng sẽ tốt hơn.

Một phản biện cho điều này là: ai quan tâm! Có thể đây chỉ là cách mà thế giới sẽ hoạt động bây giờ. Chúng ta thậm chí có thể xây dựng các mô hình theo dõi và quảng cáo cho bạn "một cách riêng tư" có nghĩa là chúng đọc tất cả dữ liệu bí mật của bạn và chỉ sử dụng nó để bán cho bạn loại xà phòng phù hợp. Điều đó có tệ không?

Tất nhiên, cùng lúc đó, sẽ có những chính phủ muốn truy cập vào những thông tin đó. Nếu bạn có thể sử dụng dữ liệu này để theo dõi và xác định tội phạm (hoặc những kẻ có khả năng trở thành tội phạm) mà không cần đọc trực tiếp dữ liệu của họ, thì đó chẳng phải là một công cụ điều tra tuyệt vời sao?

Những điều này không phải là mối quan tâm trong tương lai như AGi. Gen AI có thể làm tất cả những điều này ngay bây giờ. Vì vậy, các công ty đang làm việc để triển khai những ý tưởng này ngay hôm nay. Các chính phủ (như EU) đã yêu cầu quyền truy cập vào các mô hình đọc dữ liệu riêng tư.

Dù chúng ta chọn làm gì, tôi muốn mọi người đưa ra những lựa chọn đó với sự tỉnh táo. Tôi không muốn ai đó nói "ồ, tính năng này tuyên bố là riêng tư nên tại sao không nhấn Ok lần này" và năm năm dữ liệu bí mật chảy vào quy trình thu thập.

Cố gắng khiến mọi người quan tâm đến điều này giống như cố gắng khiến một thiếu niên thoa kem chống nắng. Tất cả các rủi ro nghe có vẻ lý thuyết, và những lợi ích thì đều ở hiện tại. Tôi chỉ không muốn chúng ta thức dậy một ngày nào đó và ước gì mình đã làm mọi thứ khác đi.