Banyak pembicaraan tentang meningkatkan privasi dengan menciptakan lapisan perutean anonimitas antara pengguna & penyedia model AI. Tapi apa yang benar-benar tidak saya pahami adalah ini: LLM komoditas sudah sangat baik dalam mengidentifikasi pola & de-anonimisasi. Mengapa kita harus berpikir mereka tidak mampu dengan cepat menautkan kembali kita? Saya bertaruh bahwa identifikasi ulang 1-shot oleh model mudah dimungkinkan di satu prompt dari beberapa akun, bahkan jika mereka 'secara anonim' dirutekan ke API. Hampir pasti terutama berlaku ketika pengguna mengerjakan bit kode, proyek, atau dari lingkungan yang sama. Hasilnya: seperti menggunakan browser Tor mengira Anda anonim dari situs web, tetapi menyimpan cookie di seluruh sesi. Jumlah ejekan yang harus Anda lakukan untuk konteks untuk benar-benar mengeras terhadap penautkan ulang oleh model besar tampaknya benar-benar substansial hingga ketidakefektifan besar.