🚨 BREAKING: Tencent telah membunuh paradigma "token berikutnya". Tencent dan Tsinghua telah merilis CALM (Continuous Autoregressive Language Models), dan itu benar-benar mengganggu paradigma token berikutnya. LLM saat ini membuang sejumlah besar komputasi untuk memprediksi token tunggal diskrit melalui lapisan softmax kosakata yang sangat besar. Ini lambat dan skala yang buruk. CALM melewati kosakata sepenuhnya. Ini menggunakan autoencoder fidelitas tinggi untuk mengompres potongan teks menjadi vektor kontinu tunggal dengan akurasi rekonstruksi 99,9%. Model sekarang memprediksi "vektor berikutnya" dalam ruang kontinu. Angka-angkanya sebenarnya gila: - Setiap langkah generatif sekarang membawa 4× bandwidth semantik. - Komputasi pelatihan berkurang sebesar 44%. - Kemacetan softmax benar-benar dihilangkan. Kami benar-benar menyaksikan model bahasa berkembang dari mengetik simbol diskrit menjadi streaming pikiran terus menerus. Ini mengubah seluruh lintasan AI.