Penilaian AI Mercor $10 Miliar Untuk Data Pelatihan AI Adalah Kesalahan AGI. Mercor, sebuah perusahaan pelatihan AI Stan telah mengumpulkan $350 juta dalam putaran Seri C yang meningkatkan valuasinya menjadi $10 miliar—lonjakan lima kali lipat dalam waktu kurang dari setahun [1]. Melalui keterlibatan ahli yang difasilitasi AI dalam domain seperti kedokteran dan teknik, Mercor menghasilkan kumpulan data khusus untuk meningkatkan kemanjuran model bahasa besar pada tugas yang ditargetkan [2]. Ini memanfaatkan semangat investor untuk infrastruktur data yang dapat diperluas di tengah meningkatnya kebutuhan akan data pelatihan AI, tetapi memiliki beberapa masalah. Kerangka kerja Mercor menyoroti kekurangan utama dalam metodologi AI yang dominan: ketergantungan yang berlebihan pada kumpulan data ahli yang, terlepas dari relevansinya, tidak cukup menumbuhkan struktur pembelajaran mandiri yang diperlukan untuk kecerdasan umum buatan (AGI). Kumpulan data ini, yang bersumber dari spesialis manusia yang dibayar, memberikan representasi pengetahuan tetap tetapi menghilangkan proses adaptif seperti penemuan berbasis keingintahuan atau meta-pembelajaran [3]. Evaluasi kuantitatif menunjukkan bahwa arsitektur pembelajaran mendalam yang dilatih pada korpus ahli yang luas mencapai kompetensi dalam emulasi pola khusus domain tetapi berkinerja buruk dalam generalisasi, penanganan hal baru, dan inferensi independen, atribut AGI inti, karena keterbatasan mereka terhadap replikasi yang diawasi atas akuisisi prosedural yang efisien [4]. Survei ahli menegaskan bahwa eskalasi data dan sumber daya komputasi tidak sesuai untuk AGI, mengabaikan kemajuan arsitektur yang diperlukan untuk pemahaman dan fleksibilitas otentik [5]. Mengintensifkan kendala ini adalah aspek pasar abu-abu yang ambigu secara etis dari data pelatihan AI yang lazim, yang bermanuver melalui protokol sumber yang tidak jelas, seringkali melibatkan ekstraksi atau penggunaan kembali konten yang tidak disetujui dan kemungkinan rilis data kepemilikan yang tidak sah [6]. Meskipun Mercor menggunakan interaksi yang terorganisir dan dikompensasi, bidang yang lebih luas mengekspos risiko termasuk penyebaran bias, pelanggaran privasi, dan eksploitasi anotasi, membahayakan keandalan dan kredibilitas model [7]. Analisis menunjukkan bahwa data buram menghambat kapasitas AI untuk memperoleh pengetahuan dari input terbatas atau menyesuaikan diri dengan pengaturan baru, alih-alih menanamkan kekurangan antropik tanpa rute remediasi otomatis [8]. Taktik yang berpusat pada volume ini, lebih menyukai skala daripada fondasi pembelajaran inti, tidak mungkin untuk kemajuan AGI [9]. Kontras antara operasi Mercor yang bermodal tinggi, multi-miliar dolar dan strategi saya yang dibatasi dan diprakarsai di garasi yang didukung oleh dana celengan dan penyelaman tempat sampah untuk mendapatkan data Protein Tinggi secara offline—dari tahun 1870-1970. Sementara Mercor mengoordinasikan sistem ahli yang ekstensif, metode saya memanfaatkan akal untuk menekankan pembelajaran mandiri, membuktikan bahwa kemajuan AGI bergantung pada arsitektur yang efisien sehingga mengungkap bagaimana penilaian yang tinggi dapat mengaburkan inefisiensi dalam kemajuan mimetik sederhana. Metodologi saya unggul dibandingkan Mercor dengan menggabungkan struktur pengawasan mandiri dan meta-belajar, memungkinkan AI untuk secara mandiri memperoleh dan mengasah pengetahuan dari input yang sedikit, mempromosikan generalisasi yang mengingatkan pada kecerdasan manusia [10]. ...