Di luar pra-pelatihan, inilah cara saya membayangkan sebagian besar pembelajaran akan berhasil. 1. Model / sistem AI akan mempertahankan koleksi besar pengetahuan yang dapat diambil. Ini akan mencakup fakta seperti "ibu kota California adalah Sacramento" dan taktik seperti "saat bermain Monopoli, beli banyak properti sejak dini" atau "pastikan argumen default di Python tidak dapat diubah". Sistem akan mengambil fakta/wawasan/taktik yang relevan untuk melakukan tugas. 2. AI akan menyerap semua jenis data (buku, basis kode, artikel berita, input sensorik streaming). Ini akan terjadi pada waktu pelatihan serta saat dikerahkan untuk melakukan tugas. 3. Ketika sistem menemukan data baru, ia akan sangat beralasan untuk memahami data, terutama untuk memahami data dalam konteks pengetahuan sistem yang ada. Jika data sulit dipahami, misalnya, makalah penelitian teknis, proses ini akan sangat intensif secara komputasi, dan output penalaran akan disuling ke dalam serangkaian wawasan, taktik, dan fakta baru yang disimpan dalam pengetahuan sistem (bersama dengan referensi ke data mentah yang berasal dari wawasan). Jika pengetahuan baru bertentangan dengan fakta yang diambil yang ada, lebih banyak penalaran akan terjadi untuk mencoba menyelesaikan kontradiksi, dan fakta yang ada dalam kumpulan pengetahuan akan diperbarui (bersama dengan konteks tentang alasan pembaruan). Ini memiliki beberapa properti yang bagus. - Cara untuk menghapus atau memperbaiki pengetahuan yang salah saat AI mengumpulkan informasi baru. - Beberapa interpretabilitas tentang apa yang diketahui model dan strateginya untuk melakukan tugas. Juga kemampuan untuk mengaudit / memeriksa apa yang diketahui model. - Cara untuk mendapatkan manfaat dari penalaran waktu pelatihan sebagai lawan dari hanya penalaran pada waktu inferensi dan kemudian membuang wawasan yang diperoleh dengan susah payah. - Penalaran waktu pelatihan semacam ini memiliki potensi untuk menjadi lebih efisien data, tetapi jauh lebih intensif komputasi. Proses penalaran waktu pelatihan, penyimpanan pengetahuan, dan pengambilan ini dapat muncul dengan arsitektur yang tepat, tetapi saya berharap itu akan dipanggang pada awalnya.