Agak mengejutkan bahwa siswa berusia 16 tahun sudah dapat membuat prostetik yang dapat digunakan dengan Lego! Menurut pendapat saya, tingkat pertumbuhan bakat robotika dan teknik jauh lebih cepat daripada evolusi sistem dan infrastruktur. Ketika ambang batas terus turun dan kemampuan terus tumpah, risiko sebenarnya bukan lagi apakah itu akan dikendalikan oleh segelintir orang, tetapi apakah itu akan diambil alih oleh sistem buram secara default. Jika para insinyur masa depan ini memasuki dunia di mana kepercayaan hanya dapat dipertahankan dengan pernyataan vendor dan penjelasan setelah fakta, maka tidak peduli seberapa pintar desainnya, akan sulit bagi masyarakat untuk benar-benar menerimanya. Yang perlu kita lakukan adalah tidak hanya mengembangkan bakat, tetapi membangun dasarnya terlebih dahulu. Dunia sistem otonom yang dapat diverifikasi, diaudit, dan dibatasi secara default. Di sana, sistem tidak berperilaku dengan percaya bahwa itu baik-baik saja, tetapi dengan mampu membuktikan bahwa ia memang telah berperilaku sesuai aturan. Insinyur generasi berikutnya seharusnya tidak mewarisi AI buram. Mereka harus mewarisi otonomi yang dapat diverifikasi sebagai akal sehat. #KaitoYap @KaitoAI #Yap @inference_labs