Apa yang tidak kita bicarakan ketika kita berbicara tentang AI dalam kedokteran: Standar perawatan bukanlah perawatan standar. Modalitas perawatan baru (dibantu AI atau lainnya) selalu diukur terhadap "standar perawatan" platonis yang tidak ada di klinik yang sebenarnya. Kedokteran adalah seni dan sains. Penyedia terlalu banyak bekerja, lelah, terburu-buru, dan secara rutin menyimpang dari SOC buku teks. Modalitas perawatan baru terbunuh di buaian karena mereka tidak dapat mengukur penyedia imajiner dengan waktu tak terbatas dan pengetahuan tak terbatas. Tapi bukan itu yang didapatkan sebagian besar pasien saat ini. Perawatan yang kurang sempurna yang menjangkau lebih banyak pasien adalah kebaikan moral yang jelas, tetapi standar kami saat ini membuatnya hampir mustahil. Setiap penyedia memahami bahwa SOC nyata menyimpang. Tidak semuanya hitam putih. Fisiologi tidak cocok dengan jalur buku teks yang bersih. Area abu-abu adalah tempat dokter hebat bersinar. Kami tidak akan pernah mengizinkan sistem AI beroperasi di zona abu-abu yang sama, bahkan jika di situlah sebagian besar perawatan nyata benar-benar terjadi. Kami juga tidak pernah berbicara tentang pasien yang tidak kami lihat. Penilaian dokter tentang "cara kerja perawatan kesehatan" berasal dari pasien di depan mereka. Mereka tidak melihat pasien yang tidak pernah berhasil masuk ke pintu, atau mereka yang meninggal atau jauh lebih sakit karena sesuatu yang terjadi di hulu: akses yang buruk, tidak ada akses, atau perawatan yang buruk. Kami berjuang untuk bernalar tentang populasi besar yang ada sepenuhnya di luar sistem perawatan kesehatan saat ini - tidak terlihat karena kurangnya kepercayaan, kurangnya akses, geografi, penjadwalan, pengasuhan anak, pekerjaan, dll. Perawatan yang dibantu AI dan mengutamakan konsumen mungkin merupakan satu-satunya cara untuk menjangkau banyak pasien ini di tempat mereka benar-benar berada. Semua orang takut dengan "halusinasi" dan kesalahan AI. Tetapi penyedia juga berhalusinasi. Kesalahan medis diperkirakan sebagai penyebab utama kematian di AS. Perbedaannya adalah bahwa ketika seorang dokter manusia membuat kesalahan, kita memiliki hukum malpraktik, kerangka kerja kewajiban, dan triliunan dolar asuransi yang membungkus kenyataan itu. Seiring dengan semakin baik sistem AI dan memperhitungkan bagian yang lebih besar dari pengambilan keputusan nyata, kita harus menjawab pertanyaan dasar: apakah kita melisensikan dan mengasuransikan model seperti yang kita lakukan kepada dokter, atau apakah penyedia hanya mewarisi risiko menggunakannya? Perawatan kesehatan juga tidak "lindy". Asuransi kesehatan swasta dalam bentuk modernnya lepas landas pada tahun 1950-an. Medicare dan Medicaid diluncurkan pada tahun 1960-an. Sebagian besar sistem yang kami perlakukan sebagai sakral lebih muda daripada banyak eksekutif yang menjalankannya. Tidak ada alasan untuk percaya bahwa itu harus ada dalam bentuknya saat ini untuk abad berikutnya. Pilihan konsumen adalah kenari. Krisis biaya dan akses kita didorong oleh sekelompok aktor pencari rente yang tidak memiliki insentif nyata untuk memperbaiki apa pun. Perawatan kesehatan yang dibantu AI dan mengutamakan konsumen pada akhirnya akan menunjukkan bahwa perawatan yang lebih murah dan lebih baik sebenarnya dimungkinkan - dan dengan demikian, mengekspos banyak sistem yang ada sebagai penipuan. Saatnya untuk (kembali) membangun kepercayaan. Saat ini, banyak penyedia bertindak seperti hal terburuk kedua yang dapat masuk ke departemen mereka adalah VC atau eksekutif teknologi. Ketidakpercayaan itu diperoleh. Teknologi telah menjanjikan secara berlebihan dan kurang memberikan dalam perawatan kesehatan selama beberapa dekade. Tapi tetap dalam postur itu selamanya tidak akan memperbaiki apa pun. Satu-satunya jalan keluar dari krisis ini adalah dengan menanggapi dengan serius gagasan bahwa kali ini mungkin benar-benar berbeda – dan kemudian menahan orang untuk itu. Ledakan yang didukung usaha membuat schadenfreude yang baik. Tetapi kita seharusnya tidak merasa bangga dalam memberikan perawatan yang buruk, dengan biaya tinggi, kepada terlalu sedikit orang, karena kita menolak untuk menganggap serius alat baru.