Ce dont nous ne parlons pas quand nous parlons de l'IA en médecine : Le standard de soins n'est pas un soin standard. De nouvelles modalités de soins (assistées par IA ou non) sont toujours mesurées par rapport à un « standard de soins » platonique qui n'existe pas dans la clinique réelle. La médecine est autant un art qu'une science. Les prestataires sont surchargés, fatigués, pressés, et s'écartent régulièrement du SOC (standard de soins) des manuels. Les nouvelles modalités de soins sont tuées dans l'œuf parce qu'elles ne peuvent pas rivaliser avec le prestataire imaginaire ayant un temps infini et une connaissance infinie. Mais ce n'est pas ce que la plupart des patients obtiennent aujourd'hui. Des soins moins que parfaits qui s'adaptent à beaucoup plus de patients sont un bien moral évident, mais notre barre actuelle rend cela presque impossible. Chaque prestataire comprend que le SOC réel dévie. Tout n'est pas noir et blanc. La physiologie ne s'inscrit pas dans des parcours clairs des manuels. Les zones grises sont là où de grands cliniciens brillent. Nous ne permettrions jamais aux systèmes d'IA d'opérer dans ces mêmes zones grises, même si c'est là que la plupart des soins réels se produisent. Nous ne parlons également jamais des patients que nous ne voyons pas. Les jugements des cliniciens sur « comment fonctionne le système de santé » proviennent des patients devant eux. Ils ne voient pas les patients qui n'entrent jamais dans la porte, ou ceux qui sont morts ou beaucoup plus malades à cause de quelque chose qui s'est passé en amont : mauvais accès, pas d'accès, ou mauvais soins. Nous avons du mal à raisonner sur l'énorme population qui existe complètement en dehors du système de santé actuel — invisible en raison d'un manque de confiance, d'accès, de géographie, de planification, de garde d'enfants, de travail, etc. Les soins assistés par IA, axés sur le consommateur, peuvent être l'un des seuls moyens d'atteindre beaucoup de ces patients là où ils se trouvent réellement. Tout le monde a peur des « hallucinations » et des erreurs de l'IA. Mais les prestataires hallucinent aussi. Les erreurs médicales sont estimées comme une cause principale de décès aux États-Unis. La différence est que lorsque un clinicien humain fait une erreur, nous avons la loi sur la négligence, des cadres de responsabilité, et des trillions de dollars d'assurance entourant cette réalité. À mesure que les systèmes d'IA s'améliorent et prennent en compte une plus grande part de la prise de décision réelle, nous devrons répondre à des questions fondamentales : devons-nous accorder des licences et assurer les modèles comme nous le faisons pour les cliniciens, ou les prestataires héritent-ils simplement du risque de les utiliser ? Le système de santé n'est pas non plus « lindy ». L'assurance santé privée sous sa forme moderne a décollé dans les années 1950. Medicare et Medicaid ont été lancés dans les années 1960. La plupart du système que nous considérons comme sacré est plus jeune que beaucoup des dirigeants qui le dirigent. Il n'y a aucune raison de croire qu'il devrait exister sous sa forme actuelle pour le siècle prochain. Le choix des consommateurs est le canari. Notre crise de coût et d'accès est alimentée par un ensemble étroit d'acteurs cherchant à tirer profit qui n'ont aucun véritable incitatif à améliorer quoi que ce soit. Les soins de santé assistés par IA, axés sur le consommateur, montreront finalement que des soins moins chers et meilleurs sont en réalité possibles — et ce faisant, exposeront beaucoup du système existant comme une arnaque. Il est temps de (re)construire la confiance. En ce moment, de nombreux prestataires agissent comme si la deuxième pire chose qui pouvait entrer dans leur département était un VC ou un dirigeant technologique. Cette méfiance est méritée. La technologie a trop promis et sous-livré dans le domaine de la santé pendant des décennies. Mais rester dans cette posture pour toujours ne résoudra rien. La seule façon de sortir de cette crise est de prendre au sérieux l'idée que cette fois pourrait réellement être différente — et ensuite tenir les gens responsables.