O czym nie mówimy, gdy mówimy o AI w medycynie: Standard opieki nie jest standardową opieką. Nowe metody opieki (wspomagane przez AI lub inne) zawsze są mierzone w odniesieniu do platonowego „standardu opieki”, który nie istnieje w rzeczywistej klinice. Medycyna jest tak samo sztuką, jak nauką. Świadczeniodawcy są przeciążeni pracą, zmęczeni, w pośpiechu i rutynowo odbiegają od podręcznikowego SOC. Nowe metody opieki są zabijane w zarodku, ponieważ nie mogą dorównać wyimaginowanemu świadczeniodawcy z nieskończonym czasem i nieskończoną wiedzą. Ale to nie jest to, co większość pacjentów otrzymuje dzisiaj. Opieka, która jest mniej niż doskonała, ale dostępna dla znacznie większej liczby pacjentów, jest oczywistym dobrem moralnym, ale nasza obecna poprzeczka sprawia, że jest to prawie niemożliwe. Każdy świadczeniodawca rozumie, że rzeczywisty SOC odbiega. Nie wszystko jest czarno-białe. Fizjologia nie pasuje do czystych ścieżek podręcznikowych. Szare obszary to miejsca, w których świetni klinicyści błyszczą. Nigdy nie pozwolilibyśmy systemom AI działać w tych samych szarych strefach, nawet jeśli to tam odbywa się większość rzeczywistej opieki. Nigdy też nie mówimy o pacjentach, których nie widzimy. Osądy klinicystów na temat „jak działa opieka zdrowotna” pochodzą od pacjentów przed nimi. Nie widzą pacjentów, którzy nigdy nie dotarli do drzwi, ani tych, którzy są martwi lub znacznie chorzy z powodu czegoś, co wydarzyło się wcześniej: złego dostępu, braku dostępu lub złej opieki. Zmagamy się z rozumieniem ogromnej populacji, która istnieje całkowicie poza obecnym systemem opieki zdrowotnej — niewidocznej z powodu braku zaufania, braku dostępu, geografii, harmonogramu, opieki nad dziećmi, pracy itp. Opieka wspomagana przez AI, skoncentrowana na konsumencie, może być jednym z nielicznych sposobów dotarcia do wielu z tych pacjentów tam, gdzie naprawdę są. Wszyscy boją się „halucynacji” i błędów AI. Ale świadczeniodawcy też halucynują. Błędy medyczne są szacowane jako jedna z głównych przyczyn śmierci w USA. Różnica polega na tym, że gdy ludzki klinicysta popełnia błąd, mamy prawo do błędów medycznych, ramy odpowiedzialności i biliony dolarów ubezpieczeń związanych z tą rzeczywistością. W miarę jak systemy AI stają się lepsze i zajmują większą część rzeczywistego podejmowania decyzji, będziemy musieli odpowiedzieć na podstawowe pytania: czy licencjonujemy i ubezpieczamy modele tak, jak robimy to z klinicystami, czy świadczeniodawcy po prostu dziedziczą ryzyko ich używania? Opieka zdrowotna nie jest również „lindy”. Prywatne ubezpieczenie zdrowotne w swojej nowoczesnej formie zaczęło się w latach 50. XX wieku. Medicare i Medicaid uruchomiono w latach 60. XX wieku. Większość systemu, który traktujemy jako święty, jest młodsza niż wielu menedżerów go prowadzących. Nie ma powodu, by wierzyć, że powinien istnieć w swojej obecnej formie przez następne stulecie. Wybór konsumentów jest kanarkiem. Nasz kryzys kosztów i dostępu jest napędzany przez wąski zestaw aktorów dążących do zysku, którzy nie mają rzeczywistego bodźca do poprawy czegokolwiek. Opieka zdrowotna wspomagana przez AI, skoncentrowana na konsumencie, ostatecznie pokaże, że tańsza, lepsza opieka jest naprawdę możliwa — a robiąc to, ujawni wiele istniejącego systemu jako oszustwo. Czas na (re)budowanie zaufania. W tej chwili wielu świadczeniodawców działa tak, jakby drugą najgorszą rzeczą, która może się zdarzyć w ich dziale, był VC lub menedżer technologii. To nieufność jest zasłużona. Technologia przez dekady obiecywała zbyt wiele i dostarczała zbyt mało w opiece zdrowotnej. Ale pozostawanie w tej postawie na zawsze niczego nie naprawi. Jedynym sposobem wyjścia z tego kryzysu jest poważne potraktowanie idei, że tym razem może być naprawdę inaczej — a następnie pociągnięcie ludzi do odpowiedzialności.