Ai putea fi iertat pentru că ai crezut că AI va înlocui în curând medicii umani pe baza titlurilor precum „Doctorul AI te va vedea acum”, „Viitorul tău doctor nu poate fi uman” și „Acest AI doar bate medicii umani la un examen clinic” Dar experții spun că realitatea este mai mult o colaborare decât o eliminare: pacienții își pot găsi în curând viața parțial în mâinile serviciilor de AI care lucrează alături de clinicieni umani.
Nu există lipsă de optimism în ceea ce privește AI în comunitatea medicală. Însă mulți avertizează, de asemenea, că hipe-ul din jurul AI-ului nu a fost încă realizat în medii clinice reale. Există, de asemenea, diferite viziuni asupra modului în care serviciile AI ar putea avea cel mai mare impact. Și încă nu se știe dacă AI va îmbunătăți viața pacienților sau doar linia de jos pentru companiile din Silicon Valley, organizațiile de asistență medicală și asigurătorii.
„Cred că toți pacienții noștri ar trebui să dorească ca tehnologiile AI să fie supuse punctelor slabe ale sistemului de îngrijire a sănătății, dar trebuie să o facem într-un mod non-Silicon Valley”, spune Isaac Kohane, cercetător biomedical în informatică la Harvard Medical School.
Dacă AI funcționează așa cum s-a promis, ar putea democratiza îngrijirile de sănătate prin creșterea accesului la comunitățile subestimate și scăderea costurilor - un avantaj în Statele Unite, care se clasează prost pe multe măsuri de sănătate, în ciuda unui cost mediu anual de asistență medicală de 10.739 USD de persoană. Sistemele de AI ar putea elibera medicii supraîncărcați și ar putea reduce riscul de erori medicale care pot ucide zeci de mii, dacă nu chiar sute de mii, de pacienți din SUA în fiecare an. Și în multe țări cu deficiențe naționale de medici, cum ar fi China, unde secțiile de ambulatoriu ale spitalelor urbane supraaglomerate pot vedea până la 10.000 de persoane pe zi, aceste tehnologii nu au nevoie de o precizie perfectă pentru a se dovedi utile.
Însă criticii subliniază că tot ceea ce promite ar putea dispărea dacă graba de a pune în aplicare AI împiedică drepturile de confidențialitate ale pacienților, trece cu vederea părtinirile și limitările sau nu reușește să implementeze servicii într-un mod care să îmbunătățească rezultatele în materie de sănătate pentru majoritatea oamenilor.
„În același mod în care tehnologiile pot să înlăture disparitățile, acestea pot agrava disparitățile”, spune Jayanth Komarneni, fondator și președinte al Proiectului de Diagnostic Uman (Human Dx), o corporație de beneficii publice axată pe expertiză medicală de tip crowdsourcing. „Și nimic nu are această capacitate de a agrava disparitățile precum AI”
***
Astăzi, cele mai populare tehnici de AI sunt învățarea automată și vărul său mai mic, învățarea profundă. Spre deosebire de programele de calculator care respectă rigid regulile scrise de oameni, atât algoritmii de învățare automată, cât și de învățare profundă pot privi un set de date, pot învăța de la acesta și pot face noi predicții. Învățarea profundă, în special, poate face predicții impresionante prin descoperirea tiparelor de date pe care oamenii ar putea să le rateze.
Dar pentru a profita la maxim de aceste predicții în domeniul sănătății, AI nu poate merge singur la ea. Mai degrabă, oamenii trebuie să ajute în continuare la luarea deciziilor care pot avea consecințe majore asupra sănătății și financiare. Deoarece sistemele de AI nu au inteligența generală a oamenilor, ei pot face predicții dezamăgitoare care s-ar putea dovedi dăunătoare dacă medicii și spitalele le urmează fără îndoială.
Exemplul clasic vine de la Rich Caruana, cercetător senior la Microsoft Research, după cum a explicat în revista Engineering and Technology anul trecut. În anii 90, Caruana a lucrat la un proiect care a încercat să utilizeze o formă anterioară de învățare automată pentru a prezice dacă un pacient cu pneumonie este un caz cu risc scăzut sau cu risc ridicat. Însă problemele au apărut atunci când modelul de învățare automată a încercat să prezice cazul bolnavilor de astm, care prezintă un risc ridicat, deoarece dificultățile preexistente ale respirației îi fac vulnerabili la pneumonie. Modelul i-a pus pe acești pacienți ca fiind cu risc scăzut, necesitând o intervenție minoră și nu o spitalizare - lucru pe care un expert uman nu l-ar fi făcut niciodată.
Dacă urmați modelul orbește, spune Kenneth Jung, un om de știință din cadrul Stanford Center for Biomedical Informatics Research, „atunci sunteți ostasat. Pentru că modelul spune: „Oh, acest copil cu astm a venit și au primit pneumonie, dar nu trebuie să ne facem griji pentru ei și îi trimitem acasă cu niște antibiotice”.
Predicțiile de învățare profundă pot, de asemenea, să eșueze dacă întâlnesc puncte de date neobișnuite, cum ar fi cazuri medicale unice, pentru prima dată sau când învață tipare particulare în seturi de date specifice care nu se generalizează bine la cazurile medicale noi.
Predicțiile AI se descurcă cel mai bine atunci când sunt aplicate la seturi de date masive, cum ar fi în China, care are un avantaj în formarea sistemelor AI datorită accesului la populații mari și la datele despre pacienți. În februarie, revista Nature Medicine a publicat un studiu realizat de cercetători cu sediul în San Diego și Guangzhou, China, care a arătat o promisiune în diagnosticarea multor boli comune ale copilăriei pe baza înregistrărilor electronice de sănătate a mai mult de 567.000 de copii.
Dar chiar și seturile de date mari pot pune probleme, în special atunci când cercetătorii încearcă să-și aplice algoritmul într-o nouă populație. În studiul Nature Medicine, toți cei jumătate de milion de pacienți proveneau de la un centru medical din Guangzhou, ceea ce înseamnă că nu există nicio garanție că lecțiile de diagnosticare învățate de la instruirea pe acel set de date se vor aplica cazurilor pediatrice din altă parte. Fiecare centru medical poate atrage propriul său set unic de pacienți - un spital cunoscut pentru centrul său cardiovascular, de exemplu, poate atrage afecțiuni cardiace mai critice. Și concluziile unui spital din Guangzhou care atrage majoritatea pacienților etnici chinezi s-ar putea să nu se traducă la unul din Shanghai, cu un număr mai mare de pacienți născuți străini, non-chinezi.
În această discuție TEDx din 2017, Shinjini Kundu de la Spitalul Johns Hopkins explică modul în care instrumentele de AI au potențialul de a obține mai mult din imaginile medicale decât medicii singuri pot - inclusiv prezicerea bolilor înainte ca pacienții să prezinte simptome.
Această extrapolare se va dovedi dificilă și în alte situații. De exemplu, spune Marzyeh Ghassemi, un informatician și inginer biomedical la Universitatea din Toronto, spune că aveți 40.000 de pacienți în UCI la Centrul Medical Beth Israel Deaconess - acesta este doar un spital dintr-un singur oraș. „Și așa am toate aceste lucrări care au făcut predicții cu aceste date. Funcționează asta cu un alt spital din Boston? Poate. Funcționează pentru un spital din alt stat? Ar funcționa în altă țară? Nu știm. "
***
În timp ce modelele AI nu pot funcționa în toate cazurile, Ghassemi consideră că tehnologia este în continuare în valoare de a fi explorată. „Sunt foarte în favoarea luării acestor modele de pe bancă pe noptieră”, spune ea, „dar cu pași de precauție cu adevărat agresivi”.
Acești pași trebuie să existe pe parcursul dezvoltării și desfășurării AI, spune I. Glenn Cohen, profesor de drept la Universitatea Harvard și lider pentru proiectul de medicină de precizie, inteligență artificială și drept. Aceasta poate implica verificarea exactității și transparenței predicțiilor AI. Și în timpul colectării datelor, cercetătorii vor trebui, de asemenea, să protejeze confidențialitatea pacientului și să solicite consimțământul pentru a utiliza datele pacientului pentru instruirea AI
Problema consimțământului apare din nou când modelul AI este pregătit pentru testarea clinică experimentală la pacienți reali. „Trebuie să li se spună pacienților că folosești algoritmul pe ei și contează dacă AI-ul ghidează complet îngrijirea sau parțial ghidează îngrijirea?”, Se întreabă Cohen. „Există foarte puține gândiri la aceste întrebări.”
Ghassemi pledează, de asemenea, pentru auditul frecvent al algoritmilor AI pentru a asigura corectitudinea și exactitatea în diferite grupuri de oameni, bazate pe etnie, sex, vârstă și asigurări de sănătate. Acest lucru este important, având în vedere modul în care aplicațiile AI din alte domenii au arătat deja că pot prelua cu ușurință prejudecăți.
După toți acești pași, persoanele și companiile care furnizează servicii AI vor trebui să rezolve răspunderea legală în cazul greșelilor inevitabile. Și spre deosebire de majoritatea dispozitivelor medicale, care de obicei au nevoie de o singură aprobare de reglementare, serviciile AI pot necesita revizuire suplimentară ori de câte ori învață din date noi.
Unele agenții de reglementare regândesc modul de evaluare a asistenței medicale AI În aprilie, Administrația SUA pentru Alimente și Droguri (FDA) a lansat un document de discuții pentru a obține feedback-ul publicului despre modul de actualizare a revizuirii de reglementare relevante. „Ceea ce încercăm continuu să facem aici este să revenim la obiectivul nostru de a oferi oamenilor acces la tehnologii, dar ne dăm seama și că metodele noastre actuale nu funcționează destul de bine”, spune Bakul Patel, director pentru sănătate digitală la FDA. „De aceea trebuie să analizăm o abordare holistică a întregului ciclu de viață al produsului.”
Pe lângă problemele legate de acces, confidențialitate și reglementări, nu este clar, de asemenea, cine să beneficieze cel mai mult de serviciile de asistență medicală AI. Există deja disparități în domeniul asistenței medicale: Potrivit Băncii Mondiale și Organizației Mondiale a Sănătății, jumătate din populația globului nu are acces la servicii esențiale de îngrijire a sănătății și aproape 100 de milioane de oameni sunt împinși în sărăcie extremă prin cheltuieli pentru îngrijirea sănătății. În funcție de modul în care este implementat, AI ar putea fie să îmbunătățească aceste inegalități, fie să le agraveze.
„O mulțime de discuții despre AI au fost despre cum să democratizăm asistența medicală și vreau să văd asta se întâmplă”, spune Effy Vayena, bioetician la Institutul Federal de Tehnologie din Elveția.
„Dacă ai sfârșit cu o prestație de serviciu mai față de cei care și-ar putea permite asistență medicală bună”, adaugă ea, „nu sunt sigur dacă aceasta este transformarea pe care o căutăm”.
Modul în care toate aceste jocuri depinde de diferitele viziuni pentru implementarea AI Dezvoltarea timpurie s-a concentrat pe aplicații de diagnostic foarte restrânse, precum examinarea imaginilor pentru indicii de cancer de piele sau ciuperca unghiilor sau citirea radiografiilor toracice. Dar eforturile mai recente au încercat să diagnostice mai multe condiții de sănătate simultan.
În august 2018, Moorfields Eye Hospital din Regatul Unit și DeepMind. Laboratorul AI din Londra, deținut de compania-mamă Google Alphabet, a arătat că au instruit cu succes un sistem de AI pentru identificarea a peste 50 de boli de ochi în scanări, ceea ce s-a potrivit cu performanțele experților de vârf. Ambițiile la fel de largi au determinat studiul de la San Diego și Guangzhou, care a instruit AI pentru a diagnostica bolile comune în rândul copiilor. Acesta din urmă nu a fost la fel de bun în diagnosticarea bolilor pediatrice în comparație cu medicii seniori, dar s-a comportat mai bine decât unii medici mai tineri.
Este posibil ca aceste sisteme AI să nu depășească cei mai buni experți umani pentru a ajuta la democratizarea asistenței medicale, ci pur și simplu să extindă accesul la standardele medicale actuale. Cu toate acestea, până în prezent, multe aplicații de IA propuse se concentrează pe îmbunătățirea standardului actual de îngrijire, în loc să răspândească îngrijiri medicale la prețuri accesibile, Cohen spune: „Democratizarea a ceea ce avem deja ar fi un impact mult mai mare pentru buck-ul tău decât îmbunătățirea ceea ce avem în multe zone. ”
Accenture, o firmă de consultanță, prevede că aplicațiile de top din AI ar putea economisi 150 miliarde de dolari pe economie din SUA până în 2026. Însă nu este clar dacă vor beneficia pacienții și sistemele de asistență medicală suplimentate de dolari contribuabili sau dacă mai mulți bani ar curge pur și simplu către companiile tehnologice., furnizorii de servicii medicale și asigurătorii.
„Întrebarea cu cine va conduce acest lucru și cine va plăti pentru asta este o întrebare importantă”, spune Kohane. „Ceva un pic halucinant în toate planurile de afaceri este că ei cred că știu cum va rezolva”.
Chiar dacă serviciile de AI oferă recomandări de economisire a costurilor, medicii umani și organizațiile de îngrijire a sănătății pot ezita să ia sfaturi despre AI dacă obțin bani mai puțini, ca urmare, Kohane avertizează. Asta vorbește despre problema sistemică mai mare a asigurătorilor de sănătate din SUA, folosind un model cu taxă pentru serviciu, care adesea recompensează medicii și spitalele pentru adăugarea de teste și proceduri medicale, chiar și atunci când acestea nu sunt necesare.
***
Există o altă oportunitate de AI care ar putea îmbunătăți calitatea asistenței medicale, lăsând totuși cele mai multe diagnostice medicale în mâinile medicilor. În cartea sa Deep Medicine din 2019, Eric Topol, director și fondator al Scripps Research Translational Institute, vorbește despre crearea esențială a unui Siri medical supraalimentat - un asistent AI pentru a lua note despre interacțiunile dintre medici și pacienți, introduceți aceste note în sănătatea electronică. înregistrează și reamintește-le medicilor să întrebe despre părțile relevante din istoricul pacientului.
„Aspirația mea este să decomprimăm activitatea medicilor și să scăpăm de rolul lor de funcționar de date, să ajutăm pacienții să-și asume mai multă responsabilitate și să clarifice datele, astfel încât să nu dureze atât de mult pentru a revizui lucrurile”, spune Topol.
Acea asistentă medicală sau scrib care nu uită niciodată, spune Kohane, ar necesita AI care să poată urmări și transcrie automat mai multe voci între medici și pacienți. El susține ideea lui Topol, dar adaugă că majoritatea aplicațiilor AI în dezvoltare nu par să fie concentrate pe astfel de asistenți. Totuși, unele companii precum Saykara și DeepScribe au dezvoltat servicii de-a lungul acestor linii și chiar Google a făcut echipă cu Universitatea Stanford pentru a testa o tehnologie similară de „scribe digital”.
Un asistent AI poate suna mai puțin interesant decât un medic AI, dar ar putea elibera medicii să petreacă mai mult timp cu pacienții lor și să îmbunătățească calitatea generală a îngrijirii. Medicii de familie, în special, petrec adesea mai mult de jumătate din zilele lor de lucru introducând date în fișele de sănătate electronice - un factor principal în spatele arderii fizice și emoționale, care are consecințe grave, inclusiv decesele pacienților.
În mod ironic, registrele de sănătate electronice trebuiau să îmbunătățească îngrijirile medicale și să reducă costurile, făcând informațiile despre pacienti mai accesibile. Acum Topol și mulți alți experți au indicat înregistrările electronice de sănătate ca o poveste de precauție pentru actualul hype care înconjoară AI în medicină și îngrijirea sănătății.
Implementarea înregistrărilor electronice de sănătate a creat deja un sistem de patchwork răspândit printre sute de furnizori privați, care reușește în principal să izoleze datele despre pacienți și îl fac inaccesibil atât pentru medici, cât și pentru pacienți. Dacă istoria este un ghid, multe companii de tehnologie și organizații de îngrijire a sănătății vor simți atracția de a urma căi similare prin acoperirea de date medicale pentru propriile lor sisteme de IA.
O modalitate de a evita acest lucru poate fi utilizarea unui sistem colectiv de informații care să aglomereze și să se bazeze pe expertiza medicală din diferite surse, spune Komarneni, care încearcă această abordare cu Human Dx. Susținut de organizații medicale majore, cum ar fi Asociația Medicală Americană, Human Dx a construit o platformă online pentru consultanță publică de la mii de medici cu privire la cazuri medicale specifice. Komarneni speră că, în teorie, o astfel de platformă ar putea, de asemenea, să includă într-o zi sfaturi de diagnostic de la numeroase servicii AI diferite.
„În același mod în care mai mulți profesioniști umani ar putea privi cazul tău în viitor, nu există niciun motiv pentru care AI-uri multiple să nu poată face acest lucru”, spune Komarneni.
Pe măsură ce medicii își așteaptă asistenții AI, proiectele de aglomerare precum Human Dx „ar putea duce cu siguranță la diagnosticare îmbunătățită sau chiar recomandări îmbunătățite pentru terapie”, spune Topol, care a coautorizat un studiu din 2018 pe o platformă similară numită Medscape Consult. Lucrarea a concluzionat inteligența umană colectivă ar putea fi o „strategie competitivă sau complementară” pentru AI în medicină.
Dar, dacă serviciile AI trec toate testele și controalele din lumea reală, acestea ar putea deveni parteneri semnificativi pentru oameni în remodelarea asistenței medicale moderne.
„Există lucruri pe care mașinile nu le vor face niciodată bine, iar altele, acolo unde vor depăși ceea ce orice om poate face”, spune Topol. „Așa că, atunci când îi combinați pe cei doi, este un pachet foarte puternic.”
***
Jeremy Hsu este un jurnalist independent, cu sediul în New York. Scrie frecvent despre știință și tehnologie pentru Backchannel, IEEE Spectrum, Popular Science și Scientific American, printre alte publicații.
Acest articol a fost publicat inițial pe Undark. Citiți articolul original.
