Mogli biste se oprostiti od razmišljanja da će AI uskoro zamijeniti ljudske liječnike na temelju naslova poput "AI liječnik će vas vidjeti sada", "Budući doktor možda neće biti čovjek" i "Ovaj AI samo pobijedi liječnike na kliničkom ispitu "Ali stručnjaci kažu da je stvarnost više kolaboracija nego svrgavanje: pacijenti bi uskoro mogli pronaći svoj život dijelom u rukama AI službi koje rade zajedno s ljudskim kliničarima.
U medicinskoj zajednici ne nedostaje optimizma oko AI. No mnogi također upozoravaju da hiper oko AI tek treba realizirati u stvarnim kliničkim okruženjima. Postoje i različita viđenja kako bi AI usluge mogle napraviti najveći utjecaj. I još uvijek nije jasno hoće li AI poboljšati život pacijenata ili je samo osnovna vrijednost za tvrtke iz Silicijske doline, zdravstvene organizacije i osiguravatelje.
"Mislim da bi svi naši pacijenti zapravo trebali željeti da se AI tehnologije odraze na slabosti zdravstvenog sustava, ali to moramo učiniti na hype način koji nije u Silicijskoj dolini", kaže Isaac Kohane, istraživač biomedicinske informatike u Harvard Medical School.
Ako AI djeluje kako je i obećano, to bi moglo demokratizirati zdravstvenu skrb povećanjem pristupa nezadovoljnim zajednicama i smanjenjem troškova - blagodati u Sjedinjenim Državama, koja se slabo rangira po mnogim zdravstvenim mjerama unatoč prosječnom godišnjem trošku zdravstvene zaštite od 10.739 dolara po osobi. AI sustavi bi mogli osloboditi preopterećenih liječnika i smanjiti rizik od medicinskih pogrešaka koje svake godine mogu ubiti desetke, ako ne i stotine tisuća američkih pacijenata. A u mnogim zemljama s nedostatkom liječnika, poput Kine, gdje prenapučene gradske bolnice mogu vidjeti do 10.000 ljudi dnevno, takvim tehnologijama nije potrebna savršena točnost da bi se pokazala korisnom.
No, kritičari ističu da bi sve to obećanje moglo nestati ako žurba s primjenom AI-a poteče prava privatnosti pacijenata, previdi pristranosti i ograničenja ili ne primijeni usluge na način koji poboljšava zdravstvene rezultate većine ljudi.
"Na isti način na koji tehnologije mogu zatvoriti razlike, one mogu pogoršati nejednakosti", kaže Jayanth Komarneni, osnivač i predsjedatelj Projekta humane dijagnoze (Human Dx), korporacije za opću dobrobit koja se fokusirala na crowdfucing medicinsku stručnost. "I ništa ne može pogoršati razlike poput AI"
***
Danas su najpopularnije AI tehnike strojno učenje i njegov mlađi rođak, duboko učenje. Za razliku od računalnih programa koji strogo slijede pravila napisana od strane ljudi, i algoritmi strojnog učenja i dubokog učenja mogu pogledati skup podataka, učiti iz njega i napraviti nova predviđanja. Posebno duboko učenje može napraviti impresivna predviđanja otkrivanjem obrazaca podataka koji ljudima mogu propustiti.
No kako bi se maksimalno iskoristio u predviđanjima zdravstvene skrbi, AI ne mogu sam to učiniti. Umjesto toga, ljudi još uvijek moraju pomoći u donošenju odluka koje mogu imati velike zdravstvene i financijske posljedice. Budući da AI sustavima nedostaje opća inteligencija ljudi, oni mogu dati zbunjujuće prognoze koje bi se mogle pokazati štetnim ako ih liječnici i bolnice neupitno slijede.
Klasični primjer dolazi od Rich Caruane, starijeg istraživača u Microsoftovom istraživanju, kako je objasnio u časopisu Engineering and Technology prošle godine. U 1990-ima Caruana je radila na projektu koji je pokušao pomoću ranijeg oblika strojnog učenja predvidjeti je li pacijent s upalom pluća niskorizičan ili visokorizičan slučaj. No problemi su nastali kada je model strojnog učenja pokušao predvidjeti slučaj oboljelih od astme, koji su visoko rizični, jer ih zbog postojećih poteškoća s disanjem čine ranjivim na upalu pluća. Model je te pacijente smatrao niskim rizikom, što je zahtijevalo manju intervenciju, a ne hospitalizaciju - nešto što ljudski stručnjak nikad ne bi učinio.
Ako slijepo slijedite model, kaže Kenneth Jung, znanstvenik u Centru za istraživanje biomedicinske informatike u Stanfordu, „onda vam je prerušen. Jer manekenka kaže: "Oh, ovo dijete s astmom je došlo i dobilo je upalu pluća, ali ne trebamo se brinuti o njima i šaljemo ih kući s antibioticima."
Predviđanja dubokog učenja također mogu propasti ako se prvi put susreću s neobičnim točkama podataka, kao što su jedinstveni medicinski slučajevi ili kad nauče osebujne obrasce u određenim skupovima podataka koji se ne generaliziraju na nove medicinske slučajeve.
Predviđanja AI najbolje se primjenjuju kada se primjenjuju na ogromne skupove podataka, poput Kine, koja ima prednost u obuci AI sustava zahvaljujući pristupu velikoj populaciji i podacima o pacijentima. U veljači, časopis Nature Medicine objavio je istraživanje istraživača sa sjedištem u San Diegu i Guangzhouu u Kini koje je pokazalo obećanje u dijagnosticiranju mnogih uobičajenih dječjih bolesti na temelju elektroničkih zdravstvenih kartona više od 567.000 djece.
Ali čak i velike skupove podataka mogu predstavljati probleme, posebno kada istraživači pokušavaju primijeniti svoj algoritam na novu populaciju. U studiji Nature Medicine, svih pola milijuna pacijenata došlo je iz jednog medicinskog centra u Guangzhouu, što znači da nema garancije da će se dijagnostičke lekcije naučene na treningu na tom skupu podataka primjenjivati na pedijatrijske slučajeve drugdje. Svaki medicinski centar može privući vlastiti jedinstveni skup pacijenata - na primjer, bolnica poznata po svom kardiovaskularnom centru može privući kritičnija stanja srca. A nalazi iz bolnice u Guangzhouu koji uglavnom privlače etničke kineske pacijente možda se ne mogu prevesti u jednu u Šangaj s većim brojem ne-kineskih pacijenata rođenih u inozemstvu.
U ovom TEDx razgovoru za 2017. godinu, Shinjini Kundu iz bolnice Johns Hopkins objašnjava kako AI alati mogu dobiti više od medicinskih slika nego što to mogu sami liječnici - uključujući predviđanje bolesti prije nego što pacijenti pokažu simptome.
Ova ekstrapolacija će se pokazati teškom i u drugim situacijama. Na primjer, kaže Marzyeh Ghassemi, informatičar i biomedicinski inženjer sa Sveučilišta u Torontu, kaže da u Medicinskom centru Beth Israel Deaconess ima 40 000 pacijenata iz ICU-a - to je samo jedna bolnica u jednom gradu. "I tako imam sve te papire koji su sa ovim podacima predvidjeli. Radi li to s drugom bolnicom u Bostonu? Može biti. Radi li za bolnicu u drugoj državi? Bi li to uspjelo u nekoj drugoj zemlji? Ne znamo. "
***
Iako AI modeli možda neće raditi u svakom slučaju, Ghassemi smatra da tu tehnologiju još uvijek vrijedi istražiti. "Veoma sam za to da ove modele uzmem s klupe kraj kreveta", kaže, "ali s stvarno agresivnim koracima."
Ti koraci moraju postojati tijekom razvoja i implementacije AI, kaže I. Glenn Cohen, profesor prava na Sveučilištu Harvard i voditeljica Projekta precizne medicine, umjetne inteligencije i zakona. To može uključivati provjeru točnosti i transparentnosti predviđanja AI. A tijekom prikupljanja podataka istraživači će također morati zaštititi privatnost pacijenata i tražiti suglasnost za korištenje podataka o pacijentima za obuku o AI
Pitanje pristanka ponovno se pojavljuje kada je AI model spreman za eksperimentalna klinička ispitivanja s stvarnim pacijentima. "Treba li pacijentima reći da koristite algoritam na njima, i je li važno je li AI u potpunosti vodeća skrb ili djelomično vodeća skrb?", Pita Cohen. "Zaista je malo razmišljanja o tim pitanjima."
Ghassemi se također zalaže za često reviziju algoritama inteligencije kako bi se osigurala pravednost i točnost za različite skupine ljudi na temelju etničke pripadnosti, spola, dobi i zdravstvenog osiguranja. To je važno s obzirom na to kako su AI aplikacije na drugim poljima već pokazale da lako mogu uočiti pristranosti.
Nakon svih tih koraka ljudi i tvrtke koje pružaju AI usluge morat će riješiti pravnu odgovornost u slučaju neizbježnih grešaka. Za razliku od većine medicinskih uređaja, za koje je obično potrebno samo jedno regulatorno odobrenje, AI usluge mogu zahtijevati dodatni pregled kad god nauče iz novih podataka.
Neke regulatorne agencije preispituju kako procijeniti AI u zdravstvu U travnju je američka Uprava za hranu i lijekove (FDA) objavila dokument za raspravu kako bi dobila povratnu informaciju javnosti o tome kako ažurirati relevantni regulatorni pregled. "Ono što ovdje stalno pokušavamo učiniti je da se vratimo našem cilju pružanja pristupa ljudima tehnologijama, ali također shvaćamo da naše trenutne metode ne funkcioniraju dobro", kaže Bakul Patel, direktor za digitalno zdravlje u FDA. „Zato moramo pogledati holistički pristup čitavog životnog ciklusa proizvoda.“
Uz pitanja koja se tiču pristupa, privatnosti i propisa, također nije jasno samo tko treba imati najviše koristi od AI zdravstvenih usluga. Već postoje razlike u zdravstvu: prema Svjetskoj banci i Svjetskoj zdravstvenoj organizaciji, polovica stanovništva na svijetu nema pristup osnovnim zdravstvenim uslugama, a gotovo 100 milijuna ljudi potisnuto je u krajnje siromaštvo zbog troškova zdravstvene zaštite. Ovisno o tome kako se koristi, AI je mogao ili poboljšati te nejednakosti ili ih pogoršati.
"Mnogo rasprava o AI bilo je o tome kako demokratizirati zdravstvenu zaštitu i želim da se to dogodi", kaže Effy Vayena, bioetičarka iz Federalnog tehnološkog instituta u Švicarskoj.
"Ako samo završite sa fanciernijim pružanjem usluga onima koji bi ionako sebi mogli priuštiti dobru zdravstvenu zaštitu, " dodaje, "Nisam sigurna je li to transformacija koju tražimo."
Kako će se sve ovo odvijati ovisi o različitim vizijama za implementaciju AI Rani se razvoj usredotočio na vrlo uske dijagnostičke primjene, kao što je ispitivanje slika radi nagovještaja o raku kože ili gljivica na noktima ili čitanje X-zraka. No noviji napori pokušali su dijagnosticirati više zdravstvenih stanja odjednom.
U kolovozu 2018. Moorfields Eye Hospital u Velikoj Britaniji i DeepMind. londonski AI laboratorij u vlasništvu Googleove matične tvrtke Alphabet pokazao je da su uspješno obučili AI sustav prepoznavanja više od 50 očnih bolesti u skenima, što je u skladu s rezultatima vodećih stručnjaka. Slično široke ambicije pokrenule su i istraživanje u San Diegu i Guangzhouu koje su uvježbavale AI za dijagnozu uobičajenih tegoba među djecom. Potonje nije bilo tako dobro u dijagnosticiranju dječjih bolesti u usporedbi s starijim liječnicima, ali je išlo bolje nego neki mlađi liječnici.
Takvi AI sustavi možda neće trebati nadmašiti najbolje ljudske stručnjake kako bi pomogli demokratizaciji zdravstvene zaštite, već jednostavno proširuju pristup postojećim medicinskim standardima. Ipak, do sada su mnoge predložene aplikacije za AI usredotočene na poboljšanje trenutnog standarda skrbi, a ne na širenje pristupačne zdravstvene zaštite uokolo, Cohen kaže: „Demokratizacija onoga što već imamo bila bi mnogo veća šansa za vaš dolar nego poboljšavanje onoga što imamo mnoga područja. "
Konsultantska tvrtka Accenture predviđa da bi vrhunske AI aplikacije do 2026. godine mogle uštedjeti 150 milijardi američkih dolara godišnje. No, nejasno je hoće li pacijenti i zdravstveni sustavi dopunjeni porezima za dohodak imati koristi ili će više novca jednostavno otići tehnološkim kompanijama, pružatelji zdravstvenih usluga i osiguratelji.
"Pitanje ko će ovo voziti i tko će platiti za to je važno pitanje", kaže Kohane. "Nešto pomalo halucinantno u svim tim poslovnim planovima je da oni misle kako znaju kako će to ispasti."
Čak i ako AI službe daju preporuke za uštedu troškova, ljudski liječnici i zdravstvene organizacije mogu se ustručavati uzeti savjet o AI ako kao rezultat toga zarade manje novca, upozorava Kohane. To govori o većem sustavnom pitanju američkih zdravstvenih osiguratelja koji koriste model naknade za uslugu koji liječnike i bolnice često nagrađuje dodavanjem testova i medicinskih postupaka, čak i kada im nisu potrebni.
***
Postoji još jedna AI prilika koja bi mogla poboljšati kvalitetu skrbi, a pritom ostaje većina medicinskih dijagnoza u rukama liječnika. U svojoj knjizi Deep Medicine iz 2019. godine, Eric Topol, direktor i osnivač Translacijskog instituta Scripps Research, govori o stvaranju u osnovi medicinski punjene Siri - pomoćnika AI koji vodi bilješke o interakcijama između liječnika i njihovih pacijenata, unosi te bilješke u elektroničko zdravlje snimke i podsjetite liječnike da pitaju o relevantnim dijelovima pacijentove povijesti.
"Moja je težnja da dekomprimiramo rad liječnika i riješimo se njihove uloge službenika za podatke, pomognemo pacijentima da preuzmu veću odgovornost i upišu podatke kako ne bi trebalo dugo da se preispitaju stvari", kaže Topol.
Taj „nikad zaboravni medicinski asistent ili pisar“, kaže Kohane, zahtijeva AI koji može automatski pratiti i prepisati više glasova između liječnika i pacijenata. Podržava Topolovu ideju, ali dodaje da se čini da se većina AI aplikacija u razvoju ne fokusira na takve pomoćnike. Ipak, neke tvrtke poput Saykara i DeepScribe razvile su usluge u tom smislu, pa se čak i Google udružio sa Sveučilištem Stanford kako bi testirao sličnu tehnologiju "digitalnog pisca".
Pomoćnik AI može zvučati manje uzbudljivo od liječnika s AI, ali to bi moglo osloboditi liječnike da provedu više vremena sa svojim pacijentima i poboljšati ukupnu kvalitetu skrbi. Osobito obiteljski liječnici često provode više od polovice svojih radnih dana unoseći podatke u elektroničku zdravstvenu evidenciju - glavni čimbenik iza fizičkog i emocionalnog izgaranja, koji ima strašne posljedice, uključujući smrt pacijenata.
Ironično je da su elektronički zdravstveni kartoni trebali poboljšati medicinsku njegu i smanjiti troškove na način da su informacije o pacijentima dostupnije. Sada su Topol i mnogi drugi stručnjaci ukazali na elektroničku zdravstvenu evidenciju kao upozoravajući priručnik za trenutni hype oko AI u medicini i zdravstvu.
Primjena elektroničkih zdravstvenih kartona već je stvorila sustav patchwork raširenog među stotinama privatnih dobavljača koji uglavnom uspijevaju izolirati podatke o pacijentima i čine ga nedostupnim i liječnicima i pacijentima. Ako je povijest bilo koji vodič, mnoge tehnološke tvrtke i zdravstvene organizacije osjetit će težnju slijediti slične putove prikupljanjem medicinskih podataka za svoje AI sustave.
Jedan od načina za to može biti uporaba kolektivnog sustava obavještavanja koji objedinjuje i rangira medicinsku stručnost iz različitih izvora, kaže Komarneni, koji pokušava pristupiti Human Dx-u. Human Dx je uz podršku velikih medicinskih organizacija, poput Američkog medicinskog udruženja, izgradio internetsku platformu za tisak savjeta tisuća liječnika o specifičnim medicinskim slučajevima. Komarneni se nada da bi takva platforma teoretski mogla jednog dana uključivati i dijagnostičke savjete mnogih različitih AI usluga.
"Na isti način kao što više ljudi profesionalaca može gledati na vaš slučaj u budućnosti, nema razloga zašto više AI to ne bi mogao učiniti", kaže Komarneni.
Dok liječnici čekaju svoje AI pomagače, projekti gužve kao što je Human Dx "definitivno bi mogli dovesti do poboljšane dijagnostike ili čak poboljšanih preporuka za terapiju", kaže Topol, koji je sudjelovao u studiji za 2018. godinu na sličnoj platformi Medscape Consult. U radu je zaključeno da bi kolektivna ljudska inteligencija mogla biti "konkurentna ili komplementarna strategija" AI u medicini.
Ali ako AI službe prođu sve testove i provjere u stvarnom svijetu, mogle bi postati važni partneri ljudima u preoblikovanju moderne zdravstvene zaštite.
"Postoje stvari zbog kojih strojevi nikad neće uspjeti, a zatim i druge u kojima će premašiti ono što čovjek može učiniti", kaže Topol. "Dakle, kada ih sastavite, to je vrlo moćan paket."
***
Jeremy Hsu je slobodni novinar sa sjedištem u New Yorku. Među ostalim publikacijama često piše o znanosti i tehnologiji za Backchannel, IEEE Spectrum, Popular Science i Scientific American.
Ovaj je članak izvorno objavljen na Undarku. Pročitajte izvorni članak.
