Ak by mal jeden z lekárov úspešnosť 92 percent a druhý výrazne nižšiu, ktorého by ste si vybrali? Prvého? Tak vašu diagnózu určí umelá inteligencia. V prípade nižšej úspešnosti by diagnózu určoval človek sám.
Výsledky najnovších štúdií potvrdzujú, že veľké jazykové modely umelej inteligencie (AI) dosahujú pri medicínskej diagnostike lepšie výsledky ako lekári.
Z toho jasne vyplýva, že lekári by sa pri diagnostike mali spoliehať na pomoc AI. Podľa najnovšej štúdie je tu jeden zásadný problém – lekári sa totiž nenaučili dôverovať AI.
A čo hovoria konkrétne dáta? Vedci skúmali tri skupiny, a to keď údaje od pacientov vyhodnocovala samostatne AI, samostatne lekár a do tretice lekári v spolupráci s AI. Jednoznačne najlepšie výsledky dosiahla AI, keď správne určila diagnózu v 92 percentách prípadov.
Samotní lekári diagnostikovali stav pacienta správne v 74 percentách prípadov. V prípade, že svoje výsledky konzultovali s umelou inteligenciou, tak sa ich výsledok zlepšil iba o dve percentá na 76 percent. Ukazuje to, že lekári majú problém dôverovať umelej inteligencii a zatiaľ sa s ňou nenaučili efektívne spolupracovať.
Potvrdil to aj spoločný výskum Massachusettského technologického inštitútu a Harvardu, ktorého výsledky prezentoval lekár Pranav Rajpurkar v novinách New York Times. Vedci skúmali, ako rádiológovia diagnostikujú potenciálne choroby z röntgenových snímok hrudníka.
Štúdia zistila, že keď sa rádiológom ukázali predpovede AI o pravdepodobnosti ochorenia, často podcenili vstup AI v porovnaní s vlastným úsudkom. Lekári sa držali svojich pôvodných diagnóz aj vtedy, keď bola AI správna. Výsledkom boli menej presné diagnózy.
Kríza zovšeobecnenia
Chyba však nie je iba u ľudí. Svoje nedokonalosti majú aj nástroje umelej inteligencie. Aj autori upozorňujú na to, že „výsledky tejto štúdie by sa nemali interpretovať tak, že by sa AI mala používať na diagnostiku samostatne bez dohľadu lekára. Umelej inteligencii napríklad chýba kompetencia v mnohých oblastiach dôležitých pre klinické uvažovanie vrátane rozhovoru s pacientom a zberu údajov“.
Na určité nedostatky AI modelov upozorňuje pre Forbes aj výskumníčka umelej inteligencie a strojového učenia v prepojení s medicínou Julie Hussin z Univerzity v Montreale: „Jednou z najväčších výziev je kríza zovšeobecnenia, čo znamená, že mnohé modely umelej inteligencie fungujú dobre v kontexte, v ktorom boli vyškolené, ale zlyhávajú pri aplikácii na nové nemocnice, skupiny pacientov alebo iné reálne podmienky. Stáva sa to z dôvodu posunu údajov, keď sa údaje, ktoré AI vidí, spočiatku líšia od údajov, na ktorých bola vyškolená – či už z dôvodu odlišných demografických údajov, zdravotníckeho vybavenia alebo miestnych postupov v zdravotníctve.“
Pokročilé modely umelej inteligencie dosahujú dobré výsledky pri odborných lekárskych skúškach, ale stále sa im nedarí plniť jednu z najdôležitejších úloh lekára: rozprávať sa s pacientmi, aby získali relevantné lekárske informácie a stanovili presnú diagnózu.
„Zatiaľ čo veľké jazykové modely vykazujú pôsobivé výsledky v testoch s výberom odpovede, ich presnosť v dynamických rozhovoroch výrazne klesá,“ hovorí Pranav Rajpurkar z Harvardovej univerzity pre New Scientist. „Modely majú problémy najmä s otvorenou diagnostickou úvahou.“
Docentka Julie Hussin, ktorá prišla do Bratislavy na pozvanie kanadskej ambasády, varuje, že ak AI nie je odolná voči týmto posunom, jej predpovede sa môžu stať nespoľahlivými, čo môže viesť k nesprávnej diagnóze alebo nesprávnemu odporúčaniu, a to môže mať vážne dôsledky.
Kedy sa bude AI rozhodovať sama?
V krátkodobom horizonte môže podľa odborníčky umelá inteligencia „priniesť revolúciu v efektívnosti zdravotnej starostlivosti, pretože prevezme časovo náročné administratívne úlohy a umožní lekárom sústrediť sa viac na starostlivosť o pacientov“.
„Umelá inteligencia dokáže rýchlo prehľadávať milióny lekárskych záznamov, zobrazovacích snímok a výskumných prác, identifikovať relevantné vzory a navrhovať potenciálne spôsoby liečby, ktoré mohli byť prehliadnuté. Vďaka tejto schopnosti spracovať obrovské množstvo informácií je AI výkonným nástrojom na vytváranie hypotéz, ktorý pomáha výskumníkom objavovať nové spôsoby použitia existujúcich liekov, markerov včasných ochorení alebo možností liečby. AI bude pôsobiť ako vysoko efektívny asistent, ktorý zníži pracovné zaťaženie a zvýši rýchlosť rozhodovania,“ dodáva Hussin.
Pri vyššej úspešnosti AI sa automaticky ponúka otázka, či príde čas, keď umelá inteligencia ľudských lekárov nahradí úplne. Julia Hussin si to nemyslí, hoci pripúšťa, že AI postupom času môže prevziať niektoré technické aspekty rozhodovania.
„Medicína je však viac než len technická presnosť, vyžaduje si ľudský úsudok, empatiu a pochopenie individuálnych potrieb pacienta – čo AI nedokáže replikovať. Vždy bude potrebný človek, ktorý bude overovať odporúčania AI, poskytovať kontext a zabezpečovať etickú starostlivosť,“ hovorí pre Forbes Hussin.
Hussin dodáva, že od umelej inteligencie nemôžeme očakávať prelomové objavy v medicíne. Tie budú stále závisieť od ľudských výskumníkov, keďže umelá inteligencia zatiaľ nemá schopnosť vykonávať reálne experimenty na overenie svojich hypotéz.
