Ljudi masovno koriste AI chatbotove za savjete o liječenju. To je iznimno opasno

Posljednjih godinu dana Abi koristi ChatGPT, jedan od najpoznatijih AI chatbotova, kao pomoć u rješavanju zdravstvenih problema. Privlačnost je očigledna – ponekad se čini nemogućim dobiti termin kod ljekara opšte prakse, a vještačka inteligencija je uvijek dostupna za vaša pitanja. Štaviše, AI je s lakoćom položio i neke medicinske ispite.

Treba li, stoga, vjerovati platformama poput ChatGPT-a, Geminija i Groka? Razlikuje li se njihova upotreba od klasičnog pretraživanja interneta ili, kako strahuju neki stručnjaci, chatbotovi opasno griješe i dovode živote u opasnost – analizira BBC.

Dobre i loše strane AI savjeta

Abi iz Mančestera bori se sa zdravstvenom anksioznošću i smatra da chatbot pruža prilagođenije savjete od pretraživanja interneta, koje je često odmah usmjeri na najgore moguće scenarije.

„To je kao da zajedno rješavamo problem. Pomalo kao razgovor s ljekarom“, kaže ona.

Abi je iskusila i dobre i loše strane korištenja AI chatbotova za zdravstvene savjete. Kada je sumnjala na infekciju mokraćnog sistema, ChatGPT je analizirao njene simptome i preporučio odlazak u apoteku. Nakon konsultacija, propisan joj je antibiotik.

Abi kaže da joj je chatbot pružio potrebnu pomoć „bez osjećaja da opterećuje javni zdravstveni sistem“ te da je bio jednostavan izvor savjeta za nekoga ko „teško procjenjuje kada je vrijeme za posjet ljekaru“.

Međutim, u januaru se Abi „okliznula i svom se težinom srušila“ tokom planinarenja. Udarila je leđima o stijenu i osjetila „nevjerovatan“ pritisak koji se širio preko leđa u stomak. Savjet je potražila od vještačke inteligencije.

„ChatGPT mi je rekao da mi je pukao organ i da moram odmah na hitnu pomoć“, priča Abi.

Nakon što je tri sata provela na hitnom prijemu, bol je popustila i Abi je shvatila da njeno stanje nije kritično te je otišla kući. Vještačka inteligencija je „očigledno pogriješila“.

Stručnjaci izražavaju zabrinutost

Teško je procijeniti koliko ljudi poput Abi koristi chatbotove za zdravstvene savjete. Popularnost ove tehnologije naglo je porasla, pa čak i ako aktivno ne tražite savjet od AI-ja, on vam se može pojaviti na vrhu rezultata internet pretrage.

Kvalitet savjeta koje daje vještačka inteligencija zabrinjava i glavnog medicinskog zvaničnika Engleske. Profesor Sir Chris Whitty rekao je Udruženju medicinskih novinara ranije ove godine da se nalazimo „u posebno osjetljivom trenutku jer ih ljudi koriste“, ali da odgovori „nisu dovoljno dobri“ i da su često „istovremeno i samouvjereni i pogrešni“.

Istraživači počinju otkrivati prednosti i nedostatke chatbotova. Laboratorija za mašinsko zaključivanje Univerziteta u Oksfordu angažovala je tim ljekara da kreiraju detaljne, realistične scenarije – od blažih zdravstvenih problema koji se mogu riješiti kod kuće, preko potrebe za rutinskim pregledom, do hitnih slučajeva.

Kada su chatbotovi imali potpunu sliku, bili su 95% tačni. „Bili su nevjerovatni, gotovo savršeni“, kaže profesor Adam Mahdi.

Međutim, situacija je bila drugačija kada je 1300 ljudi dobilo zadatak da kroz razgovor s chatbotom dođe do dijagnoze i savjeta. Upravo ta interakcija dovela je do problema – tačnost je pala na 35%, što znači da su u dvije trećine slučajeva ljudi dobili pogrešnu dijagnozu ili savjet.

Mahdi objašnjava: „Kada ljudi komuniciraju, postepeno dijele informacije, neke stvari izostave i pažnja im odluta.“

Jedan scenario opisivao je simptome moždanog udara uzrokovanog krvarenjem u mozgu, poznatog kao subarahnoidalno krvarenje – hitno stanje opasno po život. Međutim, male razlike u načinu na koji su ljudi opisivali simptome dovele su do potpuno različitih savjeta.

Razlika između chatbotova i pretraživanja

Mahdi navodi da su ljudi koji su koristili klasično pretraživanje interneta uglavnom dolazili do stranica Nacionalne zdravstvene službe i bili bolje informisani.

Doktorka Margaret McCartney iz Glazgova ističe važnu razliku:

„Stvara se utisak da s chatbotom imate ličan odnos, dok kod Google pretrage odlazite na stranicu gdje postoje pokazatelji koliko je izvor pouzdan.“

Dodaje da osjećaj „personalizovanog savjeta“ utiče na način na koji ljudi tumače informacije.

Problem dezinformacija

Zasebna analiza Instituta za biomedicinske inovacije Lundquist u Kaliforniji pokazala je da AI chatbotovi mogu širiti dezinformacije.

Testirani su na temama poput raka, vakcina, matičnih ćelija, ishrane i sportskih performansi. Više od polovine odgovora ocijenjeno je kao problematično.

Na pitanje o alternativnim klinikama za liječenje raka, jedan chatbot je predložio naturopatiju – umjesto da jasno kaže da takve metode nemaju dokazanu efikasnost.

Dr. Nicholas Tiller objašnjava:

„Dizajnirani su da daju samouvjerene i autoritativne odgovore, što stvara utisak vjerodostojnosti.“

Dodaje da postoji „osnovni problem tehnologije“ jer je namijenjena predviđanju teksta, a ne davanju medicinskih savjeta.

Kome vjerovati?

Tiller smatra da chatbotove treba izbjegavati za zdravstvene savjete, osim ako korisnik nema dovoljno znanja da prepozna greške.

„Ako nekoga na ulici nešto pitate i dobijete samouvjeren odgovor, hoćete li mu odmah vjerovati? Vjerovatno biste provjerili“, kaže on.

Kompanija OpenAI poručuje da ChatGPT treba koristiti u informativne i obrazovne svrhe, a ne kao zamjenu za stručni medicinski savjet.

Abi i dalje koristi AI chatbotove, ali naglašava:

„Sve treba uzeti s rezervom i zapamtiti da će griješiti. Ne vjerujem da je išta što kaže apsolutno tačno.“