AI në mjekësi nënvlerëson simptomat e grave dhe minoriteteve

Modelet gjuhësore si Gemma, GPT‑4 dhe të tjera mund të favorizojnë burrat dhe grupet etnike dominante në diagnostikimin dhe trajtimin mjekësor.

Studiues të SHBA dhe Britanisë së Bashkuar kanë gjetur se disa mjete mjekësore që përdorin inteligjencë artificiale nuk trajtojnë me të njëjtin seriozitet simptomat tek gratë dhe minoritetet etnike. Këto gjetje janë publikuar nga universitete si MIT, UCL dhe London School of Economics.
Në disa raste, modelet AI që përfshijnë Gemma (i Google) ose GPT‑4 u përdorën për të përmbledhur raporte shëndetësore. U vu re se për gratë përdorej gjuhë që sugjeronte se gjendja nuk ishte aq serioze, ndërsa për burrat me të njëjtat simptoma përdorej terminologji që e theksonte më shumë ashpërsinë e problemit.

Një tjetër problematikë lidhet me pacientët që nuk komunikojnë mirë ose fare në anglisht. Personat me gabime në gjuhë, me informalitet ose paqartësi shpesh marrin rekomandime që të mos shkojnë te mjeku, ose të trajtojnë veten në shtëpi, edhe kur simptomat ishin serioze. Kjo mund të thellojë pabarazitë shëndetësore dhe të rrezikojë mirëqenien e pacientëve.
Sipas autorëve të studimit, shumë prej këtyre paragjykimeve burojnë nga të dhënat me të cilat trajnohen AI‑të. Shumë dataset‑e përmbajnë paragjykime sociale ekzistuese, që më pas reflektohen në vendimet e sistemeve mjekësore digjitale. Për këtë arsye, kërkohet një qasje më e kujdesshme për diversifikimin e të dhënave, kontrollin e bias‑it, transparencë më të madhe dhe rregullim të përdorimit të AI‑së në mjekësi.

Analistët paralajmërojnë se këto gjetje janë një sinjal alarmi: ndërsa inteligjenca artificiale mund të ofrojë efikasitet dhe shpejtësi në diagnostikim, pa ndërhyrje të kujdesshme ajo rrezikon të riprodhojë dhe përforcojë pabarazitë ekzistuese në shëndetësi.

Zbulimet theksojnë se përdorimi i mjeteve të inteligjencës artificiale në mjekësi nuk është thjesht një çështje teknologjie, por edhe një sfidë etike dhe shoqërore. Nëse nuk adresohen paragjykimet e integruara në këto sisteme, ekziston rreziku që pabarazitë në kujdesin shëndetësor të përforcohen, duke ndikuar negativisht veçanërisht tek gratë dhe grupet e minoriteteve etnike. Në të kundërt, korrigjimi i këtyre dobësive mund të çojë në një sistem më të drejtë, gjithëpërfshirës dhe efektiv për të gjithë pacientët.