Sa i drejtë është rekrutimi me AI? Çështja që çon kompaninë Eightfold në gjykatë

Përdorimi i inteligjencës artificiale në proceset e punësimit po hyn në një fazë kritike, pasi Eightfold AI, një nga kompanitë më të njohura të rekrutimit me AI, është paditur në SHBA për atë që paditësit e quajnë vlerësim të fshehtë dhe jo transparent të kandidatëve për punë. Rasti po tërheq vëmendje të gjerë, sepse prek drejtpërdrejt mënyrën se si teknologjia po ndikon vendime që formësojnë karriera dhe jetë profesionale.

Sipas padisë, Eightfold përdor algoritme për të analizuar aplikimet e punës dhe për t’u dhënë kandidatëve pikë ose renditje të brendshme, pa i informuar ata qartë për ekzistencën e këtij procesi apo për kriteret që përdoren. Paditësit pretendojnë se shumë aplikantë janë refuzuar ose anashkaluar pa e ditur kurrë arsyen, sepse vlerësimi është bërë nga një sistem automatik, i padukshëm për ta. Në qendër të çështjes është mungesa e transparencës. Kandidatët argumentojnë se nuk kanë pasur asnjë mundësi të kuptojnë se si u analizuan CV-të e tyre, çfarë të dhënash u përdorën dhe nëse sistemi ka marrë parasysh informacione që mund të jenë të pasakta ose të vjetruara. Kjo, sipas tyre, cenon parimin e barazisë në punësim dhe të drejtën për një proces të drejtë rekrutimi.

Çështja ngre gjithashtu shqetësime më të gjera për paragjykimet algoritmike. Kritikët paralajmërojnë se, nëse modelet e AI trajnohen mbi të dhëna historike të pabarabarta, ato rrezikojnë të riprodhojnë ose të forcojnë diskriminime ekzistuese, edhe kur qëllimi i deklaruar është neutraliteti dhe efikasiteti. Në një proces kaq vendimtar sa punësimi, edhe një paragjykim i vogël mund të ketë pasoja të mëdha. Nga ana e saj, Eightfold ka deklaruar se teknologjia e saj synon të ndihmojë punëdhënësit të marrin vendime më objektive dhe se sistemet janë ndërtuar për të reduktuar, jo për të shtuar, paragjykimet njerëzore. Kompania e paraqet veten si pjesë të zgjidhjes, jo të problemit, dhe thekson se përdorimi i AI në rekrutim është tashmë praktikë e përhapur në industri.

Megjithatë, kjo padi vjen në një moment kur rregullatorët dhe shoqëria civile po kërkojnë më shumë llogaridhënie për mënyrën se si përdoret inteligjenca artificiale në vendimmarrje. Rasti i Eightfold mund të shërbejë si precedent, duke përcaktuar se sa “i padukshëm” lejohet të jetë një algoritëm kur vendos për fatin profesional të njerëzve.