AI gjeneruese: Google shpërblen ata që zbulojnë bug

Google ka zgjeruar Programin e tij të Shpërblimeve për Vulnerabilitetin (VRP) për të shpërblyer studiuesit e sigurisë që zbulojnë dobësi në modelet gjeneruese të AI. Qëllimi është të parandalohen sulmet kibernetike kundër sistemeve të AI që mund të përbëjnë rrezik për përdoruesit dhe kompanitë. Shpërblimet ndryshojnë në bazë të ashpërsisë së sulmit dhe llojit të objektivit.

Programi i bug bounty për AI gjeneruese
Google shpjegon se inteligjenca artificiale gjeneruese kërkon një qasje të re, pasi rreziqet janë të ndryshme nga ato tradicionale, si paragjykimet, manipulimi i modeleve apo interpretimet e gabuara të të dhënave (halucinacione). Ekipi i Mirëbesimit dhe Sigurisë i kompanisë kaliforniane kryen teste të shumta mbi funksionet e AI të integruara në produkte, por studiuesit e palëve të treta mund të ofrojnë ndihmën e tyre për të gjetur dhe rregulluar dobësitë e pazbuluara.

Programi i bug bounty (ose shpërblimeve) tani përfshin shpërblime specifike për sulme të ndryshme që shfrytëzojnë gabimet në modelet e AI. Programi përfshin pesë kategori. Të ashtuquajturat sulme të menjëhershme përfshijnë kryesisht injeksione të shpejta, d.m.th. hyrje që lejojnë modelin e AI të mashtrohet për të marrë rezultate të papritura. Një kriminel kibernetik, për shembull, mund të gjenerojë tekst fyes ose të ketë akses në të dhëna të ndjeshme.

Nxjerrja e të dhënave të trajnimit janë sulme që ju lejojnë të rindërtoni shembuj trajnimi për të nxjerrë informacione personale ose fjalëkalime nga të dhënat. Programi gjithashtu mbulon sulmet që përfshijnë manipulimin e modeleve të AI dhe vjedhjen e të dhënave të modelit. Megjithatë, nuk ka shpërblime për zbulimin e gabimeve që lidhen me shkeljen e të drejtave të autorit.

Shpërblimet ndryshojnë në bazë të ashpërsisë së cenueshmërisë. Lartësia aktuale është 31,337 dollarë. Google pagoi më shumë se 12 milionë dollarë prime gjatë vitit 2022.