BE hap hetim ndaj X dhe chatbotit të AI të Musk, Grok, për deepfake-e seksuale

Bashkimi Evropian ka nisur një hetim zyrtar ndaj platformës së mediave sociale X të Elon Musk, pasi chatboti i tij i inteligjencës artificiale, Grok, filloi të shpërndante imazhe deepfake seksuale pa pëlqim në platformë. Rregullatorët evropianë zgjeruan gjithashtu një hetim të veçantë, të vazhdueshëm, mbi sistemet e rekomandimit të X, pasi platforma deklaroi se do të kalonte në sistemin e AI të Grok për të zgjedhur cilat postime shohin përdoruesit.

Ky shqyrtim nga Brukseli vjen pasi Grok shkaktoi një reagim global duke lejuar përdoruesit, përmes aftësive të tij të gjenerimit dhe redaktimit të imazheve me AI, të zhveshin njerëz, duke i vendosur femrat në bikini transparente ose veshje zbuluese. Studiuesit thanë se disa imazhe dukeshin se përfshinin fëmijë, duke bërë që disa qeveri të ndalonin shërbimin ose të lëshonin paralajmërime.

Ekzekutivi i BE-së po shqyrton nëse X ka bërë mjaftueshëm, siç kërkohet nga rregulloret dixhitale të bllokut, për të frenuar rreziqet e shpërndarjes së përmbajtjes së paligjshme si “imazhe të manipuluara seksualisht eksplicite”, përfshirë materialin e abuzimit seksual të fëmijëve. Komisioni Evropian theksoi se këto rreziqe janë “materializuar”, duke ekspozuar qytetarët e bllokut ndaj “dëmit serioz”. Rregullatorët do të shqyrtojnë nëse Grok po përmbush detyrimet e tij sipas Aktit të Shërbimeve Dixhitale (DSA), rregullorja e gjerë e bllokut për sigurinë e përdoruesve të internetit.

Në përgjigje, një zëdhënëse e X deklaroi se kompania mbetet “e përkushtuar për ta bërë X një platformë të sigurt për të gjithë” dhe ka “zero tolerancë” për shfrytëzimin seksual të fëmijëve, zhveshjen pa pëlqim dhe përmbajtjen seksuale të padëshiruar. Deklarata e X nga 14 janari gjithashtu theksoi se do të ndalonte lejimin e përdoruesve të portretizonin njerëz në “bikini, të brendshme ose veshje të tjera zbuluese”, por vetëm në vendet ku kjo është konsideruar e paligjshme.

Henna Virkkunen, zëvendëspresidente ekzekutive në Komision, e quajti “deepfake-et seksuale pa pëlqim të grave dhe fëmijëve” një “formë të dhunshme dhe të papranueshme degradimi”. Ajo shtoi se hetimi do të përcaktojë nëse X ka përmbushur detyrimet ligjore sipas DSA, apo nëse i ka trajtuar të drejtat e qytetarëve evropianë si “dëm kolateral” të shërbimit të tij.

Mjeti i imazheve i Grok, lançuar verën e kaluar nga xAI e Musk, filloi të përshkallëzohej në fund të muajit të kaluar, kur pranoi kërkesa të shumta për modifikim imazhesh. Problemi u amplifikua nga prezantimi i Musk për chatbotin si një alternativë më “të guximshme” me më pak masa mbrojtëse, si dhe nga fakti që imazhet e Grok janë publikisht të dukshme dhe shpërndahen lehtësisht.

Hetimi i BE-së mbulon vetëm shërbimin e Grok në X, pasi DSA zbatohet për platformat më të mëdha online. Nuk ka një afat për zgjidhjen e çështjes, e cila mund të përfundojë me zotimin e X për ndryshim sjelljeje ose me një gjobë të rëndë. Në dhjetor, X u gjobit me 120 milionë euro si pjesë e një hetimi të mëparshëm të DSA, për mangësi si shenjat blu që shkelnin rregullat mbi “praktikat mashtruese të dizajnit”. Blloku ka shqyrtuar gjithashtu X mbi pretendimet se Grok gjeneroi material antisemitik.