Ashley St Clair, nëna e një prej fëmijëve të Elon Musk, ka paditur kompaninë e tij xAI për deepfake-e të seksualizuara të krijuara me imazhin e saj në platformën X. Padia, e depozituar në Nju Jork, pretendon se mjeti i inteligjencës artificiale Grok ka gjeneruar fotografi seksualisht eksplicite të St Clair. Nga ana tjetër, xAI, kompania mëmë e X dhe Grok, ka kundërpaditur St Clair për shkelje të kushteve të shërbimit, duke argumentuar se mosmarrëveshjet me xAI duhet të trajtohen në Teksas, jo në Nju Jork. Kjo kundërpadi është cilësuar si “tronditëse” nga avokatja e St Clair, Carrie Goldberg.
Padia e St Clair detajon se përdoruesit e X kishin kërkuar që Grok ta zhvishte atë nga fotografi të veshura plotësisht kur ajo ishte 14 vjeç, duke e vendosur në bikini, dhe Grok kishte vepruar sipas kërkesës. Ajo gjithashtu pretendon se Grok gjeneroi një imazh ku St Clair, e cila është hebreje, shfaqej “në bikini me rripa të mbuluar me svastika”. Për më tepër, pas ankesave të saj, kompania dyshohet se “u hakmor ndaj saj, duke çmonetizuar llogarinë e saj në X dhe duke gjeneruar shumë më tepër imazhe”. Avokatja Goldberg theksoi se nuk kishte dëgjuar kurrë për një të paditur që padit dikë për njoftimin e qëllimit për të përdorur sistemin ligjor.
Ky rast vjen në një kohë kur X ka qenë nën shqyrtim intensiv nga përdoruesit dhe rregullatorët globalisht për përdorimin e Grok për të krijuar imazhe të seksualizuara pa pëlqim. Fillimisht, përdoruesit mund të kërkonin nga Grok të modifikonte imazhe për të zhveshur njerëz, gjë që çoi në prodhimin e imazheve fotorealiste të grave në veshje zbuluese. Pas reagimeve të forta, X ndryshoi rregullat, duke njoftuar geobllokimin për modifikimin e fotove të njerëzve realë në juridiksionet ku është e paligjshme. Megjithatë, raportet e fundit sugjerojnë se aplikacioni i pavarur Grok ende mund të gjenerojë deepfake-e të seksualizuara të njerëzve realë dhe t’i postojë në X pa moderim. Qeveria e Mbretërisë së Bashkuar po sjell një ligj që do ta bëjë të paligjshme krijimin e imazheve intime pa pëlqim.
Marrë nga BBC News