Malajzia dhe Indonezia kanë bllokuar aksesin në chatbotin e inteligjencës artificiale (AI) Grok të Elon Musk, për shkak të aftësisë së tij për të prodhuar “deepfakes” me përmbajtje seksualisht eksplicite. Imazhe të seksualizuara të personave realë, të gjeneruara nga Grok, kanë qarkulluar në platformën X të Musk në javët e fundit. Grok, një mjet i disponueshëm në X, u lejon përdoruesve të gjenerojnë imazhe, por kohët e fundit është përdorur për të modifikuar fotografi të njerëzve realë, duke i shfaqur ata me veshje zbuluese.
Këto dy vende të Azisë Juglindore theksuan se Grok mund të përdoret për të prodhuar imazhe pornografike dhe jo-konsensuale, duke përfshirë gra dhe fëmijë. Ato janë vendet e para në botë që ndalojnë këtë mjet të AI. Ministritë e komunikacionit të Malajzisë dhe Indonezisë njoftuan vendimin e tyre kundër Grok në deklarata të veçanta gjatë fundjavës. Komisioni Malajzian i Komunikacionit dhe Multimedias deklaroi të dielën se i kishte dërguar njoftime platformës X më herët gjatë vitit, duke kërkuar masa më të rrepta pas zbulimit të “keqpërdorimit të përsëritur” të Grok për të gjeneruar përmbajtje të dëmshme.
Megjithatë, në përgjigjen e saj, X nuk arriti të adresonte rreziqet e qenësishme të dizajnit të platformës së saj dhe u fokusua kryesisht në procesin e raportimit për përdoruesit, sipas rregullatorit. Ai shtoi se Grok do të bllokohet derisa të zbatohen masa mbrojtëse efektive dhe i bëri thirrje publikut të raportojë përmbajtjen e dëmshme online. Meutya Hafid, ministrja indoneziane e komunikacionit dhe çështjeve dixhitale, theksoi në një postim në Instagram se përdorimi i Grok për të prodhuar përmbajtje seksualisht eksplicite është një shkelje e të drejtave të njeriut, dinjitetit dhe sigurisë online. Ministria indoneziane i ka kërkuar gjithashtu platformës X të Musk të japë një sqarim mbi përdorimin e Grok.
Autoritetet indoneziane kanë ndërmarrë masa kundër burimeve të tjera online të materialit pornografik në vitet e fundit, me platforma si OnlyFans dhe Pornhub tashmë të ndaluara në vend. Përdoruesit indonezianë të X, të cilët gjetën fotot e tyre të manipuluara në platformë, shprehën zemërimin e tyre që një gjë e tillë lejohej të ndodhte. Kirana Ayuningtyas, një përdoruese e karrocës me rrota që poston online për përvojat e saj të përditshme, zbuloi se një i panjohur kishte komentuar në foton e saj me një kërkesë që Grok ta portretizonte atë me bikini.
Ayuningtyas tha se ajo rregulloi cilësimet e saj të privatësisë dhe kontaktoi platformën për të hequr imazhin dhe për të parandaluar përdoruesit të modifikonin fotot e saj. “Fatkeqësisht, asnjëra prej tyre nuk funksionoi vërtet,” tha ajo, duke shtuar se ishte e vështirë të dihej nëse dikush i mbante ende imazhet. Ajo u kërkoi miqve të saj të raportonin llogaritë që kishin publikuar imazhet e saj të falsifikuara, por kjo bëri që edhe më shumë njerëz t’i shihnin imazhet e modifikuara, gjë që ishte thellësisht e turpshme për të.
Grok dhe kompania mëmë X, përballen gjithashtu me presion në Britani, pasi Sekretarja e Teknologjisë, Liz Kendall, mbështeti thirrjet për të bllokuar aksesin në platformën e mediave sociale për mosrespektimin e ligjeve të sigurisë online. Rregullatori britanik i medias, Ofcom, pritet të vendosë së shpejti se çfarë do të bëjë në lidhje me Grok. Përdorimi i Grok për të gjeneruar imazhe të seksualizuara është dënuar nga liderë në mbarë botën, përfshirë Kryeministrin e Mbretërisë së Bashkuar, Keir Starmer, i cili e quajti atë “të turpshme” dhe “neveritëse”.