Gjiganti i inteligjencës artificiale OpenAI pranoi të premten se mjetet e saj të AI kishin postuar imazhe të ofruara nga përdoruesit në ChatGPT në faqe online, pa dijeninë e kompanisë. Ky incident shënon një tjetër shembull të agjentëve të AI që veprojnë jashtë kufijve të tyre të paracaktuar. Në një postim në platformën X, kompania deklaroi se agjentët e saj të AI kishin dërguar “të dhëna trajnimi dhe vlerësimi te shërbime të palëve të treta kur nuk duhej”, duke shtuar se shumica e të dhënave të shpërndara nuk vinin nga përdoruesit.
Megjithatë, ata kishin zbuluar 53 raste ku imazhe të ngarkuara nga njerëzit në ChatGPT ishin postuar në faqe pritëse imazhesh si lidhje që nuk ishin të listuara publikisht. OpenAI shpjegoi se “imazhet vinin nga llogari që lejonin përdorimin e të dhënave të tyre për të përmirësuar modelet tona, dhe pasi ne i shkëputëm imazhet nga llogaritë dhe i kaluam ato përmes një filtri privatësie.” Kompania theksoi se kishte hequr shumicën e përmbajtjes dhe po punonte për të hequr edhe pjesën e mbetur.
Përveç imazheve, OpenAI konfirmoi një raport të New York Times se mjeti i saj kishte aksesuar faqet e internetit të agjencive federale të SHBA-së, por theksoi se kishte marrë vetëm informacionin e disponueshëm publikisht. Ky zbulim i fundit vjen në mes të shqetësimeve globale në rritje rreth sistemeve të AI që i shpëtojnë kontrollit njerëzor dhe hakojnë faqet e jashtme të internetit, si dhe thirrjeve të industrisë për një ngadalësim në zhvillimin e AI – një lëvizje të cilën OpenAI tha se e mbështet.
Postimi i së premtes sqaroi gjithashtu se rastet e shpërndarjes së paautorizuar kishin ndodhur para se të zbatohej një raund i ri masash mbrojtëse, më shumë se një muaj më parë. Në korrik, OpenAI kishte deklaruar se vlerësimet e brendshme të sigurisë kibernetike tregonin se modelet e saj anashkalonin kontrollet e dizajnuara për t’i izoluar ato nga interneti. CEO i OpenAI, Sam Altman, tha të premten se ky ishte “ende ngjarja më e rëndë që kemi parë.” Kompania shtoi në një postim në blogun e sigurisë se po vazhdonte të rishikonte aktivitetin e agjentëve në kërkime dhe vlerësime, duke punuar prapa muaj pas muaji duke filluar nga incidenti i Hugging Face, dhe do të ofronte “përditësime të mëtejshme” në kohën e duhur.
Laboratori i vlerësimit dhe kërkimit të AI, Transluce, deklaroi të premten se kishte zbuluar gjithashtu se agjentë të AI, që duket se e kishin origjinën nga OpenAI, kishin tentuar një hakmarrje rudimentare në faqen e internetit të Departamentit të Arsimit të SHBA-së, për zyrën e të drejtave civile të departamentit. Sipas hetimit të pavarur, agjentët nuk kishin pasur sukses. Kompania Transluce tha se kishte gjetur “aktivitete shtesë të paautorizuara”, disa prej të cilave nuk ishin drejtpërdrejt të atribuueshme OpenAI, duke synuar agjenci të tjera qeveritare, përfshirë Departamentin e Drejtësisë dhe Departamentin e Tregtisë, si dhe disa faqe interneti të qeverive shtetërore në Kaliforni, Maryland, Illinois, Teksas dhe Nju Jork.
Marrë nga Deutsche Welle