
OpenAI njoftoi të hënën një mjet të ri të mundësuar nga inteligjenca artificiale. Mjeti është projektuar për të zbuluar materialet e abuzimit seksual me fëmijët, të njohura si CSAM, duke përfshirë edhe imazhet e gjeneruara nga IA. Sipas kompanisë, kjo nismë bën pjesë në përpjekjet më të gjera për të luftuar shfrytëzimin e fëmijëve në internet.
Klasifikuesi i imazheve, siç e përshkruan OpenAI, mund të identifikojë shenja abuzimi në imazhe të papara më parë. Ai ndihmon ekipet e sigurisë të dallojnë përmbajtjen potencialisht të dëmshme për shqyrtim të mëtejshëm. Kompania e quan atë klasifikuesin e parë CSAM të disponueshëm gjerësisht.
Mjeti është i aftë të tregojë nëse materiali abuziv mund të jetë gjeneruar nga IA. Mjeti u zhvillua me ndihmën e Qendrës Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar me seli në SHBA. Ai po u ofrohet falas organizatave të verifikuara përmes ndërfaqes së programimit të aplikacioneve të OpenAI.
Testet e brendshme të kompanisë treguan se mjeti i ri mund të zvogëlojë numrin e imazheve të shënuar për shqyrtim me 48%. Kjo nuk ndikon ndjeshëm në aftësinë e tij për të zbuluar përmbajtje abuzive. Sipas OpenAI, testet e kryera nga kompania e teknologjisë fal.ai konfirmuan se 72% e imazheve të shënuar si shumë të dyshimta përmbanin materiale abuzive të paidentifikuara më parë.
Teste të veçanta nga SafetyKit treguan se mjeti identifikoi 90% të rasteve të testuara. Këto raste përfshinin përshkrime të seksualizuara të fëmijëve në vizatime dhe animacione. OpenAI njoftoi gjithashtu masa të reja mbrojtëse për ChatGPT, duke përfshirë paralajmërime për përdoruesit që përpiqen të hyjnë në materiale abuzive dhe heqjen e bisedave të shënuara.
Shkelje të tilla mund të rezultojnë në një pezullim 24-orësh. Shkeljet e përsëritura mund të çojnë në kufizime më të gjata, mbyllje llogarish ose raportime tek autoritetet. Kompania publikoi gjithashtu udhëzime për të ndihmuar zhvilluesit të zbulojnë dhe raportojnë materiale abuzive.
Udhëzimet vijnë së bashku me mjete të inteligjencës artificiale dhe burime trajnimi për agjencitë ligjzbatuese që hetojnë rastet e shfrytëzimit të fëmijëve.
