Radio “Europa e Lirë”: Si po përdoret IA-ja për sigurinë në shkollat e Shqipërisë

Në njëzet shkolla në Shqipëri, kamerat nuk regjistrojnë më vetëm atë që ndodh. Një sistem i inteligjencës artificiale (IA) analizon pamjet dhe mund të sinjalizojë automatikisht te strukturat përgjegjëse sjellje të programuara paraprakisht si të dyshimta ose potencialisht të rrezikshme.

Autoritetet e paraqesin teknologjinë si një mjet për të parandaluar incidente dhe për të rritur sigurinë e nxënësve.

Por, hyrja e inteligjencës artificiale në mjediset shkollore ngre edhe një pyetje: deri ku mund të shkojë mbikëqyrja në emër të sigurisë së fëmijëve?

Prindër dhe ekspertë të teknologjisë ngrenë dilema për të dhënat që sistemi mund të mbledhë, mënyrën se si përpunohen dhe ruhen ato, kush mund të ketë qasje në to dhe nëse ekzistojnë mekanizma të mjaftueshëm të pavarur për ta mbikëqyrur teknologjinë.

Debati zhvillohet ndërsa Shqipëria ende nuk ka miratuar Ligjin për Inteligjencën Artificiale dhe institucionet nuk kanë sqaruar nëse, para vendosjes së sistemit, është kryer ndonjë vlerësim specifik i ndikimit të tij në mbrojtjen e të dhënave personale.

Nga kamerat tek inteligjenca artificiale

Njëzet shkollat e përfshira në projekt kishin kamera edhe më herët.

Ajo që ka ndryshuar, është mënyra se si analizohen pamjet.

Ministria e Brendshme e Shqipërisë i tha Radios Evropa e Lirë se funksionalitetet inteligjente nuk kryhen nga vetë kamerat, por nga platforma e analizës së videos.

“Sistemi përdor teknologji të inteligjencës artificiale për analizimin e pamjeve, për identifikimin e ngjarjeve ose sjelljeve të programuara paraprakisht si potencialisht të rrezikshme ose të dyshimta, duke gjeneruar sinjalizime (alerts) për verifikim nga strukturat përgjegjëse”, thuhet në përgjigje.

Sipas saj, çdo funksionalitet që përfshin përpunimin e të dhënave personale, përfshirë analizat e fytyrave, zbatohet në përputhje me legjislacionin për mbrojtjen e të dhënave personale dhe standardet e privatësisë.

Projekti, sipas Ministrisë, nuk parashikon përpunimin e regjistrimeve audio.

Shkollat janë përzgjedhur duke marrë parasysh nevojën për forcimin e masave parandaluese të sigurisë, dendësinë e popullsisë në zonë dhe numrin e nxënësve.

Pjesa më e madhe e njëzet institucioneve ndodhen në Tiranë dhe në bashkinë Kamëz.

Vendosja e sistemit vjen në një periudhë kur siguria në shkolla është kthyer në një çështje të ndjeshme publike në Shqipëri.

Vrasja me thikë e nxënësit Martin Cani pranë shkollës “Fan Noli” në Tiranë, më 18 nëntor 2024, ishte një nga ngjarjet që nxiti debat të gjerë për masat e sigurisë.

Kryeministri Edi Rama e paraqiti teknologjinë si pjesë të përgjigjes së shtetit ndaj këtij problemi.

Por, pikërisht mënyra se si kjo teknologji funksionon, ngre tani shqetësime të reja.

Siguri apo mbikëqyrje?

Përtej aftësisë së sistemit për të sinjalizuar incidente, prindër dhe ekspertë kërkojnë të dinë se çfarë tjetër mund të prodhojë analiza e vazhdueshme e pamjeve të nxënësve.

Ermelinda Hoxhaj, nënë e dy fëmijëve dhe aktiviste e grupimit “Prindër për arsim cilësor”, thotë se prindërit nuk janë konsultuar për projektin.

“Me këtë projekt besoj se tejkalohet çështja e sigurisë. Këtu nis një rrezik i madh i shkeljes së privatësisë së fëmijëve dhe adoleshentëve”, thotë Hoxhaj për Radion Evropa e Lirë.

Ajo paralajmëron se monitorimi i vazhdueshëm mund të ndikojë edhe në gjendjen psikologjike të nxënësve.

Ministria e Brendshme i tha REL-it se prindërit janë konsultuar për projektin, ndërsa Ministria e Arsimit nuk iu përgjigj pyetjeve nëse janë zhvilluar konsultime të tilla dhe nëse mund të ofrojë dokumentacion që i dëshmon ato.

Sipas saj, kriteret e përzgjedhjes së shkollave, analizat e riskut, specifikimet teknike dhe dokumentacioni përkatës administrohen nga Ministria e Brendshme.

Orkidea Xhaferraj, eksperte për politikat digjitale dhe inovacionin, thotë se mungesa e informacionit publik e bën të vështirë të kuptohet se deri ku shkojnë aftësitë e sistemit.

Sipas saj, nuk ka informacion të mjaftueshëm për teknologjinë e përdorur, llojin e të dhënave që mblidhen, kohën e ruajtjes së tyre dhe mundësinë që sistemi të krijojë metadata apo profile të sjelljes.

“Nuk mjaftojnë deklaratat publike që e gjitha bëhet për të rritur sigurinë në shkolla. Çështja është se çfarë analizon ky sistem, si mund të përdoren apo të keqpërdoren këto të dhëna në të ardhmen. Këto janë sisteme të riskut të lartë, sisteme të inteligjencës artificiale, të cilat bëjnë ‘facial recognition’ [njohje të fytyrës] dhe ‘biometric data analysis’ [analizë të të dhënave biometrike]. Ne nuk e dimë nëse bëjnë edhe ‘emotion analysis’ [analizë emocionale]”, thotë Xhaferraj për Radion Evropa e Lirë.

Për Luiza Myrtaj Nezhën, mësuese në shkollën nëntëvjeçare “Skënder Luarasi” në Tiranë, teknologjia mund të jetë pjesë e zgjidhjes, por jo zgjidhja e vetme.

“Kamerat janë të dobishme për rritjen e sigurisë dhe sqarimin e ngjarjeve kur ndodhin incidente, por ato nuk i mësojnë nxënësit të respektojnë njëri-tjetrin, nuk ulin ankthin, nuk zhvillojnë aftësi emocionale dhe nuk zgjidhin konfliktet në rrënjë”, thotë ajo.

Sipas saj, siguria në shkolla kërkon edhe më shumë psikologë, programe sociale dhe aktivitete që zhvillojnë komunikimin, empatinë dhe zgjidhjen paqësore të konflikteve.

Një muaj pamjet, një vit sinjalizimet

Një nga pyetjet kryesore është se çfarë ndodh me të dhënat pasi sistemi i ka mbledhur dhe analizuar ato.

Ministria e Brendshme tha për REL-in se pamjet e kamerave në shkolla do të ruhen në infrastrukturën lokale të institucioneve arsimore për një muaj.

Por, jo çdo e dhënë zhduket pas një muaji.

Sinjalizimet e gjeneruara automatikisht nga sistemi dhe metadata-t përkatëse do të ruhen për një vit në sistemin qendror të administruar nga Policia e Shtetit.

“Të gjitha të dhënat ruhen dhe përpunohen brenda territorit të Republikës së Shqipërisë dhe nuk transferohen në serverë apo infrastruktura jashtë juridiksionit shqiptar”, tha Ministria.

Sipas saj, pas përfundimit të afatit përkatës, të dhënat fshihen ose mbishkruhen automatikisht.

Por, Xhaferraj thotë se mbetet e paqartë nëse fshirja e pamjeve nënkupton edhe fshirjen e çdo të dhëne tjetër që sistemi mund të ketë prodhuar nga analiza e tyre.

“Vendndodhja fizike e një serveri brenda Shqipërisë nuk do të thotë që nuk mund të ketë ‘akses remote’. Ne nuk dimë kush janë zhvilluesit e softuerit, si është bërë implementimi, kush e kontrollon, kush i ka kodet e tij… Këtyre pyetjeve nuk u jepet përgjigje”, thotë ajo.

Pyetje pa përgjigje për vlerësimin e rrezikut

Pikëpyetjet për privatësinë bëhen edhe më të rëndësishme për shkak se sistemi përpunon pamje të fëmijëve dhe përdor teknologji të reja.

Komisionari për Mbrojtjen e të Dhënave Personale thotë për Radion Evropa e Lirë se përgjegjësia për kryerjen e këtij vlerësimi i takon kontrolluesit të të dhënave – në këtë rast, Ministrisë së Brendshme.

Sipas Komisionarit, kur përdorimi i teknologjive të reja mund të krijojë rrezik të lartë për të drejtat dhe liritë themelore, kontrolluesi duhet ta kryejë vlerësimin përpara se të nisë përpunimi i të dhënave.

Megjithatë, pyetjes së REL-it nëse një DPIA është kryer për projektin në shkolla, Ministria e Brendshme nuk i dha një përgjigje të drejtpërdrejtë.

Ajo tha vetëm se projekti “po zhvillohet dhe zbatohet në përputhje me legjislacionin në fuqi për mbrojtjen e të dhënave personale, sigurinë kibernetike dhe sigurinë e informacionit”.

Komisionari sqaroi se ligji nuk e detyron kontrolluesin që ta njoftojë apo konsultojë paraprakisht Zyrën e Komisionarit për një projekt të tillë.

Ministria e Arsimit tha se mbështet përdorimin e teknologjisë për rritjen e sigurisë në institucionet arsimore, por se çdo masë duhet të zbatohet duke respektuar interesin më të lartë të fëmijës, mbrojtjen e të dhënave personale dhe të drejtat themelore të nxënësve.

Teknologjia ec përpara ligjit

Sistemi po vendoset në shkolla në një moment kur Shqipëria ende nuk ka një ligj të posaçëm për inteligjencën artificiale.

Projektligji për Inteligjencën Artificiale ka përfunduar fazën e konsultimit publik.

Dhoma Amerikane e Tregtisë e ka vlerësuar atë si hap të nevojshëm drejt harmonizimit me Aktin e Inteligjencës Artificiale të Bashkimit Evropian, por ka kërkuar ndryshime.

Një ndër propozimet është që funksioni rregullator dhe mbikëqyrës t’i besohet një autoriteti të pavarur, veçanërisht Komisionarit për Mbrojtjen e të Dhënave Personale.

Xhaferraj thotë se një mbikëqyrje e tillë është veçanërisht e rëndësishme për sistemet me rrezik të lartë.

“Institucioni, i cili e implementon, nuk mund të jetë edhe ai që kryen mbikëqyrjen e këtij lloj sistemi dhe rreziqet që sjell”, thotë ajo.

Sipas saj, një institucion i pavarur duhet të jetë në gjendje ta auditojë sistemin dhe të verifikojë nëse të dhënat e mbledhura përdoren vetëm për qëllimet për të cilat janë marrë.

Nga 20 shkolla në një sistem kombëtar

Kamerat në shkolla janë vetëm një pjesë e një projekti shumë më të madh.

“Smart City” është projekt kombëtar i sigurisë dhe monitorimit, i administruar nga Ministria e Brendshme dhe Policia e Shtetit, që parashikon përdorimin e kamerave inteligjente, inteligjencës artificiale, radarëve dhe sensorëve.

Ai pritet të shtrihet në 873 lokacione në Shqipëri, në 24 qytete, 28 pika të kalimit kufitar dhe 12 drejtoritë vendore të Policisë.

Përveç sistemit të analizës së pamjeve, projekti përfshin kamera trupore për policinë, sistemin automatik të njohjes së targave të automjeteve, radarë dhe sensorë zhurme.

Por, përmasat e projektit nuk janë e vetmja çështje që ka shkaktuar debat.

Vlera e tij ishte përllogaritur fillimisht në rreth 60 milionë dollarë.

Më pas, projekti u lidh me një marrëveshje huaje prej 118.5 milionë dollarësh me Fondin për Zhvillim të Abu Dhabit.

Diferenca ka ngritur pikëpyetje për koston, mënyrën e financimit dhe transparencën e projektit.

Ministria e Brendshme i tha REL-it se kontrata me Fondin për Zhvillim të Abu Dhabit dhe dokumentacioni teknik përmbajnë elemente që lidhen me infrastrukturën kritike, sigurinë publike dhe funksionimin e sistemeve teknologjike.

Sipas Ministrisë, marrëveshja përmban gjithashtu dispozita që lidhen me imunitetin e Fondit për Zhvillim të Abu Dhabit nga censurimi dhe inspektimi i publikimeve./REL/