Hije dyshimi mbi “Smart City”/ Kush i sheh pamjet e fëmijëve?

Nxënësit e disa shkollave të Tiranës do ta nisin vitin e ri shkollor nën një sistem të ri monitorimi: kamera të lidhura me teknologji të inteligjencës artificiale.

Projekti nuk është më vetëm në letër.

Ministria e Brendshme konfirmoi më 27 gusht se në gjimnazin “Qemal Stafa” në Tiranë janë instaluar kamerat me inteligjencë artificiale, si pjesë e programit “Smart City”.

Sistemi pritet të vihet në funksion me nisjen e vitit të ri shkollor më 14 shtator.

Qëllimi i deklaruar është rritja e sigurisë së nxënësve dhe mësuesve.

Por futja e inteligjencës artificiale në ambientet ku çdo ditë qëndrojnë mijëra të mitur hap edhe disa pyetje që shkojnë përtej sigurisë.

Çfarë sheh konkretisht inteligjenca artificiale?

Çfarë të dhënash analizon?

Kush ka akses te pamjet?

Dhe:

Sa kohë ruhen ato?

375 KAMERA NË 20 SHKOLLA

Sipas një dokumenti të Drejtorisë Vendore të Policisë Tiranë të siguruar më herët nga mediat, faza e parë e projektit parashikon vendosjen e rreth 375 kamerave në 20 shkolla publike të qarkut Tiranë.

Në listë përfshihen 9 shkolla të mesme dhe 11 shkolla 9-vjeçare.

Vetëm gjimnazi “Qemal Stafa” ishte parashikuar të pajisej me rreth 31 kamera.

Sipas të njëjtave të dhëna, informacioni i prodhuar nga sistemi do të menaxhohet nga Policia e Shtetit.

KAMERAT NUK BËJNË VETËM FILMIM

Këtu fillon pjesa më interesante.

Raportimet nga demonstrimi i sistemit në “Qemal Stafa” tregojnë se kamerat synojnë të bëjnë më shumë sesa regjistrimin tradicional të pamjeve.

Përmes inteligjencës artificiale, sistemi raportohet se mund të evidentojë objekte të dyshimta dhe modele të caktuara sjelljeje.

Kjo mund të jetë një armë e rëndësishme për parandalimin e incidenteve në shkolla.

Por kur teknologjia përdoret mbi të mitur, transparenca bëhet po aq e rëndësishme sa vetë siguria.

Në njoftimin zyrtar të Ministrisë së Brendshme të 27 gushtit konfirmohet përdorimi i inteligjencës artificiale dhe qëllimi i rritjes së sigurisë.

Por aty nuk shpjegohet në mënyrë të detajuar se cilat funksione të AI-së do të aktivizohen, sa gjatë do të ruhen pamjet dhe cilët persona apo struktura do të kenë akses tek ato.

Gjithashtu, në këtë njoftim nuk specifikohet nëse sistemi përdor ose jo njohjen biometrike të fytyrës.

Prandaj NTV nuk mund të thotë se fëmijëve do t’u bëhet njohje faciale.

Por mund — dhe duhet — të pyesë nëse kjo teknologji ekziston në sistem dhe nëse është aktivizuar apo çaktivizuar.

SIGURI, POR ME ÇFARË KUFIJSH?

Askush nuk mund të kundërshtojë nevojën për shkolla më të sigurta.

Kamerat mund të ndihmojnë në parandalimin dhe dokumentimin e dhunës, futjes së sendeve të rrezikshme apo incidenteve të tjera.

Por inteligjenca artificiale ndryshon natyrën e monitorimit.

Një kamerë tradicionale regjistron.

Një sistem AI mund të analizojë atë që regjistron.

Dhe pikërisht për këtë arsye prindërit duhet të dinë se çfarë ndodh me të dhënat e fëmijëve të tyre.

Para se sistemi të hyjë plotësisht në funksion, institucionet duhet të bëjnë transparente përgjigjet për disa pyetje themelore:

Çfarë analizon algoritmi?

A krijohen profile ose identifikues për nxënësit?

A përdoret teknologji biometrike?

Ku ruhen të dhënat?

Sa është afati i ruajtjes?

Kush mund t’i hapë pamjet?

A regjistrohet çdo akses në sistem?

Dhe çfarë ndodh me të dhënat pasi përfundon afati i ruajtjes?

Siguria e fëmijëve është prioritet.

Por pikërisht sepse bëhet fjalë për fëmijë, edhe kufijtë e teknologjisë duhet të jenë të qartë.

Sepse pyetja nuk është nëse shkollat duhet të jenë të sigurta.

Pyetja është:

Sa duhet të shohë inteligjenca artificiale për t’i bërë ato më të sigurta?