Evropska unija (EU) korak je bliže usvajanju istorijske Uredbe o veštačkoj inteligenciji, koja bi mogla da postane globalni standard kao jedan od prvih zakona na svetu koji uređuje oblast veštačke inteligencije. Budućnost ovog zakona značajno će uticati na budućnost pravnog uređenja ove oblasti u Srbiji, jer kao država kandidat za članstvo u EU, Srbija ima obavezu postepenog usklađivanja svog pravnog sistema sa pravnim sistemom Unije.
Sredinom jula, najviše zakonodavno telo EU usvojilo je velikom većinom Uredbu o veštačkoj inteligenciji, poznatiju kao „AI Act“, koja podrazumeva potpunu zabranu određenih sistema veštačke inteligencije na teritoriji država članica. Odluka Evropskog parlamenta doneta je usled sve većeg pritiska koji stvara ubrzani razvoj tehnologije, a rezultat je višegodišnjih napora da se reguliše ova oblast.
Poslanik u Evropskom parlamentu i izvestilac za ovu Uredbu Dragoš Tudorače ovom prilikom izjavio je da je „AI Act“ verovatno najznačajniji zakon „s obzirom na značajan transformativni uticaj koji će veštačka inteligencija imati na naša društva i ekonomije“.
Iako su mnogi borci za digitalna prava pozdravili ovu odluku, treba imati u vidu da konačno usvajanje zakona zavisi od ishoda pregovora između Evropskog parlamenta, Evropske komisije i Saveta ministara, poznatim i kao „trijalog“, kada će se suprotstaviti interesi država članica koje navode da su ovakvi sistemi od velikog značaja u borbi protiv kriminala i interesi aktivista i eksperata u oblasti ljudskih prava, koji su zabrinuti zbog potencijalnog negativnog uticaja upotrebe veštačke inteligencije na prava građana. U svakom slučaju, primena ove Uredbe ne očekuje se pre 2025. godine.
Šta sadrži AI akt?
Nacrt Uredbe o veštačkoj inteligenciji zasniva se na pristupu zasnovanom na riziku koji razlikuje sisteme niskog, ograničenog, visokog i neprihvatljivog rizika po zdravlje, bezbednost ili osnovna ljudska prava.
Sistemi neprihvatljivog rizika obuhvataju sisteme koji mogu da utiču na ljudsko ponašanje korišćenjem tehnika podsvesne komunikacije, prediktivne policijske sisteme zasnovane na profilisanju, kao i sisteme biometrijske identifikacije u realnom vremenu i automatizovano prikupljanje biometrijskih podataka. U navedenim slučajevima, „AI Act“ predviđa potpunu zabranu upotrebe ovakvih sistema, osim u svrhe istrage teških krivičnih dela uz obaveznu dozvolu nadležnih sudskih organa.
Sistemi visokog rizika su oni sistemi koji zahtevaju strogu regulaciju i kontrolu, ali se ne smatraju toliko opasnim da ih je neophodno zabraniti. To su uglavnom sistemi koji se koriste u oblasti policije, sudstva i kritične infrastrukture, ali i oni sistemi koji se koriste prilikom izbora kandidata za radno mesto, obrazovne ustanove i slično.
Predsednica Evropskog parlamenta Roberta Metsola je rekla da će ovaj zakon „bez sumnje postavljati globalne standarde u godinama koje dolaze“, kao i da će „Evropa nastaviti da bude predvodnik inovacija“.
Šta Uredba o veštačkoj inteligenciji Evropske unije znači za budućnost biometrijskog nadzora u Srbiji?
U poslednjih nekoliko godina, u Srbiji vodi se žestoka debata između aktuelne vlasti, koja želi da legalizuje i normalizuje upotrebu masovnog nadzora i dela civilnog društva koji zahteva uvođenje moratorijuma.
Naime, u nekoliko navrata, predstavnici vlasti pokušali su da uvedu Zakon o unutrašnjim poslovima kako bi, između ostalog, legalizovali upotrebu biometrijskog nadzora, pozivajući se na činjenicu da ovakvi sistemi značajno doprinose povećanju bezbednosti građana, kao i da oni predstavljaju standardnu praksu u Evropi.
Ukoliko se praksa u Evropskoj uniji promeni usvajanjem Uredbe o veštačkoj inteligenciji, Srbija bi morala uskladiti pravila o biometrijskom nadzoru tako da odgovaraju njenim odredbama.
Prvi Nacrt zakona o unutrašnjim poslovima kojim je bilo predviđeno uvođenje masovnog nadzora, nije bio u skladu sa pravnim okvirom Srbije, tačnije Zakonom o zaštiti podataka o ličnosti koji predviđa neophodnost i srazmernost prilikom upotrebe posebnih mera. Nadležni organi nisu mogli da dokažu da je korišćenje ovakve tehnologije neophodno za obavljanje poslova nadležnih organa, niti da je korist od iste srazmerna šteti po ljudska prava i slobode.
Nakon oštre reakcije civilnog društva i javnosti, nacrt zakona je povučen iz procedure 2021, kao i 2022. godine u nešto izmenjenom obliku.
Vremenom, Ministarstvo unutrašnjih poslova odustalo je od zahteva za masovnim nadzorom i predložilo da se Zakonom o krivičnom postupku „ograniči“ upotreba biometrijskog nadzora na slučajeve krivičnih dela koja se gone po službenoj dužnosti. Ipak, problem leži u činjenici što to podrazumeva većinu krivičnih dela, te je njihov spisak obiman i raznovrsan, shodno tome, biometrijski nadzor mogao bi biti široko korišćen i zloupotrebljen. Uredba o veštačkoj inteligenciji Evropske unije mogao bi biti primer jer jasno definiše slučajeve koji su izuzeti od zabrane i oni se odnose isključivo na istrage teških krivičnih dela.
Neophodno je da predstavnici vlasti naprave značajniji iskorak ka usklađivanju sa Uredbom o veštačkoj inteligenciji Evropske unije, tako što bi primenili preporuke organizacija civilnog društva. Predlozi se, između ostalog, odnose na ograničavanje korišćenja biometrijskog nadzora samo na slučajeve teških krivičnih dela, precizno definisanje baza podataka nadležnih organa koje bi se mogle koristiti u obradi biometrijskih podataka, definisanje biometrijskog nadzora odnosno obrade podataka kao posebne dokazne radnje, te jačanje kontrole i nadzora kroz povećanje transparentnosti.
Zašto je važno da Srbija adekvatno uredi biometrijski nadzor?
Uprkos nepostojanju adekvatnog zakonskog okvira, Srbija je nabavila tehnologije koje sadrže veštačku inteligenciju i pomoću kojih je moguće vršiti obradu biometrijskih i drugih podataka, poput „pametnih“ kamera, softvera Social Links, Maltego i Mozenga, kao i programa za napredno prepoznavanje lica Griffeye. Srbija se više puta našla i na „procurelim“ spiskovima korisnika moćnih softvera za prepoznavanje lica poput Clearview AI-a. Iako policija poriče upotrebu ovakvih sistema, postavlja se pitanje čemu nabavka naprednih softvera koji, između ostalog, poseduju i ove opcije.
Na zloupotrebu digitalnih podataka građana Srbije ukazali su i Zaštitnik građana i Poverenik za informacije od javnog značaja, nakon što su rezultati istrage pokazali da MUP i službe bezbednosti prikupljaju podatke građana bez sudskog naloga, kao i da poverljivi podaci o ličnosti koji se nalaze u posedu državnih organa često završavaju na naslovnim stranama tabloida.
Poznati su i slučajevi kada je biometrijski nadzor bio korišćen kako bi se identifikovali aktivisti i građani koji su učestvovali u protestima, a u Srbiji ovo pitanje postalo je aktuelno nakon ekoloških protesta krajem 2021. godine, kada su građanima stizali prekršajni nalozi, iako ih na samom događaju niko nije legitimisao.
Pravna praznina u oblasti biometrijskog nadzora ostavila je prostor za zloupotrebu ove tehnologije, te je za Srbiju od neizmernog značaja adekvatna regulacije upotrebe veštačke inteligencije i biometrijskog nadzora. Pored toga, ukoliko želi članstvo u Evropskoj uniji, Srbija će morati da uskladi svoj pravni sistem sa evropskim i u ovoj oblasti.
Konačni ishod Uredbe o veštačkoj inteligenciji Evropske unije mogao bi promeniti politiku mnogih država u ovoj oblasti. U slučaju neuspeha, takva odluka mogla bi postati potpora autoritarnim liderima u regionu i svetu da nastave sa neregulisanom (zlo)upotrebom ove tehnologije, dok bi usvajanje ovog revolucionarnog zakona moglo da zaustavi negativan trend u mnogim državama, a pogotovo u državama kandidatima za članstvo u Evropskoj uniji.