PANDORINA kutija otvorena je 11. svibnja 2022. godine, kada je tadašnja europska povjerenica za unutarnje poslove Ylva Johansson, inače švedska socijaldemokratska političarka, predstavila prijedlog Uredbe o sprječavanju i borbi protiv seksualnog zlostavljanja djece (CSAR). Kritičari poput Patricka Breyera, aktivista za digitalna prava i bivšeg zastupnika Europskog parlamenta, odmah su ovu regulativu osudili kao pokušaj kontrole privatne komunikacije bez presedana i nazvali ga Chat Control 2.0.

Iza plemenite i pohvalne namjere sprječavanja seksualnog zlostavljanja djece, tvrde Breyer i njegovi istomišljenici, krije se obavezni nadzor nad kompletnom online komunikacijom europskih građana. Svaki online razgovor i svi e-mailovi, odnosno "javno dostupne usluge međuljudske komunikacije," kako stoji u prijedlogu, automatski će se nadzirati. Ništa neće ostati povjerljivo i nedostupno.

Nadzor provode platforme koje pružaju uslugu

Ovo se odnosi na aplikacije za chat kao što su Facebook Messenger i WhatsApp te na web usluge elektroničke pošte poput Gmaila i Yahooa, ali i na sve druge online usluge koje uključuju komunikaciju i dijeljenje fotografija i videa. Nadzor bi morale provoditi same tvrtke koje nude spomenute usluge.

Bude li uredba prihvaćena u sadašnjem tekstu, umjesto sprječavanja širenja materijala koji prikazuje seksualno iskorištavanje djece (CSEM), europski građani bit će izloženi "masovnom nadzoru putem potpuno automatiziranog praćenja razmjene poruka i chatova u stvarnom vremenu te okončanju privatnosti digitalne korespondencije," ističu kritičari.

Kako je rekao Stefan Axelsson, profesor digitalne forenzike i kibernetičke sigurnosti na Sveučilištu u Stockholmu: "Čak ni poznata istočnonjemačka sigurnosna policija Stasi nije imala ovakav nadzor nad svojim građanima."

Brojka iza kolokvijalnog naziva Chat Control ukazuje da se radi o drugoj verziji sada već kontroverzne uredbe. Još u srpnju 2021. godine Europski parlament prihvatio je prijedlog Europske komisije o općem i neselektivnom skeniranju privatnih poruka i fotografija korisnika online komunikacijskih usluga.

Privremeno odstupanje od pravila o privatnosti

Uredba je predstavljena kao privremeno odstupanje od pravila Europske unije o privatnosti, koje bi omogućilo - ali bez pravne obveze, odnosno zakonske prisile - pružateljima usluga da skeniraju poruke korisnika, tekstualne i vizualne, kad postoji sumnja u CSEM.

Na temelju Chat Controla 1.0, koji je i danas na snazi iako je prihvaćen kao privremeni i vremenski ograničeni propis, neke nešifrirane američke komunikacijske usluge poput Gmaila, Facebook/Instagram Messengera, Skypea, Snapchata, iCloud e-maila i X-Boxa dobrovoljno primjenjuju nadzor.

Chat Control 1.0 omogućuje pretraživanje privatne komunikacije radi nezakonitih prikaza maloljetnika i pokušaja uspostavljanja kontakata s maloljetnicima. Ovaj nadzor je potpuno automatiziran i dijelom se temelji na "umjetnoj inteligenciji."

Ako algoritam smatra poruku sumnjivom, njezin sadržaj i metapodaci automatski i bez ljudske provjere prenose se privatnoj organizaciji sa sjedištem u SAD-u, a odatle nacionalnim policijskim agencijama diljem svijeta. Prijavljeni korisnici ne moraju biti obaviješteni.

Predloženi Chat Control 2.0 ide i korak dalje u kontroli i nadzoru komunikacije. Platforme poput Facebooka ili WhatsAppa morale bi pregledavati svaku poruku na svakom mobitelu, čak i ako se radi o end-to-end enkripciji, te u slučaju da otkriju sumnjivi sadržaj, sve prijaviti policiji.

Ugrađivanje backdoora ili napuštanje Europske unije

Platforme ovim obuhvaćene prijedlogom moraju provesti procjenu rizika kako bi utvrdile mogu li se njihove usluge koristiti za distribuciju CSEM-a. Ako postoji rizik, na pružatelju usluga je da poduzme mjere kako bi mogao pratiti seksualno zlostavljanje djece. Kod end-to-end enkripcije morao bi se ugraditi takozvani backdoor ili bi takve platforme morale napustiti EU.

Kad je Ujedinjeno Kraljevstvo svojedobno razmatralo uvođenje sličnog nadzora, koji je uključivao ugradnju backdoora, aplikacije poput WhatsAppa i Signala (Europska komisija preporučuje ga svojim zaposlenicima) objavile su da će u tom slučaju napustiti britansko tržište.

I Breyer na svojoj web stranici iznosi niz argumenata protiv Chat Controla 2.0: "Ako algoritam klasificira sadržaj poruke kao sumnjiv, privatne ili intimne fotografije korisnika aplikacije mogu vidjeti zaposlenici međunarodnih korporacija i policijske službe."

Možete biti lažno prijavljeni i naći se pod istragom zbog navodnog širenja materijala o seksualnom iskorištavanju djece, nastavlja Breyer. Primjerice, poznato je da algoritmi za kontrolu poruka ponekad označavaju kao sumnjive potpuno legalne fotografije djece s odmora na plaži.

Nema aplikacija za mlađe od 16 godina

Automatski generirana izvješća o privatnoj komunikaciji korisnika možda su proslijeđena drugim zemljama, poput SAD-a, gdje ne postoji privatnost podataka. Obavještajne službe i hakeri mogu špijunirati privatne chatove i e-mailove. Ako se ukloni spomenuta enkripcija, vrata privatne komunikacije bit će otvorena apsolutno svima s odgovarajućim tehničkim sredstvima za čitanje.

Nadalje, više neće biti moguće otvarati anonimne e-mail ili messenger korisničke račune ili anonimno razgovarati bez potrebe za predočavanjem identifikacijskog dokumenta s fotografijom lica. To sprječava, na primjer, osjetljive razgovore vezane uz seksualnost, anonimnu medijsku komunikaciju s izvorima, kao i određene političke aktivnosti.

Ako imate manje od 16 godina, ističe Breyer, više nećete moći instalirati sljedeće aplikacije: WhatsApp, Snapchat, Telegram, X, Instagram, TikTok, Facebook; aplikacije za upoznavanje ili aplikacije za videokonferencije poput Zooma, Skypea, Facetimea, pa čak ni igre poput FIFA-e, Minecrafta, GTA-e, Call of Dutyja, Robloxa.

Zanimljivo je da autori Chat Controla 2.0 prepoznaju da se radi o kršenju Europskom konvencijom o ljudskim pravima zaštićeno pravo građana na privatnu komunikaciju. U članku 8. Europske konvencije jasno piše: "Svatko ima pravo na poštivanje svog privatnog i obiteljskog života, doma i dopisivanja."

Isto pravo ističe i Deklaracija Ujedinjenih naroda o ljudskim pravima u 12. članku: "Nitko ne smije biti podvrgnut proizvoljnom miješanju u svoj privatni život, obitelj, dom ili dopisivanje, niti napadima na svoju čast i ugled."

"Nijedno pravo nije apsolutno"

Međutim, na 13. stranici prijedloga uredbe ovako se obrazlaže sužavanje ili kršenje spomenutih ljudskih prava: "Iako su navedena prava od velike važnosti, nijedno od njih nije apsolutno i moraju se razmatrati u odnosu na njihovu funkciju u društvu."

Posebno je problematičan i članak 7. u kojem stoji da osim pravosudnog i neko drugo "neovisno upravno tijelo" u članicama EU-a može izdati nalog za otkrivanje kojim se od "pružatelja usluga smještaja informacija na poslužitelju ili od pružatelja interpersonalnih komunikacijskih usluga" zahtijeva da poduzme mjere radi otkrivanja seksualnog zlostavljanja djece na internetu.

Dakle, pravosudna tijela uopće ne moraju biti uključena u praćenje i otkrivanje online komunikacije privatnih građana. Ovo duboko zadiranje u privatnost može se izvesti, doduše ne i procesuirati, bez ikakvog sudskog naloga.

Iako Chat Control 2.0 još nije stupio na snagu, Hrvatska je jedna od 14 članica EU-a koje su do srpnja ove godine podržale sadašnji prijedlog uredbe. Izričito su protiv Austrija, Nizozemska i Poljska, dok ostale još nisu zauzele konačan stav.

Da bi uredba bila prihvaćena, oko teksta se moraju dogovoriti Europska komisija, Europski parlament i Vijeće Europske unije, u kojem sjede nadležni ministri iz država članica. Europski parlament odbio je u studenom 2023. prihvatiti uredbu u predloženom tekstu, zatraživši bitno ublažavanje ključnih stavki o nadzoru:

"Želimo zaštititi digitalnu tajnost dopisivanja i ukloniti opću kontrolu chata, koji krše temeljna prava i nemaju šanse na sudu. Ciljani telekomunikacijski nadzor bit će dopušten samo uz sudski nalog i ograničen samo na osobe za koje se sumnja da su povezane s materijalima o seksualnom zlostavljanju djece."

Višegodišnja blokada u institucijama

Želimo zaštititi povjerenje u sigurnu end-to-end enkripciju. Jasno isključujemo takozvano skeniranje na strani klijenta, tj. instaliranje nadzornih funkcija i sigurnosnih ranjivosti u naše pametne telefone, istaknuo je Europski parlament u gotovo jednoglasnoj deklaraciji svih stranačkih skupina.

Upravo zbog ovakvog stava Parlamenta, koji je bio kudikamo kritičniji prema novom prijedlogu nego ministri iz Vijeća EU-a, te višegodišnje blokade uredbe u europskim forumima, sredinom veljače prošle godine dogovoreno je dvogodišnje produljenje Chat Controla 1.0.

U međuvremenu su protivnici Chat Controla 2.0 uspjeli ishoditi da Vijeće EU u lipnju ne podrži prijedlog uredbe s potrebnom većinom. Za prihvaćanje je bilo potrebno da najmanje 55 posto zemalja s najmanje 65 posto ukupnog stanovništva podrži uredbu, no podrška je zastala na 63,7 posto.

Ipak, stavovi ministara iz Vijeća EU-a ne razlikuju se bitno od prijedloga Europske komisije.

Danska snažno zagovara Chat Control 2.0

Trenutačno EU-om predsjedava Danska koja snažno zagovara Chat Control 2.0 i planira 14. listopada ove godine usuglasiti nacrt uredbe koja i bila prihvatljiva kvalificiranoj većini ministara unutarnjih poslova članica EU-a. 

Uredbu će u svakom slučaju morati prihvatiti i Europski parlament. Što se tiče 12 hrvatskih europarlamentaraca, izvjesno je da će njih šestero iz HDZ-a glasati u skladu sa stavom premijera Andreja Plenkovića, dok su svi ostali (četvero iz SDP-a, Gordan Bosanac iz Možemo! i Stephen Nikola Bartulica iz Domovinskog pokreta) zasad protiv.