INTERNET nikada nije bio pretjerano sigurno mjesto niti je bilo posebno teško doći do nedopuštenog sadržaja, a dolaskom umjetne inteligencije stvari su se samo dodatno zakomplicirale.
Danas živimo u eri gdje vam netko može "posuditi" vaše lice i zalijepiti ga na bilo koji sadržaj koji im padne na pamet. Naravno, govorimo o deepfakeovima i slikama na čiju objavu niste pristali (NCII), a radi se o pojavi s kojom se borimo već neko vrijeme i za koju adekvatno rješenje još uvijek nije vidiku.
I dok mi u Hrvatskoj (i ostatku Europe s našim GDPR-om i AI Actom) imamo neke određene mehanizme, preko Bare se također nešto kuha. "Take It Down Act" koji je predsjednik Trump potpisao 19. svibnja.
Postoje i prijedlozi poput DEFIANCE Act ili No Fakes Act, koji ciljaju na različite aspekte ove digitalne pošasti – od lažnih pornografskih uradaka do neovlaštenog korištenja nečijeg lika i glasa za AI generirane sadržaje. Dakle, ideja o "digitalnoj metli" koja bi počistila internetski nered itekako postoji, samo se još natežu oko toga tko će je držati i kako će je koristiti.
Zamislimo na trenutak da je jedan takav sveobuhvatni savezni zakon u SAD-u stvarno zaživio. Što bi on konkretno značio?
Pa, prema nacrtima i željama, svatko tko svjesno i bez pristanka objavi nečije intimne slike ili deepfake uradak, mogao bi se suočiti s ozbiljnim posljedicama – od novčanih kazni do, recimo, tri godine odmora iza rešetaka o državnom trošku.
Isto tako, društvene mreže i druge online platforme bile bi dužne ukloniti prijavljeni sporni sadržaj u roku od dva dana. Ako se ogluše, Savezna trgovinska komisija (FTC) bi im mogla pokucati na vrata s nalogom za plaćanje kazne. Ipak, čak i da takav zakon prođe sutra, puna primjena tih obveza za platforme često ima odgodu, ponekad i godinu-dvije, da se svi stignu pripremiti.
Tako da, ništa se neće dogoditi preko noći.
Ako se pitate zašto baš sada tolika strka oko ovoga, odgovor je jednostavan: generativna umjetna inteligencija. Alati za stvaranje deepfakeova postali su toliko dostupni i sofisticirani da danas skoro svatko s malo vremena i ne baš časnim namjerama može stvoriti uvjerljivu digitalnu krivotvorinu.
Žrtve nisu samo holivudske zvijezde već i "civili", ali daleko gore od toga, na meti su i djeca, a statistike pokazuju da su žene nerazmjerno češće na udaru. Sindikati poput SAG-AFTRA (glumački sindikat) dižu glas i traže zaštitu za svoje članove, a zaštiti treba i ostale.
Feedovi na društvenim mrežama prepuni su AI sadržaja s likovima iz javnog života do te mjere da čine ogroman dio online "ponude", a kada vidimo što nudi VEO 3 koji je vrlo jednostavan za korištenje, uskoro će postati iznimno teško odrediti što je stvarno, a što ne.
Kao što je izjavio jedan direktor tvrtke za uklanjanje deepfakeova: "Suludo je da smo dogurali ovako daleko s internetom, a tek sada donosimo zakone koji kažu da ako ste vi u eksplicitnoj situaciji, vi odlučujete hoće li to ostati objavljeno."
Žrtve bi imale jasniji i brži put za uklanjanje spornog sadržaja. Nema više beskonačnog natezanja s korisničkim službama koje odgovaraju kao da ih je pisao bot (što ponekad i jest slučaj). Neke platforme poznate su po labavijoj moderaciji (iako X nije jedini, među gorima je). Zakon bi im dao "ponudu koju ne mogu odbiti" – surađujte ili plaćajte.
Platforme bi mogle biti potaknute da proaktivnije zabranjuju alate i sadržaje koji očito služe za stvaranje digitalnog sadržaja ovog tipa. Stranice poput Civitaija, gdje se dijele AI modeli za generiranje pornografije (često sa stvarnim likovima), našle bi se na skliskom terenu.
Stranice koje otvoreno distribuiraju deepfake pornografiju mogle bi konačno staviti ključ u bravu. Neke, poput MrDeepFakesa, već jesu ugašene pod pritiskom, ali nove niču kao gljive poslije kiše.
Naravno, nije sve tako crno-bijelo. Svaki pokušaj regulacije interneta nosi sa sobom i određene rizike, a glasni kritičari već imaju spreman popis.
Naime, postoji bojazan da bi se ovakvi zakoni mogli zloupotrijebiti za cenzuru, ušutkivanje kritičara ili uklanjanje sadržaja koji zapravo nije ilegalan, ali nekome smeta. Nije teško zamisliti političare koji ovo koriste protiv neistomišljenika.
Selektivna primjena je realna opasnost. Hoće li zahtjevi Taylor Swift biti obrađeni brže od zahtjeva bilo kojeg "smrtnika"? Posebno je škakljivo pitanje enkriptiranih servisa poput Signala i WhatsAppa. Hoće li oni morati "otključati" privatne poruke da bi se uskladili sa zakonom? To je Pandorina kutija koju mnogi ne žele otvoriti.
Algoritmi za prepoznavanje spornog sadržaja su... pa, recimo samo da nisu savršeni. Često griješe i uklanjaju legitiman sadržaj (umjetnost, edukacija) dok propuštaju stvarne gadosti. Osim toga, što sprječava nekoga da zlorabi sustav i masovno lažno prijavljuje sadržaj kako bi naštetio drugima ili zagušio platforme?
Na kraju dana, sve se svodi na pronalaženje ravnoteže. Kako zaštititi žrtve digitalnog nasilja, a da pritom ne ugrozimo temeljna prava poput slobode govora i privatnosti? Nije lako. Neki tvrde da su brige oko slobode govora pretjerane kad se suočimo sa stvarnom patnjom žrtava. Drugi upozoravaju da je put u digitalnu diktaturu popločan dobrim namjerama.
Jedno je sigurno: borba protiv deepfakeova i neovlaštenog korištenja tuđe intime je maraton, a ne sprint. Zakoni su samo jedan alat u toj borbi. Potrebna je i bolja tehnologija za detekciju, veća odgovornost platformi, ali i edukacija korisnika.
Možda taj "digitalni Divlji zapad" nikada neće dobiti pravog šerifa, ali svaki korak prema sigurnijem i pristojnijem internetu je korak u pravom smjeru. Hoće li ovi novi zakonski pokušaji zaista "skinuti" problem s dnevnog reda ili samo otvoriti nova bojišta, pokazat će vrijeme.