VIŠE profila na X-u, koji su izrazito skloni Elonu Musku, objavilo je da X u samo nekoliko mjeseci suspendirao 1,79 milijuna računa povezanih sa seksualnim iskorištavanjem djece.

Osim toga, Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC) navodno je prijavljeno je preko 300 tisuća računa. Jedan od tih računa je i Libs of TikTok, čiju objavu je proslijedio vlasnik X-a Elon Musk.

"Nikada nećemo prestati koristiti sve svoje mogućnosti kako bismo uklonili ove štetne prakse", citira se u objavi.

Sličan tekst objavili su i drugi profili čije objave Musk često dijeli. Ovi podaci nisu objavljeni na službenom blogu X-a, niti na profilu Safety. Također nije jasno zašto je samo dio suspendiranih profila prijavljen NCMEC-u.

Prošlog tjedna prekinuta suradnja X-a i organizacije koja pronalazi pedofiliju

Ova vijest pojavila se šest dana nakon što je objavljeno da je Thorn, kalifornijska neprofitna organizacija koja surađuje s tehnološkim tvrtkama u borbi protiv materijala koji prikazuju seksualno zlostavljanje djece, prekinula ugovor s X-om.

Organizacija je za NBC News potvrdila da X nije plaćao njihovu uslugu, ali nije iznijela detalje zbog pravnih razloga. Iz X-a su poručili da prelaze na vlastitu tehnologiju za borbu protiv tog sadržaja.

Thornovi alati upravo su osmišljeni za prepoznavanje problema koji se sada sve više širi platformom.

"Nedavno smo raskinuli ugovor s X-om zbog neplaćanja", rekla je Cassie Coccaro, voditeljica komunikacija u Thornu. "I to nakon mjeseci pokušaja da zadržimo suradnju. Na kraju smo morali prekinuti ugovor."

Prodavači koriste botove, hashtagove i grupe s tisućama članova

NBC News je još u siječnju 2023. izvijestio o pojavi oglasa za dječju pornografiju na X-u. Prodavači takvog sadržaja i dalje koriste hashtagove povezane sa seksualnim pojmovima kako bi privukli kupce. Objave vode na druge platforme gdje se za novac nudi zlostavljački sadržaj.

Novost je da se sada pojavljuju automatizirani računi (botovi), kao i da se za distribuciju koristi funkcija "Zajednice", uvedena 2021., koja korisnicima omogućuje formiranje grupa po temama. Na taj način oglašivači CSAM sadržaja (Child Sexual Abuse Material) mogu neometano objavljivati u grupama s desecima tisuća članova.

Kanadski centar za zaštitu djece C3P, koji prati CSAM online, analizirao je više označenih računa i hashtagova te pratio poveznice. U samo nekoliko minuta otkrili su slike poznatih žrtava, neke stare svega 7 godina, kao i videe zlostavljanja djece starih svega 4 godine – na X-u i Telegram kanalima. 

Lloyd Richardson iz C3P-a rekao je da je ponašanje korisnika X-a već poznato, ali da je odgovor X-a "porazno neadekvatan". "Nema prave volje da se riješi uzrok problema", rekao je.

X kaže da je pokrenuo svoj novi sustav

X tvrdi da ima "nultu toleranciju" prema svakom sadržaju koji prikazuje ili promovira seksualno iskorištavanje djece. Glasnogovornik X-a uputio je NBC News na objavu s profila Safety, gdje tvrtka navodi da su pokrenuli novi sustav za otkrivanje CSAM sadržaja putem hash-matching tehnologije.

Tvrde da mogu brzo i sigurno otkriti poznati CSAM sadržaj i ukloniti ga, no nije jasno po čemu se njihov sustav razlikuje od već postojećih tehnologija.

Nisu odgovorili na pitanja o optužbama Thorna vezano uz neplaćanje.

Problem zbog botova gori nego prije?

Pregled hashtagova koji se povezuju s CSAM-om pokazuje da je problem možda i gori nego kad je Musk preuzeo tvrtku. Nekad su se pojavljivale tek pojedinačne objave po satu – sada botovi objavljuju više puta u minuti.

Unatoč tome što se pojedini računi uklanjaju, mnogi hashtagovi ostaju aktivni i javno dostupni tjednima. Neki od njih, identificirani još 2023. kao povezani s CSAM-om, i dalje se koriste u iste svrhe.

X je ranije pokušao blokirati određene hashtagove. U siječnju 2024. direktorica X-a Linda Yaccarino izjavila je pred američkim Senatom da su pojačali mjere "s više alata i tehnologije". U svibnju 2024. X je priopćio da su pomogli Thornu testirati alat za automatsko prepoznavanje tekstova koji sadržavaju CSAM, no ne zna se jesu li ga implementirali.

Pailes Halai iz Thorna, koji je nadzirao suradnju s X-om, kaže da nije jasno kako su i jesu li ikada stvarno koristili taj alat. "Pomogli su nam s testiranjem prošle godine, ali nije nam poznato kako su ga točno koristili", rekao je.

Bez Thorna, nije jasno kakve sigurnosne mehanizme X trenutačno koristi. "Naša tehnologija je dizajnirana za sigurnost. Ali odgovornost za provođenje je na platformi", rekao je Halai.

Rekao je da raskid ugovora nije bio lagana odluka. "Iscrpili smo sve mogućnosti. Kao neprofitna organizacija, ne možemo si priuštiti da financiramo uslugu za korporaciju poput X-a."

NBC pronašao 23 hashtaga, samo 2 bila blokirana

Danas su neki hashtagovi blokirani, ali mnogi su i dalje dostupni i puni oglasa za CSAM. NBC News je pronašao takve objave u čak 23 različita hashtagova, a samo su 2 bila blokirana. Hashtagovi uključuju referencu na incest, tinejdžere, Omegle (zatvorenu video platformu) i druge pojmove.

Korisnička imena računa koji objavljuju takve oglase često su kombinacije riječi povezanih s dječjom pornografijom. Mnogi linkaju direktno na Telegram ili Discord kanale u opisima profila.

Na X-u dio korisnika koristi funkciju "Zajednice" kako bi unutar velikih grupa ponudio ili tražio CSAM. NBC News je u grupi s preko 70.000 članova pronašao više objava koje izravno oglašavaju prodaju CSAM-a.

"Novi račun nikne za dvije sekunde"

CSAM je stalan problem interneta. Brojne platforme ulažu u automatizirane sustave i stručne timove za njegovo uklanjanje. No Musk je nakon preuzimanja X-a drastično smanjio odjel za sigurnost i raspustio savjetodavno vijeće za sigurnost.

Richardson iz C3P-a rekao je da X uklanja prijavljene račune, ali da "novi račun nikne za dvije sekunde" i da ne postoji ozbiljan sustavski odgovor. Umjetna inteligencija, ako se koristi, nije dovoljna bez ljudske kontrole, kaže.

"Netko na tvojoj platformi prodaje video silovanja djece. To zahtijeva hitnu reakciju. A ne samo automatizaciju. Ne možeš se automatizirati iz ovakvog problema", zaključio je Richardson.