NOVI SKANDAL TRESE METU: Odobrili oglase koji prikazuju AI sadržaj seksualnog zlostavljanja djece

Meta je u posljednjih deset mjeseci odobrila stotine plaćenih oglasa koji su sadržavali slike seksualnog zlostavljanja djece generirane umjetnom inteligencijom. Značajan dio tih oglasa prikazan je korisnicima u Indiji, otkriva novo izvješće američkih aktivista, piše BBC.

Ovo otkriće dolazi samo dva mjeseca nakon što je indijska vlada naložila Meti da s Instagrama ukloni sav sadržaj i oglase koji promoviraju materijale sa seksualnim zlostavljanjem djece (CSAM). Nalog je uslijedio nakon istrage BBC-ja koja je otkrila da Instagram u Indiji prikazuje plaćene oglase s takvim sadržajem.

Novi nalazi američke organizacije

Organizacija Tech Transparency Project (TTP) iz Washingtona objavila je da je na Facebooku i Instagramu pronašla 332 oglasa sa spornim materijalom. Velika većina, njih 274, objavljena je tijekom kolovoza ove godine.

U izvješću TTP-a, objavljenom u utorak, navodi se da su identificirali i nekoliko fotografija stvarne djece, uključujući člana jedne europske kraljevske obitelji. Te su fotografije korištene u oglasima i zatim manipulirane umjetnom inteligencijom. TTP dodaje da se više od deset oglasa pojavilo na Metinim platformama i nakon što su tvrtku obavijestili o svojim nalazima.

Problem u Indiji ne jenjava

Otprilike četvrtina pronađenih oglasa (84) prikazana je u Indiji, a 78 ih je objavljeno nakon što je indijska vlada izdala nalog za uklanjanje i održala sastanak s visokim dužnosnicima Mete.

Distribucija materijala sa seksualnim zlostavljanjem djece u Indiji je kazneno djelo. Metina vlastita pravila također propisuju da oglasi ne smiju sadržavati materijale koji seksualno iskorištavaju ili ugrožavaju djecu.

Nakon BBC-jeve istrage, više indijskih institucija, među kojima su Nacionalno povjerenstvo za zaštitu prava djece i Nacionalno povjerenstvo za ljudska prava, najavilo je pokretanje istrage.

Bhuwan Ribhu, osnivač mreže Just Rights for Children, koja okuplja više od 250 organizacija za sprječavanje nasilja nad djecom, smatra da Metin pristup nije dovoljan. Njegova mreža podnijela je tužbu indijskom Vrhovnom sudu i pozvala se na otkrića BBC-ja. Traže da se društvenim mrežama naloži obavezno prijavljivanje i identifikacija onih koji promoviraju takve materijale.

"Društvene mreže očito krše indijske zakone jer ne prijavljuju sadržaj sa seksualnim zlostavljanjem djece indijskim tijelima progona, a to je obveza prema našim zakonima o zaštiti djece", rekao je Ribhu.

Metin odgovor

Nakon upita BBC-ja o novim nalazima, iz Mete su poručili: "Ne toleriramo aplikacije za skidanje odjeće niti bilo koji oblik iskorištavanja djece, bilo da je riječ o stvarnim osobama ili onima koje je generirala umjetna inteligencija. Ovi kriminalci stalno mijenjaju taktike kako bi izbjegli otkrivanje i zato neprestano jačamo naše sustave detekcije i provedbe pravila."

Tvrtka je ranije navela da u slučajevima očitog iskorištavanja djece sve prijavljuje Nacionalnom centru za nestalu i eksploatiranu djecu (NCMEC) u SAD-u, u skladu sa zakonskim obvezama. NCMEC je centralizirani globalni sustav za prijavu online seksualnog iskorištavanja djece.

U novom odgovoru Meta se branila i time da su mnogi prijavljeni oglasi već bili uklonjeni. "Izgradili smo snažne obrambene mehanizme, uključujući sustave koji blokiraju sporne oglase, kao i stalni nadzor u slučaju da nam nešto promakne. Zato su mnogi prijavljeni oglasi već bili uklonjeni, većina je imala manje od 200 prikaza, a ukupni trošak oglašavanja bio je manji od 5000 dolara."

Propusti u sustavu odobravanja

Oglasi na Metinim platformama objavljuju se tek nakon odobrenja, za što se sustav primarno oslanja na automatizaciju. TTP navodi da gotovo svi pronađeni oglasi počinju fotografijom djeteta, a tijekom reprodukcije videa umjetna inteligencija manipulira slikom kako bi prikazala eksplicitne seksualne radnje.

Kao primjer, TTP je opisao oglas prikazan u Indiji gdje je fotografija djevojčice animirana tako da izvodi eksplicitan seksualni čin, dok glas govori: "Nema ograničenja. Svi likovi su stvarni ljudi i postoji mnogo opcija. Ovo je AI koji muškarci zapravo koriste." Taj je oglas, prema TTP-u, u Indiji objavilo više od 50 profila tijekom dva tjedna u kolovozu.

TTP je pokušao prijaviti oglase putem Metinog sustava. Od 84 oglasa u Indiji, uspjeli su prijaviti 55. Za 43 oglasa dobili su odgovor da ne krše standarde oglašavanja. Za 11 im je rečeno da je sadržaj već uklonjen, a za jedan odgovor još čekaju. TTP ističe da su svi oglasi koje su prijavili uklonjeni tek nakon što su se obratili Meti za službeni komentar.

Slično se dogodilo i tijekom ranije BBC-jeve istrage. Kada je BBC prijavio jedan od oglasa, platforma ga nije uklonila. Tek nakon izravnog upita novinara, Meta je deaktivirala oglase i suspendirala profile.

Trag vodi do Kine i Telegrama

Velika većina od 332 oglasa usmjeravala je korisnike na aplikacije za generiranje AI slika, uglavnom kineskih programera. TTP tvrdi da je nekoliko spornih oglasa postavila čak i Metina partnerska agencija u Kini. Ti partneri, poznati kao "preprodavači", usmjeravaju milijarde dolara kineskog oglašavanja na Facebook i Instagram, a na upite TTP-a nisu odgovorili.

Oglasi koje je BBC pronašao u svojoj istrazi usmjeravali su korisnike i na aplikaciju Telegram, gdje su materijale mogli kupiti za oko jedan dolar. Iz Telegrama su tada odgovorili da koriste automatiziranu i ljudsku moderaciju te da su "praktički eliminirali javno širenje" takvog sadržaja.

TTP navodi da su se novi oglasi nastavili pojavljivati i nakon što su Metu obavijestili o svojim nalazima. Kao dokaz su podijelili detalje o 17 oglasa, od kojih je 11 prikazano u Indiji 1. i 2. rujna.