Član 50 Zakona o umjetnoj inteligenciji (AI Act) zahtijeva od izdavača sadržaja da označe i obilježe određene vrste sadržaja generisanog umjetnom inteligencijom, kao i da obavijeste korisnike kada komuniciraju s AI chatbotom ili agentom, a ne sa stvarnom osobom.
"Ove obaveze imaju za cilj jačanje povjerenja i integriteta u ekosistemu informacija. Ljudi bi trebali znati kada komuniciraju s umjetnom inteligencijom ili kada su izloženi sadržaju generisanom pomoću AI-ja. To će im pomoći da donose informisane odluke, pravilno procijene nivo povjerenja i oslanjanja na AI te izbjegnu dezinformacije ili obmanu", navela je Evropska komisija u svojim novim smjernicama.
Nova pravila zahtijevaju oznaku "AI" ako su mašine pomogle u stvaranju "sadržaja koji izgleda autentično", poput deepfake materijala (slika, zvuk, video) ili objavljenog teksta. Ako su slika, zvuk, video ili tekst u potpunosti generisani pomoću umjetne inteligencije, moraju nositi oznaku "AI-Generated" (generisano pomoću AI-ja). Za ovu drugu kategoriju regulatori navode primjere poput "potpuno AI-generisanih deepfake videa s političarima ili izmišljenim događajima, muzike ili umjetnosti u potpunosti kreiranih pomoću AI-ja ili AI-generisanih sažetaka vijesti".
I druge vrste umjetne inteligencije također će morati biti označene, poput modela koji prepoznaju vaše emocije ili obrađuju biometrijske podatke.
"Cilj je jednostavan. Kada AI igra ključnu ulogu, imate pravo da to znate“, navela je Evropska komisija u videu s objašnjenjem pravila.
Komisija će također nadzirati pružaoce usluga općih AI modela. Te organizacije morat će dokumentovati informacije, objavljivati sažetke podataka korištenih za obuku i primjenjivati politike zaštite autorskih prava, dok će za nepoštivanje pravila biti nadležne nacionalne vlasti koje će provoditi sankcije.
Novi zakon ima ozbiljne kaznene mjere, s novčanim kaznama do 15 miliona eura ili tri posto godišnjeg globalnog prihoda za kompanije, odnosno do 750.000 eura za institucije, tijela i agencije Evropske unije. Kod malih i srednjih kompanija te malih kompanija srednje tržišne kapitalizacije uzimat će se u obzir princip proporcionalnosti. Pravila izuzimaju lični sadržaj poput grupnih razgovora, kao i "očigledno umjetnička" satirična i fiktivna djela.
Nova pravila čine Evropu najznačajnijim regulatorom tehnologije umjetne inteligencije. Ona su izazvala kritike iz industrije, koja tvrdi da predstavljaju nepotreban teret koji će usporiti inovacije.
Međutim, evropski regulator za tehnologiju naveo je da će pravila zapravo pojednostaviti razvoj za pružaoce AI usluga stvaranjem jedinstvenog tržišta s usklađenim pravilima.
"Ona se također bave potencijalnim rizicima za zdravlje, sigurnost i osnovna prava ljudi, istovremeno štiteći demokratiju i vladavinu prava. Osiguravanje efikasne primjene sada je ključni prioritet Komisije", navela je Evropska komisija.
