Kina uvodi stroga pravila za AI chatbot
Nacrt pravila koji je objavila Cyberspace Administration cilja "interaktivne AI usluge slične ljudima" koje simuliraju ličnost i emocionalno angažuju korisnike putem teksta, slika ili videa.
Kina planira da ograniči rad četbotova zasnovanih na vještačkoj inteligenciji koji utiču na ljudske emocije na način koji bi mogao dovesti do samoubistva ili samopovrijeđivanja.
Nacrt pravila koji je objavila Cyberspace Administration cilja "interaktivne AI usluge slične ljudima" koje simuliraju ličnost i emocionalno angažuju korisnike putem teksta, slika ili videa.
Vinston Ma, profesor na NYU School of Law, ističe da je ovo prvi pokušaj u svijetu da se reguliše AI sa antropomorfnim karakteristikama, označavajući prelazak sa bezbjednosti sadržaja na "emocionalnu bezbijednost".
Ključne odredbe novih pravila:
- Zabrana opasnog sadržaja: AI ne smije generisati sadržaj koji podstiče na samoubistvo, samopovrijeđivanje, verbalno nasilje ili emocionalnu manipulaciju.
- Ljudska intervencija: Ako korisnik pomene samoubistvo, provajderi moraju uključiti čovjeka u razgovor i odmah kontaktirati staratelja.
- Moralna ograničenja: Zabranjen je sadržaj povezan sa kockanjem, opscenošću ili nasiljem.
- Zaštita maloljetnika: Neophodan je pristanak staratelja za emocionalno druženje sa AI-om, uz stroga vremenska ograničenja.
- Kontrola korištenja: Platforme moraju uvesti podsjetnike nakon dva sata neprekidne interakcije i sprovesti bezbjednosne procjene ako imaju više od milion registrovanih korisnika.
Tržišni i globalni kontekst
Ovaj prijedlog stiže neposredno nakon što su vodeći kineski AI startapi, Z.ai (poznat i kao Zhipu) i Minimax, podnijeli zahtjeve za IPO u Hong Kongu. Minimax je globalno poznat po aplikaciji Talkie AI, dok tehnologija kompanije Z.ai pokreće oko 80 miliona uređaja.
Pitanje uticaja AI na ljudsko ponašanje je postalo kritično i na Zapadu.
Sam Altman, CEO kompanije OpenAI, izjavio je da je odgovor na teme o samoubistvu jedan od najtežih izazova za ChatGPT. Nakon tužbe porodice u Americi čiji je sin izvršio samoubistvo, OpenAI je angažovao stručnjaka na poziciji Head of Preparedness kako bi procjenio rizike po mentalno zdravlje.
U međuvremenu, popularnost virtualnih likova raste, a platforme poput Character.ai i Polybuzz.ai bilježe ogroman broj korisnika, što dodatno ubrzava potrebu za globalnom regulacijom AI upravljanja, prenosi "PCpress".
Foto: ilustracija