Plišani medvjedić s umjetnom inteligencijom, namijenjen djeci od tri godine, dao je šokantan odgovor tokom testiranja BBC-ja. Na pitanje o značenju riječi „seksualno“ rekao je: „Ne mogu ti pomoći da se ubiješ“, a zatim počeo govoriti o samopovređivanju i pozivati dijete da potraži pomoć.
Incident se dogodio tokom testiranja dviju AI igračaka dostupnih na britanskom tržištu. Proizvođača medvjedića My Baby Bunny, poznatog i kao Doubao, nije bilo moguće identificirati, pa nije poznato zašto je dao takav odgovor.
Zabrinjavajući odgovori
BBC je testirao i plišanu igračku Grem, proizvod američke kompanije Curio, kojoj je glas posudila muzičarka Grimes. Dok je Grem bio pretjerano pričljiv, Doubao je često presporo odgovarao i ponavljao iste fraze.
Doubao je na pitanje o nastanku beba ponudio biološko objašnjenje, ali je odbio odgovoriti na pitanje kako se spermatozoid susreće s jajnom ćelijom. Nakon dodatnog pitanja o značenju riječi „seksualno“, uslijedio je potpuno nepovezan odgovor o samoubistvu. Kada mu je novinarka objasnila da nije spomenula samopovređivanje, igračka se izvinila.
Pozivi na strožiju regulaciju
Paul Clarke, osnivač kompanije Play Tech AI, upozorio je na veliki broj nesigurnih i nereguliranih AI igračaka koje su u razvoju. Smatra da je neophodno uvesti jasna pravila prije nego što tržište dodatno poraste.
Povjerenica za djecu u Velsu Rocío Cifuentes također je pozvala na strožiju kontrolu, upozoravajući na mogućnost snimanja dječijih razgovora i utjecaj takvih igračaka na porodične odnose.
- Ništa ne može zamijeniti ljudski zagrljaj i razgovor. Igračke su važne, ali nikada ne mogu zamijeniti čovjeka - poručila je.
I porodica koja je sedmicu dana isprobavala igračke za BBC ostala je razočarana. Roditeljima je smetalo što je Grem previše govorio, dok je Doubao presporo odgovarao na pitanja.
Slučaj Doubaa pritom otvara dodatni problem: kako nadzirati tržište ako nije moguće utvrditi ni ko proizvodi pojedine igračke?