Kinezi povukli ručnu: Ograničili AI zbog straha od hakerskih napada

Kompanija "Munšot", sa sjedištem u Pekingu, najavila je ova ograničenja prilikom predstavljanja modela "Kimi K3.1 Pro", koji opisuje kao svoj najsposobniji model sa otvorenim težinama u klasi od tri biliona parametara, prenio je Rojters.

Iz ove kompanije su naveli da su iz korpusa podataka za obuku i okruženja za učenje sa potkrepljenjem, korišćenih za razvoj modela Kimi K3.1, uklonili podatke koji se odnose na sajber domen, dok su zadržali opšte vještine programiranja.

"Cilj nam je da ne objavljujemo modele otvorenih težina koji bi pomjerili apsolutnu granicu sajber-ofanzivnih sposobnosti", saopštila je kompanija.

Vlade, tehnološke kompanije i stručnjaci za bezbjednost sve su zabrinutiji da bi vještačka inteligencija mogla da učini sofisticirane hakerske napade lakšim i jeftinijim, navodi Rojters.

Modeli koji mogu da pišu kod, upravljaju softverskim alatima i izvršavaju složene zadatke u više koraka mogu da pomognu korisnicima da otkriju slabosti u programima i automatizuju dijelove sajber napada.

Kina je prošle nedjelje predložila mjere kontrole izvoza kojima bi se zabranio izvoz tehnologije za kreiranje i mutaciju zlonamjernog softvera uz pomoć vještačke inteligencije, a takođe bi se ograničili alati koji pomoću AI otkrivaju slabosti.

U nacrtu mjera, koji je trenutno na javnoj raspravi, navodi se rizik da bi takve mogućnosti mogle da budu iskorišćene protiv kritične infrastrukture, odbrambeno-industrijskih i ključnih državnih sistema ili za zaobilaženje bezbjednosnih zaštita.