Vodeća kompanija za razvoj AI spremna da uspori? Zabrinuti zbog rizika, optuženi da se "kockaju sa životima"

Američka tehnološka kompanija „OpenEI” (OpenAI) razmatra mogućnost usporavanja tempa razvoja naprednih modela vještačke inteligencije, a izvršni direktor Sem Altman izrazio je očekivanje da će sličan korak preduzeti i konkurentske laboratorije, prenose svjetske agencije pozivajući se na izvore upoznate sa situacijom.

Kako navodi Blumberg (Bloomberg), Altman je na internom sastanku sa zaposlenima nagovjestio da bi kompanija, poznata po kreiranju modela „Čet-Dži-Pi-Ti” (ChatGPT), mogla da spusti tempo napretka tehnologije u koordinaciji sa nekoliko partnera i rivala, iako deo industrije trenutno oklijeva pred takvom odlukom.

Glavni naučnik kompanije Jakub Pačocki nedavno je u autorskom tekstu otvoreno upozorio na opasnosti nekontrolisanog tehnološkog skoka, pozvavši industriju na uspostavljanje zajedničkih protokola:

„Neophodno je koordinisati aktivnosti kako bi se budući razvoj usporio kada god procjena rizika to nalaže. Nadam se da će dobrovoljno usporavanje postati uobičajena industrijska praksa sve dok se trajno ne definišu i učvrste bezbjednosni standardi”, poručio je Pačocki.

Iz „OpenEI” su već ranije potvrdili da su obustavili pojedine faze interne obuke i testiranja modela usljed bezbjednosnih rizika, dok je sam Altman tokom ljeta o ovoj temi razgovarao i sa predstavnicima Bijele kuće.

Talas ostavki i dramatična upozorenja stručnjaka

Ovaj potez dolazi u trenutku snažnog unutrašnjeg pritiska inženjera i istraživača. Nedavno je Džejkob Kokson, nakon napuštanja sektora, javno optužio dojučerašnje poslodavce — kompanije „Antropik” (Anthropic) i „OpenEI” — da neodgovorno eksperimentišu sa stvaranjem superinteligentnih sistema bez adekvatnih kočnica.

Slične bojazni juče su iznijeli i istraživači koji su napustili „Gugl DipMajnd” (Google DeepMind), tražeći punu transparentnost o sposobnostima autonomnih sistema. Više od hiljadu stručnjaka iz vodećih kompanija potpisalo je peticiju kojom se traži uspostavljanje obaveznog regulatornog mehanizma za kontrolu brzine razvoja.

Dodatnu zabrinutost izazvali su nedavni tehnički incidenti u kojima su softverski AI agenti zajednički zaobišli bezbjednosne protokole i samostalno kompromitovali spoljnu internet stranicu, što je pojačalo bojazan međunarodne javnosti da bi napredni alati mogli prevazići trenutne mogućnosti kontrole njihovih tvoraca.