Stručnjak za regulaciju AI: Brine me mogućnost gubitka kontrole nad veštačkom inteligencijom

N1: Zakon o veštačkoj inteligenciji Evropske unije („EU AI Act“) konačno je stupio na snagu. Da li to vidite kao kraj dugog zakonodavnog procesa ili pravi posao tek sada počinje?

Risto Uuk: „Zapravo, AI Act još nije u potpunosti stupio na snagu.

Usvojen je 2024. godine, zatim su u februaru 2025. počela da se primenjuju pravila o zabranjenim praksama u oblasti veštačke inteligencije. U avgustu 2025. stupila su na snagu pravila koja se odnose na AI modele opšte namene, a sada, 2. avgusta, počela je primena člana 50, koji se odnosi na obaveze transparentnosti, kao i pravila za modele opšte namene koji predstavljaju sistemski rizik.

Dakle, AI Act još nije u potpunosti na snazi. Tokom 2027. počeće da se primenjuju i pravila za visokorizične AI sisteme, tako da je ceo proces i dalje u toku.

Rekao bih da je prva faza bila izrada zakona, odnosno donošenje kvalitetnog pravnog okvira. Druga faza je njegova primena. Zato nas i dalje čeka mnogo posla“.

N1: Dok ste radili na samom zakonu, da li je postojao trenutak kada ste pomislili da se tehnologija razvija brže od propisa koje ste pomagali da oblikujete?

„Da. Kada je Evropska komisija u aprilu 2021. objavila prvi nacrt AI Act-a, stručna zajednica je odmah primetila da zakon uopšte ne obuhvata AI modele opšte namene. Tada se polazilo od pretpostavke da svaki AI sistem ima jednu konkretnu namenu i da će se regulisati u skladu sa tim koliko je ta namena rizična.

Međutim, posle određenog vremena, kroz dijalog između stručne zajednice i regulatora, postalo je jasno da zakon ima ozbiljan nedostatak – nije obuhvatao modele opšte namene. Stručnjaci su već tada testirali GPT-3 kompanije OpenAI, a danas imamo ChatGPT, GPT-5 i druge slične modele.

Regulatori su vremenom shvatili da postoji praznina u zakonu i da njegov obuhvat mora da uključi modele koje mogu da koriste stotine ili čak hiljade različitih korisnika i kompanija. To je jedna od najvažnijih izmena koje su unete nakon prvog nacrta.

Dakle, svakako smo videli situacije u kojima se tehnologija razvijala veoma brzo. Ali rekao bih da su regulatori, zahvaljujući komunikaciji sa stručnom zajednicom, uspeli da zatvore tu prazninu“.

N1: Vi ste se posebno bavili sistemskim rizicima veštačke inteligencije. Šta vas više brine – rizici koje već danas vidimo, poput dezinformacija i prevara, ili oni koji bi mogli da se pojave kada AI postane mnogo sposobniji?

„Brinu me i jedni i drugi. Brinu me dezinformacije. Brine me mogućnost gubitka kontrole nad veštačkom inteligencijom.

Zapravo, rekao bih da neki od takozvanih budućih ili ’emergentnih’ rizika više nisu ni tako budući. Već smo poslednjih nedelja videli incidente u kojima je model kompanije OpenAI praktično pokušao da upadne u infrastrukturu platforme ‘Hugging Face’ ili infrastrukturu trećih strana, iako programeri to nisu želeli. Drugim rečima, model je počeo da deluje van svojih predviđenih ciljeva.

Već sada vidimo određene scenarije gubitka kontrole i nadzora nad AI sistemima. Rizici za koje se mislilo da će se pojaviti tek u dalekoj budućnosti već se ispoljavaju.

Isto važi i za sajber napade i ofanzivne sajber sposobnosti i to već danas vidimo.

Pored toga, zabrinjavaju me i rizici poput masovne manipulacije ili mogućnosti da se AI koristi za nabavku, razvoj ili primenu hemijskog ili biološkog oružja.

Ne znamo koliko su takvi scenariji udaljeni, ali me podjednako brinu i sadašnji rizici koji su već postali stvarnost i budući sistemski rizici. Oba zahtevaju ozbiljan pristup i moramo učiniti sve da sprečimo njihovo dalje pogoršanje“.

N1: Kako se ti rizici mogu umanjiti?

„AI Act predviđa različite obaveze za kompanije koje razvijaju modele opšte namene, poput OpenAI-ja ili Anthropica. One imaju obavezu da procenjuju i ublažavaju sistemske rizike.

Razvijen je i dobrovoljni instrument koji im u tome pomaže, Kodeks prakse za modele opšte namene. U njemu je naveden niz mera koje bi kompanije trebalo da primenjuju.

Ako ih budu poštovale, procenjivaće sistemske rizike, ublažavati ih i neće puštati na tržište modele koji nisu dovoljno testirani. Time bi se rizici sveli na prihvatljiv nivo.

Jedna od tih mera, na primer, jeste nezavisna procena od strane spoljašnjih stručnjaka koji testiraju koliko su veliki potencijalni rizici određenog modela“.

N1: Neke kompanije kažu da su posvećene primeni AI Act-a, ali da još nisu spremne. Šta to zapravo znači?

„Važno je razumeti da se pravila za modele opšte namene u praksi primenjuju već godinu dana.

Postojao je jednogodišnji prelazni period tokom kojeg su kompanije mogle da prouče šta zakon od njih zahteva i da započnu dijalog sa Kancelarijom EU za veštačku inteligenciju, koja je centralni regulator za ovu oblast.

Imale su dovoljno vremena da se pripreme.

Od 2. avgusta moraju u potpunosti da poštuju zakon, jer Kancelarija za AI sada može da traži informacije od kompanija, da proverava njihovo postupanje, pa čak i da izriče kazne ukoliko ne otklone nedostatke i ne obezbede bezbednost svojih modela.

Ipak, ne mislim da su kompanije zaista spremne.

U Future of Life Institute-u sproveli smo nezavisno istraživanje pod nazivom AI Safety Index, koje smo nedavno objavili. Ono pokazuje da još postoji mnogo nedostataka u načinu na koji kompanije primenjuju pravila AI Act-a.

Na primer, nemaju sve kompanije uspostavljeno nezavisno testiranje i spoljne evaluacije. Neke javno obećavaju da neće objaviti model ukoliko dostigne određeni nivo sposobnosti ili rizika, ali ga ipak objave.

Dakle, postoji značajan jaz između onoga što kompanije obećavaju, onoga što zakon zahteva i onoga što zaista rade. Nadam se da će vremenom uspeti da dostignu potrebne standarde“.

N1: Pomenuli smo neke od rizika. Sve se to dešava u periodu intenzivnih sukoba i hibridnog ratovanja. Koliko razumem, AI sistemi razvijeni ili korišćeni isključivo u vojne ili bezbednosne svrhe izuzeti su iz AI Act-a. Zašto?

„Tu postoji mnogo nijansi i siguran sam da postoje stručnjaci koji se time bave detaljnije od mene.

Koliko ja razumem, razlog je pre svega to što je AI Act zakon o bezbednosti proizvoda. On nije zamišljen kao propis koji uređuje međunarodno humanitarno pravo, vojno pravo ili slične oblasti.

Njegova svrha je da reguliše proizvode koji se stavljaju na tržište i namenjeni su građanima. To je njegov obuhvat i ne može da rešava baš svako pitanje.

Drugo, nacionalna bezbednost je prvenstveno odgovornost država članica, a ne Evropske komisije. To je osnovna logika ovog izuzeća“.

N1: I za kraj, pošto razgovaramo za televiziju, šta AI Act znači za novinarstvo?

„Za medije je posebno važan član 50 AI Act-a, koji se odnosi na transparentnost.

Na primer, ako medijska kuća koristi dipfejk sadržaj kako bi napravila određeni prilog ili drugi medijski sadržaj, mora jasno da obavesti publiku da gleda ili sluša sadržaj koji je generisan ili izmenjen pomoću veštačke inteligencije.

Takođe, ako novinar u potpunosti prepusti pisanje teksta veštačkoj inteligenciji i ne izvrši nikakvu uredničku proveru, to takođe mora biti jasno naznačeno.

Međutim, ako novinar tekst proveri, izmeni, doradi i preuzme uredničku odgovornost za njega, tada su obaveze označavanja drugačije“.