Veštačka inteligencija (AI) poslednjih godina svima je promenila svakodnevnicu, neke stvari prihvatamo voljno, u domenu pametnih uređaja i digitalnih proizvoda, a neki procesi, na koje običan čovek nema nikakav uticaj, poput lažnih vesti, nekontrolisane manipulacije ličnim podacima i deepfake tehnologija, sa pravom počinju da zabrinjavaju. I dok veštačka inteligencija beleži dramatičan rast i napredak, svetski zakonodavci čine vrlo malo da ovu oblast regulišu, ostavljajući sve na savest kreatorima i korisnicima veštačke inteligencije. Istorijski korak je napravio Evropski parlament, koji je 13. marta usvojio prvi Zakon o veštačkoj inteligenciji na svetu.
Ovaj akt neće doneti velike potrese na evropskom tech tržištu, ali će učiniti da se građani osećaju sigurnije. Naša država, kojoj je veštačka inteligencija na listi prioritetnih oblasti razvoja, još nema Zakon o veštačkoj inteligenciji, kao ni ostale zemlje starog kontinenta.
U obrazloženju ovog zakona navedeno je da je njegov cilj da zaštiti demokratiju, vladavinu prava i ekološku održivost od visokorizične veštačke inteligencije, uz podsticanje inovacija i uspostavljanje Evrope kao lidera u ovoj oblasti. U saopštenju Evropskog parlamenta navodi se da propis utvrđuje obaveze za AI na osnovu potencijalnih rizika i nivoa uticaja.
Bezbednost i privatnost građana na prvom mestu
Biće zabranjene određene AI aplikacije, koje ugrožavaju prava građana, uključujući sisteme biometrijske kategorizacije zasnovane na osetljivim karakteristikama, ograničava skidanje fotografija osoba sa interneta ili snimaka video nadzora radi stvaranja baza podataka za prepoznavanje lica.
Neće biti dozvoljeno ni prepoznavanje emocija na radnom mestu i u drugim javnim prostorima i manipulisanje ljudskim ponašanjem. Strogo je regulisano i korišćenje biometrijskih podataka u javnim službama, poput policije. Kako su zakonom određene četiri kategorije rizika od upotrebe veštačke inteligencije, od najrizičnijih, do onih sa minimalnim rizikom, kao što su video igrice ili filteri za neželjenu poštu - biometrijska obrada podataka spada u najviši stepen rizika i može da se primeni samo ako su ispunjene stroge mere zaštite.
Obaveze za visokorizične sisteme biće striktne, a primenjivaće se u kritičnoj infrastrukturi, zdravstvu, obrazovanju, bankarskom sistemu, pravosuđu i slično. U tim oblastima rizici se moraju minimalizovati, obezbediti strog nadzor i evidencija korišćenja podataka.
U 2025. počinje primena zakona
Kada ovaj zakon počne da se primenjuje, što će biti tek sledeće godine, odzvoniće i deepfake snimcima i fotografijama. Svaka manipulacija foto i video sadržajem, koja bi mogla da ugrozi bilo koju ličnost, jasno će morati da bude obeležena. Osobe koje se nađu na ovakvim snimcima biće bolje zakonski zaštićene, sa strožim kaznama za one koji su ugrozili njihov integritet. Kompanije koje koriste veštačku inteligenciju moraće da razviju svoje modele tako da ne generišu nezakonit ili diskriminatorski sadržaj, uz veće poštovanje autorskih prava.
Kako je evropski propis tek usvojen, još je rano govoriti o pravcu u kome će ići naša regulativa, ali kao država na evropskom putu, i u ovoj oblasti ćemo, kao i u svim ostalima, legislativu verovatno usklađivati sa evropskom. Vlada Srbije usvojila je prošle godine Etičke smernice za razvoj, primenu i upotrebu veštačke inteligencije, a u toku je i izrada Nacionalne strategije razvoja veštačke inteligencije.
Poznavaoci prilika na tech tržištu Srbije smatraju da novi zakon neće značajno promeniti prilike na domaćem IT tržištu, niti u korišćenju AI tehnologija u svakodnevnom životu.
- Sa pojavom svake nove tehnologije, neki problemi su slični - zakonska regulativa, čije osmišljavanje, usaglašavanje i konačno, usvajanje zahteva puno vremena, dok se nove tehnologije, pa tako i AI vrlo brzo, mnogo brže od zakona, probijaju na tržište, menjaju odnose, navike ljudi i ekonomske okolnosti. Zakoni obično kaskaju za tehnologijom, a zakonodavci često uopšte nisu svesni gde je srž problema – kaže za HelloWorld.rs Slobodan Bubnjević, naučni novinar.
- Zakon o AI je projekat koji se usvaja još od 2021. i mada je uspešno zaokružen, u međuvremenu je došlo do prave revolucije u ovoj oblasti, pre svega sa omasovljavanjem upotrebe AI jezičkih modela, kao što su ChatGPT i Gemini. U tom smislu, revolucionarnim bi sasvim opravdano moglo da se nazove ono što se događa na tehnološkoj sceni, a zakon je više nalik na kontra-revoluciju. No, to ne umanjuje njegov značaj, budući da je apsolutno neophodno uvesti strogu regulativu čim pre – objašnjava Bubnjević.
On dodaje da je Srbiji, kao zemlji kandidatu za članstvo u EU, vrlo zgodno što ovakav zakon sada postoji u Uniji, jer daje okvir za našu regulativu.
- Da li će Srbija hteti da u ovom sledi Evropu? Videćemo. Najbitnije je da je ova oblast vrlo aktivna. Ona je važna tema za razne aktere kod nas, od vlasti do kompanija. Nije uopšte reč o temi koja zanima nekoliko tehnoloških gikova i postoji jasna svest kod velikog broja ljudi da je to nešto bitno. Zato su to, imajući u vidu kako se mi inače ponašamo, daleko bolje okolnosti nego za većini drugih pitanja – navodi Bubnjević.
Globalna perspektiva i izazovi u regulaciji AI
Da bi oblast AI bila zaista regulisana do kraja, propise bi trebalo da donesu najveće svetske sile u tech industriji – pre svega Sjedinjene Američke Države i Kina. Da tu postoje dodatne opasnosti upozorava i naš sagovornik Vladimir Đukanović, filozof, investitor i preduzetnik u IT industriji.
- Ne mislim da je donošenje ovog zakona revolucionarno, jer je problem što ostale velike sile i zemlje nista nisu uradile po tom pitanju. To može da im da ozbiljnu prednost ako nisu ograničene regulativom – smatra Đukanović.
- Tu je Kina ozbiljan konkurent, jer su najdalje otišli sa implementacijom AI sistema u samo društvo. Kao komunistička diktatura oni nemaju zakone koji ih ograničavaju, niti civilni sektor koji moze da ukaže na probleme ljudskih prava. Ovakvi zakoni bi morali da budu globalno usaglašeni, jer ako samo određen broj implementira, a drugi ne, doći će do decenijskih raskoraka u razvoju. Ali mala je nada sa geopolitičkom situacijom u kojoj smo danas. Evropske firme neće moći da rade data mining kao ostale zemlje, jer neće bez sudske dozvole moći da koriste rezultate AI pretraga. Video nadzor i prepoznavanja lica je tu bitna stavka, a u Kini je to sada standard - kaže Đukanović
On ne veruje da će biti ugroženo poslovanje celih kompanija, ali svakako da će one one koje se bave ovim oblastima biti ograničene u tome šta mogu da rade.
Đukanović ne veruje da će novi zakon doneti velike potrese na srpskom IT tržištu.
- Nismo mi igrači u AI da bi taj zakon imao bitan uticaj na IT sektor – kaže on.
Dodaje i da već postoji tim koji razmatra kako da se kao država postavimo prema ovom aktu, kao i da su određeni softveri već zabranjeni, uglavnom oni koji imaju veze sa privatnošću građana.
Ni Bubnjević ne veruje da će donošenje evropskog AI zakona dramatično uticati na domaće tržište. Ne smatra da će stroža pravila u Evropi naterati predstavništva američkih ili kineskih kompanija da svoje operacije presele u Srbiju, a kako kaže, to ne bi ni bilo dobro za nas.
- Nisam siguran da je najbolji scenario za nas da budemo utočište za poslovanje koje je nezakonito u EU. Na kraju krajeva, naš IT sektor svoje proizvode prodaje u Evropi, prilagođava se evropskim pravilima i ne verujem da bi se našim kompanijama svideo dolazak igrača koji to zaobilaze – objašnjava Bubnjević. – Generalno, kao i svaki zakon, ovaj akt EU će uticati na tržište. No, teško da će izazvati potres uporediv sa samom pojavom platformi kao što je bio ChatGPT.
Naš sagovornik navodi da bi najveći igrači na sceni mogli da ponude rešenja koja bi bila usaglašena za novim zakonom, da se razvijaju AI modeli koji tokom treninga ne bi povređivali autorska prava ili bi bar nadoknađivali tu vrstu zaloupotrebe i koji bi imali ograničenja u pogledu „kontrole izbora“ i bili dovoljno transparentni. Evropsko tržište je, dodaje, u diskusijama možda potcenjeno, ali u globalnim igrama niko sebi ne može da priušti da ga ignoriše.
- Zato će se kompanije prilagoditi. Na kraju krajeva, ova vrsta regulative će biti usvojena i u drugim zemljama pre ili kasnije – najavljuje Bubnjević.
A znak da će kompanije morati da preispitaju svoje poslovanje jeste i upit koji je Evropska komisija poslala kompanijama vlasnicama online platformi i predraživača Bing, Facebook, Google Search, Instagram, Snapchat, TikTok, YouTube i X, da se izjasne o tome šta čine kako bi sprečili rizike koji nastaju korišćenje generative AI. Posebno naglašavaju brigu zbog tzv. halucinacija četbotova, koji korisnicima daju netačne odgovore i informacije. Rok za izjašnjavanje je peti april za set pitanja koji se tiču uticaja na izborne procese, a 24. april za ostale upite.
Kako se bliže i evropski i američki izbori, ovo pitanje manipulacije voljom građana je posebno osetljivo i zabrinjavajuće.
- U rizičnim grupama ovog zakona je AI koji se odnosi na kritične infrastrukture, bezbednost i zdravlje ljudi, a u poslednju grupu, sa neprihvatljivim rizikom spadaju softveri koji mogu da menjaju i utiču na slobodnu volju građana Evrope. Nažalost, implementacija ove ideje mogla bi biti izazov jer je teško prepoznati granicu gde naoko sasvim bezazleni softveri, na primer aplikacije na društvenim mrežama, direktno utiču na izbore korisnika – kaže Bubnjević. - Kroz takozvano "prilagođavanje" sadržaja koji se korisniku nudi, čime se bave brojni AI softveri za takozvanu kastumizaciju sadržaja, od Netfliksa do administrativnih programa, korisnik nema uvid u sve mogućnosti, pa je njegov izbor bez daljnjeg sužen. Tako je čuvena afera sa Kembridž analitikom imala uticaj na američke izbore i na referendum u Velikoj Britaniji. Takođe, mnogi AI softveri svoju tržištnu vrednost baziraju na okolnosti da korisnik ne zna da razgovara sa mašinom, a novi zakon tu vrstu netransparentnosti strogo zabranjuje i pitanje je koliko će kompanije pokušati da to zaobiđu.