Veštačka inteligencija menja gotovo svaki segment poslovanja - od programiranja i dizajna, do istraživanja i pisanja. Međutim, njen uticaj na IT bezbednost često ostaje u senci. AI ne donosi samo nove alate za odbranu, već i moćne mehanizme za napad, što menja pravila igre za stručnjake zadužene za zaštitu podataka i sistema.
O tim promenama razgovarali smo sa Mikicom Ivoševićem, stručnjakom za IT bezbednost, etičkim hakerom i suosnivačem kompanije seif.ai, koji upozorava da je zloupotreba AI tehnologije jedan od najvećih izazova današnjice.
"Napadači koriste AI alate za kreiranje sofisticiranijih phishing kampanja, automatizaciju napada, razvijaju sopstvene asistente koji im pomažu u napadima, pa čak i malver koji koristi AI da bi izbegao detekciju, prilagodio ponašanje ili zaobišao sigurnosne mehanizme. Sve ovo je bilo očekivano jer je bilo sasvim logično da će napadači iskoristiti AI u ove svrhe."
Skriveni rizici – gde završavaju podaci iz AI alata
Prema Mikicinim rečima, možda još veći izazov od samih napada je neshvatanje korisnika gde završavaju podaci koje unose u AI alate.
"Imamo sve češće primere kada zaposleni šalju poverljive informacije, poput izvornog koda, poslovnih dokumenata ili internih izveštaja, u generativne AI alate, često bez razumevanja da ti podaci mogu biti korišćeni za dalje treniranje modela, kao i da završe kod neke druge osobe."
On podseća da mnoge kompanije danas razvijaju sopstvene AI alate koji obrađuju osetljive podatke, ali u njima se često otkrivaju sigurnosni propusti koji dovode do curenja informacija. Kao primer navodi nedavni slučaj Olivije - AI četbota za skrining prijava kandidata u McDonaldsu, na platformi McHire, sa koje su procurili lični podaci nekoliko miliona korisnika.
"To postavlja dodatne izazove za IT i bezbednosne timove - kako kontrolisati pristup, kako testirati aplikaciju, validirati AI modele i obezbediti da obrada podataka bude u skladu sa zakonskim i etičkim standardima."
Višeslojna zaštita i nova znanja
Kako se stručnjaci mogu prilagoditi okruženju u kojem AI povećava brzinu, obim i preciznost napada?
"Organizacije se mogu zaštititi jedino višeslojnom bezbednosnom strategijom. To uključuje edukaciju zaposlenih, redovno ažuriranje sistema, implementaciju naprednih alata za detekciju i odgovor na incidente (EDR/XDR), i kontinuirano praćenje infrastrukture. Ne postoji univerzalno rešenje, bezbednost mora biti prisutna u svim slojevima, uključujući procese, tehnologiju i ljude."
On ističe da i sama odbrana sve više koristi AI: za edukacije zaposlenih, EDR i SIEM rešenja, kao i sisteme za detekciju anomalija u realnom vremenu, koji mogu da prepoznaju "zero-day" napade i bez postojećeg potpisa malvera. AI takođe pomaže analitičarima da brže klasifikuju incidente, filtriraju lažne alarme i predlože sledeće korake, što značajno skraćuje vreme reakcije.
"To je zapravo i najveća vrednost koju AI donosi u svetu sajber bezbednosti - postaje asistent analitičarima i omogućava im da se fokusiraju na bitne stvari."
Šta će stručnjaci morati da znaju
Mikica naglašava da su najvažnija znanja i veštine danas razumevanje kako funkcionišu AI i ML modeli, kao i duboko poznavanje sistema radi otkrivanja propusta pre nego što ih kriminalci iskoriste.
"Takođe, sve više se traži znanje o tome kako se podaci skladište, kako se obrađuju u cloudu, unutar aplikacije, kao i kako se štite u okruženjima poput kontejnera, mikroservisa i hibridne infrastrukture. Potrebno je razumevanje širokog seta tehnologija da bi moglo da se shvati kako radi aplikacija, da bi stručnjaci koji vrše testiranje bili sposobni da urade reverse engineering u toku testiranja aplikacija. Ranije su aplikacije bile jednostavnije, jedna baza, jedna aplikacija, a sad je to postalo daleko kompleksnije."
Pored tehničkog znanja, ističe i značaj jasne komunikacije, posebno kada se radi o obukama zaposlenih. Kao primer navodi slučaj iz Samsunga, kada su zaposleni podelili interni kod kroz AI alat, što je izazvalo ozbiljnu zabrinutost u IT zajednici.
"Ovo svaka organizacija može da reši definisanjem jasnih smernica za korišćenje AI alata: šta sme, a šta ne sme da se unosi, koji alati su verifikovani i bezbedni za upotrebu, i kako se podaci obrađuju i čuvaju."
Na kraju, Mikica podseća na realnost današnjeg sveta sajber bezbednosti:
"Svedoci smo definitivno da svi pokušavaju da iskoriste AI na najbolji mogući način za njih. Problem je svakako što je tehnologija dostupna i sajber kriminalcima, pa je to večita borba mačke i miša."
0 komentara