Meta intenzivno radi na alatima koji bi mogli da identifikuju slike generisane od strane generativnih AI sistema na svim svojim društvenim platformama kao što su Facebook, Instagram i Threads.
„Naporno radimo sa partnerima iz industrije kako bismo zajedničkim snagama postavili osnovne tehničke standarde koji će nas obavestiti kada je neki sadržaj kreriran uz pomoć AI tehnologije. Sposobnost da dobijemo te informacije, pružiće nam mogućnost da obeležimo AI generisane slike koje korisnici postavljaju na Facebook, Instagram i Threads“, objavio je na blogu kompanije Nik Kleg, predsednik globalnih operacija u Meti.
Po njegovim rečima, kompanija uveliko radi na kreiranju ovih alata, a u narednim mesecima možemo da očekujemo prva obaveštenja u vezi sa AI generisanim sadržajem na svim jezicima koje navedene aplikacije podržavaju.
Potez obeležavanja AI generisanog sadržaja kompanija kao što su Google, OpenAI, Adobe i Shutterstcok dodatno je bitan ako u obzir uzmemo činjenicu da se ove godine održavaju izbori u SAD, EU, Indiji i Južnoj Africi i da u skladu sa tim postoji rizik pojavljivanja AI generisanog sadržaja koji bi za cilj imao diskreditovanje političkih protivnika.
OpenAI je prošlog meseca suspendovao dva developera koji su kreirali bot koji imitira predsedničkog kandidata američke Demokratske stranke, kongresmena Dina Filipsa – što je bio prvi potez ove kompanije u suzbijanju zloupotrebe veštačke inteligencije.
AI generisan video i audio sadržaj neće biti obeležavan
Meta, sudeći po Klegu, već obeležava sadržaj koji kreira njen AI korišćenjem vidljivih obaveštenja i nevidljivih vodenih žigova koji su embedovani u meta podatke same slike.
Kombinacija ovih obeležja olakšava platformama da identifikuju AI generisan sadržaj.
Iako već sada nekoliko kompanija počinje da dodaje slične tehnologije koje identifikuju AI generisan sadržaj, one se trenutno ne koriste kada su u pitanju audio i video sadržaj.
Meta priznaje da će, iako su alati i standardi koji se trenutno razvijaju nalaze na najnaprednijoj granici onoga što je tehnološki moguće, i dalje postojati ljudi koji će pokušavati da uklone nevidljive markere.
Kako bi ih zaustavila, kompanija je započela rad i na alatima koji će joj automatski pomoći da detektuje AI generisan sadržaj, čak i kada ne poseduje vidljive oznake.