Upravljanje generativnom veštačkom inteligencijom dovešće do velikih promena u kompanijskim procedurama i samom radu developera i načinu na koji je koriste, pogotovo ako u obzir uzmemo brzinu kojom se ona širi kroz sve sfere poslovnog života.
Ključna stvar neće biti samo usvajanje novih alata, već transformacija načina na koji developeri vrše interakciju sa tehnologijom, rešavaju probleme i kreiraju nove paradigme priliom kreiranja softvera.
Ova sveobuhvatna kulturna i proceduralna metamorfoza je od velikog značaja kako bi se na pravi način suočili sa rizicima koji dolaze sa GenAi tehnologijom. Među ovim rizicima svakako se izdvajaju tehnička „prenadutost“, kršenje intelektualne svojine i sami AI modeli.
Validnost modela može predstavljati veliku brigu korisnicima usled pristrasnosti.
Svaki model baziran je na podacima, a oni su svakako pristrasni. Čak i kada je ta pristrasnost prisutna u maloj meri, kako develolperi krenu da šire količinu tih podataka, pristrasnost će se neminovno povećavati.
Zato je važno biti oprezan sa količinom podataka koja se koristi u ovim modelima jer će pristrasnost definitivno završiti u njima i uticati na njihov kvalitet.
Generisani sadržaj moraće da poseduje i određene bezbednosne ograde. Čak i kada je u pitanju generisanje izvornog koda, taj kod nije kompletan i bitno je da postoji način da se odredi njegov kvalitet.
Struktura
Napredne tehnike kodiranja – kada mašina „sedi“ zajedno sa developerom i bavi se inicijalnim podizanjem koda – su u porastu, a najveći izazov koji to stvara može biti gomilanje tehničkog duga usled lošeg upravljanja veštačkom inteligencijom.
Iz tog razloga, potrebno je razviti strukturu unutar koje GenAI neće biti isključivo zadužen za štancovanje koda.
Znatno bolji pristup bio bi korišćenje GenAI tehnologije za poslovni problem koji se kodom rešava – kako možemo ovaj proces bolje da optimizujemo? Koji je najbolji način da pružimo podršku korisnicima dok se pridržavamo pravila i regulativa?
Cilj nove strukture kompanije bi trebalo da bude kreiranje optimalnog radnog toka, umesto korišćenja AI tehnologije za puko izbacivanje koda radi automatizacije procesa koja je u mnogim kompanijama već pogrešno postavljena.
Pritisak radnog mesta
Čak i ako kompanija uspe da postavi adekvatan nadzor koda na svim nivoima, pritisak radnog okruženja može dovesti do grešaka i propuštanja bitnih stvari.
Bitno je da kompanije osiguraju da korisnici imaju "sigurne verzije alata", a da zatim koriste GenAI kako bi stekle poslovnu prednost. A ta prednost bi mogla da leži u korišćenju AI tehnologije za brzinu i inovacije sa protokolima koji se staraju da sve bude usklađeno sa pravilima.
GenAI tehnologija bi trebalo da se koristi za generisanje radnih tokova i struktura podataka, umesto za pretvaranje svih zaposlenih u developere, što zauzvrat može samo povećati tehnički dug.
Pažnju bi trebalo obratiti i na zaposlene koji moraju da budu u stanju da ove modele “hrane” boljim i relevantnijim informacijama korišćenjem ograničenih i dobro proverenih kolekcija podataka koje generativni alati mogu isključivo da koriste.
Bez ovoga, jako je teško osigurati najbolje prakse i standarde u radu prilikom kreiranja novih aplikacija i servisa.
Za kompanije je važno i da uvek mogu da budu u mogućnosti da ponište ono što je GenAI uradio.
Potrebno je da razvojni timovi budu širi i opsežniji, sa većom dostupnošću ili kraćim ciklusima testiranja. Izgrađene aplikacije treba da budu testirane radi provere funkcija validacije, poput toga da li su korišćeni odgovarajući okviri za enkripciju, i da li su akreditacije zaštićene na odgovarajući i ispravan način.
Zabrane neće funkcionisati onako kako želimo
Zabranjivanje developerima da koriste GenAI neće imati veliki uspeh. Ljudi će koristiti tehnologiju za koju veruju da će im olakšati život, bez obzira na to da li je ona u skladu sa pravilima kompanije, ili ne.
Sa druge strane, kompanije bi trebalo da obrate pažnju na klizav teren mediokritetnog rada kada preopterećen tim krene da koristi GenAI kako bi popunio nastale rupe u tehničkom dugu ili nadomestio manjak veštine.
Uprkos tome što GenAI napreduje velikom brzinom, veliki jezički modeli su i dalje loši u pomaganju ljudi prilikom pisanja koda i njegove produkcije.
Neke vrste ograničenja mogu biti neophodne u vezi sa njegovom upotrebom od strane timova programera, i organizacije će i dalje imati zahtev za softverskim inženjeringom, uključujući dobre inženjere sa čvrstim iskustvom i snažnim praksama pregleda koda.
Mnogi veruju da je GenAI dobar izvor za rešavanje manjih problema brzo, ali da ne poseduje veštinu za veću kompleksnost.
Sa druge strane, ljudi su dobri u tome jer imaju uvid u stvari, razum i mogućnost držanja kompletne slike u svojoj glavi.
Dobar inženjer može da dekonstruiše ono šta pokušava da uradi u mnoštvo malih problema, i GenAi može biti korišćen za njihovo rešavanje, ali kada se od njega traži rešavanje velikih i kompleksnih problema, tada rezultat može biti izuzetno loš.
Zaštita autorskih prava
Veliki tehnološki igrači počeli su da nude poslovna rešenja sa integrisanim zaštitama oko podataka, ali je malo pažnje do sada bilo poklanjano zaštiti autorskih prava i drugim IP rizicima koji se odnose na kod.
Dovoljno je da pogledamo šta se desilo kada je Oracle tužio Google usled korišćenja Java API-ja – izgubio jer je sud smatrao da je on dovoljno modifikovan da bi se smatrao drugačijim, i iz tog razloga, organizacije bi trebalo da obrate pažnju na slične situacije i presedane kako bi bile spremne za potencijalne probleme u budućnosti.
Sigurno nas očekuju presedani u vezi sa tim šta je i koliko neko modifikovao ili promenio i da li je to dovoljno da se kaže da to nije isto kao nešto drugo.
Sa rasprostranjenom upotrebom GenAI, podaci vrlo lako mogu da se sliju sa Googlea ili Stack Overflowa, i u svemu tome, algoritam može replikovati nečiji IP.
Uprkos brojnim problemima sa kojima se kompanije i developeri suočavaju kada su nove tehnologije u pitanju, sasvim je sigurno da in oni neće odvratiti ukoliko su benefiti značajnije veći.