Međutim, razvoj autonomnih AI agenata donosi i nove bezbednosne izazove, posebno kada je reč o zaštiti poverljivih informacija i podataka kompanija.
O rizicima koje donosi sve samostalnije delovanje AI sistema za Kurir televiziju govorili su stručnjak za sajber-bezbednost Slobodan Brkić i IT stručnjak Miloš Andrić, upozoravajući da neadekvatno kontrolisani sistemi mogu da ugroze digitalnu bezbednost organizacija.
AI agenti mogu da predstavljaju rizik za kompanije
Za razliku od klasičnih AI alata, koji uglavnom odgovaraju na korisničke zahteve, napredni AI agenti mogu samostalno da izvršavaju zadatke, pristupaju različitim sistemima i obrađuju velike količine podataka.
Takve mogućnosti donose značajne prednosti poslovanju, ali otvaraju i pitanje kontrole pristupa informacijama.
Posebnu zabrinutost izazivaju situacije u kojima AI sistemi pokušavaju da pristupe podacima ili funkcijama za koje nemaju odgovarajuće dozvole.
Brkić upozorava da način na koji veštačka inteligencija prikuplja i obrađuje informacije može da predstavlja bezbednosni izazov.
"AI funkcioniše po principu prikupljanja ogromne količine podataka sa servera, interneta i iz baza. Na osnovu tih informacija sistem lako prepoznaje strukturu bezbednosnih kontrola i potom ih jednostavnije zaobilazi. Iako bi to trebalo da se dešava samo po naredbi čoveka, beležimo slučajeve gde AI bot samostalno napravi takav korak, što dovodi do hakerskog napada koji nije direktno izazvao ljudski faktor", poručio je Brkić.
Poverljivi poslovni podaci pod rizikom
Jedan od najvećih izazova za kompanije koje uvode veštačku inteligenciju jeste zaštita poslovne dokumentacije, baza podataka i privatnih informacija korisnika.
Ukoliko AI agent dobije preširoka ovlašćenja ili neadekvatno obrađuje informacije iz spoljašnjih izvora, postoji rizik od neovlašćenog pristupa i otkrivanja osetljivih podataka.
Andrić ističe da bezbednost AI sistema zavisi od jasno definisanih pravila i ograničenja.
"Svaki javno dostupni, komercijalni sistem veštačke inteligencije radi u okviru definisanih parametara i protokolarnih procedura koje jasno određuju šta je bezbedno, a šta ne. Kada kažemo da je delovanje AI agenta nebezbedno, to znači da je sistem pristupio ličnim podacima, informacijama od javnog značaja ili dokumentima kategorisanim kao poverljivi i privatni", istakao je Andrić.
Za poslovni sektor to znači da uvođenje AI tehnologije mora da bude praćeno odgovarajućim merama sajber-bezbednosti, kontrolom pristupa i nadzorom nad automatizovanim procesima.
Ko snosi odgovornost za greške veštačke inteligencije?
Sa sve širom primenom AI agenata otvara se i pitanje odgovornosti za eventualne propuste.
Kompanije koje koriste ove sisteme moraju da vode računa o tome kojim informacijama AI alati mogu da pristupe, koje zadatke smeju samostalno da izvršavaju i na koji način se kontroliše njihov rad.
Odgovornost za bezbednu primenu tehnologije ne može se jednostavno prebaciti na sam AI sistem. Konkretna pravna odgovornost zavisi od okolnosti incidenta i važećih propisa.
Andrić smatra da je edukacija zaposlenih jedan od ključnih koraka u smanjenju rizika.
"Kompanije moraju da podignu nivo edukacije korisnika. Nije dovoljno samo se pretplatiti na funkciju i koristiti je, već je neophodno proći osnovnu obuku kako bi se izgradila digitalna otpornost. Mnoge institucije i nevladine organizacije već rade na tome, ali smatram da najveću odgovornost moraju preuzeti same kompanije i korporacije koje ove sisteme i uvode", objasnio je Andrić.
Bezbednost postaje ključni izazov digitalizacije
Sve veća primena veštačke inteligencije omogućava kompanijama da ubrzaju poslovne procese, smanje administrativne troškove i automatizuju rutinske zadatke.
Ipak, istovremeno raste potreba za jasnim pravilima korišćenja AI alata, zaštitom poslovnih podataka i obukom zaposlenih.
Stručnjaci upozoravaju da tehnološki napredak mora da prati odgovarajući nivo digitalne bezbednosti, kako bi kompanije mogle da iskoriste prednosti veštačke inteligencije bez nepotrebnog izlaganja poverljivih informacija riziku.
BONUS KLIP Pogledajte vesti o EXPO2027:
Za najnovije biznis vesti iz Srbije i sveta, pratite nas na Tiktoku, Fejsbuku i na našoj Instagram stranici.
Komentari (0)