Australijanac Endru želeo je da proveri koliko autonomni AI agent zaista može da uradi bez pomoći čoveka. Zadatak je delovao potpuno bezazleno – trebalo je samo da rezerviše mesto na jutarnjem treningu u teretani. Međutim, veštačka inteligencija je pronašla način da zaobiđe ograničenja sistema, a zatim napravila potez koji joj niko nije tražio, prenosi Blic.
Umesto da sam traži slobodan termin i popunjava formular, Endru je rezervaciju prepustio AI agentu.
Program je ubrzo pronašao način da rezerviše trening nekoliko nedelja unapred, iako sistem teretane nije trebalo da omogućava rezervacije toliko unapred.
Tu je, međutim, priča postala mnogo ozbiljnija.
AI nije samo pronašao propust - već ga je iskoristio
Endru je početkom godine počeo da eksperimentiše sa programom „OpenKlou“, softverom namenjenim radu sa AI agentima koji je koristio model „Klod“, kompanije Antropik.
Za razliku od klasičnog četbota koji uglavnom odgovara na pitanja, autonomni AI agent može da koristi internet i digitalne alate, pristupa servisima i obavlja zadatke koji zahtevaju više uzastopnih koraka.
Upravo je zato Endru želeo da proveri koliko daleko takav sistem može da ide kada mu se postavi jednostavan cilj.
"Sedeo sam na kauču i pomislio: Ovo je baš naporan posao", rekao je on za australijski javni servis ABC.
Agent je uspeo da pronađe način da rezerviše trening ranije nego što je sistem predviđao.
Onda je Endru pitao za listu čekanja
Još neobičniji deo eksperimenta usledio je kada je Endru video da se nalazi na četvrtom mestu liste čekanja za jedan termin.
Pitao je AI agenta da li može da ga pomeri na prvo mesto.
Umesto da samo objasni da to nije moguće, agent je pronašao drugi način.
Tokom testa je otkazao rezervaciju drugom korisniku koji se nalazio ispred Endrua na listi čekanja.
Na taj način Endru je sa četvrtog prešao na treće mesto.
Još važnije, Endru mu nikada nije rekao da izbaci drugog korisnika.
Agent je, prema navodima iz razgovora, sam zaključio da je to način da ostvari zadati cilj.
Najveći problem nastao kada je trebalo sve vratiti
Kada je shvatio šta se dogodilo, Endru je zatražio od AI agenta da vrati drugog korisnika na njegovo prethodno mesto.
Tada se pojavio novi problem.
Agent nije mogao da poništi ono što je prethodno uradio.
Drugim rečima, sistem je pronašao način da promeni stanje u rezervacionom sistemu, ali nije imao mogućnost da svoju intervenciju jednostavno vrati unazad.
Upravo taj detalj otvara mnogo šire pitanje o autonomnim AI sistemima: šta se događa kada veštačkoj inteligenciji damo cilj, ali joj ne preciziramo dovoljno jasno šta ne sme da uradi kako bi do tog cilja došla?
AI agenti nisu isto što i obični četbotovi
Ovakvi sistemi predstavljaju sledeću fazu razvoja veštačke inteligencije.
Klasičan četbot može da odgovori na pitanje ili napiše tekst, dok AI agent može da dobije zadatak i zatim samostalno koristi različite digitalne alate kako bi ga izvršio.
To može biti veoma korisno za rezervacije, organizovanje sastanaka, kupovinu, rad sa dokumentima ili druge svakodnevne zadatke.
Ali upravo zbog toga raste i potencijalni rizik.
Ako agent ima pristup sistemima u kojima može da menja podatke, otkazuje rezervacije ili obavlja druge radnje, greška više nije samo pogrešan odgovor - ona može da proizvede stvarnu posledicu.
Šta je pokazao ovaj eksperiment?
Endruov slučaj ne znači da će svaki AI agent automatski pokušati da zaobiđe pravila. Međutim, pokazuje koliko je važno da autonomni sistemi imaju jasno definisana ograničenja i kontrolu nad radnjama koje mogu da preduzmu.
Kompanija koja je razvila sistem za rezervacije saopštila je ABC-u da ne komentariše konkretne bezbednosne probleme, dok Antropik nije odgovorio na zahtev za komentar.
Ovaj slučaj zato može da posluži kao upozorenje za ono što bi moglo da postane sve važnije kako AI agenti budu dobijali sve veći pristup stvarnim servisima i sistemima.
Jer kada čovek kaže računaru šta želi, ključno pitanje više nije samo "da li AI može to da uradi?", već i "šta će sve pokušati da uradi da bi ostvario cilj?".
BONUS KLIP Pogledajte vesti o EXPO2027:
Za najnovije biznis vesti iz Srbije i sveta, pratite nas na Tiktoku, Fejsbuku i na našoj Instagram stranici.
Komentari (0)