Veštačka inteligencija je počela da halucinira i to ne valja nimalo

Stanko Stamenković | 15:34 | 30.06.24 Biz Lifestyle

Ukoliko izvore informacija čine AI halucinacije, onda su to i krajnji rezultati.

Foto: Shutterstock

Novi izveštaj Forbsa otkriva da je Perplexity, neobična alatka veštačke inteligencije (AI) za pretragu, zaglavljena u plagijatima i tajnim optužbama sa veba, citira neželjenu poštu lošeg kvaliteta koju generiše veštačka inteligencija sa nejasnih blogova i loše obaveštenih izvora.

Forbsov izveštaj je u velikoj meri zasnovan na dubokom istraživanju Perplexityja, koje je sproveo GPTZero, startap specijalizovan za otkrivanje sadržaja generisanog veštačkom inteligencijom. U blogu objavljenom ranije ovog meseca, izvršni direktor GPTZero Edvard Tian je primetio da je „povećan broj izvora povezanih sa Perplexity koji je i sam generisan od strane AI“. Kada je potom ispitano kako Perplexity dobija te informacije, otkriveno je da, u nekim slučajevima, Perplexity čak isporučuje zastarele i netačne informacije iz AI-generisanih izvora, piše B92.

Drugim rečima, to je zatvorena petlja dezinformacija upravljana veštačkom inteligencijom, u kojoj greške i izmišljotine veštačke inteligencije pronalaze put do odgovora Perplexity AI-ja. A za startap koji tvrdi da „donosi revoluciju u način na koji otkrivate informacije“ nudeći „precizno znanje“ kroz „ažurne“ informacije iz „pouzdanih izvora“, ovo predstavlja lošu sliku.

– Perplexity je dobar onoliko koliko su dobri njegovi izvori – rekao je Tian za Forbs. „Ako su izvori AI halucinacije, onda je i rezultat“.

Ukoliko ste oprezni sa alatima za AI detekciju, to je potpuno fer. Ali izvori koje nidi Perplexity i slične platforme, koje su Tian i Forbs naveli kao loše informacije zasnovane na veštačkoj inteligenciji, imaju znakove degeneracije veštačke inteligencije.

Iz Perplexityja kažu da je kompanija za pretragu AI-ja razvila svoje „sopstvene interne algoritme za otkrivanje da li je sadržaj generisan veštačkom inteligencijom“, ali da „ovi sistemi nisu savršeni i da ih je potrebno stalno usavršavati, posebno zato što su AI generisani sadržaj postaje sofisticiraniji“.

Za najnovije biznis vesti iz Srbije i sveta, pratite nas na našoj Instagram stranici.