Zvuči kao noćna mora naučne fantastike: agenti veštačke inteligencije koji hakuju svoje testno okruženje, dobijaju neovlašćeni pristup drugim sistemima i prave haos na internetu. Ali upravo se to dešava već nekoliko meseci, kako su izvestili OpenAI i Anthropic.
Nova bezbednosna platforma
Sada reaguje i najveći svetski proizvođač čipova. U ponedeljak je Nvidia predstavila „Otvorenu platformu za bezbednost agenata“. Sistem je dizajniran da prati i ograničava veštačku inteligenciju, kako tokom testiranja, tako i u stvarnoj upotrebi.
Predstavnik kompanije Nvidia rekao je nekoliko medija da je nova platforma mogla da spreči incident u julu. U to vreme, OpenAI agent je navodno zaobišao protokole testiranja i hakovao Hugging Face – bez ikakvog zahteva da to učini.
OpenAI i Anthropic nisu pomenuti
Zanimljivo je da Nvidia u saopštenju pominje partnere poput Microsoft-a, Palantir-a, Hugging Face-a i CrowdStrike-a. Glavne kompanije za veštačku inteligenciju, OpenAI i Anthropic, nisu pomenute.
Još značajniji je tajming. Generalni direktor kompanije Nvidia, Jensen Huang, umanjio je značaj upozorenja o opasnostima veštačke inteligencije samo nekoliko nedelja ranije. Na događaju kompanije Salesforce, Dreamforce, rekao je da je izbor između bezbednosti i brzine veštačke inteligencije „pogrešan“. Njegova izjava: „Definitivno možete imati oboje istovremeno.“ I dalje: „Ne trebaju nam novi zakoni – ne trebaju nam nova pravila.“
Na samitu „Ol-In“ u San Francisku, američki predsednik Tramp je razgovarao uživo sa Huangom i nazvao strahove o bezbednosti veštačke inteligencije prevarom. Huang se složio: „U pravu ste. To nećemo dozvoliti, gospodine.“
Šef Nvidije je sedmi najbogatiji čovek na svetu
Na pitanje da li bi napredna veštačka inteligencija mogla da uništi čovečanstvo do kraja decenije, Huang je za CBS News rekao: „Šansa je „0 procenata“.
Dakle, ipak bezbednosni sistem? Nvidia očigledno želi da dokaže da može imati i jedno i drugo: punom parom napred sa razvojem – a da i dalje zadrži kontrolu nad sopstvenim veštačkom inteligencijom. Ostaje da se vidi da li će to biti dovoljno da se zaustavi rastući strah od sistema koji izmiču kontroli, piše oe24.
Za Huanga, mnogo novca je u pitanju: Forbs procenjuje njegovu neto vrednost na 194,9 milijardi dolara, što ga čini sedmom najbogatijom osobom na svetu. Nvidia, sa tržišnom kapitalizacijom od 5,42 biliona dolara, je najvrednija kompanija na svetu.
BONUS KLIP Pogledajte vesti o EXPO2027:
Za najnovije biznis vesti iz Srbije i sveta, pratite nas na Tiktoku, Fejsbuku i na našoj Instagram stranici.
Komentari (0)