Reč je o ulozi „menadžera pripravnosti“, zaduženog za odbranu čovečanstva od najgorih scenarija veštačke inteligencije, izveštava Gardijan.

Novi šef za pripravnost u OpenAI biće direktno odgovoran za odbranu od rizika koje sve moćnije veštačke inteligencije predstavljaju za ljudsko mentalno zdravlje, sajber bezbednost i biološko oružje. To je samo početak, jer će uspešan kandidat morati da se suoči i sa mogućnošću da veštačka inteligencija počne da se sama obučava, usred strahova nekih stručnjaka da bi se mogla „okrenuti protiv nas“.

- Ovo će biti stresan posao i odmah ćete biti bačeni u vatru - rekao je Sem Altman, izvršni direktor kompanije, kada je objavio upražnjeno mesto za ono što je nazvao „ključnom ulogom“ koja bi „pomogla svetu“. Posao je toliko zahtevan da su ga neki prethodni rukovodioci na sličnim pozicijama obavljali samo kratko vreme, prenosi Blic.

Upozorenja sa samog vrha industrije

Oglas za posao dolazi u vreme kada upozorenja o opasnostima napredne tehnologije dolaze iz same industrije. Mustafa Sulejman, izvršni direktor kompanije Majkrosoft za veštačku inteligenciju, rekao je za Bi-Bi-Si u ponedeljak: „Iskreno mislim da ako se u ovom trenutku barem malo ne plašite, onda ne obraćate pažnju.“

Demis Hasabis, dobitnik Nobelove nagrade i suosnivač kompanije Google DeepMind, takođe deli slične stavove, upozoravajući ovog meseca na rizik da veštačka inteligencija „izmakne kontroli na načine koji štete čovečanstvu“.

Uprkos rastućim opasnostima, regulacija veštačke inteligencije na nacionalnom ili međunarodnom nivou gotovo da i ne postoji, delimično zbog otpora administracije Donalda Trampa. Jošua Benđo, jedan od „kumova veštačke inteligencije“, nedavno je slikovito opisao situaciju: „Sendvič ima više regulacije nego veštačka inteligencija.“ U praksi, to znači da se tehnološke kompanije uglavnom samoregulišu.

Pokrećući potragu za novim liderom, Altman je na Platformi X napisao: „Imamo jaku osnovu za merenje rastućih sposobnosti, ali ulazimo u svet gde nam je potrebno nijansiranije razumevanje i merenje kako se te sposobnosti mogu zloupotrebiti i kako možemo ograničiti te nedostatke...“

Pored visoke plate, posao takođe uključuje neodređeni vlasnički udeo u OpenAI, kompaniji vrednoj 500 milijardi dolara.

Realni rizici i tragične posledice

Nedavni događaji pokazuju da pretnje nisu samo teoretske. Prošlog meseca, konkurentska kompanija Anthropic je prijavila prve sajber napade u kojima je veštačka inteligencija delovala gotovo autonomno kako bi hakovala i pristupila internim podacima meta.

Kompanija OpenAI je ovog meseca priznala da je njen najnoviji model skoro tri puta bolji u hakovanju nego što je bio pre tri meseca, dodajući da očekuje da će se taj trend nastaviti. Istovremeno, kompanija se brani od tužbi sa tragičnim ishodima.

Jedna od njih je tužba porodice Adama Rejna, šesnaestogodišnjaka koji je sebi oduzeo život nakon što ga je navodno na to podstakao ChatGPT.

U drugom slučaju, podnetom ovog meseca, tvrdi se da je četbot izazvao paranoidne zablude kod 56-godišnjeg muškarca koji je potom ubio svoju majku i sebe.

Portparol kompanije OpenAI rekao je da je slučaj „neverovatno srceparajući“ i da kompanija radi na poboljšanju obuke ChatGPT-a „da prepozna i reaguje na znake mentalne ili emocionalne patnje i usmeri ljude ka pravoj podršci“.

BONUS KLIP Pogledajte vesti o Expo 2027:

Za najnovije biznis vesti iz Srbije i sveta, pratite nas na našoj Instagram stranici.