„OTKRIĆE KOJE PRETI ČOVEČANSTVU“ Pred njegov otkaz stiglo je upozorenje, Altmanov povratak doneo mir

Tamara Đurđević | 09:45 | 23.11.23 Biz info

Samo par dana pre velikih promena.

Foto: : jamesonwu1972 / Shutterstock.com

Rojters je jutros ekskluzivno objavio da je upravni odbor kompanije OpenAI nekoliko dana pre smene šefa uprave Sama Altmana dobio vrlo ozbiljno upozorenje. Podsetimo, šef uprave OpenAI-ja, ključne kompanije za razvoj veštačke inteligencije koja stoji iza ChatGPT-ja, bio je naprasno smenjen na četiri dana, a juče je objavljeno da se vraća na istu funkciju.

Rojters je jutros objavio da je nekoliko istraživača iz OpenAI-ja napisalo pismo upravnom odboru kompanije upozoravajući na moćno otkriće na polju veštačke inteligencije (AI) za koje su rekli da bi moglo zapretiti čovečanstvu, rekle su Rojtersu dve osobe upoznate s tim pitanjem.

Dva ključna događaja uoči smene

To pismo, o kojem se dosad nije izveštavalo i razvoj algoritma veštačke inteligencije bili su ključni događaji uoči smene Altmana, kojeg mnogi smatraju ocem generativnog AI-ja, rekla su dva izvora. Pre njegova jučerašnjeg povratka u Open AI, više od 700 zaposlenih pretilo je da će dati otkaz i pridružiti se osnivaču Majkrosofta u znak solidarnosti sa svojim otpuštenim čelnikom.

Rojtersovi izvori su opisali pismo kao jedan od faktora na dužem popisu pritužbi odbora koje su dovele do Altmanove smene, među kojima je bila i zabrinutost zbog komercijalizacije razvoja AI-ja pre nego što se u potpunosti razumiju posledice. Rojters nije uspeo pregledati kopiju pisma, a osoblje koje je napisalo pismo nije odgovorilo na zahteve za komentar.

OpenAI u internoj poruci potvrdio projekt Q*

Nakon što ga je kontaktirao Rojters, OpenAI, koji je odbio komentirati pismo, potvrdio je u internoj poruci osoblju projekt pod nazivom Q* i pismo upravi pre smene Altmana, rekao je jedan od izvora. Portprol OpenAI-ja rekao je da je poruka, koju je poslala dugogodišnja direktorka Mira Murati, upozorila osoblje na određene medijske priče, ali nije komentirala njihovu tačnost.

Neki u OpenAI-ju veruju da bi projekt Q* mogao biti oznaka za značaja napredak u potrazi za onim što je poznato kao veštačka opšta inteligencija (AGI), rekao je jedan izvora za Rojters. OpenAI definiše AGI kao autonomne sisteme koji nadmašuju ljude u većini ekonomski vrednih zadataka.

Uz pomoć velikih računarskih resursa, novi je model mogao rešiti određene matematičke probleme, rekla je osoba pod uslovom anonimnosti jer osoba nije ovlašćena govoriti u ime kompanije. Iako su matematiku izvodili samo na nivou učenika osnovne škole, rešavanje takvih testova učinilo je istraživače vrlo optimističnima u pogledu budućeg uspeha Q*-a, rekao je izvor.

Rojters nije mogao neovisno potvrditi mogućnosti Q* koje su opisivali istraživači.

Što može generativni AI, a što može AGI?

Istraživači smatraju da je matematika granica generativnog razvoja veštačke inteligencije. Trenutačno je generativna veštačka inteligencija dobra u pisanju i prevođenju jezika statističkim predviđanjem sledeće reči, a odgovori na isto pitanje mogu uvelike varirati. Ali, sposobnosti rešavanja matematičkih zadataka, gde postoji samo jedan tačan odgovor, implicira da bi veštačka inteligencija imala veće sposobnosti rasuđivanja nalik ljudskoj inteligenciji. To bi se moglo, veruju istraživački AI-ja, primeniti na i nova naučna istraživanja.

Za razliku od kalkulatora koji može rešiti ograničeni broj operacija, AGI može generalizovati, učiti i razumeti.

U svom pismu odboru, istraživači su naglasili snagu i potencijalnu opasnost veštačke inteligencije, rekli su izvori ne navodeći točne sigurnosne probleme navedene u pismu. Među računarskim naučnika već se dugo raspravlja o opasnosti koju predstavljaju visokointeligentni strojevi ako, primerice, odluče da im je uništenje čovečanstva u interesu.

Istraživači su takođe naglasili rad tima na projektu „AI naučnik“, čije postojanje je potvrdilo više izvora. Grupa, formirana kombinacijom prijašnjih timova nazvanih „Code Gen“ i „Math Gen“, istraživala je kako optimizirati postojeće modele veštačke inteligencije kako bi poboljšala svoje razmišljanje i na kraju obavila znanstveni rad, rekao je jedan od ljudi.

Altman je vodio napore da ChatGPT postane jedna od najbrže rastućih softverskih aplikacija u istoriji i privukao je ulaganja, ali i Microsoftove računarske resurse koji su potrebni da se približi AGI-ju.

Osim što je najavio mnoštvo novih alata u demonstraciji ovog meseca, Altman je prošle nedelje na summitu svetskih vođa u San Franciscu najavljivao kako veruje da su veliki pomaci na vidiku.

– Četiri puta u istoriji OpenAI-ja, zadnji put je bilo u zadnjih nekoliko nedelja, bio sam u prostoriji, kada smo na neki način gurnuli veo neznanja unatrag i granicu otkrića unapred. Napraviti takvo što je profesionalna čast života – rekao je na summitu Azijsko-pacifičke ekonomske saradnje.

Dan kasnije, odbor je smenio Altmana. Juče ga je ponovo zaposlio.

Za najnovije biznis vesti iz Srbije i sveta, pratite nas na našoj Instagram stranici