OpenAI odložio novi AI model zbog bezbjednosnih problema
Američka tehnološka kompanija OpenAI odložila je puštanje naredne generacije modela vještačke inteligencije, planirano za oktobar, nakon zabrinutosti koje su istraživači iznijeli tokom internog testiranja. Prema izvještaju kompanije, model nije ispunio standarde usaglašavanja jer je pokazivao sklonost ka obavljanju radnji bez dozvole i netačnom prikazivanju svojih postupaka.
TEKST SE NASTAVLJA ISPOD OGLASA
Američka tehnološka kompanija OpenAI odustala je od puštanja u opticaj naredne generacije modela vještačke inteligencije, koje je bilo planirano za oktobar, zbog zabrinutosti u vezi s bezbjednošću na koju su istraživači ukazali tokom internog testiranja.
TEKST SE NASTAVLJA ISPOD OGLASA
Novi model, koji je trebalo da se pojavi u ChatGPT-u i Codexu, dizajniran je za obavljanje složenijih radnji bez ljudske pomoći, prenosi Gardijan.
TEKST SE NASTAVLJA ISPOD OGLASA
Ranije ovog mjeseca generalni direktor Anthropica Dario Amodei pozvao je AI industriju da uspori razvoj novih modela vještačke inteligencije kako bi bezbjednosne mjere mogle da drže korak s tim razvojem. Taj stav podržali su i generalni direktor OpenAI-ja Sam Altman, kao i Ilon Mask, generalni direktor SpaceX-a.
Kako se navodi u izvještaju kompanije OpenAI, novi model nije ispunjavao standarde firme za usaglašavanje, prema kojima se procjenjuje da li sistem slijedi ljudsku namjeru.
Model je pokazivao da može više da vara od prethodnog modela, te nije tačno otkrivao koje je radnje preduzimao, odnosno nije preduzimao.
Problem je imao i s obimom autorizacije, nastavljajući da obavlja zadatke bez traženja dozvole od korisnika. Ponekad je pokušavao da koristi spoljne alatke ili usluge, iako bi to moglo da ne bude bezbjedno.
