Novi OpenAI program: Nagrade za sigurnosne propuste

OpenAI pokreće javni program nagrađivanja za sigurnosne greške usmjeren na identifikovanje načina na koje se njegovi alati vještačke inteligencije mogu zloupotrebiti.

Novi OpenAI program: Nagrade za sigurnosne propuste
FOTO: Depositphotos

Program će nadopuniti postojeći program nagrađivanja za greške ispitivanjem problema koji predstavljaju značajan rizik od zloupotrebe i sigurnosti, čak i ako ne ispunjavaju kriterijume za sigurnosnu ranjivost.

TEKST SE NASTAVLJA NAKON OGLASA

"Naš je cilj osigurati da naši sistemi ostanu sigurni i zaštićeni od zloupotrebe koja bi mogla dovesti do opipljive štete", rekao je OpenAI u objavi na blogu.

Još su naveli:

TEKST SE NASTAVLJA NAKON OGLASA

"Kroz ovaj program radujemo se nastavku saradnje s istraživačima sigurnosti i zaštite kako bismo identifikovali i riješili probleme koji ne spadaju u konvencionalne sigurnosne ranjivosti, ali i dalje predstavljaju stvarne rizike."

Da bi se kvalifikovali, problemi moraju predstavljati problem dizajna ili implementacije u aktivnom OpenAI proizvodu koji napadač može zloupotrebiti za nanošenje materijalne štete i moraju se moći riješiti jasnim skupom preporučenih koraka ili ublažavanja.

"Cilj ovog programa je nagraditi ispravke grešaka i ne možemo nagraditi zahtjeve za opšta poboljšanja proizvoda", rekla je kompanija.

Problemi moraju biti dosljedno reproducibilni, svi računi korišteni kao žrtve moraju biti testni računi u vlasništvu istraživača, a testiranje ranjivosti ne smije rizikovati oštećenje ili kompromitovanje bilo kojeg računa iz stvarnog svijeta, navodi "ITpro".

Pratite nas na našoj Facebook i Instagram stranici, Twitter nalogu i uključite se u našu Viber zajednicu.

SADRŽAJ SE NASTAVLJA NAKON OGLASA