Open AI stvorio novi tim: Procjenjuje rizike vještačke inteligencije
Kalifornijska kompanija Open AI objavila je da je stvorila novi tim koji će biti zadužen za bezbjednost modela vještačke inteligencije (AI) i garantovati da oni ne predstavljaju prijetnju za čovječanstvo.
TEKST SE NASTAVLJA ISPOD OGLASA
Tim stručnjaka nazvan "Pripravnost" će predvoditi profesor Tehnološkog instituta u Masačusetsu (MIT) Aleksandar Madri, navodi se na veb stranici kalifornijske firme za razvoj AI.
TEKST SE NASTAVLJA ISPOD OGLASA
Zadatak tima je da "prati, procjenjuje, predviđa i štiti od rizika" koji mogu da dovedu do globalne katastrofe zbog sve moćnijih modela vještačke inteligencije.
TEKST SE NASTAVLJA ISPOD OGLASA
Ovo je treći OpenAI tim koji će biti odgovoran za to da proizvodi kompanije budu u skladu sa bezbjednosnim standardima.
Tim "Sistemi bezbjednosti" je fokusiran na sprečavanje zloupotreba postojećih proizvoda kao što je ChatGPT, a tim "Superusklađivanje" razvija bezbjednosne standarde za buduće AI modele.











