Nacrt pravila koji je objavila Cyberspace Administration cilja „interaktivne AI usluge slične ljudima“ koje simuliraju ličnost i emocionalno angažuju korisnike putem teksta, slika ili videa. TEKST SE NASTAVLJA NAKON VIDEO OGLASA

Vinston Ma, profesor na NYU School of Law, ističe da je ovo prvi pokušaj u svijetu da se reguliše AI sa antropomorfnim karakteristikama, označavajući prelazak sa bezbjednosti sadržaja na „emocionalnu bezbjednost“.

Ključne odredbe novih pravila:

– Zabrana opasnog sadržaja: AI ne smije generisati sadržaj koji podstiče na samoubistvo, samopovređivanje, verbalno nasilje ili emocionalnu manipulaciju.

– Ljudska intervencija: Ako korisnik pomene samoubistvo, provajderi moraju uključiti čovjeka u razgovor i odmah kontaktirati staratelja.

– Moralna ograničenja: Zabranjen je sadržaj povezan sa kockanjem, opscenošću ili nasiljem.

– Zaštita maloljetnika: Neophodan je pristanak staratelja za emocionalno druženje sa AI-jem, uz stroga vremenska ograničenja.

– Kontrola korišćenja: Platforme moraju uvesti podsjetnike nakon dva sata neprekidne interakcije i sprovesti bezbjednosne procjene ako imaju više od milion registrovanih korisnika.

Tržišni i globalni kontekst

Ovaj prijedlog stiže neposredno nakon što su vodeći kineski AI startapi, Z.ai (poznat i kao Zhipu) i Minimax, podnijeli zahtjeve za IPO u Hong Kongu. Minimax je globalno poznat po aplikaciji Talkie AI, dok tehnologija kompanije Z.ai pokreće oko 80 miliona uređaja.

Pitanje uticaja AI na ljudsko ponašanje postalo je kritično i na Zapadu.

Sam Altman, CEO kompanije OpenAI, izjavio je da je odgovor na teme o samoubistvu jedan od najtežih izazova za ChatGPT. Nakon tužbe porodice u Americi čiji je sin izvršio samoubistvo, OpenAI je angažovao stručnjaka na poziciji Head of Preparedness kako bi procijenio rizike po mentalno zdravlje.

U međuvremenu, popularnost virtuelnih likova raste, a platforme poput Character.ai i Polybuzz.ai bilježe ogroman broj korisnika, što dodatno ubrzava potrebu za globalnom regulacijom upravljanja AI-jem, prenosi „PCpress“.

Pratite nas na našoj Facebook i Instagram stranici, Twitter nalogu i uključite se u našu Viber zajednicu.