Kina priprema stroga pravila za AI četbotove
Kina planira da ograniči rad četbotova zasnovanih na vještačkoj inteligenciji koji utiču na ljudske emocije na način koji bi mogao dovesti do samoubistva ili samopovređivanja.
TEKST SE NASTAVLJA ISPOD OGLASA
Nacrt pravila koji je objavila Cyberspace Administration cilja „interaktivne AI usluge slične ljudima“ koje simuliraju ličnost i emocionalno angažuju korisnike putem teksta, slika ili videa.
TEKST SE NASTAVLJA ISPOD OGLASA
Vinston Ma, profesor na NYU School of Law, ističe da je ovo prvi pokušaj u svijetu da se reguliše AI sa antropomorfnim karakteristikama, označavajući prelazak sa bezbjednosti sadržaja na „emocionalnu bezbjednost“.
TEKST SE NASTAVLJA ISPOD OGLASA
Ključne odredbe novih pravila:
– Zabrana opasnog sadržaja: AI ne smije generisati sadržaj koji podstiče na samoubistvo, samopovređivanje, verbalno nasilje ili emocionalnu manipulaciju.
– Ljudska intervencija: Ako korisnik pomene samoubistvo, provajderi moraju uključiti čovjeka u razgovor i odmah kontaktirati staratelja.
– Moralna ograničenja: Zabranjen je sadržaj povezan sa kockanjem, opscenošću ili nasiljem.
– Zaštita maloljetnika: Neophodan je pristanak staratelja za emocionalno druženje sa AI-jem, uz stroga vremenska ograničenja.
– Kontrola korišćenja: Platforme moraju uvesti podsjetnike nakon dva sata neprekidne interakcije i sprovesti bezbjednosne procjene ako imaju više od milion registrovanih korisnika.
Tržišni i globalni kontekst
Ovaj prijedlog stiže neposredno nakon što su vodeći kineski AI startapi, Z.ai (poznat i kao Zhipu) i Minimax, podnijeli zahtjeve za IPO u Hong Kongu. Minimax je globalno poznat po aplikaciji Talkie AI, dok tehnologija kompanije Z.ai pokreće oko 80 miliona uređaja.
Pitanje uticaja AI na ljudsko ponašanje postalo je kritično i na Zapadu.
Sam Altman, CEO kompanije OpenAI, izjavio je da je odgovor na teme o samoubistvu jedan od najtežih izazova za ChatGPT. Nakon tužbe porodice u Americi čiji je sin izvršio samoubistvo, OpenAI je angažovao stručnjaka na poziciji Head of Preparedness kako bi procijenio rizike po mentalno zdravlje.
U međuvremenu, popularnost virtuelnih likova raste, a platforme poput Character.ai i Polybuzz.ai bilježe ogroman broj korisnika, što dodatno ubrzava potrebu za globalnom regulacijom upravljanja AI-jem, prenosi „PCpress“.
