OpenAI uvodi nevidljivi "vodeni žig" za tekst generisan vještačkom inteligencijom
OpenAI počinje da uvodi tehnologiju textGrain za nevidljivo označavanje tekstova generisanih vještačkom inteligencijom, u skladu sa zahtjevima evropskog Akta o vještačkoj inteligenciji. Sistem će najprije biti dostupan korisnicima OpenAI API-ja kao opcija, dok je u Evropskoj uniji planirana automatska primjena na odgovore ChatGPT-a i Codexa.
TEKST SE NASTAVLJA ISPOD OGLASA
OpenAI uvodi tehnologiju nazvanu textGrain, koja dodaje statistički signal u izbor riječi koje koristi model. Signal nije vidljiv ljudima, ali bi specijalizovani detektor naknadno mogao utvrditi da li je tekst generisao AI sistem.
TEKST SE NASTAVLJA ISPOD OGLASA
textGrain će najprije biti dostupan korisnicima OpenAI API-ja širom svijeta, kao opcija koju će morati ručno uključiti. U Evropskoj uniji kompanija planira da u narednim sedmicama automatski primjenjuje ovaj sistem na tekstualne odgovore koje generišu ChatGPT i Codex.
TEKST SE NASTAVLJA ISPOD OGLASA
Kompanija upozorava da tehnologija nije nepogrešiva. Prema internim testovima, detektor je prepoznavao vodeni žig u oko 80 odsto tekstova dužine 200 tokena, dok je kod tekstova od 400 tokena uspješnost u određenim oblastima dostizala oko 95 odsto.
Rezultati su znatno slabiji kod matematike i drugih sadržaja u kojima postoji manje slobode pri izboru riječi. Problem predstavlja i naknadno uređivanje teksta: u jednom testu zamjena samo 10 odsto riječi sinonimima smanjila je uspješnost detekcije sa 92 na 66 odsto, dok je zamjena četvrtine riječi rezultat spustila na 17 odsto.
OpenAI naglašava da vodeni žig ne može pokazati koliki je bio ljudski doprinos nastanku teksta, niti utvrđuje autorstvo, vlasništvo ili zakonitost sadržaja. Takođe, sistem ne povezuje tekst sa konkretnim korisnikom ili nalogom.
Kompanija planira da objavi i izvorni kod textGraina, kako bi istraživači i razvojna zajednica mogli dodatno da ga testiraju i unapređuju.
28° 11°
21° 15°
21° 14°
