Google zaposleni probali da spriječe Bard lansiranje zbog netačnih informacija

Deset mjeseci kasnije slične sumnje su prijavljene u kompaniji Microsoft, gdje su zaposleni napisali i predali nekoliko dokumenata u kojima se navodi da bi četbotovi mogli da budu korišćeni za ogroman broj dezinformacija u Facebook grupama, degradiranju kritičkog mišljenja i erodiranju principa modernog društva koji se baziraju na činjenicama.

Kompanije su, uprkos ozbiljnim zabrinutostima unutar samih kompanija, ipak objavile svoje četbotove. Microsoft je bio prvi, kada je u februaru otkrio A.I. četbot koji je implementira u Bing, a Google je šest nedjelja kasnije predstavio Bard, svoj četbot.

Prema izvještaju "NYT", dvoje zaposlenih u Google, koji su radili sa Džen Genai, direktorkom Google grupe za odgovorne inovacije, preporučili su blokiranje javnog lansiranja Bard četbota u svojoj procjeni rizika. Oni su smatrali da uprkos zaštitnim mjerama, četbot nije spreman za javnost, ali da je Genai izmjenila dokument kako bi uklonila ove zabrinutosti i samim tim umanjila rizike korišćenja Bard četbota.

Genai je rekla izjavila za Business Insider da je "dodala listu potencijalnih rizika od recenzenata i eskalirala rezultujuću analizu" komitetu koji se sastoji od starijih produkt menadžera, istraživača i vođa biznis timova, koji su utvrdili da može da se krene naprijed sa ograničenim eksperimentalnim lansiranjem. Ona je takođe rekla da nije posao recenzenata da razmatraju da li proizvod treba da nastavi dalje.

Posljednjih mjeseci, svijet tehnologije je ubacio u petu brzinu, i svako ko nema neki oblik vještačke inteligencije u svojim proizvodima je u zaostatku. Trka je izgleda podstaknuta objavljivanjem i viralnom popularnošću OpenAI ChatGPT-ja, ali brzina razvoja drugih rješenja je ono što je problematično kod drugih kompanija.

Iznenađujući uspjeh ChatGPT-ja doveo je do toga da Microsoft i Google pristanu na veće rizike, kada su u pitanju etičke smjernice koje su postavljene kako bi se osiguralo da njihova tehnologija ne izaziva društvene probleme.

Hitnost kreiranja proizvoda koji koriste vještačku inteligenciju je kristalizovana u internom mejlu koji je prošlog mjeseca poslao Sem Šilas, izvršni direktor tehnologije u kompaniji Microsoft. On je u mejlu, napisao da je bila “apsolutno fatalna greška u ovom trenutku brinuti se o stvarima koje se kasnije mogu popraviti". Kada se dođe u situaciju da se tehnološka industrija iznenada pomjeri ka novoj vrsti tehnologije, prva kompanija koja je predstavila proizvod “je dugoročni pobjednik samo zato što je prva počela, a razlike se ponekad mjere nedjeljama.”

U martu je nekoliko kompanija koje se bave razvojem veštačke inteligencije na čelu sa istaknutim ličnostima kao što su Ilon Mask i Stiv Vozniak, potpisalo otvoreno pismo pozivajući na šestomjesečnu pauzu u naprednom razvoju vještačke inteligencije. U pismu se navodi da su kompanije sa vještačkom inteligencijom upale u trku van kontrole i navode ozbiljne rizike koje ova napredna tehnologija može da donese za društvo.

Sa druge strane regulatori različitih zemalja već prijete da će intervenisati. Evropska unija je predložila zakon za regulisanje vještačke inteligencije, a Italija je prošle nedjelje privremeno zabranila ChatGPT.

Istraživači kažu da Microsoft i Google preuzimaju rizik objavljivanjem tehnologije koju čak ni njeni programeri ne razumiju u potpunosti. Međutim, kompanije izjavljuju da su ograničile obim onoga što njihovi četbotovi mogu i da su izgradile sofisticirane sisteme za filtriranje kako bi izbacili govor mržnje i sadržaj koji bi mogao da izazove očiglednu štetu.

Google je predstavio Bard četbota nakon godina internog neslaganja oko toga da li prednosti generativne vještačke inteligencije nadmašuju rizike koje ona donosi. Google je 2020. godine najavio Meena, sličnog četbota, ali se tada smatralo da je taj sistem previše rizičan za puštanje, prenosi "Benchmark"