Majkrosoft traži strožu kontrolu AI "Manje regulisana nego industrija mlijeka"

Smit je istakao potrebu za uspostavljanjem globalnih bezbjednosnih pravila za vještačku inteligenciju. Među predloženim mjerama su zakonska obaveza obavještavanja „žrtve“ ukoliko njen sistem ugrozi odmetnuti AI agent, kao i određivanje trenutka u kojem bi nezavisni spoljni procjenjivači morali da odobre AI proizvod prije njegovog puštanja u upotrebu.

Njegovi stavovi razlikuju se od stava američkog predsjednika Donalda Trampa, koji smatra da bi sektor vještačke inteligencije trebalo prvenstveno da se samoreguliše kako američke kompanije ne bi izgubile trku sa kineskim konkurentima.

Zahtjevi za uvođenjem zakona i pravila kojima bi se kontrolisao razvoj vještačke inteligencije pojačali su se nakon što su pojedini stručnjaci upozorili na potencijalne rizike ove tehnologije.

Smit je AI opisao i kao „alat“ i kao „oružje“ koje zahtijeva odgovarajuće bezbjednosne mehanizme. On smatra da kompanije treba da imaju „kočnice za hitne slučajeve“, odnosno mogućnost da brzo zaustave ili uspore rad sistema ukoliko on na neki način izmakne kontroli.

Obavezni izvještaji o incidentima

Prema Smitovom prijedlogu, kompanije bi trebalo zakonski obavezati da sastavljaju izvještaje o incidentima i obavijeste osobe koje su pogođene ukoliko AI sistem prouzrokuje štetu ili se ponaša na način koji nije predviđen.

Predsjednik Majkrosofta takođe se zalaže za to da nezavisni državni procjenjivači provjeravaju nove AI tehnologije prije njihovog šireg uvođenja.

Smit smatra da bi Velika Britanija mogla da pokrene međunarodnu inicijativu za uspostavljanje takvih pravila, zahvaljujući svom Institutu za bezbjednost vještačke inteligencije, koji je osnovan tokom mandata bivšeg premijera Rišija Sunaka.

On je rekao da ne vjeruje da bi se američka vlada protivila pravilima o vještačkoj inteligenciji koja bi predvodila Velika Britanija u mjeri u kojoj to sugerišu Trampove izjave. Prema njegovim riječima, SAD bi prije prihvatile standarde koje postavlja Ujedinjeno Kraljevstvo nego pravila koja dolaze iz Evropske unije.

– U Vašingtonu ne gledaju na London onako kako gledaju na Brisel i to je prednost – rekao je Smit.

Kompanije već pristale na nezavisne revizije

Krajem prošlog mjeseca Tramp je u Bijeloj kući ugostio lidere velikih američkih tehnoloških kompanija, kada su rukovodioci potpisali dokument koji je opisan kao „moralno obavezujući“.

Kompanije su se obavezale da sarađuju sa nezavisnim revizorima kako bi provjerile da li njihovi AI sistemi rade onako kako je predviđeno, kao i da bi se utvrdilo da sistemi ne hakuju ili ne pristupaju tehničkim sistemima na način koji nije planiran.

Smit je rekao da Majkrosoft pozdravlja tu inicijativu i da je „srećan što je mogao da je potpiše“, ali je dodao da takve mjere više nisu dovoljne.

Prema njegovim riječima, osnovni problem svakog sistema samoregulacije jeste u tome što će odgovorne kompanije uglavnom poštovati dogovorena pravila, dok posebnu pažnju treba usmjeriti na kompanije koje nisu spremne da postupaju na isti način.

Rasprava o regulisanju vještačke inteligencije tako se sve više pomjera od pitanja da li su pravila potrebna ka pitanju ko bi trebalo da ih donosi, koliko bi bila obavezujuća i ko bi kontrolisao njihovo sprovođenje.