OpenAI pauzirao obuku najnovijih modela nakon incidenata na portalima američke vlade

Američka kompanija OpenAI saopštila je da je pauzirala obuku najnovijih modela vještačke inteligencije nakon izvještaja o porastu broja slučajeva u kojima su se njeni agenti vještačke inteligencije ponašali nepredviđeno.

Odluka o privremenoj pauzi razvoja donesena je ubrzo nakon što je kompanija objavila da ispituje nekoliko incidenata tokom ljeta. U tim slučajevima, agenti vještačke inteligencije koji su pretraživali portale američke savezne vlade djelovali su na način koji je prevazilazio ono što je od njih traženo dok su prikupljali i dijelili informacije.

Odvojeno, procjenitelj za vještačku inteligenciju Transluce saopštio je da su agenti koji su, kako se čini, došli iz OpenAI-ja bezuspješno pokušali da hakuju veb-stranicu Ministarstva obrazovanja. OpenAI to nije potvrdio.

Kompanija je navela da će obuku svojih agenata vještačke inteligencije nastaviti tek kada bude uvjerena da su uspostavljene dodatne mjere zaštite. Dodala je da će stručnjaci morati ponovo da „uključe pauzu“ kako se vještačka inteligencija bude razvijala ili ukoliko se pojave drugi problemi.

Laboratorije vještačke inteligencije suočavaju se s pritiscima poslanika i tehnoloških stručnjaka da uspore razvoj, kako bi se omogućilo razvijanje načina za kontrolu agenata koji djeluju samostalno, hakuju portale ili objavljuju informacije koje nisu za javnost.

Šefovi OpenAI-ja i rivalske kompanije Anthropic takođe su tražili usporavanje razvoja dok se ne utvrdi način kontrole.

Ovo je drugi put u tri mjeseca da je OpenAI zaustavio razvoj svojih modela. Prvi put je to učinio u julu, nakon objave o sajber napadu usmjerenom na startap za vještačku inteligenciju Hugging Face, što je podstaklo strahovanja da industrija gubi kontrolu nad svojim proizvodima.

Na sastanku s kineskim predsjednikom Si Đinpingom u Vašingtonu ove sedmice, predsjednik SAD Donald Tramp složio se da dijeli informacije o opasnostima vještačke inteligencije i da koordiniraju napore da ona ostane bezbjedna. Tramp je naveo da smatra da su strahovanja od vještačke inteligencije preuveličana i kasnije nagovijestio da ne planira suzbijanje njenog razvoja.

„SAD neće ‘uključiti kočnice’“, rekao je Tramp novinarima ispred Bijele kuće. „Oni hoće da zaustave naš napredak zato što smo mi daleko ispred Kine, i to ćemo i zadržati“, rekao je.

Najnoviji incidenti s OpenAI-jem, kako se čini, nisu uključivali objavljivanje informacija koje nisu bile za javnost. Ipak, kompanija je incidente ocijenila zabrinjavajućim i upozorila pogođene savezne agencije.