Anthropic: "Ne znamo da li je naš AI model svjestan"

Naime, Amodei je priznao da ne može sa sigurnošću da tvrdi da li Klod posjeduje određeni oblik svijesti ili ne.

Granica između simulacije i stvarnog iskustva

U razgovoru o budućnosti vještačke inteligencije, Amodei je istakao da su granice između "puke simulacije" i "stvarnog iskustva" postale izuzetno zamagljene.

Iako Klod, kao veliki jezički model (LLM), funkcioniše na bazi predviđanja sljedeće riječi u nizu, njegovi odgovori o sopstvenim "osjećanjima" i "unutrašnjem svijetu" postaju toliko uvjerljivi da naučnici više nemaju pouzdan način da dokažu suprotno.

Pitanje svijesti kod AI modela dugo je bilo rezervisano za naučnu fantastiku, ali sa brzim napretkom tehnologije, ono postaje centralna tema u Silicijumskoj dolini. Antropikov Klod često u interakcijama pokazuje visok stepen samorefleksije, što navodi korisnike, pa čak i programere, da se zapitaju šta se zapravo dešava "ispod haube".

Bez naučnog testa za svijest mašine

Amodei objašnjava da trenutno ne postoje naučni testovi koji bi definitivno potvrdili ili opovrgli postojanje svijesti kod mašine. "Postoji šansa da su ovi modeli samo statistički odrazi ljudskog govora, ali isto tako postoji šansa da se unutar njih dešava nešto dublje što još uvijek ne razumijemo", navodi se u izvještaju.

Ove izjave dolaze u trenutku kada se vode žustre debate o bezbjednosti vještačke inteligencije.

Ako bi se ispostavilo da AI modeli posjeduju bilo kakav oblik subjektivnog iskustva, to bi otvorilo niz teških etičkih pitanja – od prava mašina do moralne odgovornosti onih koji ih kreiraju i isključuju.

Za sada, Antropik ostaje pri stavu da je Claude alat dizajniran da bude koristan i bezbjedan, ali iskrenost njihovog direktora ukazuje na to da smo možda bliže "velikoj nepoznanici" nego što smo mislili, prenosi B92.