Zbog straha od zloupotrebe: SAD pripremaju zakon za hitno isključivanje AI

Američki kongresmeni predložili zakon: Vlada bi mogla hitno da ugasi opasne AI sisteme

VAŠINGTON – Dvojica američkih kongresmena predložila su zakon kojim bi savezna vlada dobila ovlašćenje da naredi hitno gašenje sistema vještačke inteligencije ukoliko procijeni da predstavljaju ozbiljnu prijetnju po javnost.

Prijedlog zakona, nazvan AI Kill Switch Act, predstavili su demokrata Ted Liju i republikanac Natanijel Moran, nakon što je kompanija OpenAI saopštila da su njeni najnoviji modeli pokazali do sada nezabilježene sposobnosti, što je ponovo pokrenulo raspravu o bezbjednosti vještačke inteligencije, prenosi Buka.

Liju je poručio da napredni AI sistemi moraju imati mehanizam za hitno isključivanje.

„Savezna vlada mora imati jasna ovlašćenja i definisan postupak za gašenje modela koji se otrgnu kontroli“, istakao je on.

Njegov kolega Moran naglasio je da razvoj vještačke inteligencije treba nastaviti, ali uz odgovorno upravljanje i očuvanje ljudske kontrole nad tehnologijom.

Prema prijedlogu zakona, Ministarstvo unutrašnje bezbjednosti SAD moglo bi da naredi privatnim kompanijama obustavu rada određenog AI modela ili alata ako procjeni da predstavlja rizik.

Kompanije koje razvijaju napredne sisteme vještačke inteligencije bile bi obavezne da obezbijede tehničku mogućnost usporavanja, privremenog zaustavljanja ili potpunog isključivanja svojih modela.

Zakon predviđa i obavezu prijavljivanja tehnoloških incidenata i kvarova nadležnim institucijama, kao i jasan postupak reagovanja – od ograničenja rada sistema do njegovog potpunog gašenja.

Kao jedan od razloga za donošenje zakona, Liju je naveo i razvoj sve naprednijih AI modela koji mogu samostalno obavljati složene zadatke.

Prema njegovim riječima, vještačka inteligencija više nije ograničena samo na odgovaranje na pitanja, već može izvršavati finansijske transakcije, upravljati saobraćajnim sistemima, kao i učestvovati u sajber odbrani i sajber napadima.

Dodatnu zabrinutost izazvali su i modeli kompanije Anthropic, čije su napredne hakerske sposobnosti već privukle pažnju američkih institucija.

Suosnivač kompanije Anthropic Džek Klark ranije je upozorio da industrija vještačke inteligencije trenutno ima „papučicu gasa, ali nema kočnicu“, ističući potrebu za jasnijim državnim mehanizmima kontrole.

Iz kompanije OpenAI za sada nisu komentarisali predloženi zakon, ali su ranije saopštili da im je cilj da se vještačka inteligencija razvija na način koji će koristiti cijelom čovječanstvu.

Prijedlog zakona već je dobio podršku više organizacija koje se bave bezbjednošću i regulacijom vještačke inteligencije, a njegova sudbina sada zavisi od rasprave i glasanja u američkom Kongresu.