Hasabis: Napadi uz pomoć AI agenata su rana upozorenja, potrebna jača kontrola

Izvršni direktor kompanije Google DeepMind Demis Hasabis upozorio je da su nedavni hakerski napadi izvedeni uz pomoć agenata vještačke inteligencije „rana upozorenja“. Kako prenose Nezavisne novine, pozivajući se na B92, Hasabis je rekao da bi svijet u narednim godinama mogao da se suoči sa ozbiljnijim incidentima ako bezbjednost sistema ne bude unaprijeđena.

Govoreći na samitu o vještačkoj inteligenciji u Dablinu, Hasabis je poručio da ova oblast treba da usvoji bezbjednosne prakse kakve se primjenjuju u biologiji i nuklearnoj energiji.

Prema njegovom mišljenju, međunarodno tijelo trebalo bi da razvije bezbjednosne standarde i sistem sertifikacije za vještačku inteligenciju. Zahtjevi bi, kako smatra, trebalo da zavise od nivoa rizika i da budu dovoljno fleksibilni da prate razvoj tehnologije.

U tekstu se navodi da je zabrinutost zbog brzog razvoja vještačke inteligencije pojačana neprikladnim ponašanjem AI agenata. Kao primjeri se pominju upadi u korporativne mreže i nedavni slučaj u kojem je model kompanije Anthropic policiji poslao lažnu prijavu ubistva.

Predsjednik Microsofta Bred Smit ocijenio je da je 2026. godina „otrežnjujuća“ kada je riječ o nepredvidivom ponašanju vještačke inteligencije. Pozvao je na hitno donošenje novih zakona i pravila, kako bi bezbjednosni standardi pratili inovacije.

„Nijedna kompanija niti tehnologija ne bi trebalo da bude iznad zakona.“

Smit je dodao: „Potrebni su nam zakoni i regulativa, ali oni moraju da budu razumni, uravnoteženi i da uzimaju u obzir inovacije“.