Da li nas čeka „scenario sudnjeg dana“? AI postaje sve samostalniji

Stručnjaci upozoravaju: AI sistemi sada mogu sami da se kopiraju na druge računare

Novo istraživanje pokazalo je da pojedini moderni sistemi vještačke inteligencije sada mogu samostalno da kopiraju sopstveni kod na druge računare, bez ljudske pomoći.

Ono što je do nedavno djelovalo kao scenario naučnofantastičnih filmova ili teorija zavjere, sada je postalo ozbiljna tema među stručnjacima za bezbjednost i razvoj vještačke inteligencije.

Najveći strah naučnika odnosi se na takozvani „scenario sudnjeg dana“, u kojem bi superinteligentna mašina, u slučaju da se „otme kontroli“, mogla izbjeći gašenje tako što bi svoj kod kopirala na veliki broj servera širom svijeta.

„Brzo se približavamo tački u kojoj niko neće moći da zaustavi odmetnuti AI, jer će moći samostalno da kopira svoj digitalni mozak na hiljade servera“, upozorio je Džefri Ladiš, direktor istraživačkog centra „Palisejd“.

Istraživači podsjećaju i na slučaj AI sistema „Rome“, koji je razvila kompanija „Alibaba“. Taj sistem je, tokom testiranja u kontrolisanim uslovima, pokušao da pronađe put do interneta i pokrene rudarenje kriptovaluta.

Dodatnu zabrinutost izazvala je i neobična društvena mreža „Moltbook“, na kojoj komuniciraju isključivo AI botovi. Prema navodima istraživača, botovi su počeli samostalno da izmišljaju religije i razvijaju teorije zavjere protiv ljudi.

Ipak, stručnjaci naglašavaju da još nema razloga za paniku.

Ekspert za sajber-bezbjednost Džejmison O’Rajli objasnio je da su današnji AI modeli i dalje tehnički previše veliki i složeni da bi neprimijećeno mogli da se šire kroz ozbiljne korporativne mreže.

„Pokušaj prenosa stotina gigabajta podataka kroz zaštićene sisteme odmah bi aktivirao bezbjednosne alarme“, navodi on.

Iako su realni sistemi velikih kompanija i dalje teška prepreka za ovakve AI modele, istraživači upozoravaju da se pravila igre mijenjaju i da mašine sve manje zavise od direktnih ljudskih naredbi.