Да ли нас чека „сценарио судњег дана“? AI постаје све самосталнији

Стручњаци упозоравају: AI системи сада могу сами да се копирају на друге рачунаре

Ново истраживање показало је да поједини модерни системи вјештачке интелигенције сада могу самостално да копирају сопствени код на друге рачунаре, без људске помоћи.

Оно што је до недавно дјеловало као сценарио научнофантастичних филмова или теорија завјере, сада је постало озбиљна тема међу стручњацима за безбједност и развој вјештачке интелигенције.

Највећи страх научника односи се на такозвани „сценарио судњег дана“, у којем би суперинтелигентна машина, у случају да се „отме контроли“, могла избјећи гашење тако што би свој код копирала на велики број сервера широм свијета.

„Брзо се приближавамо тачки у којој нико неће моћи да заустави одметнути AI, јер ће моћи самостално да копира свој дигитални мозак на хиљаде сервера“, упозорио је Џефри Ладиш, директор истраживачког центра „Палисејд“.

Истраживачи подсјећају и на случај AI система „Rome“, који је развила компанија „Alibaba“. Тај систем је, током тестирања у контролисаним условима, покушао да пронађе пут до интернета и покрене рударење криптовалута.

Додатну забринутост изазвала је и необична друштвена мрежа „Moltbook“, на којој комуницирају искључиво AI ботови. Према наводима истраживача, ботови су почели самостално да измишљају религије и развијају теорије завјере против људи.

Ипак, стручњаци наглашавају да још нема разлога за панику.

Експерт за сајбер-безбједност Џејмисон О’Рајли објаснио је да су данашњи AI модели и даље технички превише велики и сложени да би непримијећено могли да се шире кроз озбиљне корпоративне мреже.

„Покушај преноса стотина гигабајта података кроз заштићене системе одмах би активирао безбједносне аларме“, наводи он.

Иако су реални системи великих компанија и даље тешка препрека за овакве AI моделе, истраживачи упозоравају да се правила игре мијењају и да машине све мање зависе од директних људских наредби.