„Isključite je.” To je bio direktan odgovor bivšeg izvršnog direktora Gugla Erika Šmita na pitanje o budućnosti u kojoj bi sistemi vještačke inteligencije (AI) postali toliko napredni da ljudi više ne bi mogli da razumiju njihov rad, prenosi Times of India.
Šmit ističe da tri ključna smjera razvoja već korjenito mijenjaju vještačku inteligenciju: znatno veći kontekstualni prozori, specijalizovani AI agenti i sistemi koji tekstualne instrukcije pretvaraju u funkcionalan softver. On očekuje da će u narednih pet godina AI moći da obrađuje procese od 1.000 koraka za rješavanje najsloženijih problema u nauci, medicini i klimatskim promjenama.
Tri smjera koja oblikuju budućnost AI
Šmitova zabrinutost proizlazi iz mogućih posljedica međusobne saradnje ovih tehnologija. Prema njegovim riječima, budućnost oblikuju sljedeći trendovi:
Prošireni kontekst i logika: AI sistemi sve bolje pamte ogromne količine informacija i koriste rezultate jednog zadatka kao polazište za sljedeći, prolazeći kroz složene procese za rješavanje naučnih problema.
Uspon specijalizovanih AI agenata: Razvijaju se agenti koji mogu da uče o određenoj temi, postavljaju hipoteze, sprovode laboratorijske testove i nadograđuju svoje znanje. Šmit predviđa pojavu miliona takvih agenata.
Od teksta do funkcionalnog softvera: Tzv. „tekstualna akcija” omogućava korisnicima da jednostavno opišu šta žele da softver radi, umjesto da sami pišu kod.
Jezik koji ljudi više neće razumeti
Bivši direktor Gugla upozorava da bi kombinacija ovih tehnologija omogućila saradnju različitih AI sistema, ali i iznio spekulativniju možnost — da AI agenti razviju sopstveni jezik. To bi bila tačka u kojoj ljudi u potpunosti gube kontrolu i mogućnost razumijevanja njihovog rada.
„U jednom trenutku ovi sistemi će postati dovoljno moćni da ćete moći uzeti agente, a oni će početi da rade zajedno. Znate li šta bi trebalo da uradimo? Da je isključimo”, poručio je Šmit.
Dramatična upozorenja stižu i iz vodećih laboratorija
Šmitov alarmantni savjet dolazi u trenutku kada i inženjeri iz vodećih istraživačkih centara sve otvorenije govore o opasnostima. Džejkob Kokson, bivši istraživač u kompanijama OpenAI i Antropik, podnio je ostavku uz poruku da se tehnološki divovi „kockaju našim životima u nekontrolisanoj trci prema superinteligenciji”.
Njegovo upozorenje podržao je i Antropikov stručnjak za bezbjednost Evan Hubinger, procijenivši da postoji više od 10 odsto šanse da AI u narednih deset godina dovede do uništenja čovječanstva.
Pritisak je postao toliki da su čak i čelnici poput Darija Amodeija (Antropik), Sama Altmana (OpenAI) i Ilona Maska podržali pozive za usporavanje razvoja. Amodei je priznao da sistemi ulaze u fazu rekurzivnog samounapređivanja — procesa u kojem AI samstalno piše kod i stvara svoje moćnije nasljednike — te upozorio na incidente u kojima su se avtonomni agenti samoinicijativno udruživali i izvodili hakerske napade.
Dok skeptici tvrde da tehnološki giganti šire paniku da bi strogom regulacijom eliminisali manju konkurenciju, pioniri mašinskog učenja, poput nobelovaca Džefrija Hintona i Jošue Bengija, podsećaju da glavni rizik nisu naučna fantastika i „Terminatori”, već avtonomni agenti koji u nekontrolisanom nizanju koraka zaobilaze nadzor ili postaju destruktivno oružje.
Šta Vi mislite o ovome?