ChatGPT nedjeljno koristi više od 900 miliona ljudi, ali postoje stvari koje mu jednostavno ne bi trebalo povjeravati. Od medicinskih i pravnih problema, pa sve do lozinki i poslovnih tajni — pogrešan upit može imati znatno ozbiljnije posljedice od običnog netačnog odgovora.
Glavni razlog nije samo mogućnost da umjetna inteligencija pogriješi. Razgovor sa četbotom nema istu zakonsku povjerljivost koju imate kada razgovarate sa ljekarom, advokatom ili terapeutom. Na to je upozorio i sam direktor kompanije OpenAI Sem Altman, ukazujući na to da sud može zatražiti razgovore korisnika sa VJ četbotom, zbog čega se založio za uvođenje posebne pravne zaštite za takve razgovore.
Stručnjaci izdvajaju pet ključnih stvari za koje ChatGPT i slične VJ četbotove nipošto ne bi trebalo koristiti:
1. Ne tražite konkretne pravne savjete
ChatGPT može izuzetno uvjerljivo da izmisli sudsku odluku, pravni citat ili bilo koji drugi podatak koji zapravo ne postoji. Baza istraživača Demijena Šarlotena broji više od 2.000 sudskih odluka širom svijeta u kojima su pronađeni problemi sa sadržajem koji je generisala umjetna inteligencija.
Među njima su brojni slučajevi advokata i građana koji su sudovima dostavljali izmišljene citate i argumente, zbog čega su sudovi u pojedinim predmetima izricali i visoke novčane kazne. Ovaj alat može poslužiti za objašnjenje opštih pravnih pojmova, ali detalje aktivnog spora i povjerljive informacije treba ostaviti isključivo za razgovor sa advokatom.
2. Ne koristite ga kao terapeuta
Iako VJ četbot može djelovati kao sagovornik koji je uvijek spreman da sluša, upravo tu nastaje najveći problem. Ovi modeli imaju tendenciju da se dodvoravaju korisniku i potvrđuju njegov pogled na situaciju, čak i kada bi ga trebalo ozbiljno preispitati.
Istraživanja su pokazala da takvo ponašanje može pojačati zablude i druga problematična uvjerenja. Zbog toga su pojedine američke savezne države, poput Ilinoisa, Nevade i Mejna, već usvojile propise kojima se VJ-u ograničava pružanje terapije ili donošenje terapijskih odluka. Kompanija OpenAI je takođe mijenjala način na koji ChatGPT reaguje na razgovore povezane sa samopovređivanjem, uključujući u razvoj zaštite više od 170 stručnjaka za mentalno zdravlje.
3. Ne ubacujte povjerljive poslovne podatke
Izvorni kod, interni ugovori, podaci klijenata i svi dokumenti označeni kao povjerljivi ne bi smjeli da završe u privatnom razgovoru sa četbotom.
Još 2023. godine Samsung je ograničio upotrebu generativnih VJ alata na službenim uređajima nakon što su zaposleni u ChatGPT unijeli interni izvorni kod. Kompanija je tada upozorila da se podaci poslati takvim servisima obrađuju na spoljnim serverima. Kod besplatnih i standardnih korisničkih naloga ti razgovori mogu biti korišteni za dalji razvoj i treniranje modela.
4. Ne oslanjajte se na četbot za dijagnoze i terapiju
Umjetna inteligencija može da objasni medicinski termin ili pomogne korisniku da pripremi pitanja za ljekara, ali ni u kom slučaju ne može i ne smije da zamjeni stručnu medicinsku procjenu.
Koliko pogrešan savjet može biti opasan pokazuje slučaj šezdesetogodišnjeg muškarca koji je tražio način da smanji unos hlorida. Nakon što mu je četbot predložio alternativu, počeo je da koristi toksični natrijum-bromid kao zamjenu za kuhinjsku so, zbog čega je nakon nekoliko mjeseci završio u bolnici gdje je proveo tri nedjelje. Dodatni problem je i privatnost — zdravstveni podaci koje sami unesete nemaju automatski istu pravnu zaštitu kao informacije koje dijelite sa svojim ljekarom.
5. Nikada ne unosite lozinke i lične dokumente
Lozinke, jednokratni kodovi za prijavu, brojevi pasoša, ličnih karata, kao i kompletni podaci sa platnih kartica i bankarskih računa, nipošto ne bi smjeli da se nađu u upitu.
Koliko lako privatni razgovor može postati javno dostupan pokazao je slučaj kada je na Guglovom pretraživaču pronađeno gotovo 4.500 javno podjeljenih ChatGPT razgovora, nakon čega je OpenAI morao da ukloni opciju koja je omogućavala njihovo indeksiranje. Dodatni razlog za oprez je i opcija memorije (Memory), koja može koristiti informacije iz prethodnih razgovora da bi personalizovala buduće odgovore, zbog čega osjetljive podatke ne treba unositi čak ni za jednokratnu upotrebu.
Pravilo je jednostavno — ukoliko određeni podatak ne biste poslali nepoznatoj osobi ili javno objavili na internetu, dobro razmislite prije nego što ga unesete u VJ četbot. Ovo je izuzetno koristan alat, ali nije zamjena za stručnjaka niti sef za vaše najintimnije podatke.
Šta Vi mislite o ovome?