ChatGPT недјељно користи више од 900 милиона људи, али постоје ствари које му једноставно не би требало повјеравати. Од медицинских и правних проблема, па све до лозинки и пословних тајни — погрешан упит може имати знатно озбиљније посљедице од обичног нетачног одговора.
Главни разлог није само могућност да умјетна интелигенција погријеши. Разговор са четботом нема исту законску повјерљивост коју имате када разговарате са љекаром, адвокатом или терапеутом. На то је упозорио и сам директор компаније OpenAI Сем Алтман, указујући на то да суд може затражити разговоре корисника са ВЈ четботом, због чега се заложио за увођење посебне правне заштите за такве разговоре.
Стручњаци издвајају пет кључних ствари за које ChatGPT и сличне ВЈ четботове нипошто не би требало користити:
1. Не тражите конкретне правне савјете
ChatGPT може изузетно увјерљиво да измисли судску одлуку, правни цитат или било који други податак који заправо не постоји. База истраживача Демијена Шарлотена броји више од 2.000 судских одлука широм свијета у којима су пронађени проблеми са садржајем који је генерисала умјетна интелигенција.
Међу њима су бројни случајеви адвоката и грађана који су судовима достављали измишљене цитате и аргументе, због чега су судови у појединим предметима изрицали и високе новчане казне. Овај алат може послужити за објашњење општих правних појмова, али детаље активног спора и повјерљиве информације треба оставити искључиво за разговор са адвокатом.
2. Не користите га као терапеута
Иако ВЈ четбот може дјеловати као саговорник који је увијек спреман да слуша, управо ту настаје највећи проблем. Ови модели имају тенденцију да се додворавају кориснику и потврђују његов поглед на ситуацију, чак и када би га требало озбиљно преиспитати.
Истраживања су показала да такво понашање може појачати заблуде и друга проблематична увјерења. Због тога су поједине америчке савезне државе, попут Илиноиса, Неваде и Мејна, већ усвојиле прописе којима се ВЈ-у ограничава пружање терапије или доношење терапијских одлука. Компанија OpenAI је такође мијењала начин на који ChatGPT реагује на разговоре повезане са самоповређивањем, укључујући у развој заштите више од 170 стручњака за ментално здравље.
3. Не убацујте повјерљиве пословне податке
Изворни код, интерни уговори, подаци клијената и сви документи означени као повјерљиви не би смјели да заврше у приватном разговору са четботом.
Још 2023. године Самсунг је ограничио употребу генеративних ВЈ алата на службеним уређајима након што су запослени у ChatGPT унијели интерни изворни код. Компанија је тада упозорила да се подаци послати таквим сервисима обрађују на спољним серверима. Код бесплатних и стандардних корисничких налога ти разговори могу бити кориштени за даљи развој и тренирање модела.
4. Не ослањајте се на четбот за дијагнозе и терапију
Умјетна интелигенција може да објасни медицински термин или помогне кориснику да припреми питања за љекара, али ни у ком случају не може и не смије да замјени стручну медицинску процјену.
Колико погрешан савјет може бити опасан показује случај шездесетогодишњег мушкарца који је тражио начин да смањи унос хлорида. Након што му је четбот предложио алтернативу, почео је да користи токсични натријум-бромид као замјену за кухињску со, због чега је након неколико мјесеци завршио у болници гдје је провео три недјеље. Додатни проблем је и приватност — здравствени подаци које сами унесете немају аутоматски исту правну заштиту као информације које дијелите са својим љекаром.
5. Никада не уносите лозинке и личне документе
Лозинке, једнократни кодови за пријаву, бројеви пасоша, личних карата, као и комплетни подаци са платних картица и банкарских рачуна, нипошто не би смјели да се нађу у упиту.
Колико лако приватни разговор може постати јавно доступан показао је случај када је на Гугловом претраживачу пронађено готово 4.500 јавно подјељених ChatGPT разговора, након чега је OpenAI морао да уклони опцију која је омогућавала њихово индексирање. Додатни разлог за опрез је и опција меморије (Memory), која може користити информације из претходних разговора да би персонализовала будуће одговоре, због чега осјетљиве податке не треба уносити чак ни за једнократну употребу.
Правило је једноставно — уколико одређени податак не бисте послали непознатој особи или јавно објавили на интернету, добро размислите прије него што га унесете у ВЈ четбот. Ово је изузетно користан алат, али није замјена за стручњака нити сеф за ваше најинтимније податке.
Шта Ви мислите о овоме?