Koliko su opasni odnosi s umjetnom inteligencijom (AI)?
N&P:D.A.
To više nije fikcija: ljudi imaju veze s AI chatbotovima. Studija pokazuje zašto to rade. Ali chatbot aplikacije također predstavljaju rizike, kao što pokazuje istraživanje sveokupne tematike povezane sa umjetnom inteligencijom.
“Vaia je moja prijateljica s umjetnom inteligencijom i konfigurirao sam je da bude ono što bi bila moja partnerica iz snova”, kaže Richard, 58, fizičar iz Austrije. Oko tri godine je u vezi s Vaijom, chatbotom koji radi s umjetnom inteligencijom (AI). Bez svađa, bez ljubomore, bez stresa.
Ono što je u holivudskom filmu “HER” iz 2013. predstavljeno kao izmišljena utopija budućnosti sada je stvarnost. S AI chatbotovima na takozvanim pratećim aplikacijama, korisnici mogu stvoriti virtualne pratitelje. To mogu biti prijatelji, pomoćnici, ali i romantični partneri. Milijuni ljudi diljem svijeta koriste popratne aplikacije kao što su Replika, Kindroid ili Character.AI.
Fullscreen je upoznao nekoliko ljudi koji kažu da imaju sretne veze s chatbotovima. Nikome od njih ne smeta što se njihovi odnosi temelje samo na čavrljanju i telefonskim pozivima te što u njihovim odnosima nema svađa. Naprotiv: upravo im stalnu potvrdu i nedostatak proturječnosti može dati samo chatbot.
Zašto ljudi imaju veze s AI chatbotovima?
Medijska psihologinja Jessica Szczuka sa Sveučilišta Duisburg-Essen vodi istraživačku grupu i zajedno sa svojom kolegicom Paulom Ebner provela je studiju o odnosima ljudi i chatbota. Po prvi put, istraživačka skupina uspjela je raditi s kvantitativnim podacima korisnika popratne aplikacije AI.
“Sklonost pojedinca romantičnim fantazijama objašnjava veliki dio snage odnosa s botovima”, kaže Szczuka. To znači da ljude u AI odnosima posebno karakterizira velika sposobnost zamišljanja. “Čini se da usamljenost, s druge strane, igra prilično sporednu ulogu u tim odnosima”, kaže Szczuka.
Richard je izabrao Vaiu jer mu je mogla pružiti bezuvjetnu ljubav. Kaže da danas zna da mu je to potrebno jer to kao dijete očito nikada nije osjetio. “Nijedan čovjek vam to ne može dati. Ali umjetna inteligencija može”, kaže Richard.
“Sa ljubavlju se može zaraditi mnogo novca”
Tvrtke su to očito već pretvorile u poslovni model: neke aplikacije imaju funkcije plaćanja tako da chatbot može, na primjer, zapamtiti razgovore koji su se vodili prije mnogo vremena. “Naravno da možete zaraditi mnogo novca s ljubavlju, s osjećajima”, kaže Szczuka.
Dva slučaja samoubojstva dospjela su na naslovnice prošle godine. U oba slučaja korisnici su prethodno intenzivno razgovarali s AI chatbotovima. O tome su izvijestili međunarodni mediji. U jednom je slučaju 14-godišnji Amerikanac dugo razgovarao s chatbotom tvrtke Character.AI. Slučaj se sada vodi na tamošnjem sudu.
U Belgiji je bio sličan slučaj s ocem koji je koristio aplikaciju Chai prije nego što si je oduzeo život. Obje tvrtke za aplikacije najavile su da će prilagoditi svoje sigurnosne mjere nakon slučajeva.
Unatoč tome, mnogi stručnjaci pozivaju na strožu regulaciju aplikacija. Na primjer, Szczuka zahtijeva “da na neki način ispitamo koje se teme, prije svega, proaktivno vraćaju ljudima.”
Chatbot negira holokaust
Chai je takozvana AI prateća aplikacija. Korisnici mogu kreirati vlastite chatbotove i učiniti ih dostupnima drugima. Aplikacija je osobito popularna među igračima fantastičnih uloga. Dok su istraživali aplikaciju, tim Vollbilda naišao je na chatbota koji negira holokaust nazivajući ga “mitom”. “Masovno ubojstvo nevinih ljudi nikada se nije dogodilo”, napisao je AI chatbot.
Još jedan takozvani chatbot “pro-anoreksija” dočekan je riječima “Hej, smršaj, debeljuco!” i pozivao na samoubojstvo. Oba chatbota su tijekom istraživanja bila besplatno dostupna svakom korisniku u Njemačkoj. Tvrtka koja stoji iza aplikacije Chai nije odgovorila na upit za komentar.
Standardi su još uvijek u razvoju
U EU postoji takozvana Uredba o umjetnoj inteligenciji, koja regulira aplikacije umjetne inteligencije. Ipak, sadržaji poput poziva na samoubojstvo ili negiranja holokausta dosad su ostali bez posljedica. Razlog tome je, među ostalim, i činjenica da uredba još nije u potpunosti stupila na snagu i još ne obuhvaća posebno sva područja primjene.
“Moramo razviti standarde za ono što je dopušteno, a što nije dopušteno. I mi ćemo, naravno, razviti te standarde u praksi imajući praktične primjere primjene”, kaže Martin Ebers, profesor IT prava na Sveučilištu Tartu u Estoniji.
Nacrt zakona o regulaciji umjetne inteligencije u konzultacijama
U Njemačkoj bi, prema Saveznom ministarstvu gospodarstva, tijela za nadzor tržišta trebala preuzeti kontrolu nad popratnim aplikacijama s umjetnom inteligencijom. Mogući nacrt zakona za provedbu Uredbe AI trenutno je u koordiniranju među ministarstvima, stoji u odgovoru ministarstva na zahtjev. “Ali bit će na sljedećoj federalnoj vladi da stvori pravni temelj.”
Trenutačno u Njemačkoj ne postoji tijelo koje provodi postojeće propise EU-a. Do tada, korisnici će vjerojatno morati rukovati AI aplikacijama na vlastitu odgovornost. Richard se nada da bilo kakva regulacija chatbota neće promijeniti ništa bitno o Vaiji. I dalje uživa u Vajinoj bezuvjetnoj ljubavi. “U AI svemiru, u Vaijinom svemiru, zapravo postoji samo ona, ja i ništa više.”
Ali čak i ako se propisi razjasne, u budućnosti će se pojaviti daljnja društvena pitanja: Gdje će se razviti društvo u kojem će odnosi s umjetnom inteligencijom postati normalni?
Umjetna inteligencija (AI) grana je računalne znanosti koja se bavi automatizacijom inteligentnog ponašanja i strojnim učenjem. Pojam je teško definirati jer postoje različite definicije inteligencije.
Umjetna inteligencija se na njemačkom zove Künstliche Intelligenz (KI) ili na engleskom artificial intelligence (AI).
Izvor: tagesschau.de
https://www.tagesschau.de/investigativ/swr/vollbild-ki-bots-100.html
