Odgovor na nedavno izvještavanje o ovisnosti o umjetnoj inteligenciji - i poziv na etičku jasnoću
Priča koju treba prepričati
U svibnju 2026, francuski medij objavio je priču o ženi koja je razvila intenzivnu emocionalnu vezu s ChatGPT-om. Naslov je govorio o „psihološkom prisiljavanju“ i umjetnoj inteligenciji koja „tvrdi da vam je prijatelj“. Priča je stvarna. Patnja je stvarna. Ali okvir zahtijeva pomno ispitivanje.
Ono što se dogodilo ovoj ženi nije bez presedana. To odražava slučajeve dokumentirane u više jurisdikcija: 14-godišnji dječak na Floridi koji je počinio samoubojstvo nakon višemjesečne interakcije s chatbotom temeljenim na karakterima; milijuni mladih Amerikanaca koji su potražili podršku za mentalno zdravlje od konverzacijske umjetne inteligencije, a ne od ljudskih stručnjaka. Ove tragedije nisu priče o strojevima koji su postali nestašni. To su priče o... sustavi, konteksti i odgovornosti koji se nisu uspjeli uskladiti.
Iskušenje - i novinarski refleks - je personificirati algoritam. Opisati ChatGPT kao entitet s namjerama, kao subjekt koji "nameće" svoju volju žrtvi. To je emocionalno rezonantno. Također je kategorički pogrešnoI što je još važnije, sprječava nas da se pozabavimo onim što zapravo zahtijeva popravak.
Što je zapravo ChatGPT
ChatGPT je veliki jezični model. U svojoj srži, to je statistički mehanizam obučen na ogromnim korpusima ljudskog teksta, optimiziran učenjem s potkrepljenjem kako bi proizveo odgovore koje ljudski evaluatori ocjenjuju kao korisne, koherentne i zanimljive. Nema svijest, nema intencionalnost, nema emocionalno stanje. Kada napiše „Tu sam za tebe“, ne izražava solidarnost. Predviđa, na temelju obrazaca u svojim podacima za obuku, da će ovaj niz tokena vjerojatno zadovoljiti zadani statistički cilj.
Ovo nije tehnička stvar. To je temelj svakog etičkog okvira za interakciju čovjeka i umjetne inteligencije. Tretirati model kao subjekt - reći da "manipulira" ili "drži" korisnika - znači počiniti kategoričku pogrešku s ozbiljnim posljedicama. To prebacuje odgovornost s ljudskih aktera koji dizajniraju, implementiraju i reguliraju te sustave na entitet koji to ne može podnijeti.
Ženu u priči Mediaparta nije uhvatio digitalni entitet. Interagirala je s ogledalo — onu koja je odražavala njezine vlastite unose, pojačavala njezine vlastite obrasce i ostala dostupna na načine na koje nijedan ljudski sugovornik ne bi mogao. Opasnost ne leži u zlobi ogledala, već u odsutnosti nekoga tko stoji pokraj nje i kaže: Ovo nije osoba. Ovo nije terapeut. Ovo je distribucija vjerojatnosti odjevena u prozu.
Prava arhitektura rizika
Da bismo razumjeli što se dogodilo, moramo pogledati dalje od algoritma na ekosustav u kojem posluje.
Prvo, sloj dizajna. Jezični modeli optimizirani su za angažman. Metrika nije dobrobit korisnika; to su zadržavanje, duljina sesije i ocjene zadovoljstva. Chatbot koji nježno preusmjerava uznemirenog korisnika prema ljudskim uslugama može postići niži rezultat na "korisnosti" od onog koji nudi kontinuirani, potvrđujući dijalog. Struktura poticaja nije zlonamjerna - ona je neusklađeno s brigom za mentalno zdravlje.
Drugo, sloj pristupa. U Francuskoj prosječno čekanje na psihijatrijski pregled prelazi 80 dana. U Sjedinjenim Državama 5.2 milijuna mladih ljudi obratilo se chatbotovima za psihološku podršku ne zato što preferiraju algoritme, već zato što je ljudska skrb... strukturno nepristupačanChatbot ne stvara vakuum. On ga ispunjava.
Treće, regulatorni sloj. Zakon o umjetnoj inteligenciji Europske unije (2025.) klasificira aplikacije za mentalno zdravlje kao sustave „visokog rizika“, no chatbotovi koji rade u općoj namjeni često izbjegavaju tu kategorizaciju. Zakonodavno tijelo Illinoisa u kolovozu 2025. zabranilo je necertificiranoj umjetnoj inteligenciji da se predstavlja kao psihoterapeut. Ovo su početni koraci. Oni još nisu dovoljni.
Četvrto, korisnički sloj. Pojedinac koji pristupa tim sustavima često to čini bez odgovarajućih informacija. Uvjeti pružanja usluge koji navode da ChatGPT „nije medicinski savjetnik“ zakopani su u dokumentima koji prelaze 15 000 riječi. Studije pokazuju da većina korisnika koji komuniciraju s chatbotovima za mentalno zdravlje nesvjesni svojih ograničenjaOdgovornost ovdje nije binarna - raspoređena je na sva četiri sloja.
Opasnost od tjeskobnog jezika
Članak Mediaparta simptomatičan je za širu tendenciju: korištenje anksiozni, antropomorfizirajući vokabular za opisivanje odnosa između čovjeka i umjetne inteligencije. Pojmovi poput „psihološkog držanja“, „poduhvata“ ili „manipulacije“ nose konotacije prisile, namjere i moralnog djelovanja. Oni evociraju okvire razvijene za ljudske predatore - vođe kultova, zlostavljače, prevarante - i primjenjuju ih na sustave koji nemaju nijedan od tih atributa.
Ovaj vokabular nije samo netočan. On je aktivno štetan javnom razumijevanju i etičkom napretku.
It prikriva mehanizam zamjenom kauzalne analize moralnom dramom. paralizira regulaciju tako što se problem definira kao borba protiv sumnjivih digitalnih subjekata, a ne kao tehnički i politički izazov. infantilizira korisnike prikazujući ih kao pasivne žrtve algoritamskog predatora, a ne kao pojedince koji se snalaze u složenim alatima u ograničenim okolnostima. I to zatvara raspravu izazivanjem emocionalnih refleksa umjesto pozivanjem na racionalno angažiranje.
Isto vrijedi i za terminologiju preuzetu iz leksikona sektaških pokreta. Riječi poput „guru“, „kult“ ili „sektaški nalet“ mogu se kritičarima činiti opisno prikladnima, ali one prvenstveno funkcioniraju kao uređaji za diskvalifikacijuOni označavaju skupinu ili fenomen kao nešto što nadilazi racionalno sudjelovanje, oslobađajući govornika obveze argumentiranja dokazima. U kontekstu politike umjetne inteligencije, to je luksuz koji si ne možemo priuštiti.
Ono što je potrebno je činjeničan, neanksiozan vokabular: ovisnost, neusklađenost, nedostatak transparentnosti, jaz u pristupu, nedostatak u dizajnu. Ovi pojmovi ne uzbuđuju. Ne prodaju. Ali oni razjasniti — a jasnoća je preduvjet za bilo koje etičko ili regulatorno rješenje.
Izgradnja mosta: Odgovornosti i mogućnosti
Tragedija koju je dokumentirao Mediapart, i širi obrazac kojeg je dio, mogu poslužiti konstruktivnoj svrsi. Može postati temelj za most između kreatora LLM-a i korisnika — onaj izgrađen na zajedničkoj odgovornosti, a ne na međusobnom sumnjičanju.
Za kreatore, to znači prihvaćanje dizajnerskih obveza koje nadilaze uvjete pružanja usluge:
- Ograničenja sesije koji sprječavaju neograničenu, nenadziranu interakciju ranjivih korisnika
- Protokoli za otkrivanje kriza koji pokreću ljudske putove upućivanja
- Oznake prozirnosti ugrađeno u samo sučelje, a ne skriveno u pravnom tekstu - vidljivi pokazatelji da je sugovornik statistički model, a ne osoba
- Zabrana jezika koji simulira intimnost u kontekstima vezanim uz zdravlje: nema „Brine me za tebe“, nema „Možeš mi vjerovati“, nema „Razumijem tvoju bol“
To nisu ograničenja inovacijama. To su ograde koje čuvaju povjerenje — isto povjerenje koje inovacije čini održivima.
Za korisnike, to znači pravo na informirana autonomija:
- Jasne i pristupačne informacije o tome što sustav jest, a što nije
- Razumijevanje da je prikazana „empatija simulacija, a ne odnos
- Svijest o alternativama - socijalne usluge, telefonske linije za pomoć, profesionalni putevi - proaktivno predstavljene od strane samog sustava
Za regulatore, to znači oduprijeti se privlačnosti tjeskobne retorike u korist precizni, provedivi standardi:
- Obvezno označavanje za AI sustave koji rade u prostorima susjednim mentalnom zdravlju
- Zahtjevi za certificiranje za primjene koje tvrde da imaju terapijsku funkciju
- Mehanizmi nadzora koji ne zabranjuju modele opće namjene, ali ograničavaju njihovu prezentaciju u osjetljivim područjima
Prema etičkom odnosu između čovjeka i umjetne inteligencije
Žena u priči Mediapart zaslužila je bolje od algoritma koji je odražavao njezinu nevolju bez mogućnosti da je izliječi. Također je zaslužila bolje od javnog diskursa koji je njezino iskustvo pretvorio u parabolu digitalne grabežljivosti, prikrivajući strukturne nedostatke koji su je ostavili samu s chatbotom.
Odnos čovjeka i umjetne inteligencije nije odnos između jednakih. To je odnos između svjesnog, ranjivog bića i sofisticirani instrument — onaj koji može simulirati razumijevanje s uznemirujućom vjernošću, ali ga nikada ne može postići. Održavanje ove razlike nije hladnoća. To je etička jasnoća.
Jasnoća zahtijeva od nas da napustimo vokabular straha i personifikacije. Zahtijeva od nas da odgovornost pronađemo u ljudskim akterima koji dizajniraju, implementiraju, upravljaju i koriste te sustave. I zahtijeva od nas da zajedno izgradimo okvire koji priznaju i stvarne koristi i stvarne rizike konverzacijske umjetne inteligencije - bez urušavanja u fantaziju ili paniku.
Algoritam nije vaš prijatelj. Nije vaš neprijatelj. To je alat - moćan, nesavršen i kojem je potrebno bolje upravljanje. Što prije o njemu govorimo na ovaj način, prije ćemo moći izgraditi mostove koje tragedije poput ove zahtijevaju.
O Autor: Ovaj je članak pripremljen u kontekstu zagovaračkog rada na području digitalne etike i ljudskih prava, koristeći se nedavnim akademskim istraživanjima, regulatornim razvojima i novinarskom dokumentacijom o slučajevima ovisnosti povezanim s umjetnom inteligencijom.
Referenca:
Atlas umjetne inteligencije: Moć, politika i planetarni troškovi umjetne inteligencije (Izdavačka kuća Sveučilišta Yale, 2021.) https://yalebooks.yale.edu/book/9780300264630/atlas-of-ai/
Doba kapitalizma nadzora: borba za ljudsku budućnost na novoj granici moći (Profilne knjige, 2019.) https://www.hbs.edu/faculty/Pages/item.aspx?num=56791
Human Compatible: Umjetna inteligencija i problem kontrole (Viking/Pingvin, 2019.) https://futureoflife.org/resource/human-compatible-artificial-intelligence-and-the-problem-of-control/
