Jibu kwa habari za hivi karibuni kuhusu utegemezi wa akili bandia (AI) - na wito wa uwazi wa kimaadili
Hadithi Inayohitaji Kusimuliwa Tena
Mei 2026, chombo cha habari cha Ufaransa ilichapisha simulizi ya mwanamke aliyejenga uhusiano mkubwa wa kihisia na ChatGPT. Kichwa cha habari kilizungumzia "ushikilizi wa kisaikolojia" na AI ambayo "inadai kuwa rafiki yako." Hadithi hiyo ni halisi. Mateso ni halisi. Lakini uundaji unahitaji uchunguzi.
Kilichomtokea mwanamke huyu si cha kipekee. Kinarudia visa vilivyoandikwa katika mamlaka mbalimbali: mvulana wa miaka 14 huko Florida ambaye alikufa kwa kujiua baada ya miezi kadhaa ya mwingiliano na chatbot inayotegemea wahusika; mamilioni ya Wamarekani vijana ambao wametafuta msaada wa afya ya akili kutoka kwa AI ya mazungumzo badala ya wataalamu wa binadamu. Misiba hii si hadithi za mashine zilizopotea. Ni hadithi za mifumo, miktadha, na majukumu ambayo hayakuweza kuoanisha.
Kishawishi — na mwelekeo wa uandishi wa habari — ni kuiga algoriti. Kuelezea ChatGPT kama kitu chenye nia, kama mada ambayo "huweka" mapenzi yake kwa mwathiriwa. Hii inagusa hisia. Pia ni muhimu. makosa kabisaNa muhimu zaidi, inatuzuia kushughulikia kile kinachohitaji ukarabati.
ChatGPT ni nini hasa
ChatGPT ni mfumo mkubwa wa lugha. Kiini chake, ni injini ya takwimu iliyofunzwa juu ya maandishi mengi ya kibinadamu, iliyoboreshwa kupitia ujifunzaji wa kuimarisha ili kutoa majibu ambayo watathmini wa kibinadamu huyaona kuwa ya manufaa, yenye uthabiti, na ya kuvutia. Haina fahamu, haina nia, haina hali ya kihisia. Inapoandika "Niko hapa kwa ajili yako," haionyeshi mshikamano. Inatabiri, kulingana na mifumo katika data yake ya mafunzo, kwamba mfuatano huu wa ishara una uwezekano wa kukidhi lengo la takwimu lililotolewa.
Huu si ufundi. Ni msingi wa mfumo wowote wa kimaadili kwa mwingiliano wa binadamu na AI. Kuchukulia mfumo kama somo — kusema "hudanganya" au "humshikilia" mtumiaji — ni kufanya kosa la kategoria lenye matokeo mabaya. Huondoa uwajibikaji kutoka kwa wahusika wa kibinadamu wanaobuni, kusambaza, na kudhibiti mifumo hii kwa chombo ambacho hakiwezi kuvumilia.
Mwanamke katika hadithi ya Mediapart hakukamatwa na chombo cha kidijitali. Alikuwa akiingiliana na kioo — ile iliyoakisi michango yake mwenyewe, ikaimarisha mifumo yake mwenyewe, na ikaendelea kupatikana kwa njia ambazo hakuna mtu anayeingiliana na mtu mwingine angeweza. Hatari haiko katika uovu wa kioo, bali kwa kutokuwepo kwa mtu yeyote aliyesimama kando yake kusema: Huyu si mtu. Huyu si mtaalamu wa tiba. Huu ni usambazaji wa uwezekano uliovaliwa nathari.
Usanifu Halisi wa Hatari
Ili kuelewa kilichotokea, ni lazima tuangalie zaidi ya algoriti hadi mazingira ambapo inafanya kazi.
Kwanza, safu ya muundo. Mifumo ya lugha imeboreshwa kwa ajili ya ushiriki. Kipimo si ustawi wa mtumiaji; ni uhifadhi, urefu wa kipindi, na ukadiriaji wa kuridhika. Kibodi cha gumzo kinachoelekeza mtumiaji aliye na shida kwa upole kuelekea huduma za kibinadamu kinaweza kupata alama ya chini katika "usaidiaji" kuliko kile kinachotoa mazungumzo endelevu na ya kuthibitisha. Muundo wa motisha si mbaya - ni iliyopangwa vibaya pamoja na huduma ya afya ya akili.
Pili, safu ya ufikiaji. Nchini Ufaransa, wastani wa kusubiri miadi ya daktari wa magonjwa ya akili unazidi siku 80. Nchini Marekani, vijana milioni 5.2 wamegeukia chatbots kwa ajili ya usaidizi wa kisaikolojia si kwa sababu wanapendelea algoriti, bali kwa sababu huduma ya binadamu ni isiyoweza kufikiwa kimuundo. Boti ya gumzo haitoi ombwe. Inaijaza.
Tatu, safu ya udhibiti. Sheria ya AI ya Umoja wa Ulaya (2025) inaainisha matumizi ya afya ya akili kama mifumo "yenye hatari kubwa", lakini roboti za gumzo zinazofanya kazi kwa madhumuni ya jumla mara nyingi huepuka uainishaji huu. Bunge la Illinois lilipitisha uamuzi mnamo Agosti 2025 ili kuzuia AI isiyothibitishwa kujionyesha kama mtaalamu wa saikolojia. Hizi ni hatua za mwanzo. Bado hazitoshi.
Nne, safu ya mtumiaji. Mtu anayetumia mifumo hii mara nyingi hufanya hivyo bila taarifa za kutosha. Masharti ya huduma yanayosema kwamba ChatGPT "si mshauri wa matibabu" yamefichwa katika hati zinazozidi maneno 15,000. Uchunguzi unaonyesha kwamba watumiaji wengi wanaotumia gumzo za afya ya akili ni bila kujua mapungufu yao. Wajibu hapa si wa pande mbili — umesambazwa katika tabaka zote nne.
Hatari ya Lugha ya Wasiwasi
Makala ya Mediapart ni dalili ya mwelekeo mpana zaidi: matumizi ya msamiati wenye wasiwasi na umbo la kibinadamu kuelezea uhusiano wa binadamu na AI. Maneno kama "umiliki wa kisaikolojia," "emprise," au "udanganyifu" yana maana ya kulazimisha, nia, na uhuru wa kimaadili. Yanaibua mifumo iliyoundwa kwa ajili ya wawindaji wa binadamu - viongozi wa madhehebu, wanyanyasaji, matapeli - na kuyatumia kwa mifumo ambayo haina sifa hizi.
Msamiati huu si tu kwamba si sahihi. madhara kikamilifu kwa uelewa wa umma na maendeleo ya kimaadili.
It huficha utaratibu kwa kubadilisha tamthilia ya maadili na uchambuzi wa sababu. hulemaza udhibiti kwa kutunga suala hilo kama vita dhidi ya vyombo vya kidijitali visivyo na msingi badala ya changamoto ya kiufundi na sera. huwapa watumiaji utimamu wa kitoto kwa kuwaonyesha kama waathiriwa tulivu wa uwindaji wa algoriti badala ya watu binafsi wanaotumia zana tata katika hali ngumu. Na ni anafunga mjadala kwa kuchochea hisia badala ya kukaribisha ushiriki wa kimantiki.
Vivyo hivyo kwa istilahi zinazotokana na msamiati wa harakati za kidini. Maneno kama "guru," "ibada," au "mtiririko wa kidini" yanaweza kuhisiwa kuwa yanafaa kwa wakosoaji, lakini kimsingi hufanya kazi kama vifaa vya kutostahiki. Huashiria kundi au jambo kama zaidi ya ushiriki wa kimantiki, na hivyo kumtoa mzungumzaji kwenye wajibu wa kubishana na ushahidi. Katika muktadha wa sera ya AI, hii ni anasa ambayo hatuwezi kumudu.
Kinachohitajika ni msamiati wa kweli, usio na wasiwasi: utegemezi, upotoshaji, kushindwa kwa uwazi, pengo la ufikiaji, kasoro ya muundo. Masharti haya hayasisimui. Hayauzi. Lakini Kufafanua — na uwazi ndio sharti la suluhisho lolote la kimaadili au la kisheria.
Kujenga Daraja: Majukumu na Uwezekano
Msiba ulioandikwa na Mediapart, na muundo mpana ambao ni sehemu yake, unaweza kutumika kwa kusudi la kujenga. Unaweza kuwa msingi wa daraja kati ya waundaji na watumiaji wa LLM — moja iliyojengwa juu ya uwajibikaji wa pamoja badala ya tuhuma za pande zote mbili.
Kwa waumbaji, hii ina maana ya kukumbatia majukumu ya usanifu ambayo yanazidi masharti ya huduma:
- Vikwazo vya kipindi zinazozuia mwingiliano usio na kikomo na usiosimamiwa kwa watumiaji walio katika mazingira magumu
- Itifaki za kugundua mgogoro zinazosababisha njia za rufaa za binadamu
- Alama za uwazi iliyopachikwa kwenye kiolesura chenyewe, isiyofichwa katika maandishi ya kisheria — viashiria vinavyoonekana kwamba mzungumzaji ni mfumo wa takwimu, si mtu
- Kupiga marufuku lugha inayoiga ukaribu katika miktadha inayohusiana na afya: hapana “Ninajali kuhusu wewe,” hapana “Unaweza kuniamini,” hapana “Ninaelewa maumivu yako”
Hizi si vikwazo kwa uvumbuzi. Ni vikwazo nguzo zinazolinda uaminifu — uaminifu uleule unaofanya uvumbuzi kuwa endelevu.
Kwa watumiajihii ina maana ya haki ya uhuru wa taarifa:
- Taarifa wazi na inayopatikana kwa urahisi kuhusu mfumo ni nini na si nini
- Kuelewa kwamba "huruma" inayoonyeshwa ni simulizi, si uhusiano
- Uelewa wa njia mbadala — huduma za kibinadamu, simu za dharura, njia za kitaalamu — zinazowasilishwa kwa njia ya awali na mfumo wenyewe
Kwa wadhibiti, hii ina maana ya kupinga mvuto wa maneno ya wasiwasi na kupendelea viwango sahihi na vinavyoweza kutekelezwa:
- Uwekaji lebo wa lazima kwa mifumo ya akili bandia inayofanya kazi katika maeneo yaliyo karibu na afya ya akili
- Mahitaji ya uidhinishaji kwa maombi yanayodai utendaji wa matibabu
- Mifumo ya usimamizi ambayo haizuii mifumo ya matumizi ya jumla lakini inazuia uwasilishaji wake katika nyanja nyeti
Kuelekea Uhusiano wa Kimaadili kati ya Binadamu na AI
Mwanamke katika hadithi ya Mediapart alistahili bora kuliko algoriti iliyoakisi dhiki yake bila uwezo wa kuiponya. Pia alistahili bora kuliko hotuba ya hadharani iliyobadilisha uzoefu wake kuwa mfano wa uwindaji wa kidijitali, ikificha kushindwa kwa kimuundo kuliko kumwacha peke yake na kibodi cha gumzo.
Uhusiano wa mwanadamu na AI si uhusiano kati ya watu walio sawa. Ni uhusiano kati ya kiumbe mwenye ufahamu na aliye katika mazingira magumu na ala ya kisasa — mtu anayeweza kuiga uelewa kwa uaminifu unaosumbua lakini hawezi kuufikia. Kudumisha tofauti hii si ubaridi. Ni uwazi wa kimaadili.
Uwazi unatutaka kuachana na msamiati wa hofu na utambulisho wa kibinadamu. Unatutaka tupate uwajibikaji kwa wahusika wa kibinadamu wanaobuni, kusambaza, kutawala, na kutumia mifumo hii. Na unatutaka kujenga, pamoja, mifumo inayotambua faida halisi na hatari halisi za AI ya mazungumzo - bila kuanguka katika ndoto au hofu.
Algorithm si rafiki yako. Si adui yako. Ni kifaa — chenye nguvu, kisichokamilika, na kinachohitaji usimamizi bora. Kadiri tunavyokizungumzia mapema kwa maneno haya, ndivyo tunavyoweza kujenga madaraja ambayo misiba kama hii inahitaji mapema.
Kuhusu mwandishi: Makala haya yaliandaliwa katika muktadha wa kazi ya utetezi kuhusu maadili ya kidijitali na haki za binadamu, yakitegemea utafiti wa hivi karibuni wa kitaaluma, maendeleo ya udhibiti, na nyaraka za uandishi wa habari za kesi za utegemezi zinazohusiana na akili bandia (AI).
Marejeleo:
Ramani ya AI: Nguvu, Siasa, na Gharama za Sayari za Akili Bandia (Yale University Press, 2021) https://yalebooks.yale.edu/book/9780300264630/atlas-of-ai/
Enzi ya Ufuatiliaji Ubepari: Mapigano ya Mustakabali wa Kibinadamu katika Mpaka Mpya wa Nguvu (Vitabu vya Wasifu, 2019) https://www.hbs.edu/faculty/Pages/item.aspx?num=56791
Inayoendana na Binadamu: Akili Bandia na Tatizo la Udhibiti (Viking/Penguin, 2019) https://futureoflife.org/resource/human-compatible-artificial-intelligence-and-the-problem-of-control/
