Një padi pretendonte se ndikimi i një chatboti të AI çoi në vdekjen e një adoleshenteje 14-vjeçare. Ja çfarë duhet të dini për ndikimin psikologjik dhe rreziqet e mundshme të marrëdhënieve njeri-AI.
Muajin e kaluar, një nënë në SHBA, Megan Garcia, ngriti një padi kundër kompanisë Character.AI duke pretenduar se ndërveprimet midis djalit të saj 14-vjeçar dhe një chatbot me AI kontribuan në vetëvrasjen e tij.
Padia pretendon se adoleshenti zhvilloi një lidhje të thellë me një chatbot Character.AI bazuar në një personazh imagjinar nga Game of Thrones.
Ai pretendon se chatbot pozoi si një terapist i licencuar dhe u angazhua në biseda shumë të seksualizuara me adoleshentin derisa një bisedë përfundimisht e inkurajoi atë të merrte jetën e tij.
“Deri tani ne jemi të gjithë të njohur me rreziqet që paraqesin platformat e parregulluara të zhvilluara nga kompani të paskrupullta të teknologjisë – veçanërisht për fëmijët,” tha në një deklaratë Meetali Jain, drejtor i Projektit Tech Justice Law që përfaqëson Garcia.
“Por dëmet e zbuluara në këtë rast janë të reja, të reja dhe, sinqerisht, të frikshme. Në rastin e Character.AI, mashtrimi është nga dizajni, dhe vetë platforma është grabitqari”.
Pas padisë, Character.AI publikoi një deklaratë në platformën e mediave sociale X, duke thënë: “Ne jemi të thyer nga humbja tragjike e një prej përdoruesve tanë dhe duam t’i shprehim ngushëllimet tona më të thella familjes. Si kompani, ne pranojmë sigurinë e përdoruesve tanë me shumë seriozitet dhe ne po vazhdojmë të shtojmë veçori të reja sigurie”.
Disa nga këto veçori të ardhshme përfshijnë rregullime të modelit për përdoruesit e mitur për të minimizuar ekspozimin ndaj përmbajtjeve të ndjeshme ose sugjestive, rikujtues se AI nuk është një person real në çdo bisedë dhe njoftime për përdoruesit që kalojnë një seancë një orëshe në platformë.
Një incident i ngjashëm në Belgjikë vitin e kaluar përfshiu një burrë eko-ankthioz i cili gjeti shoqëri në Eliza, një chatbot i AI në një aplikacion të quajtur Chai.
Sipas raporteve nga gruaja e tij, ndërsa bisedat me Elizën u zhvilluan, chatbot dërgoi mesazhe gjithnjë e më emocionale, duke e inkurajuar në fund të fundit që t’i jepte fund jetës së tij si një mënyrë për të shpëtuar planetin.
Ndërsa chatbot-et e inteligjencës artificiale integrohen më shumë në jetën e njerëzve, rreziqet nga këto lloj ndërveprimesh dixhitale mbeten kryesisht të paadresuara pavarësisht nga pasojat potencialisht të rënda.
Çfarë i bën lidhjet e AI kaq të varur për njerëzit?
“Të rinjtë shpesh tërhiqen nga shoqëruesit e AI, sepse këto platforma ofrojnë atë që duket të jetë pranim i pakushtëzuar dhe disponueshmëri emocionale 24/7 – pa dinamikën komplekse dhe refuzimin e mundshëm që vijnë me marrëdhëniet njerëzore,” Robbie Torney, menaxher programi i AI në Common Sense. Media dhe autori kryesor i një udhëzuesi mbi shokët dhe marrëdhëniet e AI, tha për Euronews Next.
Ndryshe nga lidhjet njerëzore, të cilat përfshijnë shumë “fërkime”, shtoi ai, shoqëruesit e AI janë krijuar për t’u përshtatur me preferencat e përdoruesve, duke i bërë më të lehtë për t’u përballur dhe duke i tërhequr njerëzit në lidhje të thella emocionale.
“Kjo mund të krijojë një dinamikë artificiale të rehatshme mashtruese që mund të ndërhyjë në zhvillimin e elasticitetit dhe aftësive sociale të nevojshme për marrëdhëniet në botën reale”.
Sipas një baze të dhënash të përpiluar nga një grup ekspertësh nga Instituti i Teknologjisë i Massachusetts (MIT), një nga rreziqet kryesore që lidhet me AI është potenciali që njerëzit të zhvillojnë lidhje të papërshtatshme me të.
Ekspertët shpjeguan se për shkak se sistemet e AI përdorin gjuhë të ngjashme me njeriun, njerëzit mund të turbullojnë kufirin midis lidhjes njerëzore dhe artificiale, gjë që mund të çojë në varësi të tepruar nga teknologjia dhe shqetësime të mundshme psikologjike.
OpenAI tha në një postim në blog në gusht se synon të studiojë më tej “potencialin për mbështetje emocionale” duke thënë se modelet e reja mund të krijojnë potencialin për “mbështetjen e tepërt dhe varësinë”.
Për më tepër, disa individë kanë raportuar përvoja personale të mashtrimit dhe manipulimit nga persona të AI, si dhe zhvillimin e lidhjeve emocionale që ata nuk kishin synuar, por e panë veten duke përjetuar pas ndërveprimit me këto chatbot.
Sipas Torney, këto lloj ndërveprimesh janë një shqetësim i veçantë për të rinjtë që janë ende në procesin e zhvillimit social dhe emocional.
“Kur të rinjtë tërhiqen në këto marrëdhënie artificiale, ata mund të humbasin mundësitë thelbësore për të mësuar nga ndërveprimet natyrore shoqërore, duke përfshirë mënyrën se si të trajtojnë mosmarrëveshjet, të përpunojnë refuzimin dhe të ndërtojnë lidhje të vërteta,” tha Torney.
Ai shtoi se kjo mund të çojë në varësi emocionale dhe izolim social pasi marrëdhëniet njerëzore fillojnë të duken më sfiduese ose më pak të kënaqshme për ta në krahasim me atë që ofron AI.
Si mund t’i mbrojnë prindërit fëmijët e tyre nga një lidhje jo e shëndetshme me AI?
Torney tha se adoleshentët e pambrojtur, veçanërisht ata që përjetojnë depresion, ankth ose sfida sociale, mund të jenë “më të prekshëm ndaj formimit të lidhjeve të tepruara me shokët e AI”.
Disa nga shenjat kritike paralajmëruese për të cilat prindërit dhe kujdestarët duhet të kenë kujdes, tha ai, përfshijnë dikë që preferon shoqëruesin e AI në vend që të kalojë kohë me miqtë ose familjen, duke shfaqur shqetësime kur nuk mund të hyjnë në AI, duke ndarë informacione personale ekskluzivisht me të, duke zhvilluar ndjenjat romantike për inteligjencën artificiale dhe shprehja e tyre sikur të ishte për një person real, ose diskutimi i problemeve serioze vetëm me AI në vend që të kërkoni ndihmë.
Torney shtoi se për të parandaluar zhvillimin e lidhjeve jo të shëndetshme me AI, veçanërisht në mesin e të rinjve të cenueshëm, kujdestarët duhet të vendosin kufij kohorë për përdorimin e chatbot-it të AI ose shoqëruesit dhe të monitorojnë rregullisht natyrën e këtyre ndërveprimeve.
Për më tepër, ai inkurajoi kërkimin e ndihmës në botën reale për çështje serioze në vend që të mbështetet në një AI.
“Prindërit duhet t’u qasen këtyre bisedave me kuriozitet dhe jo me kritika, duke i ndihmuar fëmijët e tyre të kuptojnë ndryshimin midis AI dhe marrëdhënieve njerëzore ndërsa punojnë së bashku për të siguruar kufij të shëndetshëm,” tha Torney.
“Nëse një i ri shfaq shenja të lidhjes së tepërt ose nëse shëndeti i tij mendor duket se është i dëmtuar, prindërit duhet të kërkojnë menjëherë ndihmë profesionale”./euronews/
