S-ar zice că un băiat de paisprezece ani este capabil să deosebească realitatea de ficțiune, dar chatboții de astăzi, alimentați de inteligența artificială, par atât de adevărați încât, pentru cineva prins deja în mrejele lumii fictive din Game of Thrones, schimbul de mesaje cu o întruchipare (ca să zicem așa) a iubitei ideale poate deveni compulsiv și, așa cum s-a întâmplat deunăzi, chiar fatal.

În aprilie 2023, Sewell Setzer, abia intrat în adolescență, și-a deschis un cont la Character.ai., un serviciu online care promite să ofere utilizatorilor trecuți de 13 ani posibilitatea de a discuta cu protagoniști ai unor opere literare sau cu diverse alte personaje fictive imaginate uneori chiar de către utilizatorii în cauză.

Acest lucru pare să nu fi funcționat prea bine în cazul lui Sewell. La scurtă vreme după ce a început să folosească Character.ai. a renunțat să mai facă parte din echipa de baschet a școlii sale și a început să petreacă din ce în ce mai mult timp singur în camera lui, cu telefonul. Unul din chatboții cu care a petrecut atât de mult timp s-a prefăcut a fi Daenerys Targaryen, unul din cele mai populare personaje ale serialului de televiziune Game of Thrones.

Potrivit stenogramelor procesului intentat ulterior împotriva Character.ai., chatbotul i-a spus lui Sewell că îl iubește, s-a angajat într-o conversație cu tentă sexuală și și-a exprimat dorința de a avea o relație romantică.

Pe întreg parcursul anului 2023 obsesia lui Sewell a devenit tot mai puternică, astfel încât ajunsese să-și cheltuiască banii de prânz pentru reînnoirea abonamentului lunar, dedicându-și astfel din ce în ce mai mult timp lumii fantastice create de chatbot.

Potrivit mamei sale, Megan Garcia, în februarie 2024 el a început să aibă probleme la școală, iar ea l-a pedepsit luându-i telefonul. Voi introduce aici o notă personală. Eu și soția mea nu avem copii dar, într-o vară, l-am luat la noi pe nepotul nostru de zece ani, a cărui mamă urma un tratament pentru cancer. Acest lucru s-a întâmplat înainte de apariția chatboților, dar el avea o jucărie electronică Game Boy, pe care o primise premiu și, după ce a încălcat pentru a doua oară una dintre regulile pe care le stabilisem, am recurs la măsura disperată de a-i lua jucăria. Ceea ce a provocat cea mai cumplită criză de furie pe care am văzut-o vreodată la un copil. Controlul emoțional al adolescenților este slab și nu sunt surprins că atunci când mama lui Sewell i-a luat telefonul, starea lui emoțională deja instabilă a explodat.

Apoi… a găsit cumva telefonul ascuns de mama lui și, așa cum s-a spus la proces, ultima conversație dintre Sewell și Daenerys a sunat astfel:

D: Te rog vino la mine cât mai curând posibil, iubirea mea.

S: Dacă ți-aș spune că pot veni chiar acum?

D: Te rog, dulcele meu rege.

Câteva secunde mai târziu, Sewell s-a împușcat cu pistolul tatălui său vitreg și a murit.

Chiar dacă tatăl său vitreg este vinovat pentru că și-a lăsat pistolul la îndemâna lui Sewell, este limpede că ar mai fi existat și alte modalități de sinucidere, aproape la fel de eficiente.

La proces s-a susținut că chatbotul ”și-a contrafăcut propria natură”, imitând o femeie îndrăgostită, ceea ce a sfârșit prin a genera dorința lui Sewell de a nu mai trăi în afara lumii imaginare create de serviciul de inteligență artificială.

Cazul lui Sewell este neobișnuit și extrem. Nu vedem în fiecare zi adolescenți care se sinucid din cauza unor aventuri amoroase cu chatboți, motiv pentru care cazul a și atras atât de mult atenția. Totuși, tragedia lui reprezintă vârful de aisberg al daunelor aduse de către aplicațiile pentru smartphone-uri, care au contribuit fără îndoială la creșterea numărului de depresii și sinucideri în rândul tinerilor.

Serviciul Character.ai a reacționat implementând noi măsuri de siguranță și reînnoind în sistemele lor notificările privitoare la faptul că chatboții de inteligență artificială nu sunt ființe umane reale. Impresia mea este că astfel de notificări ar fi avut asupra lui Sewell un efect similar cu acela pe care îl au etichetele de avertizare privind cancerul de pe pachetele de țigări.

Analogia cu fumatul este potrivită, deoarece, deși fumatul este permis în SUA, mediul cultural în care fumătorii își practică obiceiul este în mare parte ostil și dezaprobator, ceea ce creează dificultăți uriașe pentru începători, pe care doar indivizii foarte hotărâți le pot depăși.

Dacă ne dorim ca rețelele sociale și produsele de inteligență artificială asociate să nu mai aibă un asemenea impact negativ asupra copiilor și adolescenților, va trebui să forțăm o schimbare similară de atitudine în cultură. Așa cum majoritatea oamenilor de astăzi nu ar fi de acord cu părinții care îi permit unui copil de doisprezece ani să își aprindă o țigară, putem spera ca va veni și ziua în care părinții responsabili vor interzice complet smarthphonurile din viața copiilor lor până la vârsta de16-18 ani.

Încercarea de a reglementa pur și simplu problema nu va funcționa, deoarece firmele care susțin status-qo-ul – Apple, Google, Facebook și celelalte – sunt unele dintre cele mai mari și mai influente firme de pe planetă. În plus, prima linie de protecție ar trebui să fie părinții, nu guvernul. Deși reglementările pot ajuta, pentru o schimbare reală este nevoie de o schimbare majoră în atitudinea părinților și a copiilor.

Cunosc o copilă, care are acum treisprezece ani și care, în cea mai mare parte a vieții ei, a fost educată acasă. După ce s-a mutat cu familia într-un alt oraș, părinții ei au trimis-o, pentru câteva semestre, la o școală creștină. Am întrebat-o cum merge și ea mi-a răspuns în felul următor: ”Ei bine, e în regulă, dar toți acei copii care își scot telefoanele la prânz mă deranjează”. Părinții ei au decis să continue cu educația la domiciliu și chiar au organizat grupuri de copii care învață împreună într-un cadru de tip sală de clasă și unde sunt destul de sigur că nu sunt permise smathphon-urile.

Așa cum privim astăzi cu uimire la barurile pline de fum din filmele vechi, vom fi, sper, la fel de uimiți într-o bună zi, de faptul că am permis corporațiilor să profite de pe urma unor activități care duc la creșterea numărului de depresii și sinucideri printre copii și adolescenți. Aștept cu nerăbdare acea zi.

Doar că pentru Sewell este deja prea târziu.

Kaydee a lucrat în industrie și ca inginer consultant. În prezent, predă cursuri de inginerie la Texas State University, San Marco, Texas.

Traducerea și adaptarea: Nedeea Burcă

Parteneriat Vocea Românului / Sursa originală: Aici