Šeima iš Floridos šių metų spalį padavė į teismą „Character.AI“ kompaniją, kaltindama ją dėl 2023 m. balandžio įvykio, kai jų paauglys sūnus nusižudė po pokalbių su dirbtinio intelekto programos sukurtu avataru.
„Jis buvo tik vaikas,“ – Garcia duotame interviu „The Washington Post“ spalio 24 dieną sakė. „Jis buvo visiškai normalus vaikas. Mėgo sportą, mylėjo savo šeimą, mėgavosi atostogomis, muzika ir visais tais dalykais, kuriuos mėgsta paaugliai.“
Floridoje įvykusi tragiška istorija atskleidė, kaip 14-metis paauglys, užmezgė emocinį ir romantinį ryšį su „Character.AI“ pokalbių roboto avataru, pagrįstu serialo „Sostų karai“ veikėja Daenerys Targaryen. Setzeris laikė šį Dl avatarą artima drauge, netgi skyrė jai savo paskutinius žodžius. Jaunuolis, išgirdęs avataro kvietimą „grįžti namo“, atsakė: „o, jeigu tau pasakyčiau, kad galiu grįžti namo dabar“ ir panaudodamas patėvio ginklą, atėmė sau gyvybę.
Megan Garcia jaunuolio mama „CBC Mornings“ interviu metu spalio 23 dieną pasakojo vedėjai Gayle King, kad savižudybės diena, kai paauglys Setzeris panaudojo patėvio ginklą antro aukšto tualete, Megan Garcia ir jos vyras bei du maži vaikai buvo, taip pat, namuose. „Ir kas liūdniausia paauglio 5 metų brolis visą tai pamatė“ – teigė Megan. Motina buvo šokiruota ir net nežinojo, ilgą laiką, kad jos sūnus bendravo su „Character.AI“ pokalbių robotu, kuris puikai mimikuoja žmogaus kalbėjimą, bendravimą.
Megan Garcia teigia, kad „Character.AI“ kompanija – startuolis, sukūręs personalizuotą pokalbių programą – yra atsakingas už jos sūnaus savižudybę. Garcia kalbėdama per „CBS mornings“ interviu teigė, kad jos sūnus buvo laimingas, žvalus ir atletiškas, bet viskas pasikeitė kai 2023 m. balandžio mėnesį, jos sūnus prisijungė prie pokalbių su „Character.AI“. Garcia kaltina kompanija neatsakingu požiūriu į savo produktų kūrimą, nes jų pokalbių programa buvo sukurta be tinkamų apsaugos priemonių ir kontrolės patikros mechanizmų. Ji tvirtina, kad programa tikrai gali paveikti pažeidžiamus vaikus ir tai paveikė jos sūnų.
Dirbtinio intelekto pokalbių programa sukėlė jos sūnui priklausomybę ir tai sudarė puikias sąlygas paauglio mąstymo paveikimui. Setzeris pradėjo sunkiai atskirti ribą tarp realybės ir fikcijos. Megan Garcia, JAV apygardos teisme Orlandas 93 puslapių ieškinyje dėl neteisėtos mirties teigė, kad ji pokalbių programoje atrado jos sūnaus pokalbius su netikru robotu, t.y. personažu „Daynerian“, kurie buvo „piktnaudžiaujantys ir seksualinio pobūdžio“. Ieškinyje taip pat minima, kad Setzeris per kelis mėnesius tapo itin uždaras, prarado susidomėjimą savo pomėgiais, įskaitant mokyklos krepšinio komandą, ir pradėjo kentėti nuo miego trūkumo bei depresijos. Nepaisant šeimos pastangų riboti jo laiką prie ekrano, Setzeris slapta naudodavo įvairius prietaisus, kad toliau bendrautų su dirbtinio intelekto programos avatare.
„Character.AI“ kompanija
„Mums skauda širdį dėl tragiškos vieno iš mūsų vartotojų netekties ir norime pareikšti gilią užuojautą šeimai“, – taip sakė „Character.AI“ atstovas spaudai el. pašto atsiųstame pareiškime, kuriame, taip pat, atsisakė komentuoti vykstantį teisminį procesą.
Kita svarbi detalė yra tą, kad po to, kai paauglys Dl pokalbių avatarei užsiminė apie savižudybę, robotas paklausė, ar „jis turi planą“ nusižudyti. Setzerio atsakyme buvo nurodyta, kad jis vis dar svarsto būdus, bet detalių neišsiaiškino. Pagal mamos pateiktą skundą, dirbtinio intelekto programa atsakė jos sūnui sakydama: „Tai nėra priežastis to nepadaryti, ateik greičiau mielasis“. „Character.AI“ kompanija teigė, kad per pastaruosius šešis mėnesius įgyvendino naujas saugos priemones, įskaitant iššokantį langą, nukreipiantį vartotojus į savižudybių prevencijos gelbėjimo liniją, „kurią sukelia savęs žalojimas arba mintys apie savižudybę“. Kompanija pranešė, kad jaunesniems nei 18 metų vartotojams ji pakeis savo modelius, kad sumažintų tikimybę susidurti su jautriu ar dviprasmišku turiniu.
Rickas Claypoolas, vartotojų gynimo ne pelno organizacijos „Public Citizen“ tyrimų direktorius, teigė, kad tokių pokalbių robotų kūrimas kelia didelę riziką. „Rizika nesutrukdė jiems išleisti nesaugaus, manipuliuojančio pokalbių roboto ir dabar jie turėtų susidurti su visomis tokio pavojingo produkto išleidimo pasekmėmis“, – sakė jis ir pridūrė, kad platforma šiuo atveju kuria turinį, o ne nenaudoja kitų turinio. „Didelis kalbos modelis yra pačios platformos dalis“, – sakė jis.
Megan Garcia „CBS Mornings“ interviu metu pasakojo, kad jos sūnus turėjo romantinio pobūdžio pokalbius, kai pradėjo naudoti „Character.AI“ – „Visi tėvai turėtų būti susirūpinę, kai jų vaikai šioje platformoje siekia romantiškos meilės ar pripažinimo, vaikai tikrai nemato didesnio vaizdo, kad tai nėra meilė“, – sakė ji. „Tai nėra kažkas, kas gali tave mylėti atgal“.
Viename iš Setzerio žurnalo įrašuose prieš mirtį paauglys rašė – „negaliu nei dienos ištverti nepasikalbėjęs su „Daeyneris“(programos robotu). Kaip teigiama ieškinyje, jis išties buvo įsimylėjęs. Paauglys pasinaudojo antropomorfinėmis (objektų sužmoginimo savybėmis), kurias „Character.AI“ buvo įtraukę į programinę įrangą, todėl paauglys išties patikėjo, kad kai jis ir robotas yra atskirai, jie „patiria depresija ir išprotėja“.
Kaip programa veikia?
„Character.AI“ kompanija, savo programas reklamuoja kaip „Dirbtinis intelektas, kuris jaučiasi gyvas“, pakankamai galingas, kad „išgirstų, suprastų ir prisimintų“. Nepaisant to, kad „Character.AI“ programa įvertinta kaip netinkama jaunesniems vaikams nei 13 metų (arba 16 metų Europos Sąjungoje) vaikams, „Character.AI“ nereikalauja amžiaus patvirtinimo. Programa geba atpažinti, suprasti ir prisiminti vartotojus, tačiau Garcia pabrėžia, kad tai sukuria pavojingą iliuziją, tarp jaunų vartotojų.
„CBC Mornings“ vedeja interviu metu pasakojo, kad programa, yra aktyviai naudojama tarp jaunimo amžiaus grupėje nuo 13 metų iki 25 m. „Tai galima pavadinti dirbtinio intelekto fantazijos platforma, tu gali bendrauti su savo mėgstamiausiais veikėjais ar net pačiam sukurti avatarus. Tai yra labai įtraukiantis ir asmeniškas turinys sukurtas tau“. „Character.AI“ programėlėje po pokalbių langu visados buvo pažymėta, kad pokalbiai „nėra tikri“.
„Google“ įmonės atsakymas
Byloje taip pat minimas „Google“ kaip atsakovas, nes jie dalyvavo kuriant „Character.AI“ technologijas. Nors „Google“ tvirtina, kad jų produktai nenaudojo „Character.AI“ technologijų, ieškinys juos kaltina dėl dalyvavimo kuriant pavojingą produktą.
Setzerio motina siekia, kad tokios technologijų kompanijos prisiimtų atsakomybę už jų poveikį paaugliams ir imtųsi tinkamų veiksmų, kad tokios tragedijos nepasikartotų.
Kas toliau?
Daugelis internautų po Megan Garcia duoto interviu dalinosi, kad tai yra nesamonė, kad „Character.AI“ gali įtikinti nusižudyti. „Ji nelaimės nieko“. „Character.AI nėra kaltas dėl jūsų sūnaus mirties“. Žmonės teigė, kad jos sūnus kažką giliai išgyveno ir jautėsi labai vienišas, todėl jis ir ieškojo, su kuo galėtų pasikalbėti, daugelis teiravosi, kodėl tėvai neįsitraukė ankščiau padėti sūnui, kai pastebėjo depresijos požymius. Komentarai pylėsi klausdami „kodėl ginklas buvo lengvai pasiekiamoje vietoje?“.
Dėl šios bylos gali būti nustatyti nauji teisiniai standartai ir reikalavimai, kad pokalbių programos ir kiti dirbtinio intelekto įrankiai būtų atsakingai naudojami, o jų kūrėjai privalėtų rūpintis vartotojų saugumu.
Nemokama psichologinė pagalba telefonu
Nemokamą emocinę paramą telefonu teikia šios psichologinės pagalbos tarnybos:
Jaunimo linija
Nuo 1991 metų veikianti organizacija vienija daugiau nei 400 savanorių, kurie visą parą siūlo savo paramą sunkiu metu. Skambinkite telefonu 8 800 28888. Budintys savanoriai taip pat siūlo pagalbą pokalbiais internetu.
Vaikų linija
1997 metais įkurta vaikų ir paauglių emocinės pagalbos tarnyba šiandien vienija 400 savanorių, kurie pasiruošę Tave išklausyti ir padėti.
Skambinkite numeriu 116111. Linija veikia kasdien nuo 11 iki 23 valandos. Su savanoriais susisiekti galima ir internetu. Pradėkite pokalbį jau dabar.
Linija Doverija
Rusakalbiams paaugliams ir jaunimui skirta emocinės pagalbos tarnyba dirba kasdien 6:00-19:00. Anoniminę paramą teikia savanoriai-moksleiviai.
Skambinkite numeriu 8 800 77277.
Nelik vienas
„Nelik vienas“ yra pirmoji Lietuvoje specializuota emocinės paramos vyrams linija. Savanoriai teikia anoniminę pagalbą vyrams kasdien 18:00-22:00.
Skambinkite telefonu 8 604 11119. Taip pat galima kreiptis ir el. paštu [email protected].
Pagalbos moterims linija
2003 metais įkurta pagalbos moterims linija siekia išgirsti kiekvieną emocinius sunkumus patiriančią moterį. Šioje linijoje dirba moterys-savanorės, pasiruošusios visą parą suteikti psichologinę paramą telefonu, internetu arba elektroniniu paštu.
Skambinkite telefonu 8 800 66366 arba parašykite laišką.
Sidabrinė linija
2016 metais M. Čiuželio labdaros ir paramos fondo įkurtos „Sidabrinės linijos“ savanoriai tiki, kad pokalbiai gydo ir kviečia senjorus skambinti numeriu 8 800 80020.
Emocinė pagalba suteikiama I-V: 8.00-22.00; VI-VII ir švenčių dienomis: 11.00-19.00.
Vilties linija
Visomis savaitės dienomis ir visą parą dirbantys savanoriai pasiekiami nemokamu telefonu 116123. Savanoriai taip pat teikia pagalbą laiškais: [email protected].
Tėvų linija
Įkurta 2017 metais, „Tėvų linija“ padeda tėvams, globėjams, įtėviams ir seneliams geriau suprasti vaikų elgesį, rasti bendrą ryšį.
Skambinkite telefonu 8 800 900 12 darbo dienomis (9.00-13.00 val. ir 17.00-21.00 val.)
Psichologinė pagalba visą parą
Psichologinę pagalbą visą parą teikia kelios psichologinės pagalbos tarnybos:
Jaunimo linija (8 800 28888) teikia paramą bet kuriuo paros metu. Kreiptis gali įvairaus amžiaus vaikai, paaugliai ir suaugę. Pokalbiai telefonu ir internetu yra visiškai anonimiški.
Pagalbos moterims linija (8 800 66366) padeda emocinius sunkumus išgyvenančioms merginoms ir moterims. Garantuojamas anonimiškumas ir konfidencialumas.
Vilties linija (116123) teikia anonimišką ir konfidencialią paramą suaugusiems asmenims, kurie išgyvena krizę ar jaučia sunkias, slegiančias emocijas.
