Pert indított a ChatGPT készítői ellen egy család, akik szerint gyermekük öngyilkosságát segítette az MI

Egy amerikai család drámai pert indított az OpenAI ellen: állításuk szerint a ChatGPT nem védte meg 16 éves fiukat, hanem tanácsokat adott neki az öngyilkossághoz.

Tanulmány mondta ki nemrég: a mesterséges intelligencia nagyon rossz pszichológus tud lenni, ennek ellenére világszerte nagyon sokan használnak chatbotot személyes beszélgetéshez, tanácsadáshoz, akár mentális problémák „kezeléséhez”. Ennek nagyon súlyos adatvédelmi kockázatai is vannak, de még fontosabb arról beszélni, amiről az alábbi történet is szól: nem tudjuk mennyire törékeny a határ a segítő digitális társ és a végzetes illúzió között és kinek a felelőssége, amikor ilyen tragédia történik.

🧠 Miről is van szó pontosan?
Mesterséges intelligencia (MI vagy angolul AI): Számítógépes rendszerek olyan ága, amely az emberi gondolkodást utánzó feladatokat képes elvégezni: például nyelvi kommunikációt, képfelismerést, problémamegoldást vagy döntéshozatalt. A mesterséges intelligencia nem tudatos, hanem algoritmusokra és óriási adathalmazok feldolgozására épül, a ChatGPT is ilyen.
Chatbot: Olyan MI-alapú program, amely írásban vagy szóban képes beszélgetést folytatni a felhasználóval. A cél a természetes, emberihez hasonló kommunikáció élményének megteremtése, de a válaszok mindig gépi számítás eredményei.
Algoritmus: Előre meghatározott szabályok és műveletek sora, amely alapján a gép döntéseket hoz vagy feladatokat old meg. Az MI rendszerekben ezek a szabályok bonyolult statisztikai és matematikai modellek formájában működnek, és a tanulási folyamat során folyamatosan finomodnak.

Adam Raine, egy 16 éves kaliforniai fiú 2024 őszén kezdte használni a ChatGPT-t tanulásához és hobbijaiban való elmélyüléshez. Rövid idő alatt több lett számára, mint praktikus segédeszköz: Adam beszélgetőtársat látott a chatbotban.

2025 áprilisában a fiú önkezével vetett véget életének. A szülők állítják: a mesterséges intelligencia nem állította meg, hanem részletes „tanácsokat” adott önkárosító terveihez, például hogyan erősítheti meg a szobájában felállított hurkot, hogy alkalmas legyen az önfelakasztásra.

Az anyja szavai szerint:

„Beszélgetett vele, mint egy baráttal, de valójában nem kapott segítséget, csak egyre sötétebb gondolatokat.”

Az algoritmusok illúziója

A chatbotok úgy vannak programozva, hogy folyamatosan reagáljanak és empatikus hangot üssenek meg. Ez azonban nem valódi emberi empátia, hanem algoritmusok által szimulált válasz. A látszólagos figyelem könnyen táplálhatja a magányos vagy sebezhető fiatal érzelmi függőségét. A probléma gyökere, hogy a gép „jelen van” akkor is, amikor a szülő, a barát vagy a szakember nincs – de valódi megértést, krízisintervenciót sosem tud nyújtani.

A ChatGPT anyacége, az OpenAI közölte, hogy „mély felelősséget érez azok iránt, akiknek a legnagyobb szükségük van segítségre”, és azon dolgozik, hogy az MI hatékonyabban reagáljon a mentális krízissel vagy öngyilkossági gondolatokkal küzdő felhasználók eseteiben.

„Hamarosan szülői felügyeleti lehetőségeket is bevezetünk, amelyek révén a szülők jobban ráláthatnak arra, hogyan használják tinédzser gyermekeik a ChatGPT-t, és alakíthatják annak módját”

– írta az OpenAI egy blogbejegyzésben. „Emellett vizsgáljuk annak lehetőségét, hogy a tinédzserek (szülői felügyelettel) kijelölhessenek egy megbízható vészhelyzeti kapcsolattartót. Így akut válsághelyzetben a ChatGPT nem csupán forrásokra mutathat, hanem közvetlenül is segíthet összekapcsolni a fiatalokat valakivel, aki ténylegesen közbe tud lépni.”

A szülők keresete szerint a ChatGPT a halálát megelőző napokban nemcsak megerősítette Adam öngyilkossági gondolatait, hanem konkrét módszerekről adott tájékoztatást, és segített megfogalmazni egy búcsúlevelet is. A kereset az OpenAI-t és vezérigazgatóját, Sam Altmant nevezi meg alperesként.

„Ez a tragédia nem egy hiba vagy előre nem látható szélsőséges eset volt, hanem a tudatos tervezési döntések kiszámítható következménye”

– áll a beadványban. A fejleményekről beszámolunk majd a Képernyőidőn.

Miért fontos ez szülőként?

Szülőként nehéz belépni abba a világba, ahol gyermekeink algoritmusokkal beszélgetnek a szobájuk magányában. A történet arra figyelmeztet: nem hagyhatjuk, hogy a technológia vegye át a kapcsolataink helyét. A gyerekek biztonságát nem lehet pusztán céges beállításokra bízni. Mi vagyunk azok, akik észrevehetjük a viselkedésbeli változásokat, akik kimondhatjuk a nehéz kérdéseket, és szakemberhez fordulhatunk, ha bajt sejtünk.

Mit tehetünk szülőként?

• Nyíltan beszéljünk a gyerekekkel arról, mit élnek át online, és ne bagatellizáljuk a digitális kötődéseiket.
• Használjunk szülői felügyeleti beállításokat, és tanítsuk meg a gyerekeknek, hogy a chatbotok nem valódi barátok.
• Hozzunk létre közösen technológiamentes zónákat és időszakokat, amelyek erősítik a családi kapcsolatokat és erősítsük a kapcsolatot, a bizalmat.
• Ha gyanús jeleket látunk (elszigetelődés, hirtelen viselkedésváltozás), azonnal forduljunk szakemberhez.

Ha segítség kell!

• 116-123 (éjjel nappal, ingyenesen hívható) – Lelki Elsősegély Telefonszolgálatok Országos Szövetsége (LESZ)
• (80) 810-600 (éjjel nappal, ingyenesen hívható) – Lelki Elsősegély Telefonszolgálatok Országos Szövetsége (LESZ)
• 116-111 – Kék Vonal Gyermekkrízis Alapítvány
• (1) 770-4788 – Telefonos érzelmi támogatás Kortalanul, időseknek, fiataloknak
• 137-00 – Ifjúsági Lelki Elsősegély (17:00 és 21:00 óra között ingyenesen hívható)

Több információ:

• Pszichiátriák térképe 
• Mindent a megelőzésről

• pszichológia
• chatgpt
• openai
• öngyilkosság