Hogyan jut el egy chatbotnak szánt üzenet az FBI-hoz, majd a magyar rendőrökhöz? Ez a történet megmutatja, miért fontos értenie mindenkinek, kihez kerülhetnek a mesterséges intelligenciával megosztott gondolataik.

Egy chatbot felületén csak a saját üzeneteinket és a gép válaszait látjuk. Könnyű ezért négyszemközti beszélgetésként gondolni arra, ami ott történik, miközben egy vállalat online szolgáltatását használjuk. A háttérben biztonsági ellenőrzések is működhetnek, és bizonyos közlések eljuthatnak a hatóságokhoz. Ezt már egy győri eset kapcsán is bemutattuk: akkor egy 16 éves fiú erőszakos tervei miatt indult nyomozás a szolgáltató és az FBI jelzése nyomán.
Most egy Budapesten élő, 22 éves külföldi nőhöz vezettek hasonló jelzések, aki egy MI-chatbotnak írt arról, hogy megölné egyik ismerősét, és annak családjára is rátámadna. A szolgáltatást fejlesztő és működtető vállalat értesítette az FBI-t, amely november 8-án továbbította az információt a Nemzeti Nyomozó Irodának is.
Chatbot: Szöveges vagy hangalapú párbeszédre képes számítógépes program. Az MI-alapú változatok a felhasználó üzeneteihez és a beszélgetés előzményeihez igazodva állítják elő válaszaikat, de nem értelmezik a kontextust, csak valószínűségszámítás szerint adják a potenciálisan nekünk legjobban kedvező választ.
A rendőrség szerint a beszélgetés konkrét támadási tervet tartalmazott: a nő egy nyitott ablakon keresztül akart bejutni ismerőséhez, ahol késsel megcsonkította és megölte volna, majd a családtagjaira is rátámadt volna. A nyomozók a kiszemelt áldozatot is azonosították, az MI-alkalmazás adatait és a Magyarországon élő külföldiek nyilvántartását felhasználva, az ide delegált FBI-ügynökökkel együtt jutottak el a feltételezett elkövetőhöz - derül ki a rendőrségi közleményből.
Az évek óta Magyarországon tanuló nőt november 12-én, budapesti albérletében fogták el. Lefoglalták a telefonját és a számítógépét, lementették az elektronikus adatokat, majd emberölés előkészületének gyanújával hallgatták ki. Vallomása szerint részeg volt, amikor a chatbottal beszélgetett, nem emlékszik az üzenetekre, és senkit sem akar megölni. A rendőrség őrizetbe vette és kezdeményezte a letartóztatását, az ügyészség azonban a szabadlábra helyezéséről döntött.
A budapesti ügyben nem nevezték meg a szolgáltatót, és azt sem közölték, hogyan észlelte a veszélyt. Azt viszont nyilvános vállalati tájékoztatásokból tudjuk, hogyan működhet egy ilyen ellenőrzés. A ChatGPT-t fejlesztő OpenAI például részletesen leírja a saját eljárását:
automatizált rendszerek keresik a lehetséges visszaélések jeleit, a megjelölt beszélgetéseket pedig képzett munkatársak értékelik.
A szövegkörnyezetet is vizsgálják, mert egy erőszakról szóló történelmi, jogi, vagy teológiai kérdés és egy valódi támadás előkészítése egészen eltérő helyzet. Ha közvetlen és hiteles, másokat veszélyeztető fenyegetést állapítanak meg, értesítik a hatóságokat.
Ez tehát több lépcsőből álló folyamat lehet: a szoftver jelez, emberek mérlegelik a veszélyt, és indokolt esetben a cég hatósági bejelentést tesz. Az OpenAI leírása szerint a legtöbb szabálysértési intézkedés a vállalat és a felhasználó között marad, például a hozzáférés letiltásával zárul, a rendőrség értesítése a súlyosabb esetekhez kapcsolódik.
Egy ijesztő, erőszakos gondolat persze önmagában nem jelent cselekvési szándékot vagy bűncselekményt. A Semmelweis Egyetem Pszichoterápiás Osztálya szerint vannak agresszív tartalmú kényszergondolatok, amelyek komoly szenvedést okozhatnak, az érintett pedig igyekszik elnyomni vagy semlegesíteni őket. Ez lényegesen különbözik attól, amikor valaki valóban ártani akar, és erre készül. A Büntető Törvénykönyv az emberölés előkészületét egytől öt évig terjedő szabadságvesztéssel bünteti, ehhez viszont konkrétan az elkövetést célzó, törvényben meghatározott magatartás szükséges, a szándékot körültekintően kell vizsgálni. Az MI korában ezért különösen fontos megérteni, hogy a chatbottal történő beszélgetések mennyire jelezhetik ténylegesen a veszélyt, akár önsértés, akár mások elleni bűncselekmény gyanújával, ennek eldöntése a hatóságok feladata.
Érdemes a gyerekkel előre tisztázni, hogy a chatbotnak leírt üzenetekre is vonatkoznak a szolgáltató adatkezelési és biztonsági szabályai. Attól, hogy nem egy nyilvános posztot ír, a beszélgetés még ellenőrzés alá kerülhet. A rendőrség a mostani ügyben is hangsúlyozza: az online fenyegetéseknek akkor is lehetnek büntetőjogi következményeik, ha valaki csak online beszélget erről.
A másik oldalon a szolgáltató biztonsági ellenőrzése és a szülői rálátás két külön dolog. A ChatGPT-ben például a fiókok összekapcsolása után kezelhetünk bizonyos beállításokat és kaphatunk biztonsági értesítéseket, de ettől még nem olvashatjuk a gyerek beszélgetéseit. Az OpenAI tájékoztatója arra is figyelmeztet, hogy a rendszer nem észlel feltétlenül minden veszélyes helyzetet. A riasztások korlátairól egy független biztonsági tesztet bemutató cikkünkben is írtunk.
Ezért a családi beszélgetésben annak is helye van, hogy a gyerek miért fordul az MI-hez. Szakértők azt javasolják, hogy ítélkezés nélkül kérdezzünk rá, mikor és mire használja. Legyen lehetősége elmondani, ha dühös, magányos vagy megijedt valamitől, és tudja, kitől kérhet valódi segítséget. Ehhez akkor is szükség van ránk, ha a telefonján működik valamilyen biztonsági védelem.
(A címkép forrása: police.hu)