5 riasztó történet, ami bizonyítja, hogy nem szabad vakon a mesterséges intelligenciára hagyatkozni

2026.09.07. 19:25 Képernyőidő

Elrontott hegyi túratervezés, nem létező fesztiválra irányított turisták, ügyvédi tragédia és súlyos egészségügyi veszélyek - pár elképesztő és elszomorító példa arra, hogy miért szükséges a kritikai gondolkodás.

5 riasztó történet, ami bizonyítja, hogy nem szabad vakon a mesterséges intelligenciára hagyatkozni

Nincs most elég időd?

  • Három kezdő túrázót a Shasta-hegyről kellett lehozni, miután a felkészülés során erősen támaszkodtak a Geminire, amely szakértők szerint több ponton is elrontotta a tervezést.
  • Romániában több mint tíz turistabusz érkezett egy halászléfesztiválra, amelyet 2026-ban meg sem rendeztek. A ChatGPT még aznap is azt állította, hogy zajlik az esemény.
  • Egy amerikai ügyvéd MI által gyártott, nem létező bírósági eseteket adott be a legfelsőbb bíróságnak. Az ügyfelei fellebbezését elutasították, neki pedig 17 200 dollárt kellett fizetnie.
  • Angliában egy MI-vel készített orvosi összefoglaló tévesen komoly idegrendszeri károsodást írt egy beteg leletébe.
  • Egy férfi három hónapon át nátrium-bromiddal helyettesítette a konyhasót, miután egészségügyi információt kért a ChatGPT-től. Bromidmérgezéssel és pszichotikus tünetekkel került kórházba.
  • A közös pont a kritikai gondolkodás hiánya az emberben. Ezt a készséget nem veheti el tőlünk a gép, és nagyon fontos, hogy ezt a gyerekekben is tudatosítsuk.

SEGÍTS, HOGY SEGÍTHESSÜNK!

A Képernyőidő ingyenes, de nem ingyen készül. Segítsd munkánkat egy tetszőleges adománnyal, hogy minél több tartalom születhessen.

  • Számlaszám: 12100011-19129370
  • Név: LogIn Digitális Edukáció Egyesület

A tárgy mezőbe írd be, hogy adomány. Köszönjük segítséged, igyekszünk megszolgálni.

Az utóbbi években a generatív mesterséges intelligencia a mindennapi munkánk és életünk láthatatlan mankójává vált. Egyre gyakrabban fordulunk hozzá személyes döntésekben, komplex szakmai feladatok megoldásában vagy éppen elemzések készítésében.

A kényelemnek azonban ára van: miközben a technológia másodpercek alatt szállítja a látszólag szilárd válaszokat, észrevétlenül szoktatja le az emberi agyat az önálló mérlegelésről. 

🧠 Mi az a mesterséges intelligencia?

A mesterséges intelligencia (MI) gyűjtőfogalom: olyan gépi rendszereket nevezünk így, amelyek a kapott adatokból valamilyen eredményt állítanak elő - például előrejelzést, ajánlást, döntést vagy tartalmat. Az Európai Unió MI-rendelete is ilyen tág értelemben használja a fogalmat. A ChatGPThez vagy a Geminihez hasonló szolgáltatások ennek egy speciális területéhez, a generatív mesterséges intelligenciához tartoznak. Ezek nagy mennyiségű korábbi adatból tanult minták alapján hoznak létre új szöveget, képet, hangot vagy más tartalmat. Amikor egy chatbotnak kérdést teszünk fel, a rendszer olyan választ generál, amely a tanult minták alapján valószínűnek és megfelelőnek tűnik. Ezért fontos különválasztani a jól megfogalmazott választ a biztosan igaz választól. Egy generatív MI képes nagyon meggyőzően tévedni is. A válasz gördülékenysége, részletessége vagy magabiztos hangvétele önmagában semmit nem bizonyít annak pontosságáról.

A legnagyobb veszélyt nem csupán az jelenti, ha az algoritmus hibázik - vagyis „hallucinál” -, hanem az, hogy a felhasználók kritika nélkül elhisszük a válaszait. Kutatások rámutatnak, hogy a generatív MI túlzott és vak használata kifejezetten káros hatással van az emberi gondolkodásra. A Microsoft és a Carnegie Mellon Egyetem közös elemzése szerint a nagy nyelvi modellekre támaszkodó dolgozók körében szignifikánsan csökken a kritikai vizsgálódásra szánt kognitív erőfeszítés. Minél jobban bízik valaki az automatizált válaszokban, annál kevésbé kérdőjelezi meg azok valóságtartalmát, ami az önálló problémamegoldó képesség leépüléséhez vezet.

Papilonia Lepkevilág Papilonia Lepkevilág Hirdetés

Az elmúlt hónapok történetei elég látványosan megmutatják, milyen különböző helyzetekben lehet ennek súlyos vagy éppen röhejes következménye. Valakit egy hegyen ér utol, mást egy nem létező fesztivál helyszínén, egy harmadik esetben bírósági iratba vagy egészségügyi dokumentumba kerül a tévedés. Öt ilyen történetet szedtünk össze, mert együtt sokkal többet mondanak az MI használatáról, mint bármelyik külön-külön.

Geminivel tervezték meg a Shasta-hegy megmászását, mentőakció lett a vége

Három fiatal, tapasztalatlan túrázó augusztus végén indult el a kaliforniai Shasta-hegy csúcsára. A felkészüléshez YouTube-videókat, az AllTrails alkalmazást és a Google Gemini mesterséges intelligenciáját hívták segítségül. Az MI-től kérték el a teljes útvonaltervet, a szükséges felszerelés listáját, valamint a víz- és ételadagok kiszámítását is. 

Hajnal háromkor indultak el. A helyi hegyi mentők aranyszabálya szerint aki délig nem éri el a csúcsot, annak azonnal vissza kell fordulnia a saját biztonsága érdekében. A fiatalok azonban súlyosan elmérték az időt: csak este hétre értek fel, majd a teljes sötétségben kíséreltek meg leereszkedni. Útközben letértek a kijelölt csapásról, egyikük megsérült, a navigációra használt mobiltelefonjuk lemerült, a magukkal vitt külső akkumulátor pedig felmondta a szolgálatot. Az éjszakát a fagyos hegyen kényszerültek tölteni, másnap reggel rangerek és szakszerű hegyimentő egységek hozták le őket a sziklás terepről.

A Siskiyou megyei seriffhivatal a mentést követően külön kiemelte: a Gemini messze a biztonságos szint alatti étel- és vízmennyiséget javasolt a csoportnak. Ez a tévedés különösen akkor vált életveszélyessé, amikor a nyolcórásra tervezett túra többnapos drámává alakult. A hatóságok határozottan figyelmeztettek: a hegyi viszonyokról és az aktuális helyzetről kizárólag a helyi rangerállomásoktól szabad tájékozódni, és senki ne bízza az életét egyetlen algoritmusra.

A balesethez persze hibás döntések sora vezetett: órákkal túllépték a kritikus visszafordulási időt, figyelmen kívül hagyták a saját kétségeiket, és egyetlen okostelefonra alapozták a túlélésüket. A mesterséges intelligencia hibás tanácsa ennek a veszélyes láncreakciónak csak egyik eleme volt, de bármilyen komolyabb szakértő azonnal szétszedte volna a tervezéshez adott válaszait.

Tíz turistabusz érkezett a fesztiválra, amit meg sem rendeztek

A romániai Jurilovcán 2009 óta hagyományosan minden évben megtartják a híres lipován halászléfesztivált. 2026-ban azonban a szervezők úgy döntöttek, hogy az esemény elmarad. Erről az információról a ChatGPT láthatóan nem értesült. Szeptember első hétvégéjén több mint tíz turistabusz és számtalan személyautó gördült be a dobrudzsai településre. Halászlé, koncertek és vásári forgatag helyett azonban a polgármester fogadta a döbbent tömeget a szomorú hírrel, hog idén nincs rendezvény.

Eugen Ion polgármester elmondása szerint még utazási irodák is szerveztek csoportos utakat a nem létező eseményre. Amikor az önkormányzat megpróbálta tisztázni a félreértést, az egyik utazási iroda sziklaszilárdan azzal érvelt, hogy „az internet szerint igenis van fesztivál”. A csalódott turisták jelentős része szintén a ChatGPT-t jelölte meg elsődleges információforrásként.

A polgármester végül maga tette fel a kérdést a chatbotnak, hogy megrendezik-e a fesztivált. Az MI határozottan azt válaszolta, hogy a rendezvény szeptember 4-én és 5-én zajlik - közölte ezt éppen annak a településnek az első emberével, amely a szervezésért felelt volna.

Igazából bárkitől egyetlen ellenőrzés elegendő lett volna a megelőzéshez: a település hivatalos honlapjának megtekintése vagy egy gyors telefonhívás az önkormányzathoz. A történet első ránézésre ártalmatlanabbnak tűnik a hegyi mentésnél, a gyökere mégis ugyanaz: az algoritmus téves válasza megkérdőjelezhetetlen bizonyítékként épült be valódi emberek valódi döntéseibe.

Kiddos Kiddos Hirdetés

Az ügyvéd, aki elhitte az összes ügyet, amit az MI kitalált

2026 áprilisában az Alabamai Legfelsőbb Bíróság egy összetett családi öröklési vita fellebbezését tárgyalta. Az ügyfeleket képviselő W. Perry Hall beadványaiban azonban sorra bukkantak fel a pontatlanul idézott, illetve a teljesen kitalált, nem létező bírósági ügyek. Hall később elismerte, hogy generatív MI-t használt a jogi kutatómunkához, és az eredményeket nem ellenőrizte a hivatalos jogtárban.

A bírósági eljárás legbizarrabb pillanata hűen szemlélteti a kritikai gondolkodás teljes hiányát. Miután a szembenálló fél jogi képviselője kiszúrta a hamis hivatkozásokat, Hall a válaszbeadványában bocsánatot kért, és ünnepélyesen megígérte: a hiba nem fordul elő többé. Majd ugyanabban a lábjegyzetben, a bocsánatkérés közvetlen szomszédságában rögtön újabb két olyan jogesetre hivatkozott, amelyeket a mesterséges intelligencia hallucinált.

A bíróság elutasította a fellebbezést. Hallt 17 200 dollár ügyvédi költség megfizetésére kötelezték, súlyos fegyelmi szankciókat kapott, jövőbeni beadványait társszerzőként egy másik ügyvédnek is alá kell írnia, az ügyét pedig hivatalból továbbították az Alabamai Ügyvédi Kamarához.

Az eljáró bíróság határozatában rögzítette: a mesterséges intelligencia rendkívül hasznos eszköz lehet a jogi munkában. A felelőtlenséget és a problémát az jelentette, hogy az ügyvéd ellenőrzés és az eredeti források elolvasása nélkül kezelte tényként a rendszer által generált szöveget.

Amikor kitalál betegségeket is a rendszer

A brit állami egészségügyben egyre szélesebb körben alkalmaznak úgynevezett MI-írnokokat. Ezek a rendszerek valós időben hallgatják az orvos és a beteg közötti konzultációt, majd automatikusan strukturált jegyzetet és összefoglalót készítenek a kórlapba. A Healthwatch 2026 nyarán több olyan dokumentált esetet hozott nyilvánosságra, amikor ezekben a mesterségesen generált leletekben veszélyes hibák maradtak.

Egy páciens MRI-vizsgálatának összefoglalójában az MI azt rögzítette, hogy a felvétel demyelinizációt - azaz a velőshüvely pusztulásával járó, súlyos idegrendszeri elváltozást - mutatott ki, amely a szklerózis multiplex egyik jellegzetes tünete. A tényleges diagnózis ezzel szemben az volt, hogy a vizsgálat semmilyen kóros elváltozást nem talált. A súlyos tévedést maga a beteg vette észre, aki történetesen egészségügyi szakemberként dolgozott.

Egy másik dokumentált esetben az MI két hasonló elnevezésű, de eltérő hatóanyagú gyógyszert kevert össze, egy harmadik leletből pedig nyomtalanul eltűnt a beteg számára létfontosságú utasítás az ismételt recept igénylésére. A Healthwatch jelentése rávilágított: a hibák jelentős részét maguk a betegek fedezték fel azokban a leletekben, amelyeket az orvosok ellenőrzés és javítás nélkül véglegesítettek.

Ez a példa jól mutatja, milyen kockázatos, amikor a generatív hiba olyan dokumentumba kerül, amelyet a társadalom alapértelmezetten hitelesnek tekint. Egy professzionálisan formázott orvosi összefoglaló pontosan ugyanazt a szigorú kritikai ellenőrzést igényli, mint egy laza chatbot-válasz.

Ha többet akarsz tudni, kövess minket Facebookon, Instagramon és Viberen is!

Konyhasó helyett nátrium-bromidot evett három hónapig

És ha már a hiteles egészségügynél tartunk, az sem jobb, amikor a páciens akar okosabb lenni. Egy 2025-ben megjelent orvosi esetleírás egy hatvanéves férfi kálváriáját mutatta be, aki teljesen ki szerette volna iktatni a kloridot az étrendjéből, ezért a ChatGPT-hez fordult tanácsért. A konzultációt követően három hónapon keresztül nátrium-klorid (konyhasó) helyett az interneten rendelt nátrium-bromidot fogyasztott az étkezései során.

A férfi végül súlyos paranoiával, hallucinációkkal, elviselhetetlen alvászavarral és egyéb neurológiai tünetekkel került kórházba. Az orvosok akut bromidmérgezést állapítottak meg nála, és három hetes intenzív kórházi kezelésre szorult.

Az eset elemzésekor fontos megjegyezni: a kezelőorvosok nem fértek hozzá a beteg eredeti ChatGPT-beszélgetéséhez, így nem lehetett pontosan rekonstruálni, miként tette fel a kérdéseit, és mit válaszolt rá az akkori nyelvi modell. A tanulmány annyit állít biztosan, hogy a férfi az MI-vel folytatott egyeztetést követően jutott el a veszélyes vegyület alkalmazásához. A kutatók saját tesztjeik során azt tapasztalták, hogy hasonló jellegű kérdésekre a rendszer képes volt megemlíteni a bromidot, anélkül hogy megfelelő biztonsági figyelmeztetést vagy kontextust fűzött volna hozzá.

Ez már az a terület, ahol az algoritmus hibájának vagy a félreértelmezett válasznak közvetlenül az egészségünk az ára. 2026-ban egy 222 betegkérdésre épülő átfogó orvosi vizsgálat kimutatta: a tesztelt nagy nyelvi modellek válaszainak 5–13 százaléka - modelltől függően - kifejezetten életveszélyes tanácsokat tartalmazott.

LogIn támogatás LogIn támogatás Hirdetés

A veszély az, amikor abbahagyjuk az ellenőrzést

Az MI pontosan akkor veszi át az irányítást az emberi elme felett, amikor már elég jónak gondoljuk ahhoz, hogy ne kérdőjelezzük meg a kijelentéseit. Egy 2026-os szakmai tanulmány a kritikus MI-használat három alap pillérét különítette el:

  1. Rendszeres ellenőrzés: Az állítások forrásainak felkutatása.
  2. A pontosság iránti belső igény: A felületes, gördülékeny válaszok megkérdőjelezése, további információkérés.
  3. Reflektív mérlegelés: A kapott információk átengedése logikai szűrőnkön.

Azok a kísérleti résztvevők, akiknél ezek a kognitív funkciók erősebben működtek, egy valós chatbot-használatot szimuláló tesztben nagyságrendekkel pontosabban azonosították a hallucinált vagy hamis információkat, és összetettebb ellenőrzési stratégiákat alkalmaztak.

A mindennapi gyakorlatra lefordítva mindez rendkívül egyszerű. Amikor a képernyőn megjelenik az MI válasza, a legelső kérdésünk mindig ez legyen: Mi van akkor, ha ez az információ téves? Egy esti filmötletnél vagy egy ételreceptnél minimális a kockázat. Egy hegyi túraútvonal megtervezésénél, gyógyszeradagolásnál, jogi beadványnál vagy egy nagyobb pénzügyi döntésnél azonban az ellenőrzés elmaradása végzetes lehet.

A második elengedhetetlen kérdés: Ki birtokolja ezt az információt első kézből? A jurilovcai fesztivál elmaradásáról a helyi önkormányzat tud pontosat. A Shasta-hegy aktuális viszonyairól a helyi rangerállomás ad hiteles tájékoztatást. Egy gyógyszer mellékhatásairól a kezelőorvos, a gyógyszerész és a hivatalos betegtájékoztató nyújt garanciát. Egy jogi ítéletről maga a bírósági határozat a bizonyíték. A mesterséges intelligencia kiváló eszköz arra, hogy elvezessen bennünket az elsődleges forrásokhoz, de az ellenőrzési folyamatot mindig forráskritikusan kell végeznünk.

A harmadik kérdés a frissességre vonatkozik: Mennyire naprakész az adat? Rendezvényeket törölnek, túraútvonalakat zárnak le, jogszabályok változnak, az emberi szervezet pedig egyedi reakciókat adhat. A generatív MI egyik legveszélyesebb tulajdonsága, hogy az elavult vagy hiányos adatokból is képes tökéletesen megformált, magabiztos és határozott kijelentéseket megfogalmazni. 

Éppen ezért a gyermekeinknek a mesterséges intelligencia használata mellett annak szigorú ellenőrzését is meg kell tanítanunk. Nyugodtan kérdezhetnek a ChatGPT-től vagy a Geminitől, kérhetnek ötleteket, vázlatokat, magyarázatokat vagy segítséget a tanuláshoz. Egyetlen kulcsfontosságú mozdulatot kell rutinná tennünk számukra: amikor a kapott válasznak valódi tétje és következménye van, meg kell keresni azt a hiteles forrást, amely jogi és szakmai felelősséget vállal az információért. Ha nem, akkor mi leszünk a felelősek azért, ami történhet.