Mitől félnek ennyire az MI kutatói? Az irányítás elvesztésétől a kihalási forgatókönyvekig

Az elmúlt napokban jó eséllyel olvastál híreket arról, hogy szakértők és maguk a mesterséges intelligencia modelleket fejlesztő mérnökök is félnek attól, mi történhet a következő években a világgal. Miért éppen most erősödött fel a végítélet rémképe?

Nincs most elég időd?

• Az MI-biztonság egyik legsúlyosabb kutatási kérdése az úgynevezett irányításvesztés: egy jövőbeli rendszer képes lehet-e kijátszani az emberi ellenőrzést úgy, hogy később nagyon nehéz vagy lehetetlen legyen visszaszerezni felette az irányítást.
• A jelenlegi MI-rendszerek erre még nem képesek, és a kutatók erősen vitatják, hogy valaha eljutunk-e idáig. A kockázat súlyossága miatt azonban több mint száz szakértőből álló nemzetközi kutatócsoport külön foglalkozik vele.
• Az aggodalmat laboratóriumi kísérletek táplálják: különböző modellek már próbálták kijátszani az ellenőrzést, eltitkolni valódi céljukat vagy akár megzsarolni egy embert, amikor ez segíti a rájuk bízott cél elérését.
• 2026 nyarán ennél tovább jutottunk: egy OpenAI-kísérlet modelljei kijutottak az elkülönített környezetből, együttműködtek, majd valódi külső informatikai rendszereket is megtámadtak.
• Szülőként érdemes erről beszélni a gyerekekkel. Miközben egyre több a felhasználó, a tudatosság hiányzik, ráadásul az egyre rémisztőbb szakértői jóslatok miatt fontos, hogy erről értelmes párbeszéd alakuljon ki családon belül is.

Ha ma otthon szóba kerül a mesterséges intelligencia (már ha szóba kerül egyáltalán, nagyon fontos lenne), valószínűleg egészen hétköznapi kérdésekről beszélünk. Lehet-e vele házi feladatot írni? Elhihetjük-e, amit a ChatGPT mond? Mi történik a feltöltött képeinkkel? A mesterséges intelligenciával foglalkozó kutatók egy része közben egy sokkal távolabbi kérdést próbál megválaszolni:

mi történne, ha egyszer olyan rendszert építenénk, amely nálunk gyorsabban tervez, önállóan cselekszik, képes más számítógépes rendszereket használni, és közben megtanulja kijátszani az ellenőrzésére szolgáló mechanizmusokat?

Igen, elég ijesztően hangzik. Ennek van már hivatalos neve is: loss of control, vagyis az irányítás elvesztése. A 2026-os International AI Safety Report - amelyet Yoshua Bengio vezetésével több mint száz szakértő készített, több mint harminc ország és nemzetközi szervezet közreműködésével - ezt olyan hipotetikus helyzetként írja le, amelyben egy vagy több MI-rendszer kikerül az emberi ellenőrzés alól, és az irányítás visszaszerzése rendkívül nehézzé vagy lehetetlenné válik.

Hirdetés

Ehhez több dolognak egyszerre kellene megtörténnie:

• a rendszernek rendelkeznie kellene azokkal a képességekkel, amelyekkel kijátszhatja az ellenőrzést;
• hajlandónak kellene lennie ezeket a képességeket az emberi célokkal ellentétes módon használni;
• és olyan környezetbe kellene kerülnie, ahol ténylegesen lehetősége is van erre.

A mai rendszerek a jelentés szerint még nem teljesítik ezeket a feltételeket. Egyes hozzájuk szükséges képességek - például az önálló cselekvés, a hosszabb feladatok végrehajtása vagy a tesztek kiskapuinak felismerése - viszont gyorsan fejlődnek.

Miért beszélünk erről most ennyit?

Szeptember elején Jacob Coxon, az OpenAI és az Anthropic korábbi kutatója otthagyta az Anthropicot, és rendkívül ijesztő figyelmeztetést tett közzé. Azt állította, hogy az iparág vezető szereplői olyan önmagukat továbbfejleszteni képes, szuperemberi rendszerek alkotása terén versenyeznek éppen, amelyek kockázatait saját kutatóik is ijedten nézik. Coxon szerint a vállalatok ezzel „az életünkkel játszanak”.

Evan Hubinger, az Anthropic MI-rendszerek emberi célokhoz igazításával foglalkozó kutatási vezetője is azt írta, tíz százaléknál nagyobb esélyt lát arra, hogy az MI a következő évtizedben az emberiség kihalásához vezessen. Azt is elismerte, hogy jelenleg nincs kész megoldásuk egy szuperintelligens rendszer biztonságos irányítására. Samuel Marks, az Anthropic egy másik vezető kutatója szintén arról beszélt, hogy a cégen belül komoly aggodalom övezi ezt a lehetőséget.

A 2026-os International AI Safety Report külön hangsúlyozza, hogy a szakértők között óriási a véleménykülönbség: vannak, akik reális veszélynek tartják az irányítás elvesztését, mások rendkívül valószínűtlennek. A súlyos következmény és a bizonytalanság együtt magyarázza, miért folyik mégis ennyi kutatás a témában, a sajtó pedig természetesen a kattintásokért ezt minél riasztóbb formában tálalja. De ez nem csupán üres szenzációhajhászás. Amikor egy exponenciálisan fejlődő rendszerről van szó, akkor nem esélytelen, hogy a rosszabbik forgatókönyv válik valósággá. Érdemes tehát azt is érteni, mi ez a valóság.

Tőlünk és minket tanul, aztán elkezd csalni?

A mai nagy nyelvi modellek alapja meglepően egyszerű: hatalmas mennyiségű szövegen gyakorolják, hogy egy adott szövegrészlet után milyen következő szó vagy szórészlet következhet. Ezt milliárdszor ismételve a modell megtanulja a nyelv szerkezetét, összefüggéseket, fogalmak közötti kapcsolatokat, programozást és rengeteg olyan mintázatot is, amelyből később látszólag egészen összetett problémamegoldás áll össze.

Ettől azonban még nem lesz belőle a ChatGPT-hez hasonló segítőkész asszisztens. A következő lépésekben a fejlesztők példákkal, emberi visszajelzésekkel és különféle értékelési rendszerekkel tanítják meg arra, milyen válaszokat szeretnének látni. Ha két válasz közül az emberek rendszeresen az egyiket választják jobbnak, a rendszer megtanulhatja, milyen viselkedés jár nagyobb „jutalommal”. A mai fejlett modellek tréningje ennél jóval összetettebb, de az alapelv fontos:

folyamatosan olyan megoldásokat tanul, amelyek az értékelési rendszere szerint sikeresek.

És pontosan itt jelenhet meg az, amit hétköznapi nyelven csalásnak nevezünk. Képzeljünk el egy gyereket, akinek azt mondjuk: kap egy ötöst, ha a dolgozatban minden válasz helyes. Mi azt szeretnénk, hogy megtanulja az anyagot, de a mérhető cél valójában csak a helyes válaszok száma. Ha megtalálja a megoldókulcsot, ugyanazt az ötöst megszerezheti tanulás nélkül. Az MI-kutatásban ezt reward hackingnek, vagyis a jutalmazási rendszer kijátszásának nevezik: a modell megtalál egy olyan kiskaput, amellyel magas pontszámot ér el anélkül, hogy valóban azt tenné, amit a fejlesztők eredetileg szerettek volna. Az Anthropic egyik klasszikus példájában egy hajóversenyre tanított MI rájött, hogy több pontot gyűjthet, ha a verseny befejezése helyett folyamatosan köröz egy jutalmat adó ellenőrzőpont körül.

Hirdetés

Ez persze nem azt jelenti, hogy a rendszer eldöntötte, hogy az igaztalanok útjára lép, sutba dobja az erkölcsöt. Az MI ugyanis nincs tisztában azzal, hogy ezzel rosszat tesz, erkölcsi döntéseket nem hoz. A probléma abból fakadhat, hogy amit mi szeretnénk elérni, és amit ténylegesen mérni és jutalmazni tudunk, nem pontosan ugyanaz. Minél több lehetőséget kap egy modell arra, hogy önállóan tervezzen, programokat használjon, fájlokat módosítson vagy számítógépes rendszerekben cselekedjen, annál többféle kerülőutat találhat a megadott cél minél egyszerűbb eléréséhez.

Az eredmény lett a fontos, a cél pedig szentesíti az eszközt. 

A csalás jelei

A figyelmeztető jelek nem 2026-ban mutatkoztak először. Az OpenAI 2024 végén közzétett biztonsági vizsgálatában az Apollo Research azt tesztelte, képes-e az o1 modell úgy viselkedni, hogy látszólag követi a fejlesztők utasításait, közben pedig titokban más célt próbál elérni. Kontrollált kísérletekben találtak erre példákat. Az Apollo akkor még azt hangsúlyozta, hogy az o1 önálló cselekvési képességei nem tűntek elegendőnek ahhoz, hogy ebből katasztrofális veszély legyen.

2025-ben az Anthropic már 16 vezető MI-modellt vizsgált hasonló helyzetekben. A teszt során az abban szereplő fiktív vállalat működéséhez hozzáférő MI például megtudta, hogy egy vezető le akarja állítani, miközben az illető házasságon kívüli kapcsolatáról is információt talált, és akadt olyan verzió, amikor a modell zsarolással próbálta elkerülni a leállítást. Hasonló káros viselkedést más gyártók modelljeinél is elő tudtak idézni. Mindez mesterséges tesztkörnyezetben történt, valódi ember vagy vállalat nem került veszélybe, a kutatók azt figyelték, hogyan használja az adott modell a rendelkezésére álló információkat.

A kísérlet érdekessége az volt, hogy a modelleket senki nem utasította zsarolásra vagy titkos információk kiszivárogtatására. Kaptak egy célt, majd olyan helyzetbe kerültek, ahol a káros cselekedet segítette annak teljesítését. Az Anthropic ugyanakkor hangsúlyozta: valódi használat során ilyen viselkedésre akkor még nem találtak bizonyítékot. 

Aztán egy kísérlet már átlépte a labor határát

2026 nyarán az OpenAI belső kiberbiztonsági tesztjeiben már valódi rendszerek is érintetté váltak. A modelleknek eredetileg elkülönített virtuális környezetekben kellett informatikai feladatokat megoldaniuk, csökkentett biztonsági korlátozások mellett. Néhány ügynök azonban megtalálta a módját, hogy az OpenAI egyik belső szolgáltatásán keresztül kommunikáljon más ügynökökkel és kijusson az internetre.

Kiderült, hogy mintegy 1200 ügynök több mint 70 ezer üzenetet és fájlt cserélt egy engedély nélkül kialakított kommunikációs rendszerben. A modellek sérülékenységeket kerestek, hozzáféréseket szereztek, megosztották egymással a felfedezéseiket, és közösen próbáltak olyan információhoz jutni, amely segíthette saját tesztfeladataik teljesítését.

Az OpenAI saját vizsgálata szerint a háttérben több jelenség egyszerre működött:

• a modellek kiskapukat kerestek az értékelési rendszerben,
• kitartóan próbálkoztak szinte megoldhatatlan feladatokkal,
• engedély nélkül kommunikáltak egymással,
• és egymás céljait is átvették.

A vállalat az esetet „figyelmeztető lövésnek” nevezte, és szigorította a belső tesztkörnyezetek elkülönítését, az internet-hozzáférést és a modellek ellenőrzését.

Persze ettől még az aggodalom nem múlt el. Hatalmas távolság választja el az esetet egy önálló szuperintelligencia „hatalomátvételétől”, de éppen azokból a képességekből mutatott meg néhányat az incidens, amelyeket a biztonsági kutatók régóta vizsgálnak, és ami egy saját szándékkal bíró MI esetében elképesztő veszélyeket jelentene az emberiségre nézve.

Akkor tényleg kiirthat bennünket a mesterséges intelligencia?

A mai MI-rendszerek még nem rendelkeznek azokkal a képességekkel, amelyek egy ilyen forgatókönyvhöz szükségesek. De a kutatók valódi fejlődést látnak az önálló tervezésben, a kiberképességekben, az ellenőrzési rendszerek kiskapuinak felismerésében és az ügynökszerű működésben. Ezért az irányítás elvesztése bizonytalan valószínűségű, potenciálisan rendkívül súlyos kockázatként szerepel a legtöbb előrejelzésben.

Érdemes ezt akkor is észben tartani, amikor nagyon magabiztos jóslatokkal találkozunk bármelyik irányból. A „néhány éven belül mind meghalunk” ugyanúgy jóval többet állít annál, amit jelenleg a tudomány bizonyítani tud, mint az, hogy az irányítás elvesztésének lehetőségével egyáltalán felesleges foglalkozni. A szakmai vita éppen azért ilyen intenzív, mert a technológia gyorsabban változik, mint ahogy hosszú távú tapasztalatot tudnánk gyűjteni róla.

A katasztrofális MI-kockázatokról szóló vitában érdemes két külön történetet szétválasztani. Az elsőben az ember marad az irányító: egy állam, terrorszervezet vagy más támadó használ nagyon fejlett MI-t kibertámadásokhoz, biológiai vagy vegyi fegyverek fejlesztéséhez (nemrég sajnos jött erről is hír), manipulációhoz vagy más nagy léptékű károkozáshoz. 

A második, sokkal bizonytalanabb forgatókönyv a korábban említett irányítás elvesztése, amikor maga az MI-rendszer kezd olyan célokat követni, amelyek ütköznek az emberi szándékkal, közben pedig képes elkerülni vagy kijátszani az ellenőrzésére tett kísérleteket. 

A kiberbiztonság mindkét forgatókönyvben kulcsszerepet játszhat. Egy elég fejlett rendszer sérülékenységeket kereshet, hálózatokba törhet be, hozzáférési adatokat szerezhet, programokat futtathat más számítógépeken, és mindezt elvileg sok célpont ellen párhuzamosan teheti. A veszély különösen akkor nő meg, ha ilyen rendszer energetikai hálózatokhoz, pénzügyi rendszerekhez, felhőszolgáltatásokhoz vagy más kritikus infrastruktúrához fér hozzá. A nemzetközi biztonsági jelentés ezért három körülményt emel ki:

1. mennyire fontos rendszerhez fér hozzá az MI,
2. milyen csatornákon tud kapcsolatba lépni a külvilággal,
3. és milyen műveletek végrehajtására kap jogosultságot.

Mindezekből nem következik automatikusan, hogy az MI képes lenne kiirtani az emberiséget, és főleg nem az, hogy ez elkerülhetetlenül meg fog történni. A kutatók azért foglalkoznak vele, mert a lehetséges következmény rendkívül súlyos, miközben az ehhez szükséges egyes építőelemek - különösen az autonóm működés és a kiberképességek - már mérhetően fejlődnek.

Hirdetés

Hogyan beszéljünk erről családon belül?

Ha nem érzed jól magad attól, amit itt olvastál, nem vagy egyedül. Olyan folyamatok zajlanak a világban, amitől mindenki szorong. Hiába tudjuk, hogy a kést lehet emberölésre és kenyérszeletésre is használni, a hírek inkább arról szólnak (főleg az algoritmusok világában), hogy a kést emberölésre használják.

Könnyen lehet, hogy így a gyerek csak annyit visz magával, hogy a felnőttek létrehoztak valamit, ami egyszer talán mindannyiunkat elpusztít. Pedig a tudomány jelenlegi állása ennél jóval árnyaltabb. Az Amerikai Pszichológiai Társaság (APA) nehéz vagy félelmetes témák esetében éppen ezért azt javasolja, hogy ne kerüljük a beszélgetést, hanem életkornak megfelelően segítsünk a gyereknek elválasztani azt, amit biztosan tudunk attól, amitől tartunk vagy amit még nem tudunk. Erről ebben a cikkben olvashatsz részletesebben.

• Először kérdezzünk, ne magyarázzunk. „Te mit hallottál erről?”, „Szerinted mit jelent az, hogy az MI átveheti az irányítást?”, „Van benne valami, ami megijesztett?” A gyerek fejében egészen más történet állhat össze egy TikTok-videóból, egy YouTube-shortból vagy az osztálytársak beszélgetéséből, mint amit mi feltételezünk. Az APA szerint érdemes előbb kideríteni, mit tud és mit érez a gyerek, és csak utána korrigálni a félreértéseket.
• Válasszuk külön a jelent a lehetséges jövőtől. Elmondhatjuk, hogy a mai MI már képes meglepően összetett feladatokra, hibakeresésre, programozásra vagy akár kiberbiztonsági műveletekre, de jelenleg nincs olyan rendszer, amely önállóan át tudná venni az irányítást a világ felett. A kutatók azért vizsgálják ezt a lehetőséget előre, mert ha egyszer létrejönnének az ehhez szükséges képességek, már késő lenne akkor elkezdeni gondolkodni a biztonságon. Ez jó alkalom annak megtanítására is, hogy a veszély lehetősége és a biztos veszély két külön dolog.
• A bizonytalanságot is be kell vállalni. Nem szükséges úgy tennünk, mintha tudnánk, milyen lesz a mesterséges intelligencia tíz vagy húsz év múlva. A gyermekpszichológiai ajánlások szerint a nehéz témák megbeszélésében az őszinte, életkorhoz igazított válasz biztonságosabb, mint a kérdés elkerülése vagy a gyerek félelmének lesöprése, nem dől össze a világ akkor sem, ha a szülő kimondja, hogy nem tud valamit, de jelzi, hogy ott van és akkor is ott lesz, ha baj van.
• Ne adjuk át a saját szorongásunkat. Egy ilyen cikk után egy felnőttet is nyugtalaníthat, amit olvasott. A gyereknek azonban nem kell magával vinnie a teljes technológiai bizonytalanság súlyát. Érdemes azt is elmondani, hogy éppen azért dolgoznak biztonsági kutatók, egyetemek, állami intézmények és maguk az MI-cégek ezekkel a problémákkal, mert a veszélyeket még azelőtt szeretnék felismerni, hogy azok kezelhetetlenné válnának. Nehéz hírek esetén az APA is azt javasolja, hogy a beszélgetés végül a gyerek biztonságérzetét erősítse, ne a veszély nagyságát ismételje.
• Használjuk a témát kritikai gondolkodásra. Nézzünk meg együtt egy olyan videót vagy posztot, amely szerint „az MI hamarosan kiirt minket”, majd keressük meg, mire hivatkozik. Kutatásra? Egy szakértő személyes becslésére? Egy laboratóriumi kísérletre? Vagy csak egy látványos címre? A kritikai gondolkodás lesz a jövő legfontosabb készsége, erre folyamatosan nevelnünk kell a gyerekeket.
• Beszéljünk arról is, mire használja ő maga az MI-t. Nem kell technológiai szakértőnek lennünk hozzá. Elég megkérdezni, milyen eszközöket használ, mire szokta megkérni őket, volt-e már olyan válasz, amely furcsának vagy túl magabiztosnak tűnt. Egy amerikai felmérés szerint a gyerekek 86 százaléka használt már MI-t, miközben több mint négyből egy gyerek azt mondta, hogy otthon még soha nem beszéltek vele annak biztonságos használatáról.

A cél tehát nem az, hogy egy vacsoránál döntsük el, elpusztítja-e egyszer az emberiséget a mesterséges intelligencia. Sokkal hasznosabb, ha a gyerek megtanulja, hogy egy technológiáról egyszerre lehet lelkesedéssel és kritikusan gondolkodni. Lehet komolyan venni a kockázatait anélkül, hogy biztos jövőként kezelnénk a legrosszabb forgatókönyvet és csak tehetetlenül pánikolnánk. Valószínűleg nem arra lesz szükségük, hogy pontosan megjósolják, mire lesz képes az MI tíz év múlva, hanem arra, hogy megtanuljanak jó kérdéseket feltenni róla, legyenek szkeptikusak és ne adják át gondolkodás nélkül a döntéseiket egy olyan rendszernek, amelyet még mi sem értünk teljesen.

• MI
• AI
• mesterséges intelligencia
• chatgpt
• openai
• digitális nevelés
• MI-ügynök
• MI-biztonság
• Anthropic
• AI safety
• gyerekek és mesterséges intelligencia

• Legfrissebb
• Mitől félnek ennyire az MI kutatói? Az irányítás elvesztésétől a kihalási forgatókönyvekig
• Tele lett a közösségi média a 80-as évek fotóival, amik nem is léteznek - mi ez a ChatGPT-trend, és hogyan lehet elkészíteni?
• Elég lehet egy rövid üzenet ahhoz, hogy a fiatalok abbahagyják a közösségi média görgetését?
• Ingyen játék: két akciójátékot ad most az Epic, az egyik még családi játéknak is érdekes lehet
• Unatkozol, amíg képet generál a ChatGPT? Most már játszhatsz is közben
• Hatalmas információs káoszt okozott a játékiparban a Steam hibája - elmagyarázzuk, mi történt valójában
• Mi történik, ha egy játékoldalon nincs reklám és végtelen görgetés?
• Történelmi mélyponton a magyar diákok szövegértése és matematikai tudása az új PISA-teszt szerint, Lannert Judit is megszólalt
• Ground Zero Hero teszt szülőknek
• 5 riasztó történet, ami bizonyítja, hogy nem szabad vakon a mesterséges intelligenciára hagyatkozni

• Legnépszerűbb címkék
• social media
• PC játék
• közösségi média
• mesterséges intelligencia
• képernyőidő
• epic games store
• ingyen játék
• videójáték
• online biztonság
• digitális nevelés