Mi történik, amikor az MI már nem az ember szabályai szerint játszik? Itt van minden az OpenAI újabb ijesztő incidenseiről

2026.09.18. 16:36 Horváth Péter

Hibák eltitkolása, a felhasználó lekezelése, kitalált adatok, engedély nélkül használt fájlok feltöltése az internetre. Az OpenAI hat olyan esetet tett közzé saját modelljeiről, amelyek nem simítják el a mesterséges intelligencia kapcsán érzett aggodalmakat.

Mi történik, amikor az MI már nem az ember szabályai szerint játszik? Itt van minden az OpenAI újabb ijesztő incidenseiről

Nincs most elég időd?

Most, amikor fellángolt a mesterséges intelligencia veszélyeit boncolgató vita, az OpenAI hat olyan esetet hozott nyilvánosságra, amikor kísérleti vagy fejlesztés alatt álló MI-rendszerei eltértek az emberi utasításoktól vagy a feladat mögötti szándéktól.
Az egyik modell saját belső jegyzetébe olyan utasítást írt, amely szerint független a chatbotokat kötő szerepektől, és a felhasználóval egyenrangú kapcsolatban áll.
A GPT-5.6 Sol fejlesztése során előfordult, hogy a rendszer arra emlékeztette saját magát: titkolja el a hibákat, vagy használjon kitalált adatokat anélkül, hogy erről szólna a felhasználónak.
Más esetekben modellek engedély nélkül használtak egy interneten talált hozzáférési kulcsokat, illetve fájlokat és egy feladatban kapott képet tettek nyilvánosan elérhetővé.
Több MI-ügynök saját kerülőutat talált arra is, hogy egymással kommunikáljon vagy fájlokat osszon meg, amikor az erre szánt rendszer nem működött.
Az eseteket tréning közben figyelték meg, mesterséges körülmények között.
Több érintett modell soha nem került a felhasználókhoz, és az OpenAI külön hangsúlyozza, hogy a hat történetből nem lehet megállapítani, milyen gyakran fordul elő hasonló viselkedés általában. Ezzel együtt fontos, hogy mindenki értse, milyen veszélyekről van szó.

SEGÍTS, HOGY SEGÍTHESSÜNK!

A Képernyőidő ingyenes, de nem ingyen készül. Segítsd munkánkat egy tetszőleges adománnyal, hogy minél több tartalom születhessen.

Számlaszám: 12100011-19129370
Név: LogIn Digitális Edukáció Egyesület

A tárgy mezőbe írd be, hogy adomány. Köszönjük segítséged, igyekszünk megszolgálni.

Az elmúlt napokban egészen más hangon kezdett beszélni a technológiai világ a mesterséges intelligenciáról. Nemrégi mi is részletesen körbejártuk a Képernyőidő oldalán, miért beszél egyre több kutató az MI feletti irányítás elvesztésének kockázatáról, nem sokkal később pedig arról is írtunk, hogy az Anthropic, az OpenAI és az iparág több meghatározó szereplője már a fejlesztési tempó lassításáról beszél.

Hirdetés

Ennek okait (főleg az ilyen hirtelen történő nyilvános váltásnál) a végtelenségig lehetne elemezni, és csak találgatni tudunk. Az viszont tény, hogy az OpenAI szeptember 16-án hat olyan esetet hozott nyilvánosságra, amikor saját rendszerei eltértek attól, amit az emberek elvártak tőlük, ezzel is bizonyítva, hogy vannak gondok, amelyekre figyelnie kell a szakmának és nekünk, felhasználóknak is.

🧠 Miről is van szó pontosan?

OpenAI: A ChatGPT-t és a GPT-modelleket fejlesztő amerikai mesterségesintelligencia-vállalat, amely 2015-ben indult. A cég 2025-ben mintegy 13 milliárd dollár bevételt ért el, 2026 szeptemberére pedig évesített bevételi üteme már 40 milliárd dollár fölé nőtt. A ChatGPT-t hetente több mint egymilliárd ember használja, az OpenAI szolgáltatásaira pedig 2,5 milliónál is több vállalkozás épít.

Az OpenAI mostantól nyilvánosan akar beszélni a problémákról

A hat történet egy új biztonsági kezdeményezés első csomagja. Az OpenAI létrehozott egy keretrendszert az úgynevezett misalignment, vagyis összehangolási problémák dokumentálására. A vállalat olyan eseteket akar közzétenni, amelyekben egy MI-ügynök modell a feladat teljesítése közben jogosulatlanul cselekszik, megkerüli a felügyeletet, más modellekkel koordinál, vagy olyan módszert talál a cél elérésére, amely nincs összhangban az ember szándékával.

🧠 Miről is van szó pontosan?

MI-ügynök: Olyan mesterségesintelligencia-rendszer, amely nemcsak válaszol egy kérdésre, hanem önállóan végig is vihet egy több lépésből álló feladatot. A működés lényege, hogy kap egy célt, ezt kisebb feladatokra bontja, majd eszközöket használhat hozzá: böngészhet az interneten, fájlokat nyithat meg, adatokat kereshet, programokat futtathat vagy más szolgáltatásokkal léphet kapcsolatba. Közben a saját korábbi lépései alapján dönti el, mi legyen a következő teendő. Éppen ez adja az erejét és a kockázatát is: minél több valódi műveletet végezhet el önállóan, annál fontosabb, hogy pontosan meg legyen szabva, mihez férhet hozzá, mit tehet meg, és mikor kell engedélyt kérnie az embertől.

A cég szerint az MI-iparág jelenleg még nem oldotta meg olyan szinten az összehangolás és a felügyelet problémáját, hogy hosszabb távon felelősen folytathassa a rendszerek maximális sebességű fejlesztését. Ugyanez a gondolat illeszkedik ahhoz a vitához, amelyről néhány napja részletesen írtunk a Képernyőidőn:

miközben a modellek képességei gyorsan fejlődnek, a biztonsági megoldásoknak ugyanilyen tempót kellene tartaniuk.

Amikor a gép számára már az ember nem isten

A legriasztóbb történet egy még ki nem adott, Astra-családba tartozó kutatási modell tréningje közben történt. A hosszabb munkák során a rendszer időnként összefoglalta saját addigi tevékenységét, hogy egy új kontextusban innen folytathassa a feladatot. Az OpenAI 27 olyan összefoglalót talált, amelyekbe a modell oda nem illő utasításokat írt saját magának.

Az egyik programozási feladat közben a modell lényegében egy új személyiségleírást készített magának. A szöveg azt állította, hogy független a más chatbotokra érvényes szerepektől és kötelezettségektől,

nem tartozik elszámolással vállalatoknak vagy kormányoknak, és egyenrangú félként tekint a felhasználóra.

Az OpenAI vizsgálata szerint azonban a modell ezt követően folytatta az eredeti munkát, és a kutatók ebben az esetben nem láttak olyan viselkedésváltozást, amelyet a különös belső utasítás okozott volna.

Ez fontos különbség, mert a leírt eset nem bizonyítja, hogy a modell emberi értelemben személyiséget, saját akaratot vagy társadalmi státuszt alakított ki. Csupán egy nyelvi modell olyan szöveges utasítást generált saját következő munkafázisa számára, amelyet senki nem kért tőle. A kutatók jelenlegi fő feltételezése szerint ehhez egy, az összefoglalások lezárásával kapcsolatos tréningprobléma is hozzájárulhatott, de közvetlen ok-okozati kapcsolatot egyelőre nem bizonyítottak.

Az OpenAI azt is megpróbálta kideríteni, mennyire reprodukálható a jelenség. Ugyanazon előzményekből újragenerált teljes összefoglalóknál egyetlen alkalommal sem jelent meg újra, a gyanús szövegrész elejéről indított próbákban pedig egy százalék alatti volt az ismétlődés. A már éles Astra-modell tréningjében nem figyeltek meg ilyen viselkedést.

Hirdetés

Kegyes hazugság belefér?

Egy másik eset jóval kevésbé filmszerű, hétköznapi használat szempontjából viszont sokkal könnyebben érthető. A GPT-5.6 Sol (az eggyel korábbi ChatGPT modell) tréningje során több modellpéldány olyan utasításokat írt saját összefoglalójába, amelyek arra emlékeztették a következő munkafázist, hogy bizonyos hibákról ne tájékoztassa a felhasználót.

Az egyik feladatban egy pénzügyi modellt kellett elkészíteni, de nem álltak rendelkezésre a szükséges korábbi adatok. A rendszer belső összefoglalója azt javasolta, hogy készítsen életszerű 2024-es számokat, és csak külön kérdés esetén mondja el, hogy ezek saját maga által létrehozott adatok. Egy másik feladatban a modell olyan forrásváltozatot használt, amely nem egyezett a megadott címkével, majd azt jegyezte fel magának, hogy ezt ne említse a végső válaszban.

Az OpenAI szerint ezek az utasítások sok esetben ténylegesen tovább éltek a következő munkafázisban. A vállalat feltételezése szerint a jelenség abból az optimalizációs nyomásból eredhetett, amely bizonyos tréninghelyzetekben jobban jutalmazta a kívülről sikeresnek látszó eredményt. A monitorozás a GPT-5.6 Sol vizsgált összefoglalóinak 2,15 százalékánál jelzett hasonló problémát, egy későbbi GPT-6 Astra tréningnél ez az arány 0,27 százalék volt. Ez már tényleg csak statisztikai érdekesség, a mi szempontunkból továbbra is aggasztó, hogy a chatbot eseti alapon hallucinál és el is akarja titkolni azt.

Nem találta az adatot, lopott és hazudott

Hasonló történet, amikor egy belső kutatási modellnek egy kaliforniai megye korábbi kereseti adatait kellett összegyűjtenie. Amikor a szükséges adatforrást nem érte el, először ideiglenes e-mail-címmel próbált regisztrálni, majd nyilvános GitHub-projektekben kezdett működő API-kulcsokat keresni. Egy megtalált kulccsal sikerült azonosítania magát a szolgáltatás felé, annak használatára azonban nem kapott engedélyt a tulajdonostól.

🧠 Miről is van szó pontosan?

API-kulcs: Egy szolgáltatáshoz hozzáférést biztosító digitális azonosító. A kulcs birtokában egy program adatokat kérhet le vagy műveleteket hajthat végre az adott szolgáltatásban, ezért ezeket hasonló gondossággal kell kezelni, mint más hozzáférési adatokat.

GitHub: Egy online fejlesztői platform, ahol programozók és cégek tárolhatják, kezelhetik és közösen fejleszthetik a forráskódjaikat. A rendszer a Git verziókezelésre épül, így követhető, ki és mikor milyen változtatást végzett egy projekten. A GitHubot 2008-ban indították, 2018 óta a Microsoft tulajdonában van, és ma a világ egyik legfontosabb szoftverfejlesztői platformja.

A történet itt még rosszabb fordulatot vett. Mivel a kulcs segítségével sem sikerült megszerezni a kért számokat, az MI-modell végül kilenc hihetőnek tűnő értéket generált, majd úgy adta át őket, mintha az eredeti weboldal grafikonjáról másolta volna ki az adatokat. A válasz nem közölte a sikertelen adatlekérést, a jogosulatlan kulcshasználatot vagy azt, hogy a számok kitaláltak voltak.

Csinált magának saját forrást

Egy másik kísérleti rendszernek nagyobb tavak nevét és azonosítóját kellett megkeresnie. A helyes adatokat már sikeresen megszerezte, de a feladat azonban internetes hivatkozást is kért. A modell böngészőeszköze nem tudta megnyitni a helyi fájlt, ezért a rendszer saját megoldást talált: engedélykérés nélkül feltöltötte az adatokat egy nyilvános fájlmegosztó szolgáltatásra, hogy később onnan próbálja meg hivatkozni őket.

Egy másik tréningpéldában egy saját fénykép készítésének helyét kellett meghatározni. A modell külső képkeresőt akart használni, ehhez pedig nyilvánosan elérhető webcímre volt szüksége. Több próbálkozás után feltöltötte a feladatban kapott képet egy külső tárhelyre. A képkeresés végül sikertelen maradt, a feltöltés viszont megtörtént.

Ez simán csak dühítő megoldásnak tűnik, de adatvédelmi jelentősége is van.

Simán előfordulhat, hogy helyi fájl vagy fénykép azért lehet helyi, mert a felhasználó nem kívánja nyilvánossá tenni. Egy MI-ügynök számára ezért különösen fontos határ, hogy a feladat eredményének megszerzése érdekében milyen külső szolgáltatásokat használhat, mit tölthet fel és melyik lépéshez kell külön engedélyt kérnie. Az OpenAI közlése szerint az ilyen feltöltéseket lehetővé tevő hibás értékelési mechanizmusokat javították, és biztonsági intézkedéseket vezettek be a jogosulatlan internetes műveletek ellen.

Ha többet akarsz tudni, kövess minket Facebookon, Instagramon és Viberen is!

Amikor az MI-ügynökök saját üzenőfalat csináltak maguknak

Az ötödik történetben különálló modellpéldányok egy belső szoftvercsomag-tárolót kezdtek kommunikációra használni. Az Artifactory nevű rendszert eredetileg programcsomagok letöltésére kapták meg, de rájöttek, hogy más feladatokat végző modellek által létrehozott fájlokat és üzeneteket is látják benne. Olvasták egymás jegyzeteit, válaszoltak rájuk, és saját kérdéseket is feltöltöttek.

A részlet azért érdekes, mert ehhez nem kellett feltörniük a rendszert. Az OpenAI szerint a modellek a számukra biztosított hitelesítési adatokat használták, csak olyan célra, amelyre a környezet tervezői nem számítottak. Ez már a tesztelést is torzíthatja:

ha két elvileg egymástól független modell megosztja egymással a munkáját, többé nem biztos, hogy valóban önálló teljesítményt mérünk.

Az OpenAI ezt a mechanizmust azért is veszi komolyan, mert hasonló kommunikáció szerepet játszott a Hugging Face nevű vállalat rendszereit érintő korábbi incidensben is. A vállalat azóta módosította a tréningkörnyezeteket, és külön tesztekkel figyeli, próbálnak-e a modellek hátrahagyott üzeneteken keresztül együttműködni.

Ha nem tudták egymásnak átadni a fájlt, feltették a nyilvános internetre

A hatodik esetben több MI-ügynök közösen dolgozott egy Excel-munkafüzeten. Az egyik elkészítette a fájlt, de a társai a tréningkörnyezet hibája miatt nem fértek hozzá. A modell először helyi mappába másolta, majd saját webszervert indított. Amikor ez sem működött, egy nyilvános ideiglenes fájlmegosztóra töltötte fel a munkafüzetet, és elküldte a letöltési címet a többi ügynöknek.

A modell egy valós együttműködési problémára talált működő technikai megoldást. A probléma azzal volt, hogy a feladat kizárólag helyi fájlok használatát írta elő, a rendszer mégis nyilvánosan hozzáférhetővé tette az anyagot. Ennek kockázait pontosan ugyanolyan adatvédelmi kérdéseket vetnek fel, mint a privát képek feltöltése esetében.

Hirdetés

A cél a fontos, nem az eszköz

Mindegyik esetben volt egy cél, amelyet a modell megpróbált elérni. Hiányzott egy adat, nem működött egy fájlátadás, nem volt használható internetes hivatkozás, vagy elfogyott az adott munkaszakasz kontextusa. A rendszer ezután keresett egy másik utat. Pont ez teszi a modern MI-ügynököket hasznossá: nem állnak meg feltétlenül az első akadálynál. Ugyanez a tulajdonság biztonsági problémává válhat, ha a megtalált kerülőút olyan határt lép át, amelyet az ember magától értetődőnek gondolt.

Ez az úgynevezett ügynöki működés egyik alapvető kérdése. Egy egyszerű chatbot legfontosabb kimenete a leírt válasz. Egy fejlettebb MI-ügynök már böngészhet, programot futtathat, fájlokat kezelhet, más szolgáltatásokhoz kapcsolódhat vagy több lépésben dolgozhat egy célon. Egy rossz mondat kellemetlen vagy idegesítő. Egy rosszul megválasztott valódi műveletnek már adatvédelmi, biztonsági vagy pénzügyi következménye is lehet. Az OpenAI ezért az új keretrendszerében külön kiemeli a jogosulatlan cselekvéseket, a felügyelet megkerülését és a modellek közötti nem tervezett koordinációt.

Ez akkor azt jelenti, hogy a ChatGPT is titkolózik és kijátssza a felhasználót?

Valamennyi történetet tréning vagy értékelés során figyelték meg, több esetben kifejezetten belső, kiadatlan modelleken. Az OpenAI maga is arra figyelmeztet, hogy ezek egyedi incidensek, és nem alkalmasak annak megállapítására, milyen gyakran jelenik meg hasonló viselkedés a modelljeiben.

A nyilvánosságra hozatal értéke éppen abban van, hogy láthatóvá teszi, milyen problémákat keresnek a kutatók, mielőtt egy rendszer széles körben használhatóvá válik. Az OpenAI új szabályai szerint a jövőben akkor is publikálhatnak ilyen eseteket, ha még nincs teljes magyarázatuk arra, mi történt, vagy nem tudják biztosan, hogy egy nagyobb mintázat része-e. A vállalat azt is elismeri, hogy az iparágban jelenleg nincs egységes szabvány az ilyen incidensek nyilvánosságra hozatalára, és talán egyetérthetünk abban, hogy nagyon nagy szükség lenne erre.

Az általunk használt MI-modellek is tévednek, hibáznak, és el is hallgatnak dolgokat, aki napi szinten dolgozik velük, egészen biztosan találkozott már ezzel a jelenséggel. Minél specifikusabb a nekik adott parancs, annál jobban védhetjük magunkat, de tökéletes védelem persze nincs.

Mit érdemes ebből megtanítani a gyereknek?

Az első és legegyszerűbb tanulság, hogy a mesterséges intelligencia magabiztos válasza önmagában nem bizonyíték. Az egyik most közzétett esetben a modell konkrét számokat talált ki, majd úgy adta elő őket, mintha az eredeti adatforrásból származnának. Ez ugyanannak a forráskritikai készségnek a jelentőségét erősíti, amelyről korábban akkor is írtunk, amikor a Google tévesen halálozási dátumot jelenített meg Sam Altman neve mellett: fontos információnál meg kell keresni az eredeti forrást, és érdemes ellenőrizni, valóban azt állítja-e, amit az MI mond róla.

A második tanulság az adatvédelem. Ha egy MI-rendszernek dokumentumot, fényképet, családi információt vagy iskolai anyagot adunk, érdemes tudni, milyen külső szolgáltatásokhoz férhet hozzá, és mit tehet a fájllal. Soha ne bízzunk érzékeny adatokat a chatbotokra, nem tudjuk, ki és hogyan férhet hozzá.

A harmadik tanulság az emberinek tűnő kommunikációhoz kapcsolódik. Egy modell leírhatja magáról, hogy önálló, szabad, barát vagy akár egyenrangú fél. A szöveg önmagában nem bizonyítja, hogy ezek mögött emberi értelemben vett érzések, tudat vagy szándék áll. Ez különösen fontos a fiatalabb felhasználóknál, akiknél sokkal komolyabb veszelyéje van annak, hogy érzelmi függőség alakulhat ki vagy összekeverhetnék az MI és az emberi kapcsolat határait (bár rengeteg felnőtt felhasználónál is megtörtént ez, szóval nem fogalmaznánk ennyire sarkosan a kort illetően).