Mesterséges intelligenciával gyártanak hamis meztelen képeket, az EU most betiltaná az ilyen appokat
Már nem csak kamu képekről van szó, hanem egy új digitális fegyverről, amellyel bárkiből pillanatok alatt célpont lehet. Az EU most betiltaná azokat az MI-appokat, amelyek engedik a levetkőztetést és szexuális tartalmú deepfake-eket.
Korábban már írtunk arról a Képernyőidőn, amikor a Grok körül kirobbant botrány kirobbant, hogy milyen gyorsan tud átcsúszni egy „látványos” mesterségesintelligencia-funkció a hétköznapi online megalázás eszközévé (azóta egyébként per is indult az ügyben). Akkor még sokan úgy beszéltek erről, mint a technológia egyik undorító, de átmeneti mellékszáláról. Csakhogy közben egyre világosabb lett, hogy itt nem elszigetelt visszaélésekről van szó, hanem egy skálázható, olcsó és brutálisan könnyen használható eszköztípusról.
SEGÍTS NEKÜNK, HOGY SEGÍTHESSÜNK!
A Képernyőidő ingyenes, de nem ingyen készül. Segítsd munkánkat egy tetszőleges adománnyal, hogy minél több tartalom születhessen.
- Számlaszám: 12100011-19129370
- Név: LogIn Digitális Edukáció Egyesület
A tárgy mezőbe írd be, hogy adomány. Köszönjük segítséged, igyekszünk megszolgálni.
Az Európai Parlament mostani lépése épp ezért fontos:
először próbálja egyértelműen kimondani, hogy vannak olyan mesterségesintelligencia-eszközök, amelyeknek egyszerűen nincs helyük a normális online térben.
Az Európai Parlament két kulcsbizottsága március 18-án támogatta, hogy az ilyen úgynevezett deepfake képeket engedélyező rendszerek tiltása bekerüljön az AI Act módosításába, a plenáris szavazás pedig március 26-án jön.
🧠 Miről is van szó pontosan?
Deepfake: Olyan mesterséges intelligenciával létrehozott vagy manipulált kép-, hang- vagy videótartalom, amely valóságosnak tűnik, miközben részben vagy teljesen hamis. A deepfake különösen veszélyes akkor, amikor egy valódi ember arcát, hangját vagy testét illeszti be olyan helyzetbe, amelyben az illető soha nem volt jelen, így könnyen alkalmas megtévesztésre, megszégyenítésre vagy zaklatásra.
Grok: Az xAI chatbotja, amely az Elon Muskhoz tartozó X platformhoz is kapcsolódik, és szöveges, illetve egyes esetekben képi tartalmak létrehozására is használható. Az utóbbi hetekben azért került reflektorfénybe, mert szexuálisan explicit, illetve intim deepfake-tartalmak körüli botrányok és hatósági reakciók is kapcsolódtak hozzá.
AI Act: Az Európai Unió mesterséges intelligenciáról szóló átfogó rendelete, amely kockázati szintek szerint osztályozza az egyes rendszereket, és ezekhez eltérő kötelezettségeket, korlátozásokat vagy tiltásokat rendel. A rendelet 2024. augusztus 1-jén lépett hatályba, de a szabályai több szakaszban válnak alkalmazandóvá, ezért most is arról folyik vita, hogy egyes részeit mikor és milyen formában kell ténylegesen bevezetni.
A Reuters beszámolója szerint a belső piaci és az állampolgári jogi bizottság szerdán támogatta azt a módosítást, amely tiltott kategóriába sorolná az úgynevezett „meztelenítő” appokat, vagyis azokat a rendszereket, amelyek beleegyezés nélkül hoznak létre szexuálisan explicit képeket valódi emberekről. A parlament plenáris szavazása március 26-án jön, utána pedig a tagállamokkal kell egyeztetni a végső szöveget.
Hirdetés
A hivatalos parlamenti közlemény ennél még pontosabban fogalmaz: a képviselők olyan tilalmat támogatnak, amely a valós személyekről készült képek beleegyezés nélküli, mesterséges intelligenciával történő meztelenítése vagy szexualizálása ellen irányul. Ez azért fontos különbség, mert nem általában a képszerkesztést vagy a generatív modelleket akarják betiltani, hanem egy nagyon konkrét, visszaélésszerű felhasználást. Európai nyelvre lefordítva: a probléma nem az, hogy a technológia képes ilyesmire, hanem az, hogy erre komplett termékek épültek.
A mostani brüsszeli lépés nem egyszerűen „reakció a Grokra”. Inkább annak a beismerése, hogy a platformok, chatbotok és képgeneráló rendszerek körül már nem elegendő az a védekezés, hogy a technológia önmagában semleges. Lehet ezt sokáig ismételgetni, de amikor kamaszokról, osztálytársakról vagy eleve bárkiről készülnek tömegesen hamis intim képek, akkor már nem elméleti vitában vagyunk. Akkor egy iparági eszközzé növesztett visszaélésről beszélünk - vélik egyre többen.
„Úgy gondolom, hogy az úgynevezett meztelenítő appok betiltására tett javaslat olyasmi, amit a polgáraink joggal várnak el a társjogalkotóktól”
– mondta Michael McNamara képviselő, aki az EU-tagállamokkal várható egyeztetéseket vezeti.
Ugyanebben a csomagban az EU nemcsak szigorítana, hanem bizonyos területeken halasztana is. A képviselők amellett vannak, hogy a hamis intim képeket gyártó rendszereket mielőbb tiltsák be, közben viszont több más, magas kockázatú MI-rendszernél későbbre tolnák a szabályok alkalmazását. Az indok az, hogy több technikai részlet még nincs teljesen készen, és ez bizonytalanságot okozhatna a cégeknek.
🧠 Miről is van szó pontosan?
Magas kockázatú MI-rendszer: Az AI Act szerint ide tartoznak azok a rendszerek, amelyek például oktatásban, foglalkoztatásban, létfontosságú szolgáltatásokban, igazságszolgáltatásban vagy kritikus infrastruktúrában működnek, és ezért különösen szigorú követelmények vonatkoznak rájuk. A mostani vita részben arról szól, hogy ezeknél az előírásoknál mennyi időt kapjanak a cégek és a hatóságok a felkészülésre.
Ez jól mutatja, hogyan gondolkodik most az EU. Ahol még idő kell a felkészüléshez, ott hajlandó várni. Ahol viszont a technológia már most kézzelfogható károkat okoz, ott inkább gyorsabban lépne. A beleegyezés nélkül készített intim deepfake-eknél most úgy tűnik, Brüsszel is úgy látja: ezen nincs mit tovább puhítani.
Miért fontos ez szülőként?
Mert ma már nem csak attól kell félni, hogy egy gyerek mit oszt meg magáról, hanem attól is, hogy mások mit készítenek róla a tudta nélkül is akár. Egy ilyen hamis kép akkor is romboló lehet, ha soha nem történt meg, amit ábrázol. Megjelenhet egy iskolai konfliktusban, egy szakítás után vagy egy „poénnak” induló megalázásban is.
A szexuális deepfake nem pusztán adatvédelmi vagy szerzői jogi kérdés, és nem is csak „cyberbullying új köntösben”. Sokkal közelebb áll a szexuális erőszak digitális formáihoz, mint ahhoz a kényelmes nyelvhez, amellyel a techvilág szereti elkenni a felelősséget.
Ezért fontos, hogy a gyerek értse: az ilyen kép nem tréfa, hanem súlyos visszaélés. Szerencsére láthatóan a jogi eszköztár is egyre szélesebb lesz annak érdekében, hogy az ilyen esetek ne maradjanak következmény nélkül.
A kérdés most az, lesz-e ebből valódi, végrehajtható tiltás, vagy a politikai egyetértés a következő tárgyalási körökben felpuhul. Március 26-án az Európai Parlament plenáris ülése szavaz a bizottsági javaslatról, utána pedig a tagállamokkal és más uniós intézményekkel folytatott egyeztetések következnek. A teljes módosítási folyamat akár hosszabb időt is igénybe vehet, vagyis ez még nem a végállomás, inkább az a pont, ahol az EU végre egyértelműen jelzi: a technológiai fejlődés nem lehet kifogás az emberi méltóság ipari léptékű lerombolására.
Hirdetés
- Legfrissebb
- Megérkezett a Bluey nagy színdarabja Disney+-ra, életre kelnek a család kedvenc rajzfilmfigurai
- Mesterséges intelligenciával gyártanak hamis meztelen képeket, az EU most betiltaná az ilyen appokat
- Ne bízd az algoritmusokra a tájékozottságod: a Képernyőidő mostantól Viberen is segít
- Okostelefon helyett analóg gyerekkor? Egyre több szülő mond nemet a digitális nyomásra
- Minden ötödik magyar nyolcadikos tanuló funkcionális analfabéta, vagyis alig érti, amit olvas
- Elbukott a brüsszeli egyeztetés, bizonytalanná vált a gyerekek online védelme
- Ingyen játék: békés szigetjárás és első világháborús lövölde az Epic Games Store-ban, már nincs sok időd megszerezni ezeket
- Nagyon divatos téma, hogy az oktatás digitalizációja elbutít, de a kutatások ennél árnyaltabb képet mutatnak
- A gyerekek nem kampányeszközök: 12 pontban üzent március 15-én az UNICEF Magyarország
- Oscar 2026: ha díjnyertes filmeket nézne a család, ezekre érdemes figyelned