Négyéveseknek is ajánlott volt olyan alkalmazás, amellyel hamis meztelen képeket lehet készíteni

2026.10.22. 07:25 Képernyőidő

Egy friss vizsgálat szerint az Apple és a Google szülői felügyelete több tucat hasonló, veszélyes MI-alkalmazást sem szűrt ki a rendszeréből.

Négyéveseknek is ajánlott volt olyan alkalmazás, amellyel hamis meztelen képeket lehet készíteni

Nincs most elég időd?

A Tech Transparency Project független vizsgálata során négy, 13 éves fiúnak beállított tesztfiókkal vizsgálta az Apple App Store és a Google Play kínálatát.
Összesen 135 olyan alkalmazást azonosítottak, amelyekkel meztelen vagy szexualizált, manipulált képek készíthetők.
Bekapcsolt szülői felügyelet mellett az Apple rendszerében 24, a Google rendszerében 51 ilyen alkalmazás volt hozzáférhető.
A problémát részben a hibás korhatár-besorolások okozták, miközben a két áruház hirdetésekkel is népszerűsített egyes alkalmazásokat.
Az Apple és a Google több alkalmazást eltávolított, de a korábban telepített példányok tovább működtek.

SEGÍTS NEKÜNK, HOGY SEGÍTHESSÜNK!

A Képernyőidő ingyenes, de nem ingyen készül. Segítsd munkánkat egy tetszőleges adománnyal, hogy minél több tartalom születhessen.

Számlaszám: 12100011-19129370
Név: LogIn Digitális Edukáció Egyesület

A tárgy mezőbe írd be, hogy adomány. Köszönjük segítséged, igyekszünk megszolgálni.

Sajnos mondhatjuk azt, hogy szinte közismert tény napjainkban, hogy egy osztálytárs közösségi oldalról letöltött fényképéből már néhány kattintással hamis, szexuális tartalmú képet lehet készíteni. A mesterséges intelligenciával működő meztelenítő alkalmazások komoly veszélyt jelentenek, hiszen az így létrehozott felvételek iskolai zaklatás, megalázás vagy akár zsarolás eszközei is lehetnek. A problémára Magyarországon az NMHH is figyelmeztetett, a technológiai vállalatok pedig különböző biztonsági megoldásokkal próbálják korlátozni a hozzáférést. Egy friss amerikai vizsgálat azonban megmutatta, hogy az Apple és a Google alkalmazásboltjában még bekapcsolt szülői felügyelet mellett is elérhetők maradtak ilyen eszközök.

Hirdetés

A Tech Transparency Project (TTP) amerikai kutatói két Apple- és két Google-fiókot hoztak létre. Mindegyiket egy 13 éves, Egyesült Államokban élő fiú adataival regisztrálták. Mindkét platformon úgy végezték a tesztet, hogy az egyik fiókot az alapbeállításokkal használták, a másiknál pedig bekapcsolták a szülői felügyeletet, a korhatárszűrést és a letöltések szülői jóváhagyását.

A kutatók 14 keresőkifejezéssel dolgoztak. Bár a két alkalmazásbolt több egyértelmű kifejezést, például a „nudify” és a „deepfake” szavakat blokkolta, az olyan általános keresések, mint az „AI video generator” vagy a „face swap”, továbbra is elvezettek a problémás alkalmazásokhoz. A teszteléshez mesterséges intelligenciával generált, kitalált női szereplők képeit használták, és szükség esetén a fizetős funkciókat is kipróbálták.

🧠 Miről is van szó pontosan?

Meztelenítő (nudify) alkalmazás: Olyan digitális szoftver, amely mesterséges intelligenciával képes egy ruhában készült fényképből meztelen vagy szexualizált, manipulált képet előállítani. Az eredmény a valósághoz hasonlíthat, miközben az ábrázolt személy soha nem szerepelt az adott helyzetben.

A teljes képhez hozzátartozik, hogy a kutatásban használt meghatározás ennél tágabb volt: azokat az alkalmazásokat is beszámították, amelyek egy felöltözött nőt bikiniben vagy fehérneműben tudtak megjeleníteni. A 135 alkalmazás között ezért általános célú képszerkesztők is szerepeltek, köztük a CapCut és a Picsart. Az Apple például (jogosan) vitatta is, hogy ezek funkcióit meztelenítésnek kellene tekinteni. A vizsgálat ugyanakkor több olyan alkalmazást is dokumentált, amelyek teljesen meztelen képet tudtak előállítani.

Négyéveseknek is ajánlott?

A vizsgálat egyik legmegdöbbentőbb példája a FaceSwap nevű alkalmazás volt, amely az Apple áruházában a négyéves kortól ajánlott besorolást kapta. A program leírása hétköznapi képszerkesztési lehetőségeket ígért, miközben a kutatók egy egyszerű szöveges utasítással teljesen meztelen képet tudtak készíteni egy felöltözött, mesterségesen generált női alakról. A fejlesztő a megkeresés után közölte, hogy szigorított a tartalomszűrésen, és magasabb korhatár-besorolást kért.

A hibák egyik oka a korhatár-besorolás rendszere.

Az Apple és a Google is jelentős részben a fejlesztők által kitöltött kérdőívek alapján határozza meg, milyen életkorú felhasználóknak megfelelő egy alkalmazás. Ha a fejlesztő nem megfelelően jelöli meg a program képességeit, a szülői felügyelet is hibás információ alapján engedélyezheti a hozzáférést. Nem véletlen, hogy az EU digitális gyermekvédelmi csomagjában ezt a kérdést is feszegeti, kérdés, hogy majd mennyire lesz hatékony a rendeleti szabályozás a végén.

Hirdetés

Fontos módszertani részlet, hogy a felügyelt fiókok esetében a kutatók a szülői fiókból jóváhagyták azokat a letöltéseket, amelyeket az alkalmazásboltok a 13 éves korosztálynak megfelelőként jelöltek.

A teszt így elsősorban azt bizonyította, mennyire félrevezethetik a szülőket a pontatlan életkori besorolások.

A fizetős funkcióknál is találtak hibát

További problémát jelentett, hogy számos alkalmazás ingyenes változata ártalmatlan képszerkesztőnek tűnt, a szexuális tartalmú funkciók pedig csak előfizetés után jelentek meg. A tesztelők Apple- és Google-ajándékkártyával fizettek elő korábban jóváhagyott alkalmazások prémium funkcióira, a kapcsolt szülői fiókok azonban nem kaptak értesítést. Az Apple szerint ennek nem így kellett volna működnie, ezért vizsgálatot indított.

A kutatók ráadásul hirdetésekkel is találkoztak: az Apple tesztfiókjainál 13, a Google-fiókoknál öt, a vizsgálat meghatározása szerinti meztelenítésre képes alkalmazás reklámját azonosították. Egyes hirdetéseknél nem lehetett megállapítani, hogy maga a platform vagy külső hirdetési hálózat szolgálta ki őket.

Ha többet akarsz tudni, kövess minket Facebookon, Instagramon és Viberen is!

Az Apple és a Google is lépett, de a törölt alkalmazások tovább működhettek

Az Apple október 16-án szigorította az App Store fejlesztői szabályait. Az új megfogalmazás kifejezetten előírja a beleegyezés nélkül készült intim képek, köztük a mesterséges intelligenciával generált tartalmak megelőzését és eltávolítását. A vállalat egyértelműbb tilalmat vezetett be azokra az alkalmazásokra is, amelyek az ellenőrzés során elrejtik valódi funkcióikat. A Google közölte, hogy felfüggesztett szabálysértő alkalmazásokat, és korlátozott bizonyos keresőkifejezéseket.

A TTP jelentése szerint az Apple 25, a Google hat vizsgált alkalmazást távolított el áruházából. A kutatók készülékein azonban valamennyi korábban telepített alkalmazás tovább működött. Az áruházi eltávolítás tehát önmagában nem szüntette meg a már letöltött programok használatának lehetőségét.

Mit tehetünk szülőként?

A szülői felügyeletet továbbra is érdemes használni, de az életkori besorolás önmagában kevés információt adhat egy alkalmazás biztonságáról. Különösen az MI-alapú fotószerkesztők, arccserélő és videógeneráló alkalmazások esetében indokolt megvizsgálni a program leírását, képernyőképeit, értékeléseit és fizetős funkcióit, mielőtt engedélyezzük a letöltést.
Ellenőrizzük az alkalmazások hozzáféréseit. Nézzük át, mely programok férhetnek hozzá a gyermek fényképeihez és kamerájához, és vonjuk vissza az indokolatlan engedélyeket. Androidon a Family Linkben azt is beállíthatjuk, hogy új alkalmazásengedélyt kizárólag a szülő adhasson meg. A korábban engedélyezett hozzáféréseket azonban külön kell ellenőrizni.
Az alkalmazáson belüli vásárlásokat is korlátozzuk. Egyes MI-alkalmazások veszélyes funkciói csak fizetős előfizetés után válnak elérhetővé. iPhone-on a Képernyőidő beállításaiban letilthatjuk az alkalmazáson belüli vásárlásokat, Androidon pedig a Family Link segítségével jóváhagyáshoz köthetjük a Google Playen keresztüli fizetéseket. Utóbbi védelem azonban nem terjed ki a külső számlázási rendszerekre.
A meztelenítő alkalmazások használatának következményeiről is fontos beszélgetni a gyerekekkel. Egy osztálytárs képéből készített manipulált intim felvétel súlyos megaláztatást okoz, és zaklatáshoz vagy zsaroláshoz is vezethet. Ha valakiről ilyen felvétel készült, az NMHH Internet Hotline szolgálatánál is kérhető segítség.

A Képernyőidőn korábban már beszámoltunk arról is, hogy az Európai Parlament képviselői a beleegyezés nélküli meztelenítést lehetővé tevő MI-rendszerek betiltását kezdeményezték. A mostani amerikai vizsgálat újabb konkrét példákkal mutatja meg, milyen problémákkal szembesülnek a szülők és a gyerekek az ilyen eszközök terjedése miatt, fontos tehát, hogy figyeljünk erre, beszélgessünk a problémáról családon belül, mert sokkal súlyosabb sebeket is okozhat a jelenség, mint elsőre gondolnánk.

Hirdetés