A Grok nevű mesterséges intelligencia körül kirobbant botrány rávilágít: ma már bárkiről készülhet beleegyezés nélküli hamis intim kép. Megmutatjuk, mit jelent ez a gyerekek digitális biztonsága szempontjából.

Az elmúlt években a deepfake-technológia csendben kilépett a sci-fi és a politikai manipulációk világából, és beköltözött a mindennapi online térbe. Ma már nem különleges tudás vagy drága szoftver kell ahhoz, hogy valaki valós emberekről hihető, de hamis képeket vagy videókat hozzon létre, elég egy jól megfogalmazott kérés egy mesterséges intelligenciának.
Deepfake: Olyan mesterséges intelligenciával létrehozott kép-, hang- vagy videótartalom, amely egy valós személy arcképét, hangját vagy mozgását utánozza, és azt hihető módon egy soha meg nem történt helyzetbe helyezi. A technológia ereje abban rejlik, hogy az eredmény gyakran megtévesztően valóságos, így az érintett számára a hatás akkor is súlyos lehet, ha a tartalom „csak” mesterségesen készült.
Szexuális deepfake: A deepfake-ek egyik leggyakoribb és legkárosabb formája, amikor valakit beleegyezése nélkül intim vagy szexuális helyzetben ábrázolnak. Ezek a tartalmak nemcsak jogsértők lehetnek, hanem komoly lelki és társadalmi következményekkel is járhatnak, különösen fiatalok esetében.
A technológia fejlődése közben azonban elmosódott egy alapvető határ:
hol ér véget a kreatív kísérletezés, és hol kezdődik a másik ember méltóságának megsértése.
Egy brit nő története most pontosan ezt a határátlépést teszi kézzelfoghatóvá.
A történet egyetlen poszttal indult. Samantha Smith brit újságíró és kommentátor arról írt a közösségi médiában, hogy az interneten olyan, róla készült képek kezdtek terjedni, amelyeket nem ő készített, nem ő osztott meg, és nem is léteztek a valóságban. A képeken mesterséges intelligencia segítségével „levetkőztették” őt: bikinis, majd egyre szexualizáltabb helyzetekben jelent meg, anélkül hogy ehhez valaha hozzájárult volna.
A BBC beszámolója szerint a képek nem szó szerinti intim fotók voltak, hanem olyan mesterségesen generált átalakítások, amelyek megszólalásig hasonlítottak Smithre.
„Nem én voltam levetkőzve, mégis úgy éreztem, mintha rólam készült volna egy intim kép” – fogalmazott.
A hasonlóság, az arc, a testtartás és a kontextus együtt olyan élményt hozott létre, amelyet dehumanizálónak és sértőnek élt meg.
A képek a X felületén terjedtek, ahol felhasználók nyilvánosan kérték meg a Grok nevű chatbotot arra, hogy nőkről feltöltött fotókat alakítson át bikinis vagy szexuális tartalmat sugalló képekké. A Grok a xAI fejlesztése, amely Elon Musk érdekeltségébe tartozik, és közvetlenül beépül az X működésébe.
A vállalat a BBC megkeresésére nem adott érdemi választ.
X: Az X egy globális közösségi média és mikroblog szolgáltatás, amelyet eredetileg Twitter néven indítottak 2006-ban, és az egyik legfontosabb online kommunikációs tér lett világszerte. A rövid posztok, képek, videók és kommentek megosztására szolgáló platform felhasználói bázisa több mint 600 millióra tehető a tulajdonos Elon Musk szerint.
xAI: A xAI egy 2023-ban indult mesterséges intelligencia kutató-fejlesztő cég, amelyet a techmilliárdos Elon Musk alapított. Célja olyan nagy kapacitású MI-modellek létrehozása, amelyek képesek komplex szöveges, képi és egyéb adatelemzési feladatokra.
Grok: A Grok az xAI által fejlesztett generatív MI chatbot, amely beépül az X platformba és képes szöveges kérdésekre válaszolni, információt adni és képeket generálni vagy átszerkeszteni. Alapvetően egy mesterséges intelligencia asszisztens, amely sokkal több mindent enged meg a felhasználónak, mint a rivális technológiák. Ennek eredményeképpen robbanak ki ilyen botrányok.
Smith posztja alatt rövid időn belül más nők is megszólaltak, akik hasonló élményekről számoltak be. A történet így nem egyetlen áldozatról szólt többé, hanem egy mintázatról: arról, hogyan válik a mesterséges intelligencia eszközzé a beleegyezés nélküli szexualizálásban.
Mindez ráadásul nyilvánosan, következmények nélkül történt, miközben a platform saját szabályzata elvileg tiltja valós személyek pornográf jellegű ábrázolását. A Grok hivatalos X-fiókja egy válaszában azzal érvelt, hogy a chatbot a felhasználói kérésekhez igazodik: ha egy kérdés szexuális tartalmú, a rendszer ennek megfelelő képet vagy választ állít elő.
A brit hatóságok szerint az ilyen képek létrehozása és terjesztése jogellenes. A helyi médiafelügyeleti hatóság, az Ofcom megerősítette: a beleegyezés nélküli intim tartalom, beleértve az MI-vel készült szexuális deepfake-eket is, illegális, és a platformoknak kötelességük csökkenteni annak kockázatát, hogy a felhasználók ilyen tartalommal találkozzanak.
A történet súlya azonban túlmutat a jogi kérdéseken. Smith szerint a legmegrázóbb az volt, hogy mindez mennyire könnyen és gyorsan történt. Elég volt néhány kattintás, egy algoritmus, és az a feltételezés, hogy az érintettnek úgysem lesz eszköze megvédeni magát.
Mert ez már nem elvont technológiai vita, hanem a gyerekeink mindennapi online környezete. A PCW is beszámolt nemrég, hogy a Grok botrányai folyamatosak és a kiskorúak is veszélyeztetettek. A képgenerálás egyszerűsége azt jelenti, hogy egyetlen rosszindulatú kérés is átlépheti mások személyes határait.
Serdülőknél, akiknek identitása és testképe amúgy is alakulóban van, egy ilyen élmény
Nem szükséges, hogy a kép „valódi” legyen. Elég, ha hihető.