A mesterséges intelligencia akkor is magabiztos, amikor hülyeségeket válaszol. Ugyanez a magabiztosság teheti félrevezetővé azt is, amikor valaki a ChatGPT-től, a Geminitől vagy a Claude-tól kér jelszót védelemhez. Biztonságosnak tűnik, de nem az.

Amikor online biztonságról beszélünk, jól tudjuk, hogy sokszor az ember a leggyengébb láncszem. Legtöbbször ugyanazokat a belépési adatokat használjuk több helyen, túl rövid vagy könnyen kitalálható kombinációkat választunk, vagy éppen olyan megoldásokra támaszkodunk, amelyek kényelmesnek tűnnek, de nem jelentenek valódi biztonságot. Mint például a mesterséges intelligencia.
Egy friss biztonsági elemzés szerint azonban a chatbotok által kapott biztonsági jelszavak szerkezetükben gyakran kiszámíthatók, ismétlődők, és jóval gyengébbek annál, mint amilyennek látszanak.
Az Irregular nevű biztonsági cég szerint a nagy nyelvi modellek nem valódi véletlenszám-generátorok, hanem olyan rendszerek, amelyek valószínűségi minták alapján jósolják meg a következő karaktert. Ez pedig éppen az ellenkezője annak, amire egy jó jelszónál szükség lenne. A cég szerint ezért a közvetlenül a chatbot által generált jelszavak „erősnek látszanak, de alapvetően könnyen feltörhetőek”, ezért egyáltalán nem javasolt segítséget kérni a mesterséges intelligenciától, ha jelszót akarunk kitalálni.
Nagy nyelvi modell (LLM): Olyan mesterségesintelligencia-rendszer, amely hatalmas mennyiségű szövegen tanul, és valószínűségi alapon állít elő válaszokat. Nem „tudja” a helyes megoldást úgy, mint egy számológép vagy titkosítási eszköz, hanem a legvalószínűbb következő elemet próbálja kiválasztani.
A kutatás egyik legbeszédesebb része az volt, amikor ugyanazt az egyszerű kérést többször lefuttatták.
A ChatGPT-nél és Gemininél is hasonló szabályosságokat láttak, még ha a pontos mintázat eltért is modellenként. Az ok egyszerű:
az ilyen modellek nem valódi véletlenszerűséggel dolgoznak, hanem tanult statisztikai valószínűségekkel.
A probléma egyik kellemetlen eleme, hogy ezek a jelszavak külső szemmel még át is csúszhatnak az egyszerűbb jelszóellenőrzőkön. Vagyis lehet bennük kis- és nagybetű, szám, speciális karakter, megfelelő hosszúság is, mégsem elég jók. A forma ugyanis nem ugyanaz, mint a valódi véletlenszerűség.
Mert a család digitális biztonsága jellemzően nem egyetlen nagy hibán, hanem sok apró kényelmi döntésen múlik. Egy szülő ma már gyakran kezeli a gyerek iskolai platformjait, streamingfiókjait, játékos belépéseit, közös családi e-mailjét, sőt akár digitális pénzügyi szolgáltatásait is. Ha ezek közül csak néhányhoz készül „gyorsan” egy csetbotos jelszó, máris nő a kockázat.
A másik ok pedagógiai. A gyerekek nagyon gyorsan megtanulják, mire használjuk a mesterséges intelligenciát. Ha azt látják, hogy a felnőtt a biztonságot is egy beszélgető robotra bízza, könnyen azt a mintát viszik tovább, hogy a mesterséges intelligencia minden helyzetben megbízható. Pedig itt épp az ellenkezője látszik: van, amiben ügyes, és van, amiben kifejezetten rossz.
A Képernyőidő tényleg ingyenes, de nem ingyen készül. Segítsd munkánkat egy tetszőleges adománnyal, hogy minél több tartalom születhessen.
Számlaszám: 12100011-19129370
Név: LogIn Digitális Edukáció Egyesület
A tárgy mezőbe írd be, hogy adomány. Köszönjük segítséged, igyekszünk megszolgálni.
Jelszókezelő: Olyan alkalmazás vagy szolgáltatás, amely biztonságosan tárolja a belépési adataidat, és segít abban, hogy ne ugyanazt az egyszerű jelszót használd mindenhol. A jó jelszókezelő hosszú, egyedi jelszavakat tud létrehozni, neked pedig elég egyetlen erős mesterjelszót megjegyezned.
Kétlépcsős azonosítás: Olyan extra védelmi réteg, amely a jelszó beírása után még egy második megerősítést is kér, például egy telefonra érkező kódot vagy hitelesítő alkalmazásban generált azonosítót. Ettől egy ellopott vagy kitalált jelszó önmagában még nem lesz elég ahhoz, hogy valaki belépjen a fiókodba.
Passkey: A jelszó nélküli belépés egyik modernebb formája, amely a készülékedhez kötött digitális kulccsal azonosít. A gyakorlatban ez többnyire ujjlenyomattal, arcfelismeréssel vagy képernyőzárral működik, és azért biztonságosabb, mert nincs olyan hagyományos jelszó, amit el lehetne lopni, újra lehetne használni vagy egy hamis oldalon ki lehetne csalni.
Ez a kutatás valójában egy nagyobb problémára világít rá. A mesterséges intelligencia egyre több helyen kínál gyors, kényelmes és meggyőző válaszokat, de a meggyőző forma nem garancia a helyes megoldásra, vagy éppen a biztonságra. A jelszó azért különösen jó példa erre, mert itt a hiba sokáig láthatatlan maradhat. Nem omlik össze tőle azonnal a rendszer, nem dob piros hibajelzést a képernyő, csak gyengébb lesz a védelem.