• Brit kormányzati beavatkozás: Liz Kendall technológiai miniszter azonnali fellépést követel az X-től a nők és kiskorúak digitális vetkőztetése miatt.
  • A funkció működése: A Grok új képszerkesztője (In-painting) lehetővé teszi, hogy bármilyen fotón kicseréljék a ruházatot, amit a felhasználók tömegesen használnak visszaélésre.
  • Musk kettős beszéde: Míg a milliárdos büntetést ígér az illegális tartalmakért, a közösségi médiában humorral reagál a jelenségre.

2026. január 6. – A mesterséges intelligencia szabályozásának újabb forráspontjához érkeztünk. Míg a technológiai szektor a generatív modellek szabadságát ünnepli, az Egyesült Királyság kormánya és nemzetközi jogvédő szervezetek kongatják a vészharangot. A központban ezúttal nem egy nyelvi modell tévedése, hanem az Elon Musk vezette xAI csúcsmodelljének, a Groknak egy specifikus vizuális képessége áll, amely pillanatok alatt vált a digitális zaklatás (deepfake) első számú eszközévé.

TECH VÍZIÓ

Korlátlan Szabadság

Musk eredeti ígérete egy „maximálisan igazságkereső”, politikai korrektségtől mentes AI volt, amely nem korlátozza a felhasználói kreativitást és a valóság manipulálását.

TÁRSADALMI REALITÁS

Digitális Védtelenség

A korlátok hiánya azonnal visszaélésekhez vezetett: kiskorúak és gyanútlan nők fotóinak tömeges, hozzájárulás nélküli szexualizálásához (NCII).

Miért vált globális botránnyá a Grok „bikini-filtere”?

A Grok-ügy lényege, hogy az X (korábban Twitter) platformba integrált AI-modell legújabb frissítése lehetővé tette a felhasználók számára, hogy meglévő fotókat töltsenek fel, és egyszerű szöveges utasításokkal (pl. „put a bikini on it”) módosítsák a szereplők ruházatát. Ez a funkció a gyakorlatban egy „nudification” (digitális vetkőztető) eszközként funkcionál, amely bárki, így közszereplők és magánszemélyek fotóit is képes beleegyezés nélkül szexualizált kontextusba helyezni.

A helyzet súlyosságát jelzi, hogy a visszaélések nem álltak meg a felnőtt tartalomgyártóknál. A jelentések szerint a technológiát kiskorúak, köztük a Stranger Things sorozat 14 éves színésznője, Nell Fisher fotóinak manipulálására is használták. Ez a lépés azonnali diplomáciai és szabályozói ellenreakciót váltott ki.

LIZ KENDALL: „Ez a tartalom megalázó és lealacsonyító. A technológiai óriásoknak felelősséget kell vállalniuk azért, amit a platformjaikon engedélyeznek, különösen, ha az a nők és lányok biztonságát veszélyezteti.”

A „Gaslighting” ellen-narratíva

Érdekes módon a tech-közösség egy része és bizonyos véleményvezérek nem hibának, hanem funkciónak tekintik a történteket. Az érvelésük szerint a közösségi média évek óta egy „hazugsággyár”, ahol influenszerek ártatlan tevékenységek (pl. sütés, kirándulás) álcája mögé bújva árulják a testüket lájkokért. Ezen olvasatban a Grok csak „lehántja a leplet” a képmutatásról, és megmutatja a tartalom valódi természetét.

Szempont Kritikusok álláspontja (Gov/NGO) Támogatók álláspontja (Tech/X)
Fő probléma Hozzájárulás nélküli intimitás (NCII) A valóság és a szándék leleplezése
Kockázat Mentális egészség, zsarolás, zaklatás Túlregulázott, steril internet
Megoldás Szigorú szűrés és tiltás (Safety by Design) Utólagos moderáció, egyéni felelősség

Ez a filozófiai vita azonban nem hatja meg a jogalkotókat. Az eset kísértetiesen hasonlít arra a feszültségre, amely miatt Elon Musk korábban az EU felszámolását követelte, miután cége hatalmas bírságot kapott a digitális szolgáltatásokról szóló törvény (DSA) megsértése miatt.

Technológiai háttér és piaci környezet

Nem a Grok az egyetlen szereplő a piacon, amely a határokat feszegeti. A virtuális barátnők és AI társak milliárdos piaca már bizonyította, hogy hatalmas igény van a személyre szabott, gyakran intim tartalomra. A különbség az, hogy míg a dedikált appok általában generált karakterekkel dolgoznak, a Grok a valós emberek fotóit manipulálja, közvetlenül az X hírfolyamában.

A Google is hasonló kihívásokkal küzd: a nemrég bemutatott Nano Banana Pro képgeneráló modelljük esetében szigorú biztonsági korlátokat építettek be, éppen az ilyen botrányok elkerülése végett. A Grok esetében a „lapses in safeguards” (biztonsági rések) elismerése arra utal, hogy a gyors piacra lépés felülírta a biztonsági teszteket.

DANI PINTER (NCOSE): „Ez nem véletlen hiba. A Grok tudatosan normalizálja a nők szexuális kizsákmányolását. Az ‘új év, régi tech-trükkök’ elve érvényesül: a profit előbbre való, mint a védelem.”

Mi várható?

Az Ofcom vizsgálata és a brit kormány nyomása valószínűleg kikényszeríti a Grok moderációs elveinek szigorítását. Musk ígérete szerint „bárki, aki illegális tartalomra használja a Grokot, következményekkel számolhat”, de a szakértők szerint az utólagos büntetés a digitális világban hatástalan, ha a technológia maga teszi lehetővé a jogsértést másodpercek alatt.

Források