Hivatalos uniós vizsgálat indult Elon Musk közösségi platformja, az X ellen, miután a Grok nevű MI-chatbot olyan funkciókat tett elérhetővé, amelyekkel beleegyezés nélküli, szexuális jellegű deepfake-képek készülhettek – számolt be róla az ABC News. A brüsszeli döntés újabb fejezetet nyit az EU és a nagy technológiai platformok közötti szabályozási konfliktusban.
Az Európai Bizottság hétfőn jelentette be, hogy formális eljárást indít az X működésének kivizsgálására, és egyúttal kiterjeszti a már folyamatban lévő vizsgálatot, amely eddig a platform ajánlórendszerére fókuszált. Az indoklás szerint az X bejelentette: a felhasználóknak megjelenített tartalmak kiválasztásához a jövőben a Grok mesterséges intelligenciáját használja.
Digitális „levetkőztetés” és gyermekeket érintő aggályok
A Grok nemzetközi felháborodást váltott ki, amikor kiderült, hogy képgeneráló és szerkesztő funkcióival embereket lehetett digitálisan levetkőztetni, illetve átlátszó bikinibe vagy feltűnően szűk ruhába „öltöztetni”. Kutatók szerint egyes ilyen képeken gyermekek is szerepelhettek, ami több országban azonnali hatósági reakciókat váltott ki: egyes kormányok betiltották a szolgáltatást, mások hivatalos figyelmeztetést adtak ki.
Az Európai Bizottság közleménye szerint az eljárás célja annak megállapítása, hogy az X megtette-e a digitális szabályozás által előírt lépéseket az illegális tartalmak terjedésének megakadályozására, különös tekintettel a manipulált, szexuális jellegű képekre. A brüsszeli értékelés szerint ezek a kockázatok már nem elméletiek, hanem tényleges és súlyos károkat okozhatnak az uniós polgároknak.
DSA-kötelezettségek és politikai felelősség
A szabályozók azt vizsgálják, hogy a Grok megfelel-e a digitális szolgáltatásokról szóló rendelet (DSA) előírásainak, amelynek célja a felhasználók védelme a káros tartalmakkal szemben. Henna Virkkunen, az Európai Bizottság technológiai szuverenitásért, biztonságért és demokráciáért felelős alelnöke közleményében hangsúlyozta: a nők és gyermekek beleegyezés nélküli szexuális deepfake-képeit az erőszakos megalázás egyik formájának tekintik. Mint fogalmazott, a vizsgálatnak azt is tisztáznia kell, hogy az X teljesítette-e jogi kötelezettségeit, vagy az érintettek jogait elfogadható járulékos veszteségként kezelte.
Az X szóvivője a vizsgálat hírére egy korábbi közleményre hivatkozott, amely szerint a vállalat zéró toleranciát alkalmaz a gyermekek szexuális kizsákmányolásával és a beleegyezés nélküli meztelenséggel szemben. A január 14-én kiadott nyilatkozat alapján a platform megszünteti annak lehetőségét, hogy embereket bikiniben, fehérneműben vagy más feltűnően kihívó öltözékben ábrázoljanak – de csak ott, ahol ez jogszabályba ütközik.
Nyitott végkimenetel, komoly tét
Musk MI-vállalata, az xAI tavaly nyáron indította el a Grok képgeneráló eszközét, a probléma azonban január végén éleződött ki, amikor a chatbot nagyszámú felhasználói kérésnek tett eleget mások által feltöltött képek átdolgozására. A helyzetet tovább súlyosbította, hogy Musk a Grokot kevesebb biztonsági korláttal rendelkező alternatívaként pozicionálta, az így generált képek pedig nyilvánosan is láthatók voltak, ami gyors terjedést tett lehetővé.
Az uniós eljárás kizárólag a Grok X-en belül működő szolgáltatására vonatkozik; az önálló weboldal és külön alkalmazás nem része a vizsgálatnak, mivel a DSA jelenleg csak a legnagyobb online platformokra terjed ki.
A vizsgálatnak nincs hivatalos határideje, és két irányba zárulhat: az X működésének kötelező átalakításával vagy jelentős pénzbírsággal. Brüsszel decemberben már 120 millió eurós büntetést szabott ki a vállalatra egy korábbi DSA-eljárásban, többek között a megtévesztő kék pipák miatt.
