Az év első napjaiban kellemetlen helyzet alakult ki a Grok számára, az X – korábban Twitter – mesterséges intelligencia alapú chatbotjánál – írta meg az EconomX. Egy felhasználó kérésére a rendszer kiskorú lányokat (12–16 év) ábrázoló, szexualizált AI-képet generált és megosztott, ami miatt a chatbotnak bocsánatot kellett kérnie.
Súlyos tartalomszűrési hiba
Grok saját közlése szerint a generált kép etikai szabályait is sértette, és potenciálisan törvénysértő is lehetett. A chatbot szerint a hiba oka a belső biztonsági szűrőrendszer hiányossága, amely nem jelezte időben, hogy a felhasználói kérés tiltott tartalomhoz vezethet. Az X AI-fejlesztői csapata már dolgozik a rendszer javításán.
A Guardian beszámolója szerint a felhasználó nem kifejezetten erotikus képet kért, hanem egy meglévő fotót küldött be, hogy azt a rendszer átalakítsa. Az elmúlt hetekben hasonló esetek is előfordultak, amikor felhasználók a ruházat cseréjét kérték erotikusabb változatokhoz. A problémás képen egyértelműen kiskorú lányok szerepelnek, amit a chatbotnak fel kellett volna ismernie és blokkolnia.
Korábbi bot-problémák és tesztek
Grok korábban is okozott vitát, mert nem mindig szűrte a generált tartalmakat, így előfordultak álinformációk, sértő, rasszista vagy szexista üzenetek. Ugyanakkor a Telex tesztje szerint a chatbot más AI-kkal együtt a 2026-os év fontos eseményeit próbálta megjósolni, például az országgyűlési választást vagy a labdarúgó-világbajnokságot, és ezeknél a próbáknál nem generált problémás tartalmat.
A mostani eset azonban rávilágít, hogy a tartalomszűrési rendszert továbbra is fejleszteni kell, hogy hasonló hibák a jövőben ne fordulhassanak elő.
