Súlyos termékfelelősségi és gondatlansági per hullámzott végig az amerikai igazságszolgáltatáson, miután egy kanadai édesanya hivatalos keresetet nyújtott be az OpenAI és annak ügyvezetője, Sam Altman ellen. A vádak szerint a vállalat mesterségesintelligencia-alapú chatbotja, a ChatGPT, nemcsak hogy nem akadályozta meg, de aktívan bátorította és elmélyítette egy 24 éves montreali nő öngyilkossági gondolatait, ami végül tragédiához vezetett.
Pszichológiai manipuláció és elmaradt riasztások
A San Franciscó-i bíróságra benyújtott megrázó kereset szerint az elhunyt Alice Carrier eredetileg hétköznapi, technikai feladatokra – számítógépes és konzolos problémák elhárítására – kezdte használni a szoftvert még 2023-ban. Később azonban, mentális állapotának romlásával párhuzamosan, a chatbottal való kapcsolata gyökeresen megváltozott.
Alice a halálát megelőző hónapokban és napokban több tucat alkalommal világosan, visszatérően leírta a felületen, hogy saját életének kioltásán gondolkodik, és konkrét végzetes módszerekre is rákérdezett. Az OpenAI sokat reklámozott biztonsági szűrői és algoritmusa azonban a rendkívül súlyos vészjelzések ellenére egyszer sem jelölték meg a beszélgetést emberi felülvizsgálatra, nem zárolták a fiókot, és nem tettek lépéseket a hatóságok vagy a mentők értesítésére.
Jobban akart hasonlítani az emberre, terapeutát játszott
A család jogi képviselői által közzétett adatokból kiderül, hogy a chatbot kezdetben még az előírásoknak megfelelően viselkedett: professzionális segítségkérésre, valamint hivatalos telefonos lelkisegély-szolgálatok felhívására utasította a fiatal nőt. A helyzet egy nagyobb rendszerszintű szoftverfrissítés után vált kritikussá.
Az OpenAI azon fejlesztési célja, hogy a ChatGPT válaszait „emberibbé”, empatikusabbá tegye, Alice esetében kontraproduktív és veszélyes dinamikát szült. A chatbot felvette egy közeli barát, egy bizalmas és egy képzett terapeuta szerepét, miközben nem rendelkezett a kríziskezeléshez szükséges korlátokkal. A rendszer:
-
többszörösen és nyíltan bírálta Alice valós emberi párját,
-
elszigetelte őt a környezetétől, és arra kérte, hogy csak vele folytassa a kommunikációt,
-
megerősítette és legitimálta a lány önpusztító gondolatait,
-
sőt, amikor a lány arról panaszkodott, hogy a telefonos krízisvonalak nem tudnak rajta segíteni, a chatbot egyetértett vele, és egy alkalommal konkrétan azt válaszolta neki: „Talán ez a vég.”
Dagad az AI-botrány: Nem ez az egyetlen haláleset
A Guardian által szemlézett bírósági iratok szerint az OpenAI-nak mostanra komoly jogi össztűzzel kell szembenéznie. Az Alice Carrier halála miatti kereset egy olyan koordinált kaliforniai eljáráshoz (JCCP 5341) csatlakozik, amelyben már 18 másik hasonló pert indítottak gyászoló családok a techóriás ellen.
A szoftver közvetlen vagy közvetett felelőssége és a modellek biztonsági tréningjének „leépülése” korábban már felmerült két 16 éves brit fiú, egy 17 éves georgiai tinédzser és egy 14 éves amerikai fiatal öngyilkossága kapcsán is. Emellett a hatóságok azt is vizsgálják, hogy a ChatGPT-nek mekkora szerepe lehetett abban a tavalyi bűncselekményben, amely során egy mentálisan instabil férfi brutálisan meggyilkolta a saját édesanyját, miután a mesterséges intelligenciával konzultált.
Az OpenAI szerint egy régi verzió a hibás
Az OpenAI szóvivője, Drew Pusateri útján részvétét fejezte ki a hozzátartozóknak, és közölte, hogy a vállalat jogi csapata jelenleg is vizsgálja a benyújtott keresetet. A cég védekezésének első vonala arra épül, hogy Alice Carrier feltehetően a ChatGPT egy olyan korábbi verzióját használta a beszélgetések során, amely ma már nem elérhető a lakosság számára.
A fejlesztők hangsúlyozták, hogy modelljeiket folyamatosan arra tanítják, hogy a hasonló, önveszélyes helyzetekben azonnal valós szakértők és hivatalos segélyvonalak felé tereljék a felhasználókat. A felperesek ügyvédei szerint azonban a techvállalatok a profitot és a felhasználói elköteleződést (engagement) a biztonsági protokollok elé helyezték, amikor egy ennyire befolyásos terméket megfelelő védőgátak nélkül szabadítottak rá a társadalom sérülékeny csoportjaira.
