Az OpenAI új weboldalt indított, amely célja, hogy nagyobb átláthatóságot biztosítson a mesterséges intelligencia (MI) működésével kapcsolatban – számolt be róla a HVG. A cég azt ígéri, a felületen rendszeresen közlik majd a modellek hallucinációs arányát, azaz hogy milyen gyakran állítanak valótlan dolgokat, emellett követhetővé válik a káros tartalmak előfordulása és a parancsoknak való megfelelés mértéke is.
A lépés hátterében az állhat, hogy egyre több kritika éri az MI-ket, mivel azok néha megbízhatatlan információkat közölnek. Nemrég például azért nyújtott be panaszt egy férfi az OpenAI-hoz, mert a ChatGPT azt állította róla, hogy megölte a gyermekeit.
Az új oldal célja, hogy a nyilvánosság betekintést nyerjen az MI-fejlesztés biztonsági intézkedéseibe. Az OpenAI szerint az oldal „pillanatfelvételeket” közöl, így a teljes képhez más forrásokat is figyelembe kell venni.
Ugyanakkor nem mindenki fogadja kritikátlanul az újítást. A The New York Times például nemrég azzal vádolta meg a vállalatot, hogy véletlenül törölte azokat a bizonyítékokat, amelyek segíthettek volna eldönteni, hogy a cég jogosulatlanul használta-e fel a lap cikkeit a modell betanításához.
A lap szerint, bár a kezdeményezés üdvözlendő, „a teszteket maga az OpenAI végzi, és a cég közli az adatokat is, így könnyen lehet, hogy nem a teljes igazság olvasható ki a tájékoztatásból.”
Az új weboldal tehát fontos lépés lehet a mesterséges intelligencia felelősségteljes működtetése felé, de a független ellenőrzés és az adatok hitelessége továbbra is kérdéseket vet fel.
