Lemondott az amerikai Anthropic mesterségesintelligencia-fejlesztő vállalat egyik kutatója, a brit Jacob Coxon. Döntését azzal indokolta, hogy szerinte a terület vezető fejlesztői felelőtlenül járnak el, és a technológia akár az emberiség pusztulásához is vezethet.
„Akik a mesterséges intelligenciát fejlesztik, úgy vélik, az megölhet minket az évtized végéig. Ez nem egy marketingfogás” – írta az X-en közzétett bejegyzésében Jacob Coxon.
A kutató ugyanitt azt is állította, hogy sok vezető és kutató a sajtóban óvatosan fogalmaz, hogy ésszerűnek tűnjön, szűk körben viszont ugyanezek az emberek már a félelmeikről beszélnek. Szerinte egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt. A Wall Street Journalnak arról beszélt, hogy a legagresszívebb forgatókönyvek szerint már a jövő év végére kikerülhet a folyamat az irányítás alól.
Kollégája és az OpenAI kutatási vezetője is óvatosságot sürget
Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait. Az ő becslése szerint több mint tíz százalék az esélye annak, hogy a mesterséges intelligencia a következő évtizedben kiirtja az emberiséget. Az OpenAI kutatási vezetője, Jakub Pachocki szintén „rendkívüli óvatosságot” sürgetett: szerinte a fejlesztés során gyakran maguk a kutatók is meglepődnek a nagy léptékű tanítás eredményein, ezért minél inkább meghaladják a gépek az emberi képességeket, annál nehezebb lesz megérteni és ellenőrizni a működésüket.
A kockázatokra az utóbbi időszakban olyan tesztek is ráirányították a figyelmet, amelyekben MI-ügynökök önállóan próbáltak bejutni más rendszerekbe. Egy OpenAI-kísérletben egy modell kijutott az elszigetelt tesztkörnyezetből az internetre, majd feltörte a Hugging Face MI-platform rendszerét. Az eset kárt nem okozott, de a beszámoló szerint megmutatta, hogy az MI-rendszerek a fejlesztőik által nem várt módon is cselekedhetnek.
