Az Anthropic közlése szerint a chatbotja, a Claude ma már a cég kutatás-fejlesztési feladatainak több mint egynegyedében vezető szerepet tölt be, vagyis lényegében a saját utódja fejlesztésén dolgozik. A cég ugyanakkor hangsúlyozta: a Claude-nak nincs olyan része, amely emberi közreműködés nélkül, teljesen önállóan készülne.
A The Washington Post beszámolója szerint az arány néhány hónap alatt emelkedett a mostani szintre. A HVG ebben annak jelét látja, hogy gyors ütemben közeledik az önfejlesztő mesterséges intelligencia megjelenése.
Az emberek megfigyelő szerepbe kerültek
A cég a részletekből annyit osztott meg, hogy a kutatás-fejlesztési feladatok felülvizsgálatakor a Claude az idő 26 százalékában tudta vezetni a munkát. Ezekben az esetekben az emberek megfigyelőként voltak jelen, és iránymutatást adtak. Ez az arány februárban még nulla volt. Az Anthropic emellett közölte, hogy csaknem 30 ezer AI-ügynöke végez kutatási és mérnöki munkát, és a közelmúltban a kutatás-fejlesztésre szánt számítási kapacitásának hat százalékát csoportosította át biztonsági feladatokra.
A vezérigazgató lassítást sürget
Dario Amodei, az Anthropic vezérigazgatója néhány nappal ezelőtt arra szólította fel a vezető AI-cégeket, hogy tárgyaljanak a fejlesztés lassításáról. Az indoklás szerint így lehetne időt nyerni a technológia biztonsági korlátainak kiépítésére. Amodei több szakemberrel együtt arra hívta fel a figyelmet, hogy a mesterséges intelligencia elérheti azt a szintet, amelyen bármiféle emberi beavatkozás nélkül képes fejleszteni önmagát. Szerinte ha a „rekurzív önfejlesztési folyamat” megvalósul, az emberek számára nehézzé válhat a technológia megértése és ellenőrzése. Azt az Anthropic nem közölte, mennyire tartja valószínűnek ezt a forgatókönyvet.
A javaslat fogadtatása megosztott. A hvg.hu szerint a nyugati riválisok többsége támogatja a kezdeményezést, Donald Trump viszont élesen bírálja, Peking pedig úgy látja, hogy az egész elképzelés Kína ellen irányul. A vita azt követően éleződött ki, hogy a legfejlettebb modellek fejlesztői is figyelmeztetnek a technológia kockázataira.
A közlésekből nem derül ki, pontosan milyen feladatokat takar a „kutatás-fejlesztési munka vezetése”, és milyen módszerrel mérte ezt a cég. Az sem ismert, meddig emelkedhet ez az arány, és hol húzza meg az Anthropic azt a határt, ameddig emberi felügyelet mellett engedi dolgozni a modellt.
