Több egymással versengő mesterségesintelligencia-cég vezetője is nyilvánosan támogatni kezdte a legfejlettebb modellek fejlesztési ütemének lassítását. A sort Dario Amodei, az Anthropic vezetője kezdte, aki szombaton We Must Pace the Frontier címmel tett közzé javaslatot.
Amodei szerint lassítani kell az AI-modellek képességeinek javítását, hogy a biztonsági rendszerek utolérhessék a technológiát. Független külső ellenőröket javasol, akik alkalmazotti szintű hozzáférést kapnának a modellekhez, emellett közös iparági és nemzetközi biztonsági szabályokat is sürget. Az első lépést az Anthropic egyoldalúan is vállalja.
Altman, Musk és Hassabis is csatlakozott
Sam Altman, az OpenAI vezetője már a múlt héten arról beszélt, hogy nyitott a tempó lassítására, lehetőleg más vezető cégekkel együtt. Amodei felhívására nyilvánosan azt írta, egyetért vele, és az OpenAI szintén vállalná a független külső ellenőrök bevonását. Elon Musk, az xAI vezetője az X-en mindössze annyit írt: „Dario is right”. Demis Hassabis, a Google DeepMind vezetője szintén támogatásáról biztosította Amodeit.
A hivatalos indok a biztonság
Amodei érvelése szerint a legfejlettebb modellek képességei olyan gyorsan javulnak, hogy az ellenőrzésükre szolgáló rendszerek nehezen tartanak velük lépést. Az autonóm AI-ügynökök egyre összetettebb feladatokat végeznek el emberi beavatkozás nélkül, és idővel komoly kibertámadásokra, rendszerek feltörésére vagy tartós botnetek létrehozására is képessé válhatnak. A lassítás több időt adna a tesztelésre és a külső ellenőrzés kialakítására, miközben az erősebb modellekkel a jogi és pénzügyi kockázatok is nőnek.
A Portfolio elemzése emellett több gazdasági magyarázatot is felvet, amelyeket a cégek nem mondtak ki. A lap szerint brutálisan drága lett a verseny, egyre nehezebb forráshoz jutni, a lassabb tempó időt adna a meglévő modellek monetizálására, az iparági önszabályozás pedig befolyást adhat a későbbi állami szabályozás formálására. A drága auditok és biztonsági előírások ráadásul belépési korláttá válhatnak a kisebb szereplőkkel szemben. Ezek a magyarázatok a cikk szerzőjének értelmezései, a cégek nem ezekre hivatkoztak.
Van történelmi példa az önkorlátozásra
Az elemzés a hetvenes évek géntechnológiai vitáját hozza párhuzamként: 1974-ben a kutatók kezdeményezték bizonyos kísérletek ideiglenes felfüggesztését, egy évvel később pedig az Asilomar konferencián fektették le azokat a biztonsági szabályokat, amelyek mellett a kutatás folytatódhatott. A szerző az autóipari önkorlátozásokat is példaként hozza, köztük a német gyártók 250 km/órás sebességkorlátozását és a Forma-1 motorfejlesztési befagyasztását.
A cikk az OPEC-cel is összeveti a lehetséges megállapodást. A párhuzam szerint egyedül senkinek nem érné meg lassítani, mindenkinek az lenne a legjobb, ha a többiek fékeznének, és mindkét esetben szükség van ellenőrzésre. A lényeges különbség viszont az, hogy míg egy hordó olaj kitermelése jól mérhető, sokkal nehezebb megállapítani, milyen gyorsan fejleszt egy AI-cég, vagy titokban meddig jutott el.
Peking elutasította a felvetést
Amodei javaslata három lépcsőben gondolkodik: először az egyes cégek vállalnának külső ellenőrzést, majd a demokratikus országok vezető fejlesztői alakítanának ki közös biztonsági standardokat, végül globális koordináció következne, amelyben az Egyesült Államoknak és szövetségeseinek Kínával is meg kellene állapodnia.
A kínai külügyminisztérium hétfőn reagált: szerintük a félelemkeltés, a konfrontáció és a rosszindulatú verseny csak akadályozza a globális AI-kormányzást. Peking álláspontja az, hogy az AI kockázatait nem a technológiai fejlődés visszafogásával és Kína korlátozásával, hanem nemzetközi együttműködéssel és közös szabályozással kell kezelni.
