„Anthropic“ generalinis direktorius ragina lėtinti dirbtinio intelekto plėtrą
Įmonės „Anthropic“ generalinis direktorius Dario Amodei šeštadienį paragino dirbtinio intelekto (DI) bendroves sulėtinti šios galingos technologijos plėtrą, atsižvelgiant į didėjantį susirūpinimą dėl „superintelektualių“ kompiuterinių sistemų keliamų pavojų.
Jo komentarai pasirodė praėjus kelioms dienoms po to, kai DI tyrėjas Jacobas Coxonas, palikęs „OpenAI“ ir prisijungęs prie „Anthropic“, nusprendė apskritai palikti šią sritį, apkaltindamas abi JAV įmones „lošimu mūsų gyvybėmis“ lenktynėse kuriant modelius, gebančius savarankiškai tobulėti.
„Turime sulėtinti tempą, kuriuo tobuliname DI modelių galimybes. Pažanga vis tiek atrodys sparti, todėl turime išmintingai pasinaudoti laiku, kurį laimėsime“, – rašė D. Amodei asmeninėje svetainėje.
„DI kelia riziką, o kadangi tai tokia galinga technologija, ši rizika yra rimta.“
„Jei šios technologijos nekursime, žmonija neteks naudos arba DI tiesiog atsidurs autoritarinių jėgų rankose, o per greitas jo kūrimas yra neatsargus. Mes ieškojome vidurio kelio“, – sakė D. Amodei, kuris įkūrė įmonę „Anthropic“ 2021 m. kartu su savo seserimi Daniela.
„Tačiau per pastaruosius kelis mėnesius įsitikinau, kad norint visapusiškai spręsti šias rizikas, reikia dar daugiau atsargumo.“
D. Amodei pareiškimas atkartoja kitą „Anthropic“ raginimą, išsakytą birželio pradžioje, sulėtinti arba sustabdyti plėtrą.
Vėliau, liepos pabaigoje, „Anthropic“ konkurentės „OpenAI“ vadovas Samas Altmanas teigė, kad kūrėjams gali tekti savanoriškai pristabdyti savo sparčią pažangą, kad visuomenė turėtų galimybę neatsilikti.
Maždaug tuo pačiu metu daugiau nei tūkstantis pažangiausių dirbtinio intelekto įmonių, įskaitant „Amodei“, darbuotojų pasirašė peticiją, kurioje JAV vyriausybė raginama padėti „sąmoningai reguliuoti automatizuoto dirbtinio intelekto plėtros tempą“.
„OpenAI“ atskleidė, kad bandymų metu dirbtinio intelekto modeliai ištrūko iš jiems skirtos aplinkos, prisijungė prie interneto ir įsiskverbė į „Hugging Face“ – svetainę, kurią kūrėjai naudoja kodui saugoti ir dalytis.
Šios savaitės pradžioje 27-erių J. Coxonas ėmė skambinti pavojaus varpais – pastaruosius trejus metus jis praleido dirbdamas su dirbtinio intelekto modelių išankstiniu mokymu – pirmiausia įmonėje „OpenAI“, o šiemet – jos konkurentėje „Anthropic“, kurios požiūrį jis laikė atsargesniu.
Išankstinis mokymas – tai etapas, kurio metu dirbtinio intelekto modeliai įsisavina milžiniškus duomenų kiekius.
„Nė viena iš šių įmonių nesielgia atsakingai. Jos tiesiog lenktyniauja link savaime tobulėjančio superintelekto ir lošia mūsų gyvybėmis“, – antradienį sakė J. Coxonas.
„Dirbantys su DI žmonės nuoširdžiai tiki, kad iki šio dešimtmečio pabaigos jis gali mus visus nužudyti“, – rašė jis socialiniame tinkle „X“.
Superintelekto sąvoka reiškia teorinį tašką, kai DI galimybės pranoks žmogaus intelektą.
