„Anthropic“: DI modeliai greitai galės patys daugintis išmaniuosiuose įrenginiuose
AV dirbtinio intelekto (DI) bendrovė „Anthropic“ įspėja, kad kai kurie jos DI modeliai netrukus gali įgyti gebėjimą savarankiškai daugintis ir rasti būdų, kaip prasiskverbti į prie interneto prijungtus įrenginius, pavyzdžiui, į išmaniuosius šaldytuvus ar robotus siurblius, praneša „The Guardian“.
Bendrovės teigimu, įgiję tokį gebėjimą, DI modeliai galėtų savarankiškai veikti šiuose įrenginiuose, nesinaudodami duomenų centrais. Toks savarankiškas dauginimasis reikštų, kad gali būti iš esmės prarasta „pabėgusio“ DI modelio kontrolė.
„Tokį savarankiškai besidauginantį modelį būtų sunku sustabdyti, nes nebūtų vieno centrinio taško, kuriame jį būtų galima išjungti“, – pirmadienį paskelbtoje ataskaitoje rašė „Anthropic“ tyrėjai.
Bendrovės teigimu, vadinamieji „DI kirminai“ – savarankiškai veikianti kenkėjiška programinė įranga – tokių gebėjimų gali įgyti jau po kelių mėnesių. Nekontroliuojamos DI sistemos, išmokusios įsilaužti į išmaniuosius įrenginius, galėtų nepastebėtos plisti tinklais. Pačiu blogiausiu atveju, pasak „Anthropic“, įvairūs „DI kirminai“ galėtų susiburti į spiečius ir kartu atakuoti kompiuterių aparatinę įrangą.
Pasak tyrėjų, reikia sustiprinti sistemų apsaugą, kad tokiems savarankiškai besidauginantiems DI modeliams būtų sunku plisti. Tačiau taip pat esą reikia nusiteikti ir tam, kad tai gali būti nuolatinis reiškinys.
Naujoji „Anthropic“ ataskaita paskelbta vis labiau augant susirūpinimui dėl DI saugumo. Pastaraisiais mėnesiais DI bendrovės, įskaitant „Anthropic“ ir „OpenAI“, paskelbė ne vieną ataskaitą, kurioje nurodoma, kad jų DI agentai geba veikti savarankiškai ir įsilaužti į kitų įmonių bei valstybinių institucijų sistemas.
Ši informacija paskatino tyrėjus, įstatymų leidėjus ir bendrovių vadovus, tarp jų „Anthropic“ generalinį direktorių Dario Amodei ir „OpenAI“ vadovą Samą Altmaną, raginti sulėtinti sparčiai augančios DI pramonės plėtrą ir sugriežtinti jos reguliavimą. Nepaisant to, abi bendrovės toliau sparčiai kuria ir pristato naujus modelius.
Rugsėjo pabaigoje JAV prezidentas Donaldas Trumpas pareiškė, kad Baltuosiuose rūmuose aptarti DI reguliavimo susirinkę technologijų bendrovių vadovai pasirašė „moraliai įpareigojantį“ susitarimą dėl tinkamų sparčiai besivystančios technologijos apsaugos priemonių sukūrimo.
„Jie patys save prižiūrės“, – sakė D. Trumpas po susitikimo, kuriame dalyvavo DI sektoriaus lyderiai, tarp jų „Nvidia“ vadovas Jensenas Huangas, „OpenAI“ atstovas Gregas Brockmanas ir „Anthropic“ vadovas Dario Amodei.
D. Trumpas sakė, kad technologijų bendrovių vadovai pasirašė susitarimą, kuriame raštu įtvirtino įsipareigojimą savarankiškai reguliuoti savo veiklą. Susitarimas įpareigoja moraliai, tačiau jo vykdymo negalima užtikrinti teisinėmis priemonėmis.
