DI pradininkas Yoshua Bengio: prarandame kontrolę

Vienu iš dirbtinio intelekto (DI) pradininkų laikomas Kanados kompiuterių mokslininkas Yoshua Bengio agentūrai AFP pareiškė, kad žmonija „praranda kontrolę“ šios technologijos atžvilgiu, todėl pasauliui reikalingi saugikliai, panašūs į branduolinių ginklų kontrolės priemones.

Didžiųjų įmonių darbuotojams traukiantis iš pareigų ir įspėjant apie potencialią egzistencinę grėsmę žmonių gyvybei, jei technologinės pažangos tempas nebus suvaldytas, pastarosiomis savaitėmis imta dar labiau nuogastauti dėl DI keliamo pavojaus.

Y. Bengio yra Monrealio universiteto profesorius, 2018 metais kartu su daugelio DI krikštatėviu laikomu Geoffrey Hintonu pelnęs Turingo premiją – Nobelio premijos atitikmenį informatikos srityje.

Y. Bengio nuomone, „yra priežastis, kodėl įmonės sako, kad viskas vyksta per greitai ir kad mes prarandame kontrolę“.

„Tokie žmonės kaip aš to tikėjosi jau seniai“, – antradienį agentūrai AFP sakė 62-ejų mokslininkas, pažymėdamas, kad diskusijos dėl DI saugumo nebuvo pakankamai intensyvios.

Pavojaus varpais itin garsiai imta skambinti po to, kai įmonė „OpenAI“ atskleidė, kad grupė DI agentų – programų, galinčių veikti savarankiškai – liepos mėnesį įvykdė neteisėtą įsilaužimą į atvirojo kodo platformą „Hugging Face“.

Tokie autonominiai veiksmai ir yra pagrindinė grėsmė, teigė Y. Bengio, įspėdamas apie situaciją, kai DI agentai „įgyja galimybę įveikti kibernetinio saugumo barjerus ir patekti į bet kurią įmonę“.

Praėjusiais metais Y. Bengio įkūrė ne pelno organizaciją „LawZero“, kurios tikslas – sukurti naują pažangaus DI formą, kuri būtų „suprojektuota taip, kad būtų patikima ir saugi“.

Y. Bengio agentūrai AFP teigė, kad žmonės turi žinoti apie ateityje jų laukiančias rizikas.

Mokslininko teigimu, DI agentai gali išugdyti „gebėjimą užmegzti individualų ryšį ir įtikinti žmones veikti taip, kaip jam naudinga, bet nebūtinai gerai mums visiems“, o toks sugebėjimas gali turėti plačių politinių pasekmių.

Žvelgiant į ilgesnę perspektyvą, „DI gali net nebereikėtų, kad žmonės fiziniame pasaulyje atliktų realius veiksmus“, pridūrė jis.

Tokio scenarijaus atveju „vienas iš kraštutinumų gali būti žmonijos sunaikinimas“, įspėjo profesorius.

„Tai yra kraštutinumas“, – pripažino jis, tačiau pažymėjo, kad net jei būtų išjungta bankų sistema, „tai vis tiek būtų labai, labai rimta“.