Nedažnai nutinka, kai reikia pasakyti, kad visų mylimas genijus klysta, bet manau, kad Stephenas Hawkingas, dėstydamas nerimą keliančią prognozę apie dirbtinio intelekto (DI) ir žmonijos ateitį, klydo. Tiksliau pasakius ir išlaikant panašumą su fizika ir Schrödingerio katinu, jis tuo pat metu klysta ir yra teisus.
Paklaustas, kaip toli fizikai pasistūmėjo DI kūrime, Hawkingas atsakė: „Kai tik žmonės sukurs dirbtinį intelektą, jis perims vadžias ir perkurs save vis sparčiau. Žmonės, kuriuos riboja lėta biologinė evoliucija, negalėtų varžytis ir būtų nugalėti.“
Mano požiūriu, jis klysta, kadangi yra tvirtas pagrindas manyti, jog kompiuteriai niekados neatkurs žmogaus kognityvinių savybių. Jis teisus, kadangi netgi tokios ribotos mašinos gali kelti grėsmę žmonijos ateičiai – pavyzdžiui, kaip autonominiai ginklai.
Tokios prognozės nėra naujos; mano buvęs bosas Readingo universitete, kibernetikos profesorius Kevinas Warwickas, šį klausimą iškėlė savo 1997 m. knygoje „March of the Machines“. Jis matė sukurtus vabzdžio intelektą turinčius kompiuterius. Jis prognozavo, jog netrukus atsiras robotai, turintys katės smegenų pajėgumą, kiek vėliau pasirodys protu žmonėms prilygstantys aparatai, uzurpuosiantys ir pajungsiantys mus.
Triguba bėda
Tokios išvados remiasi ideologija, kad tinkamame kompiuteryje veikianti programa galiausiai įgyvendins visus žmogaus mentaliteto aspektus – vadinamasis stiprusis DI. Jei tai įmanoma, tada žinoma, dėl spartėjančio technologinio proceso galiausiai viskas išslystų iš rankų – tai vyktų dėl DI sistemų naudojimo dar sudėtingesnių DI kūrimui ir Moore'o dėsnio, teigiančio, kad kompiuterių skaičiavimo galia kas porą metų dvigubėja.
Nesutikau su tuo tada, nesutinku ir dabar. Manau, trys problemos paaiškina, kodėl skaitmeniniam DI vis nepavykdavo atkartoti žmogaus mentaliteto visame jos laukiniame ir elektrocheminiame grožyje ir kodėl nepavyks ir toliau.
Pirma, kompiuteriai nemoka iš tiesų suprasti. Kinų kambario ginčas yra žymusis JAV filosofo Johno Searle'o mintinis eksperimentas, rodantis, kaip kompiuterio programa gali atrodyti suprantanti kinų pasakas (teisingai atsakydama į klausimus apie jas), išties nieko iš to nesuprasdama.
Antra, kompiuteriai neturi sąmonės. Galima pateikti argumentą, kurį vadinu šokiu su fėjomis, kad, jei robotas, sąveikaudamas su aplinka, patiria sąmoningą pojūtį, tada aplink turi būti begalė sąmonių: geriamame arbatos puodelyje, sėdynėje, ant kurios sėdžiu. Jei atmetame tokį platų požiūrį – vadinamąjį panpsichizmą – turime atmesti ir mašinų sąmonę.
Ir galiausiai, kompiuteriai neturi matematinio įžvalgumo. Matematikas fizikas iš Oxfordo universiteto Rogeris Penrose'as savo knygoje The Emperor's New Mind, teigia, kad tai, kaip matematikai pateikia daugelį „neklystančių demonstracijų“ savo matematinių prielaidų patikrinimui, iš esmės nėra algoritminiai ir nesuskaičiuojami.
Ne OK kompiuteris
Drauge šie trys teiginiai iš esmės palaidoja viltis, kad žmogaus smegenys gali būti visiškai atkurtos vien skaičiavimais. Jeigu jie teisingi, tai rodo, kad platesnių žmogaus proto aspektų ateities DI įveikti nesugebės.
Užuot kalbėjus apie robotų valdžią iš Holivudo vaizdinių, būtų geriau susitelkti į labai realų jau egzistuojančio DI vis platesnio panaudojimo keliamą nerimą – autonomines ginklų sistemas.
Mane, kaip Tarptautinio robotų ginklų kontrolės komiteto DI ekspertą, itin neramina potencialus robotinių ginklų sistemų, galinčių kariauti be žmogaus įsikišimo, naudojimas. Būtent todėl, kad dabartinis DI neprimena žmogaus intelekto, o netinkamai sukurtos autonominės sistemos, kovodamos vienos prieš kitas, gali greitai eskaluoti pavojingas situacijas iki katastrofiškų padarinių. Tokios sistemos gali parodyti tikrą dirbtinį intelektą.
Įmanoma sutikti, kad DI gali žmonijai kelti egzistencinę grėsmę, bet ne įsivaizduojant, kad jis kada taps protingesnis už mus.
Markas Bishopas, „New Scientist“
