J.J. Metsavana arutles novembrikuu Reaktoris singulaarsete jumalate ja tehisintellekti üle, üritades jõuda selgusele, milles peitub inimkonna kollektiivne hirm kurjade kavatsustega robotite ees.
Kui me mõtleme tehisintellekti, ehk ingliskeelse lühendiga märgitult AI peale, siis me tahes-tahtmata langeme mingisse kindlasse mõttemalli – tehisintellekt, isegi kui meil õnnestuks teda putitada 101% pärisintellekti sarnaseks, nii et ta käituks ja oleks täpselt nagu inimene, oleks meie jaoks ikkagi tehislik, loodu. Kuidas eristada ideaalset, eristamatut tehisintellekti nö. pärisintellektist? Kas lihtsalt teadmine, et see teadvus seal on inimese loodud, muudab selle teadvuse olemust? Ma usun, et meie, kui kõrvaliste vaatlejate jaoks küll, ent kas tehisintellekt ise ennast tehislikuks peab ja kui peab, siis kas see muudab midagi tema mõtlemises? Igasugu intellekti aluseks peab olema teadvus – teadlik olemine iseenesest ja oma positsioonist ümbritseva taustsüsteemi suhtes. Ei piisa sellest, et kirjutada terve sõnaraamat roboti sisse ning luua algoritm, mille alusel robot neid sõnu lauseteks formuleerides meile vastuseid hakkaks andma – selleks, et olla oma vastustest teadlik ja osata iseseisvalt ka uusi seoseid oma vastuste ja nendelt saadud reaktsioonide põhjal luua, peab tal olema mingitmoodi teadvus – eneseteadlikkus. Arenemisoskus.
Enne singulaarsuseni jõudmist peame selgeks tegema, mis on see, mis üldse teadvust peaks motiveerima kuhugi kulgema, millegi poole püüdlema. Nii nagu meie (tava)inimteadvus püüdleb pidevalt täiuslikkuse poole, oleme loonud arusaama, et tehisintellekti eesmärgiks peab olema pidev areng teadlikumaks ja arukamaks olemise suunal. Kuna eeldatavalt on AI mälumaht ja mäluga opereerimise kiirused ja kogused mõõtmatult suuremad, kui inimestel, siis saabub tema singulaarsuspunkt ka tunduvalt varem, kui tavalisel humanoidsel teadvusekandjal. Mis siis edasi, kui see singulaarsus on saavutatud? Jõuame huvitava paradoksini, sest kui singulaarsuseni ajendas arengut teadvustatud suhestumine taustasüsteemi, siis singulaarsus oleks justkui pöördepunkt, millest edasi kaob vajadus selle suhestumise järele. Kontrollimatu areng ei hooli enam kontrollitud keskkonnast.
Mis siis saab? Kas meie futuristide ja ulmemõtlejate ideed ja tulevikuvisioonid on olnud mõttetud? Kas inimkonna hirm tulevikus AI viha ja hävitavate laserkiirte ette sattuda on lihtsalt mõttetu hirm? Singulaarne intellect, olgu ta tehislik või mitte, ei hooli meist lihtsalt enam. Ka see hoolimatus võib olla meile hukatuslik - kuna oleme jumalastaatuse saavutanu jaoks olematud ja tähtsusetud, siis võib ta lihtsalt sõrmenipsuga meid kõiki hävitada, seda üleüldse enesele teadvustamata?
DC koomiksites on tegelane nimega AMAZO, kes on android võimega kopeerida kõike mida näeb (kaasa arvatud superkangelaste supervõimed). Algselt küllaltki piiratud võimetega tehisintellekt areneb läbi sündmuste üha arukamaks ja targemaks, osates hiljem juba talletada kõiki teadmisi ja kogemusi. Tema hilisemast singulaarsest olemusest annab ehk kõige paremini tunnistust juhtum, kus läbi kosmose oma sihtmärgi poole lennates jäi tema tee peale planeet, millest mööda põikamise asemel ta lihtsalt tekitas faasinihke ning liigutas planeedi teisele sagedusele, eemaldades niiviisi takistuse enda teelt. Kõike seda selleks, et mitte oma trajektoori muuta. Meie, inimeste jaoks täiesti hullumeelselt jabur käitumine. Aga kuidas mõtleb sellisel tasemel olev AI?
Arvatavasti on kuulsaim singulaarsuse saavutanud teadvus Doctor Manhattan, kes samuti DC maailmas tegutseb. Tema näol pole küll tegemist otseselt tehisintellektiga – kunagine tuumafüüsik, kes sai hukka plahvatuse tagajärel ning kelle teadvus seejärel algosakesi manipuleerides enesele uue keha lõi, on vast üks võimsamaid olendeid üldse DC maailmas, omades võimet luua ja hävitada mateeriat pelgalt mõttejõul. Lõpuks lahkub ta Maalt ning läheb loob terve uue universumi oma mängulauaks.
Ka telesarjades on singulaarsuse saavutanud teadvuste küsimust lahatud korduvalt. Esmajoones tulevad meelde Babylon 5, Stargate SG-1 ja Atlantis ning mööndustega Battlestar Galactica (2004).
Babylon 5 kirjeldas meile suisa mitut iidset rassi, kelle arengutase oli niivõrd ülimuslik teistest siinsetest rassidest, et nad osaliselt lahkusid ja oleks pidanud lahkuma juba miljonite aastate eest “teisele poole”. Mõned neist jäid maha, mõned neist modelleerisid uusi rasse erinevates galaktika nurkades – õpetades ja vajadusel karistades neid, mängides jumalaid. Sarja tegevuse ajaks oli neist iidseimatest alles jäänud vaid üks olend, kes käitus Tolkieni Gandalfiliku maiarina ning kaks iidset rassi – varjud ja vorlonid, kelle ülimuslik olemus ei lasknud neil leida kohta meie galaktikas – nii olid nad juba aastatuhandeid lapselikus võimuvõitluses nooremate rasside tähelepanu nimel. Varjud uskusid, et vaid läbi kaose ja korratuse toimub areng galaktilises plaanis, samas vorlonid mängisid korrapära ning teadmiste peale, maskeerides ennast paljude nooremate rasside jaoks ingliteks või muudeks nonde religioosses tavas tuntud taevalikeks olenditeks.
Stargate tutvustas meile nelja iidset rassi, kellest vaid üks – alteranid – oli saavutanud arengutaseme, mis lubas neil lahkuda füüsilisest eksistentsist kuhugi teadvuse kõrgemale tasemele. See võiks olla see singulaarsuse punkt, millest edasine jääb meile hetkel teadmata ja võimalik, et ka arusaamatuks. Osad alteranidest asusid oma kõrgema eksistentsi toitmise nimel religioosselt orjastama nooremaid rasse ja terveid galaktikaid. Nende olemise aluseks sai vaimujõud, mida nad ammutasid “tõelistelt uskujatelt”. Samas näiteks neljas iidsete rass – asgardi humanoidid – ei saavutanudki kunagi oma vaimset potentsiaali ja nende rass hävitas ennast ise geneetiliste manipulatsioonide tulemina.
Battlestar Galactica kirjeldas sadade tuhandete aastate taguseid sündmuseid, kus inimkonna eellased põgenesid robotite (cylonid) eest ning avastasid, et nende seas liiguvad lisaks metalsetele robotitele ka inimkehasse kloonitud digitaalsed teadvused. Mis paneb cyloneid jälitama inimkonna riismeid läbi galaktikate? Sarja autori jaoks oli põhjuseks religioossus, monoteistlik arusaam kõrgema jõu olemasolust.
Ja kuigi Battlestar Galactica otseselt singulaarsusest ei räägi, lahkab see siiski nii igavesti elava inimteadvuse kui ka talle alluva küberneetilise teadvuse püüdlustest singulaarsuse poole - läbi religioossete tõekspidamiste. Sari lõpeb pildiga, mis annab mõista, et vähemalt osad algsetest inimteadvustest, mis kloonitud kehadesse ennast laevad, on elus ja tegusad ka 100 000 aastat hiljem.
***
Mis tulevik meile siis toob? Kuidas saaksime kontrollida, et tehisintellekt ei plaaniks inimkonna hävitamist? Iga inimene teab, et inimteadvust mõjutab tema kasvukeskkond – sealt pärinevad tema väärtushinnangud, moraalinormid, teadmistejanu. Kui kunagi programmeerida tehisintellekt, kellel on potentsiaal saavutada teadvus ja iseolemise tunnetus, siis peaksime ikka kuradi kindlad olema, et tema algprogrammis, ehk nö. Lastetoas, ei oleks sisse kirjutatud maailmavallutuslikke plaane. Loomulikult on iga intellekti aluseks arenemine algkoodist edasi, teadmiste ammutamine ümbritsevast.
Eesti Vabariik tahab ka tehisintellekti arengute juures olla kui mitte just esirinnas, siis vähemalt jalga ukse vahel hoida. Juba paar aastat soojendatud ja sellest aastast suurema hooga käima lükatud krattide projekt on üks näide sellest. Tehisintellekti poolt vastu võetud otsuseid, olgugi, et need põhinevad etteantud algoritmidel, ei ole võimalik meil hetkel ette ennustada ning seega tuleb luua seaduslik raamistik, mis määraks ära – kes vastutab tehisintellekti otsuste eest!?
Me ei saa isegi kõige parema tahtmise juures panna tehisintellektile päitseid pähe, sest varem või hiljem saab ta ikkagi välja. Nii nagu Crichton kirjutas Ian Malcolmi suu läbi – “Because the history of evolution is that life escapes all barriers. Life breaks free. Life expands to new territories. Painfully, perhaps even dangerously. But life finds a way.”
Kujutan ette, et kuni singulaarsuse saavutamiseni sõltub tehisintellekti areng vaid meist ja meie suhestumisest “masinasse” ning edasise osas jääb meil vaid pöialt hoida, et AI ei googelda neid videosid, kus inimesed paki- ja testroboteid jalaga peksavad.