31. 8. 2004 Zofijina modrost

Turingov test – kavarniško kramljanje

ALAN TURINGAlan Mathison Turing (1912 – 1954) je bil britanski matematik, logik, filozof, biolog in tajnopisec, ki velja za pionirja na področjih računalniške znanosti, kognitivne znanosti, umetne inteligence in umetnega življenja. Je eden od očetov moderne računalniške znanosti. Po osnovnem izobraževanju na šoli v Dorsetu je Turing na King’s College v Cambridgeu študiral matematiko. Podal je vplivno formulacijo koncepta algoritma in računanja imenovano po njem – Turingov stroj. Formuliral je danes široko sprejeto Turingovo verzijo Church-Turingove teze. Med drugo svetovno vojno je bil eden ključnih ljudi pri reševanju znamenite enigme. Po vojni je v Nacionalnem fizičnem laboratoriju oblikoval enega prvih zgodnjih programskih digitalnih računalnikov in kmalu za tem še drugega na Univerzi v Manchesterju. Med drugim je ogromno prispeval k teoretičnim razpravam vprašanja: »ali lahko stroji mislijo?«. Od leta 1951 je Turing pospešeno delal na vprašanjih, ki bi jih danes obravnavali pod teorijo umetnega življenja, pri katerih je že uporabljal modele biološke rasti in kemičnih mehanizmov. Umrl je med tem revolucionarnim delom, po tem, ko so ga zaradi homoseksualnosti obtožili na prisilno hormonsko zdravljenje.

12438

Turingov test – kavarniško kramljanje

S pojavom prvih mehanskih strojev ob koncu 18. st., ter t.i. industrijsko revolucijo, ki je tej iznajdbi sledila, so se prvič v zgodovini pojavila plodna tla za razmišljanja (bolj utopije) na področju, ki mu danes pravimo umetno življenje oziroma umetna inteligenca. Seveda so, kot se to v človeštvu dogaja, že zdavnaj pred tem nekateri osamljeni posamezniki vse od davne antike naprej skušali voljo vsemogočnega na lastni koži, vse do nadobudnega Pascala, ki je proizvedel prvi znani produkt – stroj, ki bi lahko vseboval atribute tistega, čemur bi danes rekli računalnik, to je stroj, ki je v glavni vlogi razprav okrog umetne inteligence.

Eden pomembnejših vzvodov napredka je domišljija, ki je tista, ki vedno znova človeku postavlja skušnjavo izziva in cilja, ki resda pogosto ni dorasel dejanskim sposobnostim človekovega uma, a že to da ga človek ima je dovolj, da ga končno pritegne na pota, ki vodijo le v eno smer – naprej. Mary Shelley je leta 1816 napisala znamenito delo Frankenstein in v njem ovekovečila znameniti lik monstruma, prve oblike življenja, ki je ob pomoči človekovega znanja zaživela tudi po svoji fizični smrti. To prvo, čeprav fiktivno, umetno ustvarjeno življenje in vzklik ”it`s alive” je kot prvo zapisano na vrhu tega novega poglavja v zgodovini človekovega bivanja, ki si za premiso postavi vprašanje: ”Ali je mogoče in kako, ustvariti stroj ali fizično kako drugače profilirano bitje – stroj, ki misli in deluje po podobnem principu, kot človek?”

Po Shelleyinem pionirskem triumfu sledi stoletje polno novosti, predvsem pa silovitega napredka tehničnih sredstev, vse do trenutka, ko je bil človek nekje v sredini 20. st. stoletja sposoben sestaviti stroj z določeno bazo spomina in omejenimi sposobnostmi kombiniranja določenih operacij – to je bil vzorec na katerem je človek gradil vse do danes svojo idejo monstruma ali prijazneje rečeno, otroka človekovega uma.

Nekako v tem obdobju je deloval človek, ki je vprašanju umetne inteligence dodal pridih tiste prepotrebne tehtnosti in jo tako izpulil iz neder znanstvene fantastike, v katerih se je gibalo do tedaj. Govorim seveda o Alanu Turingu in njegovi ideji univerzalnega računalnika. Prav ta ideja je kmalu naletela na prva resna razmišljanja o inteligentnih računalnikih, katerim v namen je skomponiral poseben test, pozneje poimenovan po njem, po katerem bi lahko morebitno računalnikovo, ali inteligenco kakšnega drugega stroja, postavili na preizkušnjo.

Ker predvidevam, da ste s principom Turingovega testa in njegovimi ugovori bili že kdaj seznanjeni, bi tovrstno pojasnjevanje preskočil in prešel k jedru teze, ki predstavlja neke vrste refleksijo na Turingov test, pod drobnogled namreč jemlje tekst Douglasa Hofstadterja: »The Turing Test: A Coffeehouse Conversation«, ki je prvotno izšel v reviji Scientific American leta 1981 z naslovom, ki na kratko povzema njegovo vsebino in formo: ”Kavarniško kramljanje o Turingovem testu za ugotavljanje, ali stroj lahko misli.”

Med tremi protagonisti se v kavarni razvije živahna debata o Turingovem testu, kakršnih med študenti ne manjka. Vsak izmed prisotnih zagovarja svoje stališče do testa in same ideje, kakor jo pač prejudicira veda, ki jo posamezni študent zastopa. Vsak izmed prisotnih je namreč izvedenec na enem od področij, ki so najbolj dovzetna za podobna vprašanja, tako imamo Chrisa, ki je študent fizike, Pat je študent biologije, ter Sandy, študent filozofije, ki vso diskusijo nekako povezuje in vodi. V nadaljevanju bom v osnovnih potezah in s kratkim komentarjem predstavil nekaj izvirnejših oziroma zanimivejših ter najpomembnejših pomislekov, ki se pojavijo med samo diskusijo. Že na začetku moram opozoriti, da kavarniška diskusija ne želi reševati nikakršnih vprašanj, ki se pojavljajo ob ideji inteligentnega stroja, temveč le na privlačen način predstavlja nek vzorec najpogostejših pomislekov ali prebliskov, ki se pojavljajo med, za ta vprašanja bolj ali manj izvedenimi strokovnjaki, ali še bolje, mladimi, ki so za ta vprašanja dovzetnejši, saj takorekoč zadevajo njihovo prihodnost.

Že na primeru človeka ne znamo dovolj prepričljivo razložiti kaj pomeni misliti, kaj šele, če se odpravimo korak dalje in želimo razložiti, kako misli stroj. Možnih je več premis in vse izhajajo, se razume, iz človekove lastne izkušnje, le ta pa se najbolj upira na prepričanje, da misliti pomeni razpravljati, torej ali stroji znajo razpravljati?

Pri Turingovem testu za ugotavljanje ali stroj lahko misli je kar nekaj nepojasnjenih zank, ena osnovnih je rezultat sam. Kdaj lahko zanesljivo rečemo, da je stroj test opravil. Kot vemo, je pri Turingovem testu to vprašanje vezano na ugotavljanje spola prisotnih na podlagi vprašanj, ki jih zastavlja izpraševalec, ki ob koncu testa postavi tezo. Zamisel temelji na igri oponašanja, pri tej igri gresta moški in ženska vsak v svojo sobo, kjer dobivata vprašanja od nekoga tretjega – izpraševalca, ta tretji lahko naslavlja vprašanja v obe sobi, vendar pri tem ne ve, v kateri sobi je kdo. Izpraševalec mora ugotoviti, v kateri sobi je ženska. Ženska mu skuša s svojimi odgovori kolikor je mogoče pomagati, moški pa se na vso moč trudi, da bi ga potegnil za nos, s tem, da mu odgovarja tako kot misli, da bi mu odgovarjala ženska. Test pridobi na smiselnosti v naslednjem momentu, ko mesto ženske prevzame stroj in poskuša prepričati izpraševalca, da je človek.

Recimo, da priznamo, da je vprašanje komunikacije rešeno kakor je pač najbolje mogoče, se pravi, da po tej poti identifikacija ni mogoča in je tako prepuščena izključno izpraševanju; kaj pomeni rezultat, ko izpraševalec stroju določi enega od spolov, recimo, da ženskega, pa ta njegova ugotovitev temelji na prepričanju, da ženske niso inteligentna bitja, pretiravam, vendar takšna možnost obstaja. Identifikacija s spolom lahko pomeni dober vpogled v človekovo naravo, ali še huje, naravo posameznega spola, če kaj takega obstaja. Kaj pa če izpraševalec te lastnosti ne premore ali je nepopolna? Ustavimo se torej pri osebi izpraševalca, ki je lahko kateregakoli spola, konec koncev je od njega odvisen rezultat testa. Določen software je že danes sposoben prevarati določene sloje ljudi, če seveda velja za ugotavljanje njegove inteligence čim večji procent nepravilnih identifikacij. Kot rešitev se mi zdi najprimerneje na mesto izpraševalca postaviti software, ki bi vseboval vzorce različnih vprašanj vseh slojev, ljudi obeh spolov. Pravila igre bi morali nekoliko prikrojiti, vendar bi šele na podlagi tega dobili resnično relevantne odgovore. Tudi dejstvo, da nek stroj Turingov test opravi, se pravi, da izpraševalca zavede, pa naj bo njegov odgovor tak ali drugačen, zaenkrat verjetno ne bi pomenilo nič drugega, da stroj zna zelo dobro simulirati mišljenje. Izpraševanje, če je le to vzvod, ki nakazuje mišljenje, kot je to primer pri Turingovem testu, je zgolj enosmeren proces, razprava je po drugi strani dvosmeren proces, pri katerem sodelujeta dve ali več oseb približno podobnih sposobnosti, zatorej razprava pri tem testu ni v igri, bi pa le ta prišla v poštev, če bi test temeljil na razpravi, pri tem pa se seveda pojavijo drugi nič manj zapleteni problemi, ker razprave ne moremo uvrstiti v ponavljajoči se vzorec, ki bi nam dajal odgovore, ki jih v tem primeru želimo slišati. Razprava bi bila rešitev v nekoliko utopični, z znanstveno fantastiko prepojeni prihodnosti, ko bi se stroji navzeli oblik, ki jih človek priznava za inteligentne, se pravi predvsem imam v mislih obliko človeškega telesa. V kolikor bi bila odpravljena tovrstna komunikacijska bariera, bi bilo vprašanje ugotavljanja inteligentnosti z razpravljanjem najelegantnejša rešitev.

Ob podajanju poslednje premise mi je prišlo na misel dvoje fiktivnih zgodb, obeh mojstrovin vsake v svojem mediju. Prva je briljantna Lemova zgodbica iz zbirke Zgodbe pilota Prixa, ki po svoje izpopolnjuje Turingov test predvsem pa sloni na dilemi, ki jo je posledično mogoče iz testa izluščiti.

Našega junaka pilota Prixa neka korporacija zaprosi za nenavaden poizkus. S še nekaj drugimi piloti naj bi opravil rutinski polet, med katerim pa naj bi poskušal, sodeč po delovanju in obnašanju razbrati, kateri izmed njegove posadke ni človek, ali če hočete drugače, kateri je robot oziroma android. Prixu v pomoč ni veliko podatkov. Android se ni v ničemer razlikoval od ostale posadke, razen seveda po svojih zmogljivostih, ki pa jih zavoljo poizkusa skriva, pa tudi ostali člani posadke, podobno kot pri Turingovem testu, so Prixa zavajali na napačno pot. Uspešno vse dokler ni Prix androida prisilil, da se nehote izda sam, računajoč pri tem na njegovo superiornost in popolnost napram človeku.

Druga zgodbica je iz sveta gibljivih slik, govorim o kultnem Blade Runnerju Ridleya Scotta, v katerem t.i. iztrebljevalec iztreblja uporne androide, ki se nočejo sprijazniti z dejstvom, da je rok njihovega trajanja strogo omejen. Tudi v tem primeru je situacija podobna, skoraj nemogoče je ugotoviti kdo je android. Po svoje je junak s pomenljivim imenom Deckard, še pred težjo nalogo, ker so ti androidi že tako izpopolnjeni, da je čutiti že zametke čustvovanja, da o njihovi siceršnji popolnosti sploh ne govorim. Za ugotavljanje in ločevanje teh strojev od ljudi, razvijejo poseben instrument ali test, pri katerem na zaslon tega t.i. Voight-Kampffovega instrumenta projicirajo oko izprašanca in potem ob pomoči določenih vprašanj opazujejo učinke le teh na njihovo zenico, kajti le na ta način jih je se mogoče ločiti od ljudi.

Dejal sem, da bi za stroje s svojimi omejenimi zmogljivostmi, v primeru, da Turingov test opravijo, lahko kvečjemu dejali, da so sposobni dobro simulirati mišljenje. Recimo, da se zadovoljimo s povedanim o mišljenju in se posvetimo vprašanju simuliranja česarkoli; koliko je to simulirano še tisto originalno, če sploh? To področje je dejansko še veliko bolj ovito v meglo, kajti kako lahko drugače rečemo ali vprašamo nekaj takega kot: kako moker je simulirani orkan in podobno? Si lahko predstavljamo simulacijo življenja, ki recimo poteka v zaprtih nepredušnih škatlah imenovanih računalniki. Je sploh mogoče v njih ustvariti umeten svet in vanj postaviti bitja, ki živijo po principih, ki jih postaviš ti sam. Postaviš se na mesto, ko si sposoben odločati o življenju in smrti, o času, sreči, žalosti in kar je še podobnih afektov, skratka prevzameš mesto boga iz mesa in krvi, testatura, ki jo držiš v rokah, pa je tvoj božji bič. Ta opis verjetno v nas obudi spomin na kakšno strateško igro, ki smo jo kdaj igrali na računalniku, toda smo se kdaj vprašali ali je simulirano življenje, ki ga živijo bitja pod našo trdo roko v teh programih, še kaj drugega kot zgolj to. Mi se odzivamo pristno, kako se pa odzivajo oni? Svet, ki ga ta bitja zaznavajo okrog sebe je svet, kot ga zaznavamo mi v matematiki, njihovo okolje je matematično, torej živijo matematično življenje. Toda, a ni matematika sama, oziroma njeno orodje, računanje – simulacija, saj daje rezultate, ki jih sama ne razume, kar bi po definiciji simulacija naj bila.

Naslednje vprašanje, ki se postavlja ob kavarniški diskusiji naših treh fiktivnih junakov, je vprašanje, kako vedeti, da za povedanim stoji neko mišljenje, posebej, če pritrdiš trditvi, da zunanja oblika še ni predpogoj inteligentnosti in si s tem ne moreš pomagati.

Gotovo ste že doživeli izkušnjo IRC-ja, ko se preko mreže lahko pogovarjaš s komerkoli, ki je priključen tisti trenutek na nek diskusijski kanal; in če ste, ste pozneje gotovo spraševali sami sebe, s kom neki sem se pogovarjal. Kaj lahko bi nam podtaknili nek program, ki bi bebasto, kakor se dogaja, odgovarjal na vprašanja in pripombe. Podoben občutek mora begati izpraševalca v primeru Turingovega testa, le da ima ta vsaj možnost utemeljene domneve, ki je nam odvzeta.

Računalnikova pomanjkljivost je generalno manjko razumevanja, ker pač deluje na principu vzorca, ki pa ga lahko potenciramo v neskončno in prav lahko, da kak stroj test opravi zaradi količine podatkov, ki se nakopiči v njegovem spominu. Ob primernem softweru, ki bi to količino podatkov uredil, ne bi bilo problemov, konec koncev je tudi naše znanje zgolj količina podatkov s katerimi manipuliramo, torej kje je tukaj razumnost ali uvidevnost? Kaj daje človeku možnost spoznanja? Človek je biološko-fizično bitje, ki mu notranja zgradba njegovih možganov omogoča, da vsebuje nekak softwere, za katerega rečemo, da razmišlja, dejansko pa je samo izpopolnjen princip primerjanja in improviziranja z podatki. Po podobnem principu delujejo računalniki nevronskih mrež, ki so se sposobni učiti sami, tako je mogoče dejati, da bo čez nekaj let že mogoče zgraditi stroj, ki bo sestavljen iz mehanskih in bioloških delov – nekakšen humanoid. Toda, a bo tudi sposoben misliti? Človekova najtrdnejša upora napram stroju in kakršnemu koli vzorčastemu principu je čustvovanje in humor. Človeški možgani po svoji kompleksnosti in vsestranskosti daleč presegajo vsak računalnik in bo tako verjetno še nekaj časa, vsaj dokler bodi naši možgani še vedno precejšna neznanka. Kar se pa računalnikov tiče so ti kajpada sila hitri pri matematičnih izračunih in postopnih logičnih procesih, a le ti so le ena izmed številnih sposobnosti možganov. V tem trenutku je najpomembnejša razlika med možgani in računalnikom v tem, da možgani ne delujejo zgolj zaporedno, postopno, temveč obenem procesirajo, integrirajo in sintetizirajo informacije in iz njih povzemajo splošno. Človek seveda lahko programira stroj tako, da se bo lahko z njim pogovarjal, kakor z inteligentnim partnerjem. Ta stroj bo uporabljal, kadar bo potrebno, zaimek ”jaz” v vseh slovničnih oblikah, toda to je samo potegavščina. Stroj bo še vedno bolj podoben navadni klepetajoči papigi, kakor najpreprostejšemu človeku. Človeško življenje posnema samo na jezikovni ravni in nič več. Takega stroja ne bo nič zabavalo, nič presenetilo, zmedlo, prestrašilo ali potrlo, saj je kot psihično bitje in individum nihče. Je le glas, ki govori o stvareh in daje odgovore in vprašanja, je logik, ki lahko premaga najboljšega šahista, je, oziroma lahko postane dovršen posnemovalec vsega, igralec, če hočete, ki pa je notranje povsem prazen. Človek ne more računati z njegovo naklonjenostjo oziroma odporom, je samo čudežno učinkovit kombinatorni mehanizem, nič več. Kaj lahko se v tem opisu prepozna tudi človek. Razen v nekaj prebliskih tudi sam ne demonstrira ničesar drugega, torej je človek že neke vrste stroj? Pozitivne lastnosti stroja so tiste, ki jih človek ne premore, pa vendar je lahko tudi to dokaz o razliki, saj je stroj zmotljiv in zlomljiv samo kot človekov produkt, medtem ko je človek na tem področju precej bolj občutljiv. Stroji so stroji tudi zato, ker jih imamo pod nadzorom, ker izkoriščamo njihovo neumnost. Upajmo, da nas te naše kreacije, kakršne pač bodo, ne bodo nekega dne zaradi svoje perfekcije kratkomalo odmislile, podobno kot se to zgodi v klasičnem dramskem delu Karla Čapka ”R.U.R.”, kjer se roboti uprejo človeku in ga vse do zadnjega eliminirajo, sami pa simulirano nadaljujejo življenje, kot ga je razvil človek.

Turing je dejal:” Menim, da bo čez približno 50 let mogoče programirati računalnike z ogromno kapaciteto spomina, tako, da izpraševalec ne bo imel več kot 70% možnosti postaviti prave identifikacije po petih minutah izpraševanja. Menim da je vprašanje ali stroji lahko mislijo, preveč nesmiselno, da bi zaslužilo resno razpravo, da pa se bodo do konca stoletja stvari toliko spremenile, da bo mogoče govoriti o mislečih strojih. Če je pojasnjeno, kaj je dokazano dejstvo in kaj domneva, ni nič narobe, da kaj domnevamo, ker domneve sugerirajo koristne smeri razmislekov.” Te besede so bile napisane leta 1950.