Začetno pojasnilo: Oddelek za filozofijo na Filozofski fakulteti v Mariboru je izpeljal nagradni natečaj za dijakinje in dijake iz pisanja filozofskega eseja na temo: »Ali lahko stroj filozofira: umetna inteligenca in filozofija«. Namen natečaja je bil spodbuditi filozofsko razmišljanje in izražanje med srednješolsko populacijo.
Natečajna komisija, sestavljena iz članic in članov Oddelka za filozofijo na Filozofski fakulteti v Mariboru (dr. Boris Vezjak, dr. Janez Bregant, dr. Smiljana Gartner in Niko Šetar, mag.) je ločeno izpolnila ocenjevalne liste in vsak esej ocenila s točkami, s čimer je prišla do maksimalno objektivnih in nepristranskih rezultatov. Komisija je ugotovila, da je na razpis prispelo 27 esejev iz celotne Slovenije, najvišje ocene in s tem tudi razpisane nagrade pa prejmejo naslednji:
- Tonka Masič, Prva gimnazija Maribor (nagrada v višini 300 evrov)
- Katarina Kolar, Druga gimnazija Maribor (nagrada v višini 100 evrov)
- Zala Brecelj, Gimnazija Nova Gorica (nagrada v višini 50 evrov)
Vsem trem nagrajenkam čestitamo, hkrati pa se zahvaljujemo čisto vsem dijakinjam in dijakom, tudi njihovim profesoricam in profesorjem, ker so se odločili za sodelovanje in inspirativno razmišljali o razpisani temi. Naslednje leto načrtujemo nov razpis. Spodaj objavljamo vse tri nagrajene eseje. Sapere aude!
Oddelek za filozofijo na Filozofski fakulteti v Mariboru
***
Prvo mesto na natečaju
Tonka Masič
Računalniki in algoritmi so v naših življenjih vseprisotni. Umetna inteligenca, ki je gradnik mnogih algoritmov, vpliva na naš vsakdanjik na različne načine: predlaga nam filme, ocenjuje primernost kandidatov, ki se prijavljajo na delovna mesta, sodeluje, ko si nastavimo ozadje na Zoom-u in še mnogo več. Ko nekaj tako močno prežema naša življenja in nadomešča človeško delo, se nujno poraja vprašanje, do katere mere je umetna inteligenca podobna človekovi.
Svoj esej bom začela s predstavitvijo pojma umetne inteligence in pojasnila, da bom kot inteligentne agente razumela tehnologije, ki delujejo na podlagi strojnega učenja. Ker je za filozofiranje samoumevno, da se človek oziroma stroj tega nekako nauči, bom predstavila ti. strojno učenje kot imitacijo človeškega načina učenja. Predstavila bom različne poglede na to, ali so stroji inteligenti ali ne. Moj razmislek bo temeljil na hipotezi, da stroj ne more biti zares inteligenten, saj nima dostopa do zavesti, temveč ostaja zgolj na neki enostavnejši ravni »nezavednega« procesiranja podatkov.
Da ne gre za ista pojma, pove že ime. Umetna inteligenca se razlikuje od človekove, ki je v našem svetu vedno merilo drugih oblik domnevne inteligence, recimo inteligence strojev oziroma živali. Umetna inteligenca je predvsem domena računalništva, pojavlja pa se tudi kot disciplina kognitivne znanosti. V literaturi se pojavljajo različne definicije pojma: umetna inteligenca je opisana kot poskus modeliranja človeške inteligence in mišljenja na računalnikih (Poole & Mackworth 2017, 4). Računalniška znanost umetno inteligenco definira kot študijo inteligentnih akterjev. Inteligentni agenti so nekakšne avtonomne enote, ki delujejo in svoje dejavnosti usmerjajo k doseganju ciljev. Sami agenti so lahko zelo preprosti (enostaven primer inteligentnega agenta je termostat). Iz okolja jemljejo podatke različnih vrst, jih sprejemajo s senzorji in se na njih odzovejo s primernim dejanjem.
Na drugi strani Kaplan in Haenlein, strokovnjaka s področja umetne inteligence, umetno inteligenco opredeljujeta kot zmožnost sistema, da pravilno interpretira znane podatke, da se iz teh podatkov uči in da ta nova znanja uporablja za prilagojevanje in doseganje specifičnih ciljev in nalog. Ob tej definiciji je inteligentni agent nekaj drugega: to je stroj, ki se nečesa nauči preko strojnega učenja. V eseju bom le take naprave obravnavala kot tiste, ki imajo neko osnovno mero inteligence, in ne enostavnejših (npr. termostat).
Strojno učenje je eno izmed področij umetne inteligence. Ukvarja se z razvijanjem tehnik za avtomatsko pridobitev nekega določenega znanja, večinoma iz že obstoječih množic znanja, npr. baz podatkov, jezikovnih korpusov, množic slik in podobno (Poole & Mackworth 2017, 267). Strojno učenje temelji na konekcionističnem pristopu. Osnovna ideja konekcionizma je računalniško modeliranje duševnih procesov po vzgledu nevronskih mrež v človeškem telesu. Učenje lahko poteka pod nadzorom ali ne. Pri algoritmu nadzorovanega učenja človek podeli sistemu podatke, na podlagi katerih deluje. Pri nenadzorovanem učenju sistemu damo določene podatke, iz katerih se uči, odkrije vzorce v podatkih in skladno s tem spremeni svoje delovanje (Markič 2010, 41-45). Vedno gre torej za neko imitacijo že obstoječega človeškega znanja oziroma ravnanje po pravilih, ki jih je stroju določil človek.
Umetna inteligenca imitira človeško, vendar ali ima človeški inteligenci enake funkcije? Ali lahko, kot človek, procesira informacije oziroma še več, ali lahko tvori razmisleke, argumentira, filozofira in pri tem uporablja za človeka značilno subjektivnost? Če da, ali umetna inteligenca tudi razume sklepe svojega morebitnega filozofiranja?
Ustavimo se torej pri imitaciji. O umetni inteligenci skorajda ne moremo filozofirati, brez da bi omenili t.i. Turingov test, ki ga je njegov avtor, angleški matematik Alan Turing, poimenoval igra posnemanja (en. imitation game). Test deluje na naslednji način: človek (izpraševalec) preko sporočil komunicira z računalnikom in z drugimi ljudmi. Če računalnik uspe izpraševalca prepričati, da je človek, rečemo, da je opravil Turingov test (Turing 1950). Ta test preveri, kako inteligentno in nerazločljivo od človeka se lahko stroj obnaša. Uspešnost testa ne temelji na pravilnosti odgovorov, ampak na tem, kako podobni so odgovori človeških odgovorom. Odgovor na vprašanje »Lahko stroji razmišljajo?« bi zahteval ukvarjanje s preveč širokim konceptom razmišljanja. Hipoteza testa je namesto tega: »Če se stroj obnaša enako inteligentno kot človek, je enako inteligenten kot človek.«. Ena od kritik Turingovega testa je, da meri človečnost bolj kot inteligenco. Stroj se mora osredotočati predvsem na to, da bo »pretental« izpraševalca, da bo ta verjel, da je stroj človek (Levesque 2014). Lahko bi rekli, da test meri sposobnost imitiranja, ne pa neke dejanske inteligence stroja.
Je zgolj imitacija dovolj, da rečemo, da je stroj dejansko sposoben neke funkcije? Vprašanje lahko povežemo s poletno delavnico v Dartmouthu leta 1956, ki velja za začetek odpiranja raziskovalnega polja glede umetne inteligence. Raziskovalci so tam razpravljali o umetni inteligenci v povezavi z računalništvom, obdelovanjem podatkov in kreativnostjo. Njihov razmislek je temeljil na predpostavki, da je vsak vidik učenja ali kateri koli drugi aspekt inteligence možno opisati tako natančno, da lahko stroj to simulira (Moor 2006). Z njihovo tezo se lahko dotaknemo tudi postavljenega vprašanja: »Ali lahko stroj filozofira?«. Če bi filozofiranje dovolj dobro opisali, bi lahko potem stroj to simuliral. Je to potem pravzaprav pravo filozofiranje, če je zgolj simuliranje opisa filozofije?
Mnogi bi se strinjali z raziskovalci, prisotnimi na tisti delavnici. Allen Newell in Herbert A. Simon sta na primer podala naslednji predlog: »Sistem fizičnih simbolov ima vse potrebne in zadostne pogoje za splošno inteligentno delovanje«. S svojo hipotezo predpostavljata, da je človeško razmišljanje nekakšna manipulacija simbolov. Prav tako domnevata, da so stroji inteligentni. Teorija temelji na več predhodnih filozofskih idejah. Temelji na Hobbesovi ideji, da je razmišljanje le obračunavanje; poskusu Leibniza pri ustvarjanju logičnega računanja vseh človeških idej; Humovem razmisleku, da se lahko zaznavanje zmanjša na atomske vtise; ter celo Kantu in kategoričnem imperativu. Teorija zagovarja, da imamo ljudje in stroji zmožnost procesiranja simbolov. Pri ljudeh se to izraža v mislih in mišljenju, pri strojih pa kot podatki in manipulacija podatkov (Gugerty 2006).
Ena od kritik tovrstnih teorij je Searlova Kitajska soba. John Searle zagovarja, da manipulacija podatkov ne dokazuje inteligence, razumevanja pri stroju ali zavesti stroja. Searlova Kitajska soba s tem zavrača filozofsko idejo, ki jo avtor imenuje močna umetna inteligenca – ta ideja zagovarja, da ima ustrezno programiran računalnik s pravimi vhodi in izhodi um popolnoma enak človeškemu. Sicer ne zanika, da je možno ustvariti stroje, ki so bolj inteligentni od ljudi. Pravi le, da ti stroji ne morejo imeti uma in razuma, ki ga imajo človeški možgani (Searle 1980). Če to velja, potem stroj tudi ne more filozofirati kot človek.
Filozofiranje je tudi neizbežno povezano z izkustvom – procesa filozofiranja ne bi bilo možno razložiti samo z opisom fizičnih procesov, preko katerih pride do filozofiranja (čemur bi rekli redukcionizem). Raziskovalci, kot je Chalmers (2013), kritizirajo redukcionistični pristop. Zavestno je torej tisto, kar zmoremo ponovno povzeti, kar je notranje dosegljivo, na kar se lahko odzovemo itd. Chalmers razdeli probleme zavesti na lahke in težavne: lahke probleme zavesti je (bo) preko kognitivne znanosti oziroma nevrofiziologije možno pojasniti, medtem ko ”težaven” problem zavesti, ki se tiče izkustva, ostaja nerešen. S težkim problemom zavesti mer na subjektivni vidik, kako je biti mi oziroma neko drugo bitje, kako je vonjati, okušati, občutiti čustva itn.
Težek problem zavesti je vsekakor povezan s filozofiranjem. Pri estetiki, ki je disciplina filozofije, je na primer subjektivni vidik zelo pomemben. Kako bi sicer pojasnili, kako je videti rdečo barvo? Argument Franka Jacksona (1999) je takšen: v črno-beli sobi je zaprta briljantna znanstvenica Marija, ki ima na razpolago vso znanje o vidu in barvah, od valovnih dolžin do natančnega opisa fiziologije vida. Kaj se zgodi, ko gre Marija ven iz sobe? Marija je pred izhodom iz sobe vedela vsa fizikalna dejstva o videnju rdeče, vendar se je po izhodu iz sobe vseeno naučila nekaj novega o videnju rdeče. Računalnik se lahko nauči vsa dejstva o procesiranju barv, vendar ne bo nikoli poznal občutka videti rdečo barvo ter o tem ne bo zmožen razpravljati. Chalmers zato meni, da je problem izkustva tisti težaven problem, neizrekljiv in neotipljiv, s tem pa tudi nerešen (2013). Izkustvo se zdi nujno za filozofiranje in kot tako predstavlja prepreko, da bi lahko računalniki zares filozofirali.
Umetna inteligenca je prisotna povsod okoli nas – na programsko opremo z raziskovalnega področja umetne inteligence naletimo ob uporabljanju brskalnika, orodij za prevajanje, pri uporabljanju aplikacij, v robotiki in še ob marsikateri drugi priložnosti. Primerjanje umetne inteligence in mišljenja ter človeške inteligence, pod katero spada tudi filozofiranje, je neizbežno filozofsko vprašanje, s katerim se ukvarjajo mnogi. Nove smeri, kot je filozofija umetne inteligence, se ukvarjajo prav s tem – sprašujejo po tem, ali lahko stroji filozofirajo. Se torej stroji obnašajo kot ljudje? Če se izkaže, da lahko stroj filozofira, kar je, kolikor nam je znano, tipično človeška dejavnost, in to pod pogoji in s sredstvi, ki so drugačni od človeških, ali lahko nemara opravlja tudi druge človeške funkcije, kot so čutenje, ustvarjanje umetnosti in podobno?
Zdi se, da ne moremo reči, da stroji zares filozofirajo, vsaj ne v takšnem smislu, kot to počnemo ljudje. Računalniki ne dosegajo zavestnega procesiranja informacij, temveč ostajajo največ na nekem nezavednem nivoju procesiranja. Lahko torej izgleda, kot da filozofirajo, medtem ko v resnici (zaenkrat) niso zmožni filozofiranja, saj bi pri tem šlo za nek subjektivni razmislek, ki spada v višje nivoje zavesti, ki jih stroji ne dosegajo. Pomembno je, da se z umetno inteligenco ukvarjamo tudi na filozofski način, saj filozofija raziskuje področja, ki jih računalništvo morda ne. Nadaljnji razmisleki na področju filozofiranja strojev bi lahko, na primer, temeljili na vprašanjih, kot so »Ali so stroji lahko originalni ali kreativni?«, »Ali stroji pri filozofiranju nosijo odgovornost za to, kar sproducirajo?« in podobno.
Viri:
Chalmers, D. J. (2013). ”Kaj pomeni soočiti se s problemom zavesti?” Analiza 17 (1/2): 61-84.
Gugerty, L. (2006). “Newell and Simon’s Logic Theorist: Historical Background and Impact on Cognitive Modeling”. Proceedings of the Human Factors and Ergonomics Society Annual Meeting 50: 880-884.
Jackson, F. (1999). ”Epifenomenalne takšnosti”. Analiza 2 (3): 68-77.
Markič, O. (2010) Kognitivna znanost – Filozofska vprašanja. Maribor: Založba Aristej.
Moor, J. (2006). “The Dartmouth College Artificial Intelligence Conference: The Next Fifty years”. AI Magazine 27 (4): 87-89.
Searle, J. (1980). “Minds, Brains and Programs”. Behavioral and Brain Sciences 3 (3): 417–457.
Turing, A. M. (1950). ”Computing Machinery and Intelligence”. Mind 59: 433-460.
Poole, David L., in Alan K. Mackworth (2017). “Artificial Inteligence: Foundations of Computational Agents”. Cambridge: Cambridge University Press.
Haenlein, Michael in Andreas Kaplan 2019. “Artificial Inteligence and Managment Analytics”. Journal of Managment Analytics: Shanghai Jiao Tong University.
Newell, A. in H. Simon 1956. “The logic theory machine: A complex information processing system”. Institute of Electrical and Electornics Engineers.
Leibniz, G. 1765. New Essays on Human Understanding.
***
Drugo mesto na natečaju
Katarina Kolar
Vprašanje: »Ali lahko stroj filozofira?« deluje na prvi pogled domala preprosto, vendar že po hipnem premisleku dobi neverjetno težo. Filozofiranje je oblika zavesti in ko govorimo o umetni inteligenci in filozofiranju, v resnici iščemo odgovor na vprašanja problema duha in telesa, oz. se moramo do njih nujno opredeliti. Šele takrat postane iskanje odgovora na osnovno vprašanje smiselno. Kot ključno dilemo bom obravnavala možnost samozavedanja umetne inteligence ter možnost razumevanja pomena simbolov skozi teorijo utemeljevanja simbolov, kjer se bom spraševala, če je zgolj razumevanje pomena simbolov dovolj za uspešno filozofiranje, ki sem ga utemeljila po lastni definiciji.
V svetu v katerem živimo, lastnost filozofiranja pripisujemo izključno ljudem, od ostalih živih bitij nas ločuje nekaj, kar smo ljudje »samodefinirali« kot človeško zavest. Človeška zavest misli, dvomi in se samozaveda, vse našteto predstavlja ključno lastnost filozofiranja kot takega. Smiselno bi bilo trdi, da so lastnosti filozofiranja hkrati tudi lastnosti zavesti in obratno. Vse definicije filozofije, od Sokrata naprej, ki trdi, da je filozofija človekova dnevna aktivnost, pa vse tja do Marxa, ki piše o filozofiji kot o interpretaciji sveta z namenom, da svet spremenimo, vsebujejo skupne lastnosti filozofiranja, če to definiramo kot miselni procesa v okviru zavesti, znotraj katerega se filozofske zamisli rodijo. Ta mora obsegati kvaliteto samozavedanja, iz katerega izhajajo vse filozofske teorije nasploh; nemogoče je namreč razmišljati o človeku in svetu, če zanemarimo lastno eksistenco. Sposobnost samozavedanja je torej prva lastnost filozofiranja.
Druga takšna temeljna lastnost je interpretacija doživljanja okolja in našega zaznavanja, saj je to ključno (ne glede na to ali smo racionalisti ali empiristi) za razumevanje sveta in iskanja filozofskih resnic. Brez podatkov o svetu filozofiranje ne bi bilo mogoče, prav tako pa ne bi imelo posebnega smisla.
Naši doživljaji in izkušnje temeljijo na osnovnem čutnem zaznavanju, te podatke interpretiramo kot kvalije, ki jih fizika trenutno ni sposobna pojasniti. Kvalije so fenomenalne lastnosti stvari, so tisto izkustvo samo, ko s »fenomenološkim épochejem« (če si izposodim Husserlovo nomenklaturo) reduktivno odstranimo vso vedenje o kavi in dobimo tisto dišečo, slastno, brezkončno goščo. Izkustvo pitja kave se med posamezniki razlikuje in na takšen način delujejo prav vse fenomenalne lastnosti. S čutnim zaznavanjem lahko utemeljimo svet okoli nas, te celostne informacije pa pomembno vplivajo na razvoj filozofske misli, saj navdihujejo in služijo kot smiselni podporniki; bodisi argumenti bodisi protiargumenti za obstoječe filozofske teorije. Sposobnost čutnega zaznavanja skupaj z mislečo, samozavedajočo se zavestjo, tvori eksistenco zavesti.
Tretja nujnost za zmožnost filozofiranja je razumevanje pomena simbolov. Filozofske teorije namreč postanejo filozofske teorije šele takrat, ko so primerno ubesedene. Če povzamem vse tri točke in osnovne lastnosti filozofiranja, bi dejala, da je za uspešno filozofiranje nujno potrebna zavest, ki vse tri lastnosti združuje. Temeljne lastnosti filozofiranja so trenutno prepoznane samo v človekovi zavesti in so iz nje tudi izpeljane. Če želimo ustvariti umetno inteligenco (v nadaljevanju krajšano z UI) s sposobnostjo filozofiranja, moramo biti sposobni ustvariti UI, ki se samozaveda, čutno zaznava okolje in razume pomen simbolov. Takoj se intuitivno vprašamo, če je vse našteto sploh mogoče. Samozavedanje je modifikacija zgolj in izključno človekove zavesti (človek je edino bitje, ki se samozaveda). Tako ugotovimo, da ob postavljanju vprašanja, ali je UI sposobna filozofirati, v resnici iščemo odgovor na vprašanje, ali je moč poustvariti človekovo zavest.
David Chalmers smiselno definira enostavni in zahtevnejši problem človekove zavesti. V okviru enostavnega problema preučuje korelacijo med fizičnim in mentalnim, zahtevnejši problem pa obravnava vpliv fizičnega dela – procesov v možganih na mentalni del – torej na zavest. Za zahtevnejši problem trenutno nimamo rešitve, vendar je Chalmers optimističen in trdi, da bomo po vsej verjetnosti odgovore v prihodnosti našli, podobno kot so vrzeli v znanju že zapolnili naši predniki.
Prihodnostne rešitve zahtevnejšega problema zavesti bodo, kot Chalmers opozarja, zelo abstraktne narave (saj so vendar rešitve zahtevnejšega problema). Rešitve naj bi bile tako abstraktne, kot je abstraktna kvantna fizika, torej jih v resnici sploh ne bomo razumeli. Saj vendar pravijo, da tisti, ki kvantno fiziko razumejo, o kvantni fiziki nimajo pojma. Primer Schrödingerjeve mačke in superpozicija, torej dejstvo, da je lahko mačka hkrati živa in mrtva, krši osnovne pojme enotnosti izkušnje in zaznavanja, tudi enotnost eksistence.
Da bi lahko to dejansko razumeli, bi morali sami delovati na bazi kvantne fizike, kar pa se ne dogaja neposredno. Neproduktivno bi bilo trditi, da bomo skozi evolucijo v celoti prešli na kvantno osnovo; to bi pomenilo zgolj apatično spremljanje poteka evolucije. Če bi se čez čas potem dejansko spremenili v kvantne delce (kar je že skoraj predpostavka predpostavke), bi postali čista zavest brez fizične podlage in domnevam, da nas UI več ne bi zanimala. Kvantna fizika je človeku dejansko nedoumljiva. Teorija povezanih kvantnih delcev jasno krši temeljno vzročno načelo in obstoječe znanstvene teorije, ki smo jih mnogokrat poskusno dokazali. Povezani kvantni delci so begali celo Einsteina, ki je teorijo označil s pridevnikom »spooky«.
Zaključek je ta, da zavesti ne bomo uspeli poustvariti, to pa zato, ker je ne bomo sposobni razumeti. Ne trdim, da obstaja drugačna substanca zavesti (nekakšen dualizem substanc), čeprav se na tem mestu resničnost te izjave ne bi zdela tako absurdna. Možno je, da bomo to razlago približno razumeli, vendar ne na vzročno-posledični način, kot razumemo Newtonovo fiziko vsakdana, ki jo definiramo kot »logično«. Zatorej se trditev Davida Chalmersa in vseh filozofov-fizikalistov, ki trdijo, da bo mogoče zavest simulirati takoj, ko jo bomo lahko opisali, zdi naivna. Smiselno se je posvetiti predstavljeni kritiki Chalmersove teorije, ki kot alternative na ponudi dejanskega dualizma, ampak lastnost človeka, ki ni sposoben razumeti tega, kar je sicer pred njim in se mu razkriva do te mere, da bi lahko to poustvaril, se pa to, kar se pred njim razkriva, še zmeraj obravnava kot znanost.
S tem prva lastnost, ki bi jo UI potrebovala za uspešno filozofiranje, odpade. Za uspešno filozofiranje je nujno potrebna vsebnost vseh treh lastnosti, zato je že jasno, da UI filozofiranja ne bo sposobna. Ravno to podkrepi tudi druga osnova filozofiranja – čutno zaznavanje. Kvalije sodijo v kategorijo zahtevnejšega problema zavesti, ki ga ni mogoče stimulirati v obliki UI. Razlaga je enaka kot v zgornjem primeru lastnosti samozavedanja.
Tretja točka obravnava jezik, torej razumevanje pomena simbolov ponuja nekaj več kreativnih rešitev ter prostora za razmišljanje. Ključen problem je že leta 1980 izpostavil ameriški filozof John Searle v obliki kitajske sobe. Searle trdi, da je nemogoče, da bi bil program umetne inteligence kadarkoli sposoben razumeti dejanski pomen simbolov, ki tvorijo besede in stavke. Kljub močnemu argumentu, ki ga ponudi, smo v zadnjem času priča pojavu neizmerno zanimivih raziskav, ki semantično razumevanje simbolov prikazujejo nekoliko drugače.
Stevan Harnard je s primerom kitajskega vrtiljaka opozoril na pomembnost okolja in referenc okoli nas. Ideja, ki se pojavlja, je ta, da je za razumevanje pomena simbolov nujno, da UI pomen določi sama. Na voljo nima programa, ki bi zunanji svet na kakršnikoli način (pre)definiral od zunaj ali od znotraj, vse kar program vsebuje, so sistemi, ki omogočajo operiranje s simboli. Tukaj ne gre za program UI, ki ima svoj osnovni namen inatično zapisan v obliki osnovnega algoritma, ki se popolnoma samosvoje izboljšuje z vsako novo informacijo, tako da se nevronsko omrežje nekoliko predrugači. Zagovorniki teorije utemeljevanja simbolov govorijo o robotih, mehanskih organizmih, ki preko različnih senzorjev zaznavajo okolje, se premikajo, tvorijo lasten odziv. Za interpretacijo podatkov na voljo nimajo neomejene količine informacij, kot jih ima algoritem Googla (ta primerja in beleži vnose v brskalnik na globalni ravni in na takšen način izdeluje vedno bolj specifične in natančne profile uporabnikov ter interesnih skupin). Med vključenostjo v proces učenja, ki simulira ponavljanje, ki so ga deležni novorojenčki, ko se zavest počasi oblikuje v vedno bolj človeško obliko, bi roboti takšne vrste formulirali lastne odgovore na okolje. Znotraj tega procesa ne bi razvil človeške zavesti, ki opazuje samo sebe in ima do sebe neposredni, prvoosebni dostop, temveč inteligenco, ki je vezana zgolj na razumevanje simbolov. Slednje predstavlja nenavaden fenomen.
Hipotetičen robot bi dejansko razumel, da je sonce sonce, vendar bi to dojemal bistveno drugače, ker bi tudi samo sonce doživel drugače. Doživel bi ga brez kvalij, torej kot določeno valovno dolžino barv, spremembo temperature, a vse to bi razumel in vedel, da gre za sonce. Naše in njegovo dojemanje sonca bi se bistveno razlikovalo, celo do te mere, da bi lahko rekli, da gre za popolnoma edinstven primer zavesti. Ta bi bila najbližje človekovi, hkrati pa bi ji bila zato tudi najbolj tuja. Lahko bi rekli, da bi v tem primeru šlo za novo, prvo umetno »vrsto« bitja.
Če predpostavimo, da bi robot začel pojme, ki bi jih razumel, povezovati, na podlagi izkustva in posnemanja okolja, bi nastale prve (umetne) misli. Podobno tej novi vrsti umetne inteligence, ki trenutno obstaja v zgolj hipotetični obliki, je stanje, v katerega človek zapade, ko je preobremenjen z delom in ima absolutni fokus; razume pomen simbolov, informacij, ki jih procesira, vendar se v tem stanju ne zaveda sebe in svojega obstoja. Tudi izkušnjo okolja dojema zgolj mehanično, kvalij se ne zaveda. Takšno stanje se lahko doseže tudi z določenimi tehnikami meditacije, v angleščini se zanj uporablja izraz »flow state«. Podobno bi deloval tudi takšen robot. Za razmišljanje bi uporabljal besede, katerih pomene bi dognal individualno, ti pa bi se, kot sem že poprej izpostavila, bistveno razlikovali od našega pojmovanja stvarnosti. Izrecno človeških pojmov, kot so čustva kot taka, ne bi izkusil, zato bi njihovemu simbolu, na katerega bi med ljudmi slejkoprej naletel, pripisal (ne)popačen pomen.
Takšen robot bi razumel svet na edinstven način in ravno ta unikatna umetna perspektiva bi lahko človeku ogromno podarila. Svet bi razumel na način, kot ga razumejo angeli v filmu Wima Wendersa »Nebo nad Berlinom«. Ti pomene stvari v večini primerov razumejo, vendar ne poznajo življenja in človeškosti. Živijo namreč v črno-belem svetu, brez okusov, občutkov (kjer kvalije ne obstajajo), v svetu brez ljubezni, ki je kot angeli ne bodo nikoli razumeli (padlemu angelu Damielu se pojem ljubezen v svoji čistosti razkrije šele takrat, ko se »učloveči«).
Nemogoče je, da bi se takšen robot kar naenkrat samozavedel, sploh zaradi zgoraj opisanih zapletov človekove nezmožnosti simulacije lastne zavesti zaradi paradoksalnega (ne)razumevanja. Dokaz, ki to idejo potrjuje na drugačen način, je primer enojajčnih dvojčkov, ki si delita popolnoma enako okolje, izkušnje in DNA. Njuno življenje je popolnoma enako; enaki roboti ju istočasno hranijo, istočasno hodita na sprehode z usklajeno hojo, razpolagata z istimi informacijami. Kljub temu vsak izmed dvojčkov misli popolnoma drugače, njune misli so unikatne. Ekvivalenta stroja bi (ob izpostavljenosti istim pogojem) razmišljala enako. Ob identičnem osnovnem algoritmu in identičnih »inputih« lahko pričakujemo enake reakcije v obliki enakih misli, tudi zato, ker robota kvalij ne bi doživljala in bi se čutno zaznavni podatki popolnoma ujemali.
Če povzamem, je bistvo zapisanega razmišljanja v tem, da bi bil stroj sicer sposoben razmišljanja, ki pa bi se tako razlikovalo od človeškega, da bi lahko znotraj tega konteksta govorili o zavesti novega, umetno ustvarjenega bitja. Omenjena zavest bi bila seveda omejena na pomen simbolov in brez sposobnosti filozofiranja, katerega ključna postavka je človekova zavest, ki poleg razumevanja pomena simbolov zajema tudi samozavedanje in čutno izkustvo kvalij. Teh lastnosti se na UI ne da prenesti, ker jih nikoli ne bomo uspeli razumeti do te mere, da bi jih lahko simulirali na kakršnem koli substratu.
***
Tretje mesto na natečaju
Zala Brecelj
Umetna inteligenca je postala prek raznovrstnih tako imenovanih »pametnih naprav«, kar so na primer pametni telefon, robotski sesalnik in podobno, vse bolj del našega življenja. Na nek način nam lajšajo marsikatero neljubo opravilo, saj je veliko enostavneje s pomočjo telefonske aplikacije sprogramirati robotski sesalnik, da ti vsak teden ali vsak dan ob vnaprej določenem času očedi bivalne prostore, kakor da to opravilo opravljaš sam. Življenja brez pametnih telefonov si velika večina prebivalcev razvitega sveta ne more predstavljati. Skoraj vsak učenec ali dijak si ne predstavlja ur matematike, fizike ali kemije brez pomoči žepnega računala. Takšne in drugačne naprave so, in glede na trende tudi bodo, pomemben del naših življenj, kar terja razmislek o njihovem statusu v odnosu do drugih entitet.
Pri odgovarjanju na vprašanje iz naslova moramo najprej premisliti pojma »stroji« in »filozofiranje« oziroma »mišljenje«, saj je konsenz o pomenu pojmov nujen za uspešen razmislek o katerikoli temi. Če si pod besedo »stroj« predstavljamo parno lokomotivo, stružnico ali kateri drugi stroj iz časa industrijske revolucije, ali pa računalnik, pametni telefon, računalnik ali otroškega robota, ki se lahko premika naokoli, antropomorfnega robotskega »dečka« Davida iz Spielbergovega filma A.I., njegovega robotskega medvedka Teddya ali računalnik Hal 9000 iz Kubrickove 2001: Vesoljske odiseje, se bomo težje sporazumeli o kriterijih za »mislečnost« strojev. David je namreč po zunanjem izgledu deček, ne pa hladen stroj, zaradi česar bi mu po logiki antropomorfiziranja z lahkoto dodelili status »nekoga«-entitete z duhom, medtem ko bi za življenja znanstvenikov, posajenih v stanje nekakšne hibernacije, odgovornega Hala 9000 iz prej navedenega filmskega dela ameriškega režiserja Stanleya Kubricka veliko težje uvrstili med misleče entitete, saj ni na videz niti malo podoben ljudem.
Zaradi pasti antropomorfizmov bi superračunalnik lažje uvrstili med entitete s statusom »nečesa«- entitete brez duha, ki se sama sebe ne zaveda, kar bi vplivalo tudi na naš odnos do njega. Tudi Hala sta Dave in Fran želela izključiti, ko sta ocenila, da ni tako zanesljiv, kot naj bi bil. Pri definiranju stroja ne moremo mimo dejstva, da smo zaradi togosti in zanesljivosti delovanja DNA, encimov in drugih osnovnih, s človeškim telesom povezanih procesov, tudi mi precej podobni strojem, kajti osmoza transportira vodo in druge snovi skozi fosfolipidni dvosloj oz. celično membrano enako togo in zanesljivo, kakor deluje računalnikovo električno vezje. Ta podobnost nakaže, da bi bili ob primernih kriterijih lahko stroji tudi ljudje. Vsakomur, ki zaradi življenja v razvitem svetu še predobro pozna avtomobile, se bo porodila asociacija na servisiranje in menjavo avtodelov ter na »smrt« odsluženega prevoznega sredstva.
Pomen glagola »misliti« oz. »filozofirati« bi lahko določili kot sočasno sposobnost mišljenja, sposobnost čutenja in zavest, ki so samo različne fasete istega fenomena in nobena ne more obstajati brez drugih dveh. Lepa ilustracija je primer (intelektualne) debate, saj mora vse vpletene tema zanimati, morajo jo razumeti in želijo si, da bi jih sogovorci ali poslušalci poslušali, razumeli in spoštovali zaradi tistega, kar so izustili. Da debaterje tema zanima, je dokaz debata sama, saj jo poganjajo skrite strasti in interesi, ki so samo drugo ime za cel spekter nezavednih naravnanosti. Te namreč odražajo njihov slog in osebnost, ki izhaja iz neznanskega števila drobnih naklonjenosti, nagnjenj in naravnanosti. Pri obravnavani temi del problema leži tudi v tem, da zaenkrat še ne znamo ločiti med fenomenom (npr. mišljenjem, znanjem kitajščine…) in njegovo simulacijo, saj imamo v vseh primerih opravka zgolj z nekakšnim izdelkom, »outputom«, ki nam ga posreduje telo oz. »hardver« in na podlagi katerega naj bi sklepali na »softver« -npr. duh. Na kakšne težave bomo pri risanju ločnice naleteli, nam nazorno prikaže miselni eksperiment »kitajska soba« ameriškega filozofa Johna Searla, saj nam pokaže, da lahko ustrezno algoritmiran program ustvarja tako kakovostne, prepričljive in pristne izdelke oz. »outpute«, da so lahko druge entitete (npr. ljudje) prepričani, da imajo opravka z osebo, ki kitajščino obvlada do potankosti, četudi ta oseba ne razume niti besedice v tem jeziku.
Iste dileme -ali ima obravnavana entiteta duha ali ne – se pojavijo pri temi tega eseja, saj ne poznamo instrumenta ali načina, s pomočjo katerega bi se lahko neposredno prepričali o njegovem obstoju. Tudi tukaj imamo namreč opravka zgolj z govorico telesa, mimiko obraza, glasovi, dotiki, vizualnimi dražljaji …, ki jih proizvaja telo in so potemtakem nekakšen »output« ali izdelek, na podlagi katerega naj bi sklepali na »softver« oz. duha. Posredno sklepanje na duha bi bilo mogoče izpeljati s pomočjo Turingovega testa, saj tudi ta – tako kot detektor laži – meri odzive telesa, s temi pa nato ugotavlja, ali ima pred seboj lažnivca oz. entiteto z dušo. Njegova slabost je, da lahko z gotovostjo trdimo, da je vsako bitje ali stroj, ki ga je sposobno opraviti, entiteta z dušo; medtem ko za osebke, ki ga ne opravijo, ne moremo ničesar zagotovo trditi. To pomeni, da bi lahko vsakemu bitju ali stvari ali stroju, ki bi prestalo takšno testiranje, dali nekakšno licenco, da zna misliti. Kar bi bilo sila podobno opravljanju vozniškega izpita, kjer ti, ko ga uspeš opraviti, priznajo, da znaš voziti motorno vozilo določene kategorije. Tako bi moralo obstajati več različnih stopenj Turingovega testa, ki bi se razlikovale po času trajanja, zahtevnosti, globini vprašanj in izpraševalcu, saj že danes marsikatero bitje takšnega preizkusa ne bi opravilo. Za primer si poglejmo psa ali mačka, ki naj bi sicer imela nekakšno zavest, vendar Turingovega testa ne bi opravila.
Najzahtevnejša raven preizkusa bi trajala najdlje, vprašanja bi bila najgloblja (npr. zadevala bi čustva, humor…), pa še izpraševalci bi bili kar se da kvalificirani. To bi pomenilo, da bi bili specializirani v najmanj opaznih segmentih govorice telesa, gibov, pomagali bi si z raznorovrstnimi napravami, ki bi merile najrazličnejše telesne odzive, spraševali pa bi po najljubših knjigah, različnih filmskih in glasbenih delih, pomenu tega ali onega velikega romana ali kakšnega druga književnega dela, po rešitvah zapletenih romantičnih, prijateljskih ali družinskih situacijah, po smešnih prigodah, vicih vključno z njihovim prepoznavanjem med pogovorom…skratka po vsem, kjer je potrebno razumeti čustva. Če bi se obravnavanec dosledno in vztrajno izmikal odgovorom na tovrstna vprašanja, bi lahko izpraševalec upravičeno posumil, da nima opravka z mislečim sogovorcem. Pri tem bi moral biti izkušen in pozoren, kajti mogoče bi bilo, da bi se entiteta odgovorom izmikala na zelo prefinjen način, npr. z odgovori v slogu »film me ne zanima«, »te pesmi ne poznam«, »nimam časa za branje, poslušanje ali gledanje«… Indikator, da izpraševanec ni sposoben mišljenja, bi lahko bili tudi neprilagojeni (premili ali pretirano intenzivni) odzivi na vprašanja, vezana na emocije, kakor je to mogoče videti pri Leonu v Iztrebljevalcu. Slednji se je namreč pri vprašanju o njegovi mami odzval pretirano agresivno, saj je ustrelil iztrebljevalca Holdna, s čimer se izda.
In vendar mislim, da osrednje vprašanje teme umetne inteligence in filozofije ni, ali lahko stroj filozofira, temveč kdaj oziroma na kateri točki smo določeni entiteti (npr. stroju) pripravljeni priznati, da filozofira. Vprašanje, ali stroj lahko filozofira, je po bistroumnosti (ali debilnosti) primerljivo z vprašanjem, ali stroj lahko šahira. Ko je leta 1997 v New Yorku IBM-ov računalnik Deep Blue premagal takratnega svetovnega šahovskega prvaka Garija Kasparova, je ves svet videl, da je ustrezno programiran stroj sposoben odigrati vrhunsko partijo, vendar so ostala vprašanja, kot so: »Je bil Deep Blue vesel svoje zmage?«, »Se je sploh zavedal, da šahira?« in enako bo z mislečimi stroji, ki bodo opravili Turingov test. Na vprašanje, ali stroj lahko filozofira, ni mogoče odgovoriti ontološko, temveč le tako, da dorečemo pojme »stroj«, »filozofirati« in mejo, pri kateri določeni entiteti priznamo, da lahko misli.
Poleg tega se lahko jutri zgodi, da bo nek stroj, ki smo ga že ali ga še bomo izdelali, napisal najboljšo filozofsko knjigo doslej ali pa bo kot Sokrat hodil po Ljubljani ali San Franciscu in sodeloval v izjemno kakovostnih debatah, vendar kaj se dogaja v njegovem duhu oz. ali kaj takega, kot je njegov duh, sploh obstaja, pa ne bomo mogli nikoli neposredno preveriti, kajti opravka bomo vedno imeli zgolj z govorico njegovega telesa oz. njegovimi telesnimi reakcijami, torej z nekakšnim »outputom«. Sokratska filozofija je govorica telesa, saj imamo opravka s telesnimi odzivi (mimiko obraza, kretnjami rok, telesno držo, glasom, vidnimi in čutnimi dražljaji…), ne moremo pa videti v duha posameznika. Lahko se s tem sprijaznimo in na podlagi »outputa« kot kriterija določimo minimalne standarde za filozofirajoči stroj, ali pa smo večno frustrirani.