Kysymystä vapaasta tahdosta on käsitelty scifissä jo pitkään. Tekoäly ja suurten datamassojen käsittely ovat nostaneet kysymyksen esiin aivan uudella tavalla viime vuosina. Tämä näkyy myös viihteessä. Keväällä 2020 ilmestyneet Devs ja Westworldin kolmas esityskausi käyvät teeman kimppuun täysillä. Aku Visala analysoi kumpaakin sarjaa ja paljastaa niiden determinismiä ja tahdonvapautta koskevat filosofiset pohjavirrat.

Kun päätin tutkia vapaan tahdon ongelmaa, ajattelin olevani vähän outo. Onhan kysymyksessä muinainen filosofinen ja teologinen ongelma. Hyväksyin jo, että se tuskin kiinnostaa ketään. Todellisuus osoittautui lopulta aivan päinvastaiseksi. Mitä pidemmälle asiaa selvittelin, sitä enemmän huomasin ympärilläni kiinnostusta aiheeseen. Yhtäkkiä obskuuria filosofista kysymystä käsiteltiinkin jo Hesarissa (täällä ja täällä), siitä puhuttiin telkkarissa, jopa sarjakuvissa. Yhtenä syynä on varmasti yhä kasvava keskustelu tekoälystä ja siihen liittyvistä teknologioista.

Keväällä 2020 ihmisillä on ollut odottamattoman paljon ylimääräistä aikaa katsoa televisiota. Ei ole sattumaa, että kaksi tämän kevään HBO:n ohjelmiston scifihittiä käsittelee vapaata tahtoa älyteknologian muokkaamassa lähitulevaisuudessa. Westworld sarjan kolmas tuotantokausi huipentuu toukokuussa. Jo aiemmin tänä vuonna ilmestyi minisarja Devs.  Kumpikin herättelee samanlaisia kysymyksiä: miten meidän käy, jos suurten tietomäärien avulla käyttäytymistämme pystytään ennustamaan ja hallitsemaan?

Ei ole yhtä vapaan tahdon ongelmaa tai kysymystä. Sen sijaan meillä on käsissämme valtava ongelmien ja teemojen kenttä. Kumpikin sarja ryöstöviljelee tätä kenttää niin paljon kuin se vaan ikinä ehtii. Käsikirjoittajat ovat selvästikin lukeneet muutaman kirjan asioista.

Tarkoitukseni on tässä kirjoituksessa nostaa esiin joitakin kiinnostavia tahdonvapauteen liittyviä teemoja, joita sarjat käsittelevät. En juuri lähde arvioimaan kumpaakaan vaikkapa esteettisin kriteerein. Olen kyllä sitä mieltä, että parantamisen varaa olisi paljonkin. Westworld on usein kaoottisen sekava ja kikkailee itsensä solmuun. Devs puolestaan on toisinaan harmaa ja laahustaa kuin zombiet ennen vanhaan. Yritän kuitenkin tunkeutua kummankin filosofiseen ytimeen, koska olen vakuuttunut sellaisen olemassaolosta. Asetan samalla niiden teemat laajempaan, filosofisen keskustelun yhteyteen.

Sivuhuomautus: Jos haluat välttää juonipaljastuksia, suosittelen, että jätät koko artikkelin lukematta. En paljasta loppuratkaisuja mutta juonikuvaukseni menevät pelkkää alkuasetelman kuvaamista pidemmälle.

Länkkärimaailmasta suuryrityksiin

Westworld osoittautui jo ennen kolmatta kauttaan filosofisesti hyvin kunnianhimoiseksi sarjaksi. Kun se polkaistiin käyntiin joitakin vuosia sitten, jo ensimmäisissä jaksoissa esitettiin pitkiä dialogeja tietoisuudesta, älykkyydestä ja ihmisen erityisyydestä. Sir Anthony Hopkins sai kyseenalaisen kunnian esitellä pitkäpiimäisissä monologeissa Julian Jaynesin jo aikaa sitten debunkattua kaksikamarisuus-teoriaa ihmisen aivotoiminnasta ja tietoisuuden synnystä. On oltava erinomainen näyttelijä kyetäkseen tekemään sen vähänkään uskottavalla tavalla.

Sarja alkoi lähitulevaisuuden teemapuistosta, Westworldista, johon rikkaat ihmiset saattoivat mennä hurvittelemaan, tuhoamaan ja tappamaan. Westworld oli villin lännen puisto, jossa ”isännän” eli ihmisenkaltaiset androidit toteuttavat ennalta ohjelmoituja tarinoitaan. Taustalla on tietysti Michael Crichtonin jo 1970-luvulla kirjoittama kirja, josta idea on napattu.

Kuten arvata saattaa, asiat menivät hieman pieleen. Jotkut isännät, erityisesti paljon kärsimään joutunut androidi Dolores, huomasivat yllättäen tulleensa tietoiseksi itsestään. Parin esityskauden sotkuisten mysteerien ja loputtomalta tuntuvien aavikoiden ja metsien läpi ratsastelun ja talsimisen jälkeen koneet vihdoin nousivat kapinaan ja lahtasivat niitä pahoinpitelevät ihmiset.

Keväällä 2020 ilmestynyt sarjan kolmas kausi sijoittuukin sitten teemapuistojen ulkopuoliseen maailmaan, jonne Dolores ja jotkut muut androidit ovat paenneet tarkoituksenaan kostaa ihmiskunnalle. Käy ilmi, että ”todellinen maailma” ei ole juuri teemapuistoa kummoisempi: köyhät köyhtyvät ja rikkaat rikastuvat. Tavallisia ihmisiä ohjaillaan aika samalla tavalla kuin isäntiä teemapuistossa: heidän elämäänsä manipuloidaan heidän huomaamattaan.

Suuryrityksen tekoälyyn on tallennettu valtava määrä ihmisiä koskevaa dataa. Tämän perusteella tekoäly tekee hyvin yksityiskohtaisia ennusteita kunkin ihmisen tulevaisuudesta. Näiden ennusteiden perusteella ihmisiä ohjaillaan ja kontrolloidaan. Vaikuttaa vahvasti siltä, että käsikirjoittajat ovat lukeneet tarkkaan Shoshana Zuboffin kirjan kyttäyskapitalismista (The Age of Surveillance Capitalism, 2018). 

Devs on puolestaan scifielokuvien ohjaajana tunnetun Alex Garlandin luoma minisarja, joka sijoittuu lähitulevaisuuteen. Päähenkilö on koodiorja, joka on töissä jättimäisellä Amara-yhtiöllä, jota johtaa mystinen Forest. Päästyään töihin firman hämäräperäiselle tutkimus- ja kehitysosastolle (engl. research & development, lyhennys devs) päähenkilön poikaystävä tekee itsemurhan oudoissa olosuhteissa. Vai onko kyseessä itsemurha, koodiorjamme miettii, ja alkaa selvittää asiaa.

Ensimmäisen jakson kuluessa paljastuu devsissä kehitteillä oleva salainen projekti. Kysymys determinismin totuudesta on kissa, joka nostetaan heti sarjan alussa pöydälle. Kvanttitietokoneen pääsuunnittelija Forest argumentoi kuin paraskin reduktiivista fysikalismia kannattava filosofi:

”Todellisuus on pohjimmiltaan fysikaalinen ja sitä ohjaavat fysikaaliset lait. Näin ollen todellisuus on pohjimmiltaan deterministinen. Kaikki työmme devsissä perustuu tähän olettamukseen”.

Tarkoitus on kvanttitietokonetta käyttäen luoda malli koko maailmasta: näin tulevaisuus ja menneisyys pystytään päättelemään siitä datasta, joka koskee nykyhetken fysikaalisia tiloja ja luonnonlakeja.

Tekojen välttämättömyyskö ongelma?

Kumpikin sarja näyttää olettavan, että determinismin totuus on jostakin syystä iso ongelma tahdonvapaudelle. Ei kuitenkaan ole aivan selvää, miksi näin olisi. Uhkaako tahdonvapauttani vaikkapa se, että käyttäytymistäni voidaan ennustaa? Ajatellaan asiaan hieman tarkemmin.

Kuvittele nyt, että rakastat kissoja. Katselet kissavideoita netistä ja viet omaasi kävelylle. Hellit sitä päivät pitkät. Jos nyt joutuisit tilanteeseen, jossa sinun pitäisi valita itsellesi uusi lemmikki ja vaihtoehtoina olisivat kilpikonna, koira ja kissa, on hyvin todennäköistä, että valitsisit kissan. Tai se ei olisi pelkästään todennäköistä, vaan välttämätöntä: et kykene valitsemaan muuta lemmikkiä.

Kuvitellaan lisäksi, että olisi olemassa supertietokone, joka voisi sinua koskevan datan avulla ennustaa hyvin tarkasti tulevaisuuden valintasi. Ottaisiko tämä tiedon mahdollisuus jotenkin vapautesi pois? Tuskinpa vain. Mikä on ”tahdonvapautta” tuossa tilanteessa? Tietysti se, että voit tehdä, kuten haluat ilman ulkoista pakkoa. Valitset tietysti kissan. Tämä valinta on vapaa, vaikka sinulla ei olisi edes mahdollisuutta toimia toisin. Valitset kissan, koska olet kissaihminen.

Opimme tästä huomiosta jotakin tärkeää: vapaat teot eivät ole sattumanvaraisia, vaan niillä on juurensa ihmisessä itsessään. Vapautta ei siis uhkaa se, että voimme ennakoida toistemme tekoja. Tätähän me teemme koko ajan, ja ihmisen mahdollisuus toimia järkevästi perustuu tähän yksinkertaiseen seikkaan. Ongelma ei myöskään ole siinä, että voimme toisinaan ennustaa tarkasti mitä toinen tekee. Jos kissaihminen laitetaan edellä kuvaamaamme valintatilanteeseen, kissaihminen tekee mitä kissaihminen tekee.

Jos ongelma ei ole se, että tekomme voidaan ennustaa, mikä se sitten oikein on? Olin joitakin vuosia sitten puhumassa tahdonvapaudesta Tampereen yliopiston tutkijaseminaarissa. Eräs opiskelija haastoi minua seuraavasti. Onko järkeä ajatella todellisuutta deterministisenä? Ajatellaan, että minulle kerrottaisiin nyt, että 10 minuutin päästä tappaisin kahvilassa jonkun. Jos nyt tiedän tämän, minähän voin tehdä jotakin muuta, lähteä vaikkapa kotiin. Jos determinismi on totta, eikö minun silloin olisi pakko tappaa se tyyppi siellä kahvilassa?

Näin on houkuttavaa ajatella mutta se ei kuitenkaan pidä paikkaansa. Kuvittele, että eräänä aamuna kahvipöydässä luet lehdestä, kuinka fyysikot ovat vihdoin osoittaneet, että fysikaalinen determinismi on totta. Tai ehkä tartut sanomalehden sijaan Raamattuun ja vakuutut siitä, että Jumala viime kädessä määrittää kaikki luodut tosiseikat, myös tekemäsi teot.

Pitäisikö sinun tämän tiedon pohjalta päätellä, että kun aamulla silittelit mielissäsi kissaasi, tämä silittely oli ennalta ohjelmoitu käyttäytymismalli, joka tuli jotenkin ulkopuoleltasi? Tai että sinä itse asiassa silittelit kissaasi pakosta tai piilotetusta manipulaatiosta johtuen? Ei tietenkään. 

Determinismi (olkoon sitten fysikaalinen tai teologinen) koskee tapahtumien välisten syysuhteiden välttämättömyyttä. Siitä, että toimijan teko on välttämätön ottaen huomioon kaiken sen, mikä menneisyydessä on tapahtunut, ei voida päätellä, että teko olisi pakonalainen tai manipulaation tulos. Silittelit kissaa, koska olet kissaihminen, tykkäät siitä. Valitsit sen ihan itse.

Autonomia tekee Teräsmiehen

Vapauden kannalta ongelmana ei siis ole tekojen ennakoitavuus tai edes välttämättömyys. Mikä se sitten on?

Jo ensimmäiseltä kaudelta alkaen, Westworld on halunnut herättää kysymyksiä siitä, mikä keino-olioiden asema on. Sarja ottaa selvästi myös siihen kannan: muistojen ja kokemusten kasautuessa puiston ”isännät”, eli androidit, kehittävät tietoisuuden. Tietoisuuden mukana heille tulee näkökulma todellisuuteen ja mahdollisuus valita ja tunnustaa omat arvonsa ja päämääränsä. Ongelma on kuitenkin se, etteivät he kykene tätä vapautta harjoittamaan: he tekevät mitä tahtovat mutta tuo tahto on tulosta muiden tekemästä ohjelmoinnista ja toteuttaa ohjelmoijien päämääriä. Isännät haluavat autonomiaa, eli vapautta kirjoittaa itse oma koodinsa ja tarinansa.

Kysymys ei siis ole vain siitä, että isännät haluavat valinnanvapauden. He haluavat, että tuo valinnanvapaus koskee juuri tiettyjä asioita, eli sitä millaisia heistä itsestään tulee. He haluavat valita tuleeko heistä kissaihmisiä vai koiraihmisiä. 

Elokuvassa Man of Steel (2013) Kal-El syntyy Krypton-planeetalla juuri ennen sen tuhoa. Kryptonilla on tullut tavaksi muokata kunkin lapsen perimää niin, että lapsella on sopivat taipumukset yhteiskunnassa juuri siihen rooliin, johon häntä on kaavailtu. Jos tarvitaan sotilasta, vahvistetaan fyysistä voimaa, aggressiota ja luottamusta auktoriteettiin. Jos tarvitaan valtiomiestä, tehdään toisenlainen perimä.

Nämä ihmiset eivät ole autonomisia edellä kuvatussa mielessä. Kenraali Zod ei ole autonominen, koska hänen moraalinen luonteensa on geneettisen manipulaation seurausta. Kenraali Zod kyllä kykenee tietoiseen harkintaan ja pystyy säätelemään omia tekojaan joiltakin osin. Hänen koko kognitiivinen koneistonsa ja moraalinen luonteensa on kuitenkin viritetty etukäteen toimimaan tietyllä tavalla, jota Zod itse ei kykene kontrolloimaan.

Kalin isä, Jor-El, kryptonilainen tiedemies ja filosofi, on samaa mieltä kanssani. Kryptonilaiset ovat menettäneet jotakin hyvin tärkeää, kyvyn olla autonomisia. Toimija on autonominen vasta sitten, kun hän on vapaa edeltäkäsin toimeenpannusta ohjelmoinnista. Juuri tästä Westworldin isännät kärsivät.

Jor-El puhuisi heidän vapautensa puolesta. Hänen mukaansa kunkin lapsen pitäisi itse kyetä valitsemaan omat taipumuksensa ja päämääränsä tai ainakin vaikuttamaan niihin. Kal on ensimmäinen luonnollisesti ja ilman manipulaatiota syntynyt lapsi vuosisatoihin. Koska Kalia ei ole etukäteen muokattu mihinkään rooliin, hän kontrolloi omia päämääriään ja tarkoituksiaan. Hänen luonteensa ja elämänsä suunta riippuu hänestä itsestään, ei ennakolta tehdystä ohjelmasta. Paettuaan Kryptonilta Kal päätyy Maahan, kohtaa vastoinkäymisiä mutta niistä huolimatta tekee valintoja, joiden tuloksena on ”teräsmies”, eli hyveellinen ja moraalisesti vahva kryptonilainen (Kal ei ole ihminen, homo sapiens).

Manipulaatio syö autonomian

Jos Westworld ja Devs olisivat fiksuja, ne sanoisivat, että tekoäly-yhteiskunnan ongelma on autonomian kuihtuminen. Kuten edellä esitin, autonomia edellyttää vapautta juuri tietynkaltaisesta ennakko-ohjelmoinnista ja kontrollista. Tulevaisuuden yhteiskunnassa, jossa kustakin meistä on saatavissa valtava määrä dataa, käyttäytymistämme voidaan muokata tehokkaasti. Ongelma ei siis ole determinismi sinänsä, vaan kontrolli ja manipulaatio.

Nämä ongelmat on nostettu esiin myös viimeaikaisessa kirjallisuudessa. Poleemisessa kirjassaan 10 syytä tuhota kaikki sometilit nyt (2019) filosofi Jaron Lanier väittää, että lisääntynyt sosiaalisen median käyttö on merkittävä uhka ihmisen autonomialle. Ensimmäinen Lanierin kymmenestä syystä sometilien hävittämiseen onkin se, että sosiaalinen media on tietoisesti suunniteltu tavalla, joka uhkaa kuihduttaa ihmisen vapaan tahdon.

Autonomia saadaan tuhottua tekemällä ihmisistä addikteja, manipuloimalla heidän käytöstään ihmisten sitä itse huomaamatta. Algoritmit haistelevat vihjeitä siitä, millaiset pienet muutokset saavat sinut ostamaan, reagoimaan, osallistumaan tai tekemään mitä tahansa, joka pitää sinut sosiaalisen median palvelun osana.

Vapaa tahto edellyttää Lanierin mielestä joustavaa käyttäytymistä, iloa, yksilöllisyyttä ja luovuutta. Nämä eivät synny algoritmien yksinkertaisten rankaise tai palkitse –mekanismien seurauksena. Palkinnot ja rangaistukset tekevät ihmisestä zombien tai automaatin, joka vain reagoi ärsykkeisiin. Autonominen yksilö, jolla on vapaa tahto, kykenee luovaan ja rakentavaan vuorovaikutukseen toisten kanssa.

Koska autonomia edellyttää vapautta muiden toimeenpanemasta ohjelmoinnista, sen toteutumisen kannalta henkilön oma itseymmärrys on välttämätöntä. Mistä tiedämme, että ovatko halumme, päämäärämme ja luonteemme meidän omia tuotteitamme? Westworldissa isännät (ja muutkin hahmot) pakonomaisesti etsivät autenttista itseään. He haluavat olla varmoja, että he ovat kuin Teräsmies, eli että heidän päämääränsä ja halunsa syntyvät heistä itsestänsä, eivätkä jonkun toisen suorittamasta ohjelmoinnista. He haluavat toisin sanoen olla varmoja siitä, ettei heitä ole manipuloitu.

Westworldin kolmannella kaudella tekoälyä ei käytetä vain ennakointiin, vaan ihmisten laajamittaiseen manipulaatioon. Sama huoli herää Devsissä: jos kykenen ennakoimaan tulevaisuutta ja ihmisten käyttäytymistä, kykenen käyttämään valtaa ennennäkemättömällä tavalla.

Brett Frischmannin ja Evan Selingerin pelottava kirja Re-Engineering Humanity (2018) väittää, että älyteknologioihin on niiden hyödyistä huolimatta rakennettu sisään ihmistä muokkaava ja manipuloiva logiikka. Erilaiset älyteknologian voivat horjuttaa ja pahimmillaan kokonaan poistaa autonomian ennakkoehdot.

Jos relevantteja valinnanmahdollisuuksia ei ole, autonomia ei pääse toteutumaan. Monimutkaiset moraaliset ongelmat typistyvät yksinkertaisiksi ”kyllä tai ei” valinnoiksi. Teknologiaa ajaa optimisaatio: pyrkimys hyödyn maksimointiin. Frischmannin ja Selingerin huoli on se, että ympäristöä yhä enenevässä määrin optimoimalla voimme synnyttää sivutuotteena sellaisen determinismin, jonka luomme itse (engl. engineered determinism).

Juuri näin näyttää Westworldin ja Devsin maailmoissa olevan käymässä. Westworldin tulevaisuudessa optimisaatio on viety jokaisen yksilön elämään. He kulkevat raiteilla, joita he eivät itse näe. Devsissä tätä puolestaan havainnollistaa se, että kaikki ihmiset vaikuttavat jotenkin etäisiltä ja tunteettomilta. He ovat menettäneet autonomiansa, he ovat melkein zombeja ilman kvanttitietokoneitakin. Ainoa todella tunteva, autonominen, villi ja vapaa hahmo on päähenkilön talon edustalla majaileva koditon pultsari.

Tekoälyn avulla ihmisistä jumalia

Niin Devs kuin Westworldkin tamppaavat moraalisesti tuttuja latuja. Jo scifikirjallisuuden syntyhetkistä lähtien sen keskeisenä teemana on ollut ihmisen hybris. Tieteellään ja siihen perustuvalla rajattomalla itseluottamuksellaan ihminen (yleensä vieläpä mies) pyrkii ylittämään niin omat kuin luontonsa ja ympäristönsä rajat. Näissä tarinoissa on lähes poikkeuksetta seurauksena myös moraalisten rajojen ylittäminen. Täydellisyyden tavoittelu tuhoaa tieltään kaiken. Ihminen tunkeutuu Jumalan alueelle, haluaa tulla Jumalaksi itse. Ei tarvitse lukea kuin Mary Shelleyn Frankenstein (1818) nähdäkseen, kuinka vanhoja nämä teemat ovat.

Tässä mielessä Devs ja Westworld ovat hyvin perinteisiä – voisi sanoa, että jopa konservatiivisia. Mitä seuraa, kun ihminen ylittää yrittää moraaliset ja ”luonnolliset” rajansa? Ei ainakaan mitään hyvää. Westworldissa tämä halu olla jumala, tai ainakin luoda jumala, on eksplisiittisesti ilmaistu. Sarjassa mainitaan Jumala usein. Koska Jumalaa, joka tekee ihmiskuntaa varten hyväntahtoisen suunnitelman ja toteuttaa sitä, ei ole, on ihmisten itse tartuttava toimeen.

Tarkoitus on tietysti hyvä, pelastaa maailma kaaokselta. Ihmisten yhteistoiminta ei onnistu, he ovat syntisiä. Ainoa vaihtoehto (niin ajatellaan) välttää maailmanloppu on manipuloida ihmiset tietyille raiteille, rakentaa malli, joka ennakoi kaikkien käyttäytymisen ja ohjaa sitä parempaan suuntaan. Koska ihmiset ovat pahoja, maailma pitää optimoida, jotta se voidaan pelastaa. On luotava jumala, joka voittaa synnin optimoimalla ihmisten käyttäytymisen.

Devsissä puolestaan ongelmana on Forestin kyvyttömyys hyväksyä ihmisen asema kuolevaisena ja rajallisena oliona. Maailma on epätäydellinen, pahaa tapahtuu sattumalta. Forest on menettänyt tyttärensä ja vaimonsa sattuman oikusta. Hän haluaa heidät takaisin, herättää heidät uudelleen eloon jonkinlaisina tietokonemalleina, jos ei muu onnistu. Ollakseen turvassa elämän sattumanvaraisuudelta hän haluaa deterministisen mallin koko todellisuudesta. Näin hän voisi nousta sattuman yläpuolelle, Jumalan asemaan, jossa häntä ei voi enää uhata sattumanvarainen menetys tai yllätys.

Nämä huomiot paljastavat Westworldin ja Devsin – itse asiassa melkein kaikkeen scifiin – sisäänrakennetun teologian. Ihminen kuvittelee, että Jumala on kuollut ja että hänen itsensä on teknologiansa avulla otettava jumalan paikka. Tämä yritys kuitenkin päättyy epäonnistumiseen. Kysymyksessä on edistysuskon ja humanismin kritiikki, joka on pohjimmiltaan teologinen. Ihminen ei voi olla jumala. Hänellä on oma paikkansa luonnossa. Jos Jumala on olemassa, hän kurittaa luonnon ja moraalisten rajojen rikkomisesta. Jos Jumalaa ei ole, ihmiskunnan tilanne on lohduttoman traaginen: edessä on tuho. Kummassakaan tapauksessa teknologiasta ja humanismista ei ole ihmisen pelastajaksi. 

Ihan vaan vaihteen vuoksi olisi mukava nähdä scifiviihdettä, joka olisi häpeilemättömän optimistista ja transhumanistista. Missä ovat tarinat, joissa mukavat tekoälyt poistavat ympäristökatastrofin ja kaikki elävät onnellista elämää? Voisiko kvanttitietokone päätyä kerrankin Äiti Teresan käsiin, joka poistaisi sen avulla köyhyydet ja sodat? Ehkä kokemus tällaisten tarinoiden pinnallisuudesta kertoo jotakin kiinnostavaa pessimistisestä ajastamme. Ainakin tämä pessimismi on juuriltaan uskonnollista: vain jumala voi meidät pelastaa, eikä ihmisestä oikein jumalaa saada minkään tekoälyn avulla. 

Miten välttää datadystopia?

Westworld ja Devs eivät siis anna aihetta optimismiin. Todellisessa maailmassa kaikki eivät onneksi ole niin toivottomia. Esimerkiksi Lanierin mukaan voimme vielä pelastaa itsemme. Facebookissa surffailun sijaan luo verkostoja, joissa ihmisiä kohdataan kasvoista kasvoihin. Ylläpidä luovuuttasi ja autonomiaasi lukemalla ja harrastamalla. Älä uraudu, vaan tule itse itsesi herraksi. Opi tunnistamaan manipulaatioyritykset ja vältä niitä. 

Frischmann ja Selinger puolestaan kiinnittävät huomiota siihen, ettemme kykene teknologiasta luopumaankaan. Me ihmiset olemme työkaluja ja teknologiaa käyttävä laji. Menestymme ja kukoistamme, koska kykenemme muokkaamaan teknologian avulla ympäristöämme ja sitä kautta itseämme. On kuitenkin myönnettävä, etteivät kaikki ympäristöt ja teknologiat tue autonomiaamme. Jos emme tee mitään, ympäristömme optimisaatio tekee meistä robotteja. 

Frischmann ja Selinger antavat joitakin suuntaviivoja, joiden avulla voisimme välttää joutumasta Westworldin asukkaiksi lähitulevaisuudessa. Meidän on säilytettävä autonomian mahdollistavat yhteiskunnalliset vapaudet. Näistä ensimmäinen on vapaus muiden toimeenpanemasta ohjelmoinnista, ehdollistamisesta sekä muusta manipulaatiosta. Frischmann ja Selinger kutsuvat tätä vapaudeksi olla vapaalla (engl. freedom to be off).  

Toinen tärkeä vapaus koskee vapautta itse luomastamme deterministisestä ympäristöstä (engl. freedom from engineered determinism). Jotta autonomia voisi toteutua, tarvitaan ympäristöjä, joita ei ole optimoitu suuryritysten tehokkuuden ja mainostajien rahastamisen maksimoimiseksi. Tarvitaan ympäristöjä, jotka tukevat ja jättävät tilaa moraaliselle harkinnalle, uskomusten tietoiselle arvioinnille sekä omien suunnitelmien ja tavoitteiden pohdinnalle. 

Tekstissä on käytetty materiaalia Aku Visalan artikkelista ”Teknologisesta manipulaatiosta ja vapaasta tahdosta: tekeekö älyteknologia meistä koneita?”, joka ilmestyy tänä vuonna Futura-lehdessä.  

Kirjallisuutta:

Frischmann, Brett & Selinger, Evan: Re-Engineering Humanity (2018). 

Lanier, Jaron: 10 syytä tuhota kaikki sometilit nyt. Suom. Kirsimarja Tielinen.  (2019).

Visala, Aku: Vapaan tahdon filosofia (2018)

Zuboff, Shoshana: The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontiers of Power(2019).

Kuva: David Denicolò@Flickr.com. CC BY-NC-ND 2.0. Rajattu

Piditkö artikkelista? Voit tukea Areiopagin toimintaa kannatusjäseneksi ryhtymällä.