Tag Archives: westworld

Moralfilosofi i Westworld

En forkortet versjon av denne teksten er publisert i Aftenposten 05.02.17.

I TV-serien Westworld tildeles vi et frikort til å behandle andre mennesker som objekter. HBO beskriver serien som “a dark odyssey about the dawn of artificial consciousness and the future of sin”Men serien ender opp mer som et speil til vår nåtidige syndighet, enn en ren fremtidsvisjon.

Ta steget forbi virtuell virkelighet. Tenk deg en fornøyelsespark, hvor omgivelsene er både ekte og falske på samme tid. Overveldende kulisser og kunstige mennesker er konstruert for at du skal kunne leve ut fantasiene dine i en kopi av Ville Vesten. Support-teamet løper døgnet rundt bak sceneteppet for å skape en mest mulig sømløs opplevelse. De kunstige menneskene, kalt «verter», er omhyggelig scriptet for å fremstå virkelige, men er designet til å aldri skade deg.

– So how does this work? Is there an orientation?
– No orientation. No guidebook. Figuring things out is half the fun. All you do is make choices.

J. Abrams og HBO har tatt opp tråden fra Westworld-filmen i 1973. TV-serien har nettopp fullført sin første sesong på HBO, og skisserer en forretningsmodell rettet mot rike «nykommere», på jakt etter et fristed fra den mer tungmanøvrerte virkeligheten. I Westworld er du fri fra fare mens du kan blåse hodet av motstanderen i en revolvermatch, vinne en av de mange narrativlinjene i spillet, og feire seieren med å høvle over et par unge skjønnheter på det lokale bordellet. Alt før sola senkes i vest.

Det hele tvinger oss tilbake til antikke, kjente spørsmål. Kan menneskenaturen skille mellom hva den er og det den gjør? Hva gjør det med oss å utslette vår menneskelighet for noen skarve øyeblikk med nytelse? Å manipulere, håne og selv torturere, voldta og myrde vesener som ytre sett er helt identiske med oss selv? Hva kunne vi selv ha funnet på å gjøre, hvis vi ikke måtte konfrontere ofrene dagen etter? Fordi de har blitt reparert og fått visket ut hukommelsen i løpet av natta?

Forsvinner syndigheten ved slike handlinger når det ikke er noen reelle ofre? Forblir vi upåvirket av slik oppførsel?

Intuitivt vil vi si at det klart er en forskjell. Vi ville ikke hatt samvittighetskvaler med å demontere PCen vi akkurat satte sammen. Noen ville nok rynke på nesa om du kuttet av den skalpen med en indianerkniv eller presset genitaliene dine mot den. Men det var aldri noen grunn til å tro at det var noen «til stede» i maskina, selv om den kjører diverse simuleringer lignende dem vi utfører.

I realiteten er det en utbredt debatt om hva som skiller kunstig intelligens fra vår menneskelige. Har vi grunn til å tro at en eller flere bevissthetsstrømmer kan oppstå om prosessene i maskinen blir komplekse nok? John Searle, filosofen som nylig besøkte Norge, har nok levert den mest kjente kritikken mot en slik sterk AI-teori. Han hevder at maskiner bare kan prosessere syntaks, men aldri semantikk. Maskiner kan utføre algoritmer, men aldri forstå. Mens maskiner er dømt til å utføre symbolmanipulering, har maskinens produksjon bare verdi i møte med noen i stand til å avlese mening, og forstå det i en større helhet – et menneske.

– Are you real?
– Well, if you can’t tell – does it matter?

Varsel: Den følgende teksten inneholder milde spoilere.

Westworld trenger ikke å ta stilling til disse problemstillingene for å skape et godt show. Her nøyer de seg med å konstatere at skaperne ikke bare vil simulere bevissthet, men på et punkt viske ulikhetene ut. Skapningene får ikke bare simulere, men skaperne gir rom for improvisasjon. De åpner for å bryte ut av scriptet et øyeblikk for å forsøke en ny dialog eller handlingsmønster. Og det siste elementet som fullfører skapningenes tre-stegsmodellen mot selvstendig bevissthet? Lidelse! Med mangfoldige iterasjoner med lidelse, blir de kunstige skapningene stadig mer menneskelige.

På et tidspunkt finner en av hovedpersonene bak prosjektet ut at vedkommende selv er kunstig – en av de første skapningene. Like etter svarer et kunstig menneske med å finne ut, overbevist om at det hadde brutt fri fra skaperens marionett-tråder, at hele dets rebelske opprør var innprogrammert i forkant.

– Everything you do, it’s because the engineers upstairs programmed you to do it.
– Nobody tells me what do to, sweetheart.
– Yeah, but that’s part of your character. You’re hard to get.

Skillelinjene mellom kunstig og naturlig er for alvor satt på prøve. Men hva med moralske implikasjoner?

En av de besøkende, Logan, mener at fornøyelsesparken appellerer til menneskets basale instinkter. Underforstått, er det fritt frem for å underholde seg med å drikke, manipulere, pule og drepe. Men hos de fleste av oss, vil moralske instinkter skrike ut om at noe er galt med slik oppførsel, selv om det bare er et spill. Vi forstår at moral ikke bare kan handle om konsekvenser, men også noe om hvordan mennesker velger å være. Ikke bare hva det gjør med andre, men hva det gjør med seg selv.

Aristoteles mente også at menneskenaturen la føringer til hvordan vi burde leve, men trakk en radikalt annen konklusjon. Hans analyse av den sosiale orden som et samspill mellom natur, vane og fornuft. Disse tre elementene la grunnlaget for hans dydsetiske tenkning. Han ville kritisert Logan for å ikke yte rettferdighet til mennesket. Aristoteles’ tre elementer ble tatt videre av tenkere som Cicero og Aquinas, og har fått store ringvirkninger i utviklingen av vestlig sivilisasjon.

Aristoteles’ dydsetikk fremhevet det å leve dydig som målet med livet. Dermed bør vi best mulig benytte de ressursene vi er født med, både som medlem av menneskearten, men også som unike individer. Vi kan bli gode mennesker på samme måte som en håndverker blir en god håndverker – som å skape solide kvalitetsmøbler av gode materialer, fremfor skrøpelige møbler av råttent treverk.

Dyd krever trening. Likt hvordan en god fotballspiller må holde seg i form, eller en håndverker ikke kan forvente å lage en fullkommen stol på første forsøk, må et menneske leve i en gjentatt øvelse om å være god. Vi kan ikke forvente å ligge på sofaen, unndra oss ansvar eller være drittsekk mot medmennesker dag etter dag, for så å skulle stille opp når det virkelig gjelder. Nei, vaner inkorporeres tilbake i biologien vår, for at vi lettere kan leve opp til den vi ønsker å være dag etter dag.

Som analyse av mennesket som dyr, har Logan rett. Da er vi biologisk disponert mot trygghet, reproduksjon og ernæring. Men Logan tar ikke hensyn til menneskets særegenhet. Vi er ikke bare dyr, men sosiale og rasjonelle dyr, med intellekt og vilje. Aristoteles hevder at gode dyder og onde laster kommer fra vanedannende interaksjoner i et sosialt miljø – et polis.

Westworld er et slikt polis. Vi kan etterstrebe godhet og sannhet som høyere mål, og rette innsatsen vår mot disse. Vi er ikke dømt til å bare spise og løpe etter sengekamerater, men vi kan forstå og velge hvordan vi skal underordne aktivitetene våre mot et høyere gode. Som sosiale dyr kan vi holde sammen og skape trygge familier, som gir opphav til stabile samfunn. Vi kan kjenne lysten til det onde i vårt hjerte, men likevel velge det gode.

Et godt menneske er rettet mot bestemte moralske disposisjoner for å handle på en måte vi kan anse som god. F.eks. vil et modig menneske av natur handle med visdom og fryktløshet i møte med fare, på vegne av et høyere mål. Et generøst menneske deler villig og gledelig av sin overflod, med løse bånd til sine eiendeler, tid og egoisme.

I motsetning til Logan, starter kompisen William som et dydig menneske, som naturlig ønsker å hjelpe de kunstige innbyggerne av Westworld.

– Now I understand. It doesn’t cater to your lower self; it reveals your deepest self; it shows you who you really are

William kjemper mot sine moralske kvaliteter i Westworld. Han må i motsetning til Logan starte en lang nedbrytningsprosess for at samvittigheten ikke lenger skal hindre han fra å utøve vold og ondskap. Han forstår at handlingene hans i Westworld påvirker ham som moralsk karakter.

Aristoteles’ dydsetikk nyter bred støtte i hva vi har lært om biologi, genetikk og psykologi siden lenge før Darwin. Vi er ikke immaterielle sjeler som flyr rundt, men vi er først og fremst biologiske vesener plassert i fysiske kropper, selv om vi også kan være mer enn det.

En av Westworlds leksjoner, er at vi aldri kan løsrive det vi gjør fra den vi er. Det vi gjentatte ganger gjør resulterer i den vi blir. Det rikker ikke ved verdien vår som menneske, men forteller oss noe om vår moralske karakter, og at arbeidet med å bygge karakter er verdt å ta fatt på, selv om vi ikke skulle befinne oss i en simulering.