Can machines be conscious? (previously published as a newspaper feature in Norwegian)

Kan en maskin være bevisst?

Hva skal til for at du vil si at en maskin er intelligent? Dette er spørsmålet er kjernen i filmen "Ex Machina", som går på kino for tiden.

Et av problemene for fagfeltet kunstig intelligens (eller “artificial intelligence” på engelsk) er at folks forventninger til hva maskiner skal kunne få til stadig endres. Det å kunne finne informasjon på nettet for å svare på det du lurer på, gjette hvilket ord du holder på å skrive, planlegge en reiserute – at maskiner skulle kunne gjøre dette var science fiction for noen tiår siden, men i dag tar vi det for gitt. Det kan virke som at det vi egentlig venter på, ikke er kunstig intelligens, men kunstig bevissthet, altså at maskiner kan reflektere over seg selv og sine omgivelser på en måte som ligner det mennesker gjør.

“Ex Machina” er en spenningsfilm rundt temaene kunstig intelligens og bevissthet som går på kino for tiden. Filmen er nesten som et kammerspill å regne, der det meste foregår i ett hus og med tre roller. Hovedrollene består av androiden Ava, Nathan som har bygget androiden, og Caleb som blir ansatt av Nathan for å avgjøre om Ava er bevisst. Caleb blir flydd inn til Nathans luksuriøse leilighet i Valldalen på Sunnmøre, og skal gjennom en serie møter med Ava avgjøre om han opplever maskinen som en person. Filmen framhever kontrastene mellom den kjølig moderne designleiligheten og den ville naturen på utsiden, mellom menneskelig samspill og konstruerte maskiner, mellom intelligente filosofiske argumenter og oberst Kurtz-aktig selvhøytidelig fyllerør.

Temaet er aktuelt i tiden. I februar 2011 viste IBMs Watson at den kunne spille quiz-programmet Jeopardy bedre enn noe menneske. Juni 2014 var første gang et ekspertpanel ikke klarte å skille mellom om de snakket med et dataprogram eller med et ekte menneske. Og nå i januar 2015 har både Stephen Hawking, Elon Musk og Bill Gates uttrykt bekymring for at utviklingen av kunstige intelligenser er ute av kontroll.

Et sentralt konsept i filmen er Turing-testen, som går ut på at en sier at en maskin opptrer intelligent dersom man i en samtale med den ikke klarer å vite om en snakker med en maskin eller et menneske. Alan Turing selv kalte dette for “the imitation game”, som Morten Tyldums nylige film har tatt navnet sitt fra (der refererer tittelen også til Turings forsøk på å passe inn, noe som ikke har rot i Turings faktiske liv).

Tidlig i “Ex Machina” bemerkes det at Turing-testen er utilstrekkelig — en maskin vil kunne etterligne menneskelige responser, uten at den egentlig er intelligent på den måten vi mener. Slikt sett er dette en test av mennesket som skal vurdere maskinen, ikke av maskinen selv. I filmen sier Nathan at han ønsker å å vise Caleb at Ava er en maskin, og teste om han allikevel vil tenke på den (eller hun) som en person. Den samme versjonen av Turing-testen blir også vi som kinopublikum utsatt for. I ulike scener fremstilles Ava som mer eller mindre menneskelig, og vi må velge hvem av de tre karakterene i filmen vi har sympati med. Til sammen er det kanskje fire ulike versjoner av Turing-testen filmen er innom, men å diskutere dem vil avsløre noen kritiske vendinger i plottet. Jeg har skrevet om dem med hvit tekst nederst i saken, så om du ikke har noe imot at kritiske ting i historien blir avslørt kan du markere teksten med musen for å lese det.

Filmen er også innom de filosofiske tankeeksperimentene det kinesiske rommet og Mary i svart/hvitt-rommet: Se for deg at du befinner deg i det kinesiske rommet, der du får lapper med kinesisk skrift sendt inn til deg, og kan bruke et grundig oppslagsverk til å sende tilbake svar på kinesisk. Vil du da si at du kan kinesisk, eller gir du bare inntrykk av å kunne det uten å egentlig forstå språket? På lignende måte forsøker Caleb i filmen stadig å få Ava til å overbevise ham om at hun faktisk forstår hva han sier, og ikke bare later som. I tankeeksperimentet Mary i svart/hvitt-rommet beskrives forskeren Mary som vet alt om hvordan lys brytes opp i farger, men aldri har sett farger selv. Vil hun da forstå noe mer når hun for første gang ser farger i virkeligheten? Dette illustreres i filmen i scenen der Ava for første gang er utenfor laboratoriet.

Begge tankeeksperimentene er knyttet til det som i filosofien kalles bevissthetens vanskelige problem: Vil vi kunne forstå bevissthet dersom vi forstår alle prosessene i hjernen som skaper bevisst opplevelse, eller er det noe mer ved bevissthet, noe som ikke kan reduseres til nevroner, synapser og informasjonsbehandling? Om vi i filmen aksepterer at maskinen Ava er en person med bevisst opplevelse som vi kan ha sympati med, sier vi at bevissthet faktisk kan reduseres til informasjons-behandling og kan gjenskapes i en maskin.

Filmen har blitt kritisert for å gå i “sexy robot”-fellen, på samme måte som Langs Metropolis (1927), Forbes’ The Stepford Wives (1975) og Jonzes Her (2013). Slikt sett passerer kanskje filmen Turing-testen, men feiler Bechdel-testen, som sier at filmer må innehold minst én scene med to kvinner som snakker sammen om noe annet enn en mann. Jeg synes imidlertid “Ex Machina” redder seg inn med å ta dette opp eksplisitt i en scene der Caleb konfronterer Nathan med at han har bygget Ava som en attraktiv kvinne. Ganske talende for filmen svarer Nathan at han for det første mener liv og reproduksjon er ufravikelig knyttet til attraksjon, og for det andre er det mer gøy slik. Filmmakerne mener selv at filmen er grunnleggende feministisk.

Filmen får oss også til å vurdere ulike etiske problemstillinger. Kan vi fortsatt behandle maskiner som vår eiendom dersom de er bevisste? Skal de gis samme rettigheter som mennesker? Bør vi begrense intelligente maskiners handlingsfrihet? Kan maskiner selv ta etiske beslutninger? Det siste kan fort bli aktuelt dersom selvkjørende biler skal kunne foreta unnvikende manøvre som kan sette noen i fare for å redde andre.

“Ex machina” er skrevet og regissert av Alex Garland, som tidligere har skrevet “The Beach” og “28 Days Later”, mens biolog Adam Rutherford kognitiv forsker Murray Shanahan har vært rådgivere til filmen. Resultatet er noe så sjeldent som en film om kunstig intelligens med en handling som både er spennende og tankevekkende fra et vitenskapelig og filosofisk perspektiv, i tradisjonen fra Kubricks 2001 en romodyssé (1968), og Scotts Blade Runner (1982).

1. Alan Turings test: Maskinen er så menneskelig, at et menneske ikke klarer å si om det snakker med en maskin eller et menneske.
2. Calebs test: Selv når du vet at det er en maskin, tenker du på den som en person.
3. Nathans test: Maskinen kan overbevise mennesker til å handle i maskinens interesse.
4. Avas test: Maskinen kan etterligne menneskers følelser for å manipulere dem til å handle i maskinens interesse.