Can machines be conscious? (previously published as a newspaper feature in Norwegian)

Kan en maskin være bevisst?

Hva skal til for at du vil si at en maskin er intelligent? Dette er spørsmålet er kjernen i filmen "Ex Machina", som går på kino for tiden.

Et av problemene for fagfeltet kunstig intelligens (eller “artificial intelligence” på engelsk) er at folks forventninger til hva maskiner skal kunne få til stadig endres. Det å kunne finne informasjon på nettet for å svare på det du lurer på, gjette hvilket ord du holder på å skrive, planlegge en reiserute – at maskiner skulle kunne gjøre dette var science fiction for noen tiår siden, men i dag tar vi det for gitt. Det kan virke som at det vi egentlig venter på, ikke er kunstig intelligens, men kunstig bevissthet, altså at maskiner kan reflektere over seg selv og sine omgivelser på en måte som ligner det mennesker gjør.

“Ex Machina” er en spenningsfilm rundt temaene kunstig intelligens og bevissthet som går på kino for tiden. Filmen er nesten som et kammerspill å regne, der det meste foregår i ett hus og med tre roller. Hovedrollene består av androiden Ava, Nathan som har bygget androiden, og Caleb som blir ansatt av Nathan for å avgjøre om Ava er bevisst. Caleb blir flydd inn til Nathans luksuriøse leilighet i Valldalen på Sunnmøre, og skal gjennom en serie møter med Ava avgjøre om han opplever maskinen som en person. Filmen framhever kontrastene mellom den kjølig moderne designleiligheten og den ville naturen på utsiden, mellom menneskelig samspill og konstruerte maskiner, mellom intelligente filosofiske argumenter og oberst Kurtz-aktig selvhøytidelig fyllerør.

Temaet er aktuelt i tiden. I februar 2011 viste IBMs Watson at den kunne spille quiz-programmet Jeopardy bedre enn noe menneske. Juni 2014 var første gang et ekspertpanel ikke klarte å skille mellom om de snakket med et dataprogram eller med et ekte menneske. Og nå i januar 2015 har både Stephen Hawking, Elon Musk og Bill Gates uttrykt bekymring for at utviklingen av kunstige intelligenser er ute av kontroll.

Et sentralt konsept i filmen er Turing-testen, som går ut på at en sier at en maskin opptrer intelligent dersom man i en samtale med den ikke klarer å vite om en snakker med en maskin eller et menneske. Alan Turing selv kalte dette for “the imitation game”, som Morten Tyldums nylige film har tatt navnet sitt fra (der refererer tittelen også til Turings forsøk på å passe inn, noe som ikke har rot i Turings faktiske liv).

Tidlig i “Ex Machina” bemerkes det at Turing-testen er utilstrekkelig — en maskin vil kunne etterligne menneskelige responser, uten at den egentlig er intelligent på den måten vi mener. Slikt sett er dette en test av mennesket som skal vurdere maskinen, ikke av maskinen selv. I filmen sier Nathan at han ønsker å å vise Caleb at Ava er en maskin, og teste om han allikevel vil tenke på den (eller hun) som en person. Den samme versjonen av Turing-testen blir også vi som kinopublikum utsatt for. I ulike scener fremstilles Ava som mer eller mindre menneskelig, og vi må velge hvem av de tre karakterene i filmen vi har sympati med. Til sammen er det kanskje fire ulike versjoner av Turing-testen filmen er innom, men å diskutere dem vil avsløre noen kritiske vendinger i plottet. Jeg har skrevet om dem med hvit tekst nederst i saken, så om du ikke har noe imot at kritiske ting i historien blir avslørt kan du markere teksten med musen for å lese det.

Filmen er også innom de filosofiske tankeeksperimentene det kinesiske rommet og Mary i svart/hvitt-rommet: Se for deg at du befinner deg i det kinesiske rommet, der du får lapper med kinesisk skrift sendt inn til deg, og kan bruke et grundig oppslagsverk til å sende tilbake svar på kinesisk. Vil du da si at du kan kinesisk, eller gir du bare inntrykk av å kunne det uten å egentlig forstå språket? På lignende måte forsøker Caleb i filmen stadig å få Ava til å overbevise ham om at hun faktisk forstår hva han sier, og ikke bare later som. I tankeeksperimentet Mary i svart/hvitt-rommet beskrives forskeren Mary som vet alt om hvordan lys brytes opp i farger, men aldri har sett farger selv. Vil hun da forstå noe mer når hun for første gang ser farger i virkeligheten? Dette illustreres i filmen i scenen der Ava for første gang er utenfor laboratoriet.

Begge tankeeksperimentene er knyttet til det som i filosofien kalles bevissthetens vanskelige problem: Vil vi kunne forstå bevissthet dersom vi forstår alle prosessene i hjernen som skaper bevisst opplevelse, eller er det noe mer ved bevissthet, noe som ikke kan reduseres til nevroner, synapser og informasjonsbehandling? Om vi i filmen aksepterer at maskinen Ava er en person med bevisst opplevelse som vi kan ha sympati med, sier vi at bevissthet faktisk kan reduseres til informasjons-behandling og kan gjenskapes i en maskin.

Filmen har blitt kritisert for å gå i “sexy robot”-fellen, på samme måte som Langs Metropolis (1927), Forbes’ The Stepford Wives (1975) og Jonzes Her (2013). Slikt sett passerer kanskje filmen Turing-testen, men feiler Bechdel-testen, som sier at filmer må innehold minst én scene med to kvinner som snakker sammen om noe annet enn en mann. Jeg synes imidlertid “Ex Machina” redder seg inn med å ta dette opp eksplisitt i en scene der Caleb konfronterer Nathan med at han har bygget Ava som en attraktiv kvinne. Ganske talende for filmen svarer Nathan at han for det første mener liv og reproduksjon er ufravikelig knyttet til attraksjon, og for det andre er det mer gøy slik. Filmmakerne mener selv at filmen er grunnleggende feministisk.

Filmen får oss også til å vurdere ulike etiske problemstillinger. Kan vi fortsatt behandle maskiner som vår eiendom dersom de er bevisste? Skal de gis samme rettigheter som mennesker? Bør vi begrense intelligente maskiners handlingsfrihet? Kan maskiner selv ta etiske beslutninger? Det siste kan fort bli aktuelt dersom selvkjørende biler skal kunne foreta unnvikende manøvre som kan sette noen i fare for å redde andre.

“Ex machina” er skrevet og regissert av Alex Garland, som tidligere har skrevet “The Beach” og “28 Days Later”, mens biolog Adam Rutherford kognitiv forsker Murray Shanahan har vært rådgivere til filmen. Resultatet er noe så sjeldent som en film om kunstig intelligens med en handling som både er spennende og tankevekkende fra et vitenskapelig og filosofisk perspektiv, i tradisjonen fra Kubricks 2001 en romodyssé (1968), og Scotts Blade Runner (1982).

1. Alan Turings test: Maskinen er så menneskelig, at et menneske ikke klarer å si om det snakker med en maskin eller et menneske.
2. Calebs test: Selv når du vet at det er en maskin, tenker du på den som en person.
3. Nathans test: Maskinen kan overbevise mennesker til å handle i maskinens interesse.
4. Avas test: Maskinen kan etterligne menneskers følelser for å manipulere dem til å handle i maskinens interesse.

Trial lecture presenting my neurocognitive research

In late February 2015 I was invited to give a presentation of my research to the Department of biological and medical psychology at the University of Bergen. I emphasized my neurocognitive research, clinical studies and the use of psychophysiological measures in my applied research. The presentation was structured around the published papers, highlighting the findings in the abstracts. Among the topics covered were implicit learning, selective attention, working memory, situation awareness, team-work, consciousness and clinical work.

The emperor's new dress (previously published as a newspaper feature in Norwegian)

Image courtesey of www.xkcd.com, published under a CC-licence.

Early last week, I wrote a feature article in the local newspaper about what had been the big science news story the preceding weekend: The dress that some saw as black and blue, while others saw it as white and gold. To some extent I leaned on what others like Cedar Riener, Tom Stafford and Steven Pinker have written on the subject.

Although presenting an account of the phenomenon (colour constancy), I emphasised that the percpetual effect of this image appears to be quite unique, and that the novel features, such as the individual variation, the stability of the percept and the influence of context clues need more research.

My article is available below (in Norwegian).

Keiserens nye kjole

I slutten av forrige uke var vi alle vitne til en kjole som folk ikke ble enige om fargen på. Det er sannsynligvis den vitenskapsrelaterte saken som har fått mest oppmerksomhet på kortest mulig tid. Bildet gikk gjennom syklusen slike virale saker gjerne gjør: Forbauselse, forbløffelse, lese hva ekspertene mener, diskuter det i kommentarfeltet, få nok, og så spørre om det ikke finnes viktigere ting å snakke om. Men nå som vi er på god vei til å bli lei av hele kjolen; var saken bare triviell, eller kan vi lære noe av den? Det handler egentlig ikke om hvilken farge kjolen har, men om hva saken kan lære oss om hvordan vi tolker verden.

Fredag morgen var sosiale medier og etterhvert også nettavisene fulle av bilder av en stripete kjole. Teksten som fulgte bildet, ba oss om å vurdere hvilken farge kjolen har. For meg var spørsmålet først absurd: Kjolen hadde jo en tydelig blåfarge, med svarte horisontale striper. Hadde jeg sett på feil bilde? Var det en noen som drev gjøn? Virket ikke øynene til folk? Men jeg leste videre, og forstod at ganske mange ser den samme kjolen som hvit med gullfargede striper.

Bare for å ta det med en gang: Kjolen er egentlig blå. Det kan du sjekke på nettsiden til produsenten, som utvilsomt ler hele veien til banken. Jeg kan allerede nå se for meg hvordan de kvinnelige deltagerne vil være kledd på velkomstmottagelsene ved årets konferanser i kognitiv psykologi.

Jeg viste bildet til kollegaene rundt lunsjbordet på fredag. To av seks så kjolen som hvit og gull, mens fire så den som blå og svart. De som så kjolen som hvit var like skråsikre som meg på at dette var riktig, og kunne ikke forstå at noen kunne se noe annet. Lunsjen delte seg fort i to ulike leire med liten evne til å se de andres argumenter og ingen mulighet for forsoning.

En måling gjort av Buzzfeed tyder på at tre fjerdedeler ser kjolen som hvit og gull, mens en fjerdedel ser den som blå og svart. Facebook har gjort en analyse av hvem som skrev «blå/svart» heller enn «hvit/gull» i statusoppdateringene sine det døgnet saken ble kjent. I deres måling er det mye jevnere mellom de to leirene. De fant at det var litt vanligere å se blått blant menn, blant unge, blant de som så bildet på en PC-skjerm (heller enn på telefon), og jo senere på dagen de så det. Men her har de ikke tatt hensyn til hva folk faktisk så, kun noen nøkkelord i statusoppdateringene. Så noen som mente den var hvit kan ha blitt talt feil om de skrev «Kan du fatte og begripe at noen ser denne kjolen som blå og svart?».

Så hva er det som skjer, hvorfor ser så mange kjolen som hvit og gull? Noen av forklaringene i avisene snakket om forskjeller i fargesyn. Men det er ikke slik at alle som ser kjolen på den ene måten har dårlig fargesyn. Andre prøvde å analysere fargeinnholdet i pikslene som bildet er bygget opp av, og viser at hovedfargen på kjolen er mer blå enn hvit. En slik tilnærming kan være teknisk sett riktig, men er ikke så relevant. For eksempel kan et fotografi av snø som ligger i skyggen se blått ut dersom hvitbalansen ikke er kontrollert for, selv om vi vet at snø egentlig er hvitt. Og mennesker ser ikke farger ved å analysere sammensetninger av piksler.

Nøkkelen til å forstå fenomenet ligger i at vi ikke bare tar hensyn til hvilken farge lyset som reflekteres fra kjolen til øynene har, men også hvilke omgivelser som vi antar at vi ser kjolen i. Om du ser en kjole med en bestemt farge i noe du tror er lyse omgivelser, vil du se kjolen som mørkere enn om du ser den samme fargen i det du tror er mørke omgivelser. Dette er vist i tegningen under:

Fargen på de to kjolene er objektivt sett like, men den til venstre har mørke omgivelser og ser ut som den er hvit og gull, mens den til høyre har lyse omgivelser ser ut som den er blå og svart. I midten vises fargene fra kjolebildet. Bildet er publisert på nettstedet www.xkcd.com under “creative commons”-lisens.

Dette er et eksempel på det som i psykologien kalles «fargekonsistens». Det viktige for oss er ikke hvilken farge det er på lyset som reflekteres fra objektet, men at vi forsøker å tolke hvilken farge objektet egentlig har, gitt de omgivelsene vi ser objektet i. Vi prøver altså automatisk å kompensere for godt og dårlig lys, eller for ulike farger på lyset. En hvit skjorte vil reflektere ulike farger lys om den er belyst med sollys, lys fra glødetrådpærer eller lys fra lysrør. Vanligvis oppfatter vi hvilken type belysning det er i rommet (eller på bildet) og kompenserer automatisk for det, slik at skjorten uansett ser hvit og ikke oransje ut. Fenomenet med «fargekonsistens» er illustrert under.

Illustrasjon av fargekonsistens-fenomenet. Brikkene som den svarte pilen og den hvite pilen peker på har samme farge. Det er fargen på brikkene rundt som gjør at vi tror at toppen ligger i direkte lys mens fronten ligger i skyggen. Dette fører til at vi gjør en antagelse om at de to brikkene “egentlig” har ulik farge. Bildet er hentet fra en YouTube-video fra AsapScience: https://www.youtube.com/watch?v=AskAQwOBvhc

Mye av svaret på mysteriet med hva som skjer med den blå kjolen ligger nok i denne forklaringen om «fargekonsistens». Men flere forskere har i helgen uttalt at de ikke synes denne forklaringen alene er helt tilstrekkelig. Når en viser illusjoner om fargekonsistens som de over, klarer en vanligvis å «lure» enten alle eller ingen. Men for kjolen blir noen lurt mens andre ikke blir det. Hvordan lysforholdene er rundt oss når vi ser på bildet, hvilken skjerm vi ser på, hvilken vinkel skjermen har, og så videre har nok noe å si, men selv når dette er kontrollert for er folk uenige. Det kan være at forskjellen i hvordan vi ser bildet beror på hvor mye erfaring vi har med å se på bilder hvor et reflekterende stoff er fotografert i sterkt men ujevnt lys.

Noe annet som skiller seg ut, er at det virker som vi blir veldig sikre i vår sak – det er ikke lett å forstå hvordan noen kan se kjolen som en helt annen farge enn det vi selv gjør. Vår personlige erfaring med akkurat dette bildet har altså mye å si: Har vi først sett kjolen som en farge, så skal det veldig mye til før vi endrer mening. Igjen har dette å gjøre med at våre antagelser har en tydelig effekt på hva vi ser.

Det minner om eventyret om keiserens nye klær: Forventningen om hvordan keiseren skulle være kledd fikk så stor betydning for hvordan folket så ham, og de klarte ikke å endre mening da noen sa at han egentlig var naken. Så dramatiske effekter er nok urealistiske, men det at vi bestemmer oss for om kjolen er blå eller hvit er en mildere versjon av dette.

Noen optiske illusjoner er laget slik at de kan sees på to ulike måter. Samtidig er oppfattelsen stabil, slik at når du først har sett bildet på den ene måten, så blir denne oppfattelsen hengende ved. Vi kjenner til noen ulike varianter av dette: en tredimensjonal kube kan vende mot venstre eller mot høyre, en ballerina spinner enten med eller mot klokken. Men så vidt jeg vet er dette første gang vi har funnet et bilde hvor fargene kan tolkes så radikalt forskjellig. I tillegg er det slik i eksempelet med kuben og ballerinaen at selv om en ser bildet på en av måtene, så kan en forstå hvordan det også kan være omvendt, spesielt om en ser vekk fra bildet et øyeblikk. På kjolen blir en derimot sittende mer «fast» i om en ser den ene eller andre fargen.

Dette fenomen kan minne om det som er illustrert i bildet under. Først ser du kanskje bare en rekke flekker. Men om du prøver, klarer du kanskje å se at det er skjult en flekkete hund som lukter på bakken i høyre halvdel av bildet. Har du først sett dalmatineren, er det umulig å kunne få tilbake det opprinnelige oppfattelsen av et kaotisk flekkebilde. Hunden har kommet for å bli.

Ser du dalmatineren?

Innen miljøene for kognitiv psykologi har det over helgen blitt etterlyst mer forskning på den typen illusjoner som kjolebildet har kastet lys over. Det som trengs er å kunne reprodusere fenomenet i et eksperiment. Vi trenger å lage en kontrollert situasjon der den samme kjolen kan endre farge etter hvilke forventninger vi har. For eksempel kan en klippe ut bildet av selve kjolen, og vise den med ulike bakgrunner som får oss til å tro at lyset er ulikt, og se om det påvirker om kjolen ses som blå eller hvit. Så kan vi se om denne oppfattelsen er stabil når den først har satt seg. Jeg skjenker en ekstra tanke til alle kognitive psykologer som har måttet jobbet på overtid i labben denne helgen.

Det vi kaller persepsjon, altså det å oppfatte verden rundt oss, er mer komplisert enn slik vi gjerne tenker på det i hverdagen. Det er ikke en enkel en-til-en-prosess, der vi bare registrerer hvordan verden ser ut rundt oss.  Uten å tenke over det, tar vi hensyn til det vi vet (eller antar) om omgivelsene. Om vi  studerer hvordan prosessen er bygd opp i hjernen, ser vi at er det er snakk om at informasjon fra øynene behandles først i ett senter, før den overføres til neste senter og så videre. Til sammen er det minst 30 slike behandlingssentre i hjernen. Det som overføres mellom dem er ikke selve bildet vi har foran oss, men kun informasjon om noen av trekkene ved bildet. Prosessen minner litt om «hviskeleken», der feil og misforståelser kan oppstå på hvert trinn og blir tatt med videre i systemet. Resultatet er at persepsjon utgjør en «sannsynlig tolkning» av det vi opplever, heller enn et korrekt bilde av virkeligheten. I de aller fleste tilfeller fungerer dette fint, men under spesielle tilfeller, som ved kjolebildet, kan det lede oss galt avsted.

Is there anybody in there? (previously published as a newspaper feature in Norwegian)

Er det noen der inne?

Hvilke metoder finnes for å vurdere en pasients bevissthet etter hjerneskade?

Vi har alle innsikt i våre tanker, følelser, planer og minner. Når vi treffer andre, antar vi at de også har lignende opplevelser. Denne grunnleggende psykologiske innsikten (noen ganger kalt theory of mind) er noe som utvikles i toårsalderen hos de fleste av oss.

Å forsøke å forstå hva andre tenker på, er noe vi alle må gjøre kontinuerlig når vi omgås andre. Vi kan ikke observere hva de tenker direkte, så vi må tolke oss frem til det ut fra hvordan de oppfører seg. Psykologer er kanskje spesielt bevisste på denne prosessen, da de i terapisamtalen må forsøke å forstå klientens tankemønster, hva som motiverer dem, eller hvilke minner som plager dem.

Men hva gjør en dersom en har en pasient som ikke kan snakke, svare tydelig på tester eller bevege seg? Når hjernen blir skadet av ulykker eller sykdommer kan en få en endret bevissthetstilstand, slik at pasienten i mindre grad er klar over sine omgivelser og egne opplevelser. Slike skader kan samtidig føre til at pasienten ikke er i stand til å kommunisere med pårørende eller helsepersonell. Ofte er pasientens atferd vanskelig å tolke og kan variere over tid. Noen ganger kan det forekomme bevegelser, blunking, endring av pust og puls. Hvordan kan en si om dette er vilkårlig variasjon, eller om pasienten er bevisst og forsøker å kommunisere med oss?

I høst publiserte vi en åpent tilgjengelig artikkel på norsk i tidsskriftet Scandinavian Psychologist på dette emnet. Artikkelen gir en oversikt over ulike bevissthetstilstander og ulike tilnærminger til å skille mellom dem. Et gjennomgående spørsmål er om nye teknikker for hjerneavbildning kan brukes til å si noe om en pasients bevissthet.

I artikkelen skiller vi mellom fire ulike typer tilnærminger for å vurdere bevissthet hos pasienter som ikke kan kommunisere. Den første tilnærmingen er å bruke sjekklister for hvilke handlinger pasienten utfører. Da kan en be pasienten om å utføre ulike handlinger som å løfte armen, eller å blunke, og gi pasienten en skåre basert på hvor mange av disse handlingene pasienten gjennomfører. Den andre tilnærmingen er å måle de elektriske utslagene fra hjerneaktiviteten. En mener at bestemte mønstre i hyppigheten og styrken på dette signalet kan vise om pasienten er bevisst på sine omgivelser, selv om de ikke kan si noe eller bevege seg. En tredje tilnærming er å måle hvilke deler av hjernen som aktiveres når en blir bedt om å tenke på noe spesielt. Om de samme områdene aktiveres som hos friske, kan dette tyde på at instruksjonen blir forstått og fulgt. Den siste tilnærmingen er å se på hvilke forbindelser som finnes i hjernen. Dette skyldes at en antar at ulike deler av hjernen må samarbeide for å skape oppmerksomhet.

Da vi oppsummerte og sammenlignet disse ulike tilnærmingene, så vi at flere av de nye metodene som har kommet til de siste tiårene viser lovende funn, og kan bli viktige for fremtidig vurdering av bevissthet. Foreløpig er imidlertid disse nye tilnærmingene for ferske, uetablerte og uavklarte. Enn så lenge er det kun systematisk bruk av sjekklister for handlinger som er etablerte nok til bruk på sykehus.

Lecture on cognitive factors in operative environments

Below is the presentation from the third lecture in the Operational psychology master's course (in Norwegian). The lecture covers dynamic decision environments, mental models, decision-making, naturalistic decision-making, situation awareness, team decision-making, shared mental models, team cognition, team situation awareness, and finally gave examples from my own research.

Introductory lecture to operational psychology master course

In the spring semester of 2014, we started offering a master's course in Operational psychology. I was responsible for the course, but used extensive guest lecturers, where experts in each respective field was asked to cover a topic. The course topics were:

1. Introduction to the field of Human Factors (me)
2. Operative cooperation, leadership and communication (Roar Espevik)
3. Cognitive processes in operative settings (me)
4. Individual differences in operative situations (Paul Bartone)
5. Care of personnel after critical incidents (Jarle Eid)
6. Human error and accident causes (Kathryn Mearns)

Below is my introductory lecture (in Norwegian). The lecture localized the field of Human Factors within the rest of psychology, and discussed it's history, topics, methods, and gave samples from research and application (including an overview of our research group).

Paper introducing the methodology of the similarity index in field studies

Early in my post-doc project, our research group was contacted by an emergency control centre in a major oil company. The centre handles incidents on offshore oil and gas rigs, events like fires or gas leaks, heavy weather or ships on collision course. The centre's task is to construct a coherent image of the emergency based on the incoming information, and to advise and organize the different resources involved in handling the emergency. The centre wanted our help to identify areas for further improving their emergency handling.

My initial approach to the request was to develop measures for individual and team mental representation. That is, does each team member have a good idea of what's going on at the oil rig, and does the team as a whole have a good idea of this? However, it quickly became apparent that since both actual events and training exercises in this setting are non-transparent, dynamic and interactive, it would be challenging to establish a ground truth for what the different team members should be expected to know at different times through an exercise.

We arranged a series of unstructured and semistructured training exercises for all the emergency teams in the organization. At planned intervals we "froze" the exercise, and had all team members answer questions about the situation and the team's work. But the challenge remained of how to assess the responses of these questions. The experts were reluctant to say that a given team member should hold a given bit of information about the situation at a given point in time.

The solution I chose was to compare the answers between the team members. I developed two algorithms that were applicable to all the questions. The first of these returned a value from 0 to 1, indicating how similar your answer was to the rest of the team. The second returned a value from 0 to 1, indicating how similar your answer was to the team leader. I argued that the first calculation should approach a measure of shared mental models, that is, the extent to which the team member had the same representation of the incident as the rest of the team. The second calculation should approach a measure of situation awareness, as a higher score should be associated with more accurate knowledge, given the assumption that the team leader was the best informed member of the team.

As this was a fairly (though not completely) novel methodological approach, before going any further we published a paper that went into some detail on describing the measures and the calculation of the scores. This was published in Journal of Cognitive Engineering and Decision Making: The similarity index as an indicator of SMM and SA in field studies. This paper did not test any research hypotheses, as this was reserved for future papers.