RING: 02060 E-POST: 02060@nettavisen.no
Ønsker du å sende video eller andre dokumenter? Benytt 02060@nettavisen.no
Kontakt oss
Erik Hæreid
Sist oppdatert:

Kunstig superintelligens – vår redning eller undergang?

Når kommer den? Hva vil den gjøre? Det er to av de viktigste spørsmålene eksperter på kunstig intelligens stiller seg. Hva sikter de til? Superintelligensen.

Vårt paradis
Vårt paradis Foto: Arkiv (NTB scanpix)

The Terminator eller Robocop? Dystopia eller Utopia? Vår undergang eller problemfrie og evige liv? Ingen vet. Forskerne gjetter, og har i bunn og grunn ikke peiling. Vi venter på en maskin, flere maskiner, et system av maskinvare og programvare, som forventes å være mer intelligent enn mennesket; mye mer intelligent.

Elon Musk er skeptisk, Bill Gates er redd, nylig avdøde Stephen Hawking fryktet konsekvensene, Ray Kurzweil gleder seg og Niklas Boström tror det kan gå riktig ille. I følge en spørreundersøkelse foretatt av Müller og Boström i 2013 tror gjennomsnittet av forskere og andre involverte at den kommer innen 2060-70, og sannsynligvis før det. 

Intelligenseksplosjonen, superintelligensen, den teknologiske singulariteten. For første gang står mennesket overfor en reell trussel der tekniske dingser, maskiner og systemer med stor sannsynlighet vil overgå den menneskelige intelligens, og dermed ta kontrollen over oss. Slik mennesket har hatt enerett på kontrollen over andre arter. Fra et eller annet tidspunkt senere i dette århundret mener de fleste forskere og eksperter at ASI ikke er til å unngå. Merk deg begrepet: ASI – Artificial Super Intelligence.  

 Allerede på 1960-tallet gjorde mennesker seg betraktninger rundt det som av mange kalles en teknologisk singularitet, altså utviklingen av en superintelligens. Den britiske matematikeren I.J.Good kalte fenomenet for intelligenseksplosjon. Matematikeren Vernor Vinge  brukte begrepet teknologisk singularitet (1993). Scenarioet var det samme da som nå, at en intelligent agent, altså et datasystem med maskinvare og programvare, blir selv-utviklende og formerer seg, til stadig nye og bedre versjoner, og handler på egenhånd. Dette vil så føre til en eksplosjonsartet utvikling av systemets eller agentens intelligens, og som kulminerer i en teknologisk singularitet; en intelligensform vi ikke aner hva kan være, altså det man kaller en ASI.

Dystopia?

Good skrev på 1960-tallet at det var sannsynlig at en superintelligent maskin ville bli bygget i det 20. århundre, og at etter dette ville denne maskinen overta alle nye oppfinnelser og all teknologisk utvikling. En superintelligent maskin ble definert som en maskin med (kunstig) intelligens høyere enn menneskets. Det Good sa i 1965, og som det er bred enighet om i dag, er at hvis mennesket klarer å lage en maskin så intelligent som mennesket (kalt AGI – Artificial General Intelligence), så er det store muligheter for at denne maskinen selv klarer å lage nye maskiner og systemer som blir enda mer intelligente enn AGI-ene. Og dette vil fortsette i et eskalerende tempo. Vi vil ikke ha kontroll over den siste og endelige versjonen av kunstig intelligens; det er ASI-en som tar kontroll over oss.

Men før vi tegner ekspertenes bilde av om vi kommer til paradis eller de evige jaktmarker, så tar vi en kort reise fra den dumme til den smarte datamaskinen:

Hva er kunstig intelligens? Det handler om en maskins og programvarens evne til å lære, å gjenkjenne mønstre, kategorisere, generalisere, ta egne beslutninger, og å handle etter et på forhånd programmert mål. Akkurat slik vi mennesker gjør det. 

En vanlig datamaskin utfører de rutiner og regneoperasjoner mennesket ber den om. Den finner ikke på noe uventet og lurt underveis. Vi blir ikke overrasket, annet enn av dens hurtighet og mange feilmeldinger. Som eksempel kan du se for deg et program som beregner gjennomsnittshøyden på alle voksne nordmenn. 

La oss si at den har lagret en rekke data om hver eneste nordmann på harddisken, inkludert den enkeltes høyde. Så får den en kommando av et menneske som ber den om å regne ut hvor høy den ferdig utvokste  gjennomsnittsnordmannen er. Svaret er ca. 173,5 cm. Og det kommer kjapt. Vi imponeres. Ca. 4 millioner personer med hvert sitt høydetall trekkes ut av lageret (alle over 20 år) og prosesseres i CPU-en; i en rasende fart summeres 4 millioner enkelttall, før summen divideres med 4 millioner. Vipps, så har vi svaret foran oss på skjermen. På noen sekunder. Hjernen vår kan ikke utføre slike operasjoner så raskt. Her er datamaskinen oss overlegne. Men ikke hvis den ikke kjenner til hver enkelt nordmanns høyde.

 Den tradisjonelle datamaskinen blir dum når den mangler bestemte data. Det er ikke noe i den som sier at den skal estimere eller finne andre om ikke fullt så gode svar på hvor høy den gjennomsnittlige nordmann er, når den faktisk mangler datagrunnlaget for å gjøre denne beregningen nøyaktig. I eksempelet vil den enten gi oss en feilmelding, a la «Det er umulig å gi dere svaret», eller at den tolker ikke noe data som 0, og så gir oss svaret «Nordmenn er i gjennomsnitt 0 cm høye». Summen av 0 4 millioner ganger, dividert på 4 millioner, er 0.

 En intelligent datamaskin vil ikke ta like lett på jobben. Den ville estimert høyden basert på andre parametere som den hadde tilgang til, for eksempel vekt. Hvis den hadde tilgang til andre lands data ville den søkt på høyde og menneske, og brukt de resultatene som estimat. Hvis den for eksempel bare hadde funnet høydedata på italienske tolvåringer, ville den brukt dette til å estimere en norsk voksenhøyde. La oss si at den kom opp med 171,2 cm som svar; et mye bedre estimat enn 0 cm! 

Hvis den så var programmert til hele tiden å finne bedre estimater ville den produsert nye og bedre svar ettersom den fikk tilgang til flere data, bedre sensorer og utviklet bedre verktøy for å anslå høyde på mennesker, for eksempel gjennom en funksjon der den kunne anslå høyde på mennesker ut fra bilder den lastet ned fra internett. Den ville lære selv (maskinlæring).

Fremtidens lærer? 

Kunstig intelligens, artificial intelligence, (forkortet KI eller AI) har opptatt oss i en menneskealder, minst. Allerede på 1940-tallet konstruerte man de første såkalte kunstige nevrale nettverk, altså en overforenklet kopi av menneskehjernens nevroner, synapser og deres koplinger. Det skulle ta mange tiår før man så tilfredsstillende resultater. Årsaken er ikke at det var en dum idé å tenke at den beste tilnærmingen til kunstig intelligens er å kopiere vår egen hjerne, men at datakraften var så uendelig mye mindre enn vår egen hjernes kapasitet; i 1940, 50, 60, 70, 80, 90... Forskerne undervurderte behovet for datakraft; tilgang til enorme mengder data, uoverskuelig lagringskapasitet og en supersterk prosessor. Dette fantes naturligvis ikke i 1940, og selv om man i 1980 utvidet konstruksjonen av nevrale nettverk til å ha flere lag, ikke bare ett som man så langt hadde operert med, så fikk man ikke se effekten av dette før for seks år siden.

ImageNet er en database med 14 millioner URL-bilder av mange forskjellige slag, fordelt på 20 tusen kategorier (tre, bie og hund, for eksempel). Hver kategori inneholder mange hundre forskjellige eksemplarer. Hvert år siden 2010 har ImageNet-prosjektet hatt en konkurranse der forskere og deres datamaskiner og algoritmer deltar med det mål å gjenkjenne og klassifisere bilder best mulig. I 2012 oppnådde en datamaskin en langt høyere gjenkjennelsesscore enn noe program tidligere hadde gjort, og dette førte til en revolusjon innen dyp læring (deep learning)

Interessen for kunstig intelligens tok av; den gikk fra å være forskningsbasert til at næringslivet fattet langt større interesse enn tidligere. De neste årene forbedret maskinene seg mye, og i 2017 fikk 29 av 38 deltagende forskningsgrupper og deres systemer mindre enn 5 prosent feil på gjetningene. Da fikk man påvist at kunstige nevrale nettverk med mange lag «nevroner» og tilhørende «synapser» var en god idé når målet var å få maskinen til å tenke selv, for å si det litt prosaisk. 

 Vi mennesker klarer enkelt å skille på stillbilder av hus, mennesker og dyr, men også handlinger, hendelser, bevegelser og lyder ned til den minste detalj. Vi er inntil videre ethvert AI-system overlegne når det gjelder å kategorisere objekter som vi møter i hverdagen, med alle bevegelser, nyanser og detaljer som omgivelsene består av. Maskinene (systemene) er fortsatt bare på såkalt ANI-nivå intelligensmessig. ANI står for Artificial Narrow Intelligence, og betyr at vi har utviklet kunstig intelligens til et nivå der maskiner er intelligente begrenset til ett område, for eksempel å spille sjakk ( jamfør Deep Blue som slo Gary Kasparov i 1997) eller Go (jamfør AlphaGo), å tolke muntlig språk på mobiltelefonen (jamfør Siri) eller kjenne igjen bestemte mønstre på et bilde, i et tallmateriale eller i en tekst. Det er milevis fra ANI- til AGI-nivå. 

For å nå AGI må vi kople sammen et utall av ANI-er, og bygge opp kompetanse på tvers av områder. Vi må kjøre uendelige mengder data gjennom de kunstige nevrale nettverkene og i forskjellige algoritmer og beregningsprosedyrer, og la maskinene lære seg å kjenne igjen det vi mennesker tar for gitt; at en tur i parken innebærer at maskinen skal kjenne igjen tusenvis eller millioner av detaljer; forskjellige objekter og hendelser den møter på turen. 

En tur i parken blir på ingen måte en tur i parken for de første bevegelige intelligente utemaskinene, eller hva vi skal kalle dem. Nå trenger ikke maskinen å svare på henvendelser eller si noe som helst, men skal den opp på AGI-nivå må den si «Takk, Kristin, bare bra, hvordan har ungene det?» til damen den møter borte ved benken, og kjenne igjen henne som naboen i nummer tolv, hun som er skilt og har to barn og to katter, som jobber som konsulent nede i sentrum, og som smilende ser opp på maskinen, som for anledningen ser ut som et menneske, og spør «Hei Bente, hvordan har du det i dag?». 

Det vi i hverdagen tar for gitt er stort sett uoverskuelig vanskelig for en datamaskin. Men en dag vil den også synes det er enkelt, og da er veien kort til ASI-nivået. Biologien setter grenser for utvikling av menneskets intelligens (vi har et individuelt forbedringspotensiale på 20 prosent). Det gjør den ikke for den kunstige intelligensen. Det som har tatt millioner av år å utvikle i våre hjerner kan ta måneder og få år for denne nye type evolusjon. 

En robot og et menneske

HAL9000, roboten fra filmen 2001: En romodyssé fra 1968, som var programmert til å hjelpe menneskene om bord i romskipet Discovery på vei til Jupiter, brøt med programkodene og de forutsetningene menneskene hadde lagt inn i den, og den utviklet seg til å motarbeide og drepe besetningen om bord. Det er slike scenarioer forskere og andre, blant andre Stephen Hawking, er og var livredde for at skal skje i fremtiden. 

Mange tror at en superintelligent maskin vil ta egne initiativ og tak, uavhengig av hva vi intenderte den til noen timer eller år før den utviklet seg til å bli smartere enn oss. Mange frykter at vi ikke vil legge tilstrekkelig med foranstaltninger inn i maskin- og programvare. Hva hvis vi glemmer en liten detalj, eller den overser en detalj, som for eksempel at våre instruksjoner om «å gjøre jordkloden bærekraftig» tolkes av maskinen «siden mennesket er den arten som gjør størst skade på jordkloden, så tar jeg livet av mennesket»?

Fra filmen 2001: En romodyssé

Etter å ha tørket mange lag med støv av en idé fra tiden rundt den andre verdenskrig, og forsterket den betydelig, med dype nevrale nettverk og gode beregningsprosedyrer eller algoritmer, drevet av supersterke prosessorer og tilstrekkelig tilgang til data og lagringskapasitet, så ante man for få år siden konturene av en fremtid ikke engang forfatterne av de mest fantasifulle science fiction-bøkene og -filmene kunne eller kan forestille seg. 

Futuristen og AI-eksperten Ray Kurzweil og Oxford-professoren Niklas Boström, to iøynefallende skikkelser innen AI-miljøet, har hvert sitt syn på fremtidens AI. Kurzweil er en ivrig entusiast og Boström roper varsko. Kurzweil er overbevist om at AGI ikke kan komme tidlig nok. Han er av dem som tror det vil skje allerede innen 2029. Boström tror også at AGI og ASI ser dagens lys før 2100, og at når ASI først dukker opp er sannsynligheten stor for at den ikke vil oss spesielt vel. Kurzweil er uenig i denne spådommen, og tror at ASI-en vil fikse alt det vi mennesker med vår, tross alt, begrensede hjernekapasitet ikke klarer å reparere, som demens, kreft, diabetes og alt av sykdommer. Ikke nok med det, han tror at fremtidens superintelligens kan gjøre oss udødelige. Vi vil enkelt kunne bytte ut organer og kroppsdeler, som motor, vinduer og eksospotte på en gammel bil vi ikke vil kvitte oss med, og med nano- og bioteknologi vil det meste kunne løse seg. Han tror fremtidens menneske blir hybrider, kyborger; en blanding av biologi og maskin.

Sony's robot "aibo", 2017. 

REUTERS/Kim Kyung-Hoon

 Kurzweil ser på kunstig intelligens med de samme briller som han betrakter alle andre oppfinnelser vi mennesker har gjort og som har forbedret og forsterket oss, som å forsterke synet (mikroskop, kikkert, teleskop), hørselen (lydforsterker), fremkommeligheten (tog, bil, fly), annen kommunikasjon (telefon, internett), styrken (jamfør gravemaskin) og så videre. Intelligensen vår har som sansene og musklene våre klare begrensninger, og derfor forbedrer vi det med teknologiske hjelpemidler. Kunstig intelligens er bare enda en slik oppfinnelse gjort av oss.

Boström er mer opptatt av at ASI-en, som han i likhet med Kurzweil tror vil komme før eller senere, vil utvikle sin egen hær, sine egne maskiner, systemer og nanodingser utenfor menneskets kropper, eller som mulige fiender i kroppene våre, som egne tekniske skapninger i en ny type evolusjon. Disse, er han redd for, vil så gå sine egne veier på tross av alle de forutsetninger og begrensninger vi mennesker har lagt inn i dem så lenge vi har kontrollen. Boström er ikke overbevist om at denne nye type tekniske intelligente agenter vil gjøre oss vondt, for eksempel ta livet av oss eller gjøre oss til dumme, plagede undersåtter. Men fokuset hans er at vi ikke vet hva de vil gjøre. Hvordan kan vi sette oss, frivillig, i en slik situasjon? Hvordan kan vi ta sjansen på at ASI-en vil være et hjelpemiddel, slik Kurzweil tror det vil være, og ikke vårt verste mareritt? Og han er ikke alene om denne frykten.

Kjendisentreprenørene Elon Musk (Tesla) og Bill Gates (Microsoft) gir offentlig uttrykk for den samme frykten. Det samme gjorde nylig avdøde Stephen Hawking.  Han sa at utviklingen av kunstig intelligens kunne bli den verste hendelsen i menneskets historie. Om hans oppfordring til AI-utviklere om å vise varsomhet virker, er vanskelig å si. Men det vil alltid være terrorister og andre som overser regler og restriksjoner, og bevisst eller ubevisst finner løsninger som ikke er til menneskets beste. Utvikling av AI er ikke forbeholdt noen få supermakters eliteforskere, slik som utviklingen av atomvåpen. Det er et utall forskjellige miljøer som lager sine egne systemer med kunstig intelligens; nasjoner, uavhengige forskermiljøer, næringslivet, private, og ingen vet hvem som får til å lage det første systemet på AGI-nivå (intelligens på menneskets nivå). Hawking sier at når utviklingen når AGI-nivå er sjansen stor for at vi mister kontrollen, at systemet tar av på egen hånd, blir selvforbedrende og selv-utviklende, og i et stadig raskere tempo. 

 Er det noe vi kan gjøre annet enn å grue eller glede oss til en uviss fremtid? Det er vanskelig å si. Vil vi klare å legge tilstrekkelig med restriksjoner på AI? Kanskje, kanskje ikke. Utviklingen av kunstig intelligens vil endre samfunnet i fremtiden, på godt eller vondt, det er det ingen tvil om. Vi får krysse fingrene.