Hvem vinner kappløpet?

En stille korridor i Senter for informatikk ved Washington-universitetet i Seattle. Til høyre sitter unge programvare-ingeniører foran bærbare datamaskiner i det kunstige lyset av rom uten vinduer. Til venstre åpner informatikk-professor Pedro Domingos døra til sitt kontor som frigir utsikten på kjempestore trær som vokser på universitetsområdet.

52-årige Domingos er blitt berømt med en bok som har begeistret både Microsoft-gründeren Bill Gates og tidligere Google-sjef Eric Schmidt: «The Master Algorithm», et standardverk om teknologien bak kunstig intelligens. Suksessboka, som ble lansert i 2015, beskriver hvordan lærende maskiner forandrer vår hverdag – fra de sosiale nettverkene, via vitenskapen, økonomien og politikken, til dagens moderne krigføring.

«Mesteralgoritmen» og Xi Jinping

Nylig har en tredje prominent person «outet» seg som leser av Domingos bok: Kinas president og statssjef Xi Jinping. Da statsfjernsynet viste hans nyttårstale, oppdaget seerne ved siden av Karl Marx' «Kapitalen» og Maos utvalgte verker også «The Master Algorithm» i hans bokhylle.

– Boken er mye lest i Kina, sier Domingos. – Antakelig er det derfor at Xi og hans folk er blitt klar over den. Godt mulig at den er blitt enda mer populær.

Boken er også blitt oversatt til russisk, japansk, koreansk og flere andre språk, men ennå ikke til tysk – eller norsk.

SPIEGEL: Professor Domingos, Russlands president Vladimir Putin sier: «Den som tar ledelsen i den teknologiske utviklingen av kunstig intelligens, vil regjere verden». Stemmer det?

Domingos: Jeg er enig med ham i det. Kunstig intelligens er en veldig kraftfull teknologi, og kappløpet på dette feltet har begynt for lenge siden. Om 20 år kan det være avgjort. Russland gjør store framskritt, men det er mer sannsynlig at Kina vinner. Vi kan snart leve i en verden som riktignok ikke bokstavelig talt blir kontrollert av Kina, men som i praksis trolig gjør det fordi det dominerer cyber-verdenen.

SPIEGEL: Hvorfor tilsvarer dette verdensherredømmet?

Domingos: Kunstig intelligens senker kostnadene for kunnskap, og det i enorme dimensjoner. Et effektivt system, som er bygget på maskiner som lærer, kan utføre ting som det i dag trengs én million mennesker til – fra økonomi til cyber-spionasje. Forestill dere et land som produserer tusen ganger mer kunnskap enn alle andre. Det er utfordringen vi står foran.

SPIEGEL: Også Kinas statssjef Xi Jinping er interessert i kunstig intelligens. Visste du før tv-bildene fra hans tale at din bok står i hans bokhylle?

Domingos: Nei, det visste jeg ikke, men Xi Jinping gjør det visst alltid på denne måten. Bøkene i hans hylle formidler et budskap. Når det gjelder min bok, lyder det: «Vi tror på kunstig intelligens». Jeg var ikke veldig overrasket da jeg fikk høre om det. Beijing sier at Kina skal bli en verdensmakt på dette feltet.

Teknologien kan misbrukes

SPIEGEL: Hvilken følelse dominerte da du så boken der – stolthet eller uro?

Domingos: Det var både spennende og uhyggelig. Spennende fordi Kina har utviklet seg så fort og fordi det finnes utallige muligheter for kineserne og resten av verden til å kunne profitere på kunstig intelligens. Uhyggelig fordi Kina styres av et autoritært regime som er fast bestemt på å bruke intelligente algoritmer til å kontrollere befolkningen.

Og vi er bare i begynnelsen av denne utviklingen. Ved hjelp av kunstig intelligens, akkurat som med enhver teknologi, kan du gjøre både gode og dårlige ting. Så langt har vi konsentrert oss om det gode. Av det finnes det svært mye. Men mulighetene til å misbruke denne teknologien er like store.

SPIEGEL: Er det tilfeldig at to autokrater (eneveldige herskere, red. anm.) som Xi og Putin interesserer seg slik for kunstig intelligens?

Domingos: Menneskene i USA, Europa og Asia tenker veldig forskjellig om denne teknologien. I Silicon Valley dominerer et veldig optimistisk bilde som preges av liberale frihetstanker. Det er annerledes i Europa. Nylig deltok jeg i en konferanse i Berlin og følte meg nærmest slått ut av pessimismen som hersket der. På hvert møte ble det sagt: Å, dette må vi være redd for.

Inntil noen stilte det treffende spørsmålet: Hvorfor heter denne konferansen egentlig «Humanity disrupted», altså den forstyrrede menneskeheten? Hvorfor kaller vi den ikke «Humanity enhanced», altså den forbedrede menneskeheten? Ja, kunstig intelligens representerer et kulturelt brudd, men den fører oss også framover.

Autoritære regimer – contra demokratiske

SPIEGEL: Og Kina, Russland?

Domingos: Der ser regimene dessverre ikke frihetsperspektivet, men det autoritære potensialet. Xi og Putin spør seg selv: hva kan vi gjøre med denne teknologien?

SPIEGEL: Overlater vi europeere dette feltet til autokratene?

Domingos: Det finnes mange anvendelsesområder, på lokalt og nasjonalt nivå, fra helsesektor til trafikkstyring, som for lengst er tatt i bruk i USA og Kina. Mye mindre derimot i Europa. Ja, slik sett benytter Europa seg ikke av sine muligheter.

Les mer:

• Storbritannia satser på etisk AI
• Norsk IKT-bransjer krever nasjonal AI-strategi, slik Macron skal lage

SPIEGEL: Din bok ble blant annet oversatt til russisk og kinesisk, men verken til tysk eller fransk.

Domingos: Min agent sa til meg fra starten av: «Du kommer til å selge denne boken over hele verden, men ikke i Frankrike og Tyskland». Og det var akkurat slik det ble. Han fikk rett da han sa: «Tyskerne og franskmennene liker ikke disse tingene».

SPIEGEL: Du advarer selv imot at teknologien kan falle i feil hender. Er vi ikke med rette bekymret?

Domingos: Denne faren eksisterer, og når det gjelder reguleringen av kunstig intelligens, så har Europa kommet lengre enn USA. Det reguleres imidlertid for mye der, og det uten at man forstår seg godt nok på teknologien.

Må ikke reguleres ihjel

SPIEGEL: Hva mener du med det?

Domingos: Den europeiske grunnforordningen for personvern, som trer i kraft i slutten av mai (GPDR), legger for stor vekt på kravet om forståelighet, altså på spørsmålet om hvorfor en algoritme bestemmer seg for det ene, og ikke noe annet.

La oss ta kreftforskningen som eksempel på hvordan maskinlæring allerede i dag spiller en stor rolle: Foretrekker jeg at min diagnose baserer seg på en algoritme som er 90 prosent nøyaktig, men som ikke lar seg forklare i detalj, eller på en som bare er 80 prosent nøyaktig, men som jeg forstår? Jeg ville valgt det mest nøyaktige alternativet.

SPIEGEL: Er det ikke mulig å få begge deler, nøyaktighet og forståelighet?

Domingos: De beste lærende algoritmene er etterlignet nevrale nettverk som er inspirert av nervesystemer, akkurat som de finnes hos menneske og dyr. Disse algoritmer er i høyeste grad nøyaktige fordi de forstår et utsnitt av verdenen bedre enn oss, nettopp fordi det baseres på enorme mengder med data. Men de er fullstendig ugjennomsiktige.

Selv vi eksperter forstår ikke fullt ut hvordan de nøyaktig fungerer. Vi vet bare at de fungerer. Derfor burde vi ikke sette opp regler som bare tillater algoritmer som lar seg forklare fullt ut. Det er vanskelig å forstå virkelighetens kompleksitet og samtidig holde tingene enkelt.

– Reguler intelligensens objektive funksjoner!

SPIEGEL: Hvordan burde kunstig intelligens så reguleres?

Domingos: Det finnes ingen lov som vil være detaljert nok for å kunne holde følge med kompleksiteten til moderne algoritmer. Det som kan reguleres, er algoritmens objektive funksjoner, som for eksempel Facebooks mål om å holde på sine brukere så lenge som mulig. Da kan tilsynsmyndighetene si: Okay, dere vil tjene penger, men da må dere følge visse samfunnsrelevante regler. Som for eksempel å være gjennomsiktig, og ikke spre falsk informasjon.

SPIEGEL: Hva burde ikke reguleres?

Domingos: Eksempelvis burde man ikke regulere at data som utelukkende brukes til ting de er blitt samlet inn til. Det høres i utgangspunktet forståelig ut, men hvis menneskeheten hadde fulgt dette prinsippet tidligere, hadde vi i dag ikke hatt antibiotikumet Penicillin, og heller ikke røntgenteknikken. Tilfeldigheter, som fører til oppdagelser av nye ting i gamle data, er uunnværlig for vitenskapelig framskritt.

Kina ledende innen 2025?

SPIEGEL: Har du forklart dette for europeiske politikere?

Domingos: Jeg har snakket med mange politikere, men mindre med europeiske. Det er et paradoks fordi Europa har fremragende eksperter innen kunstig intelligens. Ikke så mange som i USA, men deres forskningskvalitet er for tiden enda bedre enn den til deres kinesiske kolleger. Men Kina haler inn på …

SPIEGEL: … og vil slutt, med sin autoritære modell, passere oss?

Domingos: Tidligere Google-sjef Eric Schmidt spår at Kina vil være ledende innen 2025 fordi landet følger en samordnet strategi. Det er godt mulig. USAs fordeler er grunnforskningen og den sprudlende risikokapitalen som overfører kunnskapen fra universitetene til næringslivet. Kinas fordel er den enorme datamengden som lærende algoritmer kan dra nytte av. Europas fordel er dens mangfold.

Hvis jeg måtte velge mellom Europas og Kinas datapool, ville jeg gått for Europas fordi kinesiske data er veldig homogene og derfor overflødige på mange områder. De tilfører ikke noe nytt til allerede etablert kunnskap. Dessuten er Kina veldig slepphendt når det kommer til vernet av folks privatsfære, noe som både er en fordel og en ulempe.

SPIEGEL: Hvorfor?

Domingos: Vel, i kreftforskningen, for eksempel, syns jeg at det nesten er pasientenes etiske plikt å dele sine data. Det kommer de imidlertid ikke til å gjøre hvis de er i tvil om at deres data er sikre – noe de ikke er i Kina. Derfor kan det være mulig at kvaliteten til de kinesiske dataene er lavere, selv om volumet er større.

Grenser flyttes

SPIEGEL: Vil kappløpet om kunstig intelligens framover heller foregå mellom stater eller mellom enkelte selskap?

Domingos: I den forbindelse vil verden forandre seg fullstendig. Grensene flyttes. Når jeg snakker med militære, en stor del av min forskning finansieres av Pentagon, så har de for lenge siden gitt opp håpet om at motstanderen kan stenges ute. Motstanderen har for lengst trengt seg inn i cyber-verdenen, uansett hvor mye vi prøver å tette igjen alle sprekker. Det er jo derfor kineserne er så opptatt av å bygge opp en overvåkingsstat.

SPIEGEL: Hva har dette å gjøre med internettselskapene?

Domingos: Der har kappløpet kommet lengst. Fram til nå opererer de store selskapene innen kunstig intelligens i stor grad i det stille, ikke minst av konkurransehensyn. Inntil videre jobber de største bedriftene uavhengig av hverandre og helt for seg selv – fem eller seks av de ti ledende i USA, to eller tre i Kina.

Også der har Kina en fordel fordi regjeringen og selskapene hjelper hverandre hemningsløst, noe som ikke er tilfellet på samme måte i USA.

SPIEGEL: Hvem er de ledende selskapene?

Domingos: Nummer én er Google, med sitt enorme antall eksperter og avdelinger som utelukkende jobber med kunstig intelligens og maskinell læring – som DeepMind og Google Brain. På andre plass følger Microsoft, deretter Facebook og Amazon. I deres logistikksentre arbeider hundretusenvis av mennesker som selskapene antakelig gjerne ville erstattet med roboter, heller i dag enn i morgen.

SPIEGEL: Og i Kina?

Domingos: Der er online-forhandleren Alibaba og internettgiganten Tencent de beste. Men fremfor alt søkemotoren Baidu som satser massivt på kunstig intelligens.

SPIEGEL: Autoritære regimer, militære, spionasje og nå for bare noen få uker siden dataskandalen hos Facebook. Hva skyldes det at du likevel ser positivt på kunstig intelligens?

Domingos: Se på hvor mye moderne teknologi har forandret verden de siste 200 årene. Visst, fryktelige ting har skjedd, men det samlede resultatet er overveldende positivt. Det finnes gode grunner til å være optimistisk og pessimistisk samtidig. Ja, for begge deler blir grunnene bare enda vektigere med tiden. Jeg forblir forsiktig optimistisk.

Slepphendte, tvilsomme Facebook

SPIEGEL: Er ikke Facebook-skandalen nøyaktig den digitale verdens «big bang» som du har advart imot i din bok?

Domginos: Facebook har alltid håndtert data på en meget bekymringsløs måte. De risikerte mye og korrigerte seg først når selskapet hadde gått for langt. Det er ingen tilfeldighet at Facebook nyter mindre tillit enn de andre store internettselskapene. Oppgjøret vi ser nå, var å vente.

På den andre siden er Facebook ikke lenger det selskapet det var for noen år siden. En datalekkasje som den til rådgivningsfirmaet Cambridge Analytica vil ikke skje på denne måten i dag.

SPIEGEL: Hvordan ville du ha regulert Facebook?

Domingos: Facebook gjør mange tvilsomme ting. Deres algoritmer har som mål å binde brukerne så lenge som mulig til selskapet. Det gjør også ethvert godt fjernsynsprogram, enhver roman og ethvert idrettsarrangement. Men Facebook bruker kunstig intelligens for å maksimere brukernes oppmerksomhet til sin fordel, og det gjør skade: mennesker tror på «fake news», de blir feilinformert og polarisert. Det er alvorlige problemer, og det er grunnen til at politikken må gripe inn og sette grenser.

En fare – og en mulighet

SPIEGEL: Kan sosiale nettverk bli farlige for et demokrati?

Domingos: De er både en fare og en mulighet. Strengt tatt sitter demokratiet i dag fortsatt fast i det 19. århundret. Kommunikasjonen med våre folkevalgte begrenses i dag til et par byte hvert år. Latterlig!

En mulighet til å rette opp denne skavanken, er en digital modell som binder innbyggerne tettere sammen med avgjørelsene som deres regjeringer tar. For eksempel ved å lage en digital modell av den enkelte borger og dens politiske prioriteringer som den folkevalgte kan dra nytte av og bruke til å få råd. Det er fullt mulig med verktøyene til maskinlæring og blir allerede testet. Her ligger en mulighet.

SPIEGEL: Og faren?

Domingos: Den består i at sosiale nettverk kan misbrukes til manipulasjon. Men vi må ikke overdrive tingene. Hittil er de sosiale nettverkene først og fremst interessert i å plassere reklame. For Facebook er verdien av en bruker rundt 50 dollar (rundt 390 kroner), selv om den enkelte kanskje forbruker 50.000 dollar i året. Mer har all denne datalæringen ikke oppnådd så langt. Forestillingen om at valg kan avgjøres ved hjelp av kunstig intelligens i dag, syns jeg er overdreven. Men teknologien skrider framover.

Kunstig intelligens svært forførende

SPIEGEL: Hva vil til slutt være farligist ved kunstig intelligens – datalekkasjer som hos Facebook eller Orwell-staten uten individuelle rettigheter slik autokratene vil bygge den?

Domingos: Hvis autoritære stater skriver bedre algoritmer enn oss i demokratiene, så har vi et problem. For å sitere Lev Trotskij litt fritt: du er kanskje ikke interessert i kunstig intelligens, men den er interessert i deg.

Akkurat som USA har tro på advokater, tror Kina på ingeniører. Noen av Kinas ledere er utdannede ingeniører. For dem er utformingen av et samfunn et teknisk problem: vi programmerer en maskin slik at den oppfører seg slik som vi vil. For slike politikere er kunstig intelligens svært forførende.

SPIEGEL: Også lederne i det tidligere Sovjetunionen ville gjerne regjert verden?

Domingos: Ja, og deres systemer var underlegne vårt demokrati og vår kapitalisme. Men tenk dere hva de kunne fått til med algoritmene fra vår tid. Datamaskiner er de ultimate byråkratene. De kan kontrollere enhver til enhver tid. De er absolutt ubestikkelige, men i hendene på korrupte mennesker er de absolutt korrupte. I et åpent samfunn kan jeg som øverstkommanderende til en hær gi mine soldater ordre, men i de fleste vestlige statene har de retten til å nekte å utføre den hvis den er tvilsom. Datamaskinen, derimot, den gjør som jeg sier.

Utviklingen vil galoppere

SPIEGEL: Overvurderer vi i dag muligens den teknologiske utviklingen innen kunstig intelligens? Der hvor vi møter den i hverdagen, som ved ansikts- og stemmegjenkjenning, skuffer den som regel?

Domingos: På kort sikt vil teknologi alltid utvikle seg sakte, men på lang sikt mye raskere enn vi forventer. Kunstig intelligens er i denne sammenheng et glimrende eksempel. Systemene som vi har med å gjøre i vår hverdag i dag, er utrolig dumme. Det finnes ingen intelligens i språkassistenter som Alexa og Siri.

SPIEGEL: Hvorfor? Er det virkelig så vanskelig å lære noen enkle ting om oss gjennom dusinvis av forespørsler?

Domingos: Det er ekstremt vanskelig. Vi mennesker er intelligente. Derfor syns vi at intelligens er noe enkelt. Vi er ikke klar over at vi bærer i oss hele evolusjonens historie. Men den teknologiske utviklingen akselererer. I de siste 50 årene har vi tilbakelagt 1000 mil og oppnådd utrolige ting. Men vi har fortsatt én million mil å gå, og til det vil vi ikke trenge like mye tid.

SPIEGEL: «Tilstrekkelig avansert, kunstig intelligens kan ikke skilles fra Gud», skriver du i boken din. Altså at det ikke finnes noen forskjell mellom denne typen intelligens og Gud. Forklar denne setningen litt nærmere, er du snill!

Domingos: Det er modifikasjonen av en tanke som science fiction-forfatteren Arthur C. Clarke hadde. «Tilstrekkelig avansert teknologi kan ikke skilles fra magi». Hva jeg vil si med dette, er følgende: Vi mennesker frykter at datamaskinene en gang vil gjøre opprør. Det vil ikke skje. Maskiner har ingen vilje.

Derimot er det fullt mulig at vi frivillig overlater kontrollen til maskinene, rett og slett fordi de så fantastiske og fordi de kan bearbeide større datamengder enn oss. Er ikke en smarttelefon som magi?

Hvem kommer til å styre algoritmene?

SPIEGEL: Så til sjuende og sist er alt avhengig av hvem som styrer maskinene?

Domingos: Ja, slik er det. Historien har lært oss at vi lar oss forføre. Derfor overlater vi mer enn gjerne til kunstig intelligens å ta avgjørelser som vi selv burde ta. Men i realiteten er det ikke kunstig intelligens som tar avgjørelser. Det er menneskene som kontrollerer den kunstige intelligensen. Hvem kommer til å styre algoritmene i fremtiden? Er det oss, eller er det Xi Jinping? Det er spørsmålet.

© 2018 Der Spiegel or Spiegel Online. Distributed by New York Times Syndicate. Oversatt fra tysk av Hermann Möhring.

SPIEGEL+DP

Som en del av Dagens Perspektivs europadekning publiserer vi etter avtale jevnlig stoff fra det tyske magasinet Der Spiegel.

---