Sterkere etikk med kunstig intelligens

Det er god grunn til å diskutere etiske vurderinger knyttet til kunstig intelligente løsninger, men liten grunn til å frykte at leverandørene ikke tar problemstillingene på alvor. Uten tillit er kunstig intelligente løsninger verdiløse for seriøse aktører. Både tilbyderne og brukerne av tjenestene må selvsagt erfare at løsningene gir verdi ved å sette mennesker i stand til å ta klokere valg og være mer effektive. Men det skal mer til for å vinne tillit. Måten resultater skapes på er viktig. Etisk forsvarlige metoder og vurderinger skal ligge til grunn for sluttresultatene.

Som utvikler av teknologi for kunstig intelligente løsninger er vi i IBM godt kjent med disse problemstillingene. IBM er pådriver for etablering av etiske kjøreregler i utviklingen av ny teknologi. En ting er at vi som jobber i selskapet skal være komfortable med hva vi er med på, en annen ting er at utbredelsen av teknologien selvsagt blir begredelig om den ikke innfrir dagens og fremtidens krav til etikk.

Det er liten grunn for kritikerne til å bekymre seg for de etiske utfordringene ved de nye løsningene basert på dataanalyse og maskinlæring fra seriøse leverandører. Det er større grunn til å stille spørsmål ved skjevheter og etiske overtramp i analyser og beslutninger basert på dagens rutiner og beslutningsprosesser.

Våre eksperter på kognitiv teknologi omkring i verden melder om betydelige svakheter i dagens manuelle løsninger. En velkjent utfordring i norsk arbeidsliv er for eksempel at personer med navn fra andre kulturer enn vår vestlige nedprioriteres i bunken av søkere til jobber i Norge. Praksisen kan selvsagt ikke forsvares, men den finnes. I utviklingen av en seleksjonsrobot ville det være utenkelig for seriøse aktører å legge inn bevisst diskriminering i algoritmen.

Også på en rekke andre områder får IT-konsulenter innblikk i skjevheter i dagens beslutningsprosesser – skjevheter som etisk sett ikke kan forsvares. Automatiserte løsninger kan programmeres til å gjøre objektive vurderinger basert på forsvarlige etiske prinsipper. Enhver kognitiv løsning må kunne dokumentere bakgrunnen for sine anbefalinger. Vår erfaring er at kognitive løsninger idag kan avdekke skjevheter i allerede gjennomførte manuelle prosesser og beslutninger som er gjenspeilet i datagrunnlaget som analyseres.

Når reglene for prioritering er programmert inn i en kognitiv løsning, vil de være permanente. Når systemet lærer over tid, vil eventuelle preferanser være begrunnet i funn i erfaringsdatabasen som benyttes. Hvilke preferanser som skal hensyntas vil avklares gjennom opplæringsprosessen av løsningen. Den kognitive delen av teknologien trenger menneskers veiledning i opplæringsfasen.

IBM har sammen med andre store teknologiselskaper gått sammen om å danne felles etiske kjøreregler for den videre utviklingen av kunstig intelligens. Sammen danner vi et utgangspunkt for at teknologien skal kunne bidra til en bærekraftig digital endring.

Parallelt med dette initiativet har vi i IBM besluttet tre prinsipper for vår videre utvikling av kognitiv teknologi:

• Vi skal utvikle teknologi som forsterker og utvider menneskelige evner, kunnskap og potensial.
• For at kognitive datasystemer skal kunne bidra til å forbedre verden, er tillit til systemenes anbefalinger og vurderinger avgjørende. IBM vil informere tydelig om når og hvordan disse teknologiene brukes, hvilke datakilder som inngår i analysene, hvordan løsningene er trenet opp og hvem som eier materialet og sammenhengene løsningene påviser.
• IBM skal investere og bidra til at studenter og arbeidstakere utvikler ferdighetene som skal til for å arbeide effektivt sammen med kognitiv teknologi. Vi mener at menneske og maskin er best sammen.

Digital endringskraft handler først og fremst om mennesker og om hvordan vi møter hverandre og samfunnet i samspill med ny teknologi. Med kognitiv teknologi vil nye arenaer for samhandling med maskiner oppstå. Også det reiser etiske problemstillinger.

Likevel er det ikke den nye teknologien vi skal frykte, men den gamle. I manuelle operasjonene kan enkeltmenneskers fordommer eller slurv passere. Det er etisk betenkelig å ikke gripe mulighetene innenfor en teknologiutvikling med åpenbart potensial til å skape en bedre verden. Gode kjøreregler og etiske vurderinger er en viktig del av dette.

Anne-Sofie Risåsen er direktør i IBM Norge og leder av selskapets konsulentdivisjon i Norge.

Synspunkt

Skriv til DP Synspunkt

Del dine meninger med ledere og andre ressurspersoner i arbeids- og samfunnsliv? Skriv til DP SYNSPUNKT.

Les alle synspunkt her.

---