Etikk og regulatorisk sandkasse grep i ny strategi for kunstig intelligens

Det skjer dagen etter at han tilbød det norske folk gratis kurs i kunstig intelligens.

Det etterlengtede arbeidet har pågått i nesten ett år og ble tatt imot av en fornøyd bransje på MESH i Oslo.

– Det er snakk om noen overordnede prinsipper som jeg håper vil stå seg over tid, sier Astrup.

Selve strategien har en rekke nyvinninger og grep blant annet skal Datatilsynet få ansvaret for såkalte regulatoriske sandkasser som man nylig innførte for Fintech-bransjen.

Her er tanken at man skal kunne teste KI-produkter i trygge omgivelser og uten fare for sanksjoner hvis ting går galt.

Bjør Erik Thon i Datatilsynet mener det er en veldig god strategi Astrup har presentert.

– Og jeg er begeistret for å få en regulatorisk sandkasse under oss, sier han.

Rett før sommeren besøkte han kollegaer i det britiske datatilsynet som til nå har vært alene om en slik ordning.

– Dette var lærerikt. Vi skal skape et sted for å teste ut løsninger og innovere uten å skade personvernet, sier Thon. – Her skal du få prøve til det sitter.

Han viser til et prosjekt på flyplassen i London hvor man for tiden tester en form for anonym biometrisk ansiktsgjenkjenning. Ordningen skal gjøre det mulig å bevege seg fra parkeringsplassen med håndbagasje og helt ombord i flyet uten å måtte stoppe opp og sette fra seg bagasjen.

– Dette er et stort og spennende prosjekt, men jeg må innrømme at det også er et eksperiment som vi ikke kjenner utfallet av. Vi vet ikke hvordan KI-dyret kommer til å utvikle seg, og derfor er testing så viktig, sier han.

Må følges opp i budsjettene

Heidi Austlid, leder i IKT-Norge, har jobbet lenge for å få en nasjonal strategi. For henne var fremleggelsen som julaften.

– Strategien har veldig mye bra og noen store utfordringer, sier hun.

Den kanskje største utfordringen er at strategien kommer med en saftig «disclaimer» fra Finansdepartementet. Som vanlig med en flunkende ny strategi må tiltakene følges opp i de årlige budsjettene.

Astrup tok seg ikke tid til å svare på spørsmål fra salen om finansiering, men gjentok at den regulatoriske sandkassen lå under Datatilsynet.

Austlid ønsker å se fremover.

– Mens vi venter på revidert og neste statsbudsjett har vi mye å gjøre, sier hun.

Abelia i NHO-sfæren er også fornøyd.

– Vi vil gi ros til statsråden og departementet for en grundig innspillsrunde og et godt resultat. Vi er særlig begeistret for at Norge skal gå foran på etisk KI, at det skal etableres en regulatorisk sandkasse innen personvern, og at samarbeidet mellom offentlig sektor og næringslivet skal styrkes. Vi og våre medlemmer ser frem til å bidra til realisering av ambisjonene, sier Kjetil Thorvik Brun, direktør for næringspolitikk og samfunnskontakt i Abelia.

Etiske retningslinjer

– Vi må ha en KI som er fordomsfri og transparent. Beslutningene må være etterprøvbare, vi må forstå hvorfor maskinen har kommet til de beslutningene som den har kommet til, sier Astrup.

Det er en av grunnene til at man også har nedfelt et sett med etiske prinsipper for utvikling og bruk av kunstig intelligens i Norge:

• KI-baserte løsninger skal respektere menneskets selvbestemmelse og kontroll.

• KI-baserte systemer skal være sikre og teknisk robuste.

• KI skal ta hensyn til personvernet.

• KI-baserte systemer må være gjennomsiktige og etterprøvbare.

• KI-systemer skal legge til rette for inkludering, mangfold og likebehandling.

• KI skal være nyttig for samfunn og miljø.

• KI-baserte systemer skal være basert på ansvarlighet og revisjon.

– Vi må utnytte den innovasjonskraften som ligger i kunstig intelligens, både i offentlig sektor og næringslivet. Men vi mener at det bør skje på en etisk og menneskevennlig måte som respekterer menneskerettighetene, personvernet og demokratiet. Derfor inneholder strategien syv etiske prinsipper som vi forventer at følges i Norge, sier Astrup.