Tiden er kommet for å ta digitalt samfunnsansvar

Det siste tiåret har vært preget av enorme teknologiske endringer og fremskritt.

Og skandaler og mistillit.

Nå vokser en ny rolle i ledelsen fram i USA: «Chief Ethics Officer». Andre varianter er Chief Trust Officer and Chief Ethics and Compliance Officer – alle rollene peker på hvor viktig digital etikk har blitt for næringslivet – og hvor enormt fort det har gått, skriver Forbes.

Forbes viser også til en undersøkelse utført av Deloitte der 32 prosent av spurte ledere rangerte etikk som en av topp tre utfordringer med kunstig intelligens (AI). Analysebyrået Gartner utpekte digital etikk som en av de 10 viktigste trendene for 2019 – og det går neppe av moten i 2020.

EU, World Economic Forum, OECD, regjeringens nasjonale strategi som lanseres på tirsdag – alle har digital etikk på agendaen.

• Les mer: Digital etikk er et lederansvar

Fra sært forskerfenomen til breddeteknologi

Men er det økt interesse for «De Store Spørsmålene» i norsk næringsliv?

– Det enkle svaret er: Ja, vi merker økt interesse for etikken, sier Kjetil Thorvik Brun, direktør for næringspolitikk og samfunnskontakt i Abelia.

– Samtidig er etikk et stort ord, og det er nok fortsatt litt forvirring rundt hvordan man skal forholde seg til det.

Thorvik Brun ser fokuset på digital etikk som en videreføring av samfunnsansvar – som har beveget seg til kjernen av virksomheten og hvor ny teknologi gir nye utfordringer.

– Det er en betydelig endring vi har sett de siste årene når det gjelder arbeid og investeringer som legges i AI. De siste årene har AI gått fra å være et litt sært forskerfenomen til breddeteknologi. Skolerte forskere har etikk i ryggmargen, en liten bedrift som skal utvikle et nytt produkt i et kontorfellesskap har selvsagt ikke samme kompetanse. Derfor vil det være viktig å få klare mandater og roller, og arenaer der små og mellomstore bedrifter kan henvende seg for å ta opp disse problemstillingene.

Fortjene tillit

– Spørsmålene om digital etikk løses i liten grad i hver enkelt virksomhet. Vi er i stor grad avhengig av at Norge samlet lander en AI-strategi, sier Toril Nag, konserndirektør i Lyse og styreleder i bransjeorganisasjonen IKT Norge. – Uten det står vi dårlig rustet til å kunne påvirke hvordan systemene våre agerer. Vi må lykkes med alle de spørsmålene som kommer senere og ikke forholde oss til AI som en stor svart boks. Vi må forstå hvem som skaper, og hvorfor og hvordan og til hva vi skal bruke, og ikke bruke, AI, fortsetter Nag.

Hun tror for eksempel ikke at AI skal erstatte ekspertene på ulike fagfelt – som for eksempel medisin – men tror også at fagmiljøer som ikke bruker AI-baserte systemer vil bli forbigått i raskt tempo av dem som anvender det.

I fjor skrev Nag en kronikk der hun snakker om viktigheten av digital etikk – og hun tror ikke temaet blir mindre relevant i 2020.

Tillit og personvern vil bli avgjørende for å lykkes med å ivareta kunder og omdømme framover, mener Nag.

– Den tilliten må man gjøre seg fortjent til, og i et digitalt samfunn bygges tillit annerledes.

Humaniora vil bli viktigere

I tillegg går det fort.

– Et av problemene er jo at AI lærer så fort, det som blir en «ukultur» blant ansatte kan fort bli normen for AI. Digital etikk må bygges inn i systemene slik at de læres opp til å foreta riktige valg. Hva kan skje hvis ikke? spør hun. – Hva må vi tenke på? Hva må vi spørre om? Det er nybrottsarbeide det her, men det er viktig at bedrifter er bevisste og tar opp etiske problemstillinger, sier Nag.

Hun mener studieretninger som kombinerer humaniora-fag og teknologi vil bli viktige framover, som for eksempel det nye Honours-studiet ved UiO.

– Det finnes sosiale, etiske og demokratiske utfordringer ved AI. Samtidig har Norge noen forutsetninger for å lykkes, som en digitalt moden befolkning og offentlig sektor. Vi har muligheten til å fange opp det samspillet mellom hva folk vil ha, hva teknologien kan gjøre mulig og hva lovverket regulerer.

Skepsis til regulering

Foto

Digitaliseringsminister Nikolai Astrup. (Foto: REUTERS/Gonzalo Fuentes)

Tirsdag neste uke lanserer regjeringen sin strategi for Kunstig Intelligens.

I arbeidet med strategien har den fått mange innspill.

– Vi opplever at det er skepsis til for tidlig regulering på dette området, fordi det kan begrense innovasjonen. Det eneste unntaket er Microsoft, som er veldig aktive i sin argumentasjon for å regulere bruk av ansiktsgjenkjenning. De har også fremmet dette i innspillsrunden, sier digitaliseringsminister Nikolai Astrup.

Også i EU-kommisjonen er man forsiktig med å snakke om regulering som kan virke hemmende på innovasjon. Fra 2020 forventes det at imidlertid at EU-kommisjonen vil legge fram lovforslag for regulering av AI. Et slikt rammeverk for AI vil trolig bygge på de etiske prinsippene for utvikling og bruk av AI, som EUs ekspertgruppe presenterte i april 2019.

– Norge vil involvere seg aktivt i arbeidet med et eventuelt regulatorisk rammeverk for AI, sier Astrup.

Et helt ålreit regelverk

Om – og i så fall hvordan – reguleringer skal utformes er et stort og aktuelt spørsmål.

– Jeg tror mange bedrifter savner en tydelighet i regelverkene. Problemet er at det er vanskelig å få til, sier Kjetil Thorvik Brun.

Han trekker fram GDPR som et eksempel på hvor komplekst det er.

– Fra vårt ståsted er GDPR bra, og kom på overtid. Samtidig er det litt diffust. Det er usikkerhet om hva som gjelder og hvilke konsekvenser det kan få. Truslene om gigantiske bøter kombinert med en viss utydelighet i regelverket er avskrekkende for mange.

I tillegg er det vanskelig å vite hva man samtykker til, ifølge Thorvik Brun. Hvordan dataene vil bli brukt på lang sikt for eksempel, kan gjøre produktutvikling vanskelig.

Men selv om det er noen problemer – og det nok vil komme justeringer – fungerer regelverket i all hovedsak ... helt ålreit, mener han.

– Bedriftene innretter seg, personvernet er styrket, i tillegg har reguleringen løftet problemstillingen. Det er nok ikke mange utviklere i dag som ikke tenker på personvern når de utvikler løsninger. Sånn var det ikke for noen år siden

En god del spørsmål

Samtidig skal man ikke glemme at reguleringer bli en våt klut over innovasjonsevnen, mener Thorvik Brun.

– Ta Facebook. Dersom de hadde blitt regulert tidlig, hva hadde vi mistet av positive aspekter? Facebooks ønske om regulering kan nok sees som en erkjennelse av at man står i en rolle som er større enn en selv, selv når man er så stor som Facebook. Det peker på noen problemstillinger, mener Thorvik Brun, og ramser opp:

• Skal vi regulere preventivt eller når vi ser noe er på vei til å gå i feil retning?

• Hvilken rolle skal Norge spille, og hvordan?

• Skal vi regulere selve teknologien eller bruken av den?

– Ansiktsgjenkjennelse er et godt eksempel. Det brukes i Kina på en måte som er helt utenkelig her, men samme teknologi kan brukes til å oppdage brystkreft eller lungekreft.