Teknologigigantene må ta opp kampen mot hatgrupper på sine sosiale plattformer

Sosiale medier gjør det mulig for disse menneskene å finne hverandre og dele det felles hatet ved hjelp av et par klikk.

Hater du jøder, muslimer eller homofile kan du i dag lett finne likesinnede uten at alarmklokkene til teknologiselskapene ringer.

• LES OGSÅ: – Noen bør utvikle en alkolås for sosiale medier

Teknogigantene har verktøyene som skal til for å identifisere mennesker som lever av å spre hat, kaste dem ut av sine plattformer og melde ifra til myndighetene.

Så hvorfor gjør de ikke nettopp dette i større grad enn i dag?

Større grad av rapportering av disse menneskene kan forhindre fysiske sammenstøt i «virkeligheten», i verste fall drap, som vi denne helgen var vitne til i den amerikanske byen Charlottesville i Virginia 12. august.

Hat førte til drap

I Charlottesville hadde flere tusen høyreekstremister samlet seg for å demonstrere for såkalt «hvit-overmakt» etter å ha organisert seg i Facebook-gruppen «Unite the Right».

På Reddit hadde også flere medlemmer markedsført arrangementet dager før det braket sammen. Den tidligere Ku Klux Klan lederen David Duke brukte Twitter for å advare sine følgere om at lørdagens demonstrasjon bare var begynnelsen.

• LES OGSÅ: Krever svar fra justisministeren

Demonstrasjonen ble voldelig da høyreekstremistene barket sammen motdemostranter. 32 år gamle Heather Heyer ble drept da en bil kjørte inn i folkemengden og skadet 19 mennesker mens de protesterte mot nynazistene.

• LES OGSÅ: Fokus på fordommer

Facebook-skaper Mark Zuckerberg har flere ganger gått offentlig ut og sagt at plattformen slår hardt ned på hatretorikk og diskriminerende ytringer. Sannheten er at det skal veldig mye til før du blir kastet ut av Facebook eller noen av de andre sosiale plattformene.

Det er i tillegg veldig enkelt å navigere seg rundt regelverket som sosiale media gigantene har satt opp nettopp for å forhindre spredning av hat på nett.

Direkte trusler

Så lenge man ikke direkte truer noen eller spesielle grupper basert på etnisitet, rase, landbakgrunn, religion, kjønn, legning, kronisk sykdom eller nedsatt funksjonalitet, kan du slippe unna med så og si hva som helst på Facebook, Twitter og YouTube.

Du kan pakke inn hatet ditt i utsagn om «arv og identitet og fremtiden til mennesker med europeisk avstamning,» slik som den hvite nasjonalisten Richard Spencer gjør gjennom den såkalte tenketanken National Policy Institute.

• LES OGSÅ: Prisen å betale for å utøve lederskap som lesbisk muslim

På Twitter blir du derimot utestengt fra plattformen i bare en uke dersom du deler en meme av et gasskammer.

• LES OGSÅ: Kjemper mot skam- og æreskultur

«Sosiale medier har hjulpet hatgrupper å spre sine budskap i kanaler og på måter som aldri før har vært mulig. De har flyttet seg fra de mørkeste avkrokene i samfunnet til det offentlige rom,» sa Jonathan Greenblatt, administrerende direktør av Anti-Defamation League til teknologinettstedet Wired.

Organisasjonen hans har sporet opp antisemittistiske holdninger i mer enn et århundre.

Krysser de grensen?

Teknologiindustrien beveger seg i en fin linje mellom ytringsfrihet og hatretorikk. De tillater mennesker med ekstreme holdninger å promotere sine holdninger og spre sine budskap i sine nettverk.

Sosiale plattformer tillater disse hatefulle menneskene å rekruttere lett påvirkelige unge mennesker helt ned i 13-årsalderen (aldersgrense for å være på Facebook).

• LES OGSÅ: Faten Mahdi Al-Hussaini: Er hun Norges modigste?

Facebook skriver i sine regler at de fjerner hatretorikk og innlegg som hedrer voldelige handlinger og hatgrupper, men at de tillater folk å bruke plattformen til å utfordre ideer, institusjoner og samfunnsnormer. De tillater også grupper å organisere fredfulle protester og demonstrasjoner mot ting.

I Twitter sin policy står det for eksempel at de tillater «kontroversielt innhold». Dette vil si kontoer som fremmer hvit overmakt. Teknologiselskapet handler bare dersom disse kontoene tuer med vold eller sprer frykt i ulike grupper.

• LES OGSÅ: Populisme på frammarsj i Europa

Etter hendelsene i Charlottesville har flere teknologiselskaper som GoDaddy og Discord forandret tilnærmingen til netthat og tatt en mye mer aktiv rolle i å kaste ut hatgrupper fra sine plattformer.

«Det er teknologigigantene sitt ansvar å finne ut en måte å ikke bli involvert i disse voldelige handlingene eller bli komfortable av det faktum at de er involvert,» sier Charlton McIlwain, professor ved New York University til teknologinettstedet.

Hardt ut mot terrorisme

Sosiale plattformer er selskap, ikke regjeringer, og kan velge å tolke ytringsfrihet på den måten de ønsker.

Twitter, Facebook og YouTube har tatt en aggressiv tilnærming i å slå ned på IS og terrorismeaktivitet på sine plattformer. Facebook bruker kunstig intelligens til å finne tekst som fremmer terrorisme eller terrorisme-grupper. De bruker også programmer for bildegjenkjennelse til å identifisere terror-relaterte bilder.

• LES OGSÅ: Konflikt og terror er elefanten i undervisningsrommet

Facebook er visstnok mindre sensitiv til mennesker assosiert med IS sine rettigheter til ytringsfrihet og har uttalt at de er fast bestemt på å «slå ut» grupper eller brukere som er tilknyttinger til terrorister.

«Vi bruker algoritmer til å finne ut om en konto er venn med et høyt antall kontorer som har tilknytning til terrorisme, eller om en konto deler mye av det samme budskapet som en slettet konto,» forklarte selskapet i en blogpost.

• LES OGSÅ: – Spisse budskap kan ødelegge mer enn å forebygge

YouTube har gått så langt at de har utviklet et verktøy som heter Redirect Method, som viser brukere anti-IS videoer for de som søker på IS-relaterte videoer. Verktøyet er laget for å nå ut til mennesker som kan være nysgjerrige på ekstremistiske ideologier før de blir involvert i ekstreme grupper.

«La oss ta mennesker som er sårbare eller i faresone for å bli rekruttert til IS og vise dem informasjon som forkaster ideologiene til terrorgruppen,» sa Yasim Green, som er leder for forskningsteamet som har utviklet teknologien til Wired.

• LES OGSÅ: Foreldreveiledning kan forebygge radikalisering

Etter at justisdepartementet i USA slo fast at drapet på Heyer skjedde som følge av terrorisme, gjenstår det å se om teknologiselskapene vil gå like hardt til verks mot såkalte «hvit-overmakt» grupper som de gjør mot IS.