NOU 2022: 9

En åpen og opplyst offentlig samtale— Ytringsfrihetskommisjonens utredning

Til innholdsfortegnelse

9 Desinformasjon og feilinformasjon

9.1 Innledning

Bekymringen for spredning av usann informasjon er ikke ny. Men internett har gjort det enklere enn før å spre propaganda, løgn og feilinformasjon til et større publikum enn for få år siden. Sosiale mediers algoritmer forsterker distribusjonen av de publiseringene som skaper mest engasjement. Dette er ofte gunstig for dem som ønsker å spre det som gjerne kalles falske nyheter.

Hvis folk ikke lenger kan skille mellom fakta og fiksjon, mellom sant og falskt, utgjør det en alvorlig trussel for ytringsfriheten. Alle ytringsfrihetens begrunnelser svekkes hvis vi ikke lenger kan stole på vesentlige deler av den informasjonen vi mottar:

Den frie meningsdannelsen forutsetter tilgang til pålitelig informasjon. Søken etter sannhet blir umulig dersom vi ikke kan fastslå hva som er sant og usant i det vi bygger våre vurderinger på. I verste fall kan dette utgjøre en trussel mot demokratiet.

I mandatet blir kommisjonen bedt om å foreslå «tiltak mot manipulering av, og svekkelse av tilliten til, det offentlige rom gjennom desinformasjon, påvirkningskampanjer osv.» I dette kapittelet diskuteres først de ulike begrepene som brukes om slik manipulering. Den videre analysen tar hovedsakelig for seg desinformasjon og påvirkningskampanjer, men det er ikke kun målrettede forsøk på å villede som kan være skadelige. Vi diskuterer også hvordan feilinformasjon og konspirasjonsteorier som fremmes i god tro kan gjøre skade på ordskiftet.

Sentralt for vurderingene er hvilket skadepotensial ulike former for manipulering har, hva som påvirker dette potensialet og hvor utsatt Norge er. Kommisjonen redegjør for hva vi vet om omfanget av særlig desinformasjon i Norge i dag, samt hvilke tiltak som gjøres i Norge og sammenliknbare land. Til slutt følger kommisjonens vurderinger og anbefalinger.

9.2 Begrepsavklaringer

Mange ulike begreper brukes for å beskrive usannheter i den offentlige debatten: Falske nyheter og ‘fake news’, desinformasjon, påvirkningsoperasjoner, feilinformasjon, propaganda, konspirasjonsteorier med mer. Disse brukes ofte om hverandre, men beskriver samtidig ulike og til dels overlappende fenomen.

Boks 9.1 Begrepsliste

  • Feilinformasjon: Feilaktig informasjon som spres uten skadehensikt.

  • Desinformasjon: Bevisst villedning som spres for å skade.

  • Skadelig informasjon (malinformation): Sann informasjon som spres for å skade.

  • Falske nyheter: Feil- eller desinformasjon presentert i et nyhetsformat.

  • Bullshit: Informasjon som spres uten at avsender bryr seg om hvorvidt den er sann eller ikke.

  • Konspirasjonsteori: Påstand om at gale ting i verden skyldes skjulte sammensvergelser.

  • Propaganda: Bevisst manipulerende kommunikasjon.

  • Påvirkningsoperasjon: Koordinert bruk av fordekte metoder for å påvirke folk.

Et nyttig utgangspunkt er skillet mellom feilinformasjon, desinformasjon og skadelig informasjon (mis-, dis- og malinformation) som tre hovedkategorier:1

Feilinformasjon er når feilaktig informasjon spres uten at det er ment å skade. Desinformasjon er bevisst villedning med hensikt om å skade. Skadelig informasjon (malinformation) beskriver spredning av sann informasjon for å skade, for eksempel lekkasjer av private opplysninger som legejournaler eller bankkontonummer.

Det sentrale begrepet i Ytringsfrihetskommisjonens mandat er desinformasjon. Det finnes en rekke mer utførlige definisjoner av hva dette er. En ekspertgruppe leverte følgende definisjon til EU-kommisjonen i 2018:

«Usann, upresis eller misvisende informasjon som er fabrikkert, presentert eller spredd med den hensikt å skade offentligheten eller skape profitt.»2

Det sentrale elementet for å avgjøre hva som er desinformasjon, er altså intensjonen. Det må foreligge en hensikt om å skade (eller tjene penger).

Men mye av informasjonen som gjerne omtales som desinformasjon, spres enten uten at avsenderen er klar over at informasjonen er feilaktig, eller uten å ha noe ønske om å villede. Dette kan gjelde alt fra konspirasjonsteorier til rykter og dårlig journalistikk. Dette er feilinformasjon, men ikke desinformasjon.

Selv om intensjon er et viktig skille, har begrepsbruken flere utfordringer. Å fastslå hva som er sant, er krevende i seg selv. Det er heller ikke så lett å vite eller avdekke hva avsenderens intensjoner eller motiver er. Innimellom er ikke avsenderen interessert i sannheten, og bedriver det filosofen Harry Frankfurt kaller bullshit: formidling av opplysninger eller påstander uten å være interessert i hvorvidt de er sanne eller ikke.3

Falske nyheter kan forstås som en underkategori av feil- eller desinformasjon: Dette er også usann eller misvisende informasjon, presentert som nyheter. Nyhetsformatet blir her misbrukt for å skape troverdighet om falsk informasjon som ikke har gjennomgått vanlig journalistisk kvalitetskontroll.Begrepet har fått omfattende oppmerksomhet, men er senere blitt både brukt og misbrukt som et retorisk våpen mot meningsmotstandere, særlig av enkelte politikere som setter merkelappen «fake news» på opplysninger eller påstander de ikke liker.4

Des- og/eller feilinformasjon er ofte en sentral del av konspirasjonsteorier, som kan defineres som en forklaringsmodell som går ut på at ting som er galt i verden skyldes at mektige grupper i hemmelighet sammensverger seg for å fremme sin egen, skjulte agenda.5 Ofte er det ikke snakk om teorier i ordets egentlige betydning, men heller det man kan kalle konspirasjonspåstander eller konspirasjonssnakk.6

Desinformasjon er beslektet med propaganda, som kan defineres som bevisst manipulering av folks følelser og tanker ved hjelp av sterke virkemidler for å fremme bestemte oppfatninger og handlingsmønstre.7 De to begrepene brukes ofte synonymt, men propaganda behøver ikke være desinformasjon. Også sann informasjon kan brukes for å manipulere folks følelser og tanker.8

Desinformasjon kan være et verktøy i påvirkningsoperasjoner. Heller ikke begrepet påvirkningsoperasjon er uproblematisk å definere. Påvirkningsoperasjoner skjer hele tiden, i alt fra reklame til politisk retorikk. PR-rådgivning og lobbyisme er også former for påvirkningsoperasjoner, som også kan skje i det skjulte.

Når begrepet påvirkningsoperasjon brukes om desinformasjon, beskriver det en aktørs koordinerte bruk av illegitime og fordekte metoder for å påvirke meninger og virkelighetsoppfatninger hos enkeltpersoner eller grupper uten at disse er klar over dette.9

Det er ikke alltid lett å kategorisere spredning av usannheter. Spredningen av påstander om at covid-19-pandemien skjedde gjennom 5G-stråling, er et av mange eksempler: Det er mulig at flere av de som spredde slike påstander oppriktig trodde at dette var et faktum og ønsket å advare og redde folk fra å bli syke. I så fall kan dette vanskelig kalles desinformasjon. Skadepotensialet til slik feilinformasjon kan være stort likevel.

I den videre framstillingen vil feilinformasjon brukes som en samlebetegnelse for spredning av usann eller villedende informasjon der det ikke er opplagt hvilken intensjon avsenderen har. Desinformasjon brukes når det er snakk om informasjon med skadehensikt. Det varierer hvilke begrep som er brukt i spørreundersøkelser og forskning.

9.3 Skadepotensial og omfang i Norge

9.3.1 Ulike typer skade

Desinformasjon, feilinformasjon og konspirasjonsteorier har et betydelig skadepotensial. Skadevirkningene kan deles inn i ulike kategorier for å gi en oversikt over hvorfor dette er et samfunnsproblem som må tas på alvor. Kategoriene illustrerer også at det finnes ulike typer aktører og motivasjoner bak spredning av usanne opplysninger. Dette har følger for hvilke tiltak som bør diskuteres.

I det følgende gis først en oversikt over undersøkelser som indikerer hva folks oppfatninger er om det generelle omfanget av ulike typer potensielt skadelig informasjon i Norge. Undersøkelsene som omtales, gjelder fenomen som omtales som både desinformasjon, feilinformasjon, falske nyheter og konspirasjonsteorier. Dette presiseres underveis.

Videre vurderes tre hovedkategorier av skadetyper: Demokratisk, fysisk og økonomisk skade. Det gis en oversikt over hva som er kjent om omfang av de ulike skadetypene i Norge. Siden kommisjonens mandat er å utrede ytringsfrihetens kår i Norge, omtales primært eksempler fra Norge og i mindre grad andre land.

9.3.2 Generelt omfang i Norge

Falske nyheter framstår ikke som et stort problem for majoriteten av befolkningen i Norge. Nordmenn flest har ikke en generell mistro til informasjonsinfrastrukturen eller et synkende nivå av tillit til mediene. Dette er hovedkonklusjonen i den ferskeste studien som er gjort av folks syn på såkalt falske nyheter i Norge.10

Riktignok sier en betydelig andel av befolkningen at de jevnlig kommer over det de mener er usanne nyhetsartikler. 44 prosent svarte at de hadde fått «tilsendt, eller kommet over falske eller usanne nyheter» på nettet i løpet av det siste året, viste en spørreundersøkelse fra Medietilsynet i 2021. 68 prosent hadde opplevd «å komme over informasjon de var i tvil om var sann».11

Dette betyr ikke at artiklene folk viser til er desinformasjon. De trenger heller ikke være usanne. Publikumsstudier har vist at folk gjerne kaller nyheter de ikke tror på, for falske nyheter. Hva de tror på, vil ofte være knyttet til tillit til mediene generelt, til politiske institusjoner og politisk ståsted.12

Bekymringen for falske nyheter er relativt lav i befolkningen, konkluderte en studie fra Institutt for samfunnsforskning i 2022. Kun to av ti sier de ofte er bekymret for om nyhetene de leser er falske.13 Det samme viste en internasjonal spørreundersøkelse i Reuters Digital News Report fra 2018. Representative utvalg i seks land ble spurt om de var urolig for ulike varianter av des- og feilinformasjon. De norske respondentene var minst bekymret uansett hva det ble spurt om.14

I Reuters Digital News Report for 2021 svarte 45 prosent av utvalget at de var bekymret for hva som var falskt og hva som var ekte når de leste nyheter på nettet.15 I en undersøkelse blant 700 norske kommunikasjonsrådgivere i 2021, svarte en av fem at de mente feil- og desinformasjon er et «betydelig problem».16

Disse undersøkelsene sier noe om folks oppfatningav omfanget. Det er gjort enkelte studier som har forsøkt å kartlegge det reelle omfanget av desinformasjon i forbindelse med valg (se neste avsnitt). Det er også gjort enkelte kartlegginger av den faktiske spredningen av propaganda, feilinformasjon og konspirasjonsteorier i Norge.

Et aktuelt eksempel våren 2022 var en analyse Faktisk.no gjorde av hvordan det som ble omtalt som russisk propaganda rundt krigen i Ukraina ble spredt via norske nettsteder. Her skilte nettsiden Steigan.no seg klart ut ved hyppigere enn andre nettsteder å spre russisk propaganda. Dette førte til en større offentlig debatt om nettsiden.17

En analyse fra Faktisk.no av drøyt 10 000 facebookinnlegg om vaksiner i perioden 2019–2020, viste at konspirasjonsteoretisk motiverte innlegg skapte klart mer engasjement (kommentarer, delinger osv.) enn saklig informasjon.18 Faktisk.no har også kartlagt aktiviteten i ulike facebookgrupper som domineres av konspirasjonsteorier. Disse gruppene har til sammen flere tusen medlemmer.19 I en analyse ble det fastslått at det i midten av 2020 eksisterte åtte større norske facebookgrupper som primært var viet motstand mot koronavaksiner. Disse hadde til sammen 39 000 følgere.20

Medlemstall i facebookgrupper gir ikke et presist mål på hvor utbredt troen på ulike konspirasjonsteorier faktisk er og hvorvidt fenomenet er blitt mer utbredt enn før. Dette er krevende å måle presist, og det finnes få kvantitative norske studier av dette.21

Boks 9.2 NRKs eksperiment om desinformasjon

Det vakte sterke reaksjoner da NRK-programmet Folkeopplysningen høsten 2019 gjennomførte et felteksperiment for å påvirke skolevalget ved Lillestrøm videregående skole. Formålet var å undersøke hvor sårbare folk var for påvirkning gjennom desinformasjon. Gjennom falske nyheter, falske brukerprofiler på sosiale medier og en valgomat, skulle elevene påvirkes til å stemme Senterpartiet. De falske artiklene satte de øvrige partiene i et dårlig lys og framhevet Senterpartiet som det beste alternativet. Statsminister Erna Solberg var blant kritikerne. Hun mente eksperimentet var «uakseptabelt» og at det utfordret NRKs troverdighet.

Eksperimentet hadde ingen signifikant effekt: Kun 24 av nærmere 400 stemmeberettigede elever stemte på Senterpartiet ved skolevalget, en framgang på 1,1 prosentpoeng fra forrige valg. To masterstudenter som studerte eksperimentet i etterkant, mente det blant annet illustrerte at flerpartisystemer er vanskelige å manipulere gjennom desinformasjon. NRK-programmet ble i etterkant felt i Pressens faglige utvalg (PFU).

Kilde: Carlsen, H. (2019, 4. september). Folkeopplysningen forsøkte å manipulere skolevalg. NRK. https://www.nrk.no/norge/folkeopplysningen-forsokte-a-manipulere-skolevalg-1.14686244; Aagre, A. og Dizdareviz, N. (2020, 16. november). Vi har forsket på Folkeopplysningens forsøk på å manipulere skolevalget. Resultatet overrasket oss. Aftenposten. https://www.aftenposten.no/meninger/kronikk/i/Alllk3/vi-har-forsket-paa-folkeopplysningens-forsoek-paa-aa-manipulere-skolevalge og Kalajdzic, P. (2019, 4. september). Solberg om NRK-eksperiment: – Hensikten helliger ikke middelet. NRK. https://www.nrk.no/norge/solberg-om-nrk-eksperiment_-_-hensikten-helliger-ikke-middelet-1.14688514

9.3.3 Demokratisk skade

9.3.3.1 Valgpåvirkning, tillitstap og polarisering

Desinformasjon kan brukes strategisk som et våpen i informasjonskrigføring. Målrettede påvirkningskampanjer i sosiale medier kan få folk til å handle annerledes enn de ellers ville ha gjort, for eksempel ved å stemme annerledes ved valg, eller la være å stemme. Slike kampanjer kan være del av det som kalles hybrid krigføring, der ulike konvensjonelle og ikke-konvensjonelle virkemidler kombineres.

Denne typen skadevirkning har vært mye debattert de siste årene. Valgkamper og politisk agitasjon handler i seg selv om å påvirke meningsdannelsen og endre atferd. Ideelt sett skal dette skje gjennom åpen debatt, der avsenderen er kjent og faktapåstander kan etterprøves. Desinformasjon forurenser debattmiljøet, og er en trussel mot demokratiet og den frie meningsdannelsen.

Målet med påvirkningskampanjer, enten de er organisert av fremmede stater eller av enkeltindivider i landet der de pågår, trenger ikke å være så eksplisitt som å få folk til å stemme annerledes. Ofte kan målet rett og slett være å spre mistro, forvirring og kaos.22

Hvis vi ikke lenger tror på det vi leser, ser eller hører, kan det føre til et generelt tillitstap. Dette kan gå utover konkrete institusjoner, som valgsystemet og politikken og slik utgjøre en form for indirekte demokratisk ødeleggelse, eller økonomiske institusjoner, som i tilfellene der desinformasjon brukes til økonomisk svindel. Mediene kan også rammes dersom folk mister tilliten til informasjon generelt.23 Et samfunn der tilliten til sentrale institusjoner er lav fra før, vil være særlig utsatt.

Et mer polarisert ordskifte med økt radikalisering er ytterligere skader som kan kobles til spredning av feilinformasjon og konspirasjonsteorier. Dette kan forsterkes som følge av sosiale mediers logikk: Algoritmene programmeres gjerne for at brukerne skal tilbringe mest mulig tid der. Flere studier har vist at falsk informasjon spres raskere enn sann via sosiale medier.24 Hvis mange eksponeres for stadig flere, og mer radikale, varianter av egne synspunkt (den såkalte ekkokammereffekten), kan de bli radikalisert og befolkningen polarisert. Desinformasjon kan forsterke denne tendensen.25

Boks 9.3 Også norske journalister blir lurt

Mikrobloggtjenesten Twitter har gitt journalister lett tilgang til kilder, uten at journalistene trenger å snakke med kildene. Meldinger fra brukere på Twitter kan enkelt vises fram i nyhetsartikler på nettet, og dette gjøres daglig av norske medier. NRK Beta påviste i 2020 at minst åtte norske medier i løpet av 2016 og –17 videreformidlet twittermeldinger produsert av den russiske desinformasjonssentralen IRA (Internet Research Agency). Dette gjaldt blant annet VG, Dagbladet, NRK, TV2 og NTB. Presseforbundet oppfordret i etterkant til skjerpet kildekritikk. Pressens kildeutvalg anbefalte å utvide Vær Varsom-plakaten med en egen bestemmelse som pålegger mediene ekstra årvåkenhet ved bruk av sosiale medier som kilde, men det ble ikke fulgt opp.

Kilde: Grut, S. (2020, 3. mars). NRKbeta avslører: Alle store norske medier har blitt lurt av russiske troll-kontoer. NRK Beta. https://nrkbeta.no/2020/03/03/nrkbeta-avslorer-alle-store-norske-medier-har-blitt-lurt-av-russiske-troll-kontoer/

9.3.3.2 Omfang av demokratisk skade i Norge

Studier som er gjort i Norge, viser ingen klare indikasjoner på at organisert desinformasjon så langt har påvirket valg i stor skala (demokratisk ødeleggelse):

Både under lokalvalget i 2019 og stortingsvalget i 2021 ble det undersøkt hvorvidt det fantes spor etter utenlandsk valgpåvirkning. Man fant ingen tegn på dette. Begge studier undersøkte aktivitet på Facebook og Twitter, samt redaksjonelle medier.

I 2021-studien fant forskerne ingen tegn til at utenlandske aktører hadde forsøkt å påvirke valgresultatet, valgdeltakelsen eller tilliten til valget. De fant derimot eksempler på at utenlandske, ikke-statlige aktører forsøkte å spre desinformasjon til et norsk publikum. Forsøkene fikk bare begrenset spredning og få interaksjoner på sosiale medier.26

Heller ikke i 2019 fant forskerne klare tegn på utenlandsk påvirkning. Det ble imidlertid påvist at aktører som tilsynelatende var norske brukere, deltok i mer skjulte og ytterliggående fora på nettet, at noen av disse inngikk i nettverk som systematisk overførte innhold fra ytterliggående nettsteder til den bredere offentligheten og at de dempet retorikken sin når de kommuniserte i mer åpne fora. Forskerne kunne ikke påvise at dette var forsøk på bevisst spredning av desinformasjon.27

Sørlandsnyhetene er en norsk facebookside forskerne fanget opp i sin analyse av 2019-valget (se boks 9.4). Forskerne fant indikasjoner på organisert nettverksaktivitet for spredning og deling av innhold, hvor noen få superbrukere publiserte særdeles mange poster, blant annet via et nettverk med en stor mengde lukkede profiler. Forskerne fant forskjell i nettverksaktivitet før og etter valget, og de fant ingen ytterligere koblinger mellom superbrukerne og Sørlandsnyhetene da valget var over.28

Boks 9.4 Facebookside påvirket valg i Norge

Facebooksiden Sørlandsnyhetene fikk stor oppmerksomhet i etterkant av lokalvalget i 2019. Siden begynte som et alternativt nyhetsmedium om lokalpolitikken i Kristiansand, men ble etter hvert kjent for å spre feilinformasjon, grove beskyldninger og sjikanerende påstander særlig om lokalpolitikere i byen.

Fordi administratorene var anonyme og innholdsprodusentene sjelden fremsto med navn, var det vanskelig å nå fram med ønsker om rettelser og andre synspunkter. Kritikere ble gjerne kastet ut av gruppen. Siden hadde på det meste over 20 000 følgere og publiserte flere tusen innlegg før 2019-valget.

I valget fikk partiet Demokratene 13,4 prosent av stemmene, en framgang på 9,6 prosentpoeng og den nystartede Tverrpolitisk folkeliste fikk 5,5 fikk prosent oppslutning. Framgangen ble i stor grad koblet til engasjementet i facebookgruppen. Blant dem som ble valgt inn for Demokratene var Nils Nilsen, som etter valget sto fram som en av hovedskribentene i facebookgruppen. «Det har vel så vidt meg bekjent i alle fall, ikke vært sånn at ei facebookside har klart å snu 20 prosent av byens innbyggere i valgsammenheng. (…) Så vi har oppnådd det vi ville», uttalte han til NRK i ettertid. Siden ble lagt ned i 2021.

Kilde: Røsvik, E. (2020, 16. juli). Vil fjerne kontroversiell Facebook-side: − En kreftbyll. VG. https://www.vg.no/nyheter/innenriks/i/jdoWlz/vil-fjerne-kontroversiell-facebook-side-en-kreftbyll og Sællman, S.K. (2019, 2. oktober). Trump-metoder snudde Kristiansand på hodet – hva skjedde? [Podkast] Forstå Norge, NRK. https://radio.nrk.no/podkast/forstaa_norge/l_ef15d556-9d99-4b38-95d5-569d996b3800

Selv om det ikke er påvist utenlandske forsøk på å påvirke valg gjennom desinformasjonskampanjer i Norge, kan omfanget av feilinformasjon og konspirasjonsteorier like fullt påvirke demokratiet negativt gjennom tillitstap og polarisering.

Lite tyder imidlertid på at tillitstap er et akutt problem i Norge. Flere studier viser at det relativt sett er høy og ganske stabil tillit til politikere og det politiske systemet.29 Det samme gjelder for rettsvesenet.30

Tilliten er lavere til mediene enn til storting, domstoler og politi, men har økt markant de siste årene, ifølge én undersøkelse gjort over tid.31 Ulike undersøkelser viser at tilliten varierer kraftig mellom ulike medier og at folk er jevnt over langt mer kritiske til innholdet på sosiale medier.32

Den politiske polariseringen kan sies å ha økt noe de siste årene, men det er ikke åpenbart at den er urovekkende høy. Kommisjonen drøfter polarisering i Norge mer inngående i kapittel 5.5.5.

PST gjorde følgende vurdering av påvirkningsforsøk i sin åpne trusselvurdering for 2021:

De siste årene har vi sett eksempler på påvirkning og påvirkningsforsøk i enkeltsaker i Norge. PST har så langt ikke sett omfattende påvirknings- eller desinformasjonskampanjer mot politiske prosesser her i landet. Vi bør likevel være forberedt på at utenlandske etterretningstjenester vil kunne forsøke å påvirke opinionen og det politiske ordskiftet i Norge det kommende året.33

Kjente påvirkningsoperasjoner i andre land har vært foranlediget av datainnbrudd og lekkasjer av stjålet informasjon, såkalt «hack & release».34 Slike datainnbrudd har skjedd også i Norge. Det mest kjente eksempelet er datainnbruddet hos Stortinget og andre offentlige institusjoner høsten 2020, som PST har attribuert til russisk etterretning. Det var frykt for at dette innbruddet hadde som mål å hente ut informasjon eller kompromitterende opplysninger som skulle brukes til å påvirke den offentlige debatten i forkant av stortingsvalget i 2021. Da arbeidet med denne utredningen ble sluttført, var det ikke kjent hvorvidt dette hadde blitt forsøkt. Studien som ble gjort av valgkampen fant ikke tegn til organiserte påvirkningsoperasjoner.35 Våren 2021 ble Stortinget utsatt for et nytt datainnbrudd. Denne gang var regjeringens vurdering at innbruddet ble gjennomført fra Kina.36

I trusselvurderingen for 2022 trakk PST også fram konspirasjonsteorier knyttet til covid-19-pandemien som en mulig trussel, men understreket at det var lite sannsynlig at personer knyttet til miljøer som tror på slike konspirasjoner vil forsøke å gjennomføre terroraksjoner.37

9.3.4 Fysisk skade

Både terrorangrep og radikalisering kan kobles til feilinformasjon og konspirasjonsteorier. Det kan trekkes en klar kobling mellom usannheter og konspirasjoner på nettet og de to høyreekstreme terrorangrepene i Norge i 2011 og 2019. Begge gjerningspersoner hadde tilbrakt mye tid på å konsumere og dele slikt innhold.38

Terroristene hadde til felles at de identifiserte seg med en voldelig høyreekstremistisk overbevisning. I likhet med en rekke andre terrorister, brukte de sosiale medier til å promotere angrepene sine, samtidig som de flagget en symbolsk tilhørighet med tidligere terrorister. Nettsider med lite moderering og stor grad av anonymitet har tiltrukket seg likesinnede som deler, sprer og skaper en ny type kollektiv ytre-høyre ideologi som kan defineres som cyberfascistisk og ekstremistisk.39

Ved nettsider og i sosiale medier som har nærmest null regulering eller tilsyn, slik som Telegram, Gab og Parler, kan ekstremister skape «trygge» rom for å dele dokumenter, voldelige filmer og bilder, konspirasjonsteorier og organisere og planlegge angrep.40

Samtidig er det krevende å skille årsakene til radikalisering fra hverandre. 22. juli-terroren er en illustrasjon. Anders Behring Breiviks ideologiske radikalisering foregikk i stor grad i en alternativ offentlighet på nettet.41 Samtidig har flere forklart radikaliseringen hans med forhold i barndom, oppvekst og psykiatri.42

Også vaksinemotstand kan utvikles via feilinformasjon og konspirasjonsteorier og føre til fysisk skade dersom lav vaksinegrad gjør at sykdommer får spre seg.Dette ble ikke minst demonstrert under covid 19-pandemien. Det mest kjente eksempelet i Norge er to dødsfall etter at covid-smitte ble spredt under en samling for vaksineskeptikere.43

Sammenhengene mellom spredning av feilinformasjon, konspirasjonsteorier og radikalisering er komplekse og samvirker med en rekke andre årsaksforklaringer. Det ligger utenfor kommisjonens mandat å utrede dette. I juni 2022 nedsatte regjeringen en egen ekstremismekommisjon som skal fremme anbefalinger for å forbedre landets evne til å forebygge radikalisering og framvekst av ekstremisme. Kommisjonen skal levere sin utredning innen utgangen av 2023.

9.3.5 Økonomisk skade

Å tjene penger er et utbredt motiv for å spre desinformasjon. Overskrifter basert på falske påstander, gir klikk på nettsider, og klikk gir annonseinntekter. En sentral årsak til at mange klikker på disse sakene, er rett og slett at de oppleves som nye, overraskende og spennende. Falske nyhetssaker kan også brukes for å drive aksjekurser opp og ned.44 Blant de såkalte løgnfabrikkene som ble avdekket rundt presidentvalget i USA i 2016 var det flere nettsider som laget falske nyhetssaker for å tjene penger på annonsesalg gjennom klikk. Også i Norge lå flere nettsteder som Faktisk.no kalte løgnfabrikker på delingstoppen i sosiale medier i 2018. Dette var nettsider som produserer oppdiktede, spektakulære historier for å tjene penger på annonseinntekter.45

Desinformasjon brukes også i ren svindel. Et kjent fenomen i Norge de siste årene er såkalt bitcoinsvindel, der falske nyhetsartikler med kjente personer lokker folk til det som presenteres som investeringer i kryptovalutaen bitcoin. I virkeligheten lures folk til å gi fra seg kontoinformasjon slik at svindlerne kan tømme bankkontoen.46 Det ble i 2019 forsøkt svindlet 200 millioner kroner hos DNB gjennom slike annonser.47

9.4 Hva påvirker skadepotensialet

9.4.1 Risikofaktorer

Selv om desinformasjon, konspirasjonsteorier og løgner har eksistert til alle tider, er det særlig muligheten til å spre disse i raskt tempo som har økt dramatisk med framveksten av internett og sosiale medier. Overveldende mengder informasjon er blitt tilgjengelig for de aller fleste. Dessuten er folks daglige tilgang til informasjon i stor grad styrt av algoritmer utviklet av selskap som tjener penger på markedsføring og derfor vil maksimere engasjement og spredning. Dette øker risikoen for skade.

Ikke alle samfunn er like sårbare. Den danske ytringsfrihetskommisjonen trakk fram fem kriterier for å vurdere et samfunns motstandskraft mot desinformasjon: Språkområdets størrelse, medborgernes kritiske sans og deres medieforbruk, utdanningsnivå og den politiske kulturen.48 I en studie basert på en omfattende litteraturgjennomgang, identifiseres sju faktorer som delvis overlapper med kriteriene den danske kommisjonen trekker fram.49 De sju faktorene er så blitt testet på datamateriale fra USA og 17 europeiske land inkludert Norge (se punkt 9.4.2). Denne studien tar særlig for seg desinformasjon, men er relevant også for å vurdere spredningspotensialet for feilinformasjon og konspirasjonsteorier. De sju faktorene er følgende:

Polarisering i samfunnet

Et polarisert og konfliktfylt samfunn er mer sårbart enn et samfunn der den politiske kulturen er mer konsensusorientert. Polarisering er et mangetydig begrep. En klassisk forståelse er at samfunnet er dypt splittet langs politiske skillelinjer (politisk polarisering). Valgsystemet er en viktig faktor her: Systemer med to store partier der vinneren tar alt, fremmer politisk polarisering. Polariseringen kan også være emosjonell snarere enn politisk – at folk ser ned på «den andre siden» og ikke tror på nyheter som ikke reflekterer eget ståsted (affektiv polarisering). Den klassiske oppskriften for en påvirkningsoperasjon er å utnytte eksisterende skillelinjer i samfunnet. Jo dypere polarisering, desto større potensial for å så mer splid.50

Populistisk kommunikasjon

Populisme og desinformasjon er begge fenomener som utnytter et verdensbilde der ondt står mot godt og hvor man forfekter anti-elitisme, mistro mot eksperter og støtte til konspirasjonsteorier. I omgivelser der populistisk kommunikasjon er utbredt, er folk mer sårbare for desinformasjon.

Tillit til mediene

Hvilken tillit folk har til de etablerte, redaktørstyrte mediene er avgjørende for hvordan de vurderer informasjonen de mottar. Er tilliten lav, søker folk heller til alternative, mindre troverdige informasjonskilder og de vil være mer utsatt for desinformasjon.

Mediesystemets styrke

Selv om redaktørstyrte medier ikke er fri for usannheter og overdrivelser, sikrer journalistikkens arbeidsform og etikk at informasjonen er kvalitetssikret. Jo flere som forholder seg til redaksjonelle, kvalitetssikrede medier, desto mindre blir gjennomslagskraften for desinformasjon. Dette fordrer et velfungerende mediesystem med en sterk allmennkringkaster, mediemangfold og en solid medieøkonomi. Særlig er en sterk allmennkringkaster viktig for å skape robusthet mot desinformasjon.

Fragmentering av publikum

Digitaliseringen har økt tilbudet av ulike medier. Flere studier har funnet en sammenheng mellom antall alternative og nisjeorienterte medier, og hvor utsatt man er for desinformasjon. Samfunn hvor flere forholder seg til et begrenset antall samlende og allment respekterte medier, er mer robuste.

Annonsemarkedets størrelse

Ren desinformasjon er ofte økonomisk motivert. Da er annonsemarkedets størrelse avgjørende: Et samfunn med mange mulige annonsemottakere vil være mer attraktivt enn et lite. Dette henger også sammen med språk: Færre personer kan produsere og lese desinformasjon på et lite utbredt språk. Det kommersielle potensialet i form av annonseinntekter er også langt mindre. Det vil dessuten være lettere å nå fram med rettelser av villedende informasjon. Språkområdets størrelse kan derfor påvirke både tilbuds- og etterspørselssiden.

Bruken av sosiale medier

Sosiale medier er den viktigste forsterkningskanalen for desinformasjon. Jo mer utbredt bruken av sosiale medier er, desto lettere er det for rykter og usannheter å bli spredt. Sosiale medier brukes ofte til underholdning snarere enn å oppsøke nyheter. Dermed deler folk lett informasjon uten å sjekke sannhetsgehalten. Samfunn som har en høy andel brukere av sosiale medier, vil være mer utsatt for desinformasjon.

Andre faktorer

Flere faktorer kan tenkes å spille inn. Helt sentralt for motstandsdyktighet er folks kritiske medieforståelse («media literacy»). Begrepet handler om hvor godt rustet folk er til å tolke det de leser, ser og hører: Hvis mediebrukerne er i stand til å forholde seg kildekritisk, er de bedre i stand til å skille fakta fra fiksjon og sannhet fra løgn.

Den kritiske medieforståelsen henger tett sammen med utdanningsnivået i befolkningen, og innholdet i utdannelsen: En god allmennutdannelse som legger vekt på kritisk tenking, gjør folk mindre mottakelige for manipulasjon. Teknologisk kyndighet hos befolkningen vil være en annen beslektet faktor.

Et lands reelle og antatte geopolitiske betydning kan også spille inn: Hvor interessant er det for utenlandske aktører å påvirke offentligheten, debatten og valg i et gitt land – er det verdt innsatsen?51

En solid demokratisk infrastruktur er avgjørende. Jo bedre offentlighetens institusjoner fungerer, som medier, utdanning, kulturliv, sivilsamfunn osv, desto sterkere vil samfunnet være rustet mot des- og feilinformasjon.

Den demokratiske infrastrukturen består dessuten av flere enn disse institusjonene. En noenlunde velfungerende velferdsstat er av stor betydning. Framvekst av mistillit og konspirasjonsteorier skjer ikke løsrevet fra helt reelle politiske problemer i samfunnet. Hvis folk har et relativt godt liv, er det mindre sjanse for at mange kjøper et budskap om at noe er alvorlig galt fatt.

9.4.2 Norges motstandsdyktighet

Sett opp mot de ulike faktorene som påvirker motstandsdyktighet, er Norge godt rustet for å håndtere desinformasjon, konspirasjonsteorier og lignende.

Studien som identifiserte sju sentrale faktorer for å vurdere motstandsdyktighet, testet disse faktorene mot data fra 18 vestlige demokratier. Norge havnet her i en gruppe med land i Nordvest-Europa som anses å ha høy motstandskraft og som foreløpig i liten grad er påvirket av problemene med desinformasjon. En gruppe med polariserte søreuropeiske land vurderes å ha langt større problemer (Hellas, Italia, Portugal og Spania). Aller verst stilt er USA, som regnes som det klart mest utsatte landet.52

Både samfunnsdebatt rundt og forskning på desinformasjon har vært sterkt påvirket av hendelsene i USA de siste årene. USA er foreløpig mer et unntak enn regelen blant vestlige demokratier.

Også når det gjelder faktorene som den danske ytringsfrihetskommisjonen trakk fram, skårer Norge godt. Norge er et lite språkområde, og det finnes få utenlandske aktører som behersker norsk.53 Norge skårer jevnt over høyt i andelen av befolkningen som leser redaksjonelle medier jevnlig.54 Den kritiske medieforståelsen later til å være på et høyt nivå, komparativt sett.55 Allmennutdannelsen er god, og læreplanene legger stor vekt på å utvikle selvstendig og kritisk tenkning. Den politiske kulturen er lite polarisert og konfliktfylt: Selv om folk gjerne svarer at de mener Norge er blitt mer polarisert de siste årene, er det ikke åpenbart at dette er tilfelle.56

9.5 Desinformasjon i andre land

9.5.1 Desinformasjon i Danmark

Omfanget av desinformasjon og falske nyheter er forholdsvis lite, men det er en utbredt tendens til å overvurdere omfanget. Det var hovedkonklusjonen til den danske ytringsfrihetskommisjonen da den kartla omfanget av fenomenet våren 2020.57

Kommisjonen gjengir i sin rapport noen enkelteksempler på bruk av automatiserte profiler (bots) og spredning av oppdiktede historier på sosiale medier, samt falske politiske annonser. Det ble ikke funnet bevis på påvirkningsforsøk utenfra rundt folketingsvalget i 2019. «Det er usannsynlig at Russland gjennomførte en omfattende påvirkningskampanje rettet mot det danske folketingsvalget i juni 2019», var vurderingen til Forsvarets etterretningstjeneste.58

Spørreundersøkelser indikerer at befolkningens oppfatning av omfanget ligger på omtrent samme nivå som i Norge. 53 prosent av befolkningen svarer at de støter på falske nyheter på sosiale medier daglig eller ukentlig.

9.5.2 Desinformasjon i Sverige

Det later til å være større bekymring for omfanget av desinformasjon i Sverige enn i Danmark og Norge: Den svenske sikkerhetstjenesten (Säpo) fastslo i sin årsberetning for 2019 at fremmede makter bedriver både åpen og skjult påvirkning mot Sverige. Dette skjer både nasjonalt, regionalt og lokalt, og Säpo trakk særlig fram trusler fra Russland og Kina.59

I en offentlig utredning om motstandskraft mot desinformasjon som ble publisert i september 2020, bemerker forfatterne at Sverige kan se ut til å være særskilt utsatt sammenliknet med andre europeiske land. De foreslår at dette kan forklares med Sveriges rykte som et land med «ekstremt progressive verdier».60 Det er særlig den svenske innvandringsdebatten som får oppmerksomhet.

Det ble ikke funnet tegn til organiserte påvirkningsoperasjoner fra fremmede stater rundt det svenske riksdagsvalget i 2018. Men ifølge svenske valgmyndigheter forekom forsøk på å undergrave tilliten til valgsystemet. Eksemplene som nevnes er diskusjoner i sosiale medier og underskriftsaksjoner på nettet med påstander om valgfusk.61

I rapporten «Smearing Sweden», skrevet på oppdrag fra svenske myndigheter, identifiserer forskerne flere forsøk fra ikke-statlige aktører på å påvirke valgresultatet i 2018: Påvirkningskampanjer ble diskutert i ulike nettfora, automatiserte kontoer ble brukt og påstander om valgfusk ble postet fra både svenske og utenlandske høyreradikale miljøer. Men diskusjonene ble i liten grad fulgt opp og det ble ikke påvist utstrakt koordinering. Forskerne påviste også at en islamistgruppe postet oppfordringer om å la være å stemme.62

En analyse av twittertrafikken de to siste ukene før det svenske valget i 2018 viste at 22 prosent av artiklene som ble delt, var det forskerne kalte «junk news». Dette var en høyere andel enn de har funnet ved andre europeiske valg. De fleste av disse kom fra såkalte alternative medier som Samhällsnytt, Nyheter i dag og Fria Tidar.63 En annen studie konkluderte med at mellom 6 og 12 prosent av twitterkontoene som diskuterte det svenske valget var boter.64

For Sveriges del er det altså i liten grad påvist forsøk på organiserte desinformasjonkampanjer fra fremmede stater, men derimot betydelige forsøk på desinformasjon og propaganda fra svenske aktører, i første rekke høyreradikale miljøer.

Den offentlige utredningen fra september 2020 konkluderte med at omfanget av desinformasjon og propaganda er «betydelig» i Sverige i dag og at dette utgjør «en alvorlig demokratiutfordring».65

I 2020 avdekket analysebyrået Graphika at Sverige var et av målene for det som trolig er en statlig, russisk desinformasjonskampanje som strekker seg over flere år. Falske artikler med påstander som at svenske myndigheter støttet terrorgruppen IS, ble publisert på ulike bloggplattformer, noen av dem også på svensk. Artiklene fikk liten spredning og påvirkningsoperasjonen ble vurdert å være lite effektiv.66

9.5.3 Kort om det internasjonale bildet

Det finnes etter hvert en omfattende forskningslitteratur og en lang rekke journalistiske undersøkelser av omfanget av problemet med desinformasjon internasjonalt. Kommisjonen har konsentrert seg om å kartlegge og vurdere omfanget i Norge. I tillegg har det vært særlig relevant å vurdere situasjonen i Danmark og Sverige, som er sammenliknbare land, men med til dels ulike erfaringer enn Norge.

Det mest kjente og best kartlagte eksempelet på valgpåvirkning fra en fremmed stat, er Russlands forsøk på å påvirke det amerikanske presidentvalget i 2016, som ble grundig dokumenter i Mueller-rapporten.67 USA er langt ifra det eneste landet som er utsatt for slike påvirkningskampanjer. Det er også påvist forsøk på å påvirke valgene i flere europeiske land, blant dem Frankrike og Tyskland.68

I minst 81 land ble desinformasjon brukt som del av strategisk informasjonskrigføring i 2020, i 60 av dem fra landets egne myndigheter, er konklusjonen i en studie fra Oxford Internet Institute.69 Det er særlig Russland og Kina som trekkes fram som aktive statlige aktører. Operasjonene kan gå over lang tid. For eksempel er det kartlagt at russiske myndigheter siden 2014 har drevet en pågående kampanje for å splitte og distrahere opinionen i vestlige land.70

9.6 Trender og framtidsutsikter

Å kartlegge omfanget av og karaktertrekkene ved desinformasjon vil nødvendigvis gi et begrenset tidsbilde. Den teknologiske og taktiske utviklingen går raskt. Det er all grunn til å tro at framtidige forsøk på desinformasjon vil være mer avanserte og subtile og derfor stadig vanskeligere å avdekke.

Tilfellet USA er en god illustrasjon: I etterkant av presidentvalget i 2016 dominerte historier om russiske trollfabrikker, falske kontoer og bots (automatiserte kontoer der maskiner produserer tekst) debattene og tiltaksdiskusjonene, langt utenfor USAs grenser. Rundt valget i 2020 fantes knapt rapporter om slike fabrikker, falske kontoer eller bots. Utviklingen hadde gått i retning av mer organisk feilinformasjon, utført av hjemlige, enslige nettbrukere, organiserte nettverk og fremmede agenter om hverandre, og ikke minst av USAs egen president. Slik organisk feilinformasjon er vanskelig å avdekke, kartlegge og kvantifisere.

En annen hovedbekymring er framveksten av såkalte «deep fakes», som på norsk kan oversettes til dypjuks. Dette er retusjering/manipulering av levende bilder og lyd. Ved hjelp av avansert maskinlæring er det blitt enklere å manipulere både lyd og levende bilder slik at framstillingen av menneskers uttalelser og videoer av faktiske hendelser kan fordreies og forfalskes.

Denne teknologien har eksistert i flere år og utvikles raskt. Blir den utbredt, kan det lett spre seg en oppfatning om det er umulig for en vanlig å bruker å vite om man kan stole på det man ser og hører. Dette kan føre til at folk lettere blir lurt, men også til at usikkerheten øker og tilliten til informasjon synker.

Det finnes studier som dokumenterer en slik effekt. Britiske forskere gjennomførte i 2020 et eksperiment der de utsatte folk for en dypmanipulert video av tidligere amerikansk president Barack Obama, med og uten forklaring. Forsøket viste at folk i liten grad ble lurt av videoen, men mange ble usikre på det de så. Dette kan igjen føre til at tilliten til nyheter på sosiale medier synker.71

Kunstig intelligens brukes ikke bare til å forfalske lyd og bilde. Det finnes allerede eksempler på at interaktive bots utviklet gjennom maskinlæring brukes i politiske debatter i kommentarfelt og forum på nett, der de framstår som diskuterende personer.72

Et eksempel er tester gjort ved bruk av språkmodellen GPT-3. Dette er en form for dataprogram utviklet av selskapet OpenAI i USA som kan skape tekster gjennom avansert maskinlæring.73 Amerikanske forskere demonstrerte i 2021 hvordan modellen kan brukes til å generere desinformasjon i stor skala i form av alt fra twittermeldinger til nyhetsartikler og kronikker. Resultatet ble enda mer overbevisende da mennesker gjorde enkle bearbeidinger av tekstene modellen produserte.74 En ny versjon av modellen er under utvikling (GPT-4), som trolig vil bli enda mer avansert.75

Språkmodeller brukes i en rekke ulike tjenester i dag, for eksempel taleassistenter, automatiserte kundedialoger eller tastaturer som foreslår ordvalg på telefoner. En språkmodell for norsk språk basert på GPT-2 er under utvikling i regi av forskningsmiljøet NorwAI og NTNU.76

Utviklingen av bildemanipulasjon, språkmodeller eller andre former for bruk av kunstig intelligens og maskinlæring, reiser etiske og regulatoriske problemstillinger som går utover spørsmålet om desinformasjon og Ytringsfrihetskommisjonens mandat.

Det viktigste pågående regulatoriske sporet for disse teknologiene, er EUs forordning om kunstig intelligens (AI Act). I denne er det blant annet foreslått egne transparensregler ved bruk av deep fakes. En rekke private aktører arbeider også med å utvikle verktøy som skal gjøre det lettere å identifisere manipulerte filmer eller tekster.77

Boks 9.5 Framtidsutsikter for ytringsfriheten

En del av kommisjonens mandat var å skissere sannsynlige trender og kommende utvikling for ytringsfrihetens status, i den grad det er mulig. Hvordan den raske teknologiske utviklingen endrer ytringsfrihetens rammevilkår, blir diskutert i flere kapitler i utredningen.

Blant de mest framtredende nyvinningene er utviklingen av kunstig intelligens og maskinlæring. Språkmodellen GPT-3 er en form for dataprogram utviklet av selskapet OpenAI i USA som kan skape tekster gjennom avansert maskinlæring.

Hvem er bedre egnet til å besvare spørsmål om kommende utvikling enn en kunstig intelligens? Kommisjonen matet GPT-3 med formuleringen i mandatet – «kan du beskrive og vurdere status for ytringsfriheten, inkludert utviklingen over tid og – i den grad det er mulig – skissere sannsynlige trender og kommende utvikling?» – og stilte graden av fantasifullhet inn på 0,7. Dette var svaret språkmodellen ga:

«Ytringsfriheten i Norge har tradisjonelt vært sterk, og den norske Grunnloven av 1814 sikret ytringsfrihet for alle. I dag er det fortsatt en relativt høy grad av ytringsfrihet i Norge, men det har vært en nedadgående trend de siste årene. ifølge Freedom House sin «Freedom in the World 2018» rapport, Norge har en score på 89 av 100 for ytringsfrihet (der 100 er høyest), og er rangert som det 13. frieste landet i verden.

Den nedadgående trenden i ytringsfrihet har blitt forsterket av en rekke lovendringer og rettsavgjørelser de siste årene. For eksempel har det vært en økning i bruken av straffelovens paragraf 140, som forbyr å ‘krænke andres fred’, for å forfølge kritikere av regjeringen. I tillegg har det vært en økning i bruken av åpne data-loven for å begrense offentlig tilgang til informasjon. Det er forventet at ytringsfriheten vil fortsette å bli begrenset av slike lovendringer og rettsavgjørelser i årene som kommer.»

Spådommene kan diskuteres. Faktagjengivelsen i modellen er heller ikke særlig presis på norsk. For eksempel handler straffeloven § 140 om «forstyrrelse av den sikre drift av luftfartøy og skip mv.». Språkmodellen baserer seg på analyse av enorme mengder tekst og det finnes langt større tilfang av engelskspråklig tekst enn norsk. En modell med en større norsk språkbase vil trolig gi langt mer troverdige tekster (jf. punkt 9.6).

Kilde: https://beta.openai.com/playground

9.7 Usikkerheter om årsak og virkning

Det er krevende å vurdere effekten av desinformasjon og påvirkningskampanjer gjennom forskning i etterkant. Feilkildene er mange. Dette skyldes ikke minst at det generelt er vanskelig å påvise årsakssammenhenger bak menneskelig atferd og holdningsskaping og å skille samvirkende årsaker fra hverandre. Derfor er den empiriske forskningen på desinformasjon også usikker og sprikende.

Forenklet kan det sies at konklusjonene som trekkes ut av forskningen vil variere i tråd med hvilket vitenskapssyn en legger til grunn: Hvor sikkert må en årsakssammenheng kunne påvises for å fastslå at det finnes en sammenheng mellom et fenomen og menneskelige holdninger og handlinger? Dette vil igjen avhenge av hvilket menneskesyn man legger til grunn: Hvor lettpåvirkelig er egentlig menneskesinnet?

Man bør være forsiktig med å påstå effekter av feil- og desinformasjon, særlig når det gjelder stemmegivning, konkluderte en global kunnskapsoppsummering våren 2020. Hovedinntrykket fra forskningen var at omfanget av feilinformasjon er begrenset sammenliknet med annen type informasjon på nettet, og at den er svært konsentrert – den kommer fra noen få nettverk og deles og leses av et begrenset antall dedikerte personer.78

Det kan også argumenteres at årsakssammenhengen går motsatt vei av det som gjerne antas: Folk agerer ikke nødvendigvis fordi de tror på usanne opplysninger. De tror på (eller deler) usanne opplysninger fordi de vil rettferdiggjøre eller bekrefte holdninger eller handlinger de allerede har bestemt seg for. Rykter, usannheter og ren desinformasjon kan være nyttige verktøy for å mobilisere for en allerede planlagt agenda.79

Flere studier tilsier at en sentral motivasjon for å dele og lese usanne artikler, er at de enten oppleves som underholdende, at de er nyttige for å mobilisere andre rundt en sak, eller at mottakeren rett og slett ønsker at det de leser skal være sant. Folk trenger altså ikke å tro på feilinformasjonen de deler. «Ønske om kaos» er et begrep som er brukt av forskere om den underliggende motivasjonen de finner hos enkelte av dem som deler feilinformasjon. Noen ønsker rett å slett å lage kaos i det etablerte politiske systemet, gjerne fordi de føler seg marginalisert eller har sterke antipatier mot det de oppfatter som de politiske elitene.80

At det er vanskelig å påvise årsakssammenhenger, betyr ikke at sammenhengene ikke er der. Utdanning, valgkamp, reklame eller andre former for påvirkning har en effekt på folk. Da er det like naturlig å anta at des- og feilinformasjon også har det. Blir mengden, intensiteten og eksponeringen stor over tid, er det også mer sannsynlig at noen vil bli påvirket.

For eksempel ble over 140 millioner mennesker i USA eksponert for desinformasjon fra russiske trollfabrikker på Facebook alene i løpet av valgkampen i 2016. I flere avgjørende stater var volumet og intensiteten betydelig. Det kan ikke utelukkes at dette spilte en rolle for valgresultatet, selv om det ikke kan påvises en direkte årsakssammenheng.81

9.8 Tidligere og nåværende tiltak mot desinformasjon

Å bekjempe desinformasjon, feilinformasjon og påvirkningsoperasjoner har stått høyt på dagsordenen hos lovgivere over hele verden i flere år. Tiltakene som allerede er gjennomført, spenner fra lover som gir vid adgang til å fjerne digitalt innhold, til ulike initiativ for å styrke samfunnets motstandsevne.

Antall nye lover har økt betydelig de seneste årene. Fram til 2014 ble det i snitt foreslått eller vedtatt en til to nye lover årlig for å håndtere feilinformasjon globalt. I perioden 2015 til 2020 ble det foreslått eller vedtatt nærmere 120 nye lover eller lovendringer verden over, ifølge et kartleggingsprosjekt ved Princeton University.82

Mange av lovene er innført i autoritære regimer som bruker påstander om des- eller feilinformasjon som begrunnelse for å undertrykke opposisjon. Det er også innført lover med inngripende potensial i tradisjonelt liberale demokratier (se avsnitt om Frankrike og Italia under).

Kommisjonen har foruten å gå gjennom eksisterende tiltak i Norge, konsentrert seg om å vurdere konkrete tiltak som kan ha overføringsverdi til Norge. Kommisjonen har i første rekke lett etter disse i våre naboland Danmark, Sverige og Finland. Kommisjonen har også tatt med eksempler på mer inngripende lover som er innført i andre europeiske land, samt en oversikt over relevante prosesser i EU. Det arbeides også med desinformasjon i flere internasjonale organisasjoner. Blant annet publiserte Europarådet 2022 anbefalinger til medlemslandene om elektronisk kommunikasjon og mediedekning av valgkamper, som blant annet var ment å motvirke manipulering av velgerne.83

9.8.1 Statlige tiltak i ulike land

9.8.1.1 Norge

Samfunnssikkerhetsmeldingen gir en oversikt over regjeringens pågående tiltak mot desinformasjon per oktober 2020:84

For å hindre mulig valgpåvirkning, ble det for eksempel gjennom forskrift pålagt å gjennomføre den foreløpige tellingen av stemmer manuelt fra og med valget i 2017. Slik skal man motvirke mistanke om at tellemaskiner kan være manipulert. Regjeringen lanserte også en tiltaksplan med ti punkter for å styrke «motstandsdyktigheten mot påvirkning og hybride trusler» ved kommune- og fylkestingsvalget i 2019. Dette arbeidet ble videreført fram mot stortingsvalget i 2021.

De nye læreplanene som ble innført i grunnskolen høsten 2020, trekkes fram som et tiltak i meldingen. Der er demokrati og medborgerskap innført som ett av tre nye tverrfaglige tema. Læreplanene legger økt vekt på dybdelæring, digitale ferdigheter, kildebruk og kildekritikk. Videre framheves mediestøtteloven og medieansvarsloven som skal styrke medienes økonomiske uavhengighet og tydeliggjøre ansvar. Det vises også til ulike undervisningsopplegg rettet mot mediebrukere generelt og eldre spesielt.

Det finnes ingen lover direkte rettet mot spredning av desinformasjon i Norge.85 Straffeloven hadde inntil 2005 et slikt straffebud. Paragraf 97 a) gjorde det forbudt å ta imot økonomisk støtte fra fremmede makter «for å påvirke almenhetens mening». Paragraf 97 b) forbød å utbre offentlig «falske rykter eller uriktige opplysninger som om de vinner tiltro, er egnet til å sette rikets indre eller ytre sikkerhet eller forholdet til fremmede makter i fare».

Paragrafen ble tilføyd straffeloven på 1950-tallet, med den kalde krigen som politisk bakteppe. Ifølge den forrige ytringsfrihetskommisjonen hadde paragrafen aldri blitt brukt. Kommisjonen bemerket den gang at desinformasjon «er et problematisk begrep som åpner for mange definisjoner» og anbefalte at paragrafen ble fjernet.86 Den ble tatt ut da straffeloven ble revidert i 2005.

Våren 2021 presenterte den daværende regjeringen et forslag til en ny § 130 i straffeloven som gjør det straffbart å samarbeide med fremmed etterretningstjeneste for å utøve påvirkningsvirksomhet, og en ny § 130 a) som gjør det straffbart å bedrive «grov ulovlig påvirkningsvirksomhet».87 Høringsrunden ble avsluttet i august 2021. Forslaget møtte motbør fra flere høringsinstanser, blant annet med henvisning til ytringsfriheten.88 Det var våren 2022 ikke kjent hvorvidt lovforslaget ville bli presentert for Stortinget og i hvilken form.

Boks 9.6 Kampanjer mot desinformasjon

I tillegg til de generelle målene i læreplanene, finnes flere norske undervisningsopplegg og kampanjer som skal styrke folks motstandskraft og kritiske medieforståelse. Utdanningsdirektoratet har laget nettressursen Du bestemmer, rettet mot barn mellom 9 og 18 år. Den inneholder et eget undervisningsopplegg om falske nyheter og kritisk medieforståelse koblet til norskfaget og samfunnsfag.

Medietilsynet har sammen med Faktisk.no laget et undervisningsopplegg om bilde- og stemmemanipulering (deep fakes) og en guide tilpasset eldre for å håndtere falske nyheter. Faktisk.no har via Tenk også sitt eget undervisningsopplegg om kritisk mediebruk og kildebevissthet for grunnskole og videregående skole. Medietilsynet koordinerer et eget nettverk for kritisk medieforståelse, bestående av 25 organisasjoner og offentlige virksomheter. Nasjonal digital læringsarena (NDLA) har også egne undervisningsopplegg for videregående skole, om kritisk tenkning.

Før lokalvalget i 2019 gjennomførte Medietilsynet sammen med Faktisk.no og Landslaget for lokalaviser (LLA) en kampanje med filmer og annonser for å øke folks bevissthet rundt falske nyheter og desinformasjon. Kampanjen var en del av regjeringens tiltaksplan for valget.

9.8.1.2 Danmark

Den danske ytringsfrihetskommisjonen anbefalte ikke ytterligere lovreguleringer mot desinformasjon i Danmark da den leverte sin innstilling i 2020. Den understreket at en vesentlig del av svaret handler om mediekunnskap og kritisk sans, samt sterke redaktørstyrte medier. Kommisjonen kom ikke med noen konkrete anbefalinger utover å vurdere initiativer overfor grupper som ikke fanges opp av utdanningssystemet, som eldre.89

En årsak til at kommisjonen ikke anbefalte lovendringer, er at Danmark i 2019 endret straffeloven slik at den såkalte «milde spionasjebestemmelsen» også omfatter påvirkningsoperasjoner. Den nye paragrafen (som ble kjent som påvirkningsloven) fikk tilføyet en formulering som straffer «samarbeid om å utøve påvirkningsvirksomhet som har til hensikt å påvirke beslutningstakning eller den allmenne meningsdannelsen».90

Denne paragrafen minner om paragraf 97b i den gamle norske straffeloven (jf. punkt 9.8.1.1), som ble tatt ut i 2005, og den foreslåtte § 130. Da det opprinnelige lovforslaget ble presentert, ble det sterkt kritisert for å innskrenke danske borgeres ytringsfrihet. Det ble lagt inn en presisering om at det kun er bevisst samarbeid med påvirkningsoperasjoner i regi av andre lands etterretningstjenester, som rammes. Om påvirkningsoperasjonene skjer i forbindelse med valg, er strafferammen inntil 12 år.

Vinteren 2022 presenterte den danske regjeringen et utspill til ny mediepolitikk som blant annet inneholder tiltak mot falske nyheter. Det foreslås å øke bevilgningene til tjenesten TjekDet (tilsvarer norske Faktisk.no) og Medierådet for Børn og Unge for å styrke «den digitale dannelsen» samt å styrke mediepolitikken på andre områder.91

9.8.1.3 Sverige

Den svenske straffeloven har siden 1981 hatt en paragraf som i stor grad tilsvarer de tidligere bestemmelsene § 97 a) og b) i den norske straffeloven. Bestemmelsen gjør det straffbart å motta penger eller eiendom fra en fremmed makt eller noen som opptrår på vegne av en fremmed makt, for å påvirke opinionen i saker som gjelder Sveriges styresett eller spørsmål som berører rikets sikkerhet.92

I 2022 ble det etablert en egen statlig etat som skal arbeide mot desinformasjon i Sverige. «Myndigheten för psykologiskt försvar» skal blant annet arbeide med å identifisere og analysere «utilbørlig informasjonspåvirkning og annen villedende informasjon som rettes mot Sverige eller svenske interesser» og gi støtte til arbeidet mot slik påvirkning. Den skal spre kunnskap, drive opplæring, koordinere statlig innsats og bestille forskning.93

Den offentlige utredningen Det demokratiska samtalet i en digital tid, foreslo i 2020 en rekke tiltak mot desinformasjon:94

Utredningen mente for det første at den eksisterende svenske politikken lider under mangel på langsiktighet og samordning, og foreslo derfor en nasjonal strategi for styrket motstandskraft mot desinformasjon. Utredningen ga en detaljert gjennomgang av hvilke elementer som burde være med i en slik strategi og støttet å opprette en myndighet for psykologisk forsvar.95

For det andre foreslo utredningen at Statens medieråd får et styrket mandat, økte ressurser og utvidet målområde. Det statlige organet har de siste årene fått i oppdrag å jobbe for medie- og informasjonsforståelsen i samfunnet. Utredningen mente dette arbeidet bør styrkes ytterligere, gjøres mer langsiktig og mindre prosjektbasert. For eksempel har innsatsen særlig vært rettet mot barn og unge, mens det er eldre som først og fremst trenger opplæring i kildekritikk på nettet.

For det tredje ble det foreslått en styrking av den kritiske medieforståelsen i skole og voksenopplæring:96 Utvikling av undervisningen, utdanning av lærere og bibliotekarer og økt bruk av bibliotekene som arena. For det fjerde tok utredningen til orde for mer kunnskapsutvikling og forskning i regi av flere statlige organer.

9.8.1.4 Finland

Finske myndigheter har fått mye internasjonal omtale for sitt arbeid i skoleverket mot såkalte falske nyheter og desinformasjon.97 Ytringsfrihetskommisjonen har konsentrert seg om å undersøke dette aspektet ved finsk politikk og har ikke utredet det finske lovverket eller andre tiltak mot desinformasjon.98

Kommisjonen avholdt et eget møte med en representant fra Kavi, Det nasjonale audiovisuelle instituttet, som har ansvaret for denne delen av utdanningspolitikken, for å få et bedre inntrykk av hvordan den finske utdanningspolitikken eventuelt skiller seg fra den norske.99

Mye virker å være likt i Norge og Finland. I begge land har digitale ferdigheter, mediedannelse og medieforståelse vært sentrale deler av læreplanene i flere år. En forskjell synes å være at det finske arbeidet har hatt en bredere tilnærming til mediedannelse og kritisk medieforståelse, mens norske læreplaner og skolearbeid har vært mer preget av rent praktisk digital kompetanse.100 Dette er under endring også i Norge, blant annet med innføringen av det tverrfaglige emnet demokrati og medborgerskap.

Finske utdanningsmyndigheter arbeider med mediedannelse langs flere akser: Satsing på strategisk arbeid og politikkutforming, forskning, opplysningsarbeid i form av kampanjer og offentlig debatt og utviklingsarbeid gjennom blant annet samarbeid med ulike organisasjoner. Hvert år avholdes en kampanjeuke for mediedannelse med ulike arrangementer, særlig for barn og unge.

9.8.1.5 Frankrike

Den kanskje mest inngripende og omdiskuterte loven mot desinformasjon i Europa, ble vedtatt i Frankrike i november 2018. «Loven mot manipulering av informasjon» krever at sosiale medier-selskaper oppgir navn på alle som sponser innhold og hvor mye de betaler. Selskaper av en viss størrelse må ha en juridisk ansvarlig representant i Frankrike og vise åpenhet om selskapets algoritmer.101

Dette er etter hvert ganske utbredte krav. Mer omstridt er lovbestemmelsen som gjelder fra tre måneder før et valg: En forhørsdommer kan da beordre at falske nyheter fjernes fra sosiale medier, dersom dommeren kommer fram til at det er snakk om «åpenbart» falske nyheter som spres bevisst i stor skala og kan føre til at valget kompromitteres. Politiet, politiske partier og kandidater eller andre kan melde inn saker til dommeren, som er forpliktet til å treffe en avgjørelse innen 48 timer.102 Det er da dommeren som gjør vurderingen av ytringens sannhetsgehalt.

9.8.1.6 Tyskland

Tysk straffelov har en paragraf som retter seg direkte mot desinformasjon, kalt «landsforrædersk falskneri».103 Loven forbyr spredning av blant annet «usanne antakelser av faktisk natur» hvis det er av betydning for rikets ytre sikkerhet dersom de blir kjent.

I tillegg skal den såkalte nettverksgjennomføringsloven (NetzDG) sikre at sosiale medier-selskaper følger opp denne og andre relevante paragrafer på nett. Selskaper med mer enn to millioner registrerte brukere i Tyskland er pålagt å fjerne åpenbart ulovlig innhold fra nettet innen 24 timer etter at det klages inn. Det finnes ingen kjente tilfeller hvor denne loven er anvendt for desinformasjon siden den ble innført. (Mer om loven i kapittel 8.5.2).

9.8.1.7 Storbritannia

Britiske myndigheter planla vinteren 2022 å presentere det endelige forslaget til en Online Safety Bill som skal være en helhetlig regulering av innhold på nettet, der tiltak mot desinformasjon er et av elementene. Loven skal stille opp en rekke nye krav til hvordan plattformselskap må håndtere ulike typer innhold som defineres som skadelig. I det opprinnelige lovforslaget er desinformasjon listet opp som en av skadetypene som skal reguleres, selv om dette ikke skal regnes som ulovlig innhold. Det foreslås en rekke tiltak plattformselskap må gjennomføre for å dempe spredningen av desinformasjon, for eksempel at innhold som er merket av faktasjekkere gjøres mindre synlig for brukerne og at troverdige nyhetskilder løftes opp i visningene brukerne ser.104

I februar 2022 ble det varslet at loven skulle forsterkes med et nytt straffebud som gjør det straffbart å kommunisere ytringer en person vet er usanne hvis intensjonen er å forårsake «ikke -triviell emosjonell, psykologisk eller fysisk skade». Som eksempel nevner regjeringen at en person på sosiale medier oppfordrer folk til å injisere antiseptiske midler for å kurere koronaviruset. Dette vil bli straffbart dersom retten kan bevise at vedkommende visste at påstanden var usann før han eller hun postet den.105

9.8.1.8 Italia

Italia har fått mye omtale internasjonalt for et potensielt inngripende tiltak i kampen mot desinformasjon.

Den italienske regjeringen vedtok i 2018 at politiet skulle få i oppgave å undersøke rapporter om desinformasjon i valgkampen før valget samme år. Befolkningen kunne melde inn mistanke om falske nyheter via en nettportal med en «rød knapp». Politiet måtte ettergå informasjonen. Dersom den ble vurdert å være ulovlig, skulle den strafforfølges. Om den var villedende, men ikke ulovlig, skulle myndighetene publisere en uttalelse om at informasjonen er uriktig.

Forordningen (som ikke var lovfestet) møtte kritikk for blant annet å basere seg på en vag definisjon av hva som utgjør desinformasjon og å gi politiet for store og skjønnsbaserte fullmakter til å avgjøre hva som er sant og ikke.106

Italia har også fra gammelt av en lovparagraf som rammer desinformasjon. Artikkel 656 i straffeloven gjør det straffbart å spre «falske, overdrevne eller tendensiøse» nyheter. Strafferammen er tre måneders fengsel.107

9.8.1.9 Andre land

Lovene mot desinformasjon som er innført i flere vesteuropeiske land de siste årene, er blitt kritisert for å kunne føre til redusert ytringsfrihet og økt sensur fra myndighetene. I en lang rekke mer autoritære land er det innført lover som brukes for å undertrykke kritikere og opposisjonelle.

Lovene som er innført i Vest-Europa, brukes gjerne som inspirasjon eller henvisning når disse landene skal forsvare sine tiltak. For eksempel innførte Russland i 2019 en lov som blant annet gjør at myndighetene kan blokkere nettsider som «ikke respekterer» staten.108 Myndighetene viste eksplisitt til lover mot desinformasjon i europeiske land da de skulle forsvare loven.109

Lignende lover finnes i mange autoritære stater.110 Informasjonsbildet rundt covid-pandemien forsterket denne utviklingen. Minst 17 land innførte i 2020 ulike lover mot desinformasjon knyttet til pandemien. Ungarn innførte for eksempel unntakslover våren 2020. Disse ble brukt som begrunnelse for å arrestere personer som ble anklaget for å spre falsk informasjon.111

9.8.2 Tiltak på EU-nivå

EU-kommisjonen har de siste årene tatt flere initiativ for å kartlegge og bekjempe organisert desinformasjon:

Arbeidet begynte i 2015, med en plan for strategisk kommunikasjon.112 Som del av den, ble etaten EastStratCom Task Force opprettet for å «øke befolkningens oppmerksomhet og forståelse rundt Kremls desinformasjonskampanjer» og øke motstandskraften mot manipulasjon. Innsatsenheten samler inn eksempler på russisk desinformasjon i EU og nabolandene i øst som publiseres på hjemmesiden, i en database og i faste nyhetsbrev. Databasen hadde pr. desember 2020 over 10 000 eksempler på slik desinformasjon.

I 2018 leverte en såkalt høynivågruppe av eksperter en rapport til kommisjonen med anbefalinger for det videre arbeidet.113 Anbefalingene fulgte fem hovedspor: Økt gjennomsiktighet om informasjon som spres på nettet langs flere akser (nyhetsmedeier bør oppgi hvem som er eierne deres; mer åpenhet om kilder og journalistiske prosesser; mer åpenhet om hvordan faktasjekking foregår); økt satsing på kritisk mediekunnskap i befolkningen; utvikling av nye tekniske verktøy som gjør det lettere for journalister og brukere å håndtere desinformasjon; sikre et mangfoldig og bærekraftig økosystem av redaktørstyrte medier; og satse på videre forskning.

Basert på rapporten publiserte EU-kommisjonen først et kommuniké og siden en handlingsplan mot desinformasjon i 2018.114 Blant tiltakene var en frivillig atferdskodeks der private selskaper forplikter seg til å bekjempe spredning av desinformasjon. Google, Twitter, Facebook og TikTok er blant selskapene som har underskrevet. De skal blant annet øke åpenheten rundt politisk annonsering og stenge flere falske kontoer.

I tillegg er det etablert et uavhengig nettverk av faktasjekk-organisasjoner med en felles europeisk nettside og utveksling av digitale verktøy og metoder.115 Arbeidet med å øke den kritiske medieforståelsen i befolkningen er lagt under direktivet for audiovisuelle tjenester. Både medlemsland og tilbydere er fra 2019 pålagt å styrke dette arbeidet.116

Kommisjonen etablerte også et såkalt «Rapid Alert System» som skal brukes for å dele informasjon om pågående, akutte tilfeller av desinformasjon mellom medlemslandene. Dette ble første gang tatt i bruk i mars 2020 for å koordinere innsatsen mot desinformasjon om covid-19-viruset.117

I desember 2020 presenterte EU-kommisjonen en «handlingsplan for demokratiet» som inkluderte flere nye initiativ mot desinformasjon: Tiltak som gjør det mulig å påføre kostnader ved å spre desinformasjon; omgjøre den frivillige atferdskodeksen til en ko-regulering med tydeligere forpliktelser for selskapene; og sterkere oppfølging av atferdskodeksen.118 Samtidig la kommisjonen fram sine forslag til omfattende lovgivning for digitale tjenestetilbydere, inkludert sosiale medier-selskaper (Digital Services Act og Digital Markets Act). Disse lovene er ikke spesifikt rettet inn mot desinformasjon, men vil gi en overordnet innramming av selskapenes innholdsansvar. Se kapittel åtte for en grundigere diskusjon av lovforslagene.

1. mars 2022 bestemte Det europeiske råd at de statlige russiske mediene RT og Sputnik ikke lenger skulle få kringkaste fra EUs medlemsland. Begrunnelsen var at EU-landene mente det var nødvendig å forby deres «giftige og skadelige desinformasjon i Europa». Avgjørelsen kom som følge av den russiske invasjonen av Ukraina.119

9.8.3 Private initiativ

Redaksjonen Faktisk.no ble etablert av de største mediehusene i Norge i 2017 med støtte fra Fritt Ord og Stiftelsen Tinius. Formålet er «å drive en uavhengig redaksjon for faktasjekk av samfunnsdebatten og det offentlige ordskiftet i Norge».120 Faktasjekkene publiseres på egen hjemmeside og facebook-kanal, samt i en rekke norske medier. Faktisk.no har også en egen skoleavdeling som utvikler undervisningsopplegg om kritisk mediebruk og kildebevissthet.

Faktisk.no er del av Facebooks internasjonale faktasjekksamarbeid. Det innebærer blant annet at Facebook kan knytte faktasjekker fra Faktisk.no til artikler som spres på plattformen, eller begrense spredningen av artikler som merkes som feilaktige. Både Faktisk.nos kjernevirksomhet og samarbeidet med Facebook har skapt debatt i norsk offentlighet.121

Faktasjekking av informasjon er de siste årene blitt et utbredt privat tiltak mot feil- og desinformasjon. International Fact-Checking Network har siden 2015 samlet over 100 organisasjoner verden over som jobber med å sjekke sannhetsgehalten til påstander i offentligheten. Nettverket har etablert retningslinjer som organisasjonene skal følge ved faktasjekking.122 Faktisk.no er medlem av dette nettverket.

Det meste av den offentlige debatten og lovgivningen rundt desinformasjon tar utgangspunkt i innholdet som formidles via noen få globale plattformer. Selskapene som driver disse plattformene har møtt sterkt press for selv å innføre strengere tiltak, og har de siste årene forsøkt en rekke ulike løsninger: Fra merking av villedende informasjon til endring av algoritmer og fjerning av innhold. Facebook fjernet for eksempel 3,2 milliarder falske brukerkontoer i løpet av første halvår 2020 alene.123 85 prosent av kanalene som ble fjernet av Youtube i 2020, ble merket som svindel eller desinformasjon124

Sosiale medier-selskaper utformer sine egne retningslinjer. Disse endres ofte, noe som fører til at nye typer innhold fjernes eller beholdes. For eksempel hadde Facebook en periode forbud mot å dele innhold der det ble påstått at covid 19-viruset oppsto i et laboratorium. Dette ble regnet som en konspirasjonsteori eller feilinformasjon fram til USAs president Joe Biden offentlig sa at lab-teorien var et «mulig scenario».125 Fra mars 2020 til juni 2021 fjernet Facebook alene over 20 millioner innholdsposter på grunn av påstått feilinformasjon om pandemien. Selskapet utstyrte også innhold med knapper som ledet til informasjon fra myndighetene om pandemien.126

Også i Norge fjernes kontoer og innhold etter sosiale medier-selskapenes egne regler om feilinformasjon. Det finnes ingen tilgjengelig statistikk over hvor mange kontoer og hvilken type innhold dette gjelder i Norge (se kapittel åtte for ytterligere diskusjon og anbefalinger).

9.9 Kommisjonens vurderinger

9.9.1 Vurdering av trusselbildet

Kommisjonen mener omfanget av desinformasjon og feilinformasjon som er avdekket i flere land, gir grunn til bekymring og økt aktsomhet også i Norge. Ikke minst viste Russlands krig mot Ukraina fra februar 2022 at kraften i og omfanget av feilaktig informasjon kan være massivt og svært utfordrende. Gjentatte digitale angrep og hacking av sentral norsk infrastruktur, herunder Stortinget, har også preget de siste årene.127 Det er også verdt å merke seg lokalvalgkampen i Kristiansand i 2019 som demonstrerte hvordan digital aktivisme på Facebook kan påvirke et valgresultat i stor grad.

Det ble imidlertid ikke funnet tegn til utenlandske påvirkningsoperasjoner verken mot Stortingsvalget i 2021 eller kommune- og fylkestingsvalget i 2019. Dette betyr ikke at slike operasjoner ikke finnes. Slik forskningsrapporten om 2021-valget viser, gjøres det forsøk på skjult påvirkning også mot norsk offentlighet selv om disse så langt det er kjent har vært lite omfattende og lite effektive. Dataangrepet mot Stortinget og andre offentlige institusjoner viser at også norske myndigheter blir utsatt for hyppige digitale angrep. Informasjon som hentes ut fra slike angrep kan senere bli brukt i påvirkningsoperasjoner.

Spredning av feilinformasjon og konspirasjonsteorier er en utfordring også når disse ikke er resultat av bevisst desinformasjon eller ledd i påvirkningsoperasjoner. Spredning av konspiratoriske forestillinger får stor oppmerksomhet i offentligheten. De kan åpenbart påvirke enkeltpersoners valg og skape skade.

Konspirasjonsteorier er ikke noe nytt, de har eksistert i ulike kulturer i århundrer. Hovedforskjellen fra tidligere ligger i tempoet og omfanget av spredning som den teknologiske og kommunikasjonsmessige utviklingen legger opp til, særlig gjennom sosiale medier. Flere politiske konspirasjonsteorier er de siste årene blitt utbredt og har bidratt til politisk vold og terrorisme.128

Risikoen kan være stor når konspirasjonsteorier får uhemmet, eller lite moderert, spredning via sosiale medier, slik man tidvis så under covid-19-pandemien. Spredning av konspirasjonsteorier kan skape et negativt radikaliserende diskusjonsklima som kan utnyttes av ekstremister med forskjellige synspunkter.

Den norske befolkningen er relativt sett godt rustet til å håndtere desinformasjon, feilinformasjon og konspirasjonsteorier. Man skal dessuten være varsom med å kalle avvikende meninger for konspirasjoner. Overordnet mener kommisjonen at den demokratiske beredskapen må bygges gjennom tiltak som kan styrke folks kritiske sans, medie- og teknologikunnskap og den opplyste offentlige samtalen. Dette bør primært skje gjennom å videreutvikle ytringsfrihetens infrastruktur i Norge. Nye lover som forbyr eller sensurerer usanne ytringer kan ikke være svaret.

9.9.2 Lovregulering av sannheten er problematisk

Flere europeiske land har innført eller vekket til live lover som forbyr spredning av usann informasjon. Kommisjonen vil advare mot innføringen av slike straffebud. Det er flere grunner til dette.129

Slike lover kan for det første svekke ytringsfriheten ved at det kan være uklart hva som faktisk forbys, hva som ansees som «usant» eller «falske nyheter».

For det andre er det i mange tilfeller ingen fasit på hva som er sant og usant. Det er verdt å minne om begrunnelsene for John Stuart Mills sannhetsprinsipp: Vi trenger en videst mulig ytringsfrihet nettopp fordi vi alle er feilbarlige, ingen av oss sitter på en endelig sannhet. Også ytringer som i det store og hele er usanne, kan ha en del av sannheten i seg. Som Kierulf-utvalget har påpekt i sine ytringsvettregler for akademisk ytringsfrihet, kan også feil være viktige.130

Det er for det tredje en fare for begrepsutflyting. Ytringer som påstås å være sanne eller beskyldes for å være usanne er ofte uttrykk for politiske vurderinger eller ulike meninger.

For det fjerde kan slike lover lett misbrukes og ha en uheldig nedkjølende effekt: Å straffeforfølge offentlige ytringer alene fordi de er usanne, kan stenge eller redusere det offentlige rommet for kritikk og motstemmer. Dette er en reell problemstilling i land med autoritære styresett som gjerne griper til slike harde tiltak. Den russiske loven som ble vedtatt i mars 2022 mot «falske nyheter» om det russiske militæret er et skrekkeksempel. Den gjorde det i praksis umulig for russiske medier å rapportere sannferdig om Russlands krig i Ukraina. En nedkjølende effekt kan også oppstå i et liberalt demokrati som det norske ved at folk legger bånd på seg for ikke å bli rammet av en lov man ikke har tilstrekkelig kunnskap eller forståelse om.

Det er de eventuelle skadene feilinformasjon kan bidra til som lovgivningen primært bør rettes mot. Her finnes det allerede lover. Grunnløse angrep på omdømmet til en person, kan forfølges sivilrettslig som ærekrenkelse. Uriktige anklager og oppdiktede straffbare handlinger som kan føre til ubotelig skade på enkeltmenneskers liv, kan rammes av bestemmelser i straffeloven.131 Feilinformasjon som skaper alvorlig frykt i befolkningen, kan rammes av straffebudet mot terrorhandlinger.132 Økonomisk skade som skyldes feilinformasjon, kan rammes av paragrafer om bedrageri.133 For demokratisk skade utløst av påvirkningsaksjoner, er det et mer åpent spørsmål om lovverket er godt nok. Det er også her den aktuelle diskusjonen om rettstilstanden har vært konsentrert (se neste punkt).

Kommisjonen mener at man heller enn å innføre lover som forbyr spesifikke ytringer fordi de er usanne, bør jobbe for en bedre tilrettelegging av den demokratiske infrastrukturen for en åpen og opplyst offentlig samtale der desinformasjon og usannheter ikke får fotfeste. Dette bør skje både gjennom regulering og tilretteleggende tiltak.

9.9.3 Om samarbeid om påvirkningsoperasjoner

Våren 2021 sendte regjeringen et forslag på høring om endringer i straffeloven som vil gjeninnføre et forbud mot samarbeid med fremmede etterretningstjenester om påvirkningsoperasjoner, samt et forbud mot å utøve såkalt «grov ulovlig påvirkningsvirksomhet» (se punkt 9.8.1.1).

Høringsrunden var avsluttet, men det var ennå ikke bestemt om lovforslaget skulle fremmes for Stortinget, i sin opprinnelige eller endret form, da kommisjonen avsluttet sine diskusjoner. Kommisjonen har derfor ikke kunnet ta stilling til annet enn det opprinnelige lovforslaget og har noen bemerkninger om dette:

Påvirkningsoperasjoner iscenesatt av utenlandske etterretnings- og sikkerhetstjenester kan komme til å utfordre den frie meningsdannelsen og informasjonsfriheten også i det norske samfunnet. Når andre lands styresmakter foretar handlinger som kan utgjøre en trussel mot ytringsfriheten og demokratiske institusjoner i Norge, har norske myndigheter en plikt til å beskytte oss mot denne trusselen. Det er derfor forståelig at det diskuteres å innføre straffebud som gjør det mulig å etterforske og eventuelt straffe deltakelse i slike operasjoner. Både Sverige og Danmark har slike straffebud.

Når det skal utformes regler som ivaretar dette hensynet, er det avgjørende at det gjøres gode vurderinger av hvordan disse påvirker ytringsfriheten i Norge.

Det kan ikke legges til grunn at myndighetsorganer som har som hovedoppgave å sørge for sikkerhet vil gjøre vurderinger som tar tilstrekkelig hensyn til ytringsfriheten og de demokratiske interessene denne friheten skal beskytte.

Det er klare utfordringer sett opp mot ytringsfriheten i det opprinnelige forslaget, noe som ble påpekt av flere høringsinstanser. Kommisjonen viser særlig til høringsinnspillet fra Norges institusjon for menneskerettigheter (NIM), som blant annet uttalte:

Dette forslaget går imidlertid svært langt i å gi hjemler til norske styresmakter, som også vil kunne true ytringsfriheten og demokratiet. NIM mener at forslaget i sin nåværende form innebærer en betydelig risiko for krenkelse av retten til ytrings- og informasjonsfrihet og retten til privatliv, og at lovforslaget dermed ikke bør vedtas i sin nåværende form.134

NIM anbefalte blant annet at straffebudet ble snevret inn slik at det mer presist fanger opp hva som utgjør straffbart påvirkningssamarbeid. Kommisjonen støtter dette og understreker at presisjon og tydelige rammer er avgjørende for å unngå at denne typen straffebud får en uønsket nedkjølende effekt på ytringsfriheten.

9.9.4 Sikkerhetspolitisk beredskap mot desinformasjon

Desinformasjon kan være et virkemiddel i krigføring. Russlands angrepskrig mot Ukraina, som ble innledet vinteren 2022, er et ferskt eksempel på hvordan bevisste forfalskninger av sannheten er en del av krigføringen fra den angripende parten.

Desinformasjon kan være ett element blant flere i hybridangrep der ulike former for krigføring kombineres. Å vurdere hvor sårbart Norge er mot digitale angrep og hybrid krigføring, og hvordan beredskapen skal styrkes innenfor rammene av sikkerhetspolitikken, ligger utenfor mandatet til Ytringsfrihetskommisjonen. Totalberedskapskommisjonen, som skal levere sin utredning i juni 2023, har som mandat å gjennomgå den samlede beredskapen i Norge, inkludert digital sikkerhet.

Ytringsfrihetskommisjonen ser at det er behov for en kontinuerlig opprusting av kompetanse og teknologi for å møte hybride trusler i Norge. Det er også behov for å se på hvordan organene som skal beskytte Norge mot målrettede, digitale angrep kan styrkes og for å se på en avklaring av roller, ansvar og myndighet for beredskapen mot hybride trusler. Hybride angrep kjennetegnes nettopp av at de er hybride og angriper ulike sektorer via forskjellige virkemidler. Da må også beredskapen være hybrid. Det er et økende behov for å samordne og videreutvikle forsvarsevnen i den digitale sfæren.

Flere land det er naturlig å sammenlikne seg med, har etablert permanente funksjoner på strategisk nivå som skal sikre en felles situasjonsforståelse samt bedre beredskap og kunnskap på tvers av sektorer for å motstå hybride trusler. Det finnes flere ulike modeller for et slikt arbeid. Sverige har siden januar 2022 hatt en egen statlig myndighet for psykologisk forsvar. Finland har siden 2017 vært hjemland for et «senter for å motstå hybride trusler» i samarbeid med EU og Nato.135 Vår kommisjon har ikke hatt som mandat å utrede organisatoriske modeller for et slikt arbeid, men anbefaler at behovet for forsterket beredskap og samordning vurderes.

9.9.5 Regulering av plattformer

Det er behov for ytterligere lovreguleringer for å ansvarliggjøre selskapene som formidler andres ytringer. EUs forordning om digitale tjenester (DSA) kan bli et rammeverk som gjør det lettere å håndtere også des- og feilinformasjon i Norge. Særlig er to elementer i regelverket sentrale:

Kravene til innsyn i hvilke innholdsvurderinger selskapene gjør, vil gjøre det lettere for brukere, tilsyn og forskere å vurdere og diskutere hvilket innhold som faktisk fjernes og hva som prioriteres opp. Kommisjonen ønsker rettslige krav om slik åpenhet velkommen.

De største plattformene blir gjennom DSA dessuten pålagt å gjøre systemiske risikovurderinger av de tjenestene de tilbyr. Blant risikoene som skal vurderes, er «bevisst manipulasjon av tjenestene». Selskapene skal vurdere hvordan anbefalingsalgoritmer, modereringssystemer og annonsesystemer påvirker risikoen for manipulasjon. Kommisjonen viser til kapittel 8.8.2 for ytterligere vurderinger av DSA. I denne sammenhengen er det sentrale at DSA både vil bevisstgjøre og ansvarliggjøre plattformer i europeiske markeder.

Felleseuropeisk regulering av andre sider ved formidlerleddet kan også bidra til å motvirke skadevirkningene ved spredning av des- og feilinformasjon innenfor virkeområdet for reguleringene:

Dette gjelder for eksempel spørsmål om skattlegging, som er viktig for å sikre rettferdige konkurransevilkår sammenlignet med redaktørstyrte medier. Det gjelder også konkurransevilkårene for selskap som kan tilby alternativer til plattformselskapene som dominerer i dag. Ikke minst er det nødvendig med reguleringer som kan sette yttergrenser for, og sikre større innsikt i, hvordan ny teknologi brukes til manipulasjon av ordskiftet. Her vil den kommende forordningen fra EU om kunstig intelligens bli sentral. Kommisjonen viser til kapittel sju og åtte for ytterligere vurderinger.

9.9.6 Plattformselskapers håndtering av feil- og desinformasjon

Større åpenhet og innsyn i plattformselskapenes innholdsmoderering er nødvendig for å vurdere hvordan de faktisk regulerer det digitale ytringsrommet. De siste årene har kritikken og det sivile og politiske presset økt mot de største plattformselskapene som Meta, Twitter og Alphabet for å få dem til å ta større ansvar for spredning av desinformasjon, hatprat og propaganda-kampanjer på plattformene.

Eksempelvis oppgir Facebook noen opplysninger om hva de fjerner og hvordan, men det blir ikke oppgitt hvor omfattende dette er i hvert enkelt land, språk eller type innhold. Det er også uklart hvor mange moderatorer som jobber med norskspråklig innhold. Mer innsikt i disse modereringsprosessen og menneskene som jobber med å ta disse viktige valgene bør tilstrebes.

Tilsvarende oppfordrer kommisjonen til større åpenhet om teknologien som brukes for å moderere innholdet. De fleste store plattformselskaper bruker kunstig intelligens (AI) for å sortere bort innhold som kan være irrelevant, støtende, skadelig eller ulovlig. De matematiske modellene som ligger til grunn for denne sorteringen kan være svært kompliserte. Selv om for eksempel Facebook oppgir at AI skal fjerne de mest skadelige postene, bør det rapporteres hva slags innhold dette er og omfanget av det. Kontrollmekanismer bør settes inn for at verken menneskelige moderatorer eller maskiner fjerner for mye innhold i iveren etter å moderere, og på den måte reduserer ytringsfriheten for brukerne. Brukernes mulighet til å få innsikt i innholdet deres som fjernes og mulighet for å klage på beslutningene må styrkes tilsvarende.

Kommisjonen viser her til mer detaljerte vurderinger i kapittel 8.8.

9.9.7 Nøkkelen er den demokratiske infrastrukturen

Det er umulig å regulere seg bort fra innslag av usannheter og feilinformasjon i offentligheten. Sannheten lar seg ikke avgrense av rettsregler, og rettsregler er uansett ikke et fullkomment virkemiddel til å styre menneskelig atferd. Det er svært vanskelig å oppdage og stanse organiserte påvirkningskampanjer. Bedre reguleringer av hvordan plattformselskaper vurderer og håndterer innhold og bedre innsyn i disse vurderingene vil kunne ha en effekt, men det vil ikke fjerne all mulig des- eller feilinformasjon. Det er heller ikke et mål at usanne påstander skal fjernes fra offentligheten. Det ville i siste instans skape et illiberalt samfunn.

Det viktigste som kan gjøres for å redusere og håndtere skadevirkninger, er å styrke samfunnets og den enkelte medborgers evne til å vurdere, sortere og håndtere flommen av tilgjengelig informasjon. En godt utdannet befolkning som forholder seg kritisk og selvstendig til informasjonen den konsumerer – det man kan kalle beredte borgere – er den beste beskyttelsen mot desinformasjon.

En rekke aktører og krefter i samfunnet innvirker på befolkningens motstandsdyktighet. Hver enkelt medborger har et ansvar for å ytre seg mest mulig sannferdig og være kildekritisk når andres ytringer mottas og videreformidles. Dette gjelder særlig for mennesker med makt og myndighet i samfunnet. Maktpersoner bør være særlig varsomme med å formidle feilaktig informasjon eller komme med så alvorlige anklager som det faktisk er å beskylde andre for løgn eller å formidle «fake news». Det er uetisk å spre om seg med løgner.

Den demokratiske infrastrukturen må videreutvikles langs flere akser. Kommisjonen vil særlig vektlegge medier og utdanning.

Et solid mediesystem med kritiske og etterrettelige medier og et mediemangfold der ulike og motstridende perspektiver og påstander kommer fram, bidrar til en robust befolkning. Høye kvalitetskrav til journalistikken og en godt etablert presseetikk står sentralt her. Skal pressen gjøre folk motstandsdyktige mot desinformasjon, må den leve opp til egne idealer om faktabasert og etterrettelig kvalitetssikring av informasjon. Viktig er det også å ha en felles offentlighet som samler et stort publikum, der folk har tilgang til den samme informasjonen og de samme diskusjonene om sant og usant. Her har en sterk og samlende allmennkringkaster med høy kvalitet en sentral funksjon.

En god allmennutdanning vil gjøre befolkningen rustet til å håndtere et komplekst og tidvis overveldende informasjonssamfunn. Alle trenger kunnskap om teknologi, demokrati, ytringsfrihet og medier for å kunne navigere i informasjonssamfunnet. Alle, gamle og unge, trenger kontinuerlig trening i kildekritikk.

Et godt utbygd mediesystem og velfungerende allmennutdanning er ikke nok. Norge er relativt sett godt rustet fordi Norge er et lite konsensusdemokrati med en sterk velferdsstat, lite polarisering, lite populisme og en godt utbygd frivillig sektor. Å forebygge spredning av des- og feilinformasjon og konspirasjonsteorier, handler dypest sett om å bygge og vedlikeholde et åpent, inkluderende, stabilt og trygt demokratisk samfunn.

9.10 Kommisjonens anbefalinger

9.10.1 En kraftfull mediepolitikk

Et mediesystem med et mangfold av aktører, innhold og kanaler, en fungerende presseetikk og en sterk allmennkringkaster er avgjørende for å sikre et samfunn som er motstandsdyktig i møte med manipulasjoner av det offentlige rom. At det norske mediesystemet er såpass godt utbygd og velfungerende er etter kommisjonens mening en sentral årsak til at des- og feilinformasjon ikke er et omfattende samfunnsproblem i dag.

Å motvirke skadevirkninger av des- og feilinformasjon er en selvstendig begrunnelse for en kraftfull mediepolitikk. Kommisjonen viser her til vurderinger og anbefalinger i kapittel 12 om redaktørstyrte journalistiske medier for konkrete anbefalinger angående mediesektoren.

9.10.2 Utdanning som styrker motstandskraften

At Norge er såpass godt rustet mot desinformasjon, skyldes ikke minst en god allmenndannende grunnutdanning for hele befolkningen. Finland trekkes i flere sammenhenger fram som en modell for hvordan utdanningen kan brukes til å skape robusthet og kritisk medieforståelse. Så langt kommisjonen kan vurdere, er det ikke grunnleggende forskjeller i tilnærmingen til mediedannelse og kritisk medieforståelse i finsk og norsk skolevesen. Finland synes å ha hatt en enda bredere og mer systematisk tilnærming til mediedannelse og kritisk medieforståelse i utdanningspolitikken, men dette er under endring også i Norge.

Den nye læreplanen for grunnskolen i Norge ble innført i 2020. Den legger økt vekt på mediedannelse, særlig i rammen av det nye tverrfaglige emnet demokrati og medborgerskap. Kommisjonen vil derfor ikke gi konkrete anbefalinger om endringer i læreplanene, men understreker behovet for å vektlegge kildekritikk og selvstendig refleksjon i utdanningen.

Det er behov for kontinuerlig fagfornyelse i møte med den teknologiske utviklingen, særlig når det gjelder utvikling av digital kildekritikk. Dette gjelder ikke bare barn og unge som er under utdanning. Det er også behov for informasjons- og opplæringstiltak for å gjøre den voksne og eldre befolkningen bedre til å navigere i den digitale informasjonsflommen. Kommisjonen anbefaler at det satses på kursing og andre opplæringstiltak som bidrar til å styrke motstandskraften i den voksne delen av befolkningen for eksempel i regi av bibliotekene eller andre samlende og tilgjengelige arenaer.

9.10.3 Regulering av plattformselskap

Reguleringer som gir økt innsyn i de store plattformselskapenes vurderinger, økt brukerinnflytelse over eget innhold og krav til aktsomhetsvurderinger og ansvar for samfunnseffekter, vil være viktige for å håndtere forsøk på manipulasjon av den offentlige samtalen. Det samme gjelder reguleringer av kunstig intelligens med mer.

Kommisjonen viser her til anbefalinger i kapittel sju og åtte og understreker at myndighetene må ha en tett oppfølging av forordningen om digitale tjenester (DSA) og andre relevante lovprosesser i EU. I tillegg mener kommisjonen det er behov for å utforske mulighetene for supplerende regulering nasjonalt (jf. punkt 8.9.3).

9.10.4 Mer innsyn og åpenhet

Hemmelighold gir fotfeste for konspirasjonsanklager og mistro. Et åpent samfunn med god og tilrettelagt tilgang på informasjon, skaper motstandskraft. Derfor er tiltak som bedrer innsyn, åpenhet og økt offentlighet også tiltak mot skadevirkninger fra desinformasjon, feilinformasjon og konspirasjonsteorier. Kommisjonen viser her til anbefalinger i kapittel elleve om retten til informasjon.

De store teknologiselskapene bør pålegges langt større åpenhet tilknyttet sin virksomhet i hvert enkelt land også når det gjelder desinformasjon. Selskapene bør pålegges å rapportere om hvordan de modererer i ulike land, hva slags innhold som blir fjernet og omfanget av det. Det bør opprettes et uavhengig ytringsfrihetsråd i Norge som blant annet skal samle inn og vurdere kunnskap om plattformselskapenes effekt på samfunnet. Kommisjonen viser her til anbefalinger i kapitlene 7.10.1, 8.9.3 og 8.9.4.

9.10.5 Mer forskning

Det er behov for løpende og oppdatert kunnskap om det faktiske omfanget og konsekvensene av både desinformasjon og påvirkningsoperasjoner, samt feilinformasjon og konspirasjonsteorier i Norge. Det er også behov for mer forskning på hvorfor folk tror på feilinformasjon, og eventuelt hva slags korreksjoner som fungerer. De nye reglene for datatilgang for forskere i EUs forordning om digitale tjenester kan gjøre dette arbeidet lettere.

Forskningsrapportene som ble laget i forbindelse med valgene i 2019 og 2021, er eksempler på dokumentert kartlegging av om desinformasjon er et faktisk problem i dag. De er også eksempler på studier som bruker dataanalyser som verktøy for å vurdere det faktiske omfanget framfor mindre troverdige spørreundersøkelser. Slike studier bør videreføres og utvides.

9.10.6 Faktasjekk

Utvikling av nye formater og tjenester for faktasjekk av påstander i det offentlige ordskiftet har vært et nyttig tilskudd for å motvirke feil- og desinformasjon. Artikler som undersøker konkrete påstander i offentligheten, er bare én del av verktøykassen. Kommisjonen anbefaler at det også satses på opplæring, kurs og informasjonsdatabaser som kan brukes av skoler, journalister og andre som ønsker å styrke sin kunnskap om faktasjekk og kildekritikk.

Et tiltak kan være å sørge for at elevene får jevnlig opplæring i faktasjekk for å skape oppmerksomhet og systematikk rundt faktasjekk som metode. Kommisjonen viser her til anbefaling i kapittel seks om utviklingen av et program for en skolesekk for ytringsfrihet som en naturlig ramme for et slikt arbeid.

Det er også behov for videreutvikling av teknologiske hjelpemidler og kompetanse for journalister så de kan drive løpende faktasjekk og kildekritikk. Kommisjonen anbefaler myndighetene å prioritere støtte til utvikling og tilgjengeliggjøring av teknologi for å avdekke mulig desinformasjon.

9.11 Anbefalinger oppsummert

Anbefalinger til offentlige myndigheter:

  • Føre en kraftfull mediepolitikk som sikrer tilgang til kvalitetssikret informasjon og en sterk allmennkringkaster.

  • Videreutvikle læreplaner slik at utdanningsløpene styrker kritisk tenkning, digital kildekritikk og motstandskraft mot desinformasjon, samt satse på kursing og opplæringstiltak for den voksne befolkningen.

  • Følge opp EUs reguleringer av plattformselskaper for å sikre økt innsyn og ansvarstenkning fra selskapene.

  • Tilrettelegge for økt innsyn i det offentlige og mer åpenhet for å forebygge konspirasjonsanklager og mistro.

  • Støtte forskning på omfang, bruk og skadeeffekter av des- og feilinformasjon og hvordan motstandskraften mot slik informasjon kan styrkes i Norge.

  • Styrke arbeidet med faktasjekk i skolen. Kommisjonens foreslåtte «skolesekk for ytringsfrihet» kan være en ramme for dette arbeidet.

  • Støtte utvikling og tilgjengeliggjøring av teknologi for å avdekke desinformasjon.

Fotnoter

1.

Wardle, C. og Derakshan, H. (2017). Information Disorder: Toward an interdisciplinary framework for research and policy making. Council of Europe report DGI(2017)09. Side 5–7.

2.

European Commission (2018). A multi-dimensional approach to disinformation. Report of the independent High level Group on fake news and online disinformation.

3.

Frankfurt, H.G. (2005). Om Bullshit. Krakiel.

4.

Kalsnes, B. (2019). Falske nyheter. Løgn, desinformasjon og propaganda i den digitale offentligheten. Cappelen Damm Akademisk.

5.

Jf. definisjon av konspirasjonsteori i Store norske leksikon (u.d.), hentet ut 16. juni 2022. https://snl.no/konspirasjonsteori

6.

Dyrendal, A. og Emberland, T. (2020). Hva er konspirasjonsteorier. Universitetsforlaget og Strømmen, Ø. (2021). Giftpillen. Res Publica.

7.

Jf. definisjon av propaganda i Store norske leksikon (u.d.), hentet ut 16. Juni 2022. https://snl.no/propaganda

8.

For mer om de to begrepene, se Kalsnes, B. (2019), kapittel 3.

9.

Jf. definisjonen i Sivertsen, E.G. mfl (2022). Uønsket utenlandsk påvirkning? – kartlegging og analyse av stortingsvalget 2021. FFI-Rapport 21/02746. S. 11.

10.

Moe, H. mfl (2022). «Tillit til mediene. Falske nyheter og partiske journalister?» i Mangset, M., Midtbøen, A.H. og Thorbjørnsrud, K. (red.). Ytringsfriheten i en ny offentlighet. Universitetsforlaget. S. 113–133.

11.

Medietilsynet (2021). Kritisk medieforståing i den norske befolkninga. Hoveudrapport 2021. Medietilsynet. Dette er omtrent samme tall som første gang Medietilsynet undersøkte dette i 2017.

12.

Moe, H. mfl (2022). S. 119

13.

Moe, H. mfl (2022). S. 119–120

14.

Landene var Norge, USA, Storbritannia, Østerrike, Tsjekkia og Bulgaria. Newman, N. mfl (2018). Reuters Institute Digital News Report 2018. Reuters Institute. Det ble ikke gjort tilsvarende sammenlikning i 2021-rapporten.

15.

Bjørgan, J. og Moe, H. (2021, 23. Juni). «Norway» I Newman, N. mfl. (2021). Reuters Institute Digital News Report 2021. Reuters Institute.

16.

Svardal, Y.G. (2021, 16. desember). Ny undersøkelse: En av fem kommunikatører har opplevd desinformasjon eller feilinformasjon. Kom24. https://www.kom24.no/bente-kalsnes-fake-news-hoyskolen-kristiania/ny-undersokelse-en-av-fem-kommunikatorer-har-opplevd-desinformasjon-eller-feilinformasjon/425955

17.

Glem, S.S. og Molnes, G. (2022, 25. mars). Slik spres russisk propaganda i norske alternative medier. Faktisk.no. https://www.faktisk.no/artikler/06epg/slik-spres-russisk-propaganda-i-norske-alternative-medier

18.

Dahlback, M.L. og Skiphamn, S. (2020, 4. desember). Konspirasjonsteorier dominerer vaksinediskusjonen på Facebook. Faktisk.no. https://www.faktisk.no/artikler/0g4px/konspirasjonsteorier-dominerer-vaksinediskusjonen-pa-facebook

19.

Dahlback, M.L. og Skille, Ø.B. (2020, 21. september). Samles rundt mistillit til systemet. Faktisk.no. https://www.faktisk.no/artikler/0v1m8/samles-rundt-mistillit-til-systemet og Dahlback, M.L. (2021, 1. september). Dette er QAnon i Norge. Faktisk.no. https://www.faktisk.no/artikler/z2q55/dette-er-qanon-i-norge

20.

Dette betyr ikke at det er snakk om 39 000 ulike mennesker. Det kan være store overlapp i medlemskap mellom gruppene. Rasmussen, C.C. mfl (2020). Tracking anti-vaccine mobilization. Common Consultancy og Analyse&Tal.

21.

Det finnes enkelte undersøkelser av utbredelsen av typiske konspiratoriske forestillinger om jøder og muslimer. I en av dem hadde mellom 3,5 og 4 prosent av respondentene det forskerne kalte antisemittiske konspiratoriske forestillinger og 9–12 prosent det som ble kalt islamofobe forestillinger. Dyhrendal, A. (2020). Conspiracy Beliefs about Jews and Muslims in Norway i Hoffmann, C. og Moe, V. (2020). The Shifting Boundaries of Prejudice: Antisemitism and Islamophobia in Contemporary Norway. Universitetsforlaget.

22.

Petersen, M.B. mfl (2022). A «Need for Chaos» and the Sharing of Hostile Political Rumors in Advanced Democracies. PsyArXiv Preprints. DOI: 10.31234/osf.io/6m4ts.

23.

Se Moe, H. mfl. (2022). side 116–118 for mer detaljert analyse av hvordan tillit kan forstås. Se også Vaccari, C. & Chadwick, A. (2020). Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society. https://doi.org/10.1177/2056305120903408

24.

En studie av trafikken på Twitter mellom 2006 og 2017 påviste for eksempel at falske nyhetsmeldinger spredte seg seks ganger raskere enn ekte nyheter på plattformen, og raskt nådde et langt større publikum. Vosuoghi, S. mfl (2018). The spread of true and false news online. Science Vol 359, Issue 6380. S. 1146-1151. DOI: 10.1126/science.aap9559

25.

Se kapittel 5.5 for grundigere redegjørelse for disse fenomenene.

26.

Sivertsen, E.G. mfl. (2022).

27.

Grøtan, T.O. m.fl. (2019). På leting etter utenlandsk informasjonspåvirkning. En analyse av det norske kommunestyre- og fylkestingsvalget 2019. Sintef Rapport 2019:01292.

28.

Grøtan, T.O. m.fl. (2019) side 22–23.

29.

Se feks Respons (2020). Tillitsbarometeret. Respons Analyse og Segard, S.B. (2020). Det norske lokaldemokratiets legitimitet. Tillit, deltakelse og ulikhet. Institutt for samfunnsforskning. Det er rett nok svingninger, gjerne utløst av konkrete saker, jf. feks Lysberg, M. (2021, 16. desember). Kraftig fall i tilliten til politikerne etter pendlerbolig-avsløringene: – Dette er en sak som opprører. Aftenposten. https://www.aftenposten.no/norge/i/7d4dzw/kraftig-fall-i-tilliten-til-politikerne-etter-pendlerbolig-avsloeringen

30.

Se feks Kleven, Ø.(2016). Nordmenn på tillitstoppen i Europa. SSB, Samfunnsspeilet 02/2016 og Transparency International Norge (2021). Høy tillit til institusjonene og best i klassen, men ikke fri for korrupsjon. Transparency International Norge. Også her kan aktuelle saker gi svingninger.

31.

Moe, H. mfl. (2022), side 121–126.

32.

Se Medietilsynet (2020). Tillitsmåling for utvalgte norske medier fra Medietilsynet og den årlige Medieundersøkelsen fra Nordiske mediedager.

33.

PST (2021). Nasjonal trusselvurdering 2021. Politiets sikkerhetstjeneste.

34.

Hackingen av Demokratenes epostservere og påfølgende lekkasjer av informasjon før valget i 2016 er det mest kjente eksempelet.

35.

Sivertsen, E.G. mfl. (2022).

36.

Utenriksdepartementet (2021, 19. juli). Datainnbruddet i Stortingets e-postsystem. Pressemelding fra Utenriksdepartementet. https://www.regjeringen.no/no/dokumentarkiv/regjeringen-solberg/aktuelt-regjeringen-solberg/ud/pressemeldinger/2021/pm_datainnbrudd/id2866410/

37.

PST (2022). Nasjonal trusselvurdering 2022. Politiets sikkerhetstjeneste.

38.

Kommisjonen går nærmere inn på sammenhenger mellom sosiale medier og radikalisering i kapittel 5.5.2.

39.

Thorleifsson, C. (2022). From cyberfascism to terrorism: On 4chan/pol/culture and the transnational production of memetic violence. Nations and Nationalism.2022; Vol.28, issue I: 287

40.

Se for eksempel Molla, R. (2021, 20. januar). Why right-wing extremists’ favorite new platform is so dangerous. Recode. https://www.vox.com/recode/22238755/telegram-messaging-social-media-extremists

41.

Slik det er formulert av 22. juli-kommisjonen. Se NOU 2012: 14 Rapport fra 22. juli-kommisjonen. Side 342. Samtidig påpeker kommisjonen: «Det er ikke noe enkelt én-til-én-forhold i radikaliseringsprosesser, men trolig snakk om en vekselvirkning mellom ideologiske og personlige faktorer» (fotnote 5, samme side).

42.

«Den mørke impulsen kom etter mitt syn fra barndommen, ikke fra kontrajihadistene», konkluderte for eksempel Aage Borchgrevink i boken En norsk tragedie. (2012, side 351).

43.

Hagen, K. og Ravndal, D. (2021, 11. april). Ytterligere en død med korona etter låve-møte på Gran. NRK. https://www.nrk.no/innlandet/ytterligere-en-dod-med-korona-etter-lave-mote-pa-gran-1.15451713

44.

Det er anslått at falske nyheter-nettsider genererte 200 millioner dollar i annonseinntekter i 2019. Se Aral, S. (2020). The Hype Machine. HarperCollins. S. 52.

45.

Bergsaker, T. m.fl. (2018, 19. juni). Faktisk.no: Smirnoff-is og hai i Stavanger – løgnfabrikker laget Norges mest delte saker i mai. NRK. https://www.nrk.no/norge/faktisk.no_-smirnoff-is-og-hai-i-stavanger-_-lognfabrikker-laget-norges-mest-delte-saker-i-mai-1.14090166

46.

Egeberg, K. (2020, 13. juli). Lars Monsen og NRK misbrukes i bitcoin-svindel. Faktisk.no.https://www.faktisk.no/artikler/j1q8g/lars-monsen-og-nrk-misbrukes-i-bitcoin-svindel

47.

Christensen, J. (2020, 17. januar). DNB stanset bedrageriforsøk for én milliard kroner. Dagens Næringsliv. https://www.dn.no/marked/svindel/terje-a-fjeldvar/bedrageri/dnb-stanset-bedrageriforsok-for-en-milliard-kroner/2-1-739456

48.

Betænkning nr. 1573 (2020). Ytringsfrihedens rammer og vilkår i Danmark. Betænkning afgivet af Ytringsfrihetskommissionen. Justitsministeriet. S. 674–75.

49.

Humprecht, E., Esser, F. og Van Aelst, P. (2020). Resilience to Online Disinformation: A Framework for Cross-National Comparative Research. The International Journal of Press/Politics Vol 25, Issue 3, 2020. https://doi.org/10.1177/1940161219900126

50.

Se for eksempel Bergh, A. (2020). Påvirkningsoperasjoner i sosiale medier – oversikt og utfordringer. FFI-Rapport 20/01694.

51.

Disse forklaringene trekkes fram av norske politikere som var respondenter i denne studien: Schia, N.N. og Gjesvik, L. (2020). Hacking democracy: managing influence campaigns and disinformation in the digital age. Journal of Cyber Policy Vol 5 2020 issue 3. S. 413–428. https://doi.org/10.1080/23738871.2020.1820060

52.

Humprecht, E., Esser, F. og Van Aelst, P. (2020).

53.

Dette kan endres: Automatisert oversettelse gjør at påvirkningskampanjer snart kan bli vanskelige å avdekke selv om avsender ikke behersker språket. Utviklingen går senere for et lite språkområde, men den skjer. Se punkt 9.6 for ytterligere redegjørelse.

54.

Se kapittel 6.3 for dokumentasjon.

55.

Norge er ikke med i Media Literacy Index, som sammenlikner kritisk medieforståelse på tvers av europeiske land. De andre nordiske landene topper indeksen, Norge er antatt å ligge på samme nivå som disse. Medietilsynet utlyste vinteren 2022 et forskningsprosjekt som skal måle den kritiske medieforståelsen på tvers av de nordiske landene.

56.

Se kapittel 5.5.5 for dokumentasjon.

57.

Betænkning nr. 1573 (2020), s. 680.

58.

Forsvarets Efterretningstjeneste (2018). Indblik. Vores viden og indsats – Danmarks sikkerhet. Forsvarets Efterretningstjenestes beretning 2017–2018. S. 50.

59.

Säkerhetspolisen (2019). Årsbok 2019. S. 18.

60.

SOU 2020:56 Det demokratiska samtalet i en digital tid Så stärker vi motståndskraften mot desinformation, propaganda och näthat. Kulturdepartementet. S. 86.

61.

Valmyndigheten (2018). Erfarenheter från valen 2018. S. 10–11.

62.

Colliver, C. m.fl. (2018). Smearing Sweden. International Influence Campaigns in the 2018 Swedish Election. ISD, London School of Economics. S. 4–5.

63.

Hedman, F. m.fl. (2018). News and Political Information Consumption in Sweden: Mapping the 2018 Swedish General Election on Twitter. Comprop data memo 2018/3.

64.

Fernquist, J., Kaati, L., & Schroeder, R. (2018). Political bots and the Swedish General Election. IEEE International Conference on Intelligence and Security Informatics (ISI)

65.

SOU 2020:56, s. 164.

66.

Nimmo, B. m.fl. (2020). Secondary Infektion. Graphika. Omfanget på svensk var begrenset, byrået fant totalt 11 svenskspråklige artikler.

67.

Mueller, R. (2019). Report On The Investigation Into Russian Interference In The 2016 Presidential Election. U.S.Department of Justice.

68.

Se side 16–17 hos Sivertsen, E.G. m.fl. (2022) for oversikt og referanser til studier av ulike forsøk i andre land.

69.

Bradshaw, S., Bailey, H. & Philip N. Howard (2021). Industrialized Disinformation: 2020 Global Inventory of Organized Social Media Manipulation. Oxford, UK: Programme on Democracy & Technology.

70.

Nimmo, B. m.fl. (2020).

71.

Vaccan, C. og Chadwick, A. (2020). Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society, 19. februar 2020. https://doi.org/10.1177/2056305120903408

72.

Woolley, S. (2020). The Reality Game: How the next wave of technology will break the truth. Public Affairs.

73.

GPT står for Generative Pre-trained Transformer. Modellen konstruerer tekst etter instrukser fra brukeren basert på prediksjoner av hvilke ord og setninger som skal følge etter hverandre. Dette utleder maskinen fra analyse av store mengder innsamlet tekstmateriale.

74.

Buchanan, B. m.fl. (2021). Truth, Lies, and Automation. How Language Models Could Change Disinformation. Center for Security and Emerging Technology.

75.

Omtalt hos Haidt, J. (2022, 11. april). Why the past 10 years of American life have been uniquely stupid. The Atlantic. https://www.theatlantic.com/magazine/archive/2022/05/social-media-democracy-trust-babel/629369/

76.

Kommisjonen fikk dette prosjektet presentert høsten 2021.

77.

Ett eksempel: Diaz, J. (2021, 17. juni). Facebook Researchers Say They Can Detect Deepfakes And Where They Came From. NPR. https://www.npr.org/2021/06/17/1007472092/facebook-researchers-say-they-can-detect-deepfakes-and-where-they-came-from

78.

Guess, A.M. og Lyons, B.A. (2020). Misinformation, Disinformation and Online Propaganda i Persily, N. og Tucker, A. Social media and Democracy. The State of the Field and Prospects for Reform. Cambridge University Press, s. 10–33. her Forskerne bruker feilinformasjon som samlebetegnelse, for å unngå intensjon-krav og kunne se på et bredere utvalg av studier.

79.

Se Mercier, H. (2020). Not born yesterday. Princeton University Press, s. 199–216 for oversikt over studier som peker i denne retningen. Horowitz, D. (2003). The deadly ethnic riot. University of California Press dokumenterergjennom en analyse av 150 etniske opptøyer i 50 land hvordan rykter brukes for å mobilisere folk av aktører som allerede har satt seg politiske mål.

80.

Se Petersen, M.B. mfl (2022) og Lawson, M. A., & Kakkar, H. (2021). Of pandemics, politics, and personality: The role of conscientiousness and political ideology in the sharing of fake news. Journal of Experimental Psychology: General. Advance online publication. https://doi.org/10.1037/xge0001120

81.

Dette er konklusjonen hos Aral, S. (2020). Se kapittel to.

82.

Yadav, K. m.fl. (2021, 13. mai). Countries have more than 100 laws on the books to combat misinformation. How well do they work? Bulletin of the Atomic Scientists. https://thebulletin.org/premium/2021-05/countries-have-more-than-100-laws-on-the-books-to-combat-misinformation-how-well-do-they-work/

83.

Europarådet: Recommendation CM/Rec(2022)12 of the Committee of Ministers to member States on electoral communication and media coverage of election campaigns. Vedtatt 6. april 2022.

84.

Punkt 9.6 i Meld. St. 5 (2020–2021).

85.

Spredning av desinformasjon vil ikke rammes av straffeloven § 151 om utilbørlig stemmepåvirkning. Se også NOU 2020: 6 Frie og hemmelige valg s. 313.

86.

NOU 1999: 27, s. 147

87.

Justis- og beredskapsdepartementet (2021, 12. mai). Høringsnotat om endringer i straffeloven mv. – påvirkningsvirksomhet.

88.

Advokatforeningen og Norsk Presseforbund var blant høringsinstansene som reiste innvendinger.

89.

Betænkning nr. 1573 (2020), s. 712–716.

90.

§ 108 i den danske straffeloven.

91.

For ytterligere omtale av dette og andre danske forslag til regulering av sosiale medier, se punkt 8.5.4.

92.

Brottsbalk (1962:700), 19 kap, 13§.

93.

Jf. oppdragsbeskrivelsen i Förordning (2021:936) §2.

94.

SOU 2020:56 Det demokratiska samtalet i en digital tid – Så stärker vi motståndskraften mot desinformation, propaganda och näthat. Kulturdepartementet.

95.

Jf. SOU 2020:29 En ny myndighet för att stärka det psykologiska försvaret. Justitiedepartementet.

96.

Svenskene bruker begrepet «medie- och informationskunnighet».

97.

Se for eksempel Mackintosh, E. (2019). Finland is winning the war on fake news. What it’s learned may be crucial to Western democracy. CNN. https://edition.cnn.com/interactive/2019/05/europe/finland-fake-news-intl/

98.

For en oversikt over finsk arbeid mot påvirkningsoperasjoner, se for eksempel punkt 7.7 i SOU 2020:29.

99.

Kavi Pekkala, visedirektør ved Kavi, møtte kommisjonen 20. oktober 2021 sammen med Daniel Schofield fra Institutt for pedagogikk og livslang læring ved NTNU.

100.

Nøkkelbegrepet som brukes om den finske politikken er «media literacy», her oversatt til mediedannelse. Kritisk medieforståelse brukes også delvis overlappende i norsk kontekst.

101.

LOI n° 2018-1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information.

102.

Kritikken oppsummeres hos Fiorentino, M. (2018, 22. november). France passes controversial ‘fake news’ law. Euronews. https://www.euronews.com/2018/11/22/france-passes-controversial-fake-news-law

103.

«Landesverräterische Fälschung» er den tyske overskriften. Strafgesetzbuch (StGB) § 100a.

104.

Se punkt 8.5.6 for videre omtale av lovforslaget med referanser.

105.

Home Office m.fl. (2022, 4. februar). Online safety law to be strengthened to stamp out illegal content. Pressemelding fra Innenriksdepartementet. https://www.gov.uk/government/news/online-safety-law-to-be-strengthened-to-stamp-out-illegal-content

106.

Se for eksempel Verza, S. (2018, 21. juni). Tackling fake news, the Italian way. Resource Centre on Media freedom in Europe. https://www.rcmediafreedom.eu/Tools/Legal-Resources/Tackling-fake-news-the-Italian-way

107.

Articolo 656 Codice Penale (R.D. 19 ottobre 1930, n. 1398).

108.

Van Sant, S. (2019, 18. mars). Russia Criminalizes The Spread Of Online News Which ‘Disrespects’ The Government. NPR. https://www.npr.org/2019/03/18/704600310/russia-criminalizes-the-spread-of-online-news-which-disrespects-the-government

109.

Tass (2019, 13. mars). Kremlin says anti-fake news bill not an attempt at censorship. Tass. https://tass.com/politics/1048445

110.

Den amerikanske faktasjekkorganisasjonen Poynter fører en omfattende global oversikt, som oppdateres fortløpende: https://www.poynter.org/ifcn/anti-misinformation-actions/

111.

Euractiv (2020, 17. mai). Hungary: First arrests for «spreading fake news». Warsaw Business Journal. https://wbj.pl/hungary-first-arrests-for-spreading-fake-news/post/127074

112.

European Council: EUCO 11/15.

113.

European Commission (2018). A multi-dimensional approach to disinformation. Report of the independent High level Group on fake news and online disinformation.

114.

COM/2018/236 Tackling online disinformation: a European Approach og JOIN (2018)36 Action Plan against Disinformation.

115.

SOMA og EDMO.

116.

Gjennom revisjonen av AMT-direktivet.

117.

Stolton, S. (2020, 4. mars). EU Rapid Alert System used amid coronavirus disinformation campaign. Euractiv. https://www.euractiv.com/section/digital/news/eu-alert-triggered-after-coronavirus-disinformation-campaign/

118.

European Commission (2020). European Democracy Action Plan.

119.

Wintour, P. m.fl. (2022, 27. februar). EU to ban Russian state-backed channels RT and Sputnik. The Guardian. https://www.theguardian.com/media/2022/feb/27/eu-ban-russian-state-backed-channels-rt-sputnik

120.

Jf. første punkt i vedtektene til Faktisk.no.

121.

Ett eksempel: Teigen, E. (2019, 25. mars). Pressegeneral med tydelig beskjed til Faktisk: Trenger ny gjennomgang av Facebook-samarbeidet. Nettavisen. https://www.nettavisen.no/okonomi/pressegeneral-med-tydelig-beskjed-til-faktisk-trenger-ny-gjennomgang-av-facebook-samarbeidet/s/12-95-3423632939

122.

Arbeidet organiseres gjennom den amerikanske faktasjekkorganisasjonen Poynter.

123.

Statistikken hentet ut via Statista (2022). Global number of fake accounts taken action on by Facebook from 4th quarter 2017 to 1st quarter 2022. Statista. https://www.statista.com/statistics/1013474/facebook-fake-account-removal-quarter/

124.

Tall fra Google Innsynsrapport for Youtube. https://transparencyreport.google.com/youtube-policy/removals

125.

Hatmaker, T. (2021, 28. mai). Facebook changes misinfo rules to allow posts claiming Covid-19 is man-made. Techcrunch. https://techcrunch.com/2021/05/28/facebook-covid-man-made-lab-theory/

126.

Wong, Q. (2021, 18. august). Facebook removed more than 20 million posts for COVID-19 misinformation. CNet. https://www.cnet.com/news/social-media/facebook-removed-more-than-20-million-posts-for-covid-19-misinformation/

127.

Se punkt 9.9.4 for ytterligere vurderinger om sikkerhetspolitikk.

128.

Se for eksempel Basit, A. (2021). «Conspiracy Theories and Violent Extremism: Similarities, Differences and the Implications». Counter Terrorist Trends and Analyses, June 2021, Vol. 13, No. 3

129.

Også Valglovutvalget påpeker at rettslig regulering av desinformasjon er juridisk krevende. Se NOU 2020: 6 Frie og hemmelige valg s. 63.

130.

NOU 2022: 2, side 10

131.

Se straffeloven (2005) kapittel 22.

132.

Jf. straffeloven § 131.

133.

Jf. straffeloven kapittel 30.

134.

Norges institusjon for menneskerettigheter (2021, 23 august). Høringsuttalelse – om endringer i straffeloven mv. – påvirkningsvirksomhet. Side 1–2.

135.

Se punkt 9.5.2 for mer om den svenske myndigheten. Det finske senteret heter HybridCoE. https://www.hybridcoe.fi/

Til dokumentets forside