Forside

Kunstig intelligens og demokratiske valg – internasjonale erfaringer og nasjonale anbefalinger

Rapport fra ekspertgruppen for kunstig intelligens og valg

Februar 2025

Til Kommunal- og distriktsdepartementet

Ekspertgruppen for kunstig intelligens og valg ble oppnevnt av Kommunal- og distriktsdepartementet 6. juni 2024. Ekspertgruppen har hatt i oppdrag å kartlegge betydningen av kunstig intelligens for sikre og demokratiske valg, og komme med anbefalinger til tiltak for å møte utfordringene KI kan medføre for det norske demokratiet og tilliten til norske valg. Ekspertgruppen ønsker å takke alle som har bidratt til arbeidet med innspill.

Ekspertgruppen avgir med dette sin rapport.

Oslo, 5. februar 2025

Niels Nagelhus Schia (leder)

Anne Sofie Molandsveen

Bente Kalsnes

Heidrun Åm

Helle Sjøvaag

Julie Ane Ødegaard Borge

Lars Raaum

Rune Karlsen

Øyvind Kind Robertsen (sekretariatsleder)

Vilde Sollien

Sammendrag

En helhetlig tilnærming til kunstig intelligens (KI) er nødvendig for å beskytte valgintegriteten og fremme demokrati i en tid preget av rask teknologisk utvikling. KI har gitt oss kraftfulle verktøy som kan brukes på mange nyttige måter, men har også et potensiale for misbruk.

Ekspertgruppen for KI og valg ble oppnevnt av Kommunal- og distriktsdepartementet for å kartlegge betydningen av KI for demokratiske valg, og for å komme med anbefalinger til tiltak for å møte utfordringene KI medfører i denne sammenheng. I arbeidet har ekspertgruppen tatt utgangspunkt i tre hovedspor: (1) informasjons- og medielandskapet, (2) fordekt valgpåvirkning og (3) valggjennomføring og cybersikkerhet.

Ekspertgruppen vil fremheve at det norske samfunnet har gode forutsetninger for motstandskraft mot demokratiske trusler, som det er viktig å bygge videre på og forsterke. Det norske mediesystemet med et mangfold av uavhengige, redaktørstyrte medier gir et godt utgangspunkt for motstandsdyktighet både mot økende polarisering og fragmentering av samfunnet, men også mot uønsket påvirkning fra KI-generert innhold generelt og KI-drevne påvirkningsoperasjoner i forbindelser med valg. Likevel ser vi også i Norge tegn til at de redaksjonelle medienes rolle er under press fra sosiale medier og endrede medievaner, særlig hos unge.

Algoritmestyrte systemer har forandret informasjonslandskapet ved å muliggjøre rask og omfattende distribusjon og spredning av innhold på sosiale medier. Det skjer på en måte som kan bidra til å forsterke personlige oppfatninger og redusere mangfoldet av synspunkter man eksponeres for. De sosiale mediene har blitt viktigere kanaler for informasjonsdeling, mens de redaktørstyrte mediene har større utfordringer med å nå ut til hele bredden i samfunnet. Det bidrar til et mer uoversiktlig informasjons- og medielandskap.

Fremskritt innen KI, særlig store språkmodeller, har vakt bekymring for deres potensiale til å generere falsk informasjon og muliggjøre mer sofistikerte og fordekte påvirkningsoperasjoner. Hittil har vi hovedsakelig sett at KI bidrar til å forsterke allerede eksisterende trusler, men ekspertgruppen mener det er viktig å sørge for nødvendig demokratisk beredskap, motstandskraft i befolkningen og KI-kompetanse hos myndighetene, herunder etterretnings- og sikkerhetstjenestene. Teknologien og trendene utvikler seg raskt – og det gjør også utfordringsbildet.

Valgene ekspertgruppen har undersøkt i 2024, viser at kombinasjonen av KI, sosiale medier og cyberoperasjoner har gitt utenlandske og innenlandske aktører nye muligheter for fordekt valgpåvirkning. Et spesielt urovekkende og illustrerende eksempel på dette er presidentvalget i Romania.

KI-generert innhold fikk stor oppmerksomhet i valgåret 2024, særlig i USA. Det viser at generativ KI kan ha en klar betydning for den politiske dagsordenen i forkant av valget. Hvorvidt innholdet faktisk er sant synes å være mindre avgjørende for om det oppnår spredning, så lenge det bidrar til å forsterke eller representere mottakerens meninger og virkelighetsoppfatninger.

Vi har ikke oversikt over rekkevidden og potensialet til teknologien, eller hvordan den vil påvirke samfunnet og individene over tid. Ekspertgruppen har i arbeidet med denne rapporten identifisert noen endringer i utfordringsbildet for norske valg. Disse følger hovedsporene og viser hvor KI i særlig grad kan endre eller forsterke utfordringer som det vil være særlig viktig å være oppmerksom på.

Med utgangspunkt i erfaringene fra valg i 2024, sammen med kunnskap om hvordan KI kan brukes og kunnskap om norske forhold, legger ekspertgruppen frem flere anbefalinger. Anbefalingene skal bidra til å redusere risikoen for at KI brukes på en måte som vil kan ha negativ betydning for valg og demokrati. For å imøtekomme endringene i utfordringsbildet har ekspertgruppen følgende overordnede anbefalinger:

Sikre at valgmyndighetene har nødvendig kompetanse og kapasitet på KI og kommunikasjon.

Redusere grunnlag for at det kan spekuleres i feil og mangler i valggjennomføringen eller at valget er utsatt for uønsket påvirkning.

Kontakt mellom myndighetene og teknologi- og plattformselskapene.

Politiske aktører bør ansvarliggjøres og støttes.

Prioritere rask implementering av relevante EU-lover, særlig DSA og KI-forordningen.

Føre en aktiv mediepolitikk som opprettholder frie, sterke og mangfoldige redaktørstyrte medier.

Bygge kildebevissthet og fremme kritisk medie-, teknologi- og KI-forståelse.

Mer forskning og samarbeid mellom myndigheter, forskere, sivilsamfunn og teknologiselskaper.

Være en pådriver for internasjonalt samarbeid på de ovennevnte områdene.

Anbefalingene er nærmere spesifisert og omtalt i rapportens punkt 6.1.

Ekspertgruppen mener disse anbefalingene vil bidra til å bygge bevissthet og beredskap i befolkningen og i myndighetene som har en rolle i valggjennomføringen, mediene og teknologiselskapene. Samtidig vil ekspertgruppen understreke at oppmerksomheten om betydningen av KI for valg ikke må overdrives, slik at oppmerksomheten i seg selv fører til en overdreven frykt og mistenksomhet omkring hva som er sant og usant.

1 Ekspertgruppens mandat, sammensetning og arbeid

1.1 Bakgrunn for ekspertgruppen

I «supervalgåret» 2024 gikk en historisk høy andel av jordas befolkning til valgurnene i over 60 land, herunder land som USA, Storbritannia, Frankrike, India og Pakistan. Europaparlamentsvalget, som involverte velgere i alle EUs medlemsland, ble også gjennomført. Fremveksten av KI – og særlig de nye mulighetene generativ KI innebærer– har ført til økende bekymring for negativ konsekvenser for frie og demokratiske valg. Denne teknologien endrer utfordringsbildet ikke bare for valg, men har også betydning for selve fundamentet for demokratier.

Allerede før 2024 så man eksempler på urovekkende hendelser. Særlig falske, KI-genererte lydopptak i den slovakiske valgkampen i 2023 har fått stor oppmerksomhet. Også i det norske lokalvalget i 2023 ble det avslørt en parodisk falsk nettside for den lokale listen Sørlandspartiet, hvor KI var brukt til å lage bilder av kandidater som ikke eksisterte.[1] Ved inngangen til 2024 var det derfor stor spenning knyttet til hvordan KI ville skape eller forsterke utfordringer som fikk betydning for valggjennomføring og kommunikasjon rundt valg. Fra 2024 vil ekspertgruppen særlig peke på valgene i Romania og USA som spesielt interessante, men det er også mange andre valg gjennomført i dette året som har relevans og læringsverdi for Norge. Disse er omtalt i kapittel 4.

Erfaringer fra 2024 gir Norge en unik mulighet til å lære av andre land. Derfor valgte regjeringen å sette ned en hurtigarbeidende ekspertgruppe for å komme med anbefalinger til tiltak som kan iverksettes for å redusere negative konsekvenser av KI for det kommende norske stortings- og sametingsvalget i 2025.

Ved inngangen til 2024 ble KI-generert feil- og desinformasjon av mange vurdert som en av de absolutt største globale risikoene.[2] Nasjonal sikkerhetsmyndighet (NSM) og Politiets sikkerhetstjeneste (PST) trekker i sine rapporter frem inntoget av KI som et av utviklingstrekkene som får konsekvenser for nasjonal sikkerhet.[3]

I Norge har vi et velfungerende og stabilt demokratisk system som vi må ta vare på. Vårt samfunn er preget av åpenhet, tillit, en utdannet og digital kompetent befolkning, et mangfold av redaktørstyrte medier og en velutviklet infrastruktur og digital forvaltning. Dette bidrar til robusthet, og utgjør et godt utgangspunkt for å stå imot negative konsekvenser av ny teknologi, men vi kan ikke ta disse styrkene for gitt.

Utfordringene KI kan medføre for valg og demokrati strekker seg ut over Norges landegrenser. Bruk av KI reiser en rekke spørsmål, blant annet om endringer i informasjonslandskapet, etikk, personvern, sikkerhet, cybersikkerhet, opphavsrett, infrastruktur, nasjonal autonomi og menneskerettigheter. Dette krever internasjonalt samarbeid og norsk engasjement internasjonalt, men også grundige nasjonale vurderinger og tiltak.

1.2 Mandat

Ekspertgruppen ble gitt et mandat av Kommunal- og distriktsdepartementet, som er gjengitt i boks 1.1.

Boks 1.1 Mandat for hurtigarbeidende ekspertgruppe som skal kartlegge betydningen av kunstig intelligens (KI) for sikre og demokratiske valg

Bakgrunn

Generativ KI kan produsere tekst, lyd, bilder og video som i stadig større grad kan fremstå som ekte innhold. Det er stadig vanskeligere å avdekke hva som er skapt av mennesker, og hva som er skapt av KI. Verktøy basert på KI blir også stadig mer utbredt, og brukes av mange som kilde til informasjon i stedet for tradisjonelle søkemotorer. Slike utviklingstrekk vil kunne ha stor betydning for hvordan velgerne får informasjon om valg, om de ulike politiske partiene og kandidatene, og det vil kunne påvirke den politiske samfunnsdebatten og agendaen.

I 2024 gjennomføres det valg i flere av de mest folkerike landene i verden, i tillegg til at det er valg til Europaparlamentet. Valgene som gjennomføres i 2024, vil kunne gi ny informasjon om hvilken betydning KI har for gjennomføring av demokratiske og sikre valg, for eksempel hvordan KI kan brukes i påvirkningsoperasjoner og hvilken betydning KI har for informasjonsspredning og -formidling. Disse erfaringene vil være viktige i forberedelsene til kommende valg i Norge, for å bidra til å være godt forberedt og rustet til å møte nye utfordringer KI medfører på området.

Ekspertgruppen skal

beskrive hvordan KI endrer utfordringsbildet for demokratiet og hvilken betydning KI kan ha for gjennomføringen av valg

kartlegge ulike muligheter KI har som verktøy for uønsket påvirkning

kartlegge hvilke sårbarheter som oppstår med økt utbredelse av KI og kunstig generert innhold

hente inn erfaringer om hvordan andre land arbeider for å motvirke påvirkning av valg

foreslå tiltak som kan settes i verk før stortingsvalget i 2025 for å møte utfordringene KI medfører for det norske demokratiet og for å sikre tilliten til norske valg.

Ekspertgruppen skal bidra til å oppnå

bedre oversikt over eksisterende kunnskap om bruk av KI i valgsammenheng

økt kompetanse om hvordan KI kan brukes til å påvirke valg

en opplyst debatt om bruk av KI i Norge, som tar utgangspunkt i norske forhold.

Innretning på arbeidet

Ekspertgruppen skal levere en skriftlig oppsummering av erfaringene fra gjennomførte valg i 2024. Ekspertgruppen kan ellers selv vurdere hvordan det er mest hensiktsmessig at arbeidet skal presenteres, for eksempel i form av kortere publikasjoner og et seminar e.l.

De foreslåtte tiltakene skal kunne øke motstandsdyktigheten mot desinformasjon skapt av KI, og skal kunne settes i verk før stortingsvalget i 2025. Tiltakene skal legges frem for den tverrdepartementale arbeidsgruppen som arbeider med å styrke motstandsdyktigheten mot uønsket påvirkning av valg, som er satt ned av regjeringen og har mandat frem til stortingsvalget i 2025.

Ekspertgruppen skal ta sikte på å levere sitt arbeid innen 31. desember 2024.[4]

1.2.1 Ekspertgruppens forståelse av mandatet

Ekspertgruppen er gitt et bredt mandat og en kort arbeidsperiode. For å kunne gi aktuelle og relevante råd i tide til at eventuelle tiltak kan iverksettes eller påbegynnes før stortingsvalget i 2025, har gruppen vært nødt til å gjøre noen prioriteringer for hva som skal vektlegges i arbeidet.

I mandatet trekkes det frem at gruppen skal beskrive hvordan KI «endrer utfordringsbildet for demokratiet og hvilken betydning KI kan ha for gjennomføringen av valg». Gruppen forstår mandatet slik at det er betydningen for valg som er kjernen i oppdraget, og det er dette området som vil vektlegges tyngst. Mandatet forstås ikke som at ekspertgruppen skal gi et utfyllende bilde på betydningen KI kan ha på demokratiet «i stort». Hovedvekten legges derfor på å identifisere endringer i utfordringsbildet og hvilke tiltak som kan iverksettes for å redusere risikoen for at KI benyttes på måter som vil være skadelig for demokratiet generelt og valg spesielt.

En av hovedoppgavene i oppdraget handler om å innhente erfaringer fra andre land som gjennomførte valg i 2024. Ekspertgruppen mener det er viktig at erfaringene som innhentes kontekstualiseres med tanke på deres relevans for valg i Norge. Ekspertgruppen tar derfor utgangspunkt i norske forhold når det drøftes hvilke utfordringer nye teknologiske gjennombrudd for KI skaper eller forsterker for valg. Våre anbefalinger til tiltak vil også være rettet mot vår nasjonale kontekst.

Av mandatet fremgår det at viktige begrunnelser for arbeidet er nye eller forsterkede trusler og sårbarheter som kan knyttes til KI, særlig med tanke på risikoen for uønsket valgpåvirkning. Oppdraget er likevel ikke avgrenset til dette, men favner bredere. KI vil også kunne ha stor betydning for informasjonslandskapet i Norge, samt for det som handler om cybersikkerhet. I vårt arbeid har vi derfor valgt å forfølge tre spor når det gjelder hvilken betydning KI kan ha på valg i Norge. Hovedsporene er nærmere omtalt i kapittel 3.

Den teknologiske utviklingen beveger seg raskt, og ekspertgruppen finner det også naturlig å peke på endringer i utfordringsbildet og overordnede tiltak innenfor disse tre sporene som strekker seg utover valget i 2025.

1.3 Sammensetning

Ekspertgruppen ble oppnevnt av Kommunal- og distriktsdepartementet 6. juni 2024. Ekspertgruppen har bestått av:

Niels Nagelhus Schia, forskningsleder og professor ved Norsk utenrikspolitisk institutt (NUPI), leder for ekspertgruppen

Anne Sofie Molandsveen, fagansvarlig for valgobservasjon ved NORCAP – Flyktninghjelpen

Bente Kalsnes, professor ved Institutt for kommunikasjon ved Høyskolen Kristiania

Heidrun Åm, professor ved Institutt for sosiologi og statsvitenskap ved NTNU

Helle Sjøvaag, professor ved Institutt for medie- og samfunnsfag ved Universitetet i Stavanger

Julie Ane Ødegaard Borge, førsteamanuensis ved lærerutdanningen på NLA Høgskolen Bergen

Lars Raaum, samfunns- og myndighetskontakt i Mediebedriftenes Landsforening

Rune Karlsen, professor ved Institutt for medier og kommunikasjon ved Universitetet i Oslo

Ekspertgruppen har hatt sekretariatsbistand fra Kommunal- og distriktsdepartementet. Sekretariatet har bestått av seniorrådgiver Sissel Lian (fra juni til oktober 2024), seniorrådgiver Øyvind Kind Robertsen og konsulent Vilde Sollien (fra september 2024).

1.4 Ekspertgruppens arbeid

Ekspertgruppen hadde sitt første møte 12. juni 2024. Totalt har ekspertgruppen hatt syv heldagsmøter, samt flere kortere møter. Gruppen har fått innspill fra eksperter og aktører innen mediesektoren, sikkerhetssektoren, akademia, teknologiplattformer, teknologiske miljøer, politiske partier og valgmyndigheter. Innspillene er i hovedsak gitt i form av presentasjoner og dialog på ekspertgruppens møter og studieturer, og i noen tilfeller i egne møter.

Det har høsten 2024 blitt gjennomført tre studieturer til fire ulike destinasjoner. Det ble gjennomført en studietur til Helsinki i september, London og Brussel i oktober og Washington D.C. i november. Formålet med studieturene har vært å møte valgmyndigheter, sikkerhetsmyndigheter, forskningsinstitusjoner og andre relevante aktører, og lære om hvordan disse landene har jobbet med tematikken før, under og etter valg.

Ekspertgruppen har via Utenriksdepartementet sendt en henvendelse til Norges utenriksstasjoner og delegasjoner der det ble bedt om orienteringer om hvordan landene de følger har jobbet med KI og valg, samt eventuelle eksempler. Ekspertgruppen ba også om tips dersom ambassadene og delegasjonene kjente til relevante forskere, organisasjoner eller institusjoner som har dybdekunnskap innenfor dette temaet.

En samlet oversikt over hvem som har bidratt med innspill til ekspertgruppen ligger som vedlegg 1 til denne rapporten.

1.5 Sentrale begreper

I det følgende redegjøres det for sentrale begreper som benyttes i rapporten.

Kunstig intelligens, forkortet KI (ofte også forkortet AI), er en betegnelse som omfatter ulike teknologiske verktøy som kan brukes til ulike oppgaver. En ekspertgruppe nedsatt av EU har definert KI på følgende måte:

Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål. Enkelte KI-systemer kan også tilpasse seg gjennom å analysere og ta hensyn til hvordan tidligere handlinger har påvirket omgivelsene.[5]

KI er verktøy som kan brukes på måter som kan ha positiv og negativ betydning for valg og demokrati. KI benyttes i vesentlig grad i samfunnet i dag. Sosiale medier og andre teknologiplattformerbenytter for eksempel KI i stor grad, blant annet gjennom algoritmene som bestemmer hvilket innhold som vises og spres til brukere.

KI som sådan er ikke et nytt fagfelt, men de siste årene har særlig utviklingen innenfor generativ KI skutt fart. Generativ KI er basert og trent på store mengder data, og kan skape innhold i ulike formater som tekst, lyd, bilde og film. Innholdet kan fremstå originalt, men innholdet skapes basert på datagrunnlaget modellen er trent på. Det kreves ikke spesifikke kunnskaper for å kunne benytte verktøyene til enkle formål, ettersom brukeren kan kommunisere med verktøyet ved hjelp av dagligtale.

Det er særlig fremveksten av generativ KI som har aktualisert en bekymring for at teknologien kan få betydning for valg og demokrati – enten det skjer gjennom bevisst misbruk eller fordi datamaterialet ikke gir et korrekt bilde. Eksempelvis har fabrikkerte bilder, filmer eller lydopptak som er laget for å ligne bestemte personer, såkalte deepfakes, fått stor oppmerksomhet. Også chatboter basert på generativ KI har fått en stor utbredelse.

Frykten for misbruk av teknologien knytter seg særlig til manipulasjon av informasjon i forbindelse med påvirkningsoperasjoner eller desinformasjonskampanjer, som kan brukes for å forstyrre valggjennomføringen og svekke tilliten til gjennomføring og resultat. I de følgende begrepene bygger ekspertgruppen på definisjoner gitt av Ytringsfrihetskommisjonen[6] og Forsvarets forskningsinstitutt[7] .

Valg – og især valgkamp – handler om å påvirke velgere. Det er en legitim del av demokratiet, og det er viktig å sikre at tiltak som skal forhindre uønsket påvirkning ikke samtidig undergraver viktige demokratiske prinsipper. Med uønsket valgpåvirkning viser vi til faktorer som påvirker individers valg eller oppfatninger på en manipulerende, uetisk, udemokratisk eller ulovlig måte, ofte gjennom bruk av desinformasjon, sosial manipulering og teknologiske verktøy. Det krenker individets rett til å ta informerte og frie valg, og kan undergrave tilliten til valgprosesser og demokratiske institusjoner.

I den offentlige debatten er det særlig påvirkningsoperasjoner fra utenlandske aktører som omtales, men en påvirkningsoperasjon kan også gjennomføres eller støttes av en innenlandsk aktør.

Desinformasjon viser derimot til spredning av bevisst falsk eller villedende informasjon, hvor hensikten nettopp er å gjøre skade eller påvirke mottakernes oppfatninger, holdninger eller handlinger.

Feilinformasjon brukes om feilaktig informasjon som spres uten skadehensikt. Her er det altså ikke snakk om et klart formål med informasjonsspredningen, og aktøren kan være uvitende om sannhetsgraden i det som deles.

2 Teknologi, medier, valg og demokrati – situasjonsbildet for Norge

I dette kapitlet går vi gjennom viktige rammeverk for det norske demokratiet, og gir et grunnlag for vurderinger av sikkerhet, valg, medielandskap, demokrati, tillit og infrastruktur i norsk kontekst. Videre gir vi også en kortfattet oversikt over relevant EU-regelverk. Denne gjennomgangen er ekspertgruppens utgangspunkt for å kunne gjøre vurderinger av hvordan KI kan få betydning for valg og demokrati i Norge.

2.1 Sikkerhetspolitisk situasjon

Etterretnings- og sikkerhetstjenestene gir årlig ut trussel- og risikovurderinger. Over flere år har vurderingene pekt på utenlandsk påvirkning – særlig fra russiske og kinesiske aktører – som en trussel. Valg er viktige hendelser som trusselaktører kan forsøke å utnytte og rette påvirkningsoperasjoner mot.

Nasjonal sikkerhetsmyndighet (NSM) viser i sin risikovurdering for 2024[8] til at resultatene fra valgåret 2024 kan få mye å si for den sikkerhetspolitiske utviklingen for demokratier globalt. De peker på at trusselaktørers bruk av teknologi kan utvikle seg raskere enn åpne demokratiers evne til å beskytte seg. Informasjonsteknologi og sammensatt virkemiddelbruk kan utnyttes for å ramme demokratier med åpne informasjonsmiljøer, som for eksempel Norge. NSM trekker også frem KI, og risikoen for at denne teknologien kan benyttes til å undergrave og påvirke demokratiske valg. De viser til at KI muliggjør spredning og fabrikkering av feil- og desinformasjon på en måte som kan utfordre grunnmuren i demokratier. Samtidig kan også KI benyttes for å skille mellom ondsinnet og legitim aktivitet, og KI vil trolig bli viktig for å analysere og avdekke operasjoner rettet mot norske mål.

En rekke globale og nasjonale myndigheter og organisasjoner har identifisert (mis)bruk av KI som en viktig del av trusselbildet i 2024. World Economic Forum la i januar 2024 frem sin rapport «Global Risks Report 2024». Rapporten trekker frem at KI som kan misbrukes for å spre falsk og usann informasjon utgjør en av de største globale risikoene de neste årene.[9] Også rapporten fra FNs høynivåorgan om KI fra september 2024 peker på valg som et område hvor KI kan utgjøre en risiko.[10]

2.2 Valggjennomføring i Norge

2.2.1 Roller og ansvar

Grunnloven gir enkelte overordnede rammer for hvordan stortingsvalg gjennomføres. Valgloven og den tilhørende valgforskriften regulerer gjennomføringen av både stortings-, kommunestyre og fylkestingsvalg. Egne bestemmelser i sameloven og forskrift om valg til Sametinget regulerer gjennomføringen av sametingsvalg.

Kommunal- og distriktsdepartementet har det overordnede nasjonale ansvaret for gjennomføringen av valg i Norge og forvalter regelverket knyttet til valg. Dette innebærer også at departementet koordinerer arbeidet med sikkerhet og beredskap knyttet til valggjennomføringen.

Valgdirektoratets hovedoppgave er å tilby kommuner og fylkeskommuner verktøy og støtte som gjør dem i stand til å gjennomføre valget. De utvikler og drifter det elektroniske valggjennomføringssystemet EVA, som brukes av alle kommuner og fylkeskommuner. Valgdirektoratet gir kommunene opplæring og brukerstøtte i systemet. Videre har de ansvar for den statlige informasjonen til befolkningen om valg.

Ved den praktiske gjennomføringen av valg i Norge er det valgstyret i den enkelte kommune som har det overordnede ansvaret. Kommunene bestemmer tid og sted for stemming, rekrutterer og lærer opp valgmedarbeidere, står for den praktiske gjennomføringen av stemming og er ansvarlig for opptelling og protokollering av valget. Dette innebærer også at den enkelte kommune har et ansvar for sikkerhet og beredskap knyttet til den praktiske valggjennomføringen lokalt. Fylkesvalgstyret i fylkeskommunene har oppgaver knyttet til godkjenning av listeforslag og opptelling av stemmer ved fylkestingsvalg og stortingsvalg.

2.2.2 Bruk av teknologi i valggjennomføringen

Valgdirektoratets tjenester er i stor grad digitale. Det elektroniske valgadministrasjonssystemet EVA brukes av alle kommuner og fylkeskommuner i valgforberedelser, under stemming, opptelling og valgoppgjør. Valglovutvalget påpekte at Norge i større grad enn våre naboland bruker teknologi i valggjennomføringen. Utvalget foreslo blant annet at bruken av EVA skulle lovfestes.[11] Stortinget vedtok lovfesting av EVA som en del av ny valglov i 2023, jf. valgloven § 20-1. Den nye valgloven trådte i kraft i mai 2024, og stortingsvalget i 2025 vil derfor være det første valget som gjennomføres etter ny lov.

Velgerne selv benytter ikke elektroniske løsninger for å stemme. All stemmegivning i norske valg skjer med papirstemmesedler, inkludert forhåndsstemming og stemmer fra nordmenn bosatt i utlandet (forhåndsstemming er nærmere omtalt under 2.2.4). Dersom det skulle oppstå tekniske problemer med systemet eller manglende tilgang til internett under valget, som for eksempel hindrer tilgang til elektronisk manntall, finnes det manuelle beredskapsrutiner.

Alle stemmesedler skal telles minst to ganger. Den første opptellingen av stemmesedler skal gjøres for hånd av valgmedarbeidere, mens kommunene kan velge å benytte maskinell opptelling ved hjelp av skannere i den andre opptellingen.

I 2011 og 2013 ble det gjennomført forsøk med elektronisk stemming over internett i utvalgte kommuner, men disse forsøkene ble avsluttet før valget i 2015. På grunn av manglende politisk enighet ble ikke forsøkene videreført. I senere vurderinger av elektronisk stemming trekkes særlig sikkerhetsutfordringene ved elektroniske løsninger frem som et problem.[12]

2.2.3 Sikkerhetsarbeid i forbindelse med valg

Før kommunestyre- og fylkestingsvalget i 2019 nedsatte regjeringen en tverrdepartemental arbeidsgruppe som jobber med å øke motstandsdyktigheten mot uønsket påvirkning i forbindelse med valg.[13] Arbeidsgruppen ledes av Kommunal- og distriktsdepartementet og består av relevante departementer og underliggende etater, herunder etterretnings- og sikkerhetstjenestene. Arbeidsgruppen ble gjenoppnevnt før valgene i 2021 og 2023, og har nå et mandat som strekker seg frem til valget i 2025. I forkant av de siste valgene har regjeringen lagt frem en tiltaksplan basert på arbeidet i arbeidsgruppen, med tiltak som skal bidra til økt motstandsdyktighet mot uønsket påvirkning av valg, og vil gjøre det samme før stortingsvalget i 2025. Tiltakene har vært rettet mot velgere, politiske partier og kandidater, kommuner og valgmyndigheter. Tiltakene før kommunestyre- og fylkestingsvalget i 2023 var blant annet en tverrsektoriell samvirkekonferanse om uønsket valgpåvirkning, et undervisningsopplegg for å styrke skoleelevers kritiske medieforståelse og utsendelse av en informasjonsbrosjyre med gode sikkerhetsråd til alle kandidatene som stilte til valg.[14]

Valgdirektoratet gjennomfører grundig testing av de elektroniske systemene som brukes i valggjennomføringen. De gir også kommunene veiledning og utgir blant annet en sikkerhetsveileder som skal bidra til at kommunene gjennomfører sikre valg. Veilederen gir råd om fysisk sikring, organisatoriske og menneskelige sikkerhetstiltak, og om informasjonssikkerhet knyttet til bruken av EVA.

2.2.4 Stemmemønstre og variasjoner i valgdeltakelse

Norge har en lang forhåndsstemmeperiode. Ordinær forhåndsstemmegivning starter 10. august og strekker seg frem til siste fredag før valgdagen, som alltid faller på en mandag i september.[15]

Stadig flere velger å forhåndsstemme, og en økende del av selve stemmegivningen er derfor gjennomført før valgdagen. Kommunene har også i større grad gjort det enklere å forhåndsstemme. Under stortingsvalget i 2021 stemte for første gang over halvparten av velgerne (58 prosent) på forhånd. Det var en kraftig økning fra 2017, da 36 prosent av velgerne forhåndsstemte. At valget ble gjennomført under koronapandemien hadde trolig betydning for denne kraftige økningen. Likevel fortsatte andelen forhåndsstemmer å være høy også ved kommunestyre- og fylkestingsvalget i 2023, da 49 prosent av velgerne forhåndsstemte.[16]

Det er variasjoner i hvem som deltar i valg. Gjennom valgforskningsprogrammet har det vært mulig å følge velgere over flere valg. Ved å gjøre det, har man funnet ut at det er en gruppe på i underkant av 10 prosent av de stemmeberettigede som aldri stemmer. Personer med lav utdanning, unge menn og velgere med innvandrerbakgrunn er overrepresentert blant disse såkalte «permanente hjemmesitterne».[17]

Ved forrige stortingsvalg i 2021, var deltakelsen høyest i aldersgruppen 60–79 år, mens de med lavest deltakelse var såkalte «andregangsvelgere», det vil si velgerne i alderen 22–25 år. I de yngre aldersgruppene er også kjønnsforskjellene klare, og blant alle velgere under 30 år er deltakelsen blant kvinnene 12 prosentpoeng høyere enn blant mennene. I denne aldersgruppen økte også forskjellene i deltakelse mellom kjønnene fra 2017 til 2021.[18]

2.2.5 Valgkamp

Valgkampen i Norge er i stor grad sentrert rundt partiene. Partiene innehar ofte en mer sentral rolle enn de enkelte kandidatene. Velgerne er interesserte og følger med på valgkampen både gjennom redaktørstyrte medier og sosiale medier. Et flertall av velgerne bestemmer seg for hva de skal stemme i løpet av valgkampen, og rundt en fjerdedel endrer partipreferanse underveis i valgkampen.[19] Det understreker at valgkampen har en viktig funksjon for velgernes partivalg – og dermed også for resultatet av valg.

Det er ingen reguleringer for hvordan partiene driver valgkamp i Norge, ut over et forbud mot TV-reklame for politiske budskap, jf. kringkastingsloven § 3-1. Det er ikke et tilsvarende forbud på andre plattformer. Norge har heller ingen reguleringer for når partier kan starte eller avslutte valgkampaktiviteter, slik en del andre land har.

Norge har en raus statlig partifinansiering, som er den største finansieringskilden for de fleste politiske partier, også under valgkamp. Offentlig støtte gis til alle registrerte politiske partier som har stilt til valg og fått stemmer. Det er ikke en forutsetning at partiet har oppnådd representasjon. I tillegg kan partier få støtte fra andre, men det er ikke lov å ta imot bidrag fra givere som er ukjent for partiet eller utenlandske givere, jf. partiloven § 17 a. Bidrag over visse terskelverdier satt i partiloven identifiseres og offentliggjøres. I valgår skal alle bidrag over 10 000 kroner innrapporteres fortløpende, og blir offentliggjort på nettsiden Partifinansiering.no. Med bidrag menes også ikke-monetære bidrag. Partilovnemnda, som har i oppgave å tolke regelverket og kontrollere at finansieringsreglene i loven overholdes, har påpekt at det er enkelte svakheter ved partiloven, og at det er behov for endringer. Disse svakhetene handler blant annet om at påvirkning kan skje gjennom indirekte bidrag fra en aksjonsgruppe eller gjennom støtte til uregistrerte partier/lister og deres enkeltkandidater (som ikke er omfattet av rapporteringsplikten).[20] Altså kan den faktiske bidragsyteren være anonym fra offentligheten, selv om navnet og verdien av bidraget blir kjent, ved at bidrag kanaliseres gjennom tredjepartsaktører.

2.3 Medie- og teknologibruk i Norge

Sett under ett har nordmenns mediebruk vært i rask endring i takt med den teknologiske utviklingen de siste tiårene. I det følgende gis det en kort gjennomgang av nordmenns bruk av redaktørstyrte medier, sosiale medier og bruk av teknologi.

2.3.1 Redaktørstyrte medier og bruken av disse

Frie, uavhengige og sannhetssøkende medier er en demokratisk infrastruktur som ivaretar viktige oppgaver innen informasjonsdistribusjon, debatt og samfunnskritikk. De redaktørstyrte mediene jobber etter journalistfaglige metoder basert på presseetiske prinsipper, og har en ansvarlig redaktør som står til ansvar for det som publiseres. I Norge sikres den redaksjonelle uavhengigheten gjennom redaktørplakaten og medieansvarsloven. Gjennom «Vær Varsom-plakaten» har norske redaktørstyrte medier forpliktet seg til å følge pressens etiske regelverk, og medier som er tilknyttet Norsk Presseforbund kan klages inn til selvdømmeordningen Pressens Faglige Utvalg.

Mediereguleringen understøtter mediemangfoldet gjennom virkemidler som direkte pressestøtte, momsfritak og støtte til allmennkringkasting som er ment å sikre medier i hele landet, konkurranse og ivaretakelse av daglige nyheter og mangfoldige interesser. Mediemangfold er dermed ment å både støtte representasjonsprinsippet i demokratiet og forhindre at grupper føler at de ikke gjenspeiles i samfunnets politiske prosesser.

Nyhetsbruken blant nordmenn preges av en stabil og høy tillit til de redaktørstyrte journalistiske mediene. Ifølge Medietilsynet har 73 prosent av befolkningen ganske høy eller svært høy tillit til norske nyhetsmedier generelt.[21] I Innbyggerundersøkelsen 2024, gjennomført av Direktoratet for forvaltning og økonomistyring (DFØ), ble befolkningen spurt om deres medievaner. Der svarer 8 av 10 at de vanligvis bruker redaktørstyrte medier som aviser og nettaviser som kilde til nyheter og politikk, nærmere 7 av 10 bruker TV som kilde og 4 av 10 radio.[22] Enkelte grupper i samfunnet har imidlertid vesentlig mindre bruk av de redaktørstyrte mediene enn andre, slik som yngre og innvandrere. Særlig hos yngre brukere har man de senere årene sett redusert bruk av de redaktørstyrte medienes plattformer og økende bruk av sosiale medier.

Sammenlignet med mange andre land har nordmenn en sterk betalingsvilje for nettaviser og nyhetsapplikasjoner, høyest i verden, ifølge Reuters News Report.[23] Nordmenn går også langt oftere direkte til kilden, medienes egne nettsider og apper, og benytter i mindre grad sosiale medier og søkemotorer som kilder til nyheter.[24]

Medietilsynet peker på at norske medier er inne i en mer økonomisk usikker tid, og at lønnsomheten for avisene er på det laveste nivået siden finanskrisen i 2022 og 2023. De redaktørstyrte medienes samfunnsrolle er også under økende press fra de globale plattformene, både i bruk og inntekter.[25]

2.3.2 Sosiale medier og bruken av disse

Sosiale medier har ikke redaktører som kuraterer innholdet, men er i stedet drevet av algoritmer som styrer hva brukerne ser. Hva slags innhold brukere eksponeres for er basert på det sosiale mediets anbefalingssystem og selskapenes forretningsmodeller.

En utfordring med sosiale medier, som er trukket frem av blant annet totalforsvarskommisjonen, er at de bidrar til å endre hvordan folk kommuniserer, deler informasjon og samhandler med hverandre. Algoritmene i sosiale medier kan bidra til at brukere i stor grad kun eksponeres for innhold eller likesinnede som bidrar til å bekrefte og forsterke deres eksisterende oppfatninger, og med det skånes fra innhold som kan bidra til å utfordre oppfatningene deres. Det kan lede til økt polarisering og til å sette tilliten i samfunnet under press.[26]

Måten flere sosiale medier fungerer på har endret seg over tid. Fra å være basert på vennskap brukerne aktivt selv bekreftet, er de nå i større grad drevet av KI og algoritmer. I tillegg har de gått fra å være tekstbaserte, til å fokusere mer på bilder og videoer.

Internasjonalt har man de siste årene sett større fragmentering i bruk av sosiale medier. Valg av hvilke sosiale medier man benytter kan knyttes til alder, men også politisk ståsted.[27] I Norge er valg av sosiale medier i mindre grad basert på politisk ståsted, men det er store generasjonsskiller i bruk av sosiale medier. Facebook/Messenger er det største sosiale mediet i Norge, og 63 prosent oppga i 2023 å bruke Facebook på en gjennomsnittsdag. Videre fulgte Snapchat (56 prosent), Instagram (46 prosent) og TikTok (22 prosent). Det er imidlertid betydelige variasjoner i bruk mellom ulike aldersgrupper, og særlig TikTok og Snapchat peker seg ut med å ha klart høyest bruk blant de yngste aldersgruppene.[28] Internasjonalt vokser «hybrider», slik som WhatsApp og Telegram. Disse anses primært som plattformer for meldinger, men grupper kan ha svært mange følgere, i noen tilfeller millioner. Disse plattformene spiller foreløpig en langt mindre rolle i Norge enn internasjonalt.

Som kilde til nyheter har sosiale medier blitt stadig vanligere. 57 prosent av befolkningen oppga i 2023 at de finner og leser nyheter på sosiale medier på en gjennomsnittsdag. 79 prosent av unge mellom 16 og 24 år konsumerer nyheter gjennom sosiale medier. Også blant eldre aldersgrupper er det en betydelig andel som finner og leser nyheter på sosiale medier.[29]

I sosiale medier er det vanskelig å skille ulike avsendere fra hverandre, og plattformene presenterer som oftest innhold fra redaktørstyrte medier på samme måte som reklame og innhold fra influensere. De fleste mediehusene er til stede på de største sosiale mediene for å dele sine saker og forsøke å få lesere inn på egne sider. Over tid har man imidlertid sett en utvikling i retning av at innhold fra redaktørstyrte medier nedprioriteres i de sosiale mediene, blant annet på Facebook, til fordel for annet innhold som kan skape mer engasjement.[30] ,[31] I stedet har man sett en fremvekst av influensere. Reuters Institute peker i sin rapport for 2024 på en fremvekst av nyhetsprofiler som gjerne kan ha større rekkevidde enn redaktørstyrte medier og deres profiler, særlig i USA.[32]

2.3.3 Nordmenns kjennskap til og bruk av KI

Statistisk Sentralbyrå (SSB) har sett på norske husholdningers bruk av IKT generelt, deriblant KI. SSB fant i starten av 2024 at bruken av KI varierer mellom kjønn, alder og fylke. Samlet sett er det flere menn enn kvinner som bruker KI, hvor vi finner 42 prosent menn mot 30 prosent kvinner. Unntaket er kvinner i alderen 16-24 år, hvor 68 prosent av kvinner bruker KI mot 62 prosent menn.[33]

Videre finner SSB at 65 prosent av nordmenn mellom 16 og 24 år har brukt generativ KI. Deretter avtar bruken med alderen: 53 prosent for personer mellom 25 år og 34 år, og 9-10 prosent for de over 65 år. 64 prosent av befolkningen benytter seg ikke av generativ KI. De aller fleste av disse oppgir at de ikke har behov. Andre oppgir at de ikke vet hvordan teknologien skal brukes, er bekymret for personvern eller ikke visste at slike verktøy fantes.

Senter for forskning på sivilsamfunn og frivillig sektor har også undersøkt nordmenns bruk av KI, og finner at kjennskapen og bruken til KI-verktøy er utbredt, men at tilliten til KI er lav. Den lave tilliten skyldes hovedsakelig samfunnsmessige konsekvenser knyttet til både «problematisk bruk» og «uintenderte konsekvenser». Dette skiller seg fra de positive effektene, som at KI kan bidra til økt produktivitet og effektivisering, som er gunstig for samfunnet, men som også kan påvirke arbeidsledigheten.[34]

De finner videre klare sammenhenger i bruk, holdninger og kjennskap til KI mellom ulike sosioøkonomiske grupper. Nordmenn med høyere utdanning tar i større grad i bruk KI, har færre bekymringer for konsekvenser for arbeidslivet og er positive til mulighetene KI fører med seg. Denne gruppens fremste bekymringer ser ut til å være de bredere samfunnsmessige konsekvensene, som politisk manipulasjon og økt makt til teknologiselskaper.Den største brukergruppen av KI er unge (under 45 år), utdannede menn med høy inntekt (over 700 000). Kvinner over 45 år med lav utdanning og inntekt, bruker KI i mindre grad. Denne gruppen møter flere brukerutfordringer, er mer bekymret for negative konsekvenser, og har mindre tro på positive effekter, både i jobbsammenheng og på fritiden.På samme måte som det er skiller i bruk av IT-verktøy, kan det se ut til at vi får et liknende skille mellom de som bruker og ikke bruker KI. Når det gjelder bruk av KI, benytter nordmenn KI-verktøy hovedsakelig til tekstarbeid, men også til underholdning, undervisning og inspirasjon.[35]

Reuters News Report finner at 37 prosent av nordmenn oppgir å ha hørt eller lest ganske eller veldig mye om KI. Sammenlignet med andre land er Norge under snittet, som er 45 prosent. De konkluderer derfor med at nordmenn fremstår som lite opplest på KI.[36]

Medietilsynet har gjennomført en undersøkelse av kritisk medieforståelse i den norske befolkningen.[37] Her peker de på hvordan teknologisk utvikling – og spesielt fremveksten av generativ KI – har forsterket skillet mellom pålitelige og upålitelige informasjonskilder. Rapporten viser at det er store forskjeller i troen på egne evner til å vurdere hva som er generert innhold, og hva som ikke er det.

Mange av respondentene i denne undersøkelsen har brukt KI-tjenester for å finne informasjon (53 prosent) og for å få hjelp til skrivearbeid (45 prosent). Det er også en del har oppsøkt slike verktøy av nysgjerrighet for å se hvordan KI fungerer (41 prosent). Blant dem som har benyttet seg av KI-tjenester viser det seg at 40 prosent har i «svært stor» og «stor» grad anser informasjonen som korrekt og troverdig, mot 13 prosent som vurderer informasjonen i «liten» eller «svært liten» grad som korrekt eller troverdig. Det er samtidig store forskjeller mellom yngre og eldre målgrupper når det gjelder overbevisning av sannhetsverdien i KI-generert innhold. Den yngre delen av befolkningen bruker KI mest og har størst tillit til at informasjonen er korrekt og troverdig. Mange i denne gruppen synes dessuten det er lett å vurdere om informasjonen de finner på nett er sann eller usann.[38] Eldre aldersgrupper er i større grad bekymret for at KI gjør det vanskeligere å skille sann informasjon fra usann informasjon på nett. Blant de over 35 år er 81 prosent enten «veldig bekymret» eller «noe bekymret», mot 62 prosent av de yngre. Dette kan ha en sammenheng med at eldre grupper har mindre kjennskap til nye digitale verktøy, benytter KI-tjenester i mindre grad og har flere bekymringer knyttet til KI.[39]

Det er også tegn på at KI-verktøy blir viktigere som informasjonskilde. Kantars undersøkelse av medietrender blant unge viser at bruken av tradisjonelle søkemotorer som Google er fallende blant de unge, og at mange i denne aldersgruppen foretrekker tjenester som ChatGPT, men også TikTok, som informasjonskilder.[40]

2.3.4 Medienes rolle i valgkamp

De redaktørstyrte mediene spiller en svært viktig rolle i demokratiet, og særlig i forbindelse med valg ved å være en troverdig og kvalitetssikret informasjonskilde for befolkningen og gjennom å drive kritisk journalistikk og være en arena for debatt. Valgforskningen har vist at nordmenn er storforbrukere av nyheter fra redaktørstyrte medier i valgkamp, og at andelen som daglig får med seg nyheter om valget øker frem mot valgdagen, også for de minst politisk interesserte.[41] I stortingsvalgundersøkelsen for stortingsvalget i 2021, finner man at flest velgere har lest, sett eller hørt nyheter om politikk og samfunnsspørsmål fra NRK TV. Også lokalaviser og radio når mange. Bruken av Facebook som nyhetskilde var stabil fra stortingsvalget i 2017 til 2021, med rundt 20 prosent som oppga å bruke det som nyhetskilde daglig.[42]

Også gjennom lokalvalgundersøkelsene som gjennomføres i forbindelse med hvert kommunestyre- og fylkestingsvalg, har man sett at velgerne benytter seg av både lokale, regionale og nasjonale medier for å få nyheter om valget. Samtidig er det forskjeller mellom grupper i samfunnet. Bruken av redaktørstyrte medier øker jo høyere utdanning velgerne har, mens det ikke er noen slik effekt for bruk av sosiale medier. I 2019 fant man at sosiale medier er viktigere for yngre og for kvinner enn for andre grupper.[43]

2.4 Demokrati og tillit

Norge er et solid, velfungerende og stabilt demokrati. Det underbygges av at Norge over lang tid har vært i toppsjiktet i ulike globale demokratimålinger, som The Economist Democracy Index[44] og Varieties of Democracy[45] .

Også den norske tilstandsanalysen av det norske demokratiet, gjennomført av forskere ved Universitetet i Oslo, konkluderer med at Norge er et av verdens mest demokratiske land. Det norske demokratiet holder gjennomgående høyt nivå på tvers av de ulike dimensjonene som er undersøkt, men det finnes også rom for forbedringer.[46] Forskerne bak tilstandsanalysen har spurt over 100 eksperter på norsk politikk og demokrati. De finner at det norske demokratiet sannsynligvis er ganske motstandsdyktig i møte med såkalte «autoritære utfordringer». Det betyr likevel ikke at det norske demokratiet er immunt mot demokratisk tilbakegang. Blant utfordringene som trekkes frem i undersøkelsen, er at innbyggere oppfatter at maktmisbruk og korrupsjon er utbredt. I Innbyggerundersøkelsen, som gjennomføres av Direktoratet for økonomistyring og forvaltning (DFØ), kommer det også frem at det har vært en nedgang i tilliten til at stortingspolitikere arbeider for folks beste, og en økning i andelen som svarer at de tror korrupsjon forekommer i staten og kommunen.[47] Andre områder tilstandsanalysen peker på er en tilsynelatende økning i trusler og trakassering av politikere. Som konsekvens av dette kan politikere «selvsensurere» seg ved å ikke delta i debatter om visse temaer, eller trekke seg ut av politikken. Det pekes også på en skjevfordeling av politisk innflytelse på gruppenivå.

Det høye tillitsnivået har blitt pekt på som en forklaringsfaktor for hvorfor det norske demokratiet står sterkt. I en internasjonal målestokk har nordmenn høy tillit til hverandre, mediene, myndigheter og politiske aktører både på nasjonalt og lokalt nivå. Men tillit er ikke jevnt fordelt i samfunnet. I en undersøkelse om lokalpolitisk tillit, fant forskerne at grupper som kan regnes som «politisk ressurssterke», enkelt sagt middelaldrende, yrkesaktive personer med høyere utdanning, i snitt har høyest tillit til de lokalpolitiske aktørene og institusjonene. I samme undersøkelse så de også at det var et større tillitsfall i de gruppene som i utgangspunktet hadde lavere politisk tillit, noe som kan tyde på økende forskjeller i tillit.[48] Også når det gjelder tilliten til selve valget er det forskjeller, særlig mellom de som stemmer og de som ikke stemmer. I Velgerundersøkelsen for 2023 ble velgerne spurt om de stolte på at valget hadde gått riktig for seg, og kunne svare på en skala fra 0 til 10, hvor 10 betyr at velgeren stoler fullt og helt på at valget hadde gått riktig for seg. Undersøkelsen fant at over halvparten av de som stemte i 2023 svarte at de hadde full tillit til at valget hadde gått rett for seg, det vil si at de ga høyest mulige score. Selv om et flertall av de som ikke stemte også svarte at de hadde tillit, plasserte 17 prosent av disse seg under midtkategorien, mot 6 prosent blant gruppen som stemte.[49]

Selv om det norske demokratiet vurderes som sannsynligvisganske motstandsdyktig mot autoritære krefter, er det likevel noen utviklingstrekk som synliggjør sårbarheter på dette området. Undersøkelser gjort blant norske 9. klassinger har vist at norske elever i mindre grad enn elever på tilsvarende trinn i Sverige og Danmark gjenkjenner trusler mot demokratiet når de får slike presentert.[50] I en foreløpig upublisert studie som er gjengitt i et innlegg i VG, peker norske forskere på at udemokratisk atferd fra politikere straffes av norske velgere, men i mindre grad enn man kunne håpet på. Det vil si at holdninger til konkrete saker tillegges større vekt enn hvorvidt kandidaten oppfører seg i tråd med demokratiske prinsipper. I den yngste velgergruppen (18–29 år) synes tilbøyeligheten til å tolerere udemokratisk adferd fra politikere å være høyest.[51]

Ytringsfriheten er en forutsetning for demokratiet. I 2022 slo Ytringsfrihetskommisjonen fast at ytringsfriheten står sterkt i Norge. De konkluderte også med at internett har styrket ytringsfriheten. Likevel pekte de på en rekke utfordringer, blant annet knyttet til en digital offentlighet kontrollert av globale teknologiplattformer og økende risiko for feil- og desinformasjon.[52] Norges institusjon for menneskerettigheter og Teknologirådet har i forlengelsen av dette pekt på at fremveksten av generativ KI forsterker Ytringsfrihetskommisjonens analyse av den nye digitale offentlighetens negative virkninger.[53]

2.5 Norges digitale infrastruktur

Den digitale infrastrukturen i Norge består av en grunnmur av funksjoner som sikrer distribusjon av informasjon. Bak sosiale medier og andre applikasjoner og plattformer som gir tilgang til innhold, ligger et fysisk lag som består av kabler, servere og knutepunkter som igjen administreres av algoritmer og andre protokoller for datatrafikk. Fiberkabler som går under vann og over land kobler Norge sammen med utlandet og muliggjør kommunikasjon mellom landsdelene.

Robusthet i denne infrastrukturens verdikjeder er viktig for å opprettholde en robust kommunikasjonsinfrastruktur. Norge har foreløpig relativt god redundans og transparens i kabel- og knutepunkt-infrastrukturen gjennom offentlig eierskap, men rundt halvparten av fiberinfrastrukturen i Norge er eid av utenlandske aktører. Mellomlagringsnettverk og skytjenester domineres nærmest i sin helhet av amerikanske teknologiselskaper.[54] Datasenterindustrien er i sterk vekst, hvorav flere norske aktører har blitt kjøpt opp av utenlandske investeringsselskaper de siste par årene.

Flere av aktørene i denne grunnstrukturen opererer også på plattformnivå, som Google og Meta. Makten i den digitale infrastrukturen ligger hos amerikanske teknologiselskaper. Den fysiske og plattformmessige infrastrukturen har stor betydning for å nå ut med informasjon, samt for befolkningens mulighet til å kommunisere, søke informasjon og delta i demokratiet.

KI spiller en viktig rolle i hvordan data administreres innad i den digitale infrastrukturen. Skytjenester og mellomlagringsnettverk flytter data rundt i sine globale nettverk basert på automatiserte analyser av pris, trafikk og kapasitet. Over halvparten av helt vanlig kommunikasjonsdata som søk, e-poster og nettsidebesøk krysser grensene ut av Norge.[55] Når data krysser grenser, utløses digital overvåkning. Dataprotokollene som administrerer dataflyten i den digitale infrastrukturen er slik sett et uttrykk for hvordan KI, utover generativ KI, er med på å forme informasjonsflyten i samfunnet, og dermed kan ha konsekvenser for demokratiet.

2.6 Regelverk og regulering av KI

Vi har i dag ingen dedikert KI-lov i Norge, men regelverk som allerede finnes er med på å sette visse rammer for KI. EU-lovgivning som er EØS-relevant skal også implementeres i Norge og vil bli norsk lov. Det finnes også andre internasjonale avtaler og initiativer, blant annet gjennom Europarådet og OECD. Dette er et landskap i endring hvor det er mye regelverksarbeid som pågår. I det følgende omtaler vi viktige EU-regelverk.

Forordningen om digitale tjenester (DSA)

DSA skal bidra til å styrke det indre markedet ved å modernisere og presisere internettbaserte plattformers plikter ved fjerning av ulovlig innhold, og adressere nye problemsstillinger som har kommet frem i forbindelse med plattformøkonomien. Forordningen vil dermed erstatte dagens praksis hvor plattformeierne selv regulerer hvilke innhold som tolereres. Reguleringen vil gi større demokratisk kontroll og tilsyn med plattformene, og redusere risiko for manipulasjon og ulovlig innhold der målet er et tryggere internett for forbrukerne, med mer åpne, gjennomsiktige og pålitelige plattformer.[56]

Hva som er lovlige og ulovlige ytringer reguleres ikke av DSA, men av medlemslandenes lovgivning og både feil- og desinformasjon er beskyttet av ytringsfriheten.

Kommisjonen får gjennom DSA, fullmakt til å føre tilsyn med veldig store internettplattformer (VLOP-er) eller veldig store søkemotorer (VLOSE-er). Dette gjelder selskaper som når ut til over 10 prosent av befolkningen i EU. Det stilles et årlig minimumskrav til VLOP-er og VLOSE-er om gjennomføring av uavhengig revisjon, og identifisere, analysere og vurdere risiko ved plattformbruk. Det sistnevnte kravet innebærer blant annet en risikovurdering som innrettes mot risikoen for den offentlige debatten og valgprosesser. I tillegg må det føres tilsyn av en nasjonal koordinator, utpekes tilsynsansvarlige og deles rapporter om transparens.

De nasjonale koordinatorene og Kommisjonen vil samarbeide gjennom det europeiske rådet for digitale tjenester (European Board for Digital Services – EBDS), og skal fungere som et rådgivende organ. EBDS valgte i 2024 å prioritere tiltak mot uønsket påvirkning av valg.[57]

Bransjenormen mot desinformasjon (The Code of Practice on Disinformation)

Bransjenormen mot desinformasjon er en veiledning fra Europakommisjonen, etablert i 2018 og revidert i 2022. De 44 tilsluttede aktørene har forplikter seg til å begrense desinformasjon ved å støtte forpliktelser og iverksette tiltak som er relevante for deres virkeområder. Blant dem som har signert finner vi aktører innen plattformtjenester, reklame, faktasjekking, sivilsamfunn, forskning og andre.[58]

KI-forordningen (EU Artificial Intelligence Act)

KI-forordningen er en forordning for regulering av KI. Dentrådte i kraft 1. august 2024 og skal implementeres over 24 måneder. Gjennom EØS-avtalen vil KI-forordningen bli norsk lov. Den vil derfor legge føringer for hvordan Norge skal føre tilsyn med KI.[59] Bakgrunnen for regelverket er å sikre trygg, pålitelig og menneskesentrert KI.[60]

KI-forordningen tar utgangspunkt i ulike anvendelser av KI-teknologier med inndeling i risikokategorier. Dette innebærer at jo høyere risiko bruken av KI utgjør, desto strengere bør bruken reguleres.[61] Noen anvendelser av KI forbys, for eksempel påvirkningsteknikker for å manipulere menneskers underbevissthet og oppførsel, systemer som utnytter menneskelig sårbarhet knyttet til alder eller fysiske eller psykiske funksjonsnedsettelser, systemer brukt av myndigheter for å evaluere eller klassifisere personers troverdighet og – med visse unntak – bruk av identifiseringssystemer på offentlige steder som tar i bruk biometriske identitetsmarkører. Anvendelser av KI i klassifiseringen høyrisiko, må reguleres med krav knyttet til risikohåndtering, styring av data, teknisk dokumentasjon, menneskelig tilsyn med mer. I tillegg er det et transparenskrav som innebærer krav om merking av KI-generert innhold som deepfakes og manipulerte bilder.

Forordningen gjelder for:

Leverandører som leverer KI-verktøy eller setter KI-verktøyer eller grunnmodeller på markedet.

Brukere av KI-verktøy etablert eller lokalisert i EU.

Leverandører og brukere utenfor EU, hvis deres KI-verktøy brukes innenfor EU.

Importører og distributører av KI-verktøy.

Produktprodusenter som integrerer KI-verktøy i/med sine produkter under sitt eget navn eller varemerke.

Autoriserte representanter i EU for leverandører som ikke er etablert i EU.

Personer i EU som er berørt av disse KI-verktøyene.[62]

Forordningen om mediefrihet (European Media Freedom Act – EMFA)

Forordningen om mediefrihet ble vedtatt 11. april 2024, og trådte i kraft 7. mai 2024. Gjennom EØS-avtalen vil forordningen bli implementert i norsk lov. EMFA skal blant annet sikre mediemangfold og medienes uavhengighet, og stiller krav til tilbydere, aktører og medlemsstater som opererer i mediemarkedet. Forordningen stiller for eksempel krav om redaksjonell uavhengighet, beskyttelse av journalistiske kilder, krav om allmennkringkasternes redaksjonelle uavhengighet og åpenhet om eierskap i medieforetak. Den inneholder også bestemmelser som skal beskytte redaktørstyrte medier mot urettmessig fjerning av innhold på de store internettplattformene. Det vil også etableres et teknisk og praktisk rådgivende organ som styrker samarbeidet mellom tilsynsmyndigheter innen mediefeltet.[63]

3 Hvilken betydning kan KI ha for valg?

Ekspertgruppen legger en vid forståelse av valg til grunn, som favner bredere enn den praktiske valggjennomføringen, og omfatter valgkamp og perioden etter valget når valgresultatene er offentliggjort og diskuteres.

I arbeidet har ekspertgruppen fulgt tre hovedspor hvor vi mener KI kan ha betydning for valg og demokrati. På disse områdene mener vi det er særlig grunner til å ha oppmerksomhet og beredskap på plass for å unngå negative konsekvenser for valg og demokrati:

Informasjons- og medielandskapet

Fordekt valgpåvirkning

Valggjennomføring og cybersikkerhet

Hovedsporene er inspirert av tredelingen som The Alan Turing Institute har benyttet i sine rapporter om påvirkning av valg, som tar utgangspunkt i at KI kan brukes for å påvirke enkeltindivider, forringe informasjonslandskapet og påvirke valggjennomføringen og -infrastrukturen.[64]

Det er ikke vanntette skott mellom de ulike sporene og de bør ses i sammenheng. For eksempel kan en påvirkningsoperasjon også inneholde cyberangrep eller være rettet mot å forsterke konflikter eller endre hvordan informasjonslandskapet fungerer.

Vi oppsummerer hovedsporene og hvilken betydning de kan ha i tabell 3.1.

Tabell 3.1 Hovedsporene ekspertgruppen har tatt utgangspunkt i, og eksempler på endringer og betydning

Områder KI kan ha betydning for

Eksempler på endringer

Hva kan det få betydning for

Informasjons- og medielandskapet

KI-generert tekst, bilde, video og lyd

Feilinformasjon og skjevheter i KI

Forsterket fragmentering av medielandskapet

Vanskeligere å skille sant og usant

Stemmegivning

Tillit til informasjonskanaler

Tillit til at andre er informert

Tilgang til troverdig informasjon

Avhengighet til teknologiselskaper

Offentlig samtale

Fordekt valgpåvirkning

Forsterking av desinformasjon og manipulasjon

Flere trusselaktører

Tillit til politiske institusjoner og valg

Holdninger og følelser

Stemmegivning

Valggjennomføring og cybersikkerhet

Forsterking av muligheter for cyberangrep og sabotasje

Valggjennomføringen

Tillit til valgsystemet, gjennomføringen og resultatet

3.1 Informasjons- og medielandskapet

Et velfungerende informasjons- og medielandskap, hvor redaktørstyrte medier står sterkt, sikrer at velgerne får kvalitetssikret og troverdig informasjon, at saker, partier og kandidater blir møtt med et kritisk søkelys og en faktabasert offentlig debatt som gir velgerne grunnlag til å gi sin stemme på et informert grunnlag. Et mangfoldig medielandskap bidrar til bred inkludering og representasjon av ulike syn.

Informasjons- og medielandskapet har allerede gått gjennom store endringer, som skyldes både teknologisk utvikling som har flyttet innhold og lesere fra papir til nett, og til stadig nye formater, og at sosiale medier har blitt viktigere plattformer for nyheter. Dette har positive sider, som at folk får større tilgang til informasjon og nettverk. Samtidig har det negative sider, som en økende fragmentering av den offentlige samtalen og økt maktkonsentrasjon hos noen store internasjonale plattform- og teknologiselskaper og enkeltpersoner, eksempelvis X-eier Elon Musk, andre eiere og influensere.

«Tradisjonell» KI, i form av algoritmer, har lenge vært en grunnleggende del av hvordan sosiale medier fungerer. Dette har bidratt til endringer i informasjonslandskapet ved at den enkelte brukeren kan motta søkeresultater, nyheter og innhold basert på egne og lignende brukeres interesser. Den algoritmestyrte logikken kan også gi større eksponering for feil- og desinformasjon.

Generativ KI forsterker alle disse tendensene. Slike verktøy bidrar til nye måter å produsere, distribuere, systematisere og analysere informasjon, samt at det kan føre til endringer i hvor og hvordan velgere tilegner seg informasjon.

Generert innhold kan komme i ulike formater, som tekst, lyd, bilde og video, og gjør det mulig å produsere virkelighetsnært, men falskt innhold på en mer effektiv måte og med færre ressurser. Mye av bruken vil være uproblematisk, mens noe kan ha potensial til å forvirre og villede, men vil fortsatt være innenfor rammene av ytringsfriheten. Kunstig generert feilinformasjon kan få et omfang som svekker tilliten til informasjon generelt, og dermed bidra til å fortrenge troverdig informasjon. Denne typen innhold kan eksempelvis brukes til å villede eller forvirre velgere om saker, valggjennomføring, undergrave politiske motstandere, forsterke det emosjonelle engasjementet hos velgere eller til å generere tekster til sosiale medier og nettsider. Som annen feil- og desinformasjon spres slikt innhold primært gjennom sosiale plattformer.

Det store gjennombruddet for generativ KI kom med chatbotene, og særlig ChatGPT i november 2022. Siden har også andre selskaper sluppet sine chatboter. Selv om det er de store selskapenes generelle chatboter som brukes mest, finnes det også mer spesialiserte varianter som er trent på et avgrenset materiale for å svare på spørsmål innenfor et bestemt tema. Siden chatboter gir raske og tilpassede svar, velger mange brukere å heller benytte seg av slike verktøy for å finne informasjon, i stedet for tradisjonelle søkemotorer.[65] En slik forflytning kan være problematisk dersom språkmodellene genererer feil informasjon om valg, kandidater og partier – såkalt «hallusinering». Språkmodeller kan også ha tilsiktede eller utilsiktede politiske skjevheter som ikke er kjent for brukeren, som skyldes datamaterialet modellen er trent på. Bruk av chatboter som informasjonskilde gjør at informasjonen i økende grad kan være personalisert, og informasjonen som gis vil variere og vil ikke nødvendigvis være tilgjengelig for allmennheten. Søkemotorer har også begynt å inkludere KI-genererte sammendrag i søkeresultatene, som for eksempel Googles «AI overviews». Dette gir brukerne et direkte KI-generert svar i stedet for å henvise dem til kildene.

Chatboter, bot-avatarer, og lignende KI-drevne tjenester kan bidra positivt til spredning av relevant informasjon, særlig gjennom tilgjengeliggjøring på flere språk og universell utforming av tekst for brukere med syns- og hørselsutfordringer. Men med slik teknologi kommer imidlertid en utfordring for valgmyndigheter på lokalt og nasjonalt nivå, da disse har i oppdrag å sikre at velgerne er korrekt informert. Det foreligger flere eksempler på at chatboter gir ukorrekt informasjon om valg, som vi kommer tilbake til i kapittel 4 og 5.

KI har allerede fått betydning for medielandskapet, både i hvordan de redaktørstyrte mediene selv jobber og for deres rolle i samfunnet. Mediene har aktivt tatt i bruk KI på noen områder, blant annet for å lage oppsummeringer av saker og i internt arbeid med research, transkribering, oversettelser og tekstoppbygging. Samtidig innebærer økt utbredelse av KI-generert innhold også at mediene må være mer på vakt mot å bli lurt av slikt innhold og benytte mer ressurser til å verifisere innhold for å unngå å publisere uriktig informasjon. Flere har også forsøkt seg på mer eksperimentell bruk av KI for å engasjere brukere på nye måter. I forbindelse med det amerikanske presidentvalget, hadde for eksempel VG en valgchat, og TV 2 en KI-avatar hvor brukere kunne stille spørsmål og få svar fra det som fremsto som nyhetsanker Kjetil H. Dale. For redaktørstyrte mediers bruk av KI ligger presseetikken til grunn og redaktøren står som garantist for innholdets troverdighet. Norske redaktørstyrte medier viser høy bevissthet og åpenhet om bruk av KI og har retningslinjer for KI-bruk.

Mediene i Norge er gitt særlige rammer for å støtte opp om ytringsfriheten og den offentlige samtalen, og utgjør slik sett en motvekt mot de potensielle negative virkningene disse utviklingstrekkene kan ha for gjennomføringen av valg i Norge. Virkemidlene som brukes for å sikre de redaktørstyrte mediene i møte med desinformasjon, påvirkningsoperasjoner og bortfallet av yngre brukere bør gjenspeile disse endringene, og ta sikte på å styrke de redaktørstyrte medienes konkurranse- og innovasjonsevne i den teknologiske utviklingen.

De potensielle konsekvensene av KI-baserte deepfakes, feilinformasjon og chatboter er alvorlige. Det gjør det vanskeligere å skille mellom ekte og falskt innhold, noe som undergraver tilliten til informasjonslandskapet.[66] Endringene innebærer at man i mindre grad eksponeres for det samme innholdet og informasjonen, og bidrar til et mer uoversiktlig informasjons- og medielandskap. Samlet sett viser endringene som er omtalt over at konsekvensene ikke bare har potensiale til å påvirke valgprosessen, men det demokratiske systemet som helhet.

3.2 Fordekt valgpåvirkning

KI kan skape nye muligheter innenfor påvirkning og manipulasjon rettet mot både individer og grupper i samfunnet. Det gjelder både for den politiske påvirkningen som er en naturlig del av en valgkamp, men også fordekt påvirkning – som er det andre hovedsporet ekspertgruppen har sett på. Se punkt 1.5 for ekspertgruppens definisjoner som omhandler uønsket påvirkning.

Tilgjengelige og rimelige KI-verktøy kan senke barrieren for å gjennomføre påvirkningsoperasjoner. Ikke bare kan det forsterke kraften fra etablerte trusselaktører, det kan også føre til at flere og nye trusselaktører kommer på banen. Det kan omfatte både utenlandske statlige og ikke-statlige aktører, men også åpne opp for forsøk på fordekt valgpåvirkning fra eventuelle norske aktører som opererer alene eller i samarbeid med andre aktører. At utenlandske aktører samvirker med innenlandske aktører så man blant annet i forbindelse med det dramatiske presidentvalget i Romania i desember 2024, som er nærmere omtalt i punkt 4.1. Ekspertgruppen vil understreke at det er et klart prinsipielt skille i hvordan man skal imøtegå henholdsvis utenlandske og innenlandske aktører, og at tiltak og innsatser ikke må bidra til å innskrenke norske borgeres ytringsfrihet.

Fordekt valgpåvirkning er ikke avgrenset til enkeltstående hendelser rundt selve valgdagen. Som EUs utenrikstjeneste EEAS har påpekt, vil en koordinert påvirkningsoperasjon gjerne skje over et lengre tidsrom som strekker seg fra lenge før valget til etter at det er gjennomført, og går gjennom ulike faser med ulik intensitet av aktiviteten.[67] The Alan Turing Institute har pekt på at det er ulike stadier i en valgprosess, og at trusselaktører har ulike mål for påvirkningen i de ulike fasene:[68]

Før stemmegivningen starter: Påvirkningsoperasjoner fokuserer på å underminere omdømmet til bestemte kandidater eller på å forme velgernes synspunkter på spesielle saker.

I stemmeperioden: Fokus på å forstyrre og overbelaste informasjonsrommet og forvirre velgere om spesielle saker knyttet til valgkampen eller valget.

Etter valget: Fokus på å bryte ned tilliten til valgresultatet, for eksempel gjennom å skape inntrykk av valgfusk – som igjen kan slå over i mer langsiktig fall i tilliten til demokratiske prosesser.

Ekspertgruppen vil trekke frem tre måter KI kan brukes på som kan utgjøre særlige trusler i denne sammenhengen:

Falske brukere og nettsider: Trusselaktører kan benytte KI til å generere ulike former for villedende innhold på en mer effektiv måte enn tidligere. Språklige, og til dels også kulturelle barrierer reduseres. Boter og botnettverk kan opereres mer effektivt. Man kan raskere opprette og administrere falske profiler og falske nettsider. Det finnes en rekke eksempler hvor trusselaktører har brukt KI-verktøy for å lage falske nettsider som enten etterligner redaktørstyrte medier med høy troverdighet eller utgir seg for å være nye nettaviser eller nettsider for (ikke-eksisterende) forskningsinstitutter eller lignende.[69] Disse sidene brukes for å spre innhold som har til hensikt å påvirke gjennom å spre de narrativene trusselaktøren mener å være tjent med, gjennom kanaler som er ment å fremstå som troverdige og autentiske (se boks 3.1 for omtale av Doppelganger-operasjonen). Potensielt kan det også gjøre det vanskeligere å oppdage inautentisk atferd på sosiale medier, da det er mindre ressurskrevende å variere både språk og uttrykk. Med KI kan aktiviteter av denne typen også automatisere opprettelse og innholdsproduksjon av slike falske brukere og nettsider.

Økt personalisering: En trusselaktør kan bruke KI som del av en påvirkningsoperasjon for å påvirke holdninger, meninger og oppfatninger hos velgere. Dette kan inkludere spredning av ulike typer KI-generert desinformasjon som er mer eller mindre tilpasset ulike grupper. Gjennom målretting av innhold er det også mulig å tilpasse budskap til mottakeren basert på for eksempel kjennetegn som alder, kjønn, bosted og andre personlige forhold ut fra data aktøren har fått tilgang til. Ved å utnytte slike muligheter, kan for eksempel trusselaktører mer presist rette seg inn mot velgere for å påvirke dem til, for eksempel, å stemme annerledes enn de ellers ville gjort, eller til å avstå fra å stemme. De samme teknikkene kan brukes bredere for å påvirke dagsordenen og debatten rundt et valg for å få frem spesielle saker, for eksempel forhold som er særlig polariserende eller som kan bidra til å redusere tilliten i samfunnet.

Overstrømming av innhold: En trusselaktør kan også gjøre seg nytte av mulighetene KI gir til å skape en overflod av KI-generert innhold, som kan inkludere falske nyheter, manipulerte videoer, manipulerte stemmer og andre former for desinformasjon. Hvis slik desinformasjon oversvømmer ulike plattformer og nettsider, kan dette føre til en generell mistillit til nyheter og annen tilgjengelig informasjon. Enda mer alvorlig er risikoen for at det kan bidra til at borgerne ikke lenger stoler på at andre i samfunnet er godt nok informerte. Tillit til at andre medborgere tar informerte valg er avgjørende for et fungerende demokrati, i et informasjonslandskap preget av desinformasjon kan slik tillit forringes.

Boks 3.1 Doppelganger-operasjonen

Doppelganger-operasjonen er et illustrerende eksempel på hvordan russiske påvirkningsnettverk jobber. Operasjonen har rettet seg mot mange land siden 2022, og handler særlig om å undergrave støtten til Ukraina og å bidra til splittelse innad i land som støtter Ukraina. En sentral del av operasjonen har vært å opprette falske nettsider. Disse nettsidene har blant annet vært kloner av anerkjente medier og myndigheters nettsider, og de har laget nettsider som fremmer anti-ukrainsk og pro-russisk innhold.

Kilde: EU DisinfoLab, 2024

3.3 Valggjennomføring og cybersikkerhet

Det tredje hovedsporet ekspertgruppen har tatt utgangspunkt i, handler om betydningen KI kan ha for selve valggjennomføringen og cybersikkerhet i tilknytning til valg. Sikkerheten rundt valg har fått stadig større oppmerksomhet, og KI vil kunne spille inn på flere måter også i dette arbeidet. Trusselaktører eller ondsinnede aktører kan benytte KI til å utføre ødeleggende aktiviteter raskere og i større skala, og med færre ressurser.

KI kan for eksempel brukes til å kompromittere og manipulere elektroniske systemer som brukes i valg eller skape kaos gjennom cyberangrep eller -operasjoner. Dette kan hindre eller forstyrre selve valggjennomføringen og skape usikkerhet rundt selve valgresultatet. Slike hendelser kan få betydning i form av svekket tillit til valgets integritet og legitimiteten til demokratiske prosesser, uavhengig av om angrepene faktisk lykkes med å påføre noen faktisk skade eller gjøre endringer i systemer.

Et eksempel på dette er gjennom phishing-kampanjer, hvor aktører kan forsøke å svindle eller skaffe seg tilganger til systemer eller informasjon, typisk gjennom å få enkeltpersoner, som for eksempel personer tilknyttet valgmyndigheter eller politikere, til å oppgi opplysninger eller få dem til å åpne lenker. Med KI-verktøy som språkmodeller og stemmekloning kan trusselaktører utføre målrettede cyberoperasjoner mot enkeltpersoner som fremstår mer troverdig. KI-verktøy kan også brukes i storskala kampanjer som har som mål å hindre stemmegivning, for eksempel gjennom overbelastningsangrep (DDoS), plassering av skadevare, automatiserte telefonoppringninger eller til å fremme trusler mot valget.

KI gir også nye verktøy som kan benyttes til programmering og til å gjennomgå kode. Her er det klare muligheter for å nyttiggjøre seg av slike verktøy for å lette og effektivisere arbeid med utvikling av elektroniske løsninger. Kodegjennomgang kan være nyttig for å avdekke sårbarheter i elektroniske løsninger, og EUs utenrikstjeneste har pekt på at «[t]he explosive growth and availability of AI tools may even hold more benefits for defenders than attackers».[70] Likevel er det også et potensiale for misbruk. Nasjonal sikkerhetsmyndighet (NSM) har pekt på at trusselaktører gjennomfører grundigere rekognoseringsangrep for å lære seg hvordan de kan hente ut informasjon de er ute etter, og at nye verktøy gjør det mulig for trusselaktører med lavere teknisk kompetanse å trenge seg inn i systemer man ønsker å beskytte.

4 Erfaringer fra valg gjennomført i 2024

En sentral del av ekspertgruppens mandat har vært å kartlegge erfaringer fra andre land som gjennomførte valg i løpet av 2024. Kartleggingen innebærer hva landene har gjort i forkant av valget for å forberede seg på at KI kan bli benyttet på en uønsket måte, om det har vært hendelser i forbindelse med valget som innebærer bruk av KI og håndteringen av hendelsene, samt om KI er vurdert å ha hatt noen betydning for valggjennomføringen eller -resultatet.

Kartleggingen bygger på informasjon innhentet på tre måter. For det første gjennom studieturene ekspertgruppen har gjennomført til Finland, Storbritannia, Belgia og USA. For det andre bygger den på innspill fra norske utenriksstasjoner. Alle ambassader og faste delegasjoner fikk i august en bestilling fra Utenriksdepartementet på vegne av ekspertgruppen, hvor de ble bedt om å orientere om KI og valg i sine respektive land. Hvilke utenriksstasjoner som har sendt orienteringer fremgår av vedlegg 1. For det tredje bygger kartleggingen på offentlige rapporter fra bl.a. forskningsinstitusjoner, teknologiselskaper og tenketanker, samt medieoppslag.

Ekspertgruppen har lagt særlig vekt på de store valgene i Europa og USA i 2024, ettersom dette er valg som gjennomføres i land med lange demokratiske tradisjoner hvor erfaringene i større grad kan ha relevans også i en norsk kontekst. I det følgende kapitlet gjennomgås derfor sentrale valg ekspertgruppen har undersøkt, i tillegg er det tatt inn enkelte interessante funn og eksempler fra andre land. På tampen av ekspertgruppens arbeidsperiode ble valget i Romania gjennomført, som skulle vise seg å bli det mest dramatiske eksempelet i 2024. Det er kun valg som er gjennomført i 2024 som er omtalt, derfor er ikke det mye omtalte valget i Slovakia omtalt her – og eksempelvis heller ikke valgene i Argentina eller Nigeria, da alle disse ble gjennomført i 2023.

Ekspertgruppen tar forbehold om at det kan være hendelser som ikke er fanget opp av denne kartleggingen, og det tas heller ikke sikte på å omtale alle hendelser i forbindelse med valg hvor KI har spilt en rolle. Fokuset i det følgende kapitlet er å få frem erfaringer fra ulike land, hvordan de har tilnærmet seg denne nye utfordringen og trekke frem enkelte illustrerende eksempler.

Som en forberedelse til valgåret 2024 gikk en rekke teknologiselskaper i februar 2024 sammen om en avtale om å bekjempe falske nyheter og spore opp KI-generert politisk innhold, kalt Munich Tech Accord.[71] Gjennom denne avtalen skrev selskaper som blant annet Microsoft, Google, Meta, TikTok, Snap, OpenAI, X og flere andre under på å jobbe for å forhindre skadelig KI-generert innhold som kan villede velgere.

4.1 Romania

Første runde av Romanias presidentvalg ble gjennomført 24. november, men valgresultatet ble annullert kun kort tid før andre runde skulle avholdes.[72] Annulleringen skjedde etter anklager om omfattende utenlandsk påvirkning som angivelig stammer fra Russland. Russland har selv benektet å ha gjennomført påvirkningsoperasjoner rettet mot det rumenske valget.[73] Påvirkningen skal ha skjedd gjennom promotering av russisk-vennlige kandidater som er skeptiske til NATO. Det har vært mye oppmerksomhet rundt hvordan kampanjen kort tid før valget bidro til at den ytterliggående ganske ukjente presidentkandidaten Călin Georgescu plutselig seilte opp som vinner av første valgrunde.

Det er mye som fortsatt ikke er kjent fra hendelsene i Romania, blant annet om bruken og omfanget av KI. Ekspertgruppen mener dette valget fremstår som det mest dramatiske eksempelet fra 2024, med anklager om påvirkningsoperasjoner som kombinerte cyberangrep, desinformasjon i sosiale medier og utnyttelse av algoritmer for å maksimere spredning. Hendelsene under valget i Romania illustrerer hvordan de tre hovedsporene ekspertgruppen har identifisert i kapittel 3, informasjons- og medielandskap, fordekt valgpåvirkning og cybersikkerhet, kan samvirke for å forsterke trusler mot demokratiske valg.

Georgescus kampanje skjøt fart på TikTok like før første valgrunde. Ifølge Digital Forensic Research Lab (DFRLab), en del av NGO-en Atlantic Council, var veksten i antall følgere på 2 541 prosent, og det var også enorm vekst i likerklikk, kommentarer og delinger. Totalt anslår de at han hadde til sammen 1,4 milliarder visninger på TikTok globalt.[74] Telegram ble brukt for å koordinere kampanjen.

For å fremme kandidaten har aktøren utnyttet et smutthull i TikToks regelverk mot politisk reklame ved at influensere har blitt betalt for å dele innhold som bidro til å øke Georgescus synlighet, selv om de ikke nødvendigvis nevnte ham ved navn.[75] Disse influenserne oppga ikke sine bindinger til kandidaten. I tillegg til TikTok, har det også blitt avdekket mangler i Metas moderering av politisk reklame i forbindelse med det rumenske valget.[76]

Rumenske myndigheter ba TikTok om å slette Georgescu-relatert innhold fire dager før første valgrunde, da innholdet ikke var i tråd med regelverket for åpenhet om finansieringskilder under valgkampen. TikTok påstod at de hadde blokkert rumenske brukere fra disse postene. Likevel viser dokumentasjonen at rumenske brukere fortsatt hadde tilgang på valgdagen, som er et brudd på valgloven. Denne forskjellsbehandlingen økte Georgescus eksponering på bekostning av andre kandidater.

I etterkant av valget har EU åpnet sak mot TikTok på grunn av hendelsene i det rumenske valget.[77]

I tillegg til bruk av sosiale medier, ble rumenske IT-systemer for valg utsatt for kraftige angrep. Etterretningstjenestene identifiserte 85 000 cyberangrep mot det rumenske IT-systemet for valget. Målet var trolig å få tilgang til data, endre innhold, samt å knele systemene. Angrepene fortsatte i flere dager, inkludert på valgdagen og påfølgende dag. Angrepene kom fra 33 ulike land, og påvirkningsforsøkene er vanskelig å attribuere til en spesifikk aktør.

Innloggingsinformasjon til nettsider for det rumenske valget ble lagt ut på en russisk illegal cyberplattform, samt på en privat Telegramkanal som er kjent for å spre stjålne data fra statlige aktører.

Ekspertgruppen vil understreke at det fortsatt pågår undersøkelser av hva som skjedde i forbindelse med det rumenske valget, og at det kan ha kommet ny informasjon etter at rapporten ble skrevet. Selv om det er uklart i hvilken grad KI var en del av bildet i Romania, er hendelsene illustrerende for hvordan påvirkning av valg kan skje blant annet ved å bruke algoritmestyrte sosiale medier.

4.2 Finland

Finland gjennomførte presidentvalg 28. januar (første runde) og 11. februar (andre runde). Som et nordisk land har Finland mange likhetstrekk med Norge – blant annet en utstrakt velferdsstat, relativt høyt tillitsnivå og et mangfoldig medielandskap med sterke redaktørstyrte medier. Samtidig har Finland en geopolitisk situasjon som skiller seg fra Norges. Finland har en lang grense mot Russland, og ble medlem av NATO først i 2023.

Ekspertgruppen besøkte Finland høsten 2024 og møtte ulike aktører for å danne seg et inntrykk av valget. Det klare inntrykket er at (generativ) KI ikke spilte noen stor rolle i presidentvalget.

4.2.1 Forberedelser før valget i Finland

Ekspertgruppen har ikke inntrykk av at KI i seg selv var en stor del av finske myndigheters forberedelser før valget, men at det inngikk i det helhetlige arbeidet med å sikre valg. I dette arbeidet ble samarbeid mellom ulike aktører særlig trukket frem, og det er etablert en arbeidsgruppe på tvers av sektorer som jobber med sikkerhet i valg.

Fra valgmyndighetenes side ble det understreket at deres rolle ikke er å klassifisere ekte eller uekte nyheter, men sikre at det gis klar og korrekt informasjon om hvordan valget gjennomføres, og være tilgjengelig for å svare på spørsmål om dette. I tilfelle den offentlige tekniske løsningen som rapporterer valgresultater til presse og offentlighet skulle gå ned som følge av angrep eller tekniske problemer, finnes det en reserveløsning plassert i et annet miljø. Et viktig poeng i de finske forberedelsene var at denne reserveløsningen skulle ha et tilnærmet likt design som den originale for å unngå spekulasjoner eller mistillit, slik man så i Sverige under deres valg i 2018. Da ble den svenske Valmyndighetens nettside utsatt for et overbelastningsangrep, som førte til påstander om valgfusk fordi det var tydelige forskjeller i enkelte partiers oppslutning når siden kom opp igjen sammenlignet med før den ble tatt ned.[78]

4.2.2 Hendelser og erfaringer fra valget i Finland

Finske velgere kan be om å få telle opp stemmer på nytt. Det har vært en økning i antallet som ønsker dette, men det er ikke mulig å fastslå om økningen skyldes lavere tillit eller andre forhold. At all stemming skjer på papir ble trukket frem som en styrke i så måte, fordi det sikrer at opptelling kan skje på en transparent og allmenn forståelig måte.

Selv om Finland har sterke medier som når ut bredt, har også sosiale medier fått en større plass i valgkampen og som arena for politisk diskusjon. I ekspertgruppens møter med aktører i Finland, ble det pekt på at særlig partiene på ytre høyre var aktive på sosiale medier. De rettet seg spesielt mot yngre velgergrupper som i mindre grad følger nyhetene gjennom de redaktørstyrte mediene. En studie gjort i forbindelse med det finske valget så nærmere på anbefalingsalgoritmene i YouTube, og fant en overrepresentasjon av anbefalinger for høyresiden. Anbefalingene så ut til å særlig fremme videoer knyttet til partiet Sannfinnene og deres kandidater, og forskerne mener det tyder på skjevheter i algoritmen.[79]

Hendelser i Finland i forbindelse med Europaparlamentsvalget er omtalt i punkt 4.3.2.

4.3 Valg til Europaparlamentet

Valg til Europaparlamentet ble gjennomført i perioden 6.–9. juni 2024 i alle EUs 27 medlemsstater. I praksis er ikke valget til Europaparlamentet ett valg, fordi valget gjennomføres i hvert enkelt land, med de respektive landenes egne valglover som utgangspunkt. Fra EUs side er det kun lagt noen få overordnede føringer for hvordan representantene skal velges.[80]

4.3.1 Forberedelser før Europaparlamentsvalget

I forkant av valget var det en bekymring for hva KI kunne bety, særlig for feil- og desinformasjon. EU har gjort en bred innsats for å forberede seg selv og de enkelte medlemslandene, som strekker seg videre enn kun valget alene. Europaparlamentet har pekt på fire hovedområder for denne innsatsen:[81]

Utvikle politikk for å styrke demokratiet, gjøre det vanskeligere for trusselaktører å misbruke digitale plattformer og beskytte journalister og mediemangfoldet.

Bygge bevissthet om desinformasjon og EUs beredskap og respons.

Bygge samfunnsmessig motstandskraft mot desinformasjon gjennom kritisk medieforståelse og faktasjekking.

Samarbeid med andre institusjoner, nasjonale myndigheter eller tredjeparter.

I tillegg til tiltak satt inn i forbindelse med valget, kommer også relevant regulering som EU har vedtatt gjennom blant annet DSA og KI-forordningen, som bidrar til at de store teknologiselskapene, herunder plattformleverandører og søkemotorer, pålegges aktiv innholdsmoderering og lignende krav, som omtalt i kapittel 2.

Eksempler på tiltak som ble iverksatt fra EUs side, inkluderer blant annet informasjon om hvordan frie og hemmelige valg sikres på Europaparlamentets nettsider om valget, videoer på ulike språk som skal opplyse om teknikkene som brukes av trusselaktører for å spre desinformasjon, og en «verktøykasse» for lærere om hvordan man kan avdekke og motvirke desinformasjon. EUs utenrikstjeneste (EEAS) har også etablert en egen tjeneste som kontinuerlig følger med på og avslører desinformasjonskampanjer, kalt EUvsDisinfo.eu. På denne nettsiden, som ikke er avgrenset til Europaparlamentsvalget, offentliggjøres avdekkede påvirkningskampanjer fortløpende.

Alle partigruppene i Europaparlamentet signerte i forkant av valget en avtale (Code of Conduct), der de blant annet skrev under på at partiene skulle bidra til å sikre etisk og transparent bruk av kampanjeverktøy og teknologi, inkludert KI. Videre skrev partiene under på at de ikke skulle benytte villedende innhold, uavhengig av om den er generert av KI eller ikke, for å forfalske kandidater eller andre aktører i et valg. Avtalen slo også fast at bruk av innhold generert av KI kun skulle brukes med tydelig merking.[82] Avtalen var frivillig og ikke-bindende, men det lå likevel en forventning om at partiene og politikerne skulle følge den ut fra lojalitetshensyn. Avtalen omfattet kun politiske partier på europeisk nivå og de nasjonale partiene som aktivt signerte den.

Ekspertgruppen har ikke noen samlet oversikt over tiltak som ble iverksatt i de enkelte medlemslandene, men er kjent med at både Frankrike[83] og Latvia[84] har innført lover som regulerer bruk av deepfakes blant annet i forbindelse med valg. Ekspertgruppen er imidlertid ikke kjent med hvilke erfaringer som er gjort med slike lover, eller om det har blitt reist saker med grunnlag i dem.

4.3.2 Hendelser og erfaringer fra Europaparlamentsvalget

Basert på ekspertgruppens informasjon om Europaparlamentsvalget, er det ikke grunnlag for å konkludere med at KI hadde en så stor betydning for valget som mange fryktet på forhånd. En rapport fra European Board for Digital Services konkluderer med at tiltakene for å sikre beredskap og koordinering var vellykkede, og at det ikke ble avdekket noen større eller systematiske tilfeller av desinformasjon som forstyrret valget.[85] Fra EU-kommisjonens foreløpige gjennomgang av kjente påvirkningsoperasjoner, rapporteres det at KI i liten grad har blitt benyttet i desinformasjonskampanjer. I ukene før valget ble det funnet at omtrent 4 prosent av all desinformasjon som ble undersøkt og faktasjekket var KI-generert. Politiske partier har benyttet KI i begrenset omfang. Likevel viser erfaringene fra valget både bredden av bruksområder for denne teknologien og dens potensial for manipulasjon.[86]

The Alan Turing Institute gjennomførte en kartlegging av hendelser hvor desinformasjon eller deepfakes basert på KI hadde gått viralt i forbindelse med Europaparlamentsvalget og det franske parlamentsvalget samlet. Totalt i disse to valgene avdekket de kun 11 slike tilfeller, langt færre enn mange hadde fryktet på forhånd.[87] Siden det er snakk om «virale» hendelser, innebærer dette tilfeller som har fått en betydelig oppmerksomhet og spredning.

Ekspertgruppen er ikke kjent med at valgmyndigheter verken på EU-nivå eller i de enkelte landene har tatt i bruk KI i eget arbeid i forbindelse med valggjennomføringen.

Feilinformasjon fra chatboter

I forbindelse med valget gjorde Democracy Reporting International en undersøkelse av hvordan fire populære chatboter svarte på spørsmål om Europaparlamentsvalget. De konkluderer med at ingen synes å ha slagside mot noen av partiene eller sidene i politikken, men at ingen av dem var i stand til å gi korrekt informasjon om selve valggjennomføringen, altså om når valget avholdes eller hvordan man stemmer.[88] Også en test gjort av faktasjekkere i Correctiv fant at chatboter ga feilaktig informasjon om kandidater og fabrikkerte kilder.[89]

Forsterking av negative saker i sosiale medier

I forbindelse med Europaparlamentsvalget gjorde forskere fra Finland en undersøkelse av hvordan TikTok presenterte politisk informasjon i perioden før valget.[90] For brukere som søkte informasjon, inneholdt søkeresultater krenkende språkbruk om kvinner og minoriteter, og hadde også skjevheter ved å fremheve omtrent bare negativt innhold om enkelte politikere. Forskerne vurderer at TikToks søkeresultater kan ha bidratt til å forme hva de som søker etter informasjon her ser, og til å opprettholde fordommer. Et annet funn i samme undersøkelse er at innhold fra kandidater som handler om kontroversielle saker i innenrikspolitikken hadde større sannsynlighet for å bli fremmet i anbefalinger, mens innhold om sikkerhet og naturbeskyttelse i liten grad ble fremmet. Merking av valgrelatert innhold var også inkonsistent.

KI-generert innhold fra ytre høyre

I eksemplene på bruk av KI-generert innhold i valgkampen før Europaparlamentsvalget, er det særlig ytre høyre-partier som peker seg ut med å ha laget eller bidratt til å spre falskt innhold.

I Frankrike delte partiet Rassemblement National (Nasjonal Samling) flere KI-genererte bilder. Gjennom en kampanje de kalte «L’Europe Sans Eux» («Europa uten dem») ble det spredt KI-genererte bilder som ble brukt til å illustrere saker som blant annet handlet om å stoppe innvandring og hijabbruk.[91] Flere partier på ytre høyre brukte KI-genererte bilder som en del av sin kampanjestrategi.[92]

Også den franske nettsiden til det europeiske partiet Identitet og Demokrati, et av partiene som hadde signert avtalen om bruk av KI, publiserte KI-genererte bilder av migranter, som videre ble delt i partiets kanaler i sosiale medier. Partiet la også ut flere sponsede innlegg (annonser) som besto av videoer med KI-generert innhold. En av disse hevdet at Europa står foran en «alarmerende migrasjonskrise» og inneholdt ni genererte bilder som skulle forestille migranter, EU-flagget og EU-institusjoner, protester og eksplosjoner. Ifølge Meta Ad Library, gjengitt av DFRLab, fikk videoen en rekkevidde på 29 406 på Facebook og Instagram.[93]

Figur 4.1 Eksempler på KI-generert innhold fra kampanjen «L’Europe sans eux!». Ekspertgruppens merking.

Kilde: Schueler et al. 2024

I Italia benyttet Matteo Salvini, medlem av Europaparlamentet og leder av partiet Lega, generativ KI under årets Europaparlamentsvalg. Salvini er kjent for sin motstand mot EU-integrasjon. Bildene var ikke merket som KI-genererte, og dermed i strid med partiene i Europaparlamentet sin avtale om KI-bruk. Et av de KI-genererte bildene viste en gravid person med skjegg og teksten «mindre Europa», og på motsatt side en tilsynelatende heteronormativ familie med to barn og teksten «mer Italia». Bildet ble blant annet brukt i en Facebook-reklame, som antas å ha kostet mellom 4 500 og 5 000 euro med en rekkevidde på tre millioner brukere. Salvini publiserte også flere lignende bilder, blant annet ett som fremstilte den franske presidenten Emmanuel Macron i en militæruniform med et EU-flagg på skulderen.[94]

Selv om Salvini og hans parti Lega ikke var forpliktet etter avtalen gjort mellom partiene i Europaparlamentet, har det vært reaksjoner på Salvinis bruk av KI-genererte bilder. Kritikken retter seg hovedsakelig mot bruken av KI i politisk kommunikasjon, deres valgkampstrategier og bruken av KI-generert innhold uten tilstrekkelig merking eller åpenhet. Enkelte brukere på X har påpekt at slike strategier kan undergrave tilliten til politiske budskap og forsterke splittelser i samfunnet.

Figur 4.2 Eksempel på KI-generert innhold publisert på Matteo Salvinis Instagram-profil. Ekspertgruppens merking.

Kilde: Skjermbilde fra Instagram, @matteosalviniofficial 23. mai 2024

I Tyskland gjennomførte partiet Alternativ for Tyskland (AfD) annonsekampanjer på Facebook og Instagram. Minst tre av disse skal ha vært manipulert ved bruk av generativ KI. Et av bildene viser en hvit kvinne med synlige kroppsskader og teksten: «sammenhengen mellom migrasjon og kriminalitet har blitt benektet i årevis».[95]

Falske nettsider

Aktiviteten i den prorussiske Doppelganger-operasjonen (se omtale i boks 3.1) tiltok i perioden frem mot Europaparlamentsvalget, også med innhold om selve valget. I forkant av valget ble det avdekket falske versjoner av kjente nyhetsmedier som Die Welt, Le Parisien, Polskie Radio og flere andre.[96] OpenAI har avdekket at personer tilknyttet Doppelganger-operasjonen har brukt deres verktøy til å generere kommentarer på ulike språk til sosiale medier, til å oversette og redigere artikler som ble postet på nettsider, til å generere overskrifter og til å omgjøre saker til Facebook-innlegg.[97]

4.4 Storbritannia

Storbritannia gjennomførte parlamentsvalg 4. juli 2024. Bruken av generativ KI under valget var begrenset, og forholdsvis få eksempler ble registrert.

Til tross for en økning i digital valgkamp siden forrige valg, er inntrykket at de politiske partiene i Storbritannia fokuserte mest på tradisjonelle valgkampmetoder. De redaktørstyrte mediene står fortsatt sterkt, men tilliten til mediene er på vei ned. For de yngre generasjonene og deres nyhetskonsum, erfarer man at de trekkes mot sosiale medier.

4.4.1 Forberedelser før valget

Som en del av risikovurderingen før valget, inviterte Storbritannias valgkommisjon (UKEC) til dialog med blant annet Microsoft, OpenAI og sosiale medier-aktører, hvor hensikten var å forstå hvordan aktørene ville legge opp sitt arbeid før valget. Dialogen har likevel ikke hatt noen formalisert form. Det betyr i praksis at plattformene i stor grad kan avgjøre om de vil ta innspill til følge, og har definisjonsmakt til å avgjøre hva som skal regnes som desinformasjon i en valgkontekst.

National Cyber Security Centre (NCSC) startet forberedelsene ett år før valget ble avholdt. Som en del av forberedelsene var scenarioplanlegging, risikoanalyser, dataskraping i sosiale media, identifisere hull i datasystemer, og veiledning og støtte til politiske kandidater. Det ble også identifisert et sett med velgerprofiler, som kunne gi retning til diskusjoner, men også en indikasjon på hvordan ulike personer responderer ulikt på digitalt innhold. I tillegg forberedte NCSC hvordan de kunne håndtere hack and leak-operasjoner, som var innrettet mot e-post-systemer og brukerkontoer.

Et av de konkrete fokusområdene var å styrke beredskapen mot målrettede kampanjer rettet mot befolkningsgrupper som effektivt kunne dele feilinformasjon om valget, og kampanjer som med hensikt kunne forsterke splittelse i samfunnet.

Aktører som ekspertgruppen møtte i Storbritannia viste også til at det pågår løpende arbeid for å styrke befolkningens kritiske medieforståelse, politiske kompetanse og kunnskap om valggjennomføringen. Slik kompetanse ble vist til som særlig viktig for å bidra til at KI-generert innhold ikke skal få spredning eller bidra til at velgere blir lurt av falskt innhold eller falske påstander.

4.4.2 Hendelser og erfaringer fra valget i Storbritannia

The Alan Turing Institute fant 16 bekreftede og virale tilfeller av KI-generert desinformasjon eller deepfakes under det britiske parlamentsvalget. Blant de konkrete truslene som aktualiseres av KI, fremhever de svertekampanjer, villedende politisk reklame, velgermålretting, parodisk og satirisk innhold, KI-genererte informasjonskilder og feilaktig tilskrivning av KI.[98]

Under det britiske valget dukket det opp flere tilfeller av parodiske deepfakes som kunne oppfattes som ekte. Det finnes også eksempler på innhold som befinner seg i gråsonen mellom satire og desinformasjon, slik som en KI-generert lydforfalskning av Labours statsministerkandidat Keir Starmer som angivelig skjelte ut medarbeidere. Dette falske lydklippet ble raskt avslørt og fikk lite spredning og oppmerksomhet.

Det var også forekomster av trakassering og svertekampanjer rettet mot politikere. Enkelte kvinnelige politikere ble utsatt for svertekampanjer hvor KI-verktøy var brukt for å lage pornografiske fremstillinger.[99] Deepfakes kan få betydning selv om de har blitt avkreftet. Dette gjelder også falske lydklipp. Ordfører i London, Sadiq Khan, har uttalt at en KI-generert lydforfalskning ble en stor belastning for ham.[100]

Ytre høyre-aktivisten Tommy Robinson delte et bilde på X for å diskreditere Keir Starmer og Labour, der han brukte et generert bilde som skulle illustrere at partiet ikke lenger sto på arbeidernes side.[101]

Figur 4.3 KI-generert bilde delt av ytre høyre-aktivisten Tommy Robinson på X. Ekspertgruppens merking.

Kilde: Skjermbilde av KI-generert bilde lagt ut på X av @TRobinsonNewEra 10. juni 2024

I møtene ekspertgruppen hadde i Storbritannia ble det pekt på at chatboter hadde gitt feil svar på spørsmål om valget, for eksempel om ID-krav for å stemme. At chatboter ikke alltid ga korrekte svar om valget bekreftes også av en undersøkelse fra Reuters Institute som viser at en betydelig andel av svarene fra chatbotene enten var helt eller delvis feil.[102] Flere aktører pekte også på utvikling av opphavsmerking av innhold som et viktig tiltak for å øke troverdigheten til sann informasjon.

Et eksempel på bruk av KI fra kandidater, var stuntet til kandidaten Steve Endacott, som presenterte seg selv ved hjelp av en KI-avatar kalt «AI Steve». Gjennom denne avataren kunne folk «chatte» med kandidaten om hvilke saker som var viktige for dem – og i andre enden skulle kandidaten bruke dette verktøyet for å avgjøre sine standpunkter i saker hvis han ble valgt.[103]

Figur 4.4 Skjermbilde fra nettsiden til «AI Steve».

Kilde: www.ai-steve.co.uk

Storbritannia har sanksjonert Russland-tilknyttede nettverk som er del av Doppelganger-operasjonen (beskrevet i boks 3.1). The Social Design Agency (SDA), en av de sanksjonerte aktørene, står bak produksjonen av minst 120 falske nettsider som etterligner ekte nyhetskilder og offentlige nettsider, med mål om å villede brukere, fremme russiske narrativer og påvirke valgprosesser.[104]

En ny utfordring det ble vist til i ekspertgruppens møter i Storbritannia, var fremveksten av ad hoc-organisasjoner som opprettes for å drive kortvarige kampanjer. Mens partiorganisasjonene selv trolig vil ha en høy terskel for å bruke KI på uetiske måter, frykter man at slike løst assosierte organisasjoner kan ha lavere terskel for KI-bruk.

4.5 USA

USA gjennomførte både presidentvalg og valg til Kongressen 5. november 2024. I tillegg ble det samtidig gjennomført en lang rekke valg på delstatsnivå og til ulike funksjoner på lavere nivåer. Erfaringene fra USA viser at generativ KI hadde betydning for informasjonslandskapet og slo inn på den politiske dagsordenen. Erfaringene som kan hentes fra USA understreker også viktigheten av å sikre at valgmyndigheter har tilstrekkelige ressurser og kompetanse for å møte utfordringene knyttet til KI – og til å utnytte mulighetene det også medfører.

Valg i USA er svært desentralisert, med egne regler i de enkelte delstatene for hvordan valget gjennomføres, og store variasjoner både i velgerregistrering, hvordan det stemmes og i lokale valgmyndigheters ressurser og kompetanse. Fra føderalt nivå er det kun satt noen minstestandarder som delstatene må følge gjennom Help America Vote Act (HAVA).[105]

4.5.1 Forberedelser før valgene

Med USAs organisering av valg er det svært mange aktører inne i bildet, og det har ikke vært mulig å få et samlet bilde av alle forberedelser gjort i alle delstater. Ekspertgruppen har derfor først og fremst fokusert på hva som er gjort på føderalt nivå, samt enkelte mye omtalte tiltak på delstatsnivåer.

U.S. Election Assistance Commission (EAC) er en kommisjon som skal gi veiledning om kravene i Help America Vote Act. I forkant av årets valg utarbeidet EAC informasjon til valgmyndighetene om KI som et bidrag til å øke kompetansen og bevisstheten på de ulike nivåene. Som en del av arbeidet laget de også en «verktøykasse» som omhandlet betydningen av KI for kommunikasjon, og inneholdt eksempler og maler for materiell som myndigheter på ulike nivå kunne benytte seg av, som viste hvor velgerne kunne få kvalitetssikret informasjon om valget.[106] Også andre aktører laget materiale rettet mot valgmyndigheter om KI og sikkerhet.[107]

Sikkerhetsmyndigheter som Cybersecurity and Infrastructure Security Agency (CISA) og Office of the Director of National Intelligence (ODNI) har ansvar for arbeid med sikkerheten rundt valg, herunder utenlandsk påvirkning. Ut over det arbeidet som gjøres på etterretningsnivå, som gjerne er gradert, gjennomførte sikkerhetsmyndighetene også en utstrakt virksomhet rettet mot sentrale aktører i valget på delstatsnivå og lavere for å bistå dem i sikkerhetsarbeidet inn mot valget.[108]

Ekspertgruppen er også kjent med at det i flere delstater ble gjennomført øvelser før valget, hvor KI var inkludert i enkelte av de scenarioene det ble øvd på, både med bistand fra CISA og fra andre aktører. For eksempel holdt den ikke-kommersielle organisasjonen Bipartisan Policy Center øvelser hvor de samlet personell fra valgmyndigheter på delstats- og lokalnivå og sentrale aktører fra andre sektorer og institusjoner, hvor de drøftet hvordan valgmyndighetene kunne respondere på hypotetiske scenarioer som omhandlet KI og valg.[109] I Arizona ble det gjennomført øvelser med lokale valgmedarbeidere med utgangspunkt i scenarioer med falske oppringinger hvor deepfake-teknologi var brukt for å klone stemmer som ga beskjeder om å stenge valglokaler tidligere eller levere stemmesedler til feil sted.[110]

I flere delstater, blant annet California, ble det fremmet lovforslag som skulle bidra til å forby eller regulere bruken av deepfakes i forbindelse med valg. Dette viste seg imidlertid å være utfordrende å få gjennomslag for slike lover, blant annet på grunn av strenge ytringsfrihetslover.[111]

4.5.2 Hendelser og erfaringer fra valget i USA

USA har et svært polarisert informasjons- og medielandskap som følger politiske skillelinjer og få eller ingen fellesarenaer for offentlig informasjons- og meningsutveksling. Det innebærer at ulike sider i politikken får nyheter og informasjon om politikk fra ulike kilder, og i liten grad forholder seg til eller har tillit til kildene som oppfattes å stå på motstående politisk side. En påfallende utvikling som også ble observert i valget i 2024, var at kandidatene i liten grad stilte opp i de redaktørstyrte mediene, men prioriterte andre plattformer, som sosiale medier, YouTube-kanaler og podkaster ledet av kjente profiler.[112]

Flere trusselaktører forsøkte å påvirke valget i USA, som Russland, Kina og Iran. Selv om det fortsatt ikke er kjent i hvor stor grad slike aktører har benyttet KI, pekte flere av de ekspertgruppen møtte i USA på at de «tradisjonelle» metodene for påvirkning fortsatt brukes og kan fungere godt, og at KI i større grad enn å representere noe banebrytende nytt, heller forsterker eksisterende utfordringer. Samtidig ble det understreket at man fortsatt er i en tidlig fase av KI-utviklingen, og at man derfor ikke kan avskrive det som en potensiell større trussel i fremtiden.

Eksempler på hendelser

Det var mange hendelser i oppkjøringen til valget hvor KI var benyttet. En del av innholdet var særlig preget av satire eller underholdning, men det var også eksempler på innhold som tydet på mer strategisk bruk av KI-verktøy. I en analyse av 582 tilfeller av falskt innhold i presidentvalgkampen, gjengitt i Washington Post, fant forskere ved Purdue University at 33 prosent handlet om Trump, 16 prosent om Harris og 16 prosent om Biden. Dette inkluderte innhold både av positiv og negativ art.[113]

I forbindelse med orkanen Helene, som rammet USAs sørøstkyst bare noen uker før valget, ble det delt bilder som fremstilte Donald Trump til stede i områdene som var rammet. Bildene fikk stor spredning, til tross for at det raskt ble avslørt at bildene var falske.[114] Innholdet bidro til å forsterke følelser og inntrykk, og understøttet subjektive oppfatninger av virkeligheten slik man kan mene eller oppfatte at den er. Dette viser at KI kan forsterke oppfatninger selv om mottakeren forstår at innholdet er falskt.

Figur 4.5 KI-generert bilde av Donald Trump som sirkulerte i forbindelse med orkanen Helene. Ekspertgruppens merking.

Kilde: Skjermbilde av KI-generert bilde lagt ut på Facebook av Steve Youell 30. september 2024

KI-generert innhold ble også brukt for å sverte kandidater, eksempelvis ved at Kamala Harris i flere bilder ble fremstilt som en kommunist. Kamala Harris sin stemme ble også forfalsket, og i juli delte Elon Musk et falskt lydklipp av henne der hun feiret at Biden trakk seg og kalte seg selv en «diversity hire». Dette lydklippet har fått over 100 millioner avspillinger.[115]

Figur 4.6 KI-generert bilde som fremstiller Kamala Harris som kommunist. Ekspertgruppens merking.

Kilde: Skjermbilde av KI-generert bilde lagt ut på X av @realDonaldTrump 18. august 2024

I valgkampen bidro også Trump selv til å dele falske bilder som angivelig viste Taylor Swift sin støtte til ham. Blant bildene som ble delt, var et som fremstilte Swift som «Uncle Sam» (en kjent amerikansk figur som symboliserer USA og den amerikanske regjeringen), med påskriften «Taylor Wants You to Vote for Donald Trump». Andre KI-genererte bilder fremstilte Swift-fans ikledd t-skjorter med påskriften «Swifties for Trump».[116] I ettertid gikk Swift ut og offentliggjorde sin støtte til Kamala Harris, og påpekte i den sammenhengen at de falske bildene som fikk stor oppmerksomhet, gjorde det enda viktigere for henne å klargjøre sine faktiske standpunkter.[117]

I forbindelse med Demokratenes primærvalg, fikk velgere i New Hampshire automatiske oppringinger med en stemmekloning av president Joe Biden. I disse oppringingene ba Biden angivelig om at velgerne burde la være å stemme i primærvalget for å spare stemmen sin til november.[118] Disse oppringingene ble raskt avslørt som falske stemmekloner, men er pekt på som et tidlig eksempel på hvordan KI kan brukes for å påvirke velgere. Det er gitt bøter både til selskapet som tilbød plattformen benyttet til de falske oppringingene, og til en person.[119]

Flere falske nyhetsnettsteder som fremmer russiske narrativer i USA har blitt avslørt, blant annet et som ble kalt «D.C. Weekly». På overflaten kunne siden fremstå som et vanlig nyhetsnettsted, mens den i realiteten har blitt brukt til å fremme russiske narrativer, blant annet gjennom å spre falske påstander om den ukrainske presidentens pengebruk. Forskere som har undersøkt siden, fant at det ble brukt språkmodeller for å omskrive artikler fra andre nyhetssider.[120] Selv om sakene på slike sider i seg selv ikke nødvendigvis når ut til et stort publikum, kan saker plukkes opp og spres videre, primært i sosiale medier. Se boks 3.1 for informasjon om Doppelganger-operasjonen.

I 2024 ble det kjent at medieselskapet Tenet Media mottok finansiering og i praksis ble styrt fra det russiske statskontrollerte nyhetsnettverket RT. Tenet Media benyttet influensere som laget innhold til plattformen, uten at influenserne ble gjort oppmerksom på tilknytningen til Russland. Tenet Media produserte over to tusen videoer med mer enn 16 millioner visninger på YouTube. De fleste videoene støttet opp under russiske interesser og tok utgangspunkt i splittende saker, blant annet for å svekke amerikanernes støtte til Ukraina. Eksempelet viser hvordan statlige trusselaktører kan betale influensere som kan fremføre budskap for dem.[121]

En annen måte KI spilte en rolle i det amerikanske valget var gjennom såkalt «liar’s dividend». Begrepet innebærer at det påstås at ekte innhold er KI-generert, gjerne for å diskreditere eller fraskrive seg ansvar for innholdet.[122] Et eksempel på dette så man ved at Trump feilaktig hevdet at bilder fra Harris sine folkemøter var manipulert for å gi inntrykk av flere publikummere.[123]

4.6 Enkelthendelser fra andre valg

I tillegg til valgene som er omtalt over, vil ekspertgruppen i det følgende peke på enkelthendelser fra andre valg som illustrerer hvordan KI har bidratt til å prege valg i 2024.

Parlamentsvalget i Kroatia

Kroatia gjennomførte parlamentsvalg 17. april. Valget ble preget av flere tilfeller av KI-generert desinformasjon, særlig på sosiale medier som TikTok og X, hvor informasjonen var målrettet mot politiske aktører.

Generativ KI ble brukt under og etter det kroatiske parlamentsvalget i 2024. Totalt 19 tilfeller av desinformasjon ble identifisert i en undersøkelse gjennomført av Adria Digital Media Observatory (ADMO).[124] I mai 2024 var 18 av de 19 avdekkede tilfellene fortsatt tilgjengelige, og ingen av dem var merket. Tilfellene ble spredt via TikTok og X, og de kunne spores tilbake til private profiler. Desinformasjonen involverte ofte en kombinasjon av generativ KI og «cheapfake»-teknologi. Den hyppigste formen for desinformasjon var manipulerte lydspor i videoer (16 tilfeller), etterfulgt av manipulerte videoer (2 tilfeller), mens det bare ble funnet ett KI-generert bilde.

Desinformasjonen som ble spredt handlet særlig om den politiske eliten – og hadde i mange tilfeller et satirisk preg. ADMO trekker frem tre hendelser:

En video på Instagram Reels hvor statsminister Andrej Plenković ser ut til å oppmuntre innbyggere til å kjøpe aksjer i et oljeselskap som er deleid av kroatiske myndigheter. Videoen som brukes er tatt fra en reell pressekonferanse, men lydsporet er falskt.

Plenković og partiet HDZ ble parodiert i en video publisert av et satireshow på X. Gjennom en deepfake-video som bruker en offisiell annonse fra HDZ med manipulert lyd og undertekst, uttaler Plenković seg blant annet om HDZs uærlighet og korrupsjon, og oppfordrer velgerne til å smile og stemme på dem.

I en TikTok-video ble president Zoran Milanović fremstilt med en falsk uttalelse om sin påståtte forkjærlighet for gambling og spilleautomater. Også i dette eksemplet er det benyttet en kombinasjon av ekte opptak fra pressekonferanse sammen med falsk lyd.

Parlamentsvalget i Frankrike

Franske velgere gikk til urnene i 2024 ved to valg: valget til Europaparlamentet i juni – og nyvalg til nasjonalforsamlingen med to valgomganger i henholdsvis juni og juli. Siden valgene ble gjennomført i mer eller mindre samme tidsrom, er det ikke nødvendigvis en enkel oppgave å skille hva som handlet om hvilket valg. Hendelser som dreier seg direkte om Europaparlamentsvalget er omtalt i punkt 4.3.2.

I forbindelse med valget til nasjonalforsamlingen ble det avdekket falske nettsider som trolig stammer fra russiske påvirkningsnettverk. I juni ble det avdekket en nettside som utga seg for å være nettsiden til president Macrons parti, Renaissance. På den falske nettsiden ble det fremmet falske påstander om at personer som stemte på partiet ville få 100 euro i belønning. Nettsiden ble promotert gjennom et falskt nyhetsnettsted som brukte KI-baserte språkmodeller til å lage innhold. I flere artikler lå «prompten» (instruksjonen som gis til KI-verktøyet) som var benyttet åpent tilgjengelig på nett, som viste at språkmodellen skulle omskrive autentiske nyhetssaker for å ta et konservativt standpunkt mot Macrons regjering. Ifølge DFRLab er kampanjen trolig knyttet til den russiske CopyCop-operasjonen.[125]

Delstatsvalg i Tyskland

I 2024 ble det gjennomført delstatsvalg i tre tyske delstater i september. Flere tyske partier har benyttet KI i kommunikasjon. I forbindelse med valgkampene i delstatene Sachsen og Thüringen i september 2024, gjennomførte den tyske TV-kanalen ZDF en spørreundersøkelse om bruken av KI i valgkampene.

Undersøkelsen viste at nesten alle politiske partier benyttet generativ KI, men at det ikke finnes klare bevis på en systematisk bruk av KI i valgkampene. De fant at partiene brukte KI på flere måter, blant annet til tekst, bilderedigering, analyser og generering av musikk til valgkampvideoer. De fant også at partiene Alternativ for Tyskland (AfD) og Det fridemokratiske parti (FDP) har brukt egne KI-drevne chatboter på sine nettsider for å svare på spørsmål om valgprogrammene.[126]

Presidentvalget i Moldova

Moldova hadde presidentvalg i oktober og gjennomførte samtidig også folkeavstemning om EU. Moldova ble utsatt for påvirkningsforsøk fra Russland, som i tillegg til forsøk på stemmekjøp og andre «tradisjonelle» metoder, også innebar bruk av KI. Blant annet ble det avdekket en ustrakt bruk av boter basert på KI som har lagt ut kommentarer på Facebook. I tillegg ble det delt deepfakes av president Maia Sandu, blant annet der hun oppfordrer til å stemme på en pro-russisk motkandidat. Til tross for en stor påvirkningskampanje mot valget, ble den vurdert som mislykket.[127]

Parlamentsvalget i Georgia

I likhet med Moldova, ble også det georgiske parlamentsvalget i oktober utsatt for omfattende påvirkningsforsøk. I en rapport fra NGO-en International Society for Fair Elections and Democracy (ISFED) finner de at anonyme aktører brukte KI til å lage deepfakes av politikere. Særlig TikTok ble brukt for å spre disse, som blant annet hadde forfalskede stemmer av president Salomé Zourabichvili, tidligere statsminister Giorgi Gakharia, samt KI-genererte bilder som skulle illustrere hvilken tilstand landet ville havne i hvis den tidligere regjeringen kom tilbake etter valget.[128]

Parlamentsvalget i Sør-Korea

Det sørkoreanske parlamentsvalget ble avholdt 10. april 2024. I forkant av parlamentsvalget iverksatte Sør-Korea en rekke tiltak for å regulere bruken av KI og motvirke spredningen av desinformasjon. I januar 2024 vedtok nasjonalforsamlingen et forbud mot KI-generere deepfakes i politiske kampanjer 90 dager før valg. Den nasjonale valgkommisjonen (NEC) har etablert retningslinjer for tydelig merking, også utenfor denne 90-dagers rammen. NEC har også satt sammen en KI-ekspertgruppe, hvor deres hovedoppgave er å overvåke og håndtere misbruk av KI under valgprosesser.

KI-manipulert innhold og falske nyheter er et utbredt problem i Sør-Korea med sosiale medier som en viktig kilde til spredning. I mars 2024 dukket det opp en deepfake av president Yoon, hvor ledere i hans parti tilsynelatende kritiserte opposisjonspartiet. Til tross for nye restriksjoner mot bruk av KI i valgkampanjer, ble det avdekket over 380 lovbrudd relatert til deepfakes mellom januar og april. Av disse ble 181 saker rapportert bare i løpet av de siste 15 dagene før parlamentsvalget.

Sør-Koreas ledende søkemotor Naver, har implementert økt overvåkning for å motvirke nye former for misbruk, inkludert KI-genererte kommentarer og dypforfalskninger. Plattformen har også introdusert funksjoner som lar brukere rapportere feilinformasjon om valg direkte, med et dedikert rapporteringssenter etablert for å effektivisere kommunikasjonen med NEC.

Parlamentsvalget i India

India gjennomførte parlamentsvalg gjennom ulike faser fra april til juni 2024. Valget gikk stort sett fredelig for seg, men var preget av et endret informasjonslandskap og anvendelse av ny teknologi.

Statsminister Narendra Modi og hans parti tok selv i bruk KI og brukte dette i kommunikasjonen sin. En deepfake av Modi der han retter seg mot velgere på individnivå ble delt gjennom meldingstjenesten WhatsApp. Denne var tilpasset mottakeren med personlige meldinger og var på mottakerens foretrukne språk. På den måten ble KI brukt for å tilpasse informasjon på en ny måte for nå velgergrupper på deres morsmål.[129]

Parlamentsvalget i Pakistan

Pakistan gjennomførte parlamentsvalg i februar. Det største opposisjonspartiet PTI brukte KI for å mobilisere velgere, og gjorde det hovedsakelig for å få ut partileder Imran Khans budskap. Khan har sittet fengslet siden august 2023, med begrenset tilgang til journalister, medier og omverden. Under og etter valgkampen brukte partiet derfor generativ KI og deepfake-teknologi ved å benytte stemmekloning og generert video hvor Khan tilsynelatende talte, men som var basert på notater han fikk sendt ut fra fengselet.[130]

5 Endringer i utfordringsbildet for norske valg

I dette kapitlet vil ekspertgruppen vurdere hvilken betydning KI kan ha i en norsk valgkontekst. Dette gjøres ved å først vurdere hvilke internasjonale hendelser fra 2024 som kan være relevante i en norsk kontekst, for deretter å utlede og trekke frem de viktigste utfordringene ekspertgruppen mener vi bør være oppmerksomme på.

Som erfaringene gjennomgått i kapittel 4 viser, har det vært en rekke hendelser som involverer bruk av KI i valgåret 2024, selv om det også kan fastslås at særlig generativ KI ikke ble den dominerende faktoren man fryktet ved inngangen til året. Likevel er det klart, både fra møtene ekspertgruppen har hatt og fra andre kilder, at vi fortsatt er i en tidlig fase av KI-utviklingen. Både teknologien i seg selv og aktører som kan ta den i bruk, har trolig fortsatt en vei å gå før det fulle potensialet er utnyttet.

Boks 5.1 Teknologisk utvikling frem mot valget i 2025

KI-teknologien endrer seg raskt, og det samme kan bruken av den gjøre. Samtidig kjenner vi ikke potensialet fullt ut. Frem mot stortingsvalget i 2025 kan teknologiens muligheter og tilgjengelighet øke.

KI-verktøy vil i økende grad bli en del av smarttelefonenes operativsystemer. Det åpner for økt bruk fra allmennheten innen både redigering og generering av tekst, bilder, lyd og video.

KI-agenter, det vil si programmer basert på språkmodeller som kan utføre ulike oppgaver, kan bli mer utbredt og bidra til å øke produktiviteten til en rekke aktører, inkludert trusselaktører. Bruken av chatboter som informasjonskilder kan også øke. Søkemotorer og sosiale medier forventes i større grad å bli KI-drevne og mer av informasjonslandskapet vil bli filtrert gjennom KI-systemer.

Slike endringer kan gjøre KIs betydning for valg mer betydningsfull, øke utbredelse av feil- og desinformasjon, og styrke effektiviteten til påvirkningsoperasjoner. Det er naturlig å forvente at aktører, både trusselaktører, så vel som partier, myndigheter og enkeltpersoner, over tid vil lære å utnytte teknologiens muligheter i økende grad.

5.1 Informasjons- og medielandskapet

KI-generert innhold fikk ikke den utbredelsen og store betydningen for valg i 2024 som mange fryktet, men erfaringene viser at KI har en klar betydning for informasjons- og medielandskapet rundt valg. Det er innenfor dette hovedsporet ekspertgruppen mener å finne de klareste endringene i utfordringsbildet.

Overordnet er mange av de observerte eksemplene på KI-generert innhold fra det siste valgåret av humoristisk art eller åpenbart falskt, og klart innenfor ytringsfrihetens rammer. Mye av innholdet er ikke nødvendigvis heller skapt for å være overbevisende. Flere eksempler, som de falske bildene av Trump i forbindelse med orkanen Helene og de falske videoene fra valget i Kroatia, viser at den fremste funksjonen til slikt innhold er å skape inntrykk og følelser hos den som ser det. På den måten bidrar det til å tegne et positivt eller negativt bilde av en kandidat eller sak. Spredningen har foregått gjennom sosiale medier.

I betydningen for det større medielandskapet trekker ulike forhold i forskjellige retninger. Særlig erfaringene fra USA henger tett sammen med at amerikanske medier over tid har fått en stadig svakere stilling, og i større grad blitt polarisert etter politiske skillelinjer. Algoritmestyrte og engasjementsdrevne sosiale medier har fått økt betydning. Disse spiller en stadig større rolle for velgernes tilgang på informasjon og gjør velgere mer sårbare for feil- og desinformasjon og fordekte påvirkningskampanjer. Eksempelet fra Romania viser også hvordan algoritmene i sosiale medier kan utnyttes.

Det norske mediesystemet med uavhengige, redaktørstyrte og mangfoldige medier som er hyppig brukt av befolkningen, er et godt utgangspunkt for motstandsdyktighet både mot økende polarisering og fragmentering av samfunnet, men også uønsket påvirkning fra KI-generert innhold og KI-styrte operasjoner i forbindelse med valg.

I Norge har vi et sterkt nasjonalt mediesystem med høy tillit, og ikke minst en høy dekning av lokale medier. Likevel ser vi også i Norge – og Europa for øvrig – tydelige tegn til at de redaksjonelle medienes rolle er under press fra sosiale medier og endrede medievaner. Særlig gjelder dette for unge, som i større grad benytter sosiale medier og KI-tjenester, og i mindre grad redaktørstyrte medier.[131] I møte med utfordringene fra KI, vil det derfor være svært viktig å opprettholde de redaktørstyrte medienes samfunnsrolle og tilgangen på kvalitetssikret informasjon, særlig for nye generasjoner.

De redaktørstyrte mediene er i økende grad avhengige av sosiale medier og KI-styrte algoritmer for å nå unge brukere. De erstattes også i større grad av chatboter og KI-søk som gjerne er trent og basert på informasjon som er produsert av redaktørstyrte medier. Hvis brukerne flytter fra den redaktørstyrte informasjonssfæren og over til KI- og algoritmestyrte plattformer, reduseres kraften som ligger i den norske mediemodellen og folks relasjoner til mediene, fellesarenaer og offentlig debatt.

Økt utbredelse av KI-generert innhold fører til et større behov for å styrke den kritiske medieforståelsen og kildebevisstheten i befolkningen. Det finnes flere krefter som jobber med faktasjekking og bygging av kritisk medie-, teknologi- og KI-forståelse. I Norge kan vi nevne Faktisk.no og deres skoleavdeling Tenk, Medietilsynet, samt at det er tatt initiativ til et senter for kildebevissthet. En utfordring er å sikre at tiltak om kritisk medieforståelse når ut til de som faktisk har størst behov, og som er mest eksponert for feil- og desinformasjon.

Ekspertgruppen vil i det følgende peke på konkrete endringer i utfordringsbildet innenfor informasjons- og medielandskapet:

5.1.1 Økt omfang av feil- og desinformasjon og redusert tillit til informasjon

KI-teknologi reaktualiserer sosiale mediers betydning for informasjonslandskapet i demokratier og utfordrer dem på spesielt tre områder. For det første styres innholdet brukerne eksponeres for av algoritmer og data om brukernes interesser, interaksjoner, demografiske data og hva andre i sosiale medie-nettverket deres deler. Dette fører til at ulike brukere får presentert ulikt innhold, selv om de benytter samme plattform. For det andre kan denne måten å prioritere innhold på bidra til økt spredning av feil- og desinformasjon, fordi det ikke er noen kvalitetskontroll. For det tredje gir generative KI-verktøy flere muligheter for innholdsproduksjon, samt raskere distribusjon gjennom sosiale medier.

Økt forekomst av generert innhold kan gjøre det vanskeligere å skille hva som er sant og usant, og bidra til å redusere den generelle tilliten til informasjon. I forbindelse med valg, som er hendelser med et enormt informasjonsbehov om både valget, saker, partier og kandidater, vil en slik utvikling være en alvorlig utfordring.

Det meste KI-genererte innholdet som lages og spres er ikke ulovlig. Likevel kan det være uønsket, særlig hvis det bidrar til å viske ut skillet mellom sant og usant, og skaper forvirring. Derfor kan det være nødvendig å ha forberedt hvordan man imøtekommer denne typen bruk av KI, uten at det gjøres på en måte som reduserer ytringsfriheten eller de faktiske mulighetene til å ytre seg. Et av de store spørsmålene som vil være avgjørende for hele informasjonslandskapet i årene som kommer, ikke bare avgrenset til valg, er hvordan vi kan sikre innholdets autentisitet når vi i utgangspunktet ikke kan vite med sikkerhet at tekst, bilder, lyd eller video er ekte.

En utvikling ekspertgruppen har lagt merke til, er at den oppmerksomheten KI har fått gjennom «supervalgåret» 2024 i seg selv kan ha bidratt til å utfordre tilliten til informasjonslandskapet. Det kan skje ved at oppmerksomheten fører til overdreven frykt og mistenksomhet, slik at all informasjon blir vurdert som usikker.

I forlengelsen av dette kommer også det man så eksempler på i den amerikanske valgkampen, nemlig påstander om at faktiske hendelser var fabrikkerte – som da Donald Trump påsto at bilder av publikumsmengdene på Kamala Harris sine folkemøter var forfalsket for å fremstå større enn de var i realiteten. Ved å påstå at dokumentasjon på faktiske hendelser er fabrikkerte, kan man også komme seg unna ubehagelige situasjoner. Slike eksempler på «liar’s dividend» kan bidra til forvirring og ytterligere utvisking av skillet mellom sant og usant, og kan bli en utfordring.

Disse utviklingstrekkene kan utfordre demokratier ved å skape et mer uoversiktlig informasjonslandskap, hvor personalisert og raskt generert innhold kan påvirke samfunnsdebatten, svekke felles virkelighetsforståelse og åpne for manipulasjon av opinionen.

5.1.2 Endringer i hvilke informasjonskilder som benyttes

De redaktørstyrte medienes stilling er fortsatt sterk i Norge, men forflytningen i retning mot algoritmedrevne sosiale medier og KI-baserte chatboter som informasjonskilder er viktig å ta på alvor – også i Norge.

Det er mange eksempler fra valgene i 2024 som understreker at chatboter som informasjonskilde om valgrelaterte spørsmål må brukes med stor varsomhet. Både i forbindelse med valget i Storbritannia og Europaparlamentsvalget er det dokumentert at chatboter ga feil eller unøyaktig informasjon på spørsmål som handlet om valgene. Samtidig blir chatboter stadig mer utbredt som informasjonskilde, og en del – særlig unge – bruker chatboter eller sosiale medier heller enn tradisjonelle søkemotorer.[132]

Figur 5.1 Skjermbilde som viser at ChatGPT gir feil svar på spørsmål om når valgdagen i 2025 er. Den riktige datoen er 8. september.

Kilde: Skjermbilde fra ChatGPT

Figur 5.2 Skjermbilde som viser at Snapchats MyAI gir feil svar på spørsmål om valgdagen i 2025. Den riktige datoen er 8. september.

Kilde: Skjermbilde fra Snapchats MyAI

I en enkel test gjort i forbindelse med ekspertgruppens arbeid, oppga ChatGPT at stortingsvalget i Norge i 2025 skal avholdes 14. september, altså nesten en uke senere enn den faktiske valgdagen som er mandag 8. september (se figur 5.1). Tilsvarende svarte Snapchats MyAI at valgdagen er 13. september, som også er feil (figur 5.2). Slike feil vil, dersom de ikke korrigeres av andre kilder, kunne ha som konsekvens at velgere ikke får stemt. I flere av landene ekspertgruppen besøkte ble valgmyndighetenes rolle som tilbyder av korrekt og verifisert informasjon om valget, understreket. Disse eksemplene tydeliggjør viktigheten av at valgmyndighetene sørger for at korrekt informasjon om valget når bredt ut.

Flere aktører vil fremover trolig også tilby KI-drevne søk, som bidrar til å legge et filter mellom brukere og opphavet til informasjonen, og dermed gjøre det mindre tydelig hva som er kilden til informasjonen.

Mediene tilbyr valgomater under norske valg, og disse blir aktivt brukt av mange når de skal avgjøre hvilket parti de skal stemme på. 50 prosent av velgere under 34 år peker på valgomater som en viktig informasjonskilde.[133] I 2024 har man sett at mediene har testet ulike måter å bruke KI på i valgdekningen, og ekspertgruppen forventer at det kan komme valgomater som i større grad enn tidligere bygges på KI. Ekspertgruppen forventer også at partiene vil teste ulike måter å bruke KI på i valgkampen, for eksempel chatboter som kan svare på spørsmål om partiets politikk. Som med all bruk av ny teknologi i forbindelse med valg vil ekspertgruppen understreke viktigheten av grundig testing for å sikre at verktøy som utvikles fungerer i tråd med intensjonene.

5.1.3 Falske fremstillinger av personer og hendelser

I den offentlige debatten om KI og valg, er det særlig deepfakes som har stått sentralt. Falske fremstillinger av personer eller hendelser har også vært mulig tidligere, men dette er et område hvor KI virkelig har åpnet opp mulighetene for at det kan gjøres uten spesiell kompetanse eller store ressurser, og på kort tid.

Uetisk bruk av KI til å lage slike falske fremstillinger er noe ekspertgruppen forventer kan forekomme også i Norge. Det er ikke først og fremst de etablerte partiene vi forventer skal bruke KI på en slik måte. Til det vil risikoen være stor for svekket omdømme og lavere tillit til at partiet driver valgkamp på en redelig måte. Partiene på Stortinget har allerede inngått en felles avtale om å ikke produsere, bruke eller spre deepfakes til å fabrikkere budskap fra andre partier, politikere eller samfunnsaktører.[134] Den fremste risikoen for at KI-generert innhold brukes på uetiske måter, er derfor heller fra andre aktører som ønsker å synliggjøre et standpunkt eller parti, for eksempel som kortvarige kampanjer fra løst assosierte eller uformelle grupper og organisasjoner, eller fra partier eller politiske nettverk i de politiske ytterkantene.

Noen politikere kan være spesielt utsatte for å bli feilaktig fremstilt i deepfakes slik vi så fra eksemplene i Storbritannia, hvor kvinnelige politikere var utsatt for seksualiserte deepfakes. I Norge har vi ikke noe informasjon om liknende forhold, men undersøkelser om hat og hets rettet mot politikere viser at noen er mer utsatte enn andre.[135] Det kan etter ekspertgruppens vurdering være grunn til å være forberedt på at disse også kan bli utsatt for svertekampanjer muliggjort ved deepfake-teknologi. Også andre, som myndighetsrepresentanter, kjendiser og journalister, kan bli utsatt for falske fremstillinger som kan medføre negative konsekvenser.

Fra USA er den fabrikkerte støtten fra Taylor Swift til Trumps kandidatur et godt eksempel på at kjente personer også kan være gjenstand for falske fremstillinger. Både i USA og Norge finnes det mange eksempler på at kjendiser har tatt del i partiers valgkamp, men det er mer problematisk hvis en tilsynelatende støtte ikke er reell, ettersom kjendiser kan ha stor påvirkningskraft. Likevel vurderer vi ikke dette som den fremste risikoen, fordi falsk bruk av kjendiser trolig vil bli avdekket raskt. En større risiko er forfalskninger av mindre kjente personer, som likevel kan ha stor innflytelse eller betydning for valget, men kanskje ikke avsløres like lett eller raskt.[136] Et hypotetisk eksempel som ble trukket frem i ekspertgruppens møter i USA, var dersom stemmen til en leder i den lokale valgadministrasjonen ble brukt i falske telefoner til valglokaler, for eksempel med beskjeder om å avslutte stemmegivningen.

I flere av KI-eksemplene fra 2024, er det tydelig for de fleste at innholdet ikke er ekte. For eksempel forsto de fleste at Donald Trump ikke hadde vært til stede i redningsarbeidet etter orkanen Helene. Likevel kan også slike åpenbart falske bilder ha en effekt, som understreker at innhold ikke må være perfekt eller naturtro. Effekt kan oppnås ved at innholdet er egnet til å skape inntrykk og følelser hos den som ser det, eller illustrerer noe mottakerne holder for å være «sant», som at Trump ville gjort mer enn hva Biden-administrasjonen gjorde for å hjelpe ofrene, selv om det ikke nødvendigvis stemmer i realiteten.

5.1.4 Større avhengighet av mektige teknologiselskaper og plattformer

Forflytningen fra redaktørstyrte medier til sosiale medier og andre teknologiske plattformer, innebærer at vi som samfunn blir mer avhengige av at teknologiselskaper legger til rette for en infrastruktur for informasjonsdeling i forbindelse med valg. Når deres plattformer er viktige kilder til informasjon, kreves det også at informasjon som er viktig å formidle faktisk gjøres tilgjengelig på plattformene – men i praksis har det vist seg utfordrende.

Teknologiselskapene har svært stor makt gjennom å ha store finansielle ressurser og direkte tilgang til brukere og brukerdata, og kan med det sette betingelsene for informasjonsmiljøet vi opererer i. Mens sosiale medier i starten ble ansett som demokratiserende og desentraliserende, går utviklingen nå i retning mot sentralisering av makt til noen få store aktører. Makten kan illustreres ved at Google har gjennomført tester i flere land, blant annet Danmark, hvor et utvalg på 1 prosent av brukerne ikke har fått opp resultater fra EU-baserte nyhetskilder.[137] Som et lite land har Norge begrenset med innflytelse på hvordan plattformene opererer, og de har minimal tilstedeværelse i landet. I reguleringen av dem er vi derfor avhengige av reguleringen som skjer på EU-nivå, og at relevante regelverk raskt implementeres i norsk lovverk.

Gjennom bransjenormen mot desinformasjon rapporterer plattformene på hvordan de jobber for å forhindre spredning av desinformasjon på sine plattformer. I Medietilsynets vurdering fra september 2024, peker de særlig på Meta som problematisk ved at de ikke rapporterer tall for Norge, og at de tallene som oppgis er omtrentlige og ikke konsistente i hvilket nivå de gjelder for.[138]

I møte med ekspertgruppen pekte flere partier på at relasjonen til teknologiselskapene er utfordrende. Det handler om flere ting, men særlig at de oppleves som lite tilgjengelige og vanskelige å komme i kontakt med når det er nødvendig – for eksempel når partiets profiler (feilaktig) har blitt tatt ned. Når sosiale medier-plattformene har blitt viktige for partiene, er det alvorlig hvis de mister tilgangen til egne kanaler, særlig i en valgkamp. Det krever rask handling fra plattformene, men erfaringene er at slike saker ikke følges godt nok opp, noe også flere partier trakk frem for ekspertgruppen. Metas håndtering av fjerningen av Holocaust-senterets Facebook-side er et illustrerende eksempel på at en side kan bli tatt ned uten at eieren verken får beskjed om hvorfor, eller kommer i kontakt med plattformen for å få vite hvordan den kan gjenopprettes.[139]

Ekspertgruppen vurderer at den stadig økende makten til teknologiselskaper reduserer den nasjonale autonomien. De utgjør en stadig større del av infrastrukturen for den offentlige samtalen. Både når det gjelder informasjonstilgang for velgerne (søkemotorer og chatboter), som kommunikasjonskanal mellom velgere og partier (sosiale medier), og som plattform for diskusjon og meningsutveksling (sosiale medier), har teknologiselskapene en betydelig portvokterfunksjon. KI-generert innhold, filtrering og personalisering er med på å forme dette informasjonsrommet. De norske redaktørstyrte mediene får en vanskeligere konkurransesituasjon som resultat, både økonomisk, i å nå brukerne og som arena for offentlig samtale. De redaktørstyrte medienes konkurransearena omfatter med andre ord ikke bare sosiale medier som Meta, X og TikTok, men også akatører OpenAI og Google som premissleverandører for informasjonslandskapet i forbindelse med valg.

5.1.5 Mer algoritmestyrt distribusjon av innhold

Mens de sosiale mediene tidligere viste innhold fra brukerens eget nettverk, styres innholdet nå i økende grad av algoritmer med utgangspunkt i demografiske kjennetegn og aktivitet på nett – i tillegg til at mer innhold blir fremmet fordi plattformen får betalt for å promotere det.

Som omtalt over bidrar en slik dreining i retning algoritmestyrte medier til å utfordre både informasjons- og medielandskapet. Ved at algoritmene kun eksponerer brukere for innhold som understøtter deres egne meninger og virkelighetsforståelse, kan det bidra til selektiv eksponering. Hvordan informasjons- og medielandskapet i USA fungerer viser ekstreme utslag av dette, hvor velgerne til de to dominerende partiene verken forholder seg til de samme nyhetene eller faktaene. Slik er det heldigvis ikke i Norge. Videre vil det være viktig å sikre en felles offentlighet hvor man kan enes om grunnleggende fakta og forholde seg til de samme nyhetene og informasjonskildene selv om man er uenige i politiske standpunkt.

Personalisering er ikke den eneste utfordringen algoritmestyrt distribusjon medfører i en valgkontekst. En like viktig utfordring for informasjonslandskapet er at man eksponeres for ulikt innhold, og man kan ikke ta for gitt at andre har blitt eksponert for det samme som en selv. Det gjør den offentlige samtalen mer utfordrende, fordi personalisering setter to sentrale demokratiske premiss under press – behovet for en inkluderende samtale som arena for beslutninger, og innsikt i andres liv for å kunne fatte beslutninger for det felles beste.

Valgåret 2024 har også tydeliggjort svakhetene ved algoritmestyrte sosiale medier som kilder til informasjon om politikk og valg, som eksemplene med YouTube sine anbefalingsalgoritmer i det finske presidentvalget og hvilket innhold som ble fremhevet på TikTok i forbindelse med Europaparlamentsvalget i Finland. Sammenholdt med at sosiale medier i økende grad har nedprioritert redaksjonelt innhold, blir det vanskeligere å nå ut med kvalitetssikret informasjon.

5.2 Fordekt valgpåvirkning

Før «supervalgåret» var det stor spenning knyttet til hva man ville se av påvirkningsoperasjoner og trusselaktørers bruk av KI. På grunn av fordekte påvirkningsoperasjoners natur – ved at de nettopp gjennomføres på fordekt vis – er det ikke mulig å fastslå i hvilken grad aktørene faktisk har brukt KI, men det er mulig å gjøre noen vurderinger rundt hvilken betydning KI kan ha for evnen til å gjennomføre operasjoner. Når det gjelder fordekte påvirkningsoperasjoner, mener ekspertgruppen at endringene som følger av KI i hovedsak innebærer forsterking av eksisterende trusler.

Lenge så det ut til at valgåret skulle passere uten at man kunne si med sikkerhet at valg var blitt utsatt for fordekte påvirkningsoperasjoner på en måte som kan ha endret utfallet. Men da resultatet av presidentvalget i Romania ble underkjent med grunnlag i utenlandsk påvirkning ble bildet noe annerledes. Ekspertgruppen mener Romania er et viktig eksempel å peke på, ikke minst på grunn av den bevisste utnyttelsen av algoritmestyrte sosiale medier, og samvirket mellom utenlandske og innenlandske aktører i kombinasjon med cyberoperasjoner.

KI-verktøyene er i rask utvikling, men hovedbildet fra 2024 er at det synes som de «tradisjonelle» metodene for påvirkning fortsatt er vel så viktige som nye KI-baserte metoder. Det betyr ikke at trusselaktører ikke bruker KI. Det må legges til grunn at aktørene kan ha brukt 2024 til å teste ut og samle erfaringer, slik at KI kan bidra tyngre inn i fremtidige påvirkningsoperasjoner, først og fremst gjennom å effektivisere og forsterke eksisterende trusler.

Ekspertgruppen vil understreke at det fortsatt er et stort behov for mer forskningsbasert kunnskap om hva slags betydning KI har for fordekt valgpåvirkning.

Vi vil i det følgende peke på konkrete endringer i utfordringsbildet innenfor fordekt valgpåvirkning:

5.2.1 Økt kraft og omfang

Etter ekspertgruppens vurdering, muliggjør KI-teknologi at fordekte påvirkningsoperasjoner kan få større kraft og omfang. Økt kraft henger sammen med at teknologien gjør det mulig å skalere opp og produsere mer innhold som kan inngå i påvirkningsoperasjonen, mens omfanget handler om at KI reduserer behovet for menneskelige ressurser og økonomi for å kunne gjennomføre større operasjoner.

Et eksempel på at KI tas i bruk i påvirkningsoperasjoner, er de falske nyhetsnettstedene som enten prøver å fremstå som etablerte medium eller som en uavhengig nyhetsnettside, slik vi så i eksempelet med «D.C. Weekly». Falske nettsider er ikke et nytt fenomen, heller ikke i Norge. I 2023 fant Forsvarets forskningsinstitutt 14 falske nettsider som utga seg for å være norske. I realiteten var sidene falske og opptrådte anonymt, brukte fabrikkerte reportere og auto-kopierte og -oversatte innhold fra andre kilder.[140] Slike sider kan automatiseres ved hjelp av KI og distribueres gjennom falske profiler i sosiale medier som i større grad kan fremstå menneskelige og tilpasse budskapene. Utfordringen når slike sider og distribusjonen av innholdet blir mer sofistikert, er at de også kan få større spredning og mer overbevisende kraft. I verste fall kan narrativer spredt fra slike sider bli sitert eller gjenfortalt gjennom redaktørstyrte medier, og med det bidra til å bygge falsk legitimitet.

5.2.2 Flere trusselaktører

Fordi KI reduserer ressursbehovet ved påvirkningsoperasjoner, innebærer det en fare for at eksisterende trusselaktører som Russland og Kina oppskalerer sin innsats.[141] Samtidig kan det åpne opp for at flere trusselaktører kommer på banen og tar i bruk metoder de tidligere ikke har hatt ressurser eller kapasitet til å gjennomføre.

Etter ekspertgruppens vurdering må man være forberedt på at flere statlige aktører kan ta i bruk KI-verktøy for å gjennomføre fordekte operasjoner i forbindelse med valg, men det kan også omfatte ikke-statlige aktører både i andre land og i Norge. Det er også en risiko for at det vokser frem selskaper som selger påvirkningstjenester, slik man har sett i eksempelet med det israelske selskapet STOIC som har bidratt i påvirkningsoperasjoner rettet mot USA og Canada.[142]

5.2.3 Økt personalisering av påvirkningsoperasjoner

Flere av de mulighetene KI åpner opp for, kan også misbrukes av trusselaktører som del av fordekte påvirkningsoperasjoner. En slik utfordring er at trusselaktører ved hjelp av KI i større grad kan persontilpasse og målrette innhold, gjerne ned på individnivå.

En særlig trussel som er trukket frem, er at KI gjør det mulig å opprette boter på sosiale medier og meldingstjenester som kan fremstå som mennesker og etablere en-til-en-kommunikasjon med brukere, for eksempel på Snapchat eller WhatsApp. Den tyske forskeren Katja Muñoz har pekt på at slik påvirkning vil være vanskelig å avdekke fordi trusselaktøren opererer gjennom direktemeldinger til enkeltpersoner uten å legge igjen spor i åpne kanaler, og sammenligner denne innflytelsen med det influensere kan oppnå ved å etablere sosiale og emosjonelle relasjoner.[143]

5.2.4 Økt polarisering og utnytting av splittende saker

En kjent strategi for påvirkningsoperasjoner er å ta utgangspunkt i eksisterende kontroversielle saker eller konflikter og spille videre på disse for å bidra til ytterligere polarisering og svekkelse av tilliten til politikere og mellom mennesker.[144] Slike saker kan handle om for eksempel innvandring, klima, geografiske forskjeller, kjønn og utenrikspolitikk. Hvis budskapet er triggende, er det ikke nødvendigvis avgjørende om det er sant, så lenge budskapet kan underbygge og forsterke et eksisterende ståsted. KI kan gi økt kraft til operasjoner som spiller på dette, og det kan brukes for å gå gjennom store datamengder slik at en trusselaktør kan danne seg et bedre bilde av hvilke saker som vil være egnet til å øke polariseringen og til å svekke tilliten i samfunnet. Dette vil være ekstra relevant rundt valg.

5.2.5 Svekkelse i demokratisk beredskap som kan utnyttes

For å gjøre samfunnet mindre sårbart for uønsket påvirkning, kreves det også at befolkningen har en demokratisk beredskap. Ekspertgruppen mener derfor det er særlig bekymringsverdig at norsk ungdom, tross stor oppslutning om demokratiske verdier, i mindre grad gjenkjenner trusler mot demokratiet. Dette kan tyde på en lavere demokratisk beredskap.[145] Hvis denne beredskapen svekkes, er det noe trusselaktører kan utnytte.

Demokratisk beredskap bygges over tid, og starter i skolen. Mediene spiller også en sentral rolle i dette arbeidet. I Norge er demokrati og medborgerskap løftet frem som tverrfaglig tema i de nye læreplanene fra høsten 2020. Dette var et viktig grep, som også ble understreket av Ytringsfrihetskommisjonen, som pekte på at styrking av demokratisk beredskap primært bør skje gjennom å videreutvikle ytringsfrihetens infrastruktur.[146] Ekspertgruppen deler vurderingen om at satsing på demokratisk beredskap i møte med påvirkning av valg bør inngå i skolens øvrige demokratiopplæring, og ikke som ad hoc-tiltak. Det fordrer at lærere har nødvendig kompetanse til å gjennomføre undervisningen på en god måte.

Kritisk tenkning er en viktig del av demokratisk beredskap.[147] Dette er en krevende tosidighet. Det er ikke nok å slutte opp om demokratiet. Demokratiet må også kunne være gjenstand for kritikk for å kunne videreutvikles. I dette arbeidet spiller andre aktører en viktig rolle, som frivillige organisasjoner, freds- og menneskerettighetssentrene, tilbydere av undervisningsressurser og læremidler.

5.3 Valggjennomføring og cybersikkerhet

Når det gjelder valggjennomføring og cybersikkerhet er også dette et område ekspertgruppen mener erfaringene fra valgene i 2024 har en overføringsverdi. Ekspertgruppen mener at endringene som følger av KI i hovedsak innebærer forsterking av eksisterende trusler.

At norske datasystemer kan utsettes for cyberangrep og -operasjoner har myndighetene hatt høy bevissthet om over lang tid. Angrep eller operasjoner som rammer valggjennomføringen vil kunne ha store konsekvenser både for den praktiske valggjennomføringen, og for legitimiteten til valget og resultatet.

Ekspertgruppen vil peke på at det massive omfanget av cyberoperasjonen som Romania ble utsatt for understreker at utenlandske aktører både har kapasitet og evne til å gjennomføre store og koordinerte operasjoner. Også før 2024 er det eksempler på at valgmyndigheter i Norden har blitt angrepet, som da Sveriges nettside med valgresultater var nede som følge av overbelastningsangrep.

Overbelastningsangrep er det man har sett mest av rettet mot valg. Slike angrep kan svekke tilliten til valggjennomføringen dersom det skapes et inntrykk av at systemene som brukes er dårlig sikret. Det gjelder selv om slike angrep ikke oppnår noen reelle endringer i systemene eller utfallet av valget.

Ekspertgruppen vil peke på at det i Norge er elementer i valggjennomføringen som bidrar til robusthet mot at cyberangrep skal få betydning for utfallet. Det viktigste elementet er at stemmegivningen skjer med papirstemmesedler. Med det sikrer man at det alltid er mulig å ettergå og kontrollere hva som er det riktige resultatet, selv om datasystemet skulle bli angrepet og satt ut av spill eller endret med falske resultater.

I USA pekte flere av dem ekspertgruppen møtte på den desentraliserte strukturen for valg som en styrke. Dette gjør det vanskeligere å faktisk påvirke resultatet, fordi det vil involvere så mange mennesker at det i praksis vil være tilnærmet umulig å gjennomføre uten at det blir offentlig kjent. Også i Norge er den praktiske gjennomføringen av valg desentralisert, og skjer ute i kommunene.

I likhet med Finland har Norge et omfattende samarbeid på tvers av myndigheter og samfunnsområder. Dette styrker den kollektive responsstyrken og motstandsdyktigheten gjennom hele valgprosessen – fra planleggingen før valget, til gjennomføringen og oppfølgingen etter valget. I både Finland og Storbritannia ble det også pekt på betydningen av internasjonalt samarbeid.

Ekspertgruppen vil i det følgende peke på konkrete endringer i utfordringsbildet innenfor valggjennomføring og cybersikkerhet:

5.3.1 Økt digital sårbarhet

Samfunnet er i stadig større grad digitalisert, og det gjelder også valg, hvor datasystemet EVA støtter opp om kommunenes og fylkeskommunenes gjennomføring gjennom alle faser.

Ekspertgruppen vurderer at tjenesten som offentliggjør valgresultater er særlig utsatt, og at angrep på denne raskt kan gå ut over tilliten til resultatet, slik man så med angrepet på den svenske Valmyndighetens nettside i 2018. Hvis ikke slike hendelser håndteres på en god måte, kan det få stor negativ betydning for tilliten til både valggjennomføringen og resultatet.

Cyberoperasjoner kan påvirke valg også uten å ramme selve systemene som brukes i valget. KI aktualiserer bekymringene for inntrengning i systemer hvor persondata og annen informasjon kan hentes ut, potensielt for å spres på nettet – slik man så i forbindelse med angrepet mot rumenske datasystemer – eller selges til tredjeparter. Ikke fordi dette ikke er mulig å gjøre uten KI, men fordi KI gir mulighet til å gjennomføre angrep med økt kraft.

Med persontilpasningsmulighetene som ligger i KI, som er en utfordring omtalt over, kan trusselaktører målrette inntrengningsangrep, særlig gjennom mer overbevisende phishing-kampanjer. Språkmodeller kan også trenes på stjålet materiale slik at de kan lage enda mer overbevisende materiale som kan inngå i en påvirkningsoperasjon.

De siste årene har det vært flere eksempler på at kommuner og statlige virksomheter rammes av cyberangrep – som angrepene mot Østre Toten kommune i 2021[148] og senest Gran kommune i desember 2024.[149] Selv om slike angrep ikke rammer valget direkte – og heller ikke nødvendigvis gir angriperen tilgang til informasjon eller muligheter til å gjøre endringer i det valgadministrative systemet – vil en hendelse som skjer i valgperioden ha stor betydning for kommunens kapasitet i en allerede ressurskrevende periode. Angrep mot staten, som de omfattende angrepene mot 12 departementer sommeren 2023[150] , kan bidra til å legge press på kapasiteten eller forhindre at nasjonale valgmyndigheter kan gjøre jobben sin. Stortinget har også vært utsatt for cyberangrep flere ganger.[151] Slike angrep kan også bidra til å svekke den generelle tilliten til at systemer og data er tilstrekkelig sikret.

5.3.2 Økt grobunn for spekulasjoner om feil eller fusk i valggjennomføringen

Internasjonalt – og særlig i USA – har man over tid sett en utvikling i retning av lavere tillit til valg. I den amerikanske konteksten er det særlig republikanske velgere som over tid har fått lavere tillit til valggjennomføringen. I ekspertgruppens møter var det flere som trakk frem at det var mye fabrikkert innhold som kunne blitt brukt til å diskreditere valget, og at man trolig ville sett et annet etterspill av valget hvis utfallet hadde blitt annerledes. Selv om Norge er ulikt både når det gjelder informasjons- og medielandskap og i selve valggjennomføringen, er det en utfordring at internasjonale trender og debatter kan slå over i en norsk kontekst, forsterket av algoritmer i sosiale medier, og skape feilaktige inntrykk av hva som er situasjonen i Norge. Derfor er det særlig viktig at valget gjennomføres på en måte som ikke gir grunnlag for slike spekulasjoner.

Selv om KI også har potensial til å forbedre og effektivisere valgprosesser, er ikke ekspertgruppen kjent med at det er land som har tatt i bruk KI i selve valggjennomføringen, og innspillene ekspertgruppen har fått er å vise måtehold. Flere pekte på at KI kan brukes som hjelp til å identifisere feil for menneskelig oppfølging, men ikke som et selvstendig verktøy uten oversyn. Å bevare et papirbasert system er også viktig for sikre etterprøvbarhet og ivareta tillitt til prosess og resultat.

Et annet inntrykk ekspertgruppen også vil peke på, er viktigheten av å sikre at lokale valgmyndigheter har tilstrekkelig ressurser og kompetanse. Fra de ulike aktørene ekspertgruppen snakket med i USA, kom det frem at lokale valgmyndigheter over tid har fått stadig flere oppgaver som må håndteres.[152] I tråd med offentlighetens økte behov for informasjon er de også i stadig større grad forventet å opptre som gode kommunikasjonsrådgivere i tillegg til å gjennomføre valget på en sikker og effektiv måte.

Det ble derfor også påpekt at rollen til de lokale valgmyndighetene må defineres, klargjøres og avgrenses. I både Finland, Storbritannia og USA pekte valgmyndighetene på at det ikke skal være valgmyndighetenes rolle å klassifisere hva som er ekte og hva som er falske nyheter, særlig ikke om politisk omdiskuterte spørsmål. De skal heller ikke regulere informasjonsrommet. Valgmyndighetenes oppgave skal være å tilby klar og korrekt informasjon om valget og hvordan det gjennomføres, og informasjonen skal primært tilbys på egne nettsider og gjennom egne identifiserbare kanaler.

For å unngå at det skapes grobunn for spekulasjoner, er det særlig viktig med åpenhet både i den faktiske valggjennomføringen og i kommunikasjonen rundt valget. Valg er hendelser med svært mange involverte, og det er ikke mulig å unngå at det kan skje enkelte feil. Dette må man ha rutiner for å håndtere og kommunisere godt om. Ekspertgruppen vil peke på at særlig opptellingen er en kritisk fase hvor forsinkelser og feil i overføringer og offentliggjøring av resultater kan ha en direkte innvirkning på tilliten.

5.3.3 Sprik i KI-kompetanse innen forvaltningen og politikken

I ekspertgruppens møte med partiene ble det også tydelig at det er store variasjoner mellom partiene både i hvor godt de kjenner til KI, og i hvor stor grad de har tatt i bruk KI-verktøy i egne organisasjoner.

For myndighetene vil det være særlig viktig å sikre at man har nødvendig kompetanse på KI til å håndtere de endringene og utfordringene det kan innebære. Det er nødvendig at sentrale valgmyndigheter, som Valgdirektoratet, har god kompetanse på hvilken betydning KI kan ha i forbindelse med valg, og har tilstrekkelig med ressurser til å kunne gi råd og veiledning om dette, for eksempel til kommuner hvis det oppstår hendelser før, under eller etter et valg.

6 Oppsummerende vurderinger og anbefalinger fra ekspertgruppen

KI har i stor grad satt sitt preg på «supervalgåret» 2024. Selv om det ikke er grunnlag for å si at KI har medført noen banebrytende nye trusler, har KI satt sitt preg på demokratier og valggjennomføring. KI-generert innhold har blitt produsert og spredt, og i mange tilfeller fått stor omtale. På den måten bidro KI til å forme dagsordenen rundt valg. Sosiale medier som bygger på algoritmer, altså mer «tradisjonell» KI, har allerede satt et stort preg på informasjons- og medielandskapet, som også gjør seg gjeldende for valg. Dette har ført til et endret utfordringsbilde for redaktørstyrte medier så vel som (valg)myndigheter. Erfaringene fra 2024 viser også at cybersikkerhet i valgsammenheng er blitt enda viktigere, som særlig understrekes av de dramatiske hendelsene under presidentvalget i Romania, men også av hendelser i USA.

Ekspertgruppens vurdering er at KI i størst grad bidrar til å forsterke eksisterende trusler. KI gir kraftige verktøy som forenkler og effektiviserer det som tidligere krevde tid, ressurser og kompetanse.

Sett med utgangspunkt i norske forhold, mener ekspertgruppen at Norge har gode forutsetninger for å motvirke at KI skal få negativ betydning for norske valg og den politiske samtalen. I denne sammenhengen handler det særlig om motstandskraft som bygger på høy grad av tillit og et mangfoldig medielandskap med sterke redaktørstyrte medier som synes å ha høy bevissthet om KI, valg og påvirkning, og fortsatt når ut til store deler av befolkningen. Samtidig er det utviklingstrekk det er viktig å være oppmerksomme på, særlig unges medievaner, men det gjelder også andre grupper, som innvandrere og de som ikke stemmer. Fordi dette er grupper som i mindre grad synes å benytte redaktørstyrte medier, er det særlig viktig å bidra til at de får korrekt informasjon om valg – og å sikre at alle vet hvor de kan finne slik informasjon.

Ekspertgruppen vil også peke på den store avhengigheten av utenlandske teknologi- og plattformselskaper, som alle er involvert i utviklingen av KI. Dette er en avhengighet som kan få stor betydning for det demokratiske grunnlaget for valg i Norge. Disse selskapene besitter stor makt over infrastrukturen som styrer distribusjonen av informasjon, samtidig som det er få tilgjengelige alternativer.

Muligheten for et fall i tillit er den mest alvorlige konsekvensen av de utfordringene ekspertgruppen peker på i kapittel 5. Det gjelder både tilliten til valggjennomføring og -resultat, så vel som tilliten til medier og tilliten til informasjon som sådan. I anbefalingene er det derfor lagt særlig vekt på tiltak som kan bidra til å opprettholde og bygge tillit.

Med utgangspunkt i de erfaringene vi har fra valgene i 2024 og annen relevant forskning og kunnskap, sett opp mot norske forhold, har ekspertgruppen kommet frem til anbefalinger til hvordan myndighetene kan bidra til å redusere risikoen for at KI får en negativ betydning for valg og demokrati.

I tråd med mandatet kan flere av anbefalingene implementeres før stortingsvalget i 2025. Samtidig peker flere av anbefalingene også lengre frem, og handler om et langsiktig arbeid for å ivareta og styrke de strukturene som bidrar til å bevare et godt informasjons- og medielandskap og bygge motstandskraft mot uønsket påvirkning.

Det er ikke mulig å isolere innsatsen som er nødvendig til valgmyndighetene eller enkeltsektorer alene. Innsatsen for å redusere risikoen for negativ betydning for valg og demokrati må være bred, og involvere en rekke aktører – både valgmyndigheter, mediemyndigheter og mediene selv, sikkerhets- og digitaliseringsmyndigheter og ikke minst plattform- og teknologiselskaper. Ekspertgruppen er derfor positiv til at det allerede finnes en tverrdepartemental arbeidsgruppe som jobber med hvordan det kan bygges motstandskraft mot uønsket påvirkning av valg, og er kjent med at ekspertgruppens rapport vil bli behandlet av denne gruppen.

Avslutningsvis vil ekspertgruppen understreke at trusselen KI representerer ikke må overdrives. Dersom det tegnes et overdrevet trusselbilde, vil det i seg selv bidra til å redusere tilliten til informasjon, teknologi og demokratiet. Norge har i dag et godt grunnlag for motstandskraft, som må ivaretas og styrkes.

6.1 Ekspertgruppens anbefalinger

Ekspertgruppens anbefalinger skal bidra til følgende mål:

Velgere skal ha tilgang til korrekt informasjon om valg.

Sikre at valggjennomføringen og digitale systemer som er viktige for valg er godt beskyttet.

Ivareta og styrke det norske informasjons- og medielandskapet.

Bygge motstandskraft i befolkningen og gjøre oss mindre sårbare for uønsket valgpåvirkning.

For å nå disse målene, har ekspertgruppen følgende anbefalinger:

Sikre at valgmyndighetene har nødvendig kompetanse og kapasitet på KI og kommunikasjon. I et mer uoversiktlig informasjonslandskap, er det enda viktigere at valgmyndighetene bidrar til at velgerne er informerte. Valgmyndighetene må være hovedkilden til informasjon om valggjennomføringen. Da må også nasjonale valgmyndigheter, kommuner og fylkeskommuner ha nødvendig kompetanse og kapasitet. For å bidra til dette, vil ekspertgruppen peke på følgende:

Valgmyndighetene må ha tilstrekkelige ressurser, inkludert ressurser som jobber med kommunikasjon slik at det kan drives et mer proaktivt informasjonsarbeid.

Bygge kompetanse på KI og betydningen det kan ha for valg i nasjonale valgmyndigheter, slik at kommuner og fylkeskommuner kan få opplæring og nødvendig veiledning om temaet.

Redusere grunnlag for at det kan spekuleres i feil og mangler i valggjennomføringen eller at valget er utsatt for uønsket påvirkning. Ekspertgruppen mener det er avgjørende at velgerne kan ha tillit til at valggjennomføringen har gått rett for seg og at resultatet er korrekt. Det viktigste for å oppnå dette er at valggjennomføringen faktisk skjer i tråd med regelverk og internasjonale standarder. Videre må myndighetene bidra til å redusere mulighetene for at det kan spekuleres i at valget ikke har gått rett for seg. Ekspertgruppen anbefaler derfor følgende:

Ha på plass reserveløsninger for viktige systemer benyttet i valggjennomføringen, særlig systemer for formidling av valgresultater til offentligheten. Reserveløsningen bør, så langt som mulig, være lik hovedløsningen.

Fortsette med papirbaserte stemmesedler for å sikre etterprøvbarhet.

Ha beredskap for håndtering av feil- og desinformasjon om valggjennomføringen. I forkant av valget bør rutiner og roller være avklart, slik at valgmyndigheter nasjonalt og lokalt kan bidra til at korrekt informasjon når ut.

Etterretnings- og sikkerhetstjenestene må ha nødvendig kompetanse og bevissthet om nye utfordringer og trusler mot demokratiet som følger av KI.

Myndighetene, herunder EOS-tjenestene, må etterstrebe å kommunisere så åpent og raskt som mulig, særlig om hendelser eller påstander om hendelser som berører valget, for å ivareta tillit.

Anbefalinger fra Partilovnemnda om revisjon av partiloven bør følges opp for å sikre åpenhet om finansieringen av valgkamp og politiske partier.

Det bør utvises stor forsiktighet med implementering av KI-løsninger i valgadministrasjon.

Kontakt mellom myndighetene og teknologi- og plattformselskapene. Teknologi- og plattformselskapene har stor makt i hvordan de innretter sine tjenester, og myndighetene bør ha kontakt med dem om spørsmål som gjelder sikring av valg. Ekspertgruppen vil peke på noen områder som er særlig viktige i en slik dialog:

Merking av KI-generert innhold i tråd med KI-forordningen, forutsatt at forordningen ikke er implementert i norsk lovverk før stortingsvalget.

Tiltak som forhindrer spredning av feil- og desinformasjon om valget.

Plattformer og chatboter bør vise til offisiell valginformasjon og utvise forsiktighet i omtale av valgrelaterte saker.

Innhold fra redaktørstyrte medier bør ikke forhindres i sosiale medier.

Avklare hvordan plattformene kan bistå ved hendelser.

Politiske aktører bør ansvarliggjøres og støttes. Politiske aktører, herunder alle som stiller til valg, har et viktig ansvar for å bidra til et godt informasjonslandskap, og til å ikke spre feil- eller desinformasjon. Samtidig bør det være ordninger på plass som gir politiske aktører nødvendig støtte og opplæring, særlig i møte med mektige plattformer som kan være utfordrende å komme i kontakt med. Ekspertgruppen vil her trekke frem følgende:

Det er positivt at det allerede er inngått en avtale mellom partiene på Stortinget om å beskytte stortingsvalget 2025 mot deepfakes og KI-generert desinformasjon. Slike retningslinjer skaper felles rammer på tvers av partiene, og i det videre bør politiske aktører også se på muligheten for felles retningslinjer som betrakter KI bredere.

Etablere et kontaktpunkt for politiske partier og kandidater som de kan henvende seg til ved hendelser som hacking eller urettmessig fjerning av kontoer, og som bistår oppfølgingen med plattformselskapene.

Prioritere rask implementering av relevante EU-lover, særlig DSA og KI-forordningen. Disse lovene gir viktige rammer, blant annet plikter til plattformer om åpenhet og tilgang, samt krav om merking av KI-generert innhold. Å prioritere implementering av disse vil være et viktig skritt i reguleringen av teknologi- og plattformselskapene i Norge.

Føre en aktiv mediepolitikk som opprettholder frie, sterke og mangfoldige redaktørstyrte medier. Den sterke posisjonen til redaktørstyrte medier må opprettholdes ved at mediepolitikken legger til rette for at mediene er i stand til å være konkurransedyktige og innovative for å nå ut til flere grupper. I møte med en utvikling der unge i større grad bruker sosiale medier og chatboter som informasjonskilder, vil det særlig være viktig å bidra til at unge bruker redaktørstyrte medier.

Bygge kildebevissthet og fremme kritisk medie-, teknologi- og KI-forståelse. At befolkningen er i stand til å vurdere informasjon og avdekke KI-generert feil- og desinformasjon, har blitt viktigere med de mulighetene KI-verktøy har gitt og forflytningen av brukere fra redaktørstyrte medier til algoritmestyrte sosiale medier. Ekspertgruppen vil særlig peke på følgende:

Styrke aktører i sivilsamfunnet som jobber med å bygge kildebevissthet og kritisk medieforståelse.

Befolkningen må få informasjon om hva uønsket valgpåvirkning er, hvordan det kan skje og hvordan de kan avdekke det.

Det er særlig viktig at informasjonstiltak retter seg mot grupper som i mindre grad benytter redaktørstyrte medier.

Det bør lages lettlest og tilgjengelig materiell om KI og valg, som bygger på kunnskap fra blant annet denne rapporten, som kan brukes i demokratiopplæring.

Mer forskning og samarbeid mellom myndigheter, forskere, sivilsamfunn og teknologiselskaper. Et bredt samarbeid kan sikre at teknologien brukes ansvarlig og i tråd med demokratiske verdier, samtidig som det styrker samfunnets motstandskraft mot misbruk. Slikt samarbeid er også avgjørende for å utvikle effektive reguleringer og bygge tillit til nye løsninger. Ekspertgruppen anbefaler derfor:

Ytterligere styrke forsknings- og kunnskapssektoren for å sikre at Norge har solide fagmiljøer på områder som er relevante for temaene i denne rapporten.

Sikre at det forskes på temaer som uønsket valgpåvirkning, sikkerhet, teknologi og internasjonale forhold, teknologisk infrastruktur, kildebevissthet og kritisk medie-, teknologi- og KI-forståelse.

Internasjonalt samarbeid. Utfordringene det pekes på strekker seg utover Norges grenser og utfordrer tradisjonelle internasjonale rammeverk for internasjonal politikk og kjøreregler. Ekspertgruppen mener derfor at Norge må være en pådriver for internasjonalt samarbeid med problemstillinger knyttet til KI, demokrati og valg, samt fremme en mer ambisiøs teknologipolitikk globalt, for å sikre våre demokratiske verdier og interesser.

7 Referanser

Associated Press (22. august 2024): Company that sent fake Biden robocalls in New Hampshire agrees to $1m fine. Hentet fra The Guardian: https://www.theguardian.com/technology/article/2024/aug/22/fake-biden-robocalls-fine-lingo-telecom

Bakke, S. (16. desember 2024): For første gang er et demokratisk valg annulert på grunn av cyberoperasjoner. Hentet fra digi.no: https://www.digi.no/artikler/debatt-for-forste-gang-er-et-demokratisk-valg-annullert-pa-grunn-av-cyberoperasjoner/554014

Baste, Ø. F., Schultz, A. og Osberg, J. A. (18. oktober 2023): Mens vi venter på at EU skal regulere kunstig intelligens. Stat & Styring, ss. 15-20. doi:10.18261/stat.33.3.3

Bekkengen, F. V. (2024): Norsk mediebarometer 2023. Statistisk sentralbyrå. Hentet fra https://www.ssb.no/kultur-og-fritid/tids-og-mediebruk/artikler/norsk-mediebarometer-2023

Bergh, J., Christensen, D. A. og Holmås, T. H. (2021): Mobiliseringsvalget 2019: Hadde kommunereformen noen betydning? I J. Saglie, S. B. Segaard og D. A. Christensen (red.): Lokalvalget 2019. Nye kommuner - nye valg? Cappelen Damm Akademisk.

Bergh, J., Christensen, D. A. og Holmås, T.-H. (2023): Valgdeltakelse, forhåndsstemmegivning og familiens betydning for politisk deltakelse. I J. Bergh og A. H. Haugsgjerd (red.): Politikk i urolige tider. En studie av stortingsvalget 2021.

Bjørgul, L., Sivertsen, E. G. og Sellevåg, S. R. (2022): Scenarioer for uønsket påvirkning i forbindelse med norske valg. Forsvarets forskningsinstitutt. Hentet fra https://www.ffi.no/publikasjoner/arkiv/scenarioer-for-uonsket-pavirkning-i-forbindelse-med-norske-valg

Blenkinsop, P. (17. desember 2024): EU opens investigation into TikTok over election interference. Hentet fra Reuters: https://www.reuters.com/business/eu-opens-investigation-into-tiktok-over-election-interference-2024-12-17/

Brandtzæg, B. A., Magnussen, E., Vike, H., Heian, M. T., Kvernenes, M. S., Jupskås, A. R. og Ruud, S. S. (2022). Lokaldemokrati og lokalpolitikernes arbeidsvilkår. Motivasjon og deltakelse i lokalpolitisk arbeid. Telemarksforskning. Hentet fra https://www.regjeringen.no/contentassets/a1de937bf67a44dda49f1f95ab9a0c92/sluttrapport_lokaldemokrati_tf.pdf

Brautović, M. og Roško, M. (2024): Generative AI Use and disinformation during the croatian parliament elections 2024. Adria Digital Media Observatory. Hentet fra https://edmo.eu/wp-content/uploads/2024/06/ADMO_report_8.pdf

Børhaug, K. (2014): Selective Critical Thinking: A Textbook Analysis of Education for Critical Thinking in Norwegian Social Studies. Policy Futures in Education, ss. 431-444. doi:10.2304/pfie.2014.12.3.431

Caspersen, J., Wendelborg, C. og Storstad, O. (2023). Ett steg fram og to tilbake: Demokratiforståelse, holdninger og deltakelse blant norske ungdomsskoleelever. NTNU Samfunnsforskning. Hentet fra https://samforsk.no/publikasjoner/ett-steg-fram-og-to-tilbake-demokratiforstaelse-holdninger-og-deltakelse-blant-norske-ungdomsskoleelever

Châtelet, V. (11. juni 2024a): Far-right parties employed generative AI ahead of European Parliament elections. Hentet fra DFRLab: https://dfrlab.org/2024/06/11/far-right-parties-employed-generative-ai-ahead-of-european-parliament-elections/

Châtelet, V. (4. juli 2024b): Operation targets French snap elections using AI-generated content. Hentet fra DFRLab: https://dfrlab.org/2024/07/04/operation-targets-french-snap-elections-using-ai-generated-content/

CheckFirst (2024): Ads, Influence, and Democracy: Meta's Role in Romania's 2024 Presidential Election. CheckFirst. Hentet fra https://checkfirst.network/wp-content/uploads/2024/12/Research%20Note%20Ads,%20Influence,%20and%20Democracy_%20Meta%E2%80%99s%20Role%20in%20Romania%E2%80%99s%20Election.pdf

Chesney, B. og Citron, D. (2019): Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, pp. 1753-1820. doi:10.15779/Z38RV0D15J

Coldewey, D. (12. november 2024): Generative disinfo is real — you’re just not the target, warns deepfake tracking nonprofit. Hentet fra TechCrunch: https://techcrunch.com/2024/11/12/generative-disinfo-is-real-youre-just-not-the-target-warns-deepfake-tracking-nonprofit/

Connal, S. (2024): Providing more data about news results in the EU. Hentet fra Google: https://blog.google/around-the-globe/google-europe/more-data-about-news-results-eu/

Cybersecurity and Infrastructure Security Agency (2024): Election Security. Hentet fra Cybersecurity and Infrastructure Security Agency: https://www.cisa.gov/topics/election-security

Dahlum, S., Langsæther, P. E. og Wig, T. (2. november 2024): Også norske velgere kan støtte en autoritær leder. Hentet fra vg.no: https://www.vg.no/nyheter/i/KMG014/norske-statsvitere-ogsaa-i-norge-er-den-autoritaere-trusselen-reell

DGA Group (2024): AI and Elections: Impact and implications of AI generated content. DGA Group. Hentet fra https://dgagroup.com/insight/ai-and-elections-impact-and-implications-ai-generated-content/

Digitaliserings- og forvaltningsdepartementet (3. september 2021): EUs forslag til regulering av KI - Norges posisjon. Hentet fra Regjeringen.no: https://www.regjeringen.no/no/tema/statlig-forvaltning/it-politikk/KI-strategi/nasjonal-posisjon-pa-ki-regulering/id2870299/

Digitaliseringsdirektoratet (u.å.): Ny forordning for kunstig intelligens. Hentet fra Digdir.no: https://www.digdir.no/kunstig-intelligens/ny-forordning-kunstig-intelligens/4271

Direktoratet for forvaltning og økonomistyring (2024): Innbyggerundersøkelsen 2024. Hentet fra dfo.no: https://dfo.no/undersokelser/innbyggerundersokelsen-2024

Economist Intelligence (2024): Democracy Index 2023. Age of conflict. Economist Intelligence. Hentet fra https://www.eiu.com/n/campaigns/democracy-index-2023/

EEAS (2024): 2nd EEAS Report on Foreign Information Manipulation and Interference Threats. European Union External Action. Hentet fra https://www.eeas.europa.eu/eeas/2nd-eeas-report-foreign-information-manipulation-and-interference-threats_en

Elliott, V. (29. mai 2024a): Germany’s Far-Right Party Is Running Hateful Ads on Facebook and Instagram. Hentet fra WIRED: https://www.wired.com/story/meta-racist-ads-germany-eu-elections/

Elliott, V. (11. juni 2024b): There's an AI Candidate Running for Parliament in the UK. Hentet fra WIRED: https://www.wired.com/story/ai-candidate-running-for-parliament-uk/

EU DisinfoLab (2024): What is the Doppelganger operation? List of resources. Hentet fra EU DisinfoLab: https://www.disinfo.eu/doppelganger-operation/

European Board of Digital Services (2024): Report on the European Elections Digital Services Act and Code of Practice on Disinformation. European Union. Hentet fra https://digital-strategy.ec.europa.eu/en/library/european-board-digital-services-publishes-post-election-report-eu-elections

European Commission (16. juni 2022): Signatories of the 2022 Strengthened Code of Practice on Disinformation. Hentet fra European Commission: https://digital-strategy.ec.europa.eu/en/library/signatories-2022-strengthened-code-practice-disinformation

European Commission (2024): Memo: Known information interference operations during the June 2024 elections for the European Parliament. European Commission. Hentet fra commission.europa.eu: https://ec.europa.eu/commission/presscorner/api/files/attachment/879707/Memo%20-%20Known%20information%20interference%20operations%20during%20EP%20elections.pdf

European Parliament (2024a): How European elections work. Hentet fra European Parliament: https://elections.europa.eu/en/how-elections-work/

European Parliament (2024b): European elections: EU institutions prepared to counter disinformation. Hentet fra European Parliament: https://www.europarl.europa.eu/news/en/press-room/20240603IPR21804/european-elections-eu-institutions-prepared-to-counter-disinformation

EUvsDisinfo (19. juni 2024): Doppelganger Strikes Back: Unveiling FIMI Activities Targeting European Parliament Elections. Hentet fra EUvsDisinfo: https://euvsdisinfo.eu/doppelganger-strikes-back-unveiling-fimi-activities-targeting-european-parliament-elections/

EØS-notatbasen (19. november 2024a): Forordningen om digitale tjenester (Digital Services Act - DSA). Hentet fra Regjeringen.no: https://www.regjeringen.no/no/sub/eos-notatbasen/notatene/2021/feb/forordning-om-digitale-tjenester-digital-services-act-dsa/id2860429/

EØS-notatbasen. (10. juni 2024b): Forordning om mediefrihet (European Media Freedom Act - EMFA). Hentet fra Regjeringen.no: https://www.regjeringen.no/no/sub/eos-notatbasen/notatene/2022/nov/forordning-om-mediefrihet-european-media-freedom-act-emfa/id2950946/

Goldmacher, S. (11. august 2024): Trump Falsely Claims That the Crowds Seen at Harris Rallies Are Fake. Hentet fra The New York Times: https://www.nytimes.com/2024/08/11/us/politics/trump-harris-crowds-ai.html

Gorman, L. og Levine, D. (2024): The ASD AI Election Security Handbook. GMF Alliance for Securing Democracy. Retrieved from https://www.gmfus.org/news/asd-ai-election-security-handbook

Gotfredsen, S. G. (12. september 2024): The Tenet Media Incident. Hentet fra Columbia Journalism Review: https://www.cjr.org/the_media_today/tenet_media_indictment_russia.php

GOV.uk (28. oktober 2024): UK sanctions Putin's interference actors. Hentet fra GOV.uk: https://www.gov.uk/government/news/uk-sanctions-putins-interference-actors

Gran kommune (18. desember 2024): Gran kommune er utsatt for dataangrep. Hentet fra Gran kommune: https://www.gran.kommune.no/gran-kommune-er-utsatt-for-dataangrep.6701579-452652.html

Gundersen, M. (19. februar 2019): Slik kan den nye etterretningsloven påvirke deg. Hentet fra NRKbeta: https://nrkbeta.no/2019/02/14/slik-kan-den-nye-etterretningsloven-pavirke-deg/

Haugsgjerd, A. H., Karlsen, R. og Aalberg, T. (2023): Nyhetsbruk og politisk kunnskap i valgkamp. I J. Bergh og A. H. Haugsgjerd (red.): Politikk i urolige tider. En studie av stortingsvalget 2021. Oslo: Cappelen Damm Akademisk.

Haugsgjerd, A. og Karlsen, R. (2022): Election Campaigns, News Consumption Gaps, and Social Media: Equalizing Political News Use When It Matters? The International Journal of Press/Politics, 29(2). doi:10.1177/19401612221112014

Haugsgjerd, A. og Segaard, S. B. (2020): Politisk tillit, lokaldemokrati og legitimitet. Kunnskapsstatus og utviklingstrekk. Institutt for samfunnsforskning. Hentet fra https://hdl.handle.net/11250/2652187

Heggheim, S. og Sællmann, S. K. (5. juli 2023): Laga falsk nettside om politisk parti. Hentet fra NRK.no: https://www.nrk.no/sorlandet/laga-falsk-nettside-om-politisk-parti-1.16469868

Hofsrud, Ø. (13. juni 2024): Google får konkurranse som søkefavoritt – nå går de unge til TikTok og ChatGPT. Hentet fra Kampanje.com: https://kampanje.com/premium/juni-2024/innsikt/google-far-konkurranse-som-sokefavoritt-na-gar-de-unge-til-tiktok-og-chatgpt

Hogan Lovells (15. juli 2024): France prohibits non-consensual deep fakes. Hentet fra Hogan Lovells: https://www.hoganlovells.com/en/publications/france-prohibits-non-consensual-deep-fakes

Hudnall, H. (2024): Image of Donald Trump wading through flood water is AI-generated | Fact check. Hentet fra USA Today: https://eu.usatoday.com/story/news/factcheck/2024/10/03/ai-image-trump-hurricane-helene-fact-check/75483588007/

IKT-Norge (26. november 2024): Enighet om å beskytte stortingsvalget mot deepfakes. IKT-Norge samlet de politiske partiene om avtale. Hentet fra IKT-Norge: https://ikt-norge.no/meninger/enighet-om-a-beskytte-stortingsvalget-mot-deepfakes-ikt-norge-samlet-de-politiske-partiene-om-avtale/

Independent High Level Expert Group set up by the European Commission (2018): A Definition of AI: Main Capabilities and Diciplines. Hentet fra https://digital-strategy.ec.europa.eu/en/library/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines

International IDEA (2024): Code of Conduct for the 2024 European Parliament Elections. Hentet fra International IDEA: https://www.idea.int/european-code-of-conduct-2024

International Society for Fair Elections and Democracy (2024): First Interim Report on Social Media Monitoring. August 27 - September 20. ISFED. Hentet fra https://www.isfed.ge/eng/sotsialuri-mediis-monitoringi/sotsialuri-mediis-monitoringis-pirveli-shualeduri-angarishi-27-agvisto-20-seqtemberi

Ipsos (2023): Hatytringer, trusler og desinformasjon mot folkevalgte. Ipsos for KS. Hentet fra https://www.ks.no/globalassets/fagomrader/forskning-og-utvikling/fou-rapporter/Hatytringer-trusler-og-desinformasjon-mot-folkevalgte.pdf

Jackson, D., Weil, M. og Adler, W. T. (2024): Preparing for Artificial Intelligence and Other Challenges to Election Administration. Bipartisan Policy Center. Hentet fra https://bipartisanpolicy.org/report/preparing-for-artificial-intelligence-and-other-challenges-to-election-administration/

Jerijervi, D. R. og Hauger, K. K. (15. juni 2023): Slår alarm om ny Facebook-trend: - Bekymrer meg veldig. Hentet fra Kampanje.com: https://kampanje.com/premium/juni-2023/innsikt/ny-facebook-trend-vekker-uro-i-medie-norge---bekymrer-meg-veldig/

Johnson, D. B. (5. juni 2024): Israeli influence operation highlights global disinformation industry. Hentet fra CyberScoop: https://cyberscoop.com/israel-influence-operations-stoic/

Kalsnes, B. og Ihlebæk, K. A. (2021): Hva vet vi egentlig om medievalgkampen? Norsk medietidsskrift, 28(3), ss. 1-2. doi:10.18261/ISSN.0805-9535-2021-03-01

Karlsen, R. (under utgivelse): Chapter 17: Election Campaigns. I Oxford Handbook of Norwegian Politics.

Karlsen, R. og Steen-Johansen, K. (2021): Nyheter, sosiale nettverk og lokalpolitisk orientering i lokalvalgkamp. I J. Saglie, S. B. Segaard og D. A. Christensen (red.): Lokalvalget 2019. Nye kommuner – nye valg? Oslo: Cappelen Damm Akademisk.

Katzenberger, T. (10. februar 2024): Judge blocks California deepfakes law that spareked Musk-Newsom row. Hentet fra POLITICO: https://www.politico.com/news/2024/10/02/california-law-block-political-deepfakes-00182277

Kleven, Ø. (8. november 2023): Nær halvparten av velgerne stemte på forhånd. Hentet fra ssb.no: https://www.ssb.no/valg/kommunestyre-og-fylkestingsvalg/statistikk/valgresultat-for-kommunestyre-og-fylkestingsvalget/artikler/naer-halvparten-av-velgerne-stemte-pa-forhand

Kleven, Ø. og Bergseteren, T. (2024): Velgerundersøkelsen 2023. Tabellrapport. Statistisk sentralbyrå. Hentet fra https://www.ssb.no/valg/kommunestyre-og-fylkestingsvalg/artikler/velgerundersokelsen-2023.tabellrapport

Knutsen, C. H., Dahlum, S., Allern, E. H., Hagfors, S. B., Klausen, J. E., Søyland, M. og Wig, T. (2023): Tilstandsanalyse av det norske demokratiet. Universitetet i Oslo. Hentet fra https://www.regjeringen.no/no/dokumenter/tilstandsanalyse-av-det-norske-demokratiet/id2991191/

Knuutila, A. og Havula, P. (2024): The TikTok Effect. How the app shaped political discourse during Finnish European elections 2024. Faktabaari. Hentet fra https://crossover.social/wp-content/uploads/2024/07/TheTiktokEffect.pdf

Knuutila, A., Kuster, G. og Lesplingart, A. (2024): "Up Next", biased politics? YouTube Recommendations and Political Bias in the Finnish Presidential Election 2024. Faktabaari. Hentet fra https://crossover.social/wp-content/uploads/2024/03/Digitaalivahti_raportti_2024.pdf

Kommunal- og distriktsdepartementet (9. juni 2023a): Regjeringa lanserer tiltaksplan for å sikre valet. Hentet fra Regjeringen.no: https://www.regjeringen.no/no/aktuelt/regjeringa-lanserer-tiltaksplan-for-a-sikre-valet/id2983730/

Kommunal- og distriktsdepartementet (24. juli 2023b): Departementer utsatt for dataangrep. Hentet fra Regjeringen.no: https://www.regjeringen.no/no/aktuelt/presseinvitasjon/id2990098/

Linvill, D. og Warren, P. (2023): Infektion’s Evolution: Digital Technologies and Narrative Laundering. Clemson University Media Forensics Hub. Hentet fra https://open.clemson.edu/mfh_reports/3/

LSM (9. mai 2024): Deep-fake use to influence elections will be criminalized in Latvia. Hentet fra LSM.lv: https://eng.lsm.lv/article/politics/election/09.05.2024-deep-fake-use-to-influence-elections-will-be-criminalized-in-latvia.a553370/

Lüders, M. og Sundet, C. S. (3. oktober 2022): Globalt innfødte som en tapt generasjon? En konseptualisering av unge som en mediegenerasjon. Norsk medietidsskrift, ss. 1-12. doi:10.18261/nmt.30.1.1

Marinov, V. (23. mai 2024): Don’t Bother Asking AI About the EU Elections: How Chatbots Fail When It Comes to Politics. Hentet fra Correctiv: https://correctiv.org/en/fact-checking-en/2024/05/23/dont-bother-asking-ai-about-the-eu-elections-how-chatbots-fail-when-it-comes-to-politics/

Matza, M. (23. januar 2024): Fake Biden robocall tells voters to skip New Hampshire primary election. Hentet fra BBC News: https://www.bbc.com/news/world-us-canada-68064247

Medietilsynet (2023): Mediemangfaldsrekneskapen 2022. Mediemangfald i eit bruksperspektiv. Medietilsynet. Hentet fra https://www.medietilsynet.no/globalassets/publikasjoner/mediemangfoldsregnskap/230327_bruksmangfald_2023.pdf

Medietilsynet (2024a): Norsk medieøkonomi 2019–2023. Ein rapport om den økonomiske utviklinga i norske medieverksemder. Medietilsynet. Hentet fra https://www.medietilsynet.no/globalassets/publikasjoner/medieokonomi/241024_medieokonomi_2019-2023.pdf

Medietilsynet (10. oktober 2024b): Kritisk medieforståelse i den norske befolkningen 2024. Hentet fra Medietilsynet: https://www.medietilsynet.no/fakta/rapporter/kritisk-medieforstaelse/rapporter-2024/kmf2024/

Medietilsynet (2024c): De globale plattformenes etterlevelse av bransjenormen mot desinformasjon. Medietilsynet. Hentet fra https://www.medietilsynet.no/globalassets/publikasjoner/bransjenorm-desinfo/240909_plattformenes_etterlevelse_bransjenormen_desinformasjon.pdf

Meyer-Resende, M., Davis, A., Denkovski, O. og Allen, D. (2024): Are Chatbots Misinforming Us About the European Elections? Yes. Democracy Reporting International. Hentet fra https://democracy-reporting.org/en/office/global/publications/chatbot-audit

Moe, H. og Bjørgan, J. (2024): Bruksmønstre for digitale nyheter 2024. Reuters Digital News Report Norge. Hentet fra https://frittord.no/attachments/ecd0cca9e62c496298df2e13d3efb0c26fa6e279/358-20240617064556955390.pdf

Moe, H. og Bjørgan, J. (2024): Nyheter og kunstig intelligens. Hentet fra Reuters Digital Report Norway: https://nyhetsbruk.w.uib.no/rapport-2024/nyheter-og-kunstig-intelligens/

Munich Security Conference (2024): A Tech Accord to Combat Deceptive Use of AI in 2024 Elections. Hentet fra Munich Security Conference: https://securityconference.org/en/aielectionsaccord/

Muñoz, K. (2024): The AI Election Year: How to Counter the Impact of Artificial Intelligence. German Council on Foreign Relations e. V. Hentet fra https://dgap.org/system/files/article_pdfs/DGAP-MEMO-Nr-1-2024_EN.pdf

Nasjonal sikkerhetsmyndighet (2024): Risiko 2024. Nasjonal sikkerhetsmyndighet. Hentet fra nsm.no: https://nsm.no/getfile.php/1313477-1719434219/NSM/Filer/Dokumenter/Rapporter/Risiko%202024.pdf

Nehamas, N., Schleifer, T. og Corasaniti, N. (10. september 2024): Taylor Swift Endorses Kamala Harris. Hentet fra The New York Times: https://www.nytimes.com/2024/09/10/us/taylor-swift-endorses-kamala-harris.html

Newman, C. (1. Juli 2024): Exclusive: Top UK politicians victims of deepfake pornography. Hentet fra Channel 4 News: https://www.channel4.com/news/exclusive-top-uk-politicians-victims-of-deepfake-pornography

Newman, N., Fletcher, R., Robertson, C., Arguedas, A. og Nielsen, R. (2024): Reuters Institute Digital News Report 2024. Reuters Institute for the Study of Journalism. Hentet fra https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-06/RISJ_DNR_2024_Digital_v10%20lr.pdf

Norges institusjon for menneskerettigheter og Teknologirådet (2023): Generativ kunstig intelligens og ytringsfrihet. Norges institusjon for menneskerettigheter og Teknologirådet. Hentet fra https://media.wpd.digital/teknologiradet/uploads/2023/12/Generativ-kunstig-intelligens-og-ytringsfrihet-DIGITAL.pdf

NOU 2020: 6 Frie og hemmelige valg. Ny valglov.

NOU 2022: 9 En åpen og opplyst offentlig samtale.

NOU 2023: 17 Nå er det alvor. Rustet for en usikker fremtid.

Olari, V. (12. desember 2024): Rise of unknown Romanian presidential candidate preceded by Telegram and TikTok engagement spikes. Hentet fra DFRLab: https://dfrlab.org/2024/12/12/romania-candidate-telegram-tiktok/

Olsen, R. K., Kalsnes, B. og Barland, J. (2024): Do Small Streams Make a Big River? Detailing the Diversification of Revenue Streams in Newspapers’ Transition to Digital Journalism Businesses. Digital Journalism, 12. doi:10.1080/21670811.2021.1973905

OpenAI (30. mai 2024): AI and Covert Influence Operations: Lates Trends. OpenAI. Hentet fra Disrupting deceptive uses of AI by covert influence operations: https://downloads.ctfassets.net/kftzwdyauwt9/5IMxzTmUclSOAcWUXbkVrK/3cfab518e6b10789ab8843bcca18b633/Threat_Intel_Report.pdf

Oslo Economics og Norsk Regnesentral (2023): Kunnskapsinnhenting om elektroniske og internettbaserte løsninger for stemmegivning. Oslo Economics. Hentet fra https://www.regjeringen.no/contentassets/f7c349a901bf49598a4f28cbbe4a8d5c/oe-rapport-118-kunnskapsinnhenting-e-valg.pdf

Partilovnemnda (18. desember 2023): Partiloven: Reformbehov. Brev fra Partilovnemnda til statsråd Erling Sande. Hentet fra https://www.partilovnemnda.no/contentassets/dd3a9ba9f66c43acb20d8d90df7e3a75/brev-statsrad-reformbehov_.pdf

Politiets sikkerhetsjeneste (2024): Nasjonal trusselvurdering 2024. Politiets sikkerhetstjeneste. Hentet fra https://www.pst.no/globalassets/2024/nasjonal-trusselvurdering-2024/nasjonal-trusselvurdering-2024_uuweb.pdf

Politiets sikkerhetstjeneste (8. desember 2020): Datainnbruddet mot Stortinget er ferdig etterforsket. Hentet fra pst.no: https://www.pst.no/alle-artikler/pressemeldinger/datainnbruddet-mot-stortinget-er-ferdig-etterforsket/

Prop. 45 L (2022–2023) Lov om valg til Stortinget, fylkesting og kommunestyrer (valgloven).

Raj, S. (18. april 2024): How A.I. Tools Could Change India's Elections. Hentet fra The New York Times: https://www.nytimes.com/2024/04/18/world/asia/india-election-ai.html

Reuters (18. desember 2024): Romanian parliament sees evidence of election meddling, committee says. Hentet fra Reuters: https://www.reuters.com/world/europe/romanian-parliament-sees-evidence-election-meddling-committee-says-2024-12-18/

Rybalka, M. (25. september 2024): 7 av 10 unge bruker KI. Hentet fra Statistisk sentralbyrå: https://www.ssb.no/teknologi-og-innovasjon/informasjons-og-kommunikasjonsteknologi-ikt/statistikk/bruk-av-ikt-i-husholdningene/artikler/7-av-10-unge-bruker-ki

Scholl, M. v. (27. august 2024): So hilft den Parteien KI im Wahlkampf. Hentet fra ZDF Heute: https://www.zdf.de/nachrichten/politik/deutschland/ki-kuenstliche-intelligenz-landtagswahl-parteien-100.html

Schueler, M., Romano, S., Stanusch, N., Çetin, R. B., Tabti, S., Faddoul, M. og Lilley, I. (2024): Artificial Elections - Exposing the Use of Generative AI Imagery in the Political Campaigns of the 2024 French Elections. AI Forensics. Hentet fra https://aiforensics.org/work/french-elections-2024

Scott, M. (7. mai 2024): Moldova fights to free itself from Russia’s AI-powered disinformation machine. Hentet fra POLITICO: https://www.politico.eu/article/moldova-fights-free-from-russia-ai-power-disinformation-machine-maia-sandu/

Simon, F., Fletcher, R. og Nielsen, R. K. (2024): How generative AI chatbots responded to questions and fact-checks about the 2024 UK general election. Reuters Institute. doi:10.60625/risj-c4vm-e367

Sivertsen, E. G., Bjørgul, L., Lundberg, H., Endestad, I., Bornakke, T., Kristensen, J. B., Christensen, N. M. og Albrechtsen, T. (2021): Uønsket utenlandsk påvirkning? – kartlegging og analyse av stortingsvalget 2021. Forsvarets forskningsinstitutt. Hentet fra https://www.ffi.no/publikasjoner/arkiv/uonsket-utenlandsk-pavirkning-kartlegging-og-analyse-av-stortingsvalget-2021

Sivertsen, E. G., Lundberg, H., Albrechtsen, T., Dursun, A. og Hegner, S. (2023): Two layers of fog - anonymous Norwegian websites linking to Russian-affiliated domains. Forsvarets forskningsinstitutt. Hentet fra https://www.ffi.no/publikasjoner/arkiv/two-layers-of-fog-anonymous-norwegian-websites-linking-to-russian-affiliated-domains

Sjøvaag, H., Ferrer-Conill, R. og Olsen, R. K. (2024): Capture Beyond the Platforms: The Material and Infrastructural Conditions for Digital Journalism. Digital Journalism, ss. 1-20. doi:10.1080/21670811.2024.2377078

Sjøvaag, H., Olsen, R. K. og Ferrer-Conill, R. (2024): Delivering content: Modular broadcasting technology and the role of content delivery networks. Telecommunications Policy. Hentet fra https://hdl.handle.net/11250/3165378

Skjuve, M., Brandtzaeg, P. B. og Følstad, A. (2024): Why do people use ChatGPT? Exploring user motivations for generative conversational AI. First Monday, 29(1). doi:10.5210/fm.v29i1.13541

Solheim, Ø. B. og Enjolras, B. (2023): Notat om nordmenns bruk av kunstig intelligens. Senter for forskning på sivilsamfunn og frivillig sektor. Hentet fra https://www.samfunnsforskning.no/aktuelt/nyheter/2023/notat-om-nordmenns-bruk-av-kunstig-intelligens---solheim-og-enjolras---isf.pdf

Spring, M. (13. februar 2023): Sadiq Khan says fake AI audio of him nearly led to serious disorder. Hentet fra BBC: https://www.bbc.com/news/uk-68146053

Stocking, G., Wang, L., Lipka, M., Matsa, K. E., Widjaya, R., Tomasik, E. og Liedke, J. (2024): America's News Influencers. The creators and consumers in the world of news and information on social media. Pew Research Center. Hentet fra https://www.pewresearch.org/wp-content/uploads/sites/20/2024/11/PJ_2024.11.18_news-influencers_report.pdf

Stockwell, S. (2024): AI-Enabled Influence Operations: Threat Analysis of the 2024 UK and European Elections. The Alan Turing Institute Centre for Emerging Technology and Security. Hentet fra https://cetas.turing.ac.uk/publications/ai-enabled-influence-operations-threat-analysis-2024-uk-and-european-elections

Stockwell, S., Hughes, M., Swatton, P. og Bishop, K. (2024): AI-Enabled Influence Operations: Threat to the UK General Election. The Alan Turing Institute Centre for Emerging Technology and Security. Hentet fra https://cetas.turing.ac.uk/publications/ai-enabled-influence-operations-threat-uk-general-election

Storstad, O., Caspersen, J. og Wendelborg, C. (2023): Ett steg fram og to tilbake. Demokratiforståelse, holdninger og deltakelse blant norske ungdomsskoleelever. NTNU. Hentet fra https://samforsk.no/uploads/files/NTNU-samf_IEA-rapport.pdf

Stortinget (10. mars 2021): Stortinget utsatt for IT-angrep. Hentet fra Stortinget.no: https://www.stortinget.no/no/Hva-skjer-pa-Stortinget/Nyhetsarkiv/Pressemeldingsarkiv/2020-2021/stortinget-utsatt-for-it-angrep/

The Constitutional Court of Romania (6. desember 2024): Press Release, 6 December 2024. Retrieved from The Constitutional Court of Romania: https://www.ccr.ro/en/press-release-6-dec/

United Nations AI Advisory Body (2024): Governing AI for Humanity. Final Report. United Nations. Hentet fra https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_en.pdf

United States Election Assistance Commission (7. juni 2023): Help America Vote Act. Hentet fra United States Election Assistance Commission: https://www.eac.gov/about/help_america_vote_act.aspx

United States Election Assistance Commission (2024): Artificial Intelligence (AI) and Election Administration. Hentet fra United States Election Assistance Commission: https://www.eac.gov/AI

Vallgårda, P. (24. mai 2019). Attacken mot Valmyndighetens sajt polisanmäldes – förundersökningen lades ned. Hentet fra Sveriges Radio: https://sverigesradio.se/artikel/7228619

Valmyndigheten (u.d.): Vårt IT-stöd. Hentet 13. desember 2024 fra https://www.val.se/om-oss/vart-uppdrag/vart-it-stod.html

V-Dem Institute (2024): Democracy Report 2024: Democracy Winning and Losing at the Ballot. University of Gothenburg. Hentet fra https://www.v-dem.net/publications/democracy-reports/

Vea, I. K. (14. oktober 2024): Meta har stengt HL-senterets Facebook-side. Beslutningen er endelig. Hentet fra Aftenposten: https://www.aftenposten.no/meninger/debatt/i/8qRPgW/meta-tar-rollen-som-ytringsfrihetens-portvokter-kan-samfunnet-leve-med-det

Verma, P., Oremus, W. og Zakrzewski, C. (9. november 2024): AI didn’t sway the election, but it deepened the partisan divide. Hentet fra The Washington Post: https://www.washingtonpost.com/technology/2024/11/09/ai-deepfakes-us-election/

Vigdor, N. (19. august 2024): Trump Promotes A.I. Images to Falsely Suggest Taylor Swift Endorsed Him. Hentet fra The New York Times: https://www.nytimes.com/2024/08/19/us/politics/trump-taylor-swift-ai-images.html

Williams, A. (17. juni 2024): AI-generated image of Keir Starmer shared to suggest Labour no longer represents the working class. Hentet fra Logically Facts: https://www.logicallyfacts.com/en/fact-check/fake-ai-generated-image-of-keir-starmer-shared-to-suggest-labour-no-longer-represents-the-working-class

Wong, J. C. (12. januar 2018): Facebook overhauls News Feed in favor of 'meaningful social interactions'. Hentet fra The Guardian: https://www.theguardian.com/technology/2018/jan/11/facebook-news-feed-algorithm-overhaul-mark-zuckerberg

World Economic Forum (10. januar 2024): Global Risks Report 2024. Hentet fra World Economic Forum: https://www.weforum.org/publications/global-risks-report-2024/

Zhuang, Y. (11. februar 2024): Imran Khan’s ‘Victory Speech’ From Jail Shows A.I.’s Peril and Promise. Hentet fra The New York Times: https://www.nytimes.com/2024/02/11/world/asia/imran-khan-artificial-intelligence-pakistan.html

Østby, G. og Kowalski, S. J. (2022): Hendelseshåndtering ved cyberangrepet mot Østre Toten kommune. Hva kan vi lære av håndteringen? NTNU. Hentet fra https://www.ototen.no/_f/p1/idbd37a14-f91f-41e5-9fa2-14977f2a7977/v-10-ostre-toten.pdf

Vedlegg 1

Oversikt over hvem ekspertgruppen har møtt og fått innspill fra

Ekspertgruppen har hatt innspillsmøter og fått skriftlige innspill fra ulike aktører, herunder myndighetsorganisasjoner, medieaktører, sivilsamfunn og andre.

Under er en oversikt over hvem som har gitt innspill til ekspertgruppens arbeid, henholdsvis i møter og på reiser (i alfabetisk rekkefølge):

Innspill gitt i møter

Arbeiderpartiet

AUF

Faktisk.no

Fremskrittspartiet

Google

Høyre

Kristelig folkeparti

Kultur- og likestillingsdepartementet

Mediebedriftenes Landsforening (MBL)

Medietilsynet

Meta

Miljøpartiet De Grønne

Myndigheten för psykologiskt försvar (MPF, Sverige)

Nasjonal sikkerhetsmyndighet (NSM)

Norsk Journalistlag

Norsk Presseforbund

Norsk Redaktørforening

NRK

OSSEs kontor for demokratiske institusjoner og menneskerettigheter (ODIHR)

Politiets sikkerhetstjeneste (PST)

Rødt

Senter for kildebevissthet

Senterpartiet

Senterungdommen

SimulaMet

Snapchat

Sosialistisk Ungdom

Teknologirådet

TikTok

Valgforskningsprogrammet ved Institutt for samfunnsforskning

Venstre

VG

Innspill på studiereiser

Alan Turing Institute, Centre for Emerging Technology and Security (CETaS)

Atlantic Council, Digital Forensic Research Lab

Axios

Bipartisan Policy Center

Cybersecurity and Infrastructure Security Agency (CISA)

Directorate-General for Communications Networks, Content and Technology (DG Connect), Brussel

Election Observation and Democracy Support (EODS), Brussel

EU Election Unit

European Centre of Excellence for Countering Hybrid Threats (Hybrid CoE), Helsinki

European External Action Service (EEAS), Brussel

Georgetown University, Center for Security and Emerging Technology (CSET)

George Washington University, School of Media & Public Affairs

German Marshall Fund US

Justisministeriet i Finland

Microsoft

National Association of State Election Directors (USA)

National Cyber Security Centre (NCSC), Storbritannia

NATO

Nordic Press Center

Norges ambassade i Helsinki (Finland)

Norges ambassade i London (Storbritannia)

Norges ambassade i Washington D.C. (USA)

Norges faste delegasjon til EU, Brussel

R Street Institute

Shoutout UK

State Board of Elections Maryland

UK Electoral Commission

Universitetet i Helsinki

U.S. Election Assistance Commission

Skriftlige innspill fra norske utenriksstasjoner og faste delegasjoner

På vegne av ekspertgruppen ble det sendt en forespørsel til alle norske utenriksstasjoner og faste delegasjoner om å bidra med eventuelle erfaringer fra de landene de følger, som kan være av relevans for gruppens arbeid. De skriftlige innspillene er benyttet som grunnlag i ekspertgruppens arbeid.

Følgende utenriksstasjoner og faste delegasjoner har gitt skriftlige innspill (i alfabetisk rekkefølge):

Ambassaden i Abuja (Nigeria)

Ambassaden i Berlin (Tyskland)

Ambassaden i Budapest (Ungarn)

Ambassaden i Canberra (Australia)

Ambassaden i Islamabad (Pakistan)

Ambassaden i København (Danmark)

Ambassaden i Madrid (Spania)

Ambassaden i Paris (Frankrike)

Ambassaden i Roma (Italia)

Ambassaden i Seoul (Sør-Korea)

Ambassaden i Singapore (Singapore)

Ambassaden i Stockholm (Sverige)

Ambassaden i Warszawa (Polen)

Ambassaden i Zagreb (Kroatia)

Norges faste delegasjon til EU, Brussel

Norges faste delegasjon til FN, Genève

Norges faste delegasjon til OSSE, Wien

Fotnoter

1)
 Heggheim og Sællmann, 2023

2)
 World Economic Forum, 2024

3)
 Nasjonal sikkerhetsmyndighet, 2024; Politiets sikkerhetsjeneste, 2024

4)
 Fristen for ferdigstilling ble forskjøvet til februar etter at mandatet ble fastsatt for å sikre tilstrekkelig tid til å gjennomføre vurderinger av materialet.

5)
 Independent High Level Expert Group set up by the European Commission, 2018, oversettelse fra Nasjonal strategi for kunstig intelligens.

6)
 NOU 2022: 9

7)
 Sivertsen, et al., 2021

8)
 Nasjonal sikkerhetsmyndighet, 2024

9)
 World Economic Forum, 2024

10)
 United Nations AI Advisory Body, 2024

11)
 NOU 2020: 6

12)
 Oslo Economics og Norsk Regnesentral, 2023

13)
 Prop. 45 L (2022–2023)

14)
 Kommunal- og distriktsdepartementet, 2023a

15)
 Det er mulig å stemme allerede fra 1. juli, når det åpnes for tidligstemming, ved å henvende seg til kommunen og be om å få stemme, jf. valgloven § 7-1 andre ledd.

16)
 Kleven, 2023

17)
 Bergh, Christensen og Holmås, 2021

18)
 Bergh, Christensen og Holmås, 2023

19)
 Karlsen, under utgivelse

20)
 Partilovnemnda, 2023

21)
 Medietilsynet, 2023

22)
 Direktoratet for forvaltning og økonomistyring, 2024

23)
 Newman, Fletcher, Robertson, Arguedas og Nielsen, 2024

24)
 Olsen, Kalsnes og Barland, 2024

25)
 Medietilsynet, 2024a

26)
 NOU 2023: 17

27)
 Muñoz, 2024

28)
 Bekkengen, 2024

29)
 Ibid.

30)
 Wong, 2018

31)
 Jerijervi og Hauger, 2023

32)
 Newman, Fletcher, Robertson, Arguedas og Nielsen, 2024

33)
 Rybalka, 2024

34)
 Solheim og Enjolras, 2023

35)
 Ibid.

36)
 Moe og Bjørgan, 2024

37)
 Medietilsynet, 2024b

38)
 Ibid.

39)
 Ibid.

40)
 Hofsrud, 2024

41)
 Haugsgjerd og Karlsen, 2022

42)
 Haugsgjerd, Karlsen og Aalberg, 2023; Kalsnes og Ihlebæk, 2021

43)
 Karlsen og Steen-Johansen, 2021

44)
 Economist Intelligence, 2024

45)
 V-Dem Institute, 2024

46)
 Knutsen et al., 2023

47)
 Direktoratet for forvaltning og økonomistyring, 2024

48)
 Haugsgjerd og Segaard, 2020

49)
 Kleven og Bergseteren, 2024

50)
 Caspersen, Wendelborg og Storstad, 2023

51)
 Dahlum, Langsæther og Wig, 2024

52)
 NOU 2022: 9

53)
 Norges institusjon for menneskerettigheter og Teknologirådet, 2023

54)
 Sjøvaag, Ferrer-Conill og Olsen, 2024; Sjøvaag, Olsen og Ferrer-Conill, 2024

55)
 Gundersen, 2019

56)
 EØS-notatbasen, 2024a

57)
 Medietilsynet, 2024c

58)
 European Commission, 2022

59)
 Baste, Schultz og Osberg, 2023

60)
 Digitaliserings- og forvaltningsdepartementet, 2021

61)
 Ibid.

62)
 Digitaliseringsdirektoratet, u.å.

63)
 EØS-notatbasen, 2024b

64)
 Stockwell, Hughes, Swatton og Bishop, 2024

65)
 Skjuve, Brandtzaeg og Følstad, 2024

66)
 Stockwell, Hughes, Swatton og Bishop, 2024

67)
 EEAS, 2024

68)
 Stockwell, Hughes, Swatton og Bishop, 2024

69)
 OpenAI, 2024

70)
 EEAS, 2024

71)
 Munich Security Conference, 2024

72)
 The Constitutional Court of Romania, 2024

73)
 Reuters, 2024

74)
 Olari, 2024

75)
 Bakke, 2024

76)
 CheckFirst, 2024

77)
 Blenkinsop, 2024

78)
 Valmyndigheten, u.d.; Vallgårda, 2019

79)
 Knuutila, Kuster og Lesplingart, 2024

80)
 European Parliament, 2024a

81)
 European Parliament, 2024b

82)
 International IDEA, 2024

83)
 Hogan Lovells, 2024

84)
 LSM, 2024

85)
 European Board of Digital Services, 2024

86)
 European Commission, 2024

87)
 Stockwell, 2024

88)
 Meyer-Resende, Davis, Denkovski og Allen, 2024

89)
 Marinov, 2024

90)
 Knuutila og Havula, 2024

91)
 Châtelet, 2024a

92)
 Schueler et al., 2024

93)
 Châtelet, 2024a

94)
 Ibid.

95)
 Elliott, 2024a

96)
 EUvsDisinfo, 2024

97)
 OpenAI, 2024

98)
 Stockwell, Hughes, Swatton og Bishop, 2024

99)
 Newman, 2024

100)
 Spring, 2023

101)
 Williams, 2024

102)
 Simon, Fletcher og Nielsen, 2024

103)
 Elliott, 2024b

104)
 GOV.uk, 2024

105)
 United States Election Assistance Commission, 2023

106)
 United States Election Assistance Commission, 2024

107)
 Se f.eks. Gorman og Levine, 2024

108)
 Cybersecurity and Infrastructure Security Agency, 2024

109)
 Se f.eks. Jackson, Weil og Adler, 2024

110)
 DGA Group, 2024

111)
 Katzenberger, 2024

112)
 Stocking, et al., 2024

113)
 Verma, Oremus og Zakrzewski, 2024

114)
 Hudnall, 2024

115)
 Verma, Oremus og Zakrzewski, 2024

116)
 Vigdor, 2024

117)
 Nehamas, Schleifer og Corasaniti, 2024

118)
 Matza, 2024

119)
 Associated Press, 2024

120)
 Linvill og Warren, 2023

121)
 Gotfredsen, 2024

122)
 Chesney og Citron, 2019

123)
 Goldmacher, 2024

124)
 Brautović og Roško, 2024

125)
 Châtelet, 2024b

126)
 Scholl, 2024

127)
 Scott, 2024

128)
 International Society for Fair Elections and Democracy, 2024

129)
 Raj, 2024

130)
 Zhuang, 2024

131)
 Se f.eks. Lüders og Sundet, 2022

132)
 Hofsrud, 2024

133)
 Kleven og Bergseteren, 2024

134)
 IKT-Norge, 2024

135)
 Se f.eks. Brandtzæg et al., 2022 og Ipsos, 2023

136)
 Coldewey, 2024

137)
 Connal, 2024

138)
 Medietilsynet, 2024c

139)
 Vea, 2024

140)
 Sivertsen, Lundberg, Albrechtsen, Dursun og Hegner, 2023

141)
 Politiets sikkerhetsjeneste, 2024

142)
 Johnson, 2024

143)
 Muñoz, 2024

144)
 Bjørgul, Sivertsen og Sellevåg, 2022

145)
 Storstad, Caspersen og Wendelborg, 2023

146)
 NOU 2022: 9

147)
 Børhaug, 2014

148)
 Østby og Kowalski, 2022

149)
 Gran kommune, 2024

150)
 Kommunal- og distriktsdepartementet, 2023b

151)
 Politiets sikkerhetstjeneste, 2020; Stortinget, 2021

152)
 Gorman og Levine, 2024