Dette var det første møtet for lederne etter at det internasjonale oppropet ble lansert i september.

– Norge ønsker å få på plass et sett felles, internasjonale prinsipper for å sikre trygghet og sikkerhet rundt de mest avanserte KI-modellene. Møtet i dag viste at det er et stort engasjement for bedre internasjonalt samarbeid om KI. Vi må ta advarslene som kommer fra KI-miljøene på alvor, og vi må følge opp med politiske handling. Jeg oppfordrer enda flere land til stille seg bak oppropet, sier statsminister Jonas Gahr Støre.

I møtet pekte en rekke land på at man bør gå sammen om hvordan man skal rapportere og håndtere uønskede hendelser der KI er involvert, etter modell av samarbeid for eksempel i luftfarten. Flere land pekte på behovet for beskyttelse av barn og unge spesielt. Flere uttrykte også bekymring for den demokratiske samtalen når KI-generert innhold brer om seg.

Ledere fra hele verden har så langt stilt seg bak det finsk-norske KI-oppropet.

– KI er en ekstremt kraftig teknologi med stort potensial, men den kan også utgjøre en betydelig sikkerhetsrisiko. Å få kontroll på den risikoen krever politisk handling, og at det stilles tydelige forventninger til at tek-selskapene tar ansvar, sier Støre.

Møtet var en direkte oppfølging av initiativet Finland og Norge under FNs toppmøteuke i september for å sikre bedre internasjonal kontroll på utviklingen for de mest avanserte KI-modellene.

– KI-teknologien utvikler seg på dager, uker og måneder. Politiske prosesser tar ofte år, noen ganger tiår. Her har vi en koalisjon av villige land, som ønsker å bidra konkret og pragmatisk for økt KI-sikkerhet. Møtet i dag var en konstruktiv start, sier Støre.

KI-oppropet

I oppropet oppfordres det til at:

  • selskaper utvikler transparente sikkerhetsprotokoller, inkludert obligatorisk testing og ekstern evaluering, med kvalifiserte fagfolk som er gitt tilstrekkelig tilgang til å vurdere risiko
  • myndigheter og regionale organisasjoner utvikler og koordinerer felles standarder, styrker åpenheten, blant annet ved å dele rapportering av alvorlige sikkerhetshendelser, og sørger for at land i alle regioner gis tilgang til forskning, ekspertise og uavhengig evaluering
  • FNs medlemsland bygger på eksisterende internasjonale mekanismer og undersøker muligheten for å etablere en internasjonal institusjon som kan sette standarder, gjøre det mulig å verifisere og sammenkalle land når kapasitetsterskler overskrides.