Høringssvar fra Siemens Healthineers

Siemens Healthineers (Siemens) viser til Helse- og omsorgsdepartementets (HODs) høringsnotat Bruk av helseopplysninger for å lette samarbeid, læring og bruk av kunstig intelligens i helse- og omsorgstjenesten mv. med frist for innspill til høringen den 8. desember 2020.

Siemens ønsker med dette å gi sine innspill til departementets forslag.

Om Siemens Healthineers

Siemens Healthineers bidrar til verdiskapning for aktører i helsevesenet innen presisjonsmedisin, optimalisering av helsetjenester, forbedring av pasientopplevelser og digitalisering. Applikasjoner som benytter kunstig intelligens og digitale løsninger får en stadig viktigere rolle i utviklingen av selskapets produkt- og tjenesteportefølje. De nye applikasjonene bidrar til å styrke selskapets forretningsområder innen bildediagnostikk, bildeveiledet behandling og laboratoriediagnostikk.

I Norge har Siemens Healthineers ca. 120 ansatte. Selskapet ønsker å være en pålitelig partner med lokal forståelse av kundenes spesifikke utfordringer og muligheter, og en konstruktiv pådriver for å skape et best mulig helsevesen i Norge.

Overordnede betraktninger

Siemens Healthineers (Siemens) ønsker innledningsvis å understreke at vi stiller oss bak departementets vurdering av at det er behov for en gjennomgang av dagens juridiske rammer for deling og bruk av helseopplysninger ved bruk av kunstig intelligens. Det er viktig så raskt som mulig å få på plass et enklere regelverk enn det vi har i dag. Siemens er også av den oppfatning at fremtidsrettede forskrifter vil være viktig for å sikre at dagens teknologiske muligheter også legger til rette for den videre utviklingen av helsetjenesten.

Stortinget stilte seg i sin innstilling (Innst. 74 L (2020-2021)) enstemmig bak forslaget til endringene i Prop. 63 L (2019-2020) «Endringer i helseregisterloven m.m. (tilgjengeliggjøring av helsedata)». Dette er et stort skritt i riktig retning.

Siemens er derfor av den oppfatning at det er svært positivt at HOD nå følger opp dette vedtaket gjennom å utvide Helsepersonellovens § 29 til også å gjelde «beslutningsstøtteverktøy».

Siemens vil i den anledning påpeke at det er svært viktig at bruken av helseopplysninger i utviklingen av kunstig intelligens utvides utover forskningsformål. Den foreslåtte endringen er viktig da den gir helsepersonellet en hjemmel for fremover å kunne benytte helsedata på nye og fordelaktige måter for pasientene, helsepersonellet selv i forbindelse med pasientbehandlingen og for den videre utviklingen og forbedringen av den norske helsetjenesten.

Det er et stort behov for en enhetlig forståelse av hva som ligger innenfor virkeområdet til definisjoner i relevante forskrifter. Siemens er opptatt av at regelverket innrettes på en slik måte at det sikrer tydelighet og forutsigbarhet. Trygghet ved bruk av helsedata i digitale systemer vil framover være helt sentralt både for helsetjenesten og for leverandører av systemer som bruker helsedata. En eventuell usikkerhet i regelverket vil kunne resultere i at helsetjenesten blir avventende i arbeidet med å ta i bruk nye digitale løsninger for å effektivisere kliniske arbeidsprosesser.

Siemens støtter derfor forslaget fra Helse- og omsorgsdepartementet om en tydeliggjøring i Helsepersonellovens § 29 om adgang til å gi dispensasjon fra taushetsplikten, slik at det blir klart at det kan gis dispensasjon for bruk av helseopplysninger i beslutningsstøtteverktøy basert på kunstig intelligens.

Siemens Healthineers vurdering av beslutningsstøtteverktøy

Siemens har lang erfaring med å utvikle systemer som tar i bruk kunstig intelligens og dyp læring. Særlig innenfor bildediagnostikk bruker Siemens systemer kunstig intelligens til oppgaver som identifisering, klassifisering eller segmentering av patologier eller organer. I dette ligger det at kunstig intelligens har blitt brukt i begrensede systemer som ikke kobler sammen et helhetlig datagrunnlag. Slike begrensede systemer kan følgelig heller ikke ta ansvaret for kliniske beslutninger i helautomatiserte prosesser.

Vurderingen til Helse- og omsorgsdepartementet baserer seg på en reservasjon mot systemer som benytter store mengder helseopplysninger til maskinlæring. Det er i den anledning viktig å påpeke at slike systemer kun bruker store mengder helsedata i utviklingen av systemet. Dette skjer innenfor de til enhver tid gjeldende regulatoriske kriterier. Løsninger som anvender kunstig intelligens, bruker kun nødvendige helseopplysninger til en enkelt pasient når bildet blir analysert.

Dagens systemer for kunstig intelligens brukes i stor grad til å optimalisere arbeidsprosesser. For eksempel innen radiologi er det forventet en stor vekst i behovet for tolkning av bilder. For å møte kravene til kapasitet og behandlingstid er helsetjenesten i tiden fremover avhengig av å ta i bruk teknologi som baserer seg på kunstig intelligens.

Beslutningsstøtteverktøy som dekkende og godt begrep

I høringsnotatet ber Helse- og omsorgsdepartementet om innspill på hvorvidt «beslutningsstøtteverktøy» er et dekkende og godt begrep.

Først og fremst vil Siemens fremheve betydningen av at valgt begrep formuleres slik at det er fremtidsrettet og ikke tilbakeskuende. I dette ligger spørsmålet om «verktøy» er en nødvendig tilføyelse. Begrepet bør dekke hele verdikjeden av hva som søkes oppnådd med beslutningsstøtte. Enten om det er snakk om bruk i relasjonen mellom pasient og helsepersonell, helsepersonell sin kvalitetsforbedring og logistikkstyring mv. Siemens ber derfor Helse- og omsorgsdepartementet vurdere om det kan være hensiktsmessig å benytte beslutningsstøtte, uten å føye til verktøy.

Et viktig utgangspunkt for vår vurdering er at departementet i høringsforslaget har valgt å definere seg bort fra å inkludere «verktøy som tar helautomatiserte avgjørelser om for eksempel diagnose eller behandlingsforløp». I sin begrunnelse vektlegger departementet at dersom det er et verktøy som tar avgjørelsen vil det i så tilfelle ikke ville være tale om en støtte.

Siemens er enig i at støtte kan være en formålstjenlig avgrensing innenfor dagens tilgjengelige teknologi. Det er allikevel viktig å presisere at det i tiden fremover vil bli et raskt økende behov for systemer som kan levere analyser på et langt høyere nivå enn i dag. Siemens mener Helse- og omsorgsdepartementet for praktiske formål bør vurdere å utvide definisjonen, og med det inkludere systemer som bidrar til mer automatisering av arbeidsoppgaver.

Vi anser dette som viktig av særlig to grunner:

· For å understøtte satsning på og videreutvikling av mer avanserte systemer som i større grad kan utføre rutinemessig arbeid ved for eksempel å sortere prøvesvar etter hastegrad, eller sortere ut de som ikke trenger videre oppfølgning.

· For å ikke legge juridiske hindringer eller skape usikkerhet for mulighetene til å innføre mer avanserte systemer når disse er klare til å settes i drift.

Siemens vurderer på denne bakgrunn at Helse- og omsorgsdepartementet ved å legge en for avgrenset definisjon av støtte til grunn, samtidig kan bidra til å legge unødvendige begrensinger på kommende og relevant teknologi.

Vil begrepet beslutningsstøtteverktøy være dekkende?

Helse- og omsorgsdepartementet ber videre om en vurdering av om begrepet beslutningsstøtteverktøy vil dekke all form for kunstig intelligens som sannsynligvis vil kunne utvikles og tas i bruk i helse- og omsorgstjenesten i nærmeste tid fremover.

Det er viktig å legge til grunn at kunstig intelligens er på god vei til å ta skrittet fra å være på forsknings- og utviklingsstadiet til å bli industrialiserte løsninger hvor systemene vil være i stand til å trekke konklusjoner eller generalisere resultater på tvers av datasett. I dette ligger det at funksjonalitet for også å automatisere prosesser i stadig økende grad innføres som en integrert og naturlig del av klinisk praksis.

Siemens mener det både for dagens og fremtidige formål kan være uhensiktsmessig å begrense forståelsen av systemer som bidrar til mer presis diagnostikk og behandling, og som kan automatisere rutinemessige og tidkrevende oppgaver. Kunstig intelligens vil i nær fremtid ha en forventet utvikling, og innføring, av systemer som dekker et bredere område enn å være en støtte til beslutning. Videre vil systemer som benytter kunstig intelligens bli en stadig mer integrert del av den kliniske hverdagen, og dermed i mindre grad bli omtalt som et «verktøy». Gitt definisjonen departementet har lagt til grunn i høringsforslaget, og den fremtidige utviklingen på området, mener Siemens at begrepet alene ikke er dekkende.

I oppfølgningen av dette mener Siemens at det i takt med den teknologiske utviklingen allerede nå vil være hensiktsmessig å starte arbeidet med å vurdere retningslinjer for ansvar knyttet til eventuelle feiltolkninger som vil kunne tilskrives digitale systemer. Siemens viser i den anledning til oppdraget som er gitt til Helsedirektoratet, Direktoratet for e-helse og Statens Legemiddelverk hvor aktørene sammen med helseregionene skal gå igjennom rammebetingelsene for bruk av kunstig intelligens og legge til rette for at helsetjenestene kan ta denne teknologien i bruk. Siemens ber Helse- og omsorgsdepartementet vurdere hvordan leverandørindustrien best kan involveres i oppfølgningen av dette arbeidet.

Siemens stiller selvfølgelig opp til eventuelle videre diskusjoner dersom det skulle være ønskelig med ytterligere informasjon eller avklaringer.