3 Juridisk handlingsrom for KI-deteksjon

Utvalget har i kapittel 7 om eksamen og vurdering konkludert med å fraråde bruk av KI-detektorer som verktøy i vurdering og fuskesaksbehandling (se kap. 7.4.2.5). I dette vedlegget supplerer utvalget denne vurderingen med det juridiske handlingsrommet for bruk av KI-deteksjonsverktøy.

Dersom man skal kunne benytte resultater fra en KI-detektor som bevis i fuskesaker, vil det fordre at man kan dokumentere hvordan KI-detektoren har identifisert innholdet som maskingenerert. Det er vanskelig å oppnå dette, sett i lys av at modellene er som «svarte bokser», med lav tolkbarhet og forklarbarhet (jf. Bellas et al., 2025). Dette gjør ikke bare at KI-detektorer gir et svakt grunnlag for behandling av fuskesaker. I tillegg svekker eventuell bruk studentenes rettssikkerhet.

Hvis institusjoner likevel velger å bruke systemer for KI-deteksjon ved sensurering av eksamener, er det flere juridiske rammer å forholde seg til:

• Regulering av fusk og klager etter uhl. § 12-4: Behandling av KI-fuskesaker krever en mer grunnleggende faglig vurdering enn tradisjonelle fuskesaker basert på plagiatkontroll. Ved bruk av verktøy for plagiatkontroll får sensor tekstutdrag som hen kan etterprøve direkte, mens det ikke er mulig å gjøre tilsvarende med KI-detektorer. KI-fuskesaker er mer krevende og forutsetter en inngående faglig gjennomgang for å vurdere hvorvidt det er begått fusk.

• KI-forordningen: KI-detektorer er automatisk klassifisert som et KI-system med høy risiko etter KI-forordningen art. 6 nr. 2, jf. vedlegg III. Med en slik klassifisering følger det omfattende forpliktelser, se boks 4.3. Selv om KI-detektorer brukes kun som et hjelpemiddel, er det veldig lite handlingsrom for at det kan gjelde unntak fra klassifiseringen som høy-risikosystem (KI-forordningen 2024, art. 6 nr. 3 bokstav d), se kap. 7.11.1.2.

• Personvern: eksamensbesvarelsene er personopplysninger som dermed kun kan brukes i et KI-system under vilkår. For mer informasjon, se kapitlene 4.3.3 og 7.11.1.2.

• Opphavsrett: eksamensbesvarelser er beskyttet av opphavsrett etter åndsverkloven § 2, og disse kan ikke brukes til tekst- og datautvinning til KI-systemer uten studenters samtykke. For mer informasjon, se kapitlene 4.3.6 og 7.11.1.2.