Bruk av eksisterande KI-verktøy i ulike delar av forskingsprosessen

Rettleiing til ansvarleg og transparent bruk av generative KI-verktøy i ulike delar av forskingsprosessen.

Retningslinjene for KI i forskning er vedtatt av prorektor for forskning etter anbefaling fra Forskings- og innovasjonsutvalet den 2. april 2025. Retningslinjene under «Bruk av eksisterande KI-verktøy i ulike delar av forskingsprosessen» ble revidert i tråd med endringene i EU’s living guidelines som ble revidert 8.mai 2026.

Som utgangspunkt for å vurdere din eigen bruk av KI-verktøy, tilrår vi at du set deg inn i EU sine «living guidelines» for ansvarleg bruk av generativ KI i forskning.

Tilrådningar for forskarar

For at generativ KI skal brukast på ein ansvarleg måte, bør forskarar:

1. Ha det endelege ansvaret for vitskapleg produksjon

Forskarar er ansvarlege for integriteten i det innhaldet dei produserer, anten det er generert av eller med støtte frå KI-verktøy.
Forskarar tek ein kritisk tilnærming til resultata frå generativ KI og er medvitne om avgrensingar ved verktøya, som skeivheit, hallusinasjonar og unøyaktigheiter.
KI-system er korkje forfattarar eller medforfattarar. Forfattarskap føreset handleevne og ansvar, og ligg difor hos menneskelege forskarar.

Generative KI-modellar kan ha avgrensingar som påverkar både svar og bruksverdi . Dei vanlegaste typane er:

Skeivheit i treningsdata: Skeivheiter i datagrunnlaget som generative KI-modellar er trena på, kan gje skeive svar som speglar unøyaktigheiter eller systemiske skeivheiter i kjeldematerialet.
Skeivheit i promptar: Modellar kan tilpasse svara sine til det dei oppfattar som meiningane eller preferansane til brukaren, eit fenomen kjent som sykofantisk åtferd, noko som kan gje villeiiande samtykkjande eller partiske resultat.
Oppdikta siteringar og feilaktige samanfatningar: Generative KI-modellar kan generere truverdig lydande, men feilaktige siteringar, som kan villeie brukarar som støttar seg på desse kjeldene i forsking eller verifisering. Sjølv når siteringane er korrekte (artikkelen finst, har rett tittel og så vidare), kan den KI-genererte samanfattinga av artikkelen vere feil. Forskarar er difor ansvarlege for å kontrollere alle referansar og innhaldet i siteringane og samanfattingane.

Tolkbarheit: Generative KI-modellar fungerer som «svarte boksar», noko som gjer det vanskeleg å forstå korleis konkrete svar blir genererte. Denne mangelen på innsyn understrekar kor viktig kryssvalidering er, særleg i automatisert dataanalyse der modellsvar kan ha stor innverknad på konklusjonane.

Integritet: Innhaldet skal ikkje vere fabrikkert, forfalska eller plagiert. Sjå nærare detaljar i avsnitt 3.1 i The European Code of Conduct for Research Integrity, ALLEA 2023.

Unngå skeivheiter: Etisk prompting bør praktiserast. Sjå retningslinjene for Ethical Prompting for Generative AI guidelines of the ETH Zürich for meir informasjon, og les om sykofantisk åtferd: Towards Understanding Sycophancy in Language Models.

«Hallusinasjon» viser til generering av falsk, meiningslaus eller unøyaktig informasjon av store språkmodellar (LLM-ar) eller andre generative AI-system.

2. Bruke generativ KI på ein open og transparent måte

For å vere transparente gjer forskarar greie for kva generative KI-verktøy som er brukte i vesentleg grad i forskingsprosessane deira. Når generativ KI i merkbar grad pregar resultata, opplyser forskarar om dette på ein ansvarleg måte i metodedelen (eller tilsvarande), i tråd med retningslinjene frå tidsskriftet eller standardane i fagfeltet, med ei vurdering av omfanget av bidraget. Dette prinsippet om openheit gjeld òg ved bruk av KI til å oppdage eller avdekkje dårleg praksis (til dømes hallusinasjonar eller plagiat), samstundes som menneskeleg tilsyn vert halde ved lag.
Forskarar tek omsyn til den stokastiske (tilfeldige) naturen til generative KI-verktøy, det vil seie tendensen til å produsere ulike resultat frå same inndata. Resultat og konklusjonar skal vere robuste og reproduserbare. Forskare gjer greie for eller drøftar avgrensingane ved dei generative KI-verktøya som er brukte, medrekna moglege skeivheiter i det genererte innhaldet, samt moglege avbøtande tiltak.

Vesentleg bruk av KI: Til dømes er bruk av generativ KI som eit enkelt støtteverktøy for forfattarar ikkje reikna som vesentleg bruk. Derimot kan bruk som metode eller kjelde, tolking av dataanalysar, gjennomføring av litteraturgjennomgang, identifisering av forskingsgap, utforming av forskingsmål, utvikling av hypotesar osv. ha vesentleg påverknad.

Referansar: Sjå til dømes Norsk APA-manual om korleis du viser til kjelder i tekst og korleis du utformer referanselista.

Prinsippa for open vitskap: Særleg, når det er mogleg, skal forskingsdata følgje FAIR prinsippa (Findable, Accessible, Interoperable og Reusable) og kunne handsamast maskinelt.

Tidsskrift har ulike retningslinjer for KI-bruk, nokre har totalt forbod medan andre opplyser om korleis ein skal referere til bruk av KI. Undersøk reglane for bruk av KI i det spesifikke tidsskriftet du ønskjer å publisere i.

Krav frå finansieringskjelder: Om ein brukar KI til prosjektutvikling/skriving av prosjektskildringar for å søke om forskingstid eller forskingsmidlar, er det viktig å setje seg inn i kva krav som vert stilt frå den einskilde finansieringskjelda. Medan EU har krav om det, jamfør «living guidelines», så har Forskingsrådet ikkje utarbeidd og publisert retningslinjer for bruk av KI i søknadsskrivinga enno, utover det som er dekt av dei generelle krava om forskingsetikk og liknande. (Dei generelle krava til Forskingsrådet.)

3. Vere særleg merksame på spørsmål knytte til personvern, konfidensialitet og immaterielle rettar ved deling av sensitiv eller beskytta informasjon med KI-verktøy

Forskarar er merksame på at generert eller opplasta inndata (tekst, data, promptar, bilete osv.) kan bli brukt til andre føremål, til dømes trening av KI-modellar. Dei vernar difor upublisert eller sensitiv informasjon (som eige eller andresitt upubliserte arbeid) ved å ta hand om at det ikkje vert lasta opp i eksterne KI-system, med mindre det ligg føre garantiar for at dataa ikkje vert gjenbrukte, til dømes til å trene framtidige språkmodellar eller til gjenbruk av data som ikkje kan sporast eller verifiserast. Forskarar passar på at dei ikkje gir personopplysningar om tredjepartar til eksterne generative KI-system, med mindre den registrerte (enkeltpersonen) har gjeve samtykke, og forskarane har eit klart føremål med behandlinga av personopplysningane, slik at EU sinepersonvernreglar blir følgde.
Forskarar set seg inn i dei tekniske, etiske og tryggingsmessige implikasjonane knytte til personvern, konfidensialitet og immaterielle rettar. Dei sjekkar til dømes institusjonelle retningslinjer, personverninnstillingane til verktøya, kven som forvaltar verktøyet (offentlege eller private institusjonar, verksemder og så vidare ), kvar verktøyet køyrer, og kva konsekvensar opplasting av informasjon kan ha. Dette kan spenne frå lukka miljø og lagring på tredjepartsinfrastruktur med garantert personvern til opne, internett-tilgjengelege plattformer.

Eit unntak her er Chat GPT UiO, der innhaldet ikkje vert delt vidare eller brukt til opplæring av språkmodellen. Men ein må uansett ha eit gyldig grunnlag for handsaming av personopplysingar.

Om andre sine personopplysningar: Chat GPT-UiO blir rekna som trygg for opplasting av alminnelege personopplysningar, klassifisert som «gule data» i HVL si klassifisering - sjå Lagring av data ved HVL. Microsoft 365 Copilot Chat skal ikkje brukas til å handsame personopplysningar. Forskingsdata som er klassifisert som anten raud (fortruleg/sensitiv) eller svart (strengt fortruleg) skal lagrast på HVL sin sikra forskingsserver (SILAF) og ikkje brukast i KI. Sjå HVL forskingsetikk for meir informasjon om dette. Dersom du er usikker på om dine data er anonyme og kan lastas opp, spør gjerne personvernkontakten eller sjekk Sikt sine personverntenester for forsking.

Om dine eigne personopplysningar: Sjekk personverninnstillingane i verktøyet, kven som handsamar det (offentlege eller private institusjonar, føretak etc.), kor det køyrast og kor informasjon lastas og blir delt. Chat GPT-UiO samlar metadata om brukar og bruken av verktøyet, men delar dette ikkje vidare.

Opphavsrett: Dersom du har tilgang til ein publikasjon som ligg bak betalingsmur, kan du ikkje dela denne med opne/kommersielle KI-verktøy. Dette gjeld for alle publikasjonar med mindre dei har ein lisens som opnar for slik deling. Du risikerer at innhaldet blir bygd inn i verktøyet slik at andre i neste omgang får tilgang til det, og dermed bryta gjeldande reglar for opphavsrett.

Personvern: Set deg inn i EU-reglane for personvern, og sjå på the First Orientations for ensuring data protection compliance when using Generative AI systems by the European Data Protection Supervisor. I tillegg til personleg samtykke, kan det finnast andre rettslege grunnlag som kan legitimere behandling av personopplysningar.

4. Etterleve gjeldande nasjonal, europeisk og internasjonal lovgjeving

Særleg kan resultat frå generativ KI vere spesielt sensitive med omsyn til vern av immaterielle rettar og personopplysningar.

Forskarar er merksame på risikoen for plagiat (tekst, kode, bilete og så vidare ) ved bruk av resultat frå generativ KI. Forskarar respekterer andre sitt forfattarskap og siterer arbeidet deira der det høver. Resultata frå ein generativ KI (til dømes ein stor språkmodell) kan vere baserte på andre sitt resultat og krevje korrekt kreditering og sitering.
Resultat frå generativ KI kan innehalde personopplysningar. Dersom dette kjem fram, er forskarar ansvarlege for å handtere personopplysningane på ein ansvarleg og tenleg måte, og EU sine personvernreglar skal følgjast.

Teknologien utviklar seg, og generative KI-verktøy vil bli betre i stand til å gi korrekte kjeldetilvisingar. Verktøy som tilbyr kjeldetilvisingar, kan vere meir praktiske og føretrekte, men det endelege ansvaret for kjeldetilvisinga og korrektheita hennar ligg hos forskaren.

5. Kontinuerleg lære seg å bruke generative KI-verktøy på rett måte for å hauste maksimal nytte av dei, mellom anna gjennom opplæring

Generative KI-verktøy utviklar seg raskt, og nye bruksmåtar blir jamt oppdaga. Forskarar held seg oppdaterte om beste praksis og deler denne med kollegaer og andre interessentar.
Forskarar tilstrebar å minimere miljøpåverknaden av generativ KI ved å vurdere om og kva KI-verktøy som høver best for den aktuelle oppgåva, og ved å nytte dei mest effektive promptteknikane.

Sjå for eksempel anbefalinger fra Nogueira et al, 2025.

Påverknad på klima og miljø: Dette kan sjåast som del av eit breiare initiativ for å følgje prinsippa for å redusera karbonavtrykka frå forsking, berekraftig koding og berekraftig forsking. Sjå for eksempel Ten simple rules to make your computing more environmentally sustainable og Ten simple rules to make your research more sustainable. Forløpige data om miljøkostnadar ved generativ KI kan bli funne i AI Index Report 2026.

6. Avstå frå å bruke generative KI-verktøy i vesentleg grad i sensitive aktivitetar som kan påverke andre forskarar eller organisasjonar (til dømes fagfellevurdering, vurdering av forskingssøknader osv.)

Å unngå bruk av generative KI-verktøy eliminerer risikoen for urettferdig handsaming eller vurdering som kan oppstå frå avgrensingar ved desse verktøya (til dømes hallusinasjonar og skeivheit).
Dette vil dessutan verne upublisert originalarbeid frå kollegaer mot mogleg eksponering eller inkludering i ein KI-modell (under dei vilkåra som er skildra ovanfor i tilråding §3 for forskarar).

Til dømes er det ikkje vesentleg bruk å nytte generativ KI til å søkje bakgrunnsinformasjon til ei vurdering, eller til å forstå enkelte idear eller omgrep betre på spesifikke punkt. Derimot er det vesentleg bruk å delegere evalueringa eller vurderinga av ein artikkel, å skrive utkast til fagfellevurderingsrapport, å få hjelp til å forstå hovudelementa i ein artikkel, eller å vurdere ein finansieringssøknad.

Sjå ChatGPT is transforming peer review — how can we use it responsibly?

Endra 10.09.26