AI i almen praksis - jura, rådgivning og krav
Denne side informerer om AI-løsninger, kunstig intelligens, i klinikkerne.
Kunstig intelligens (AI) er på vej til at blive en vigtig del af hverdagen i almen praksis. Mange klinikker bruger allerede i dag AI til fx notatskrivning og henvisninger, hvor teknologien frigør tid til patientbehandling. Udviklingen går hurtigt, og mange medlemmer efterspørger rådgivning, sikkerhed og fælles løsninger.
Alle kan søge viden om emnet på Datatilsynets hjemmeside, hvor der på nuværende tidspunkt er udarbejdet følgende vejledning:
Offentlige myndigheders brug af kunstig intelligens - Inden I går i gang (datatilsynet.dk)
Vælger klinikken at tilkøbe sig AI-løsninger, opfordres man til selv at søge juridisk rådgivning. I den forbindelse er det vigtigt at understrege, at en databehandleraftale med leverandøren ikke nødvendigvis er tilstrækkeligt grundlag ift. at håndtere hverken det juridiske grundlag eller de risici, der måtte være forbundet med at anvende en AI-løsning.
Forventede krav
Klinikkerne må i den forbindelse bl.a. forventes at skulle udarbejde både konsekvensanalyse og risikovurdering inden man starter anvendelsen af en løsning med AI. Disse kan der læses mere uddybende om herunder.
Der er en række yderligere krav til den dataansvarlige læge før ibrugtagning af AI. Disse er bl.a.:
- Databehandleraftaler og datasikkerhed: Du skal sikre, at der er et gyldigt behandlingsgrundlag for at anvende AI til behandling af patientoplysninger og at patientdata behandles sikkert.
- Samtykke og informationspligt over for patienterne: Du skal vurdere behov for og graden af information og samtykke ved anvendelsen
- Etiske overvejelser ift. anvendelsen af AI: Det kan fx være overvejelser om, hvordan du sikrer retfærdig behandling uden bias?
Det er et krav i databeskyttelsesforordningen, at man som dataansvarlig gennemfører en konsekvensanalyse og risikovurdering, når en type behandling, navnlig ved brug af nye teknologier og i medfør af sin karakter, omfang, sammenhæng og formål, sandsynligvis vil indebære en høj risiko for fysiske personers rettigheder og frihedsrettigheder, jf. databeskyttelsesforordningens artikel 35, stk. 1.
Du kan læse mere om konsekvensanalyser her:
Konsekvensanalyser vedrørende databeskyttelse (datatilsynet.dk)
Da der er tale om brug af ny teknologi, behandling af helbredsoplysninger, lydoptagelser og at brud på fortrolighed og tab af kvalitet kan have indgribende konsekvenser for patienter, er det PLO's umiddelbare vurdering, at brug af AI i almen praksis kan medføre en høj risiko for de registrerede (dvs. patienterne). Det er ligeledes PLO's vurdering, at AI løsningerne kan bidrage til en grad af beslutningsstøtte i patientbehandlingen, hvad enten det drejer sig om udkast til journalnotater, attestarbejde, patientresuméer mv.
Derfor anbefales det, at klinikken som det allerførste, og inden en AI-løsning tages i anvendelse, har gennemført en konsekvensanalyse og risikovurdering af den pågældende løsning. Og i denne sammenhæng, at den dataansvarlige sikrer, at man har håndteret de angivne risici og nedbragt dem til et passende niveau forud for anvendelsen af teknologien.
Datatilsynet har udarbejdet skabeloner til dette, som den dataansvarlige kan tage udgangspunkt i. Se disse her:
Skabeloner til gennemførelse af konsekvensanalyser (datatilsynet.dk)