Høring over udkast til lov om ændring af ældreloven (Udvikling og anvendelse af kunstig intelligens og lignende digitale løsninger i ældreplejen)

Lægeforeningen takker for muligheden for at afgive høringssvar.

Lægeforeningen støtter overordnet intentionen om at styrke digitaliseringen i ældreplejen og imødekomme det reelle behov for nationale rammer, der kan skabe større ensartethed og tryghed på tværs af kommunerne. Et nationalt rammeværk kan bidrage til mere systematik og sammenhæng og sikre, at digitale redskaber anvendes efter fælles principper og på et fagligt forsvarligt grundlag.

Digitalisering er en forudsætning for et velfungerende sundhedsvæsen med færre hænder og flere ældre og kroniske patienter. Digitale løsninger kan frigøre tid, styrke kvaliteten og understøtte sammenhængen i borgernes forløb, når de udvikles med udgangspunkt i kliniske behov og i tæt samarbejde med klinikere og implementeres og reguleres på en måde, der beskytter borgernes rettigheder.

På den baggrund hilser Lægeforeningen ambitionen velkommen, men vurderer samtidig, at lovforslaget stiller meget brede rammer og rejser en række spørgsmål, som med fordel kan præciseres yderligere for at sikre tydelighed, retssikkerhed og ensartet, faglig forsvarlig praksis i kommunerne.

For bred bemyndigelse til ældreministeren - behov for tydeligere afgrænsning og klarhed
Lovforslaget giver ministeren en meget vid adgang til at fastsætte regler om både udvikling og anvendelse af kunstig intelligens og lignende digitale løsninger i ældreplejen. Bemyndigelsen omfatter hele spektret af digitale løsninger som sagsbehandling, administration, dokumentation og beslutningsstøtte. Den brede bemyndigelse indebærer en risiko for, at centrale afgrænsninger først fastlægges i bekendtgørelsesform.

Bemærkningerne anvender flere steder formuleringer som "det er hensigten", men sådanne hensigtserklæringer skaber ikke den retlige tydelighed, som området forudsætter. Da lovteksten ikke forpligter, at disse udmøntes i en bekendtgørelse eller vejledning, efterlades uklarhed om det faktiske  indhold. På et område, hvor borgernes rettigheder og retssikkerhed er centrale, bør de væsentligste rammer fremgå eksplicit i lovforslaget, herunder en nærmere afgrænsning af, hvad der forstås ved 'lignende digitale løsninger'.

Lovforslaget indeholder heller ikke en afgrænsning af, hvilke typer opgaver eller dataanvendelser bemyndigelsen ikke omfatter. Uden sådanne grænser bliver det vanskeligt at vurdere rækkevidden af den foreslåede regulering, herunder hvilke beslutningsområder og faglige funktioner der ikke bør understøttes af AL

Forholdet mellem ældreloven og sundhedsloven - behov for tydelig formålsafgrænsning
Lovforslaget giver kommunerne adgang til at anvende sundhedsdata, der er indsamlet til behandling i regi af sundhedsloven, i udvikling, træning og drift af AI-løsninger i ældreplejen. Det indebærer, at oplysninger beskyttet under sundhedslovens særlige regler kan anvendes til formål, der ikke er sundhedsfaglig behandling. Lovforslaget beskriver ikke nærmere, hvilke oplysninger der deles, i hvilket omfang eller hvilke begrænsninger der gælder, når data bevæger sig fra sundhedslovens til ældrelovens område.

Helbredsoplysninger er særligt følsomme personoplysninger, og anvendelsen af disse oplysninger bør altid ske i respekt for den fortrolighed og tillid, der kendetegner forholdet mellem borgeren og den sundhedsprofessionelle. Sekundær anvendelse af sundhedsdata bør derfor være klart afgrænset og stå i rimeligt forhold til det formål, oplysningerne oprindeligt er indsamlet til. I den foreslåede § 38 a og tilhørende bemærkninger åbnes der imidlertid for, at helbredsoplysninger, som kommunerne registrerer i forbindelse med patientbehandling, kan anvendes til formål som sagsbehanding, administration, dokumentation og ledelsesinformation.

Lægeforeningen vurderer, at formålsafgrænsningen bør indsnævres væsentligt, så borgernes sundhedsoplysninger ikke anvendes til generelle administrative formål. Sekundær anvendelse af borgernes helbredsoplysninger bør begrænses til formål, der er direkte sundheds- og omsorgsrelaterede. En bred adgang til at bruge behandlingsdata til administrativ optimering ligger langt fra det formål, oplysningerne er indsamlet til, og indebærer risiko for at underminere borgernes tillid til, at de trygt kan dele alle relevante oplysninger med sundhedspersonalet.

Dette rejser både retlige og patientsikkerhedsmæssige spørgsmål. Sundhedsloven indeholder i dag klare procedurer for håndtering af sundhedsmæssigt relevante fund som led i sekundær brug af sundhedsdata, fx i forskning, hvor utilsigtede helbredsfund kræver, at borgeren kontaktes af rette sundhedsfaglige instans og tilbydes opfølgning. Da der ikke findes tilsvarende regler beskrevet i relation til AI-anvendelse i ældreplejen, er det uklart, om sundhedsfagligt relevante mønstre eller fund identificeret af AI vil blive videreformidlet til rette sundhedsfaglige instans, og hvordan ansvaret i givet fald er placeret.

Profilering og kategorisering kræver faglige kriterier og retssikkerhed
Brugen af AI-baseret profilering indebærer en risiko for, at borgere placeres i risikokategorier uden en sundhedsfaglig vurdering og uden selv at op-leve et behov. Da sådanne kategoriseringer kan indgå i visitationen og danne grundlag for forslag til indsatser, kan de få konsekvenser for borgerens hverdag og rettigheder, uden at der er fastlagt klare faglige kriterier eller procedurer.

Dette understreger behovet for tydelige rammer for ansvar, faglig vurdering, gennemsigtighed og mulighed for at forstå eller anfægte AI-genere-rede vurderinger. Uden dette risikerer profilering at føre til sygeliggørelse, utilsigtet forskelsbehandling eller indsatser, borgeren ikke har efterspurgt.

AI skal understøtte - ikke styre - faglige vurderinger og beslutninger
Selv om lovforslaget fastslår, at kunstig intelligens ikke må træffe automatiske afgørelser, lægges der i bemærkningerne op til, at AI kan indgå i alle led af visitationen, herunder risikovurderinger, prioritering og forslag til indsatser. I en travl drift kan sådanne funktioner reelt få en styrende be-tydning for afgørelsen. Det bør derfor præciseres, hvordan man sikrer, at medarbejdere foretager en selvstændig faglig vurdering, og at teknologiens output ikke bliver afgørende i praksis.

Derudover bør der fastlægges tydelige rammer for, hvordan ressourcemæssige hensyn håndteres. Når AI foreslår forskellige indsatser, kan det økonomisk mest fordelagtige valg utilsigtet blive styrende frem for den fagligt mest hensigtsmæssige løsning.

Samtidig indeholder lovforslaget ikke krav til dokumentation af kvalitet, validering, evaluering eller succeskriterier for de digitale løsninger. Dette gør det uklart, hvordan kommunerne skal sikre, at teknologien faktisk forbedrer kvalitet og arbejdsgange, og ikke forringer faglig dømmekraft. Det er desuden vanskeligt at se, hvordan AI-løsninger skal implementeres uden kompetenceløft, investeringer og løbende governance, hvilket står i kontrast til lovforslagets vurdering af, at der ikke er implementeringsmæssige eller økonomiske konsekvenser.

Med venlig hilsen

Camilla Noelle Rathcke Formand for Lægeforeningen