FAQ om AI i medicinsk udstyr

Brug af AI (kunstig intelligens), i eller som medicinsk udstyr, er et voksende fænomen i sundhedssektoren. Dette skyldes, at teknikkerne involveret i AI kan anvende store mængder data til at skabe generaliserende algoritmer. Disse kan finde skjulte tendenser i data, der kan have stort udbytte for både patientbehandlingen og sundhedsøkonomien. Det kan eksempelvis være en forbedring og præcisering af den diagnostiske proces ved hjælp af beslutningsunderstøttende systemer baseret på AI. Samtidig kan AI også mindske arbejdsbelastningen for sundhedspersonale.

Indenfor de seneste år har interessen for feltet været stor, og både private og offentlige projekter samt partnerskaber, er påbegyndt. For at sikre udviklingen af sikkert AI baseret medicinsk udstyr til patienter, har Lægemiddelstyrelsen udarbejdet denne FAQ, og for samtidig at besvare overordnende spørgsmål om AI brugt i eller som medicinsk udstyr. I FAQ’en finder man oplysninger om relevant lovgivning og vejledningsmateriale til udvikling af software baseret medicinsk udstyr, herunder AI. Herunder angives også nogle lovgivningskrav, man skal være opmærksom på i forbindelse med markedsføring af AI baseret medicinsk udstyr.

Hvornår er AI baseret software medicinsk udstyr?

Medicinsk udstyr er ikke defineret af mediet eller materialet det består af, men defineret af det tilsigtede formål for produktet. Dermed kan software i sig selv være medicinsk udstyr, men software kan også indgå som en del af et medicinsk udstyr. Ligesom andet software, bliver AI baseret software klassificeret som medicinsk udstyr, hvis det har en virkning ved fx diagnosticering, forebyggelse, monitorering, forudsigelse, prognose, behandling eller lindring af sygdomme for et individ.
Den fulde definition af medicinsk udstyr findes i Forordningen om medicinsk udstyr (Artikel 2, nr. 1). Da definitionen af medicinsk udstyr er meget bred, har EU-kommissionen lavet en vejledning til kvalificering af software som medicinsk udstyr. Vejledningen opstiller eksempler og forklaring af Forordningen om medicinsk udstyr, som er den gældende lovgivning fra d. 26. maj 2021.

Hvilke typer af AI kan anvendes i medicinsk udstyr?

Det er op til fabrikanten af softwaren, som enten i sig selv er medicinsk udstyr eller som anvendes i et medicinsk udstyr, at anvende den korrekte type AI til opgaven. Ekspertsystemer og decision trees kan fx anvendes til at stille diagnoser på baggrund af patientindtastet adfærd, mens clustering-teknikker måske kan være egnede på målte patientværdier for fx blodtryk eller infektionstal. Dertil er det vigtigt, at den kliniske ydeevne og effekt af udstyret kan dokumenteres. Du kan læse mere om, hvordan du dokumenterer klinisk ydeevne og effekt i Kommissionens vejledning omkring om dette eller i ét af de andre spørgsmål og svar.

Hvem godkender medicinsk udstyr så det kan markedsføres?

Medicinsk udstyr må markedsføres, når der foreligger en overensstemmelseserklæring om, at udstyret overholder den relevante lovgivning. Hvis det medicinske udstyr er af laveste risikoklasse (klasse I), kan fabrikanten af dette udstyr selv udfylde en overensstemmelseserklæring for udstyret, såfremt fabrikanten overholder lovgivningen. Herefter må fabrikanten lovligt CE-mærke sit medicinske udstyr. Hvis udstyret derimod er af en højere risikoklasse (klasse IIa, IIb eller III), skal et bemyndiget organ bl.a. godkende det medicinske udstyr, udstyrets tekniske dokumentation og fabrikantens systemer for håndtering af hændelser på patienter forårsaget af det medicinske udstyr. Såfremt førnævnte er i overensstemmelse med lovgivningen, underskriver det bemyndiget organ en overensstemmelseserklæring for produktet, så udstyret kan CE-mærkes og må forhandles i EU.

Hvad er en risikoklasse for medicinsk udstyr, og hvilken risikoklasse er et AI baseret medicinsk udstyr?

En risikoklasse for et medicinsk udstyr er en kategorisering af udstyret, som baserer sig på risikoen involveret ved brugen af udstyret og den skade udstyret kan forvolde, hvis udstyret ikke virker indenfor specifikationerne. Risikoklasserne for et AI baseret medicinsk udstyr er som udgangspunkt ikke anderledes end de risikoklasser, som lignende udstyr, der ikke anvender AI, vil falde under. Risikoklassificering af software, som er medicinsk udstyr, findes i regel 11 i Forordningen om medicinsk udstyr (Kapitel III om Klassificeringsregler) og er uddybet i EU-kommissionens vejledning omkring software kvalificering og klassifikation (Sektion 4.2.1).

Hvordan sikrer man evidensen af softwarens effekt, hvis det skal kunne CE-mærkes som medicinsk udstyr?

Ydeevnen af et medicinsk udstyr påvises gennem klinisk evidens og er et udtryk for, om udstyret kan opnå sit erklærede formål. Evidensgrundlaget for den kliniske ydeevne, kan opnås gennem klinisk evaluering af produktet, herunder gennem anvendelse af allerede etableret evidens på området. Evalueringen af den kliniske ydeevne kræver, at data er af tilstrækkelig mængde og kvalitet, som skal vurderes ud fra det pågældende udstyr. Dette gør sig især gældende for machine learning teknikker, og herunder deep learning teknikker, hvor datamængden og kvaliteten af denne, i forvejen er en stor faktor.
Derudover bør det vurderes, om data der anvendes til udvikling af software, er repræsentativt for målgruppen for det medicinske udstyr. Klinisk evaluering er en løbende proces indenfor medicinsk udstyr, og det er op til fabrikanten af det medicinske udstyr at sikre, at der løbende er tilstrækkelig evidens for, at udstyret opnår sit erklærede formål under hele produktets levetid/tid på markedet. Du kan læse mere om klinisk evaluering og hvilke overvejelser man bør gøre for at sikre klinisk evidens i EU-Kommisionens vejledning om klinisk evaluering.

Hvilke udfordringer er der i udviklingen af selvlærende AI baseret medicinsk udstyr?

Continuous learning systems (CLS)/ selvlærende systemer – Systemer, der lærer ved brug, og dermed korrigerer sine parametre og effekt, skal have sine ændringer godkendt af et bemyndiget organ efter hver eneste software-opdatering, såfremt at ydeevnen eller sikkerheden for udstyret ændrer sig. Et neuralt netværk, som ændrer sine vægte ved brug, vil i de fleste tilfælde også ændre ydeevnen. CLS er derfor ikke udelukket, men er i praksis en udfordring. Årsagen er, at det bemyndigede organ, som har udstedt CE-certifikatet for det medicinsk udstyr, vil skulle godkende samtlige opdateringer til algoritmen, der ændrer sig.
Et grundlæggende princip indenfor lovgivningen for medicinsk udstyr er, at ansvaret for fejl ved anvendelse af produktet altid kan placeres. Hvis udstyret fx anvendes efter fabrikantens anvisninger, og en fejl opstår under anvendelse, er fabrikanten ansvarlig for udstyret og fejlen. Hvis brugeren af det medicinske udstyr derimod anvender udstyret imod fabrikantens anvisninger, kan fabrikanten som udgangspunkt ikke stilles ansvarlig for en eventuel hændelse. Derfor er det især vigtigt ved selvlærende systemer, at inputdata er klart defineret, da algoritmen udstyret bygger på, kan ændre sig ved brug.

Hvor finder jeg relevant materiale om udvikling af softwarebaseret medicinsk udstyr?

Lovgivningen og vejledninger om medicinsk udstyr kan findes via EU-kommissionens og Lægemiddelstyrelsens hjemmeside. Vejledninger vedrørende medicinsk udstyr og Forordningen for medicinsk udstyr.

Hvor kan man henvende sig, hvis man har spørgsmål om AI baseret medicinsk udstyr?

Hvis du har kigget spørgsmålene og svarene på denne side igennem og stadigvæk har ubesvarede spørgsmål om AI i medicinsk udstyr, besvarer vi gerne disse. Send en mail og angiv ”AI” i emnefeltet for at stille dit spørgsmål.