Pro evropské výrobce zdravotnických prostředků, kteří ve svých řešeních využívají umělou inteligenci (AI), představuje další rozvoj jejich produktů mimořádně náročnou výzvu. Každá změna nebo aktualizace jejich platforem podle pravidel MDR totiž znamená opakování složitého procesu certifikace. Tento proces je navíc umocněn současným tlakem na sladění s nařízením EU AI Act. Oba předpisy kladou důraz na komplexní zajištění bezpečnosti, účinnosti a sledování životního cyklu AI řešení. Redakce digitalhealth.cz oslovila Vlastimila Hrabala ze společnosti Kardi Ai a Pavlínu Walter z GCP-Service International, aby se podělili o své zkušenosti s recertifikacemi a s názorem na přístup amerického regulátora FDA.
Je třeba vyvážit inovace a regulace
Podle odborníků musejí v Evropě výrobci zdravotnických prostředků s AI čelit neflexibilním pravidlům, která brzdí inovace. Pravidelné aktualizace AI algoritmů, nezbytné pro udržení konkurenceschopnosti a rychlé reakce na nové klinické poznatky, se často mění v noční můru. Klíčovou otázkou tedy zůstává, jak umožnit, aby se AI systémy dynamicky přizpůsobovaly měnícím se datům a technologiím, aniž by opakovaně narážely na regulatorní překážky.
V tomto ohledu nabízí americký úřad FDA (U.S. Food and Drug Administration) inspirativní řešení. Koncept předem stanovených plánů řízení změn (Predetermined Change Control Plans, PCCP) pod vedením FDA umožňuje výrobcům plánovat a schvalovat změny již v rané fázi vývoje. Tento přístup výrazně usnadňuje implementaci aktualizací bez nutnosti opakované certifikace a může sloužit jako model pro evropské regulátory hledající rovnováhu mezi inovací a bezpečností.
Vlastimil Hrabal z Kardi Ai problematiku recertifikace komentuje: „Současné evropské regulace, zejména MDR, nepočítají s dynamickou povahou AI řešení. Každá aktualizace znamená zdlouhavý proces, což je pro výrobce značně demotivující. Přístup FDA ukazuje, že existuje efektivnější cesta. Evropské regulační prostředí by mohlo těžit z větší flexibility, aniž by tím byla ohrožena bezpečnost a účinnost zdravotnických prostředků. Flexibilnější přístup by nám umožnil rychle reagovat na nové klinické poznatky a zároveň zajistit bezpečnost pacientů. Je to win-win pro všechny.“
PCCP je výsledkem inovativního přístup FDA k aktualizacím zdravotních prostředků s AI
V prosinci 2024 uveřejnila FDA pokyny a doporučení k tzv. Předem stanoveným plánům řízení změn (PCCP – Predetermined Change Control Plans). Ty umožňují výrobcům aktualizovat AI zařízení i po uvedení na trh bez nutnosti opětovně procházet certifikačním procesem. PCCP staví na třech klíčových složkách:
- Popis plánovaných změn – Výrobce musí definovat, jaké konkrétní úpravy plánuje.
- Protokol o změnách – Zajišťuje bezpečnost a účinnost zdravotnického prostředku během změn.
- Posouzení dopadů – Detaily o rizicích, přínosech a strategiích jejich zmírnění.
PCCP by mělo výrobcům umožnit, aby rychle reagovali na nové klinické poznatky nebo technologické pokroky, bez toho, aby museli podstupovat zdlouhavé regulační procesy. Základní principy lze tedy shrnout následovně:
- PCCP umožňuje výrobcům aktualizovat zařízení s AI, pokud změny odpovídají schválenému PCCP a zůstávají v mezích určeného použití.
- PCCP zahrnuje: popis plánovaných změn, protokol o jejich dopadech na bezpečnost a účinnost, a plány na zmírnění rizik.
- Plánované modifikace musí být konkrétní, ověřitelné a validovatelné. Výrobci mají specifikovat způsob implementace (automaticky/ručně, jednotně/dle podmínek).
- Označení prostředku by mělo informovat o využití strojového učení a autorizovaném PCCP. Dále upozornit uživatele na možné aktualizace a související změny výkonu.
FDA uvedl příklad softwaru na JIP: model AI sníží falešné poplachy po přeškolení na více datech, přičemž citlivost zůstane zachována. S PCCP může výrobce aktualizovat AI bez nové žádosti o schválení, pokud prokáže zlepšení a informuje uživatele.
Také EU by se měla zamyslet nad zjednodušením celého procesu, říká Pavlína Walter
Pavlína Walter z GCP-Service International k principům PCCP podrobně dodává: „Detailní popis budoucích aktualizací je pro výrobce náročný vzhledem k rychlému vývoji AI. Je zde inherentní dilema mezi potřebou předvídatelnosti a flexibilitou. Je proto třeba nalézt rovnováhu mezi flexibilitou a regulací. Přísné dodržování předem definovaných kritérií je nezbytné pro zajištění bezpečnosti pacientů, ale příliš rigidní přístup by mohl brzdit inovaci.
Pavlína Walter dále vysvětluje: „A ačkoli PCCP nabízejí významné výhody, mají také některé potenciální nevýhody:
- Omezená flexibilita: PCCP ze své podstaty definují předem schválený soubor změn. To může omezit flexibilitu výrobců při přizpůsobování se nepředvídaným okolnostem nebo při uplatňování nových přístupů, které nemusí být v plánu výslovně zahrnuty.
- Možnost nadměrného spoléhání: Přílišné spoléhání se na PCCP by mohlo výrobce odradit od toho, aby si vyžádali zpětnou vazbu od FDA k významným změnám, které mohou spadat mimo jeho rozsah, což by mohlo vést k nezamýšleným důsledkům nebo regulačním problémům.
- Složitost vývoje a údržby: Vývoj a údržba komplexního PCCP mohou být složité a náročné na zdroje. Vyžaduje pečlivé plánování, důkladnou dokumentaci a průběžné monitorování a hodnocení.
- Riziko nedodržení předpisů: Pokud výrobce provede změny, které přesahují rozsah schváleného PCCP, může čelit regulačním opatřením, včetně možných pokut nebo dokonce stažení prostředku z trhu.
- Možnost vzniku nepředvídaných problémů: I v případě dobře definovaného PCCP se mohou při zavádění změn objevit nepředvídané problémy. Tyto problémy si mohou vyžádat úpravy plánu nebo dokonce dodatečné přezkoumání ze strany FDA.
Podle Pavlíny Walter je také se třeba otevřeně ptát: „Jak můžeme navrhnout PCCP, které budou dostatečně flexibilní pro podporu rychlého vývoje AI, a zároveň budou zajišťovat vysokou úroveň bezpečnosti a účinnosti zdravotnických prostředků? Řešením by mohlo být, že bychom se zaměřili na vývoj adaptivních PCCP, které by umožnily určitou míru flexibility při zachování požadované úrovně regulace. Možným řešením by mohly být rozdělení PCCP na menší, samostatně schválené moduly, které by umožnily snazší úpravy a aktualizace.“
Na závěr Pavlína Walter dodává: „Ačkoli EU nemá specifický rámec „PCCP“ a zásady proaktivního řízení rizik a neustálého zlepšování jsou ústředním bodem MDR, přesto by se EU měla zamyslet nad zjednodušením celého procesu. EU má jedinečnou příležitost stát se globálním lídrem v oblasti regulačních inovací v oblasti zdravotnických technologií. Zjednodušení regulačního rámce a vytvoření prostředí příznivého pro inovace by nejenže přineslo benefity pro pacienty, ale také posílilo konkurenceschopnost evropského zdravotnického průmyslu.“
Petr Moláček, digitalhealth.cz