AI w wyrobach medycznych

Wyroby medyczne a AI – nowe wytyczne jednostki notyfikowanej

Obowiązujące w Unii Europejskiej przepisy dotyczące wyrobów medycznych nie uwzględniają w pełni złożoności wyrobów medycznych wykorzystujących sztuczną inteligencję (AI). Rozbieżność pomiędzy zaawansowaną technologią, a przepisami prawnymi stawia liczne wyzwania producentom wyrobów medycznych, co może przekładać się również na zagrożenie dla pacjentów.

Celem ułatwienia producentom zastosowania właściwego podejścia do oceny bezpieczeństwa swoich produktów, jednostka notyfikowana TÜV SÜD opublikowała „Białą Księgę” – czyli wytyczne omawiające możliwości i wyzwania stojące przed producentami wyrobów medycznych wykorzystujących algorytmy AI.

AI w wyrobach medycznych – co można na tym zyskać?

Zgodnie z „Białą księgą” TÜV SÜD wykorzystanie sztucznej inteligencji w wyrobach medycznych niesie ze sobą wiele korzyści. Użycie zaawansowanych algorytmów i przetwarzanie dzięki nim ogromnych ilości danych pozwala wyrobom medycznym w postaci oprogramowania szybko dostosowywać się do nowych warunków i optymalizować działanie w czasie rzeczywistym. Może to bezpośrednio przekładać się na polepszenie jakości usług medycznych przy jednoczesnym obniżeniu kosztów. Jak twierdzą autorzy dokumentu, oprócz powyższego AI pozwala na:

• ulepszone odkrywanie i rozpoznawanie schematów i wzorów w procesie diagnostyki,
• zwiększoną zdolność wykrywania i rozpoznawania rzadkich lub nietypowych chorób,
• możliwość stworzenia systemów wczesnego ostrzegania o zagrożeniu życia pacjenta,
• zwiększony dostęp do zdalnej opieki zdrowotnej.

Niestety z zastosowaniem AI w wyrobach medycznych wiążą się również ryzyka. Paradoksalnie, największe z nich wywodzi się z głównej zalety sztucznej inteligencji – możliwości adaptacji swoich działań w oparciu o gromadzone informacje. Ponieważ algorytmy implementowane w wyrobach medycznych wyposażonych w sztuczną inteligencję ulegają ciągłym zmianom pod wpływem uczenia się i dostosowywania funkcjonalności w czasie rzeczywistym, profil ryzyka produktu oraz ocena tego profilu jest nieprzewidywalna. Może to powodować trudności z prawidłowym przeprowadzeniem procesu oceny zgodności takiego wyrobu medycznego.

Dlatego też w „Białej Księdze”  zostały omówione podstawowe kryteria oceny wyrobów medycznych wykorzystujących technologie AI. Zostały one zawarte w „Liście kontrolnej wymagań” opracowanej przez Stowarzyszenie Jednostek Notyfikowanych ds. Wyrobów Medycznych w Niemczech (IG-NB) przy pomocy TÜV SÜD.

Lista kontrolna wymagań IG-NB

Lista kontrolna IG-NB omawia szczegóły podejścia zorientowanego na najważniejsze fazy cyklu życia produktu oraz wymagania, na które należy zwrócić szczególną uwagę podczas dokonywania oceny zgodności wyrobu. Zostały one podsumowane poniżej:

• Cel – pierwsza faza omawia kryteria, które mają posłużyć do zweryfikowania czy zastosowanie technologii AI w wyrobach medycznych będzie skutkowało uzyskaniem znaczącej przewagi nad wyrobami, które tych technologii nie implementują. Kryteria te stanowią szablon postępowania, który producenci i programiści powinni stosować do oceny potencjalnego ryzyka związanego z wykorzystaniem technologii AI w tworzonych wyrobach medycznych.
• Wymagania dotyczące oprogramowania – kryteria w tej fazie dotyczą funkcjonalności i wydajności algorytmów mających zastosowanie w AI ze szczególnym uwzględnieniem: zastosowania algorytmów zgodnie z ich przeznaczeniem, oczekiwanych zakresów uzyskanych wartości, powtarzalności i odtwarzalności wyników oraz zachowania algorytmu w przypadku, gdy dane wejściowe nie spełniają określonych wymagań. Te kryteria dotyczą również aspektów interfejsu użytkownika.
• Zarządzanie danymi – lista zawiera wymagania potrzebne do oceny kolekcji danych służących do trenowania, weryfikacji i testowania danych stosowanych do oceny algorytmów AI. Dotyczy to również anonimizacji danych w procesie wczesnej obróbki.
• Opracowanie modelu AI – wytyczne omówione w tym punkcie listy kontrolnej służą do oceny jakości i integralności modeli AI. Dotyczy to m.in. możliwości uzyskiwania powtarzalnych wyników testów, wpływu zmiany pojedynczych cech algorytmów na ich zachowanie oraz identyfikacji tych zbiorów danych, które usprawniły tworzony algorytm.
• Rozwój produktu – w tej fazie zostały wyszczególnione kryteria dotyczące rozwoju oprogramowania, do których zalicza się przede wszystkim testowanie, dokumentowanie wszystkich podejmowanych kroków oraz ocena wydajności w różnych językach programowania. Najważniejszym kryterium przedstawionym w tym punkcie listy jest ocena, czy stworzony wyrób medyczny jest zgodny z oczekiwaniami.
• Wydanie produktu – ostatnia faza dotyczy kryteriów obowiązujących podczas produkcji, dystrybucji i instalacji technologii medycznej wykorzystującej sztuczną inteligencję. Co najważniejsze, zawiera wymagania charakterystyczne dla bieżącego nadzoru i oceny technologii AI po jej wprowadzeniu na rynek. Obejmuje to opracowanie szczegółowego planu nadzoru po wprowadzeniu do obrotu (PMS).

Rozwój nowych technologii a wymogi regulacyjne

Lista kontrolna lista wymagań IG-NB to tylko jeden z wielu wysiłków podejmowanych w celu prawidłowego dostosowania działań producentów wyrobów medycznych implementujących technologie AI do obowiązujących przepisów prawnych.

Te działania prowadzą do stworzenia ważnej ścieżki dla tych, którzy chcą uzyskać globalną zgodność wprowadzając innowacyjne technologie w czasach, kiedy pacjenci potrzebują ich najbardziej

Dokument opracowany przez TÜV SÜD dostępny jest do pobrania pod adresem: https://www.tuvsud.com/en/resource-centre/white-papers/artificial-intelligence-in-medical-devices.

Lista kontrolna IG-NB dostępna jest pod adresem: https://www.ig-nb.de/dok_view?oid=824260

W przypadku pytań dotyczących omawianych powyżej tematu – zapraszamy do kontaktu.

Marek Paluch
Radca Prawny, Senior Associate

marek.paluch@dzp.pl

Angelika Wocław
Paralegal

Angelika.Woclaw@dzp.pl