Wdrożenie kliniczne i cykl życia — materiał referencyjny

Materiał referencyjny · Zwięzłe kompendium — ścieżka wdrożenia, odnośniki do AIRA/AIW-I, ryzyko związane z przepływami pracy opartymi na agentach, lektury. Wersje dydaktyczne znajdują się w rozdziale.

Role we wdrożeniu

Działanie autonomiczne / samodzielne · równoczesne wspomaganie · drugi odczyt · triaż / ustalanie priorytetu · wstępnie uzupełnione wyniki pomiarów / sugestie do raportu. Od roli zależą metryka, próg i projekt badania z udziałem osób interpretujących. AI samodzielnie ≠ osoba interpretująca+AI — istotna jest delta.

Badania z udziałem osób interpretujących

• MRMC (wiele osób interpretujących, wiele przypadków) — standardowy projekt; ROC/AUROC dla każdej osoby interpretującej, następnie uśredniane.
• Schemat krzyżowy + przerwa ograniczająca wpływ pamięci — każda osoba interpretuje każdy przypadek zarówno bez AI, jak i z AI, przy zrównoważonej kolejności oraz z przerwą ograniczającą wpływ pamięci i kolejności.
• Raportuj czułość, swoistość, AUROC, czas interpretacji, zgodność między osobami interpretującymi; badaj błąd automatyzacji (automation bias) — czy błędy AI stają się błędami osoby interpretującej?

Rozsądna ścieżka prospektywna

retrospective development
  → independent external testing (frozen model)
  → silent / shadow deployment (outputs hidden, compared to real reads)
  → reader / clinical-workflow study
  → prospective deployment (live, with oversight)
  → post-deployment monitoring

Progi we wdrożeniu

Nie jest to punkt optymalny według AUROC. Progi zależą od częstości występowania, roli w przepływie pracy (triaż sprzyja czułości, a potwierdzanie — swoistości), kosztu wyników FP/FN i kalibracji w populacji objętej wdrożeniem. W każdym ośrodku przeprowadź ponowną kalibrację; progi oszacowane ponownie na danych zewnętrznych stanowią adaptację — należy to zaraportować.

Czynniki ludzkie

Błąd automatyzacji (automation bias) · zmęczenie alarmami · nieuwzględnianie kontekstu · odciążenie poznawcze · niekorygowanie błędnych sugestii · nieprawidłowo skalibrowane zaufanie. Można je zmierzyć tylko wtedy, gdy ocena obejmuje człowieka (badanie z udziałem osób interpretujących, wdrożenie w trybie cieniowym).

Taksonomia dryfu

Dane · protokół/skaner · populacja · etykiety/praktyka kliniczna · jakość działania. Monitorowanie wymaga metryk monitorowanych w sposób ciągły, detektorów dryfu, alarmów, wersjonowania/informacji o pochodzeniu i możliwości przywrócenia poprzedniej wersji. IHE AIRA stanowi wsparcie na poziomie standardów dla oceny/informacji zwrotnych/monitorowania. Aktualizacje modelu oznaczają ponowne rozpoczęcie walidacji (w zakresie proporcjonalnym do zmiany); ciągłe uczenie zaciera granicę między trenowaniem a testowaniem.

Warstwy zaufania

poprawność samodzielnego systemu → delta osoba interpretująca+AI → integracja → punkt operacyjny/kalibracja → bezpieczeństwo związane z czynnikami ludzkimi → etapowe wdrażanie → monitorowanie cyklu życia. Brakujące warstwy oznaczają brak odpowiadających im podstaw zaufania.

Granica regulacyjna (najpierw UE; opatrzony datą materiał referencyjny — przed poleganiem na nim zweryfikuj aktualny stan)

• MDR — rozporządzenie (UE) 2017/745 (Dz. Urz. UE L 117, 5.5.2017): art. 2 definicje („wyrób medyczny” obejmuje oprogramowanie; „przeznaczenie” = twierdzenia producenta na etykiecie/w instrukcji stosowania/w materiałach promocyjnych/w ocenie klinicznej); motyw 19 (kwalifikacja oprogramowania według zamierzonego celu medycznego).
• Klasyfikacja oprogramowania wyrobów — załącznik VIII do rozporządzenia MDR, zasada 11, tak jak przeprowadza ją MDCG 2019-11 rev.1 (17 czerwca 2025, health.ec.europa.eu; wytyczne przyjęte, ale niewiążące prawnie): informuje o postępowaniu klinicznym czy nim steruje × stan sytuacji → IIa/IIb/III.
• AI Act — rozporządzenie (UE) 2024/1689 (Dz. Urz. 12.7.2024): art. 6 ust. 1 wysokie ryzyko = ustawodawstwo harmonizacyjne z załącznika I (wymieniono MDR) + ocena zgodności przez stronę trzecią; art. 6 ust. 2–3 przypadki użycia z załącznika III i odstępstwa. Wytyczne Komisji/MDCG dotyczące współdziałania MDR–AI Act i harmonogramów przejściowych ewoluują; przy wykonywaniu sprawdź aktualny stan.
• Zarządzanie po stronie kupującego — Kitamura et al. 2025 (syllabus wielu towarzystw: kompetencje kupującego, w tym przegląd etykiety/przeznaczenia, zgodność z ośrodkiem, lokalne testowanie przed wdrożeniem, monitorowanie po wdrożeniu, ocena wartości); konsensus FUTURE-AI (BMJ 2025;388:e081554; 30 zaleceń, sześć zasad — sprawiedliwość, uniwersalność, identyfikowalność, użyteczność, odporność, wyjaśnialność — z ostrzejszą oczekiwaną zgodnością dla narzędzi przeznaczonych do wdrożenia niż dla narzędzi badawczych). Oba w zestawieniu standardów i materiałów referencyjnych.

Sekcja o granicy między badaniami a produktem uczy modelu granicy; ta strona przechowuje jedynie opatrzone datą wskazówki. Nic na tej stronie nie stanowi porady prawnej.

Przepływy pracy oparte na agentach (wyłaniająca się architektura)

Orkiestracja agentowa / w stylu MCP (LLM koordynujący narzędzia) to wyłaniająca się forma wdrożenia. ReCo (Tzanis & Klontzas, medRxiv 2026.07.14.26358025, VERIFIED preprint; github.com/eltzanis/ReCo) jako jeden z przykładów integruje Orthanc + Merlin + TotalSegmentator + dozymetrię za pośrednictwem serwerów MCP. Dodatkowe rodzaje ryzyka: kumulowanie się błędów, informacje o pochodzeniu całego procesu, uprawnienia narzędzi o ograniczonym zakresie i podlegające audytowi, całościowa ocena (na poziomie zadania). Kierunek AI ogólnego zastosowania (np. Dogra et al., koncepcja GRAI, Radiology 2025;316(3), doi:10.1148/radiol.242362, VERIFIED przegląd / artykuł typu perspective) wiąże się z tymi samymi problemami dotyczącymi cyklu życia.

Wypróbuj (ćwiczenia praktyczne)

Wybierz jedno: (1) oceń krytycznie opublikowane badanie osoby interpretującej+AI (np. Herpe et al.) według listy kontrolnej MRMC / schemat krzyżowy / przerwa ograniczająca wpływ pamięci; (2) narysuj cykl życia wdrożenia asystenta klasy TotalSegmentator, wskazując ryzyko związane z czynnikami ludzkimi i sygnały dryfu na każdym etapie; (3) zaprojektuj metryki monitorowania (osie dryfu, pola informacji o pochodzeniu, progi, informacje zwrotne w stylu AIRA), których wymagałoby narzędzie do kwantyfikacji podobne do TRACE-CT, gdyby zostało wdrożone.

Czytaj / oglądaj

• Herpe et al. — badanie osoby interpretującej+AI, PMID 40745051.
• CLAIM 2024 — raportowanie istotne dla wdrożenia (rozdz. 9).
• IHE AIRA — profiles.ihe.net (profil oceny/informacji zwrotnych po wdrożeniu).
• ReCo — medRxiv preprint.
• Dogra et al. GRAI — doi:10.1148/radiol.242362.

Co zapamiętać (podsumowanie rozdziału)

1. Wynik AI samodzielnie ≠ wynik osoby interpretującej+AI; mierz deltę we właściwie zaprojektowanym badaniu z udziałem osób interpretujących (MRMC, schemat krzyżowy, przerwa ograniczająca wpływ pamięci).
2. Rozsądna ścieżka przebiega następująco: rozwój retrospektywny → testy zewnętrzne → wdrożenie w trybie cieniowym → badanie z udziałem osób interpretujących → wdrożenie prospektywne → monitorowanie.
3. Progi we wdrożeniu zależą od częstości występowania, roli i kosztu FP/FN — oraz wymagają kalibracji.
4. Czynniki ludzkie — błąd automatyzacji (automation bias), zmęczenie alarmami, kalibracja zaufania — rozstrzygają, czy model pomaga, czy szkodzi.
5. Wdrożenie nie jest końcem: monitoruj dryf danych/protokołu/populacji/etykiet/jakości działania; AIRA zapewnia wsparcie na poziomie standardów.
6. Aktualizacje modelu (i ciągłe uczenie) oznaczają ponowne rozpoczęcie walidacji; systemy agentowe wprowadzają ryzyko kumulowania się błędów i ryzyko związane z informacjami o pochodzeniu.

Rejestr twierdzeń dotyczących cyklu życia z tego rozdziału prowadzi do materiałów końcowych, gdzie zebrano podziękowania, piśmiennictwo i informacje o weryfikacji.