Decyzja o adopcji i stos materiału dowodowego

Adopcję sprowadza się czasem do pytania, czy model jest wystarczająco trafny. Jest ono konieczne, ale nie jest decyzją podejmowaną przez szpital. Decyzja dotyczy systemu z określoną rolą, interfejsem, tokiem pracy, reagującymi na niego ludźmi, procesem utrzymania i właścicielem. Zaufanie nie jest zatem jednym werdyktem przypisanym do jednego wyniku. Jest zbiorem twierdzeń o określonym zakresie, z których każde ma materiał dowodowy, osobę odpowiedzialną i znane ograniczenie.

Zaufanie jest stosem twierdzeń o określonym zakresie

Poniższy stos jest syntezą dydaktyczną, a nie standardem ani obowiązkową hierarchią.

Pierwsza warstwa to poprawność samodzielnego działania: model oceniony w określonej populacji, najlepiej za pomocą testu zewnętrznego, który zachowuje zamierzone twierdzenie, oraz z uwzględnieniem kalibracji, gdy używane są prawdopodobieństwa lub oszacowania ryzyka. Warstwa ta nie wykazuje, co dzieje się, gdy osoba interpretująca widzi wynik. Druga to efekt osoby interpretującej z AI: porównanie z działaniem osoby bez AI dla tej samej roli, przypadków i punktu końcowego. Różnica dotycząca osoby interpretującej nie wykazuje automatycznie korzyści dla pacjenta ani toku pracy, ale odpowiada na inne pytanie niż samodzielna zdolność dyskryminacyjna.

Trzecia warstwa to integracja. Wynik musi być przypisany do właściwego badania, zwrócony rzeczywistą ścieżką techniczną, wyświetlony w użytecznym kontekście i dostępny w punkcie, w którym człowiek ma na niego zareagować. Poprawny wynik, który jest spóźniony, niewidoczny lub przypisany do niewłaściwego badania, nie stanowi dowodu udanego systemu klinicznego. Czwarta warstwa to punkt operacyjny: próg, regułę kolejki lub regułę akceptacji trzeba ocenić względem zamierzonej populacji, roli, częstości występowania, obciążenia pracą, kalibracji i konsekwencji błędu.

Piąta warstwa to czynniki ludzkie. Materiał dowodowy musi odpowiadać deklarowanej interakcji i, gdy jest to właściwe, uwzględniać uwagę, liczbę alertów, nadmierne poleganie, zachowanie przy odrzucaniu wyniku oraz obsługę błędnych sugestii. Szósta to ocena etapowa: dowody zewnętrzne, z trybu cieniowego, z badań osób interpretujących i prospektywne nie są zamienne, ponieważ każdy rodzaj ujawnia inną część systemu. Siódma to cykl życia: monitorowanie, wykrywanie dryfu, wersjonowana proweniencja, kontrola zmian, reagowanie na incydenty i przywracanie poprzedniej wersji utrzymują twierdzenie otwarte po wdrożeniu. Luki w jednej warstwie nie wypełnia siła innej.

Pytanie o adopcję

Rozważmy skonstruowany przykład: proponuje się asystenta segmentacji do wspierania klinicznej wolumetrii. Zanim nazwiesz go godnym zaufania, zapytaj, jaki materiał dowodowy istnieje dla każdej warstwy i które elementy pozostają jedynie obietnicami. Nazwa modelu lub narzędzia nie odpowiada na to pytanie; odpowiadają zamierzona rola, populacja, tok pracy i zapis tworzony przez system.

W zakresie poprawności samodzielnego działania zapytaj, czy model oceniono na danych odpowiednich dla zamierzonego użycia, czy test był rzeczywiście niezależny oraz czy raportowana metryka odpowiada formułowanemu twierdzeniu. Dla asystenta pomiaru wysoka miara nakładania może być użytecznym dowodem dotyczącym jednej właściwości maski, ale sama nie pokazuje, że poprawia się pomiar osoby interpretującej, że wynik jest użyteczny w lokalnym systemie ani że zmieniają się decyzje terapeutyczne lub wyniki pacjentów. Warstwa osoby interpretującej z AI wymaga własnego porównania i punktu końcowego.

W zakresie integracji prześledź wynik od badania źródłowego do osoby interpretującej. Sprawdź tożsamość i czas danych wejściowych, zwrócony obiekt lub reprezentację, powiązanie ze źródłem, sposób wyświetlania w przeglądarce oraz zachowanie przy niedostępności komponentu. Zgodność techniczna i skuteczny transport są dowodami dotyczącymi konkretnych możliwości i przekazań; nie gwarantują użyteczności całego toku pracy. Warstwy punktu operacyjnego i czynników ludzkich pytają następnie, jak lokalny próg wpływa na kolejkę i jak osoby interpretujące reagują na wynik.

Działanie w trybie cieniowym i ocena prospektywna dostarczają kolejnych, odmiennych dowodów. Ukryte uruchomienie może sprawdzać trasowanie, opóźnienie, strukturę przypadków, liczbę alertów i lokalne zachowanie wyników, zanim wynik zacznie kierować osobą interpretującą. Nie może wykazać korzyści dla tej osoby, gdy wynik jest ukryty. Widoczne badanie z udziałem osób interpretujących lub badanie prospektywne może mierzyć interakcję, ale musi określać projekt, nadzór oraz warunki zatrzymania lub eskalacji. Dopiero monitorowanie po badaniu sprawdza, czy obserwowane zachowanie utrzymuje się wraz ze zmianą środowiska.

Skonstruowana propozycja dostawcy

Załóżmy teraz, że dostawca przedstawia następującą propozycję, skonstruowaną na potrzeby tego rozdziału i nieopisującą rzeczywistego produktu ani benchmarku:

„DeepSect Pro zapewnia segmentację nowotworów ze znakomitym AUROC (0.94) i Dice. Jest zwalidowany zewnętrznie i ma oznakowanie CE, bezproblemowo integruje się z Państwa PACS oraz skraca czas raportowania o 30%. 120 tys. EUR rocznie”.

Pierwszą reakcją nie powinna być dyskusja, czy 0.94 jest dobrym wynikiem, lecz dekompozycja twierdzeń. Jakie jest oznaczone przeznaczenie i jaką planowaną rolę w toku pracy się proponuje? Jakie populacje, skanery, protokoły, obszary geograficzne i procesy referencyjne reprezentowano w ocenie zewnętrznej? Czy materiał dowodowy dotyczy samodzielnej segmentacji, pomiaru osoby interpretującej z AI czy wyniku toku pracy? Metryki wymienione w propozycji nie mogą odpowiedzieć na wszystkie trzy pytania.

Twierdzenie o integracji wymaga wykazania w konkretnym ośrodku: jakie obiekty lub usługi są wymieniane, jak wynik jest przypisywany do badania źródłowego, gdzie się go wyświetla, ile kroków wykonuje osoba interpretująca i kto na niego reaguje. Punkt operacyjny wymaga lokalnego uzasadnienia oraz kontroli struktury przypadków, kalibracji, obciążenia alertami lub poprawkami i konsekwencji błędów. Badanie z udziałem osób interpretujących musi ujawniać zamierzoną interakcję i raportować deklarowany wynik. Jeśli propozycja stwierdza, że raportowanie jest szybsze, potrzebny jest punkt końcowy toku pracy zmierzony we właściwym środowisku; Dice, AUROC i walidacja zewnętrzna nie są pomiarami czasu.

Pytania zarządcze są równie konkretne. Kto odpowiada za wynik i utworzone na jego podstawie pomiary? Kto otrzymuje zgłoszenie incydentu w nocy, kto może wstrzymać usługę i kto decyduje o przyjęciu aktualizacji modelu? Jak każda wersja jest zapisywana, walidowana, komunikowana i przywracana? Co dzieje się z wynikami historycznymi po zmianie modelu lub przetwarzania wstępnego? Którzy pracownicy utrzymują integrację, przeglądają sygnały monitorowania, szkolą osoby interpretujące i badają odrzucenia wyników? Cena licencji jest tylko jedną częścią kosztu: wdrożenie, zasoby obliczeniowe, szkolenie, monitorowanie, utrzymanie oraz czas właścicieli klinicznych i technicznych również należą do uzasadnienia adopcji.

Prywatność i trasowanie danych wymagają własnego materiału dowodowego i zarządzania. Techniczna transformacja poufności DICOM nie wykazuje prawnej anonimowości, a ani zgodność z DICOM, ani metryka modelu nie rozstrzygają statusu prawnego produktu. Rozróżnienie między obsługą techniczną, tożsamością w toku pracy, proweniencją, pieczą i oceną prawną zależną od jurysdykcji przeniesiono z rozdziału 10.

Wreszcie twierdzenie o zrealizowanej wartości trzeba oddzielić od twierdzenia o poprawności modelu. W zależności od roli szpital może zdecydować o pomiarze czasu raportowania, liczby poprawek, opóźnienia kolejki, zbędnych procedur kontrolnych, zgodności między osobami interpretującymi lub innego wyniku lokalnego. Takie pomiary mogą wspierać decyzję o adopcji, ale trzeba je zaprojektować dla tej decyzji. Żadna zastępcza metryka modelu sama w sobie nie wykazuje korzyści dla pacjenta, korzyści dla toku pracy, bezpieczeństwa, wartości zdrowotno-ekonomicznej ani użyteczności klinicznej.

Co może zawierać rzetelna rekomendacja

Rekomendacja oparta na materiale dowodowym ma formę rejestru, a nie sloganu. Może stwierdzać, że zamrożony model zbadano zewnętrznie dla określonej populacji; że zdefiniowane badanie z udziałem osób interpretujących wykazało lub nie wykazało określonego efektu osoby z AI; że lokalną integrację sprawdzono dla nazwanych obiektów, interfejsów i przypadków awarii; że punkt operacyjny uzasadniono dla roli i populacji; że ocena w trybie cieniowym lub prospektywna odpowiedziała na postawione pytania; oraz że monitorowanie, wersjonowanie, reagowanie na incydenty i przywracanie poprzedniej wersji mają wskazanych właścicieli. Każdy człon wskazuje materiał dowodowy, kontrakt lub decyzję zarządczą. Jeśli danego członu nigdzie nie ma, stanowi on otwarte ryzyko adopcji, a nie domniemaną właściwość modelu.

Jeżeli rzeczywisty produkt ma oznakowanie CE, trzeba je rozumieć w odniesieniu do jego zadeklarowanego przeznaczenia i planowanego użycia. Nie jest ono uniwersalną gwarancją lokalnej przydatności w toku pracy, korzyści dla osoby interpretującej ani wyniku pacjenta. Skonstruowana wyżej propozycja jest celowo niewystarczająca, dopóki nie sprawdzi się tych granic. Nie stanowi też rozstrzygnięcia prawnego; rzeczywisty projekt wymaga aktualnej wiedzy regulacyjnej i dotyczącej prywatności, właściwej dla danej jurysdykcji.

Umiejętność możliwa do przeniesienia

Stos ten jest wdrożeniowym odpowiednikiem metody rekonstrukcji badania z rozdziału 9. Wyszczególnij twierdzenia, określ materiał dowodowy potrzebny dla każdego z nich, przypisz właściciela pozostałej pracy i utrzymuj wniosek nie mocniejszy niż jego najwęższa warstwa. Model może być trafny, choć system jest bezużyteczny, a system może być użyteczny, choć jego materiał dowodowy jest zbyt wąski dla proponowanego twierdzenia. Adopcja jest decyzją o przyjęciu określonego, ograniczonego zbioru tych faktów i odpowiedzialności wraz z planem uczenia się, gdy świat się zmieni.

Taka jest perspektywa cyklu życia: walidacja zaczyna się od modelu, ale użycie kliniczne wymaga roli, interakcji z człowiekiem, punktu operacyjnego, ścieżki technicznej, etapowego materiału dowodowego, zarządzania i ciągłej obserwacji. Pytanie nigdy nie brzmi, czy jedna liczba przyznaje zaufanie. Brzmi ono: które twierdzenia są poparte, które nadal są hipotezami i kto zauważy zmianę odpowiedzi.

Następna sekcja bada granicę między oprogramowaniem badawczym a produktem klinicznym.