Monitorowanie, dryf i zmiana

Wdrożenie nie kończy walidacji. Model ocenia się względem obrazu danych, praktyki i otaczającego oprogramowania z określonej chwili, podczas gdy usługa nadal napotyka zmieniający się świat. Skanery są modernizowane, protokoły zmieniane, populacje się zmieniają, a zmianie mogą ulegać definicje kliniczne lub praktyki referencyjne. Model może generować ten sam wynik dla tych samych liczbowych danych wejściowych, choć znaczenie tego wyniku w toku pracy już się zmieniło. Monitorowanie pozwala uwidocznić tę możliwość w cyklu życia.

Świat, na którym wytrenowano model, nie stoi w miejscu

Można wyróżnić kilka rodzajów zmiany. Dryf danych jest zmianą rozkładu danych wejściowych. Dryf protokołu lub skanera może powstać, gdy akwizycja albo rekonstrukcja zmienia materiał obrazowy przedstawiany modelowi. Dryf populacji może zmienić strukturę przypadków, częstość występowania lub układ chorób współistniejących. Dryf etykiet lub praktyki występuje, gdy zmieniają się kryteria raportowania, procedury referencyjne lub definicje kliniczne. Źródła te mogą się nakładać. Późniejsza zmiana zdolności dyskryminacyjnej, kalibracji, czułości, swoistości lub obciążenia pracą jest dryfem działania, ale dryf działania stanowi skutek do zbadania, a nie pełne wyjaśnienie przyczyny.

Rozróżnienia mają znaczenie operacyjne. Ostrzeżenie o rozkładzie danych wejściowych może pojawić się, zanim dostępna będzie wystarczająca liczba przypadków z uzgodnionym odniesieniem do oszacowania działania. Stabilne AUROC może współistnieć ze zmianą konsekwencji progu lub obciążenia alertami. Z kolei pozorna zmiana działania może wynikać ze zmiany konstrukcji odniesienia, a nie ze sposobu przedstawiania obrazu przez model. Plan monitorowania powinien więc łączyć sygnały z prawdopodobnymi mechanizmami awarii, zamiast czekać na jedną główną metrykę.

Co musi zapewniać monitorowanie

Monitorowanie zaczyna się od kontraktu danych: jakich danych wejściowych się oczekuje, które badania są przyjmowane, jakie przetwarzanie wstępne i trasowanie wykonano oraz co oznaczają brakujące lub zniekształcone dane wejściowe. Może śledzić zmiany rozkładów skanerów, protokołów, populacji i wyników, a także dostępność usługi, opóźnienie, obciążenie kolejki, liczbę alertów oraz częstość akceptowania, poprawiania i odrzucania wyników przez osoby interpretujące, jeśli miary te należą do zamierzonego użycia. Nie wszystkie te sygnały dowodzą zmiany działania klinicznego, ale mogą wskazać, od czego rozpocząć badanie.

Gdy dostępne staje się właściwe odniesienie, próbkowane lub audytowane wyniki można wykorzystać do oceny działania i kalibracji w czasie. Proces próbkowania i opóźnienie do uzyskania odniesienia trzeba udokumentować; etykieta pojawiająca się później nie jest tym samym co natychmiastowy sygnał monitorowania. Alerty powinny mieć określonego właściciela i ścieżkę reakcji, z regułą odróżniającą sygnał do rozpoczęcia badania od automatycznej decyzji o wycofaniu systemu. Progi monitorowania same są częścią zarządzania i wymagają kontekstu, a nie uniwersalnych wartości.

Każdy wynik wymaga też proweniencji. Zapis powinien identyfikować model i odpowiednią wersję konfiguracji, kontekst danych wejściowych i przetwarzania, ośrodek oraz czas utworzenia wyniku. Dzięki temu późniejszy incydent można prześledzić, a historycznego wyniku nie interpretuje się po cichu tak, jakby utworzył go nowszy model. Ścieżka przywracania poprzedniej wersji zapewnia kontrolowaną reakcję, gdy zmiana pogarsza usługę, ale jest użyteczna tylko wtedy, gdy razem zachowano wersje, zależności, kontrakty danych i odpowiedzialność za decyzje.

Prace standaryzacyjne, takie jak IHE AIRA, mogą dostarczyć słownictwa i kontekstu toku pracy do oceny wyników AI oraz przekazywania informacji zwrotnej. Dokładny zakres profilu, jego rewizja, dojrzałość i szczegóły wdrożeniowe są zmienne i należą do utrzymywanego materiału referencyjnego w towarzyszącej części Web. Trwałym punktem jest oddzielenie oceny wyników, informacji zwrotnej, monitorowania i odpowiedzialności od pierwotnego wyniku walidacji modelu.

Zakres ten jest zgodny z oficjalnym profilem IHE AIRA oraz aktualnymi wytycznymi konsensusowymi FUTURE-AI; żadne z nich nie stanowi kompletnego operacyjnego programu monitorowania.

Aktualizacje modelu ponownie uruchamiają walidację

Zmiana modelu po wdrożeniu tworzy nowe pytanie walidacyjne i zarządcze. Zakres wymaganej pracy zależy od tego, co zmieniono, oraz od ryzyka zamierzonej roli, ale nowa wersja musi być identyfikowalna, a jej odpowiednie zachowanie ponownie sprawdzone, zanim zastąpi wersję poprzednią. Ścieżkę oceny etapowej można zastosować ponownie w mniejszej lub ukierunkowanej skali; nie powinna znikać tylko dlatego, że aktualizację oprogramowania nazwano wydaniem utrzymaniowym. Przetwarzanie wstępne, progi, mapy kalibracji i usługi zewnętrzne mogą zmienić efektywny system nawet wtedy, gdy nie zmieniają się wagi.

Uczenie online lub ciągłe tworzy kolejny problem granic. Jeżeli bieżące przypadki aktualizują model, strumień treningowy i strumień ocenowy mogą się splątać. Protokół aktualizacji musi określać sposób rozdzielenia danych, sposób pojawiania się etykiet, wersję odpowiedzialną za każdą decyzję oraz sposób wykrywania regresji. Historyczny wynik musi pozostać przypisany do wersji i konfiguracji, które go utworzyły; w innym razie monitorowanie nie może wyjaśnić, który system rzeczywiście obserwowano.

Rozważmy skonstruowany przykład, w którym czułość usługi triażu CT płuc spada w późniejszym miesiącu o 8%, choć kod modelu się nie zmienił. Modernizacja skanera lub rekonstrukcji, zmiana struktury przypadków, przesunięcie częstości występowania, zmiana praktyki referencyjnej albo zmiana toku pracy lub progu mogą prowadzić do różnych badań przyczyny. Wcześniejsze monitorowanie struktury skanerów, rozkładów danych wejściowych, kalibracji, liczby alertów i próbkowanych wyników referencyjnych mogłoby ujawnić sygnał wyprzedzający. Sama liczba nie identyfikuje przyczyny, a stabilne miesięczne AUROC nie dowodziłoby stabilności reszty systemu.

Zapis cyklu życia łączy więc sygnały monitorowania z wersjami, właścicielami i działaniami. Uwidacznia również moment, w którym potok badawczy nie jest już jedynie oceniany, lecz zostaje zaoferowany w określonym celu w rzeczywistej usłudze. Tę granicę omawia następna sekcja.