Czy lekarze wykazują się większą sugestywnością znając wynik diagnozy przedstawiony przez sztuczną inteligencję (AI)? Jakie są konsekwencje takiej współpracy i jak można to zbadać?
Takie pytania postawili sobie autorzy artykułu Impact of artificial intelligence on pathologists' decisions: an experiment . Badanie sugeruje, że patolodzy są skłonni polegać na AI niezależnie od jej dokładności lub wyjaśnień. Badacze zwrócili szczególną uwagę na znaczenie indywidualnych zachowań we wdrażaniu sztucznej inteligencji w warunkach prospektywnych. Celem tego eksperymentu było ustalenie, w jakim stopniu patolodzy polegają w praktyce na sztucznej inteligencji (AI) i jak dostarczanie informacji o sztucznej inteligencji wpływa na to zaufanie.
Poproszono 116 patologów i studentów patologii o ocenę biopsji gruczołu krokowego w trzech różnych warunkach:
1) bez AI,
2) z AI,
3) z AI wraz z informacją o wykorzystanym przez nią algorytmie.
Wyniki pokazały, że odpowiedzi uczestników były dokładniejsze z wykorzystaniem pomocy AI, a podanie informacji o algorytmie nie miało istotnego znaczenia. Dodatkowo patolodzy byli bardziej skłonni polegać na sztucznej inteligencji i takie decyzje były podejmowane znacznie szybciej.
Obrazy wykorzystane w eksperymencie pochodziły ze zbioru cyfrowych próbek biopsji prostaty udostępnionych w ramach 2020 PANDA Challenge . Uczestnicy badania byli rekrutowani wśród członków medycznych stowarzyszeń patologów oraz wśród członków medialnych grup społecznościowych dla patologów. Zważywszy, że rekrutacja jak i sam eksperyment były prowadzone online, chętni byli testowani pod kątem poprawności stawianej diagnozy w celu weryfikacji faktycznych kwalifikacji i umiejętności.
Każdy z uczestników musiał dokonać oceny 12 różnych obrazów. Prezentowano mu po 4 grafiki w każdym z następujących po sobie etapów: bez AI, z AI oraz z AI wraz z informacją o algorytmie. Aby wykluczyć zmienną zakłócającą, jaką jest kolejność prezentowania form, wybór treści był losowy. Zwrócono jednak uwagę na to, aby informacja o algorytmie następowała po wersji pozbawionej algorytmu, tak, aby nie stała się sugestywna podczas oceny kolejno prezentowanych wersji grafik. Po wykonaniu zadania, uczestnicy wypełnili ankietę dotyczącą postrzeganej wiarygodności, pożyteczności oraz ogólnego zaufania do AI.
Dzięki eksperymentowi dowiedziono, że patolodzy są otwarci na poleganie na zaleceniach AI przy podejmowaniu krytycznych i niejednoznacznych decyzji. Samo badanie potwierdziło, że informacje o zastosowanych przez AI algorytmach muszą być starannie opracowane, jeśli mają wpłynąć na sugestywność patologów. Należy przede wszystkim pamiętać, że sztuczna inteligencja to narzędzie, które nie jest nieomylne i na razie nie jest w stanie w pełni zastąpić człowieka. Zapewnienie lekarzom możliwości podejmowania najlepszych decyzji, zamiast konkurowania z AI, powinno być priorytetem zarówno dla lekarzy, programistów, wdrażających, jak i organów regulacyjnych.
Jeśli spodobała wam się nasza działalność, zachęcamy do odwiedzenia naszych mediów społecznościowych.