Исследование: из-за работы с ИИ врачи стали хуже выявлять рак
Исследование, опубликованное на днях в журнале Lancet, показало, что в течение шести месяцев использования ИИ врачи стали чрезмерно полагаться на его рекомендации, сами при этом стали «менее мотивированными, менее сосредоточенными и менее ответственными при принятии решений без помощи ИИ». Более раннее исследование Массачусетского технологического института показало, что использование ChatGPT разрушает навыки критического мышления.
Как проводилось исследование
В исследовании участвовали четыре эндоскопических центра в Польше. Эти центры участвовали в программе «Искусственный интеллект в колоноскопии для профилактики рака», которая финансировалась Европейской комиссией и Японским обществом содействия науке.
В конце 2021 года в центрах были внедрены инструменты на основе ИИ для обнаружения полипов — новообразований, которые могут быть как доброкачественными, так и раковыми. В ходе исследования были проведены 1433 колоноскопии, диагноз по которым был поставлен без использования ИИ, из общей совокупности 2177 колоноскопий, проведенных с сентября 2021 года по март 2022-го. Колоноскопии проводили и выставляли диагнозы 19 опытных эндоскопистов.
Что показало исследование
За три месяца до внедрения ИИ частота выявления аденом составляла порядка 28%. Через три месяца после внедрения ИИ этот показатель снизился до 22% в тех случаях, когда врачам приходилось обходиться без использования ИИ. Аденомы являются предраковыми образованиями, и более высокий процент их выявления связан с более низким развитием колоректального рака.
Исследование показало, что искусственный интеллект действительно помогал эндоскопистам в обнаружении заболеваний, когда он использовался, но после прекращения его использования врачи становились все менее эффективными в самостоятельном обнаружении заболеваний.
Что в итоге?
Омер Ахмад, консультант-гастроэнтеролог из больницы Университетского колледжа Лондона, предполагает, что использование ИИ ослабляет привычки визуального поиска у врачей и ухудшает их паттерны внимания, которые имеют решающее значение для обнаружения полипов. Регулярное использование ИИ также может снизить диагностическую достоверность заключений при прекращении его использования.
Другие эксперты более осторожны в своих выводах на основе одного исследования.
— Этический вопрос заключается в том, доверяем ли мы ИИ больше, чем людям, — говорит Аллан Такер, профессор кафедры искусственного интеллекта Лондонского университета Брунеля. — Часто мы ожидаем, что человек будет контролировать все решения, принимаемые ИИ, но, если люди будут прикладывать меньше усилий при принятии собственных решений в результате внедрения систем ИИ, это может стать проблемой.