ИИ научили объяснять врачам свои решения

Международная группа ученых создала модель искусственного интеллекта (ИИ) для эффективной диагностики заболевания легких. Исследование опубликовано в журнале Frontiers in Computer Science.

Специалисты отметили, что популярные версии ИИ могут допускать серьезные ошибки, диагностируя различные заболевания. Также врачи не могут полностью доверять моделям, потому что часто не знают, на основе чего искусственный интеллект пришел к тому или иному выводу. Ученые создали модель, способную эффективно определять респираторные заболевания и объяснять, почему было принято то или иное решение.

В процессе диагностики обученная модель просматривает записи УЗИ легких, изучая каждый кадр и оценивая ситуацию в динамике. По словам автора исследования Ниуша Шафиабади, точность в диагностировании заболеваний достигла 96,57 процентов — результаты подтвердили независимые специалисты.

Кроме того, в ходе изучения записей модель может объяснять врачам, почему она пришла к тому или иному выводу. В том числе, система полагается на тепловые карты и методу фокусировки изображений. По словам Шафиабади, новая ИИ-модель подкрепляет свои заключения доказательствами. По мнению исследователей, подобные системы можно использовать для диагностирования туберкулеза, астмы, рака, хронических заболеваний легких и легочного фиброза.