МТИ: Медицинские ИИ необъективны в оценке рентгеновских снимков

Исследования Массачусетского технологического института (МТИ) показали, что модели ИИ, используемые для анализа рентгеновских снимков, часто делают ошибочные заключения. 

Исследование показало, что ИИ, задействованные в анализе рентгеновских изображений, иногда подают неверные сигналы и приходят к недостоверным выводам. Однако было выявлено, что эти же ИИ-модели с высокой точностью могут определить такие параметры, как раса, пол и возраст на основе снимков, превосходя в этом даже опытных рентгенологов.

Проблема медицинских ИИ заключается в их склонности к «лени». Они склонны делать выводы, опираясь исключительно на демографические данные, игнорируя другие важные аспекты, что приводит к неверным диагнозам. Это особенно часто происходит в случаях с женщинами и представителями темнокожего населения.

Ученые также отмечают, что обучение ИИ-моделей на данных, специфичных для каждой больницы, способствует уменьшению количества ошибок. Тем не менее, многие медицинские учреждения используют данные из внешних источников, что требует повторного обучения моделей.