Половина одобренных медицинских ИИ в США обучалась на сгенерированных данных

Ученые проанализировали разработку более 500 систем ИИ и устройств, получивших одобрение для использования в США, и обнаружили, что около половины этих алгоритмов были обучены не на реальных, а на сгенерированных данных. По словам пресс-службы Университета Северной Каролины, это подвергает сомнению их клиническую эффективность.

«Компании часто используют факт одобрения своих разработок регулирующими органами как подтверждение того, что продукт заслуживает доверия. Однако одобрение не гарантирует, что при создании и проверке ИИ использовались реальные пациентские данные. Надеемся, что наше исследование заставит разработчиков и регуляторов проводить подобные проверки и делиться результатами»,  — отметил ученый Сэмми эль Фасси из UNC, чьи слова цитирует пресс-служба университета.

Ученые пришли к этому выводу после анализа истории одобрения 520 медицинских устройств и алгоритмов, использующих машинное обучение и ИИ. Все эти продукты получили одобрение от FDA — главного медицинского регулирующего органа в США.

За последние годы FDA одобрило десятки медицинских ИИ систем, способных улучшить диагностику, определять патологии на изображениях, оптимизировать лечение и предсказывать ход болезни. Ученые заинтересовались, насколько тщательно FDA проверяла работу этих технологий.

Результаты анализа показали, что лишь 22 ИИ системы (4,2% от общего числа) прошли полноценные клинические испытания, и у почти половины алгоритмов (около 43%) отсутствовали доступные публично результаты проверок на практике. Кроме того, ученые обнаружили, что около половины нейросетей и связанных устройств проходили обучение и тестирование не на реальных, а на сгенерированных данных.

Ранее iTinfo сообщало, что в РФ запустили производство плазменных двигателей для космических миссий.