headwaynews

Проектируем будущее: ИИ, экология, урбанистика

Искусственный интеллект

Почему генеративный ИИ в электронных медкартах пока не помогает врачам

UCI Health зафиксировала системный дефект: генеративные модели в электронных медкартах штампуют клинические сводки, непригодные для врача.

Почему генеративный ИИ в электронных медкартах пока не помогает врачам

По данным вице-президента клиники по клинической информатике Deepti Pandita, проблема не в галлюцинациях и не в качестве модели — проблема в архитектуре вывода. Алгоритм опирается на агрегированный контент графика вместо encounter-level структуры.

Где ломается пайплайн

EHR-стек работает с двумя слоями данных: сырой клинический текст — заметки, протоколы, диалоги — и encounter-level структура: изменения назначений, новые orders, направления к специалистам, план follow-up. Генеративные сводки тянут первый слой и игнорируют второй. На выходе — формально свежая выжимка, в которой отсутствуют принятые клинические решения. Врач возвращается к документации визита и перечитывает её заново. Когнитивная нагрузка не снижается — она перераспределяется с этапа написания на этап валидации.

Свежесть данных закрыта. Полезность для клинического действия — нет. Без второй сводка остаётся артефактом, а не рабочим инструментом.

Контекст недели

Pandita в 2024 году выступила соавтором позиционного документа American College of Physicians по применению ИИ в клинике. В марте 2026 года HIMSS включила её в список Changemaker. Параллельно Cleveland Clinic проводит AI Summit по роли ИИ в здравоохранении, The National Constitution Center анонсировал новые программы Town Hall, связывающие ИИ-регулирование с конституционной историей, а фьючерсы США пошли вверх на новостях об ИИ-бизнесе. Четыре разнородных сигнала за неделю: инфраструктура, регуляторика, общественный диалог и рынок идут в связке — медицинский ИИ переходит из фазы пилотов в фазу системного давления.

Что отслеживать

  • Перевод encounter-level структуры в обучающие датасеты, а не только в сырой текст.
  • Переход от RAG по графику к API-интеграции с structured fields EHR.
  • Fine-tuning под формат конкретного госпиталя: без него клиническая эффективность не масштабируется за пределы пилотной клиники.
  • Вопрос финансирования переобучения: вендор EHR, система здравоохранения или страховщик.
  • Метрики внедрения — adoption rate, override rate, время на визит: без них любая красивая демо-метрика остаётся без клинического значения.