Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Технологии

Исследователи описали риски трёх ИИ-систем для медсестёр

Кэти Дж. Уэллс и Тина М. Парк изучили три ИИ-инструмента в работе медсестёр. Их доклад охватывает составление смен, наблюдение за пациентами и медицинские записи.

Для пациента ИИ в больнице — это ещё и решения о том, кто будет за ним ухаживать. Авторы предупреждают о рисках для персонала и больных при поспешном внедрении.

Коротко

  • Медсёстрам приходится осваивать непроверенные инструменты без ясных правил ответственности за ошибки.
  • О реальной экономии и дополнительном доходе больниц от ИИ пока известно мало.
  • Перечень систем составлен по фокус-группам и публикациям, затем уточнён с учётом отзывов участников семинара.

Проверки точности недостаточно для оценки последствий

По оценке авторов, внедрение ИИ меняет саму организацию ухода. Поэтому исследовать лишь технические показатели системы недостаточно.

В докладе разобрано, как инструменты меняют задачи медсестёр и распределяют риски. Отдельный вопрос — кто получает больше власти над работой персонала.

В начале описана смена Сьюзан: график назначает система, а сотрудница исправляет созданные ИИ записи. Сьюзан вымышлена. Её история объединяет опыт реальных медсестёр.

Timpani составляет графики внутри сети HCA Healthcare

Для подробного разбора авторы выбрали планировщик Timpani, систему наблюдения Oxevision и приложение Epic. Последнее служит для ведения медицинских записей.

Timpani создан на платформах Palantir для сотрудников больниц HCA Healthcare. Сотрудничество этих компаний началось в 2023 году.

О внутреннем устройстве планировщика известно немного. Авторы предполагают, что для его моделей могли использовать сведения о сотрудниках и пациентах. Точный состав этих данных они не подтверждают.

Что это значит для вас

  • Пациент может столкнуться с ИИ не только в разговоре с программой: системы затрагивают и организацию ухода.
  • Описанный опыт медсестёр не даёт оснований переносить выводы на все больницы.

Что делать

Пока ничего: следите за результатами исследований внедрения ИИ в больницах.

Чего пока неизвестно

Авторам неизвестно, какая языковая модель используется в компоненте Timpani для подбора персонала.

Редакция «Применяй ИИ» · Как мы готовим новости

Ещё по теме