Исследователи описали риски трёх ИИ-систем для медсестёр
Кэти Дж. Уэллс и Тина М. Парк изучили три ИИ-инструмента в работе медсестёр. Их доклад охватывает составление смен, наблюдение за пациентами и медицинские записи.
Для пациента ИИ в больнице — это ещё и решения о том, кто будет за ним ухаживать. Авторы предупреждают о рисках для персонала и больных при поспешном внедрении.
Коротко
- Медсёстрам приходится осваивать непроверенные инструменты без ясных правил ответственности за ошибки.
- О реальной экономии и дополнительном доходе больниц от ИИ пока известно мало.
- Перечень систем составлен по фокус-группам и публикациям, затем уточнён с учётом отзывов участников семинара.
Проверки точности недостаточно для оценки последствий
По оценке авторов, внедрение ИИ меняет саму организацию ухода. Поэтому исследовать лишь технические показатели системы недостаточно.
В докладе разобрано, как инструменты меняют задачи медсестёр и распределяют риски. Отдельный вопрос — кто получает больше власти над работой персонала.
В начале описана смена Сьюзан: график назначает система, а сотрудница исправляет созданные ИИ записи. Сьюзан вымышлена. Её история объединяет опыт реальных медсестёр.
Timpani составляет графики внутри сети HCA Healthcare
Для подробного разбора авторы выбрали планировщик Timpani, систему наблюдения Oxevision и приложение Epic. Последнее служит для ведения медицинских записей.
Timpani создан на платформах Palantir для сотрудников больниц HCA Healthcare. Сотрудничество этих компаний началось в 2023 году.
О внутреннем устройстве планировщика известно немного. Авторы предполагают, что для его моделей могли использовать сведения о сотрудниках и пациентах. Точный состав этих данных они не подтверждают.
Что это значит для вас
- Пациент может столкнуться с ИИ не только в разговоре с программой: системы затрагивают и организацию ухода.
- Описанный опыт медсестёр не даёт оснований переносить выводы на все больницы.
Что делать
Пока ничего: следите за результатами исследований внедрения ИИ в больницах.
Чего пока неизвестно
Авторам неизвестно, какая языковая модель используется в компоненте Timpani для подбора персонала.
Редакция «Применяй ИИ» · Как мы готовим новости