Американский Wired рассказал, как ИИ-планировщик смен изменил работу медсестёр в HCA Healthcare — крупнейшей сети больниц США. С 2023 года HCA внедрила систему Timpani, разработанную вместе с Palantir, примерно в 130 из 190 своих больниц. Медсёстры утверждают, что от этого страдают не только они, но и пациенты.

Что говорят медсёстры

Медсестра реанимации из Флориды Эмбер Ретцлофф за четыре месяца запросила 50 конкретных 12-часовых смен. Больше чем в половине случаев программа назначила ей другие, часто по три дня подряд. Она не ждёт, что все пожелания будут выполняться, но, по её подсчётам, программа справляется гораздо хуже, чем менеджеры, составлявшие графики вручную. «Timpani никто не доволен. Все постоянно жалуются», — говорит она. Пять медсестёр из других больниц сказали Wired то же самое.

  • система регулярно ставит слишком мало медсестёр или мало опытных специалистов, особенно по воскресеньям;
  • игнорирует пожелания разносить смены, работать ночами и в выходные или взять конкретные выходные;
  • медсёстрам приходится тратить больше времени на обмен сменами и обжалование графиков;
  • по словам медсестёр, коллеги чаще берут отгулы, хотя частые пропуски грозят увольнением.

Ретцлофф вспоминает смены, когда все четыре коллеги были новичками. Ей как единственной опытной медсестре приходилось откладывать помощь самым тяжёлым пациентам, чтобы помогать молодым коллегам. «Мы позволяем ИИ диктовать. Мы подменяем клиническое суждение и человеческое общение приложением», — говорит она.

«Красные дни»

По данным HCA, Timpani в среднем ставит медсёстрам смены лишь на 1% запрошенных выходных — так называемых «красных дней». Но медсестра из Миссури Ли Баркер говорит, что раньше такое было немыслимо, а теперь почти каждой медсестре хотя бы раз поставили смену в выходной. Баркер пришлось перенести давно запланированный визит к врачу по поводу хронического заболевания.

Позиция HCA

Представитель HCA Харлоу Самерфорд говорит, что окончательное решение о графиках принимают руководители сестринской службы, а не Timpani. Утверждения, что система создана для сокращения персонала в ущерб пациентам, он называет искажением. HCA продолжает улучшать систему по отзывам медсестёр. Профсоюз National Nurses United, представляющий около 10 000 из 100 000 медсестёр HCA, говорит, что компания отказывается раскрывать информацию о технологии.

В июле бывший менеджер HCA по анализу данных Анджелик Рассел подала иск, утверждая, что её уволили в отместку за критику Timpani. Она обвинила компанию в регулярном удалении данных, на которых работает система, что мешает проверить её эффективность. HCA официально в суде пока не ответила.

Почему это важно

Это наглядный пример того, как алгоритмы управления персоналом влияют на реальную жизнь — и как сложно оспорить решения «чёрного ящика». В медицине последствия особенно серьёзны: усталость и нехватка опытных специалистов напрямую сказываются на безопасности пациентов.

Источники: Wired.