Лікарняний штучний інтелект: трагічні наслідки автоматизації

Лікарняний штучний інтелект — це тема, яка останнім часом викликає чимало обговорень у медичній спільноті. Впровадження штучного інтелекту в охорону здоров’я обіцяло точність та ефективність, проте реальність виявилася значно складнішою. Трагічний випадок у Бразилії змусив світ знову замислитися над етичністю повної автоматизації процесів, від яких безпосередньо залежать людські життя та здоров’я.

32-річна Ребека Кардозо Тененте Моліна померла після п’яти днів болісного очікування на переведення до відділення інтенсивної терапії. Причиною затримки, яка виявилася фатальною, родичі називають роботу державної системи управління на базі штучного інтелекту. Цей алгоритм, розроблений для оптимізації розподілу лікарняних ліжок, фактично заблокував доступ жінки до необхідної медичної допомоги. Про деталі інциденту повідомляє видання Futurism з посиланням на бразильське медіа MG1.

Лікарняний штучний інтелект: як це сталося

Трагедія сталась у невеликому муніципалітеті Сан-Жуан-Непомусено, де Ребеку госпіталізували через проблеми з жовчними каменями. Стан пацієнтки почав стрімко погіршуватися, і лікарі зрозуміли, що їй терміново потрібне місце в реанімації. Найближча вільна палата інтенсивної терапії була в місті Олівейра, розташованому приблизно за 299,3 кілометра звідти. Проте для переведення пацієнтки медики мали отримати дозвіл від автоматизованої системи Core-MG, яка координує всі переміщення хворих у штаті.

Що ми побачили – так це те, що лікарі втратили автономію у прийнятті рішень щодо критичного стану пацієнта, – прокоментувала сестра загиблої та за сумісництвом адвокатка сім’ї Самела Кардозо Тененте Фуртадо.

Проблеми з алгоритмом лікарняного штучного інтелекту

Проблема полягала в алгоритмі оцінювання тяжкості стану хворого. Система Core-MG автоматично присвоює кожному пацієнту певний бал, на основі якого формується черга. Попри те, що аналізи Ребеки свідчили про критичне погіршення, штучний інтелект вперто оцінював її стан на 6,8 бала з 10 можливих.

Родичі вважають, що реальна тяжкість хвороби відповідала найвищому балу – 10. Через таку помилку алгоритму інші пацієнти, яким система присвоїла 6,9 або 8 балів, отримували пріоритет і “перестрибували” жінку в черзі.

Фуртадо описує систему як негнучку й помилкову. За її словами, навіть коли лікарі вводили нові дані тестів, які підтверджували погіршення здоров’я Ребеки, програма відмовлялася підвищувати її рівень пріоритетності.

Мій особистий досвід та висновки

У своїй практиці я часто стикаюся з технологічними інноваціями в агрономії, де автоматизація та штучний інтелект можуть суттєво поліпшити процеси. Проте важливо пам’ятати, що в будь-якій сфері, де йдеться про людське життя, технології повинні бути під контролем професіоналів. Я бачив, як технології можуть допомагати, але також і як вони можуть призводити до помилок, якщо не враховуються всі нюанси. Цей випадок у Бразилії підкреслює, що автоматизація повинна доповнювати, а не замінювати людський фактор.

Сім’я навіть намагалася діяти через екстрені юридичні позови, щоб прискорити процес транспортування, але бюрократичні та технічні перепони забрали надто багато часу. П’ять днів очікування стали критичними, і організм жінки не витримав.

Моя сестра та інші люди – це не просто цифри, не просто протоколи і не просто ідентифікаційні номери, закинуті в систему, – заявила Самела Кардозо Тененте Фуртадо.

Висновки та етичні питання

Влада штату Мінас-Жерайс запустила систему Core-MG 19 травня 2026 року. Тоді заступниця міністра охорони здоров’я штату Поліана Кардозо Лопес запевняла, що нова технологія дозволить тричі на день оновлювати карту вільних місць і забезпечить кращий контроль над клінічним станом пацієнтів. Чиновники очікували, що ШІ допоможе збирати точніші дані та ефективніше керувати ресурсами лікарень.

У відповідь на звинувачення родини загиблої департамент охорони здоров’я штату повідомив медіа, що переведення завжди залежать від наявності ліжок, які відповідають специфічним медичним потребам хворого. Представники відомства додали, що Core-MG не змінював фундаментальні протоколи транспортування, а лише автоматизував їх.

Проте цей випадок піднімає гостре питання: чи мають алгоритми право приймати остаточне рішення там, де раніше вирішальне слово належало досвідченому лікарю, який бачить пацієнта на власні очі. Поки триває розслідування, ця історія залишається похмурим нагадуванням про те, що технологічні інновації без людського нагляду можуть мати непоправні наслідки, а бездумне впровадження ШІ – це не завжди корисно.