Сегодня расскажем о том, насколько опасно доверять свое здоровье и жизнь компьютерам и бездушным программам. Как сообщает Telegram-канал «Экономика цифровой эры», в Америке были зафиксированы многочисленные смертные случаи от передозировки обезболивающими препаратами, которые назначал в электронных медицинских картах искусственный интеллект своим «пациентам».

Министерство здравоохранения США подало в суд и добилось наказания одному из ведущих разработчиков программного обеспечения для этих карт - Practice Fusion.

По словам представителей Министерства здравоохранения США, искусственный интеллект использовался данной фирмой в преступных целях, потому что программное обеспечение, разработанное Practice Fusion, не только автоматически переносило в интернет все необходимые данные пациентов: от времени и даты их визитов до результатов анализов, анализировало всю эту информацию, а потом предлагало специалистам схемы лечения.

В этой ситуации врачам оставалось только ставить галочки в списках предлагаемых вариантов лечения и получать рекомендации для назначения конкретных препаратов, чем специалисты с удовольствием и пользовались, даже не вникая в подробности состояния здоровья людей. Однако, как вскоре выяснилось, в большинстве случаев программа выписывала рецепт на анальгетики опиоидной группы (проще говоря - наркотик), разработанные компанией Pharma Co. X., да еще и превышающие максимальные дозы.

Вначале планировалось, что система должна была бы уметь выявлять пациентов с высоким риском привыкания к опиоидным препаратам, однако впоследствии из-за заключенного между компаниями контракту, Practice Fusion разработала CDS-модуль, который, в буквальном смысле слова подталкивал врачей к принятию определенного решения: этот модуль выявлял пациентов, ранее никогда не принимавших опиоиды, и рекомендовал лечащему врачу выписать конкретные рецепты.

Начиная с июля 2016 года до весны 2019-го данный модуль всплывал на компьютерах лечащих врачей 230 миллионов раз. При этом государственные структуры здравоохранения не задумываясь считали его главным критерием профессиональной диагностики и лечения, а врачи бездумно соглашались с рекомендациями алгоритма, который все чаще и чаще рекомендовал к использованию конкретный «универсальный» опиоид.

Спустя время наступил момент, когда искусственный интеллект стал повышать дозы обезболивающих, даже если в этом не было особой необходимости, а врачи этого не заметили, так как абсолютно доверяли рекомендациям программы.

Чтобы с нее сняли обвинения, компания Practice Fusion заявила, что готова заплатить отступные в размере 145 миллионов долларов, однако это - весьма слабое утешение для родственников тысяч умерших в результате безалаберности врачей и крайне непригодной программы.

Приведем еще небольшую статистику, которую собрали исследователи из MedStar (система здравоохранения, штаб-квартира в штате Мэриленд) обработав порядка двух миллионов сообщений из 500 клиник Пенсильвании, Нью-Джерси и Нью-Йорка.

Из них в 557 случаях были выявлены угрозы жизни и здоровью пациентов из-за ошибочных записей в электронных картах: там некорректно была введена изначальная информация из «бумажной» медкарты.

В 84% случаев назначение некоторых препаратов превышало допустимую норму. Это было в тех случаях, когда дозировка зависела от веса пациента, однако программа позволяла ввести лишь рост вместо веса. Из-за этого возникали передозировки лекарствами.

В 60% случаев выписывалось больше наименований препаратов, чем было необходимо для лечения болезни.

В 1% случаев медицинская карта при выписке рецептов не оповещала о наличии аллергий у пациентов, либо сигнал был плохо распознаваемым.

Надо сказать, что и в нашей стране, начиная с 2017 года активно лоббируется продвижение электронные медицинских карт в поликлиниках и стационарах. Все зарегистрированные пользователи портала Госуслуг получат доступ к электронной медицинской карте, а у врачей появится электронный помощник – система искусственного интеллекта, которая будет контролировать принятые решения и подсказывать алгоритмы диагностики и методы лечения, - заявила в 2018 году министр здравоохранения Вероника Скворцова. На сегодняшний момент эти электронные карты в России навязываются всем без исключения.

«Сам компьютер подсказывает поля для диагностики и на основе внесенной информации подсказывает алгоритмы дальнейших действий и дополнительного обследования. Эти программы разработаны в ряде стран мира, мы их внимательно изучили. Они действительно имеют преимущество – во-первых, являются вытягивающими с точки зрения квалификации врачей, а во-вторых, даже если человек утомлен (речь может идти о ночном дежурстве или о какой-то внеурочной работе), исключается человеческий фактор, вам не дают ошибиться», – рассказала Скворцова.

Мы видим, точно такой же «помощник» врачам, как и в США, будет «контролировать и подсказывать» специалистам в России. Не исключено, что в какой-то момент этот «помощник» окажет подобные «услуги» нашим врачам, как некогда оказал американским. Но это еще не все. Как недавно сообщал наш сайт inform-relig.ru, скоро в России будут лечить не только по совету искусственного интеллекта, но еще и удаленным методом, т.е. доктора не только сами не будут назначать лекарства, но и вообще не увидят своих пациентов.

10 марта 2020 Просмотров: 3 885