Технологии искусственного интеллекта уже вошли в рутинную практику больниц, клиник и врачебных кабинетов. Но кто на самом деле принимает решения о лечении и кто ответит, если ИИ ошибется? Чтобы разобраться в этих вопросах, редактор отдела науки и технологий Эрик Смолли провел вебинар с участием доктора Джодин Платт, адъюнкт-профессора управления здравоохранением и политики Мичиганского университета, и доктора Дэвида Као, медицинского директора Колорадского центра персонализированной медицины. Платт исследует, как данные и технологии могут ответственно применяться для улучшения здоровья при сохранении общественного доверия. Научные интересы Као сосредоточены на использовании анализа больших данных для персонализации лечения сердечно-сосудистых заболеваний, прежде всего сердечной недостаточности.
Три лица больничного ИИ
Эрик Смолли поинтересовался у экспертов, с какими типами ИИ им приходится сталкиваться в здравоохранении. Дэвид Као предостерег от соблазна мыслить о больничном искусственном интеллекте в черно-белых тонах: либо как о старом сельском докторе, либо как о Скайнете из «Терминатора», автоматически выносящем вердикты о жизни и смерти. По его словам, в реальности это непрерывный спектр. Например, в Колорадо ИИ используют для расширения возможностей принятия клинических решений. Алгоритмы на основе машинного обучения непрерывно отслеживают электронные медицинские карты и, заметив ухудшение состояния пациента, просто подают сигнал команде врачей. Это не готовые решения, а более качественная информация, на базе которой эти решения принимаются.
Джодин Платт добавила, что еще до появления генеративных нейросетей ИИ применялся для прогнозирования течения заболеваний, помогая врачам клинической поддержкой принятия решений. Если же пациент приходит к доктору, который пользуется цифровым помощником для расшифровки и составления заметок, — это свежий пример работы большой языковой модели. Любое взаимодействие с медицинским чат-ботом также опирается на эту технологию. Однако Платт выделила и третий тип ИИ, который она называет «хайповым», — обещающий великие чудеса или угрожающий гибелью миру. Он порождает синдром упущенной выгоды и основан скорее на эмоциях и страхах, чем на фактах.
Согласие, конфиденциальность и размытые границы
На вопрос Смолли о необходимости получения согласия пациента при использовании ИИ Платт ответила, что законы об информировании о записи разговоров сильно варьируются от штата к штату. Иногда пациенту могут вовсе не сообщить об этом, однако всё чаще согласие на использование записывающих и транскрибирующих инструментов включается в общее согласие на медицинское вмешательство. Кроме того, у самого врача всегда есть возможность отключить цифрового ассистента по своему усмотрению. Поэтому, если пациент хочет знать наверняка, стоит напрямую спросить, применяется ли искусственный интеллект во время приема.
Као отметил, что вопрос согласия здесь особенно непрост. МРТ-снимки, например, десятилетиями отсылают на обработку сторонним подрядчикам, не спрашивая на это разрешения. Данные пациентов давно циркулируют между многочисленными бизнес-партнерами медицинских учреждений, и эта информация зачастую куда более интимна, чем та, что передается ИИ-моделям сегодня. Главная проблема в том, чтобы понять, где именно теперь должна пролегать юридическая и этическая граница.
Что касается конфиденциальности, Платт указала на относительно безопасную зону: медицинские организации вступают в отношения с внешними вендорами с соблюдением строгих норм вроде HIPAA. Однако реальная угроза приватности возникает, когда человек самостоятельно скармливает медицинские данные в общедоступные системы вроде ChatGPT или другие внешние большие языковые модели, чтобы получить расшифровку анализов. Там эта информация перестает быть защищенной.
Кто будет регулировать алгоритмы и кто ответит за ошибку
Говоря о регулировании, Као пояснил, что сейчас отдельные штаты создают собственные нормы для ИИ в уходе за пациентами, что порождает невероятную путаницу, ведь ранее у штатов не было полномочий в сфере медицинского регулирования. Индустрия надеется на появление национального стандарта или процедуры доказательства эффективности и безопасности, аналогичной лекарственной. Скорее всего, регулятором выступит Центр устройств и радиологического здоровья FDA. Сложность в том, что в отличие от стабильной формулы таблетки алгоритм может вести себя иначе при каждом запуске, и устоявшиеся методы оценки здесь буквально не работают.
Платт же подчеркнула, что пока юристы спорят о правилах, клиницисты исходят из того, что вся полнота ответственности лежит на человеке. Любая клиническая заметка или письмо пациенту, созданные при содействии ИИ, подписываются реальным врачом, и именно он отвечает за каждое слово в этих документах. На данный момент это единственно возможный способ использования технологии, пока полноценная регуляторная система отсутствует: участие человека в контуре принятия решений является обязательным.
Опасность самолечения с цифровым советчиком
Отдельно эксперты затронули тему пациентов, решивших лечиться самостоятельно при помощи ИИ. Као назвал такой подход неразумным, хотя и признал, что люди неизбежно будут это делать. В обычной практике считается необходимым присутствие врача как «человека в контуре», а в данной ситуации человеком в контуре становится сам больной, который вряд ли способен адекватно оценить уместность рекомендаций. Такое самолечение, по опыту, почти никогда не заканчивается хорошо.
В финале беседы Платт сослалась на концепцию, разработанную исследовательницей Питтсбургского университета Мирандой Явер, которая рассматривает проблему через призму равноправия. Крупные игроки формируют систему, но и общество должно осознавать себя ее частью, уметь в ней ориентироваться и обладать необходимыми для этого ресурсами. По мнению Платт, пока система только строится, критически важно обеспечить пациентам непрерывную возможность делать осознанный выбор и защищать свои данные так, как они сами считают нужным.
Источники:
Материал подготовлен на основе вебинара под руководством редактора отдела науки и технологий Эрика Смолли. В обсуждении приняли участие доктор Джодин Платт (Мичиганский университет) и доктор Дэвид Као (Колорадский центр персонализированной медицины). В беседе упоминаются концепция Миранды Явер (Питтсбургский университет), а также действующие нормы FDA и HIPAA.
Ваш комментарий