Женева. Искусственный интеллект (ИИ) открывает большие перспективы для улучшения оказания услуг в области медицины и здравоохранения во всем мире, но только в том случае, если во главу угла при его разработке, внедрении и использовании будут поставлены этические принципы и права человека. Об этом говорится в опубликованном сегодня новом руководящем документе ВОЗ.
Доклад «Этика и управление искусственным интеллектом в интересах здоровья» стал результатом двухлетних консультаций, проведенных группой назначенных ВОЗ международных экспертов.
«Как и все новые технологии, искусственный интеллект обладает огромным потенциалом для улучшения здоровья миллионов людей во всем мире, но, как и все технологии, он также может быть использован неправильно и способен причинить вред, — заявил Генеральный директор ВОЗ д-р Тедрос Аданом Гебрейесус. — Этот важный новый доклад призван помочь странам максимально широко использовать преимущества ИИ, сводя при этом к минимуму связанные с ним риски и опасности».
Искусственный интеллект можно использовать (и в некоторых богатых странах это уже происходит) для повышения скорости и точности диагностики заболеваний и скрининга; для оказания помощи в лечебной работе; для проведения научных исследований в области здравоохранения и усовершенствования процесса разработки лекарств, а также для поддержки различных мероприятий в области общественного здравоохранения, таких как эпиднадзор за болезнями, реагирование на вспышки болезней и управление системами здравоохранения.
ИИ также может дать пациентам возможность лучше контролировать свое здоровье и лучше понимать свои меняющиеся потребности. Кроме того, ИИ мог бы улучшить доступ к службам здравоохранения в странах с дефицитом ресурсов и в сельской местности, где пациентам зачастую сложно получить помощь врачей и других медицинских работников.
Однако новый доклад ВОЗ предостерегает: не следует переоценивать преимущества ИИ в сфере здравоохранения, особенно в ущерб базовым инвестициям и стратегиям, необходимым для достижения всеобщего охвата населения услугами здравоохранения.
В нем также отмечается, что возможности неразрывно связаны с проблемами и рисками, включая неэтичный сбор и использование данных о здоровье; предубеждения, заложенные в алгоритмы; риски безопасности пациентов, кибербезопасности и экологические риски, обусловленные использованием ИИ.
Например, наряду с тем, что решающее значение для разработки и внедрения ИИ имеют инвестиции частного и государственного секторов, нерегулируемое использование ИИ может подчинить права и интересы пациентов и сообществ мощным коммерческим интересам технологических компаний или интересам правительств в области наблюдения за людьми и социального контроля.
В докладе также подчеркивается, что системы, обученные главным образом на основе данных, собранных у лиц в странах с высоким уровнем дохода, могут работать некорректно в странах с низким и средним уровнем дохода.
Поэтому системы ИИ необходимо разрабатывать тщательно, чтобы они отражали разнообразие социально-экономических условий и состояние системы здравоохранения. Их разработка должна сопровождаться обучением людей цифровым навыкам, взаимодействию с сообществами и повышением осведомленности населения. Это особенно важно для миллионов медицинских работников, которым потребуется цифровая грамотность или переподготовка, если их роли и функции будут автоматизированы, и которые должны уметь справляться с машинами, способными влиять на процесс принятия решений и автономию поставщиков услуг и пациентов.
В конечном счете правительства, поставщики услуг и разработчики технологий должны работать совместно для решения проблем этики и прав человека на каждом этапе проектирования, разработки и внедрения технологии ИИ, руководствуясь при этом существующими законами и обязательствами в области прав человека, а также новыми законами и стратегиями, закрепляющими этические принципы.
Шесть принципов, позволяющих гарантировать работу ИИ в интересах общества во всех странах
С целью ограничения рисков и увеличения возможностей, обусловленных использованием ИИ в сфере здравоохранения, ВОЗ предлагает следующие принципы в качестве основы для регулирования использования ИИ и управления им.
Защита автономии человека. В контексте здравоохранения это означает, что люди должны по-прежнему контролировать системы здравоохранения и врачебные решения. Необходимо защитить неприкосновенность частной жизни и конфиденциальность передаваемых данных, при этом пациенты должны давать юридически действительное информированное согласие на их обработку, используя соответствующие правовые рамки, предусмотренные для защиты данных.
Содействие благополучию и безопасности человека и общественным интересам. Разработчики технологий ИИ должны выполнять нормативные требования к обеспечению безопасности, точности и эффективности для четко определенных случаев использования или показаний. Необходимо иметь в наличии средства контроля качества использования ИИ на практике и средства повышения этого качества.
Обеспечение прозрачности, объяснимости и понятности. Прозрачность требует, чтобы до разработки или внедрения технологии ИИ была опубликована или задокументирована соответствующая информация в должном объеме. Такая информация должна быть легкодоступной и должна способствовать проведению содержательных консультаций с общественностью и обсуждению вопроса о том, как данная технология разрабатывается и как ее следует или не следует использовать.
Содействие ответственности и подотчетности. Хотя технологии ИИ нацелены на выполнение конкретных задач, заинтересованные стороны отвечают за то, чтобы они использовались в соответствующих условиях и надлежащим образом подготовленными людьми. Необходимо создать эффективные механизмы опроса лиц и групп, на которые отрицательно повлияли решения, основанные на алгоритмах, и возмещения им ущерба.
Обеспечение инклюзивности и справедливости. Принцип инклюзивности требует, чтобы разработка ИИ в сфере здравоохранения велась так, чтобы поощрять как можно более широкое и справедливое его использование и доступ к нему независимо от возраста, пола, гендера, дохода, расы, этнической принадлежности, сексуальной ориентации, способностей и других характеристик, предусмотренных законами, защищающими права человека.
Продвижение ИИ, отвечающего принципам адаптивности и устойчивого развития. Проектировщики, разработчики и пользователи должны постоянно и прозрачно оценивать приложения ИИ во время их фактического использования с целью определения того, насколько ИИ соответствует ожиданиям и требованиям. Кроме того, системы ИИ необходимо проектировать так, чтобы свести к минимуму экологические последствия от их использования и повысить их энергоэффективность. Правительства и компании должны учесть ожидаемые сбои в работе систем ИИ на рабочем месте, включая обучение работников здравоохранения с целью адаптации к использованию таких систем, и потенциальную потерю рабочих мест из-за использования автоматизированных систем.
Эти принципы будут служить ориентирами для ВОЗ в ее будущей работе по поддержке усилий, направленных на использование всего потенциала ИИ, разрабатываемого для сферы здравоохранения и общественного здоровья, на благо всех людей.