Генеративный искусственный интеллект (ИИ): ВОЗ выпускает новое руководство по управлению LMM

WHO выпустила новое руководство по этике и управлению большими мультимодальными моделями (LMM) для их надлежащего использования для укрепления и защиты здоровья населения. LMM — это тип быстрорастущих генеративных искусственный интеллект (ИИ) технология, имеющая пять широких применений в здравоохранении. in 

1. Диагностика и клиническая помощь, например, ответы на письменные запросы пациентов; 

2. Использование под руководством пациента, например, для изучения симптомов и лечения; 

3. Канцелярские и административные задачи, такие как документирование и обобщение посещений пациентов в электронных медицинских картах; 

4. Медицинское и сестринское образование, включая обучение стажеров моделированию контактов с пациентами; 

5. Научные исследования и разработка лекарств, в том числе для выявления новых соединений. 

Однако эти приложения в здравоохранении сопряжены с риском создания ложных, неточных, предвзятых или неполных заявлений, которые могут нанести вред людям, использующим такую ​​информацию при принятии решений о здоровье. Кроме того, LMM могут обучаться на данных низкого качества или предвзятых по признаку расы, этнической принадлежности, происхождения, пола, гендерной идентичности или возраста. Существуют также более широкие риски для систем здравоохранения, такие как доступность и ценовая доступность наиболее эффективных LMM. LMM также может способствовать «предвзятости автоматизации» со стороны медицинских работников и пациентов, в результате чего ошибки, которые в противном случае были бы обнаружены, или трудный выбор неправильно делегируются LMM. LMM, как и другие формы AI, также уязвимы для рисков кибербезопасности, которые могут поставить под угрозу информацию пациентов или надежность этих алгоритмов и предоставление медицинской помощи в более широком смысле. 

Поэтому для создания безопасных и эффективных LMM ВОЗ дала рекомендации правительствам и разработчикам LMM. 

Правительства несут основную ответственность за установление стандартов разработки и внедрения LMM, а также их интеграции и использования в целях общественного здравоохранения и медицинских целях. Правительства должны инвестировать или предоставлять некоммерческую или государственную инфраструктуру, включая вычислительные мощности и общедоступные наборы данных, доступные разработчикам в государственном, частном и некоммерческом секторах, что требует от пользователей соблюдения этических принципов и ценностей в обмен на доступ. 

· Использовать законы, политику и правила, чтобы гарантировать, что LMM и приложения, используемые в здравоохранении и медицине, независимо от риска или выгоды, связанной с AI технологии, соответствуют этическим обязательствам и стандартам прав человека, которые затрагивают, например, достоинство, автономию или неприкосновенность частной жизни человека. 

· Назначьте существующий или новый регулирующий орган для оценки и утверждения LMM и приложений, предназначенных для использования в здравоохранении или медицине – если позволяют ресурсы. 

· Ввести обязательный аудит после выпуска и оценку воздействия, в том числе для защиты данных и прав человека, независимыми третьими сторонами, когда LMM развертывается в больших масштабах. Результаты аудита и оценки воздействия должны быть опубликованы. 

и должны включать результаты и воздействия с разбивкой по типу пользователя, в том числе, например, по возрасту, расе или инвалидности. 

· ЛММ проектируют не только ученые и инженеры. Потенциальные пользователи и все прямые и косвенные заинтересованные стороны, включая поставщиков медицинских услуг, научных исследователей, специалистов здравоохранения и пациентов, должны быть привлечены к участию на ранних этапах AI развитие в структурированном, инклюзивном, прозрачном дизайне и предоставлении возможностей поднимать этические вопросы, выражать обеспокоенность и вносить вклад в AI заявление на рассмотрении. 

LMM предназначены для выполнения четко определенных задач с необходимой точностью и надежностью для повышения потенциала систем здравоохранения и продвижения интересов пациентов. Разработчики также должны иметь возможность прогнозировать и понимать потенциальные побочные результаты. 

Источник: 

ВОЗ 2024. Этика и управление искусственным интеллектом в здравоохранении: руководство по крупным мультимодальным моделям. Доступны на https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y