КТО выпустила новое руководство по этике и управлению большими мультимодальными моделями (LMM) для их надлежащего использования для укрепления и защиты здоровья населения. LMM — это тип быстрорастущих генеративных искусственный интеллект (ИИ) технология, имеющая пять широких применений в здравоохранении. in
1. Диагностика и клиническая помощь, например, ответы на письменные запросы пациентов;
2. Использование под руководством пациента, например, для изучения симптомов и лечения;
3. Канцелярские и административные задачи, такие как документирование и обобщение посещений пациентов в электронных медицинских картах;
4. Медицинское и сестринское образование, включая обучение стажеров моделированию контактов с пациентами;
5. Научные исследования и разработка лекарств, в том числе для выявления новых соединений.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Поэтому для создания безопасных и эффективных LMM ВОЗ дала рекомендации правительствам и разработчикам LMM.
Правительства несут основную ответственность за установление стандартов разработки и внедрения LMM, а также их интеграции и использования в целях общественного здравоохранения и медицинских целях. Правительства должны инвестировать или предоставлять некоммерческую или государственную инфраструктуру, включая вычислительные мощности и общедоступные наборы данных, доступные разработчикам в государственном, частном и некоммерческом секторах, что требует от пользователей соблюдения этических принципов и ценностей в обмен на доступ.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Назначьте существующий или новый регулирующий орган для оценки и утверждения LMM и приложений, предназначенных для использования в здравоохранении или медицине – если позволяют ресурсы.
· Ввести обязательный аудит после выпуска и оценку воздействия, в том числе для защиты данных и прав человека, независимыми третьими сторонами, когда LMM развертывается в больших масштабах. Результаты аудита и оценки воздействия должны быть опубликованы.
и должны включать результаты и воздействия с разбивкой по типу пользователя, в том числе, например, по возрасту, расе или инвалидности.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM предназначены для выполнения четко определенных задач с необходимой точностью и надежностью для повышения потенциала систем здравоохранения и продвижения интересов пациентов. Разработчики также должны иметь возможность прогнозировать и понимать потенциальные побочные результаты.
Источник:
ВОЗ 2024. Этика и управление искусственным интеллектом в здравоохранении: руководство по крупным мультимодальным моделям. Доступны на https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
