Управление рисками, связанными с искусственным интеллектом

По мере расширения использования искусственного интеллекта (ИИ) растет потребность в эффективном управлении рисками для решения различных проблем – от технических, таких как сбои алгоритмов, до этических, включая предвзятость при принятии решений. ИИ способен произвести революцию во многих отраслях и улучшить повседневную жизнь, но для этого необходимо учитывать риски и управлять ими.

Новый стандарт ISO/IEC 23894:2023 «Информационные технологии. Искусственный интеллект. Руководство по менеджменту рисков» содержит важные руководящие указания по управлению рисками для организаций любых масштабов и типов, которые используют искусственный интеллект в своих системах или процессах. Стандарт определяет, как эффективно управлять рисками, связанными с ИИ, для достижения целей и повышения производительности.

Системы ИИ во многом похожи на традиционные ИТ-системы, но представляют и новые аспекты, такие, как способность к обучению.

Совместный технический комитет ISO/IEC JTC 1/SC 42 «Искусственный интеллект» применил новый подход к разработке структуры, в которой используются хорошо зарекомендовавшие себя методы управления рисками.

ISO/IEC 23894:2023 обеспечивает целостный и упреждающий подход к управлению рисками, связанными с ИИ, с целью предоставления пользователям возможности эффективно управлять рисками, чтобы использовать весь потенциал ИИ.

Основа для управления рисками

ISO/IEC 23894:2023 адаптирует и дополняет руководящие принципы и общие принципы управления рисками, установленные в ISO 31000:2018 «Менеджмент рисков. Руководство». В нем описывается система управления рисками, которая требует от пользователей установления факторов, выявления, анализа, оценки, обработки, мониторинга и обзора рисков.

Установление факторов подразумевает определение целей организации и рисков, которые могут повлиять на эти цели, а также потребностей и ожиданий заинтересованных сторон, которые будут затронуты рисками.

Выявление рисков – это определение потенциальных рисков, которые могут повлиять на цели организации, включая риски, связанные с деятельностью организации, ее процессами и внешними факторами.

Анализ рисков означает оценку вероятности и влияния выявленных рисков, а также потенциальных последствий. Оценка означает принятие решения о том, на какие риски стоит обратить внимание, исходя из их вероятности и потенциального воздействия, а также определение надлежащего реагирования.

Обработка рисков включает в себя реализацию выбранного варианта реагирования на риск, который может включать предотвращение риска, снижение вероятности его появления или воздействия, передачу другой стороне или его принятие в допустимой степени. Мониторинг и обзор предполагают постоянный контроль рисков для обеспечения их эффективного управления и обзор процесса управления рисками для определения возможных улучшений.

Структурированный подход

Внедрение ISO/IEC 23894:2023 поможет организациям не только обеспечить безопасную и корректную работу систем ИИ, но и избежать потенциальных рисков и негативных последствий. Данный стандарт окажет организациям содействие в обеспечении безопасности, этичности и соответствия использования технологий ИИ с их целями и ценностями.

Стандарт предлагает структурированный подход к управлению рисками, который может помочь организациям выявлять, оценивать и устранять риски упреждающим и эффективным образом. Стандарт также обеспечивает основу и принципы для достижения безопасной и корректной работы систем ИИ, избегая при этом потенциальных рисков и негативных последствий.

ISO/IEC 23894:2023 разработан для постоянно развивающейся технологии. В нем подчеркивается важность постоянного анализа, выявления и подготовки к потенциальным рискам.

Совместный технический комитет ISO/IEC JTC 1/SC 42

Совместный технический комитет ISO/IEC JTC 1/SC 42 разрабатывает международные стандарты, касающиеся искусственного интеллекта. Уникальный целостный подход комитета учитывает всю экосистему ИИ, рассматривая технологические возможности и нетехнические требования, такие как требования бизнеса, нормативные и стратегические требования, потребности прикладной области, а также этические и общественные проблемы.

В настоящее время технический комитет SC 42 совместно с техническим комитетом IEC IEC/TC 65 «Измерение, контроль и автоматизация промышленных процессов» работает над новым стандартом функциональной безопасности для искусственного интеллекта. Цель – обеспечить безопасное функционирование систем, оборудования и устройств, использующих технологии ИИ, даже при наличии сбоев или ошибок.

Технический комитет IEC IEC/TC 65 занимается разработкой серии стандартов IEC 61508, которая охватывает разработку и внедрение мер безопасности для предотвращения аварий и минимизации рисков для людей, имущества и окружающей среды.

iec.ch/blog