Стандарты серии ISO/IEC 24029 на искусственный интеллект

Нейронная сеть – это тип искусственного интеллекта (ИИ), созданный по подобию структуры и функционирования человеческого мозга. Технология нейронных сетей находит применение в самых разных приложениях, которые формируют способы взаимодействия с миром: от голосовых помощников типа Alexa или Siri до самоуправляемых автомобилей и систем персонализированных рекомендаций. 

Можно ли полагаться на то, что системы искусственного интеллекта будут принимать точные решения, особенно при возникновении непредвиденных обстоятельств? В таких критически важных областях, как здравоохранение, финансы и самоуправляемые автомобили, ошибки ИИ могут оказать существенное влияние на надежность системы и, соответственно, на ее приемлемость для общества или отрасли.

Совместный комитет ISO/IEC JTC 1/SC 42 «Искусственный интеллект», разрабатывает серию стандартов ISO/IEC 24029 для решения таких проблем.

Серия стандартов ISO/IEC 24029 на нейронные сети разрабатывается с использованием целостного экосистемного подхода, который одновременно учитывает как этические проблемы, так и новые технологические требования, чтобы обеспечить ответственное внедрение.

Устойчивость – это способность системы ИИ сохранять свой уровень производительности при любых условиях. В техническом отчете ISO/IEC TR 24029-1 «Искусственный интеллект (AI). Оценка устойчивости нейронных сетей. Часть 1. Обзор», опубликованном в 2021 г., выделены три типа методов, которые могут быть использованы для оценки устойчивости нейронных сетей:

• формальные методы: опираются на надежные доказательства, позволяющие проверить, доказуемы ли определенные свойства в конкретной области применения. Например, специалисты могут оценить, всегда ли система работает в заданных границах безопасности;
• статистические подходы: предполагают проведение математических испытаний на наборах данных с целью определения определенного уровня достоверности результатов. Они помогают экспертам ответить на вопросы, связанные с пороговыми значениями эффективности, такими как процент ложноположительных/отрицательных результатов, и определить, являются ли они приемлемыми;
• эмпирические методы: предполагают проведение экспериментов, наблюдений и экспертных оценок для оценки поведения системы в конкретных ситуациях. Эксперты по оценке могут определить степень соответствия свойств системы реальным ситуациям.

Недавно опубликованный международный стандарт ISO/IEC 24029-2:2023 «Искусственный интеллект (AI). Оценка устойчивости нейронных сетей. Часть 2. Методология использования формальных методов» касается метода оценки устойчивости нейронных сетей.

Стандарт устанавливает теоретическую основу в сочетании с практическими методами, позволяющими системам ИИ выдерживать реальные испытания даже вне контролируемой среды.

Новый стандарт содержит важные руководящие положения по оценке устойчивости нейронных сетей при различных ограничениях и условиях, предоставляя экспертам набор конкретных требований, рекомендаций и методик.

Технический подкомитет SC 42 разрабатывает международные стандарты в области ИИ. Уникальный целостный подход учитывает всю экосистему ИИ, рассматривая технологические возможности и нетехнические требования, такие как требования бизнеса, нормативной правовой базы и политики, потребности прикладных областей, этические и общественные проблемы.

SC 42 проводит серию семинаров ISO/IEC по ИИ два раза в год. Семинары бесплатны для посещения. Среди рассматриваемых тем – применение ИИ, новые подходы ИИ в стандартизации, а также новые тенденции и требования к технологиям ИИ.

Ближайший семинар состоится 4 и 6 декабря 2023 г.

Программа семинара и регистрация

www.iec.ch