Регулювання штучного інтелекту. Стандарт ISO/IEC 42001:2023

Регулювання та встановлення рамок для штучного інтелекту (ШІ) в останні роки набувають актуальності та привертають увагу з боку урядів, приватного сектора та академічних кіл по всьому світу. Потужність та поширення технологій ШІ, що зростає ставить перед суспільством нові виклики, які вимагають виважених, ефективних та етичних відповідей.

У цій статті ми розглядаємо чотири ключові ініціативи у цій сфері: EU AI Act, NIST AI Risk Management Framework, Google Secure AI Framework (SAIF), ISO 42001 AI Management System. 

Досвідом щодо організації відповідності та сертифікації поділиться провідний аудитор ISO 27001, ISO 42001 з компанії Baltum Bureau Кирило Проскурня.

EU AI Act

Являє собою одну із найбільш всеосяжних нормативних рамок для штучного інтелекту на глобальному рівні. Його основна мета – забезпечити розробку та використання систем ШІ таким чином, щоб вони були безпечними, прозорими, поважали права та свободи громадян ЄС.

Акт класифікує системи ШІ відповідно до їхнього рівня ризику – від мінімального до неприпустимого, кожен з яких має відповідні регулятивні вимоги. Додатки високого ризику, такі як ті, що впливають на критичну інфраструктуру, зайнятість та основні приватні послуги, підпадають під суворі вимоги щодо прозорості, якості даних та людського нагляду. Акт відображає зобов’язання ЄС дотримуватися етичних стандартів у розробці та використанні ШІ, акцентуючи на захисті фундаментальних прав та сприянні розвитку ШІ, який є законним та надійним.

NIST AI Risk Management Framework

«Національний інститут стандартів і технологій» (NIST) у Сполучених Штатах розробив документ з управління ризиками ШІ, щоб керувати організаціями у оцінці та пом’якшенні ризиків, пов’язаних з його системами. Цей документ розроблено так, щоб бути адаптованим для різних секторів та застосувань штучного інтелекту, сприяти відповідальному розвитку та використанню ШІ.

Він акцентує на соціотехнічному підході, визнаючи, що ризики ШІ охоплюють технічні, етичні та суспільні виміри. Основні компоненти документа включають розуміння контексту ризиків штучного інтелекту, управління його діяльністю, вимірювання та оцінку продуктивності, а також управління ризиками. Цей цілісний підхід сприяє відповідальному інтегруванню технологій ШІ у суспільні та економічні сфери.

Google Secure AI Framework (SAIF)

«Безпечний фреймворк ШІ Google» (SAIF) – це комплексний підхід до забезпечення безпеки та цілісності моделей та систем ШІ. SAIF вирішує унікальні виклики, які ставить перед собою технологія ШІ, включаючи ворожі атаки, питання конфіденційності даних та надійність моделей. Фреймворк окреслює кращі практики та стратегії для забезпечення безпеки систем штучного інтелекту на всіх етапах їх життєвого циклу, від розробки до впровадження та обслуговування.

Основні напрямки включають використання безпечних та приватних джерел даних, впровадження надійних практик навчання моделей та постійний моніторинг систем ШІ на предмет потенційних вразливостей. SAIF є прикладом того, як приватний сектор може слугувати прикладом, встановлюючи високі стандарти безпеки ШІ та сприяючи кращим практикам у галузі.

Система Менеджменту Штучного Інтелекту – ISO 42001 / ISO/IEC 42001 AI Management System

ISO 42001 – це міжнародний стандарт для систем управління ШІ, який надає керівництво організаціям у відповідальному управлінні проєктами ШІ. Цей стандарт розроблено з метою сприяння довірі до технологій штучного інтелекту шляхом забезпечення їхнього проєктування, розробки та використання відповідно до етичних принципів та з повагою до прав людини.

Він охоплює різні аспекти управління ШІ, включаючи відповідальність, прозорість, справедливість та безпеку. ISO 42001 прагне встановити спільний фреймворк, який організації по всьому світу можуть впроваджувати, щоб демонструвати свою прихильність до відповідальних практик у сфері ШІ, тим самим збільшуючи громадську довіру до технологій штучного інтелекту.

Окрім того увага приділяється додатку А:

• A.2 Політики, пов’язані з ШІ: наголос робиться на необхідності формулювання чітких політик, що регулюють використання ШІ в організації, включаючи етичні, правові та регулятивні аспекти.
• A.3 Внутрішня організація: розглядаються структури управління, необхідні для координації заходів з ШІ, включаючи відповідальність та взаємодію між різними підрозділами.
• A.4 Ресурси для систем ШІ: аналізується, як організації мають забезпечити належні ресурси для розробки, впровадження та підтримки систем ШІ.
• A.5 Оцінювання впливів систем ШІ: обговорюється процес оцінювання впливів систем ШІ на стейкхолдерів, процеси, продукти та сервіси.
• A.6 Життєвий цикл системи ШІ: висвітлюється важливість управління життєвим циклом систем ШІ, від концепції до вилучення з експлуатації.
• A.7 Дані для систем ШІ: звертається увага на критичну роль даних у системах ШІ, їх збір, обробку та захист.
• A.8 Інформація для зацікавлених сторін систем ШІ: обговорюється комунікація з зацікавленими сторонами щодо використання та впливу систем ШІ.
• A.9 Використання систем ШІ: розглядається, як системи ШІ повинні використовуватись з урахуванням їх призначення та обмежень.
• A.10 Відносини з третіми сторонами та клієнтами: підкреслюється важливість управління взаємовідносинами з постачальниками, партнерами та клієнтами в контексті систем ШІ.

Хочемо зазначити, що компанія Baltum Bureau пройшла нещодавно акредитацію за стандартом ISO/IEC 42001:2023 і Кирило Проскурня є акредитованим аудитором по цьому стандарту. Це відкриває додаткову можливість для наших клієнтів пройти сертифікацію за цим стандартом. 

Для кого це може бути цікаво:

• IT компанії, які розробляють, або впроваджують рішення на основі штучного інтелекту. Для таких компаній сертифікація може стати підтвердженням відповідального підходу до розробки та впровадження технологій ШІ;
• стартапи, що працюють у сфері ШІ, можуть використати цю сертифікацію для залучення інвестицій, демонструючи потенційним інвесторам свою відданість високим етичним стандартам і безпеці;
• компанії які хочуть інтегрувати рішення на основі ШІ у свої операції або послуги, показуючи таким чином свою відповідальність перед клієнтами та партнерами;
• освітні та науково-дослідні установи, що працюють над проєктами у галузі штучного інтелекту, можуть використовувати сертифікацію для підтвердження відповідності своїх досліджень міжнародним стандартам;
• державні організації, що реалізують проєкти ШІ, можуть застосовувати цей стандарт для забезпечення прозорості, безпеки та етичності своїх ініціатив.

Інтеграція та взаємодоповнення стандартів:

Інтеграція стандартів ISO 27001, ISO 27701 та ISO 42001 може створити міцну основу для організацій, спрямовану на безпеку, приватність та етичне використання ШІ. 

• впровадження цих стандартів допоможе організаціям відповідати юридичним та контрактним вимогам в областях інформаційної безпеки, приватності та етичного використання ШІ;
• інтеграція дозволяє ефективно ідентифікувати, оцінювати та управляти ризиками, пов’язаними з інформаційною безпекою, приватністю даних та використанням ШІ;
• демонстрування зобов’язання до високих стандартів у цих областях може значно покращити довіру з боку клієнтів, партнерів та регуляторів;
• впровадження технологічних рішень, які можуть допомогти у виконанні вимог всіх трьох стандартів, таких як системи управління документацією, інструменти оцінки ризиків та інструменти для управління інцидентами безпеки.

Висновок

Запровадження нормативних актів і стандартів для штучного інтелекту, серед яких «Європейський акт про ШІ», «Фреймворк документ NIST з управління ризиками ШІ», ISO 42001 та «Фреймворк ШІ від Google» (SAIF), відіграють критично важливу роль у формуванні майбутнього технологій ШІ.

Ці ініціативи демонструють глобальну згоду щодо потреби у цілосних стратегіях, які б гарантували принциповий, етичний і безпечний підхід до розвитку і використання штучного інтелекту. З огляду на швидкий розвиток ШІ, невід’ємно важливим є постійне оновлення правил та стандартів галузі, що сприятиме інноваціям, одночасно вберігаючи основоположні цінності та права людини.

Для отримання детальнышої інформації, або консультації, звертайтеся до провідного аудитора. Кирило Проскурня, який зі значним досвідом у сфері стандартів ISO 27001, ISO 27701, ISO 42001, вже допоміг багатьом IT-компаніям подолати виклики цього складного процесу. 

Якщо ж ваша організація розглядає можливість навчання, розробки, оновлення документації чи отримання сертифікації згідно ISO 42001, ми запрошуємо вас подати заявку на індивідуальну консультацію. Експерти компанії Baltum Bureau нададуть персоналізовану пропозицію та забезпечать повний супровід на шляху до сертифікації.