Вперше в історії 193 країни підписали документ про етику ШІ: що це означає

26 листопада 2021 року всі 193 країни, які є членами ЮНЕСКО, підписали документ, який визначає цінності і принципи, необхідні для розробки і використання штучного інтелекту (ШІ).

Технології, які працюють за допомогою ШІ, вже використовуються в повсякденному житті: від бронювання рейсів і кредитних заявок до водіння безпілотних транспортних засобів, ліків і діагностики, і навіть прийняття рішень урядами. ЮНЕСКО заявляє, що ці технології можуть створити безпрецедентні труднощі.

«Ми є свідками гендерних та етнічних упереджень, а також порушень конфіденційності та свобод, небезпеки масового спостереження та зловживання технологіями штучного інтелекту правоохоронними органами», — йдеться у заяві ЮНЕСКО. «До недавнього часу не було універсальних стандартів, які могли б обмежити такі зловживання».

І документ, прийнятий країнами-членами ЮНЕСКО, повинен створити правові орієнтири, що технологій на основі штучного інтелекту розроблялись в рамках етики. Вона встановлює глобальну нормативно-правову базу в цій галузі і робить її реалізацію обов’язком держави. Це перший документ такого рівня. Ви можете прочитати сам документ англійською та російською мовами.

AIN.UA поцікавилася у Марії Ортинської, патентної повіреної та CEO IPStyle, які юридичні наслідки може мати цей документ. Зокрема, як це вплине на роботу розробників, які створюють ШІ- або AI-рішення. Ось коментар нижче:

Вже не перший рік експертне середовище обговорює як етичний характер, так і правове регулювання ШІ. Наприклад, чи можна або не можна вважати штучний інтелект винахідником нарівні з людиною? Як і у випадку з DABUS, на який вже виданий перший патент.

Або інший приклад – зараз ми є свідками і навіть учасниками активного розвитку, впровадження безпілотних автомобілів. Але давайте уявимо ситуацію, коли автопілот працює некоректно. Хто відповідає за безпеку? Хто буде нести відповідальність за помилку ШІ, за шкоду, заподіяну життю і здоров’ю людини?

На сьогоднішній день немає єдиної думки, єдиної відповіді на ці та подібні питання. Але, без сумніву, настав час обговорити на міжнародному рівні майбутню політику в області штучного інтелекту. Фактично, прийнятий на рівні ООН документ породжує міжнародну нормативно-правову базу, що регулює розвиток ШІ та етику його застосування. Він також покладає відповідальність на держави за його застосування на національному рівні. Крім того, ЮНЕСКО попросить держави регулярно звітувати про свій прогрес і практику.

Прозорість, ясність і етика означатиме, що в найближчому майбутньому ШІ не стане «чорним ящиком», здатним реалізувати найстрашніші сценарії науково-фантастичних книг або фільмів, а буде працювати як цілком зрозумілий інструмент для користувача для функціонування сервісів і пристроїв. Для розробників ці рекомендації можуть стати дорожньою картою при розробці концепта продукту ШІ. А плани у розробників ШІ є глобальними.

Так, обсяг світового ринку пояснюваного штучного інтелекту (XAI) оцінюється в $3,50 млрд до кінця 2020 року і, за даними Research And Markets, досягне $21,03 млрд до 2030 року. Пояснюваний штучний інтелект — це область комп’ютерної науки, що зараз активно розвивається. ХАІ формує моделі штучного інтелекту, які краще пояснюють себе. Наприклад, як програма приймає рішення, які критерії прийняття рішення. Часто не тільки кінцеві користувачі, але і самі розробники не можуть точно визначити, як модель прийшла до певних висновків при обробці даних.

ЮНЕСКО сама спирається на дані про те, що до 2030 року найбільше економічне зростання буде в Китаї і Північній Америці, на які припаде 70% світового економічного впливу ШІ. Концентрація ШІ в руках декількох країн з високим рівнем доходу, ймовірно, залишить країни, що розвиваються, позаду. Останні не отримають або отримають дуже мало від ШІ, і не будуть володіти такими технологіями.