18 держав підписали угоду про захист ШІ від шахрайства — серед них США та Велика Британія

26 листопада 2023 року 18 країн підписали «першу детальну міжнародну угоду про захист штучного інтелекту від шахраїв», пише Reuters.

• Угода містить 20 сторінок. У ній йдеться про компанії, які розробляють і використовують штучний інтелект, повинні розробляти та розгортати його таким чином, щоби захистити клієнтів і широку громадськість від неправильного використання.
• В угоді йдеться про те, як захистити технологію ШІ від викрадення хакерами. Вона містить низку рекомендацій, наприклад, про випуск моделей лише після відповідного тестування безпеки.
• Документ не має обов’язкової сили та містить загальні рекомендації, наприклад, про моніторинг систем ШІ на наявність зловживань, захист даних від підробки та перевірку постачальників програмного забезпечення. В угоді не розглядають складні питання щодо належного використання штучного інтелекту або того, як збираються дані, які живлять ці моделі.
• Цей документ є крайньою в серії ініціатив, впровадженими урядами в усьому світі, спрямованих на розвиток штучного інтелекту, важливість якого все більше відчувається в промисловості та суспільстві в цілому.
• Серед 18 країн, які підписали угоду: США, Велика Британія, Німеччина, Італія, Чехія, Естонія, Польща, Австралія, Чилі, Ізраїль, Нігерія та Сінгапур.

З розвитком штучного інтелекту у світі все гостріше розгортається дискусія про його можливий негативний вплив, зокрема на розвиток інститутів демократії та ринку праці. У березні 2023 року, після презентації проєкту OpenAI GPT-4 понад 1000 лідерів та дослідників ШІ підписали відкритого листа із закликом узяти паузу в розробці потужніших систем, через «потенційні ризики для суспільства та людства».

На початку листопада в Мінцифри повідомили, що Україна підписала міжнародну декларацію, присвячену безпеці використання штучного інтелекту.

Минулого тижня стало відомо, що напередодні звільнення Сема Альтмана з посади СЕО OpenAI 17 листопада 2023 року дослідники компанії надіслали раді директорів листа із попередженням про «потужне відкриття в галузі штучного інтелекту, яке може загрожувати людству».