У США вчені, які співпрацюють з Інститутом безпеки штучного інтелекту, отримали нову директиву, де більше немає згадок про безпеку, справедливість і відповідальність штучного інтелекту — про це пише Wired.
Нові інструкції видав Національний інститут стандартів і технологій. Раніше угода заохочувала вчених шукати й виправляти дискримінаційну поведінку ШІ-моделей, зокрема щодо статі, раси, віку й економічної нерівності.
На думку одного з вчених, ігнорування цих питань може зашкодити, адже алгоритми, які дискримінують за рівнем доходу чи іншими демографічними характеристиками, залишаться без належного контролю. Упередження можуть негативно позначатися на меншинах і соціально незахищених групах.
«Якщо ви не техномільярдер, це призведе до гіршого майбутнього для вас і ваших близьких. Очікуйте, що ШІ стане несправедливим, дискримінаційним, небезпечним і буде впроваджуватися безвідповідально», — сказав він.
У новій угоді також немає згадки про розробку інструментів «для автентифікації контенту та відстеження його походження», а також «маркування синтетичного контенту». Це свідчить про зменшення інтересу до боротьби з дезінформацією та дипфейками.
- Натомість інститут стандартів додав нову вимогу поставити у пріоритет зменшення ідеологічних упереджень для процвітання людей та економічної конкурентоспроможності.
- А також зробити акцент на пріоритеті США. Одній із робочих груп доручили розробити інструменти тестування «для розширення глобальної позиції Америки у сфері штучного інтелекту».
«Ці зміни йдуть фактично з Білого дому»
Інститут безпеки ШІ створили за указом адміністрації попереднього президента Джо Байдена у жовтні 2023 року, коли посилилась стурбованість через швидкий розвиток цієї технології. Інститут займався вивченням ризиків, пов’язаних із найпотужнішими моделями.
Адміністрація нового президента Дональда Трампа скасувала указ Байдена, але залишила інститут. «Щоб зберегти це лідерство, ми маємо розвивати системи ШІ, які вільні від ідеологічних упереджень або соціальної інженерії», — йдеться в указі Трампа.
В останні тижні департаменту урядової ефективності (DOGE), який фактично очолює мільярдер Ілон Маск націлився на Національний інститут стандартів і технологій, що й створила Інститут безпеки ШІ. Десятки співробітників звільнили.
«Ці зміни практично надходять безпосередньо з Білого дому, — сказала Стелла Бідерман, виконавча директорка некомерційної організації Eleuther, що співпрацює з Інститутом безпеки ШІ. — Адміністрація чітко визначила свої пріоритети».
У грудні Трамп призначив Девіда Сакса керівником Білого дому з питань ШІ та криптовалют. Поки що незрозуміло, чи брав він або хтось із резиденції президента участь у формуванні нової дослідницької програми.
Виступаючи на AI Action Summit у Парижі в лютому, віцепрезидент Джей Ді Венс заявив, що уряд США зосередиться на конкурентоспроможності в гонці за розвиток ШІ. Тоді він сказав, що майбутнє ШІ «не буде визначене метушнею навколо безпеки».
Нагадаємо, раніше великі американські компанії OpenAI Meta, Google і Amazon також відсторонилися від політики прихильності до різноманітності після інавгурації Трампа. AIN раніше пояснював чому так.
