OpenAI платитиме від $200 до $20 000 за знайдені вразливості в ChatGPT

OpenAI оголосила про запуск програму винагород за допомогою якої люди можуть повідомляти про слабкі сторони, помилки або проблеми безпеки, які вони виявляють під час використання її продуктів. Як повідомляє Bloomberg, нова багбаунті-програма пропонує винагороду від $200 до $20 000.

• Компанія виплачуватиме грошову винагороду залежно від розміру виявлених помилок, починаючи від $200 за те, що вона називає «виявленнями низької серйозності», до $20 000 за «виняткові відкриття».
• Компанія заявила, що одна з причин, чому вона запускає програму, полягає в тому, що в OpenAI вважають «прозорість і співпрацю» ключовими для пошуку вразливостей у її технологіях.
• «Ця ініціатива є невід’ємною частиною нашої відданості розробці безпечного та передового ШІ. Оскільки ми створюємо безпечні, надійні та надійні технології та послуги, нам потрібна ваша допомога»,— йдеться в дописі в блозі, написаному Метью Найтом, керівником служби безпеки OpenAI.
• Сторінка Bugcrowd для програми винагород OpenAI детально описує низку проблем безпеки, пов’язаних із моделями, які не мають права на винагороду, зокрема: підказки про втечу з в’язниці, запитання, які призводять до того, що модель штучного інтелекту пише шкідливий код, або запити, які призводять до того, що модель говорить погані речі користувачеві.