OpenAI не поспішає додавати водяні знаки до текстів, створених ChatGPT

OpenAI розробила технологію, здатну з точністю 99,9% визначати тексти, написані штучним інтелектом, проте досі не випустила її у відкритий доступ. Про це повідомляє The Wall Street Journal із посиланням на джерела та внутрішні документи компанії.

Незважаючи на занепокоєння щодо використання штучного інтелекту для написання есеїв чи наукових статей, OpenAI вже два роки вагається з публікацією інструменту. 

Технологія готова до запуску вже близько року, проте її впровадженню заважають внутрішні суперечки. З одного боку, OpenAI декларує прихильність до прозорості, з іншого — прагне залучати та утримувати користувачів.

Одне з опитувань, яке компанія провела серед лояльних користувачів ChatGPT, показало, що майже третина з них готова відмовитися від використання чат-бота, якщо компанія впровадить систему виявлення плагіату.

Інструмент базується на технології водяних знаків, які непомітні для людини, але їх можна виявити за допомогою технології виявлення OpenAI. Детектор надає оцінку того, наскільки вірогідно весь документ або його частину було написано ChatGPT. 

Проте співробітники висловили занепокоєння щодо можливості видалення водяних знаків за допомогою простих методів, таких як переклад тексту іншою мовою через Google Translate і навпаки або додавання емодзі до тексту з подальшим їх видаленням.

У компанії погоджуються щодо складності визначення кола осіб, які матимуть доступ до детектора. Якщо доступ отримає замало людей, інструмент буде неефективним, а якщо ж забагато — зловмисники можуть розшифрувати технологію водяних знаків компанії.