Stack Overflow, сайт запитань і відповідей для кодерів і програмістів, тимчасово заборонив користувачам ділитися відповідями, згенерованими чат-ботом AI ChatGPT. Як повідомляє The Verge, причиною такого рішення стало простота генерації відповідей через AI-бота, який при цьому часто помиляється.
Чому виникли проблеми?
ChatGPT — це експериментальний чат-бот, створений OpenAI на основі генеративної текстової нейромережі GPT-3.5. Демонстраційну версію бота було випущено буквально минулого тижня і користувачі були вражені тим, наскільки близько штучний інтелект підібрався до копіювання людини у написанні текстів.
Інтерфейс бота заохочує людей не просто окреслювати тему розмови, а ставити прямі запитання, отримуючи у відповідь плавні та переконливі результати за різними запитами; від створення віршів, пісень і телевізійних сценаріїв до написання та налагодження рядків коду.
Але хоча багато користувачів були вражені можливостями ChatGPT, інші відзначили його постійну тенденцію генерувати правдоподібні, але хибні відповіді. Якщо, наприклад, попросити бота написати біографію публічної особи, то він цілком може вставити невірні біографічні дані.
«Основна проблема полягає в тому, що хоча відповіді, які дає ChatGPT, мають високий відсоток невірності, зазвичай вони виглядають так, ніби вони можуть бути хорошими, а самі відповіді дуже легко отримати. Таким чином, нам потрібно зменшити обсяг цих публікацій […] Отже, наразі використання ChatGPT для створення публікацій у Stack Overflow заборонено», — зазначили модератори сервісу.
Що буде далі?
Враховуючи величезний масштаб цих систем, неможливо з упевненістю сказати, який відсоток їх результату є помилковим. Але у випадку Stack Overflow компанія поки що вирішила, що ризик введення користувачів в оману занадто високий.
Модератори Stack Overflow зазначили, що заборона спричинена в першу великою кількістю згенерованих відповідей. Той факт, що відповіді часто вимагають детального прочитання кимось зі знаннями в предметній галузі, щоб визначити, що відповідь насправді погана, фактично зупинив інфраструктуру контролю якості Stack Overflow.
Проти користувачів, що продовжать використовував ChatGPT після публікації цієї тимчасової політики будуть застосовані санкції, щоб запобігти подальшій публікації такого вмісту, навіть якщо в іншому випадку публікації були б прийнятними.
Чому це цікаво?
Рішення Stack Overflow є особливо помітним, оскільки експерти в спільноті AI зараз обговорюють потенційну загрозу, яку становлять ці великі мовні моделі.
Деякі дослідники стверджують, що AI, звісно, можуть генерувати хибні результати, і створювати дезінформацію, проте вони не займаються фактичним поширенням цих текстів, тож про серйозну шкоду не може йти мова. Але інші експерти зазначають, що здатність цих систем дешево генерувати текст у великому масштабі неминуче підвищує ризик того, що він пізніше буде поширений.
Stack Overflow першим пішов на радикальні через значне поширення створеної нейромережами неправдивої інформації та перевантаженість модераторів, що фізично не встигають відстежити всі помилки. Проте, можливо, з часом до таких рішень прийдуть й інші сервіси.
