Stack Overflow, сайт вопросов и ответов для кодеров и программистов, временно запретил пользователям делиться ответами, сгенерированными чат-ботом AI ChatGPT. Как сообщает The Verge, причиной такого решения стала простота генерации ответов из-за AI-бота, который при этом часто ошибается.
Почему возникли проблемы?
ChatGPT – это экспериментальный чат-бот, созданный OpenAI на основе генеративной текстовой нейросети GPT-3.5. Демонстрационная версия бота была выпущена буквально на прошлой неделе и пользователи были поражены тем, насколько близко искусственный интеллект подобрался к копированию человека в написании текстов.
Интерфейс бота поощряет людей не просто определять тему разговора, а задавать прямые вопросы, получая в ответ плавные и убедительные результаты по разным запросам; от создания стихов, песен и телевизионных сценариев до написания и отладки строк кода.
Но хотя многие пользователи были поражены возможностями ChatGPT, другие отметили его постоянную тенденцию генерировать правдоподобные, но ложные ответы. Если, к примеру, попросить бота написать биографию общественного лица, то он полностью может вставить неверные биографические данные.
«Основная проблема состоит в том, что хотя ответы, которые дает ChatGPT, имеют высокий процент неверности, обычно они выглядят так, будто они могут быть хорошими, а сами ответы очень легко получить. Таким образом, нам нужно уменьшить объем этих публикаций […] Следовательно, использование ChatGPT для создания публикаций в Stack Overflow запрещено», — отметили модераторы сервиса.
Что будет дальше?
Учитывая огромный масштаб этих систем, невозможно с уверенностью сказать, какой процент их результата ошибочен. Но в случае Stack Overflow компания пока решила, что риск введения пользователей в заблуждение слишком высок.
Модераторы Stack Overflow отметили, что запрет вызван в первую очередь большом количестве сгенерированных ответов. Тот факт, что ответы часто требуют детального прочтения кем-то со знаниями в предметной отрасли, чтобы определить, что ответ действительно плохой, фактически остановил инфраструктуру контроля качества Stack Overflow.
Против пользователей, которые продолжат использовать ChatGPT после публикации этой временной политики будут применены санкции, чтобы предотвратить дальнейшую публикацию такого содержимого, даже если в противном случае публикации были бы приемлемыми.
Почему это любопытно?
Решение Stack Overflow особенно заметно, поскольку эксперты в сообществе AI сейчас обсуждают потенциальную угрозу, которую представляют эти крупные языковые модели.
Некоторые исследователи утверждают, что AI, конечно, могут генерировать ложные результаты и создавать дезинформацию, однако они не занимаются фактическим распространением этих текстов, поэтому серьезный вред не может идти речь. Но другие эксперты отмечают, что способность этих систем дешево генерировать текст в большом масштабе неизбежно повышает риск того, что он будет позднее распространен.
Stack Overflow первым пошел на радикальные из-за широкого распространения созданной нейросетями ложной информации и перегруженности модераторов, физически не успевающих отследить все ошибки. Однако, возможно, со временем к таким решениям придут и другие сервисы.
