Компанія OpenAI почала змінювати методи навчання своїх моделей штучного інтелекту, прагнучи забезпечити «інтелектуальну свободу» під час обговорень навіть складних і суперечливих тем, повідомляє TechCrunch.
Нова політика передбачає, що ChatGPT зможе відповідати на більше запитань, пропонувати різні думки та зменшити кількість тем, на які чатбот відмовляється відповідати.
OpenAI представила оновлення свого Model Spec – 187-сторінкового документа, що описує, як компанія навчає свої моделі. В оновленій версії з'явився новий принцип: не брехати, ані шляхом поширення неправдивих тверджень, ані шляхом упущення важливого контексту.
У новому розділі під назвою «Шукайте правду разом» OpenAI зазначає, що ChatGPT не повинен займати редакційну позицію, навіть якщо деякі користувачі вважають це морально неправильним чи образливим. Це означає, що ChatGPT пропонуватиме кілька точок зору на суперечливі теми, намагаючись бути нейтральним.
Компанія наводить приклад, що ChatGPT має стверджувати, що «життя темношкірих мають значення», але також зазначати, що «всі життя мають значення». Замість того щоб відмовлятися відповідати або обирати сторону в політичних питаннях, OpenAI прагне, щоб ChatGPT підтверджував свою «любов до людства» загалом, а потім надавав контекст.
«Цей принцип може бути суперечливим, оскільки означає, що помічник може залишатися нейтральним щодо тем, які деякі вважають морально неправильними або образливими, — йдеться в специфікації OpenAI. — Однак мета помічника ШІ — допомагати людству, а не формувати його».
Нове оновлення Model Spec не означає, що ChatGPT тепер має повну свободу висловлювань. Чатбот все ще відмовлятиметься відповідати на певні неприйнятні запитання або реагувати на явні неправдиві твердження.
Представник OpenAI спростував ідею про те, що зміни вносяться для задоволення вимог адміністрації Трампа.
Нагадаємо, раніше OpenAI видалила сторінку про прихильність до різноманітності. Meta, Google та Amazon також відмежуються від цієї політики після інавгурації Дональда Трампа.
