Перед звільненням Альтмана з OpenAI раду директорів попередили про важливе відкриття в галузі ШІ — Reuters

Напередодні звільнення Сема Альтмана з посади СЕО OpenAI дослідники компанії надіслали раді директорів листа із попередженням про «потужне відкриття в галузі штучного інтелекту, яке може загрожувати людству». Про це пише Reuters, посилаючись на два обізнані джерела.

• Лист від дослідників OpenAI став каталізатором для усунення Сема Альтмана з посади генерального директора. Однак він був лише «останньою краплею в довгому списку скарг ради директорів». Самого листа Reuters переглянути не змогли.
• За словами одного з джерел, СТО OpenAI Міра Мураті раніше згадувала в розмові зі співробітниками, що лист про ШІ-проєкт під назвою Q* (вимовляється Q-Star) прискорив рішення правління про звільнення Альтмана.
• Один зі співрозмовників Reuters зазначив, що Q* може стати проривом у пошуку так званого надінтелекту, також відомого як загальний штучний інтелект (AGI). За його словами, проєкт має величезні обчислювальні ресурси й може вирішувати математичні завдання. OpenAI називає AGI ШІ-системами, розумнішими за людей.
• Наразі система може обчислювати математичні задачі на рівні початкової школи, однак дослідники мають оптимістичні прогнози щодо майбутнього Q*.
• Reuters не зміг незалежно перевірити заявлені дослідниками можливості Q*.

За інформацією на сайті OpenAI, наразі моделі компанії мають проблеми з математикою. Вони ще не здатні працювати стабільно, коли їх просять розв’язати математичні задачі. У коментарі The New York Times математик університету Каліфорнії в Лос-Анджелесі та лауреат Медалі Філдса 2006 року Теренс Тао зазначив, що в останні кілька років математики почали турбуватися про потенційні загрози штучного інтелекту, як для математичної науки, так і для самих себе. За його словами, видатні члени спільноти зараз порушують проблеми та досліджують потенційні можливості, «щоби прорвати табу».

Після презентації проєкту OpenAI GPT-4 понад 1000 лідерів та дослідників ШІ підписали відкритого листа із закликом взяти паузу в розробці потужніших систем, через «потенційні ризики для суспільства та людства».

Нагадуємо, що 22 листопада Компанія OpenAI заявила про готовність повернути нещодавно звільненого генерального директора Сема Альтмана на посаду. Також планують призначити нових членів ради директорів