Перед увольнением Альтмана из OpenAI совет директоров предупредили о важном открытии в области AI — Reuters

Накануне увольнения Сэма Альтмана с должности СЕО OpenAI исследователи компании направили совету директоров письмо с предупреждением о «мощном открытии в области искусственного интеллекта, которое может угрожать человечеству». Об этом пишет Reuters, ссылаясь на два осведомленных источника.

• Письмо от исследователей OpenAI стало катализатором для отстранения Сэма Альтмана с должности генерального директора. Однако оно было лишь «последней каплей в длинном списке жалоб совета директоров». Само письмо Reuters просмотреть не смогли.
• По словам одного из источников, СТО OpenAI Мира Мурати ранее упоминала в разговоре с сотрудниками, что письмо об AI-проекте под названием Q* (произносится Q-Star) ускорило решение правления об увольнении Альтмана.
• Один из собеседников Reuters отметил, что Q* может стать прорывом в поиске так называемого сверхинтеллекта, также известного как общий искусственный интеллект (AGI). По его словам, проект имеет огромные вычислительные ресурсы и может решать математические задачи. OpenAI называет AGI AI-системами, которые умнее людей.
• Сейчас система может вычислять математические задачи на уровне начальной школы, однако исследователи имеют оптимистичные прогнозы относительно будущего Q*.
• Reuters не смог независимо проверить заявленные исследователями возможности Q*.

По информации на сайте OpenAI, сейчас модели компании имеют проблемы с математикой. Они еще не способны работать стабильно, когда их просят решить математические задачи. В комментарии The New York Times математик университета Калифорнии в Лос-Анджелесе и лауреат Медали Филдса 2006 года Теренс Тао отметил, что в последние несколько лет математики начали беспокоиться о потенциальных угрозах искусственного интеллекта, как для математической науки, так и для самих себя. По его словам, выдающиеся члены сообщества сейчас поднимают проблемы и исследуют потенциальные возможности, «чтобы прорвать табу».

После презентации проекта OpenAI GPT-4 более 1000 лидеров и исследователей AI подписали открытое письмо с призывом взять паузу в разработке более мощных систем, из-за «потенциальных рисков для общества и человечества».

Напоминаем, что 22 ноября Компания OpenAI заявила о готовности вернуть недавно уволенного генерального директора Сэма Альтмана на должность. Также планируют назначить новых членов совета директоров.