OpenAI формирует команду по предотвращению «катастрофических рисков» AI

Компания-разработчик ChatGPT — OpenAI — основала новую команду, которая будет работать над минимизацией рисков, связанных со стремительным распространением искусственного интеллекта. В частности, будет заниматься проблемами кибербезопасности, химическими, ядерными и биологическими угрозами. Об этом сообщает Bloomberg.

• Новую команду называют Preparedness team, то есть «команда готовности». О ее создании в ChatGPT сообщили 26 октября. Команду возглавил выходец из МИТ Александр Мадри.
• Группа будет анализировать и пытаться предотвратить потенциальные «катастрофические риски» систем искусственного интеллекта, начиная от проблем кибербезопасности и заканчивая химическими, ядерными и биологическими угрозами.
• Среди прочего, команда будет заниматься проблемами автономной репликации и адаптации AI (что логично, учитывая амбиции OpenAI построить «суперинтеллект» в будущем).
• Цель OpenAI сосредоточена на создании AI, который может выполнять ряд задач лучше, чем люди (в компании его называют AGI — Artificial General Intelligence). Поскольку текущие системы не соответствуют этому описанию, компания заявила, что ей необходимо «убедиться, что у нас есть понимание и инфраструктура, необходимые для безопасных и высокопроизводительных систем искусственного интеллекта».
• Новая команда разработает политику, чтобы помочь компании определить, как она может уменьшить риски, связанные с разработкой такой AI-технологии следующего поколения.
• Сейчас «команда готовности» на стадии комплектования. У компании есть незакрытые вакансии в Сан-Франциско, а также будет искать кандидатов через конкурс Preparedness Challenge, в рамках которого всем желающим предлагают рассказать о неочевидных рисках от AI. 10 победителей получат $25 000 в виде API-кредитов.