Компания-разработчик ChatGPT – OpenAI – основала новую команду, которая будет работать над минимизацией рисков, связанных со стремительным распространением искусственного интеллекта. В частности, будет заниматься проблемами кибербезопасности, химическими, ядерными и биологическими угрозами. Об этом сообщает Bloomberg.
- Новую команду называют Preparedness team, то есть «команда готовности». О ее создании в ChatGPT сообщили 26 октября. Команду возглавил выходец из МИТ Александр Мадри.
- Группа будет анализировать и пытаться предотвратить потенциальные «катастрофические риски» систем искусственного интеллекта, начиная от проблем кибербезопасности и заканчивая химическими, ядерными и биологическими угрозами.
- Среди прочего, команда будет заниматься проблемами автономной репликации и адаптации AI (что логично, учитывая амбиции OpenAI построить «суперинтеллект» в будущем).
- Цель OpenAI сосредоточена на создании AI, который может выполнять ряд задач лучше, чем люди (в компании его называют AGI – Artificial General Intelligence). Поскольку текущие системы не соответствуют этому описанию, компания заявила, что ей необходимо «убедиться, что у нас есть понимание и инфраструктура, необходимые для безопасных и высокопроизводительных систем искусственного интеллекта».
- Новая команда разработает политику, чтобы помочь компании определить, как она может уменьшить риски, связанные с разработкой такой AI-технологии следующего поколения.
- Сейчас «команда готовности» на стадии комплектования. У компании есть незакрытые вакансии в Сан-Франциско, а также будет искать кандидатов через конкурс Preparedness Challenge, в рамках которого всем желающим предлагают рассказать о неочевидных рисках от AI. 10 победителей получат $25 000 в виде API-кредитов.
