OpenAI розпустила команду, що займалася питаннями безпеки ШІ

OpenAI розпустила свою команду, яка займалася довгостроковими ризиками штучного інтелекту, менш ніж через рік після її створення, повідомляє CNBC. Це рішення ухвалили після того, як керівники групи Ілля Суцкевер і Ян Лейке повідомили про свій відхід з компанії.

Команду, відому як Superalignment, створили у 2023 році з метою розробки «наукових і технічних проривів для керування системами штучного інтелекту, значно розумнішими за нас».

OpenAI тоді заявила, що протягом чотирьох років виділить 20% своїх обчислювальних потужностей на цю ініціативу протягом чотирьох років. Деяких членів команди переведуть до інших відділів компанії.

Лейке поділився у X детальнішою інформацією про причини свого рішення. Зокрема, він написав, що значно більша частина ресурсів компанії має бути зосереджена на безпеці, моніторингу, підготовленості, захищеності, конфіденційності та впливі на суспільство.

Натомість, зазначає Лейке, культура безпеки та процеси OpenAI відійшли на другий план. Генеральний директор OpenAI Сем Альтман відреагував так: «Мені дуже сумно бачити, що він [Лейке] йде. Він має рацію, нам ще багато чого треба зробити, і ми зобов’язуємося це зробити. Я напишу довший пост у найближчі кілька днів».

Що цьому передувало?

Ці гучні відставки відбулися на тлі минулорічних проблем з керівництвом OpenAI.

У листопаді 2023 року Сема Альтмана тимчасово відсторонили від посади гендиректора OpenAI. Саме Суцкевер повідомив Альтману, що той має покинути компанію, бо він «не завжди був відвертим у спілкуванні з радою директорів».

Проте західні ЗМІ почали тоді писати, що проблема складніша. The Wall Street Journal та інші медіа повідомляли, що Суцкевер зосередив свою увагу на безпеці, щоб штучний інтелект не зашкодив людям. Тоді як Альтман прагнув просунути вперед нову технологію.

Після тиску з боку співробітників та інвесторів, включаючи Microsoft, Альтмана поновили на посаді. Тоді він сказав, що не відчуває до Суцкевера «жодної неприязні». Проте, як писали The Information, після повернення Альтмана Суцкевер покинув раду директорів і фактично не з’являвся в компанії.

Залишити коментар

Коментарі | 0

Пошук