AIN.UA » Коллекции, Роботы и космосИскусственный интеллект против человечества: Маск, Хокинг и Возняк предостерегают, что пора остановиться
EN

Искусственный интеллект против человечества: Маск, Хокинг и Возняк предостерегают, что пора остановиться

12731
8

Илон Маск, Стивен Хокинг, Стив Возняк и ведущие мировые ученые в области развития искусственного интеллекта (ИИ) считают, что человечество может зайти слишком далеко в гонке вооружений и призывают сделать все возможное, дабы мир не настигла катастрофа. Волонтерская организация Future of Life Institute опубликовала открытое письмо, в котором призывает отказаться от «гонки ИИ-вооружений» (AI Arms Race).

Письмо подписали более тысячи ученых и ведущих представителей информационного бизнеса. Суть сводится к тому, что гонка вооружений выходит на новый уровень: разработку и внедрение оружия с собственным искусственным интеллектом. ИИ-вооружение может контролироваться издалека без непосредственного присутствия живого человека в зоне боевых действий.

terminator

«Автономное оружие станет «автоматом Калашникова» будущего. В отличие от ядерного оружия, оно не требует дорогостоящих или труднодоступных материалов, так что оно станет вездесущим и дешевым для массового производства. То, как скоро это оружие появится на черном рынке – лишь вопрос времени. Автономное оружие идеально подходит для заказных убийств, дестабилизации жизни наций, подчинения населения и выборочного истребления отдельных этнических групп», — говорится в письме.

Авторы сообщения указывают и на явные преимущества данного вида вооружения, которые включают сохранение человеческих жизней. Но, в то же время, приходят к однозначному выводу, что ИИ-вооружение будет нести собой катастрофическую опасность для человечества и новый виток гонки вооружений следует немедленно прекратить. «Точно так же, как большинство химиков и биологов не заинтересованы в создании химического и биологического оружия, большинство ученых, работающих над ИИ, не заинтересованы в создании ИИ-вооружения», — утверждают авторы письма.

Под открытым письмом подписались выдающиеся ученые в сфере разработки искусственного интеллекта из множества стран мира. Помимо этого, Илон Маск, Стивен Хокинг, Стив Возняк и другие известные IT-предприниматели высказались в поддержку остановки гонки ИИ-вооружения.

«Искусственный интеллект может стать полезен человечеству во множестве аспектов (…) Но запускать гонку ИИ-вооружений – плохая идея, которая должна быть предотвращена за счет запрета развития автономного вооружения», — резюмируют ученые.

Напомним, что о развитии искусственного интеллекта и, в частности, ИИ-вооружения, Стивена Хокинга можно будет спросить, начиная с сегодняшнего дня и до четвертого августа, в сессии Q&A на Reddit.

Заметили ошибку? Выделите ее и нажмите Ctrl+Enter, чтобы сообщить нам.

Смотреть комментарии

Комментарии | 8

  • Все не так. Компы давно рулят этим миром, воевать им друг с другом не за что… Ну а людям сделают клетки в зоопарках и будут там держать чтобы не наломали чего в электронном мире.

  • Эволюцию не остановить. Хокинг и в лучшие годы не особо блистал умом (это чисто медийный раскрученный персонаж типа Митио Каку, но фактурней), а сейчас и подавно впал в маразм. Простейшая растяжка или мина — уже автономное вооружение.

    • Хокинг, Маск и Возняк, упомянутые в этой статье — далеко не самые интересные авторы письма. Если глянуть на список по ссылке, то там есть Норвиг, Рассел, Хинтон, ЛеКун и другие — а это как раз те, кто последние 30 лет двигает AI. А вот с эволюцией — это да, все равно найдется какая-то лихая лаборатория…. Короче, просто запрет — не даст плодов.

      • AI, или по-нашему ИИ сколько-нибудь серьезно продвинул всего один человек — Алан Тьюринг. С тех пор все «подвижки» в этом направлении напоминают броуновское движение вокруг да около. Большие практические успехи: алгоритмы распознавания образов, экспертные системы, нейронные сети и т.д. — не более чем примитивная имитация того, о работе чего мы до сих пор понятия не имеем — т.е. живого мозга. Основная же проблема ИИ, как мне представляется — МОТИВАЦИЯ. Ну какая может быть мотивация у компьютера, эволюция которого искуственна, а все эмоции (и биохимия) отсутствуют напрочь. Он ведь не прошел миллионы лет эволюции, не боролся за выживание как мы. Запрограммированная цель? Ну тогда это конечный автомат, а не самостоятельный разум. Желание выжить любой ценой? Смешная проекция наших собственных желаний.

  • Однозначно весь мировой интеллект сконцентрировался в этих комментах

Последние новости
23 сен
Смотреть все
  • Продавать в интернете
  • Безопасность номера
  • Съемки на YouTube

Поиск

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: