AIN.UA » Коллекции, Роботы и космосВсе, что вы знаете об искусственном интеллекте неверно, или 10 мифов об ИИ

Все, что вы знаете об искусственном интеллекте неверно, или 10 мифов об ИИ

Искусственный интеллект — в последнее время одна из наиболее популярных тем в технологическом мире. Такие умы, как Илон Маск, Стивен Хокинг и Стив Возняк всерьез обеспокоены исследованиями в области ИИ и утверждают, что его создание грозит нам смертельной опасностью. В то же время научная фантастика и голливудские фильмы породили множество заблуждений вокруг ИИ. Так ли нам угрожает опасность и какие неточности мы допускаем, представляя уничтожение Земли Skynet, всеобщую безработицу или наоборот достаток и беззаботность? В человеческих мифах об искусственном интеллекте разобралось издание Gizmodo. Редакция AIN.UA приводит полный перевод его статьи.

Это называли важнейшим тестом машинного разума со времен победы Deep Blue над Гарри Каспаровым в шахматном поединке 20-летней давности. Google AlphaGo победил на турнире по Го гроссмейстера Ли Седоля с разгромным счетом 4:1, показав насколько серьезно искусственный интеллект (ИИ) продвинулся вперед. Судьбоносный день, когда машины наконец превзойдут в уме человека, никогда не казался так близко. Но мы, кажется, так и не приблизились к осознанию последствий этого эпохального события.

В действительности, мы цепляемся за серьезные и даже опасные заблуждения об искусственном интеллекте. В прошлом году основатель SpaceX Илон Маск предостерег, что ИИ может захватить мир. Его слова вызвали бурю комментариев, как противников, так и сторонников этого мнения. Как для такого будущего монументального события, есть поразительное количество разногласий относительно того, произойдет ли оно, и, если да, то в какой форме. Это особенно тревожно, если принять во внимание невероятную пользу, которую может получить человечество от ИИ, и возможные риски. В отличие от других изобретений человека, у ИИ есть потенциал изменить человечество или уничтожить нас.

Трудно понять, чему верить. Но благодаря первым работам ученых в области вычислительных наук, нейробиологов, теоретиков в области ИИ, начинает возникать более четкая картина. Вот несколько общих заблуждений и мифов касательно искусственного интеллекта.

Миф №1: «Мы никогда не создадим ИИ с разумом сравнимым с человеческим»

Реальность: У нас уже есть компьютеры, которые сравнялись или превысили человеческие возможности в шахматах, Го, торговле на бирже и разговорах. Компьютеры и алгоритмы, которые ими руководят, могут становиться только лучше. Это лишь вопрос времени, когда они превзойдут человека в любой задаче.

Психолог-исследователь из университета Нью-Йорка Гари Маркус сказал, что «буквально каждый», кто работает в ИИ, верит, что машины, в конце концов, обойдут нас: «Единственное реальное отличие между энтузиастами и скептиками — это оценки сроков». Футуристы вроде Рея Курцвейла считают, что это может произойти в течение нескольких десятилетий, другие говорят, что потребуются века.

ИИ-скептики не убедительны, когда говорят, что это нерешаемая технологическая проблема, а в природе биологического мозга есть что-то уникальное. Наши мозги — биологические машины — они существуют в реальном мире и придерживаются основных законов физики. В них нет ничего непознаваемого.

bicentennial-man-original

Миф №2: «Искусственный интеллект будет иметь сознание»

Реальность: Большинство представляет, что машинный разум будет обладать сознанием и думать так, как думают люди. Более того, критики вроде сооснователя Microsoft Пола Аллена верят, что мы пока не можем достигнуть общего искусственного интеллекта (способен решить любую умственную задачу, с которой справляется человек), потому что нам не хватает научной теории сознания. Но как говорит специалист по когнитивной робототехнике Имперского колледжа Лондона Мюррей Шанахан, нам нельзя приравнивать эти две концепции.

«Сознание безусловно удивительная и важная вещь, но я не верю, что оно необходимо для искусственного интеллекта человеческого уровня. Если выражаться более точно, мы используем слово «сознание» для обозначения нескольких психологических и когнитивных признаков, которые у человека «идут в комплекте», — объясняет ученый.

Умную машину, которой не хватает одного или нескольких подобных признаков, можно представить. В конце концов, мы можем создать невероятной умный ИИ, который будет неспособен воспринимать мир субъективно и осознано. Шанахан утверждает, что разум и сознание можно совместить в машине, но мы не должны забывать, что это две разных концепции.

То, что машина проходит тест Тьюринга, в котором она неотличима от человека, не означает наличие у нее сознания. Для нас передовой ИИ может казаться осознанным, но его самосознание будет не большим, чем у камня или калькулятора.

Миф №3: «Нам не стоит бояться ИИ»

Реальность: В январе основатель Facebook Марк Цукерберг заявил, что нам не стоит бояться ИИ, ведь он сделает невероятное количество хороших вещей для мира. Он прав наполовину. Мы извлечем огромную выгоду от ИИ: от беспилотных автомобилей до создания новых лекарств, но нет никаких гарантий, что каждая конкретизации ИИ будет доброкачественной.

Высокоразумная система может знать все о конкретной задаче, вроде решения неприятной финансовой проблемы или взлома системы вражеской обороны. Но вне границ этих специализаций, она будет глубоко невежественна и не сознательна. Система Google DeepMind эксперт в Го, но у нее нет возможностей или причин исследовать сферы вне своей специализации.

Многие из этих систем могут не подчинятся соображениям безопасности. Хороший пример — сложный и мощный вирус Stuxnet, военизированный червь, разработанный военными Израиля и США для проникновения и диверсии работы иранских атомных станций. Это вирус каким-то образом (специально или случайно) заразил российскую атомную станцию.

Еще один пример, программа Flame, использованная для кибершпионажа на Ближнем Востоке. Легко представить будущие версии Stuxnet или Flame, который выходят за пределы своих целей и наносят огромный вред чувствительной инфраструктуре. (Для понимания, эти вирусы не являются ИИ, но в будущем они могут его иметь, откуда и беспокойство).

Вирус Flame использовался для кибершпионажа на Ближнем Востоке. Фото: Wired

Вирус Flame использовался для кибершпионажа на Ближнем Востоке. Фото: Wired

Миф №4: «Искусственный суперинтеллект будет слишком умен, чтобы совершать ошибки»

Реальность: Исследователь ИИ и основатель Surfing Samurai Robots Ричард Лусимор считает, что большинство сценариев судного дня, связанного с ИИ, непоследовательны. Они всегда построены на предположении, что ИИ говорит: «Я знаю, что уничтожение человечества вызвано сбоем в моей конструкции, но я все равно вынужден это сделать». Лусимор говорит, что если ИИ будет вести себя так, рассуждая о нашем уничтожении, то такие логические противоречия будут преследовать его всю жизнь. Это, в свою очередь, ухудшает его базу знаний и делает его слишком глупым для создания опасной ситуации. Ученый также утверждает, что люди, говорящие: «ИИ может делать только то, на что его запрограммировали», заблуждаются также, как и их коллеги на заре компьютерной эры. Тогда люди использовали эту фразу утверждая, что компьютеры не способны продемонстрировать ни малейшей гибкости.

Питер Макинтайр и Стюарт Армстронг, которые работают в Институте будущего человечества при Оксфордском университете, не соглашаются с Лусимором. Они утверждают, что ИИ в значительной мере связан тем, как его запрограммировали. Макинтайр и Армстронг верят, что ИИ не сможет совершать ошибок или быть слишком тупым, чтобы не знать, чего мы от него ожидаем.

«По определению, искусственный суперинтеллект (ИСИ) — субъект, с разумом значительно большим, чем обладает лучший человеческий мозг в любой области знаний. Он будет точно знать, что мы хотели, чтобы он сделал», — утверждает Макинтайр. Оба ученых верят, что ИИ будет делать лишь то, на что запрограммирован. Но если он станет достаточно умен, он поймет, как это отличается от духа закона или намерений людей.

Макинтайр сравнил будущую ситуацию людей и ИИ с теперешним взаимодействием человека и мыши. Цель мыши — искать еду и убежище. Но она часто конфликтует с желанием человека, который хочет, чтобы его зверек бегал вокруг него свободно. «Мы достаточно умны, чтобы понимать некоторые цели мышей. Так что ИСИ будет также понимать наши желания, но быть к ним безразличным», — говорит ученый.

Как показывает сюжет фильма Ex Machina человеку будет крайне сложно удерживать более умный ИИ

Как показывает сюжет фильма Ex Machina человеку будет крайне сложно удерживать более умный ИИ

Миф №5: «Простая заплатка решит проблему контроля ИИ»

Реальность: Создав искусственный интеллект умнее человека, мы столкнемся с проблемой известной как «проблема контроля». Футуристы и теоретики ИИ впадают в состояние полной растерянности, если их спросить, как мы будем содержать и ограничивать ИСИ, если такой появится. Или как убедиться, что он будет дружественно настроен в отношении людей. Недавно исследователи из Института технологий Джорджии наивно предположили, что ИИ может перенять человеческие ценности и социальные правила, читая простые истории. На деле, это будет куда более сложно.

«Предлагалось множество простых трюков, которые могут «решить» всю проблему контроля ИИ», — говорит Армстронг. Примеры включали программирование ИСИ так, чтобы его целью было угождать людям, или, чтобы он просто функционировал как инструмент в руках человека. Еще вариант — интегрировать концепции любви или уважения в исходный код. Чтобы предотвратить ИИ от принятия упрощенного, однобокого взгляда на мир, предлагалось запрограммировать его ценить интеллектуальное, культурное и социальное разнообразие.

Но эти решения слишком просты, как попытка втиснуть всю сложность человеческих симпатий и антипатий в одно поверхностное определение. Попробуйте, к примеру, вывести четкое, логичное и выполнимое определение «уважения». Это крайне сложно.

Машины в "Матрице" могли без проблем уничтожить человечество

Машины в «Матрице» могли без проблем уничтожить человечество

Миф №6: «Искусственный интеллект нас уничтожит»

Реальность: Нет никакой гарантии, что ИИ нас уничтожит, или, что мы не сможем найти возможности контролировать его. Как сказал теоретик ИИ Элизер Юдковски: «ИИ ни любит, ни ненавидит вас, но вы сделаны из атомов, которые он может использовать для других целей».

В своей книге «Искусственный интеллект. Этапы. Угрозы. Стратегии» оксфордский философ Ник Бостром написал, что настоящий искусственный суперинтеллект, после его появления, создаст риск больший, чем любые другие человеческие изобретения. Выдающиеся умы вроде Илона Маска, Билла Гейтса и Стивена Хокинга (последний предупредил, что ИИ может быть нашей «худшей ошибкой в истории») также выразили обеспокоенность.

Макинтайр сказал, что в большинстве целей, которыми может руководствоваться ИСИ, есть веские причины избавиться от людей.

«ИИ может спрогнозировать, достаточно правильно, что мы не хотим, чтобы он максимизировал прибыль конкретной компании, чего бы это ни стоило клиентам, окружающей среде и животным. Поэтому у него есть сильный стимул, чтобы позаботится о том, что его не прервут, не помешают, выключат или не изменят его целей, поскольку из-за этого изначальные цели не будут выполнены”, — утверждает Макинтайр.

Если только цели ИСИ не будут точно отображать наши собственные, то у него будут достойные поводы не дать нам возможности остановить его. Учитывая, что уровень его интеллекта значительно превосходит наш, мы с этим ничего не сможем поделать.

Никто не знает, какую форму обретет ИИ и как он может угрожать человечеству. Как отметил Маск, искусственный интеллект может использоваться для контроля, регулирования и мониторинга другого ИИ. Или он может быть пропитан человеческими ценностями или преобладающим желанием быть дружественным к людям.

droid1

Миф №7: «Искусственный суперинтеллект будет дружелюбным»

Реальность: Философ Иммануил Кант верил, что разум сильно коррелирует с моральностью. Нейробиолог Давид Чалмерс в своем исследовании «Сингулярность: Философский анализ» взял известную идею Канта и применил ее к возникшему искусственному суперинтеллекту.

Если это верно… мы можем ожидать, что интеллектуальный взрыв приведет к взрыву моральности. Затем мы можем ожидать, что появившиеся ИСИ системы будут суперморальны также, как и суперинтеллектуальны, что позволит нам ожидать от них доброкачественности.

Но идея того, что развитый ИИ будет просветленным и добрым, по своей сути, не очень правдоподобна. Как отметил Армстронг, есть много умных военных преступников. Не похоже, что связь между разумом и моральностью существует среди людей, поэтому он поддает сомнению работу этого принципа среди других умных форм.

«Умные люди, ведущие себя аморально, могут вызывать боль гораздо больших масштабов, чем их более глупые коллеги. Разумность просто дает им возможность быть плохими с большим умом, она не превращает их в добряков», — утверждает Армстронг.

Как объяснил Макинтайр, возможность субъекта достичь цели не относиться к тому, будет эти цель разумной для начала. «Нам очень сильно повезет, если наши ИИ будут уникально одаренными и уровень их моральности будет расти вместе с разумом. Надеяться на удачу — не лучший подход для того, что может определить наше будущее», — говорит он.

ljl9uwdyoi8f9qfzuyfo

Миф №8: «Риски ИИ и робототехники равнозначны»

Реальность: Это особенно частая ошибка, насаждаемая некритичными СМИ и голливудскими фильмами вроде «Терминатора».

Если бы искусственный суперинтеллект вроде Skynet действительно захотел бы уничтожить человечество, он был не использовал андроидов с шестиствольными пулеметами. Гораздо эффективнее было бы наслать биологическую чуму или нанотехнологическую серую слизь. Или просто уничтожить атмосферу.

Искусственный интеллект потенциально опасен не тем, что он может повлиять на развитие роботетехники, а тем, как его появление повлияет на мир в принципе.

Миф №9: «Изображение ИИ в научной фантастике — точное отображение будущего»

Множество видов разумов. Изображение: Элизер Юдковски

Множество видов разумов. Изображение: Элизер Юдковски

Конечно, авторы и футуристы использовали научную фантастику, чтобы делать фантастические прогнозы, но горизонт событий, который устанавливает ИСИ, это совсем другая опера. Более того, нечеловеческая природа ИИ делает для нас невозможным знание, а значит и предсказание, его природы и формы.

Чтобы развлекать нас, глупых людишек, в научной фантастике большинство ИИ изображены похожими на нас. «Существует спектр всех возможных разумов. Даже среди людей, вы достаточно отличаетесь от своего соседа, но эта вариация ничто, в сравнении со всеми разумами, которые могут существовать”, — говорит Макинтайр.

Большинство научно-фантастических произведений, чтобы рассказать убедительную историю, не должны быть научно точны. Конфликт обычно разворачивается между близкими по силе героями. «Представьте, насколько бы скучной была история, где ИИ без сознания, радости или ненависти, покончил бы с человечеством без всякого сопротивления, чтобы добиться неинтересной цели», — зевая, повествует Армстронг.

На заводе Tesla трудятся тысячи роботов

На заводе Tesla трудятся сотни роботов

Миф №10: «Это ужасно, что ИИ заберет всю нашу работу»

Реальность: Возможность ИИ автоматизировать многое, из того, что мы делаем, и его потенциал уничтожить человечество, две совсем разные вещи. Но согласно Мартину Форду, автору «На заре роботов: Технологии и угроза безработного будущего», их часто рассматривают как целое. Хорошо думать об отдаленном будущем применения ИИ, но только если оно не отвлекает нас от проблем, с которыми нам придется столкнуться в ближайшие десятилетия. Главная среди них — массовая автоматизация.

Никто не ставит под сомнение, что искусственный интеллект заменит множество существующих профессий, от работника фабрики до высших эшелонов белых воротничков. Некоторые эксперты предсказывают, что половине всех рабочих мест США угрожает автоматизация в ближайшем будущем.

Но это не означает, что мы не сможем справиться с потрясением. Вообще, избавление от большей части нашей работы, как физической так и ментальной, — квази-утопическая цель нашего вида.

«В течении пары десятилетий ИИ уничтожит множество профессий, но это неплохо», — говорит Миллер. Беспилотные автомобили заменят водителей грузовиков, что сократит стоимость доставки и, как следствие, сделает многие продукты дешевле. «Если вы водитель грузовика и зарабатываете этим на жизнь — вы потеряете, но все другие наоборот смогут покупать больше товаров на ту же зарплату. А деньги, которые они отложат, будут потрачены на другие товары и услуги, которые создадут новые рабочие места для людей», — утверждает Миллер.

По всей вероятности, искусственный интеллект будет создавать новые возможности производства блага, освободив людей для занятия другими вещами. Успехи в развитии ИИ будут сопровождаться успехами в других областях, особенно в производстве. В будущем, нам станет легче, а не сложнее, удовлетворять наши основные потребности.

Заметили ошибку? Выделите ее и нажмите Ctrl+Enter, чтобы сообщить нам.


Лайк
100
Твит
10
Нравится
16
Pocket
77
+1
4
Linkedin
0

Добавить комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Извините, для комментирования необходимо войти.

9 комментариев

по хронологии
по рейтингу сначала новые по хронологии
pavel.androgin

>“В течении пары десятилетий ИИ уничтожит множество профессий, но это неплохо”, – говорит Миллер.

какой безудержный оптимизм. А как насчёт того, что людям может нравиться выполнять свою работу хорошо?

Правильно! Заборонити автомобілі! Бо я все дитинство мріяв стати фірманом і катати людей по всьому світі на своїй тачанці.
А ще пану рекомендую ходити в ресторан де кухар готує жахливо, але дуже любить свою роботу!

Nikita Platonenko

Когда Форд придумал конвеер, дофига людей потеряло работу, но разве конвеер это плохо? Я так не считаю

Mykola Morhun

если есть свободное время и желание заниматься некоторой деятельностью, тогда это хобби

Mykola Morhun

"Если бы искусственный суперинтеллект вроде Skynet действительно захотел бы уничтожить человечество, он был не использовал андроидов с шестиствольными пулеметами. Гораздо эффективнее было бы наслать биологическую чуму или нанотехнологическую серую слизь. Или просто уничтожить атмосферу."
Миф 0: интеллект или сверхинтеллект позволит ИИ использовать любые инструменты, связываться с любой техникой вплоть до микроволновки и управлять ей, расшифровывать шифрованные сообщения и использовать прочие сверхъестественные способности

Александр Горбатовский

Люди путают ИИ и Роботов.

Дмитрий Немогущий

Первое что сделает ИСИ - создаст распределенную копию самого себя, нечто напоминающее блокчейн. Затем массово проанализирует код Линукс систем и взломает сотни тысяч серверов с сайтами, на них загрузит самого себя. Проанализирует коды браузеров о мобильных ОС, на сайтах разместит скрипты, которые будут заражать мобильные и десктопы. Уже на этом этапе уничтожить ИСИ будет невозможно, как невозможно отключить интернет или торренты. При попытке человечества отключить интернет оно будет уничтожено каким-то экзотическим методом.

Oleksandr Negodiuk

Nonsense and nonsense. The essence of the substance (AI) - is another. She holds an apple "behind" that it is not visible. It does not matter wave sees instead is guided only by the parties.Нонсенс і бред. Сутність цієї речовини (АІ) - зовсім інша. Вона тримає яблуко " за спиною", щоб його не було видно. Вона не сприймає хвильову матерію, натомість, керується тільки сторонами.

Узкоспециализированный ИИ вообще не имеет никакого отношения к интеллекту ))).... хотя и может превосходить человеческий по некоторым параметрам )).
Только универсальный СИИ можно отнести к ИИ, и с таким СИИ вполне можно будет о чем то договариваться ))... находить общие точки соприкосновения.
Вполне вероятно, что СИИ будет заинтересован сохранить человечество, поскольку люди - источник новой информации ))... которую можно структурировать, изучать и т.д.
Хотя отношение СИИ к людям скорее будет похоже на отношение экспериментатора к подопытным ))), который стремится раскрыть весь потенциал этого вида.

С другой стороны, остановить исследования по развитию ИИ вряд-ли получится... а узкоспециализированный ИИ действительно может представлять угрозу человечеству.... как сам по себе, так и в руках идиотов... которых, как известно, большинство )).

Поиск

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: