10 міфів про штучний інтелект

Штучний інтелект – останнім часом одна з найпопулярніших тем у технологічному світі. Такі уми, як Ілон Маск, Стівен Гокінг і Стів Возняк, всерйоз стурбовані дослідженнями в галузі АІ і стверджують, що його створення загрожує нам смертельною небезпекою. Водночас наукова фантастика і голлівудські фільми породили безліч помилок навколо АІ. Чи так нам загрожує небезпека і яких неточностей ми припускаємося, уявляючи знищення Землі Skynet, загальне безробіття чи навпаки достаток і безтурботність? У людських міфах про штучний інтелект розібралося видання Gizmodo. Редакція AIN.UA наводить повний переклад його статті.

Це називали найважливішим тестом машинного розуму з часів перемоги Deep Blue над Гаррі Каспаровим у шаховому поєдинку 20-річної давності. Google AlphaGo переміг на турнірі з Го гросмейстера Лі Седоля з розгромним рахунком 4:1, показавши наскільки серйозно штучний інтелект (АІ) просунувся вперед. Доленосний день, коли машини нарешті перевершать у розумі людину, ніколи не здавався таким близьким. Але ми, здається, так і не наблизилися до усвідомлення наслідків цієї епохальної події.

Насправді, ми чіпляємося за серйозні та навіть небезпечні хибні уявлення про штучний інтелект. Минулого року засновник SpaceX Ілон Маск застеріг, що АІ може захопити світ. Його слова викликали шквал коментарів, як противників, так і прихильників цієї думки. Як для такої майбутньої монументальної події, є вражаюча кількість розбіжностей щодо того, чи станеться вона, і, якщо так, то в якій формі. Це особливо тривожно, якщо взяти до уваги неймовірну користь, яку може отримати людство від АІ, та можливі ризики. На відміну від інших винаходів людини, у АІ є потенціал змінити людство або знищити нас.

Важко зрозуміти, чому вірити. Але завдяки першим роботам вчених у галузі обчислювальних наук, нейробіологів, теоретиків у галузі АІ, починає виникати більш чітка картина. Ось кілька загальних помилок і міфів щодо штучного інтелекту.

Міф №1: «Ми ніколи не створимо АІ з розумом, який можна порівняти з людським»

Реальність: У нас уже є комп’ютери, які зрівнялися або перевищили людські можливості в шахах, Го, торгівлі на біржі та розмовах. Комп’ютери та алгоритми, які ними керують, можуть ставати тільки кращими. Це лише питання часу, коли вони перевершать людину в будь-якому завданні.

Психолог-дослідник з університету Нью-Йорка Гарі Маркус сказав, що «буквально кожен», хто працює в АІ, вірить, що машини, врешті-решт, обійдуть нас: «Єдина реальна відмінність між ентузіастами і скептиками – це оцінки термінів». Футуристи на кшталт Рея Курцвейла вважають, що це може статися протягом кількох десятиліть, інші кажуть, що будуть потрібні століття.

АІ-скептики не переконливі, коли кажуть, що це нерозв’язна технологічна проблема, а в природі біологічного мозку є щось унікальне. Наші мізки – біологічні машини – вони існують у реальному світі та дотримуються основних законів фізики. У них немає нічого непізнаваного.

Міф №2: «Штучний інтелект матиме свідомість»

Реальність: Більшість уявляє, що машинний розум матиме свідомість і думатиме так, як думають люди. Ба більше, критики на кшталт співзасновника Microsoft Пола Аллена вірять, що ми поки що не можемо досягти загального штучного інтелекту (здатний розв’язати будь-яке розумове завдання, з яким справляється людина), тому що нам не вистачає наукової теорії свідомості. Але як каже фахівець із когнітивної робототехніки Імперського коледжу Лондона Мюррей Шанахан, нам не можна прирівнювати ці дві концепції.

«Свідомість безумовно дивовижна і важлива річ, але я не вірю, що вона необхідна для штучного інтелекту людського рівня. Якщо висловлюватися точніше, ми використовуємо слово «свідомість» для позначення кількох психологічних і когнітивних ознак, які в людини «йдуть у комплекті», – пояснює вчений.

Розумну машину, якій бракує однієї або кількох подібних ознак, можна уявити. Зрештою, ми можемо створити неймовірно розумний АІ, який буде нездатний сприймати світ суб’єктивно й усвідомлено. Шанахан стверджує, що розум і свідомість можна поєднати в машині, але ми не повинні забувати, що це дві різні концепції.

Те, що машина проходить тест Тюрінга, в якому її не відрізнити від людини, не означає наявність у неї свідомості. Для нас передовий АІ може здаватися усвідомленим, але його самосвідомість буде не більшою, ніж у каменя або калькулятора.

Міф №3: «Нам не варто боятися АІ»

Реальність: У січні засновник Facebook Марк Цукерберг заявив, що нам не варто боятися АІ, адже він зробить неймовірну кількість хороших речей для світу. Він має рацію наполовину. Ми матимемо величезну вигоду від АІ: від безпілотних автомобілів до створення нових ліків, але немає жодних гарантій, що кожна конкретизація АІ буде доброякісною.

Високорозумна система може знати все про конкретне завдання, на кшталт розв’язання неприємної фінансової проблеми або злому системи ворожої оборони. Але поза межами цих спеціалізацій, вона буде глибоко неосвіченою і не свідомою. Система Google DeepMind експерт у Го, але у неї немає можливостей або причин досліджувати сфери поза своєю спеціалізацією.

Багато з цих систем можуть не підкоряться міркуванням безпеки. Хороший приклад – складний і потужний вірус Stuxnet, воєнізований черв’як, розроблений військовими Ізраїлю і США для проникнення і диверсії роботи іранських атомних станцій. Цей вірус якимось чином (спеціально чи випадково) заразив російську атомну станцію.

Ще один приклад, програма Flame, використана для кібершпіонажу на Близькому Сході. Легко уявити майбутні версії Stuxnet або Flame, які виходять за межі своїх цілей і завдають величезної шкоди чутливій інфраструктурі. (Для розуміння, ці віруси не є АІ, але в майбутньому вони можуть його мати, звідки і занепокоєння).

Міф №4: «Штучний суперінтелект буде занадто розумний, щоб робити помилки»

Реальність: Дослідник АІ і засновник Surfing Samurai Robots Річард Лусімор вважає, що більшість сценаріїв судного дня, пов’язаного з АІ, непослідовні. Вони завжди побудовані на припущенні, що АІ каже: «Я знаю, що знищення людства спричинене збоєм у моїй конструкції, але я все одно змушений це зробити». Лусімор каже, що якщо АІ поводитиметься так, розмірковуючи про наше знищення, то такі логічні протиріччя переслідуватимуть його все життя. Це, своєю чергою, погіршує його базу знань і робить його занадто дурним для створення небезпечної ситуації. Учений також стверджує, що люди, які кажуть: « АІ може робити тільки те, на що його запрограмували», помиляються так само, як і їхні колеги на зорі комп’ютерної ери. Тоді люди використовували цю фразу, стверджуючи, що комп’ютери не здатні продемонструвати ані найменшої гнучкості.

Пітер Макінтайр і Стюарт Армстронг, які працюють в Інституті майбутнього людства при Оксфордському університеті, не погоджуються з Лусімором. Вони стверджують, що АІ значною мірою пов’язаний тим, як його запрограмували. Макінтайр і Армстронг вірять, що АІ не зможе робити помилок або бути занадто тупим, щоб не знати, чого ми від нього очікуємо.

«За визначенням, штучний суперінтелект (ШСІ) – суб’єкт, з розумом значно більшим, ніж має найкращий людський мозок у будь-якій галузі знань. Він буде точно знати, що ми хотіли, щоб він зробив», – стверджує Макінтайр. Обидва вчені вірять, що АІ робитиме лише те, на що запрограмований. Але якщо він стане досить розумним, він зрозуміє, як це відрізняється від духу закону або намірів людей.

Макінтайр порівняв майбутню ситуацію людей і АІ з теперішньою взаємодією людини і миші. Мета миші – шукати їжу і притулок. Але вона часто конфліктує з бажанням людини, яка хоче, щоб її звірятко бігало навколо неї вільно. «Ми досить розумні, щоб розуміти деякі цілі мишей. Тож ШСІ буде також розуміти наші бажання, але бути до них байдужим», – каже вчений.

 

Міф №5: «Проста латочка вирішить проблему контролю АІ»

Реальність: Створивши штучний інтелект розумніший за людину, ми зіткнемося з проблемою, відомою як «проблема контролю». Футуристи і теоретики АІ впадають у стан цілковитої розгубленості, якщо їх запитати, як ми утримуватимемо й обмежуватимемо ШСІ, якщо такий з’явиться. Або як переконатися, що він буде дружньо налаштований щодо людей. Нещодавно дослідники з Інституту технологій Джорджії наївно припустили, що АІ може перейняти людські цінності та соціальні правила, читаючи прості історії. На ділі, це буде куди складніше.

«Пропонувалося безліч простих трюків, які можуть «розв’язати» всю проблему контролю АІ», – каже Армстронг. Приклади включали програмування ШСІ так, щоб його метою було догоджати людям, або, щоб він просто функціонував як інструмент у руках людини. Ще варіант – інтегрувати концепції любові або поваги у вихідний код. Щоб унеможливити АІ від прийняття спрощеного, однобокого погляду на світ, пропонувалося запрограмувати його цінувати інтелектуальне, культурне та соціальне розмаїття.

Але ці рішення занадто прості, як спроба втиснути всю складність людських симпатій і антипатій в одне поверхневе визначення. Спробуйте, наприклад, вивести чітке, логічне і здійсненне визначення «поваги». Це вкрай складно.

Міф №6: «Штучний інтелект нас знищить»

Реальність: Немає жодної гарантії, що АІ нас знищить, або, що ми не зможемо знайти можливості контролювати його. Як сказав теоретик АІ Елізер Юдковскі: «АІ ні любить, ні ненавидить вас, але ви зроблені з атомів, які він може використовувати для інших цілей».

У своїй книзі «Штучний інтелект. Етапи. Загрози. Стратегії« оксфордський філософ Нік Бостром написав, що справжній штучний суперінтелект, після його появи, створить ризик більший, ніж будь-які інші людські винаходи. Видатні уми на кшталт Ілона Маска, Білла Гейтса і Стівена Гокінга (останній попередив, що АІ може бути нашою «найгіршою помилкою в історії”) також висловили стурбованість.

Макінтайр сказав, що в більшості цілей, якими може керуватися ШСІ, є вагомі причини позбутися людей.

« АІ може спрогнозувати, досить правильно, що ми не хочемо, щоб він максимізував прибуток конкретної компанії, чого б це не коштувало клієнтам, навколишньому середовищу і тваринам. Тому в нього є сильний стимул, щоб подбати про те, що його не перервуть, не завадять, вимкнуть або не змінять його цілей, оскільки через це початкові цілі не будуть виконані», – стверджує Макінтайр.

Якщо тільки цілі ШСІ не будуть точно відображати наші власні, то у нього будуть гідні приводи не дати нам можливості зупинити його. Враховуючи, що рівень його інтелекту значно перевершує наш, ми з цим нічого не зможемо вдіяти.

Ніхто не знає, якої форми набуде АІ і як він може загрожувати людству. Як зазначив Маск, штучний інтелект може використовуватися для контролю, регулювання та моніторингу іншого АІ. Або він може бути просякнутий людськими цінностями чи переважним бажанням бути дружнім до людей.

Міф №7: «Штучний суперінтелект буде доброзичливим»

Реальність: Філософ Іммануїл Кант вірив, що розум сильно корелює з моральністю. Нейробіолог Давид Чалмерс у своєму дослідженні «Сингулярність: Філософський аналіз« взяв відому ідею Канта і застосував її до штучного суперінтелекту, який виник.

Якщо це правильно… ми можемо очікувати, що інтелектуальний вибух призведе до вибуху моральності. Потім ми можемо очікувати, що з’явилися ШСІ системи будуть суперморальні так само, як і суперінтелектуальні, що дасть нам змогу очікувати від них доброякісності.

Але ідея того, що розвинений АІ буде просвітленим і добрим, за своєю суттю, не дуже правдоподібна. Як зазначив Армстронг, є багато розумних військових злочинців. Не схоже, що зв’язок між розумом і моральністю існує серед людей, тому він піддає сумніву роботу цього принципу серед інших розумних форм.

«Розумні люди, які поводяться аморально, можуть спричиняти біль набагато більших масштабів, ніж їхні більш дурні колеги. Розумність просто дає їм можливість бути поганими з великим розумом, вона не перетворює їх на добряків», – стверджує Армстронг.

Як пояснив Макінтайр, можливість суб’єкта досягти мети не стосується того, чи буде ця мета розумною для початку. «Нам дуже сильно пощастить, якщо наші АІ будуть унікально обдарованими і рівень їхньої моральності зростатиме разом із розумом. Сподіватися на удачу – не найкращий підхід для того, що може визначити наше майбутнє», – каже він.

Міф №8: «Ризики АІ та робототехніки рівнозначні»

Реальність: Це особливо часта помилка, насаджувана некритичними ЗМІ та голлівудськими фільмами на кшталт «Термінатора».

Якби штучний суперінтелект на кшталт Skynet справді захотів би знищити людство, він був би не використав андроїдів із шестиствольними кулеметами. Набагато ефективніше було б наслати біологічну чуму або нанотехнологічний сірий слиз. Або просто знищити атмосферу.

Штучний інтелект потенційно небезпечний не тим, що він може вплинути на розвиток робототехніки, а тим, як його поява вплине на світ у принципі.

Міф №9: «Зображення АІ в науковій фантастиці – точне відображення майбутнього»

Звісно, автори та футуристи використовували наукову фантастику, щоб робити фантастичні прогнози, але горизонт подій, який встановлює ШСІ, це зовсім інша опера. Ба більше, нелюдська природа ШІ унеможливлює для нас знання, а отже, й передбачення його природи та форми.

Щоб розважати нас, дурних людей, у науковій фантастиці більшість АІ зображено схожими на нас. «Існує спектр усіх можливих розумів. Навіть серед людей, ви досить відрізняєтеся від свого сусіда, але ця варіація – ніщо, як порівняти з усіма розумами, які можуть існувати», – каже Макінтайр.

Більшість науково-фантастичних творів, щоб розповісти переконливу історію, не повинні бути науково точними. Конфлікт зазвичай розгортається між близькими за силою героями. «Уявіть, наскільки б нудною була історія, де АІ без свідомості, радості або ненависті, покінчив би з людством без жодного опору, щоб домогтися нецікавої мети», – позіхаючи, оповідає Армстронг.

Міф №10: «Це жахливо, що АІ забере всю нашу роботу»

Реальність: Можливість АІ автоматизувати багато чого з того, що ми робимо, і його потенціал знищити людство, дві зовсім різні речі. Але згідно з Мартіном Фордом, автором «На зорі роботів: Технології та загроза безробітного майбутнього», їх часто розглядають як ціле. Добре думати про віддалене майбутнє застосування АІ, але тільки якщо воно не відволікає нас від проблем, з якими нам доведеться зіткнутися в найближчі десятиліття. Головна серед них – масова автоматизація.

Ніхто не ставить під сумнів, що штучний інтелект замінить безліч наявних професій, від працівника фабрики до вищих ешелонів білих комірців. Деякі експерти пророкують, що половині всіх робочих місць США загрожує автоматизація в найближчому майбутньому.

Але це не означає, що ми не зможемо впоратися з потрясінням. Взагалі, позбавлення від більшої частини нашої роботи, як фізичної так і ментальної, – квазі-утопічна мета нашого виду.

«Протягом кількох десятиліть АІ знищить безліч професій, але це непогано», – каже Міллер. Безпілотні автомобілі замінять водіїв вантажівок, що скоротить вартість доставки і, як наслідок, зробить багато продуктів дешевшими. «Якщо ви водій вантажівки і заробляєте цим на життя – ви втратите, але всі інші навпаки зможуть купувати більше товарів на ту саму зарплату. А гроші, які вони відкладуть, будуть витрачені на інші товари і послуги, які створять нові робочі місця для людей», – стверджує Міллер.

Цілком ймовірно, штучний інтелект створюватиме нові можливості виробництва блага, звільнивши людей для заняття іншими речами. Успіхи в розвитку АІ супроводжуватимуться успіхами в інших галузях, особливо у виробництві. У майбутньому, нам стане легше, а не складніше, задовольняти наші основні потреби.