У видавництва «Наш Формат» вийшов український переклад книги Ніка Бострома «Суперінтелект. Стратегії і небезпеки розвитку розумних машин». У ній автор розповідає до чого може призвести поява розумних машин та суперінтелекту через призму загроз та можливостей. «Суперінтелект» рекомендували світила нашого часу, серед яких і голова Tesla — Ілон Маск. AIN.UA публікує уривки з книги.

Мережі та організації

Ще один гіпотетичний спосіб досягнення суперінтелектуальності — поступове вдосконалення зв’язків (комунікаційних та організаційних) між окремими людськими інтелектами, іншими механізмами й ботами. Основна ідея полягає не в суперінтелектуальності одного індивіда, а в тому, що, за умови правильної організації і комунікації, система окремих інтелектів може досягти деякої форми суперінтелектуальності. Цю форму надалі ми називатимемо «колективним суперінтелектом».

Завдяки своєму колективному інтелекту упродовж усієї історії свого існування, від доісторичних часів і до сьогодні, люди багато чого досягли. Зокрема, винайшли технології передавання знань, як-от письмо і друк, але, насамперед, власне мову. За цей час зросла кількість населення й густота поселень, покращилися методи організації та епістемічні норми, поступово накопичувався інституційний капітал.

Загалом колективний інтелектуальний потенціал системи обмежений рівнем інтелектуальності окремих її елементів. А також страждає від неефективного передавання корисної інформації між ними та незбалансованості, нелогічності, які властиві людським організаціям.

Завдяки оптимізації зв’язків між елементами (не лише за допомогою використання дешевшого і швидшого обладнання, а й збільшення концентрованості, доступності інформації, що передається) можна збільшити розмір сигналом, що інтерфейс надсилає.

Те саме можна сказати і про позбування від деяких бюрократичних традицій, які відволікають та виснажують ресурси організацій: марнославні змагання у важливості, підміна пріоритетів, приховування фальсифікації даних та інші. Навіть часткове розв’язання цих проблем може суттєво вплинути на зростання колективного інтелекту.

Щоб пришвидшити зростання нашого колективного інтелекту, потрібно запровадити багато різноманітних технологічних та інституційних нововведень.

Зокрема, використання субсидованих ринків прогнозування може сприяти встановленню загальноприйнятих правил визначення істинності і покращенню прогнозування щодо спірних наукових та соціальних питань. Детектор брехні (якщо вдасться створити достатньо надійний і простий у використанні пристрій) може зменшити поле непевності в людських стосунках. Але ще кориснішим був би пристрій виявлення нещирості перед самим собою. А втім, навіть без новомодних нейротехнологій, публічні дані, зокрема про доброчесність і репутацію, поширення знань епістемічних норм та культури раціонального мислення можуть допомогти викорінити багато форм шахрайства.

Добровільне та примусове відеоспостереження надасть величезну кількість інформації про людську поведінку. Більше ніж мільярд людей ділиться персональними даними в соціальних мережах: можливо, скоро з’являться цілісні записи щоденного життя з камер і мікрофонів смартфонів та окулярів. Автоматичний аналіз таких потоків даних відкриє нові способи їхнього застосування (звісно, як корисні, так і шкідливі).

Зростанню колективного інтелекту можуть сприяти загальніші організаційні покращення й економічне зростання, збільшення кількості освіченого населення, яке залучене до культурних процесів і має доступ до світових інформаційних ресурсів.

Особливо динамічним середовищем для інновацій та експериментів є інтернет. Значна частина його потенціалу ще не використана. Створення подібної мережі обміну знань із кращою підтримкою обговорення, сприянням неупередженості, допомогою у формуванні суджень, може значно пришвидшити зростання колективного інтелекту, як глобального, так і окремих груп.

Є ще химерніша ідея: а що, як одного дня інтернет «прокинеться»? Чи може він перестати бути лише павутиною, що тримає в купі наш такий різний колективний суперінтелект, — а перетвориться на щось схоже на віртуальний череп, у якому зароджується справжній цілісний суперінтелект? (Так уявив собі появу суперінтелекту Вернор Віндж, автор терміна «технологічна сингулярність», у 1993 році у своєму широковідомому есе). Можна заперечити, що створити штучний інтелект занадто складно навіть за бажання, тому спонтанна поява ШІ — абсолютно неймовірна річ.

Проте зовсім не обов’язково, що майбутня версія інтернету стане суперінтелектом цілком випадково. Імовірно, інтернет поступово накопичуватиме дрібні поліпшення, зроблені багатьма людьми.

Наприклад, покращений алгоритм пошуку і фільтрації інформації, потужніший формат представлення даних, більше можливостей в автономних програмних агентах і ефективніший протокол взаємодії таких окремих ботів. Й от безліч таких невеликих змін врешті створять передумови для виникнення ціліснішої форми мережевого інтелекту. Принаймні можна теоретично допустити, що така величезна інформаційна система, забезпечена обчислювальною потужністю та іншими потрібними для вибухоподібного зростання інтелекту ресурсами, — всім, окрім певного останнього необхідного елементу, — може раптово пробудитися, осяяна суперінтелектом, щойно останній необхідний елемент стане на своє місце. 

Переваги цифрового інтелекту

Навіть незначні зміни об’єму мозку та його влаштування можуть спричинити значні наслідки — бачимо це на прикладі порівняння людського інтелекту з розумом інших мавп. Штучний інтелект має ще більший потенціал зростання швидкодії та вдосконалення архітектури, а отже, може ще більше вплинути на розвиток інтелектуальності. Для нас складно — навіть неможливо — уявити собі здібності суперінтелекту, але завдяки цифровим інформаційним технологіям, ми можемо приблизно уявити собі простір цих можливостей. Легше всього оцінити апаратні переваги:

  • Швидкість обчислень. Біологічні нейрони працюють із частотою 200 Гц — на сім порядків менше, ніж сучасні процесори (близько 2 ГГц). Мозок нездатний швидко виконувати безліч послідовних операцій, але може виконувати багато чого одночасно. (Робота, яку мозок здатний зробити за секунду, вкладається в не більш як сотню послідовних операцій — зазвичай лише кілька десятків). Більшість важливих прикладних алгоритмів у комп’ютерному програмуванні дуже складно паралелізувати. Мозок міг би краще виконувати завдання пізнання, якби, окрім природних здібностей та одночасного розпізнавання образів, мав інтегровану здатність швидкого послідовного оброблення інформації.
  • Швидкісний внутрішній обмін даними. Швидкість поширення сигналу аксоном становить близько 120 м/с, тоді як оптичний чи електромагнітний сигнал між ядрами процесора поширюється зі швидкістю світла (близько 300 000 000 м/с)190. Саме швидкість поширення сигналу в живому мозку обмежує розмір, за якого він здатен працювати як єдине ціле. Наприклад, максимальний розмір ділянки мозку, у межах якої час передавання інформації в обидва боки не перевищує 10 мс, становить 0,11 м3. Натомість ідентична електронна система може мати розмір невеликої планети — 6,1 · 1017 м3 , тобто на вісімнадцять порядків більше.
  • Кількість обчислювальних елементів. Людський розум містить трохи менше ніж сто мільярдів нейронів. Розмір людського мозку в три з половиною рази перевищує мозок шимпанзе (але становить одну п’яту розміру мозку кашалота)193. Кількість нейронів біо логічного мозку, насамперед, обмежена розміром черепної коробки та можливостями метаболізму, проте розмір мозку можуть обмежувати також інші чинники (як-от охолодження, час дозрівання, тривалість поширення сигналу). Водночас розмір комп’ютера майже необмежений. Суперкомп’ютер може бути розміром як склад, але за допомогою високошвидкісного з’єднання з віддаленими ресурсами його можна розширювати далі.
  • Можливості зберігання даних. Тимчасова пам’ять людини може одночасно зберігати не більше чотирьох-п’ятьох інформаційних елементів. Немає сумнівів, електронна пам’ять цифрового інтелекту зможе вмістити значно більше, але не зовсім справедливо порівнювати тимчасову пам’ять мозку з оперативною пам’яттю комп’ютера. Завдяки електронній пам’яті цифровий розум зможе з легкістю інтуїтивно осягати складні взаємозв’язки понять, для розуміння яких людині потрібні тривалі міркування. Довгострокова пам’ять людини також обмежена, проте точна її кількість невідома, адже досі жодній людині протягом життя не вдавалося заповнити її до кінця — через надто малу швидкість засвоєння людиною інформації. (Згідно з результатами однієї з оцінок, дорослий мозок містить близько одного мільярда біт інформації — на кілька порядків менше, ніж може містити дешевий смартфон). Отже, обсяг зберігання інформації та швидкість доступу до неї в цифрового мозку може бути значно більший, ніж у біологічного.
  • Надійність, тривалість життя, органи чуття тощо. Штучний інтелект може мати інші апаратні переваги. Наприклад, транзистори надійніші за біологічні нейрони199. Оскільки зашумлені обчислення вимагають надлишкових алгоритмів кодування, у яких для кодування одного біту інформації використовуються кілька елементів, цифровий мозок матиме переваги над біологічним у точності та надійності. Біологічний мозок втомлюється після кількох годин роботи, а після кількох десятиліть суб’єктивного часу починає деградувати. Мікропроцесори не мають таких обмежень. Завдяки існуванню багатьох різноманітних сенсорів можна буде легко забезпечити штучний інтелект даними в будь-якій кількості. Різноманітні технології дають змогу переналаштовувати й оптимізувати апаратні засоби для виконання конкретного типу завдань, тоді як мозок переважно статичний і змінюється дуже повільно (хоча характеристики окремих синаптичних зв’язків можуть змінюватися досить швидко — протягом днів).

Обчислювальна здатність біологічного мозку досі може конкурувати із сучасними комп’ютерами, однак деякі суперкомп’ютери вже досягли межі оціночної потужності людського мозку. Апаратні засоби продовжують удосконалювати, а граничні межі їхніх можливостей значно перевищують здатності біологічних тканин.

Цифровий розум також успадкує переваги програмного забезпечення:

  • Легкість зміни. Параметри програми значно легше змінити, ніж параметри нейронних зв’язків. Наприклад, за допомогою емуляції цілого мозку можна було б легко експериментувати з кількістю нейронів або їхньою чутливістю в тій чи тій ділянці мозку. У живому мозку запровадити такі зміни значно складніше.
  • Дублювання. За наявності апаратних можливостей програмне забезпечення дає змогу легко дублювати або копіювати сутності. Натомість біологічний мозок відтворюється дуже повільно, і кожний новий екземпляр перебуває в первісному стані, не зберігає пам’яті свого прототипу й потребує тривалого навчання.
  • Узгодження мети. Неефективність співпраці в людських колективах значно спричинена розбіжностями у розумінні кінцевої мети окремими їхніми членами. Допоки не винайдено способу масового навіювання слухняності, наприклад, медикаментозним способом або за допомогою генетичної селекції. Цього можна уникнути завдяки створенню «клану клонів» (паралельного виконання ідентичних або майже ідентичних програмних потоків, що працюють над розв’язанням спільної задачі).
  • Спільний доступ до даних. Біологічний розум потребує тривалого навчання і тренування, тоді як цифровий розум міг би набувати нових знань та вмінь просто завантажуючи файли з ними в пам’ять. У мільярдній популяції окремих екземплярів штучного інтелекту кожен дізнавався б, чого навчилися його «колеги» протягом, скажімо, останньої години, періодично синхронізуючи з ними свою базу даних. (Щоправда, пересилання образів ментальних процесів потребує стандартизації форматів представлення даних. Тому не всі типи ШІ будуть здатні безпосередньо використовувати високорівневе представлення ментальних процесів одне одного. Зокрема, першим поколінням емуляцій цілого мозку це не буде під силу).
  • Нові модулі, модальності та алгоритми. Візуальне сприйняття не потребує від нас розумового напруження й відбувається автоматично, на відміну від, скажімо, розв’язання задач з геометрії. Незважаючи на те, що ментальне відтворення тривимірних об’єктів реального світу та їхніх сутностей із двовимірних світлових зображень на наших сітківках насправді потребує колосальних обчислень. Натомість для нас усе здається простим, бо ми маємо спеціальні нервові структури для оброблення цієї інформації. Перетворення даних відбуваються автоматично і не торкаються нашої свідомості й розумових процесів у ній. Сприйняття музики, мовлення, соціальність та інші ментальні процеси теж видаються нам «природними» і також, імовірно, працюють завдяки окремим підсистемам мозку. Штучний розум, який матиме виділені підсистеми для виконання інших, важливих у сучасному світі, завдань — як-от розроблення електроніки, програмування, бізнес-планування — отримає значну перевагу над людьми, що змушені залучати для цього неповороткі здібності загального інтелекту. Можливо, також з’являтимуться нові алгоритми, які зможуть використати переваги цифрових систем, здатних до швидкого послідовного оброблення інформації.

Отже, штучний інтелект, апаратна і програмна його частини обіцяють у перспективі величезні можливості. Але чи близька ця перспектива?