У видавництві «Наш Формат» виходить український переклад книги Макса Теґмарка «Життя 3.0. Доба штучного інтелекту». AIN.UA публікує її уривок.

Закони

Ми, люди, — соціальні тварини, які підкорили всі інші види й завоювали Землю завдяки своїй здатності співпрацювати. Ми розробили закони, щоб стимулювати й полегшувати співпрацю, тож якщо ШІ може покращити нашу правову та державну системи, то він дасть нам змогу співпрацювати успішно, як ніколи раніше, і проявити себе з найкращого боку.

А в цій сфері вдосконалюватися є куди як у плані застосування наших законів, так і в плані написання їх, тож розгляньмо по черзі одне й друге.

Які у вас виникають асоціації при думці про судову систему вашої країни? Якщо це затяжні очікування, великі затрати,а інколи й несправедливість, то ви не одні. Чудово було б, якби найперше на думку спадали «ефективність» і «справедливість», еге ж?

Позаяк юридичний процес абстрактно можна вважати обчисленням, із ввідними у вигляді доказів та законів і результатом на виводі у вигляді судового рішення, деякі науковці мріють про те, щоб повністю автоматизувати його за допомогою «робосуддів»: систем ШІ, які безнастанно застосовують однакові високі правові стандарти до кожного рішення і невразливі до людських помилок на зразок упередженості, утоми чи недостатньої обізнаності.

Робосудді

У 1994-му Байрона де ла Беквіта — молодшого було засуджено за вбивство борця за громадянські права темношкірих Медґара Еверса у 1963 році. Двічі наступного після вбивства року білі присяжні у штаті Міссісіпі не визнавали його винним, хоча речові докази, по суті, були однаковими.

На жаль, історія правосуддя рясніє рішеннями, на ухвалення яких вплинули колір шкіри, стать, сексуальна орієнтація, релігія, національність тощо.

Робосудді в принципі можуть гарантувати, що вперше в історії всі люди стануть справді рівними перед законом: їх можна буде
створити повністю ідентичними й запрограмувати на однакове ставлення до всіх і прозоре застосування закону у справді неупереджений спосіб.

  • Робосудді могли б також виключити з процесу людську упередженість, яка радше випадкова, ніж умисна. Наприклад, у контроверсійному дослідженні, проведеному 2012 року серед ізраїльських суддів, стверджується, що вони виносили значно жорсткіші вироки, коли були голодними: якщо одразу після сніданку вони відхиляли близько 35% клопотань про умовнодострокове звільнення, то безпосередньо перед обідньою перервою — понад 85%.
  • Інший ґандж суддів-людей — те, що інколи їм може бракувати часу на вивчення всіх подробиць справи. На противагу їм, робосуддів легко можна копіювати, адже вони фактично є лише комп’ютерною програмою. Це дало б змогу провадити всі незакінчені справи паралельно, а не серіями, і кожна справа отримала б свого власного робосуддю повністю на весь потрібний для процесу термін.
  • І нарешті, якщо судді-люди не можуть опанувати всіх фахових знань, необхідних для кожної можливої справи (від заплутаних патентних суперечок до загадкових убивств, які не розкрити без найновітніших досягнень судової експертизи), то робосудді майбутнього можуть мати в принципі безмежну пам’ять і здатність до навчання.

Тому колись такі робосудді можуть стати ефективнішими та справедливішими — завдяки своїй неупередженості, компетентності й прозорості. Їхня ефективність робитиме їх ще справедливішими: прискоривши юридичний процес та ускладнивши можливості спритним адвокатам впливати на результат, вони можуть різко здешевити відправлення правосуддя.

У такий спосіб можна було б значно збільшити шанси на перемогу в суді небагатої людини чи стартапу над мільярдером або мультинаціональною корпорацією з легіоном адвокатів.

З другого боку: а що, як робосудді теж матимуть програмні
вади або виявляться вразливими до хакерських атак? І перше, і друге вже впливало на автомати для голосування на виборах. А коли на кону мільйонні рахунки в банку або «світить» багаторічне ув’язнення, стимули для кібератак зростають ще більше.

Можливо, вдасться створити такий надійний ШІ, що появиться впевненість у тому, що робосуддя використовує правильний алгоритм. Але чи всі настільки розумітимуть логічний хід його «думок», щоб поважати ухвалене ним рішення?

До цієї проблеми додається ще й недавній успіх нейронних мереж, які часто перевершують традиційні, легкі для розуміння алгоритми ШІ, залишаючись для нас незбагненними.

Якщо підзахисні захочуть знати, чому їх визнали винними, чи не повинні вони мати право на кращу відповідь, ніж «ми натренували систему на великих масивах даних, і ось таке рішення вона ухвалила»?

Навіть більше: нещодавні дослідження свідчать, що система глибинного навчання нейронної мережі, натренована на великих масивах даних про ув’язнених, може спрогнозувати ймовірність рецидиву для кожного з них (а відтак і відмовити в умовно-достроковому звільненні) краще за суддів-людей.

Але що, як ця система виявить статистичний зв’язок між рецидивізмом і статтю або расою ув’язненого? Чи такого робосуддю не вважатимуть сексистом і расистом, якого слід перепрограмувати?

І справді, у проведеному 2016 року дослідженні стверджувалося, що програмне забезпечення для прогнозування рецидивізму, яке використовувалося на всій території США, упереджене проти афроамериканців і сприяло винесенню несправедливих вироків.

Це все — важливі питання, які ми повинні обміркувати й обговорити, щоб ШІ залишався сприятливим. Перед нами не стоїть вибір «все або нічого», коли справа доходить до робосуддів. Це рішення радше стосується обсягів і швидкості, з якими ми хочемо застосовувати ШІ у нашій правовій системі.

Ми хочемо, щоб люди-судді мали системи підтримки своїх рішень на основі ШІ — як лікарі майбутнього? Чи ми хочемо піти далі й отримати рішення робосудді, яке можна подати на розгляд суддів-людей? Чи взагалі піти до кінця й надати машинам також можливість ухвалювати остаточне рішення — аж до смертної кари?