прислать материал
AIN.UA » ГосударствоУчите философию, а не программирование или как «социальный скоринг» меняет юриспруденцию

Учите философию, а не программирование или как «социальный скоринг» меняет юриспруденцию

4901 4

Юрист из компании “Юскутум” Нестор Дубневич рассказал о том, как скоринговая система, реализованная в Китае, постепенно перебирает на себя функции государства. Как это отразится на системе правосудия и работе юристов – в колонке на AIN.UA.

Более 9 млн жителей Китая, которые в течение последних трех лет были замечены в использовании просроченных билетов и курении в запрещенных местах, не смогли купить билеты на самолет. Еще 3 млн не получили проездные в бизнес-классы поездов. Причина – низкий социальный рейтинг в «скоринговой» системе, которую Китай запустил три года назад. 

Принцип «once untrustworthy – always restricted» пронизывает нитью документ под названием Planning Outline for the Construction of a Social Credit System, который был опубликован Правительством Китая 14 июня 2014 года. Документ обязал City councils и Private tech platforms «заправлять» большими данными разработанный правительством искусственный интеллект, который определяет «социальный рейтинг» каждого гражданина.

Название засекреченного государством ИИ – Social Credit System. Подтягивая данные от 8 интернет-гигантов Китая, среди которых WeChat, Alibaba, Alipay, Baihe (китайский Тиндер), Didi Chuxing (китайский Uber) и другие, он ищет ответы на вопросы о своевременности оплаты счетов, предпочтениях в интернет-покупках и даже о количестве негативных комментариев в соцсетях.

На основании собранной информации алгоритм формирует социальный рейтинг каждого гражданина, который, в свою очередь, определяет его благонадежность, и, как результат, возможность доступа к общественным благам.

Тех граждан, у которых высокий рейтинг, ИИ поощряет:

  • увеличивает кредитные лимиты в банках;
  • разрешает арендовать автомобили без залога;
  • делает доступными VIP-чекины в аэропортах;
  • даже осуществляет более точный «matching» в дейтинг-приложениях (чем увеличивает шансы быстрее найти свою любовь).

Такая государственная «программа лояльности» выглядела бы очень даже ничего, если бы ИИ ограничился только поощрениями. Но уже 25 сентября 2015 года вышеупомянутый Outline был дополнен разделом Warning and Punishment Mechanisms for Persons Subject to Enforcement for Trust-Breaking, основным принципом которого стало следующее предложение: “If trust is broken in one place, restrictions are imposed everywhere”.

С этого момента ИИ был наделен карательной функцией, которая предполагает целый спектр инструментов: от «замедления» скорости интернет-соединения до ограничений в занятии определенными профессиями.

А теперь о юриспруденции.

Как история со скорингом отобразиться на государстве и есть ли место в таком «скоринговом» государстве для юристов?

Последние 6 тысячелетий человеческое общество развивает и совершенствует концепцию государства, в результате чего три столба монополии было заложено в ее фундамент:

  • монополия на информацию;
  • монополия на деньги;
  • монополия на насилие.

И все это благополучно функционировало бы далее, если бы не шалости компьютерных нёрдов, которые последние 20 лет в своих гаражах создают вещи, которые «выкручивают руки» этой концепции. В начале 2000-х они лишили государство монополии на информацию, развив глобальную сеть интернет и создав социальные сети. В начале 2010-х они создали биткоин, чем подвергли риску традиционную финансовую систему и пошатнули монополию государств на деньги.

Сейчас ИИ, а именно «скоринговая система», перебирая на себя карательную функцию, претендует на последнюю опору государства – право на насилие.

Если вы забьете в поисковике «государство как…», то первое, что предложит вам Google, будет «государство как аппарат насилия». Есть над чем задуматься.

Говоря о монополии государства на насилие, имеется ввиду монополия на определение «правил игры» и наказаний за их нарушения. Но задумывались ли вы о том, кому принадлежит моральное право определять такие правила и устанавливать справедливую меру наказания?

В древние времена это были цари, власть которых, как полагалось, была дарована самими богами, и церковь, которая позиционировала себя как представитель бога на Земле. Сегодня это симбиоз работы социологов, психологов, статистов и… юристов. Именно последние обличают социологические исследования в правовые нормы, которые потом принимаются парламентами стран в виде административных и уголовных кодексов.

В свете описанного выше «скоринговая система» представляется как «роботизированный судья», который по результатам обработки «цифровых следов» граждан автономно принимает одно из двух решений: поощрить или наказать. Но правила (нормы), которыми данная система будет руководствоваться в процессе принятия решений, все еще создаются юристами. Единственное отличие: правила приводятся в действие не посредством принятия новых уголовных законов, а путем их передачи разработчикам ИИ и написания последними соответствующих алгоритмов.

Наукой доказано, что человек с рождения обладает нравственным чувством (ребенок способен отличить хорошего персонажа от плохого, не имея социального опыта). Возможно, когда-то ИИ усовершенствуют до такой степени, что и он научится самостоятельно отличать хорошее от плохого. И эта функция окончательно «убьет» профессию юриста (и еще несколько профессий, специализирующихся на общественных науках).

Но пока этого не произошло, именно юристы будут создавать нормы поведения, которыми будет руководствоваться «скоринговая система». И это будут не те юристы, которые знают программирование или создали несколько успешных legaltech-стартапов. А те, которые, начитавшись лучших философов Эпохи Просветления, смогут обосновать справедливость ограничений, которыми будет орудовать государственный искусственный интеллект.

Автор: Нестор Дубневич, старший юрист группы Juscutum

Заметили ошибку? Выделите ее и нажмите Ctrl+Enter, чтобы сообщить нам.

Добавить комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

4 комментария

по хронологии
по рейтингу сначала новые по хронологии
alexander likhina

Грамотность старшего юриста хромает:
"в течение", а не "в течении";
"в виду", а не "ввиду";
"облекают", а не "обличают".

И все это благополучно функционировало бы далее, если бы не шалости компьютерных нёрдов, которые последние 20 лет в своих гаражах создают вещи, которые «выкручивают руки» этой концепции. В начале 2000-х они лишили государство монополии на информацию, развив глобальную сеть интернет и создав социальные сети. В начале 2010-х они создали биткоин, чем подвергли риску традиционную финансовую систему и пошатнули монополию государств на деньги.

Конечно же никто не лишил государства этих монополий. Просто государство, назовем это так для простоты восприятия, создало у населения такую иллюзию. Вспомним хотя бы недавний скандал с Фейсбуком или "сливы" Сноудена. Да и развитие криптовалют очень показательно - без "легализации" со стороны "государства" это было бы даже не для маргиналов, за это просто бы сажали в места не столь отделанные. Так что главное создать у кролика видимость того, что он что-то решает.

Наукой доказано, что человек с рождения обладает нравственным чувством (ребенок способен отличить хорошего персонажа от плохого, не имея социального опыта)

можно подробнее об этом ? не очень верю, что именно наукой, и именно доказано. Ведь кто определяет что персонаж "хороший" или "плохой" ? не социалный опыт ли ?

юристы никто и нестеру дубиновичу с 3мя статьями ниочём на аин аж никак не пропиарить свой сайт и не собрать рекламки для себя, вчера созданной фирмы и своего сайта на айо домене, а в авторитарной парламентской диктатуре китая уже ии - полицаи. честно говоря, до такого додумались бы только китайцы, ведь цивилизованному населению Земли никого карать не надо и отменять рейсы на самолёт без причин, потому что государство следит за тобой и тебя "наказало" за курение это нонсенс. В какой нибудь европейской стране еспч б уже обязал китай выплатить каждому пострадавшему по 50к евро и такая программа принесла бы китаю миллиарды убытков. на ии надо вешать что то бытовое, типа продацов и покупателей товаров. любые коммунальные службы. логистику. что то созидательное, а не деструктивность.

Поиск

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: