Cтартап Palantir тайно внедрил систему прогнозирования преступлений в Новом Орлеане. Об этом узнали спустя 6 лет

Сотрудничество между полицией Нового Орлеана и Palantir Technologies началось в 2012 году. Суть заключалась в том, чтобы калифорнийский стартап разработал предиктивную полицейскую систему. Благодаря сведениям, которыми обладали правоохранители, она должна была оповещать, кто вероятнее совершит преступление, а кто — станет его жертвой.

Контракт продлевали три раза, последний истек 21 февраля 2018 года. Сотрудничество между городом и компанией было оформлено в качестве благотворительной деятельности, замаскированной под программу NOLA For Life. Все документы подписывал лично мер Нового Орлеана Митч Ландре, который занимает этот пост с 2007 года. В результате городской совет не был оповещен о работе секретного ПО. Как рассказали собеседники The Verge, никто в Новом Орлеане, кроме мэра, городского адвоката и части сотрудников NOPD, вообще не догадывался о подобном. Когда полиция использовала систему Palantir для выдвижения обвинений против членов двух преступных группировок в 2013 году, материалы дела составили 60 000 страниц. Ни на одной из не было упоминаний секретного стартапа.

Palantir Technologies была основана в 2003 году Александром Карпом и Питером Тилем (он и поныне — крупнейший держатель акций). Компания специализируется на работе с большими данными и активно работает с военными агентствами США и входит в десятку самых дорогих американских стартапов. Ее название отсылает к «Властелину колец», где палантирами назывались камни, использовавшиеся для связи и шпионажа. До 2008 года единственным заказчиком услуг Palantir было ЦРУ. Это же ведомство проспонсировало стартап в 2005 году через аффилированный венчурный фонд. Palantir не впервые разрабатывает предиктивные системы для американского правительства: ранее компания создала для Пентагона аналитический инструмент, предсказывающий расположение самодельных взрывчатых устройств для использования в Афганистане и Ираке. 

Тем не менее, сведений о том, что до эксперимента в Новом Орлеане Palantir занималась публичными разработками, не существует. Американское правительство впервые высказало интерес к подобным технологиям в 2009 году. Тогда Национальный институт правосудия начал выдавать гранты стартапам, готовым разработать пилотные проекты для крупных городов (среди них: Чикаго и Лос-Анджелес). Принципы работы алгоритмов и спецификации различались, но общим фактором остается потребность в огромном количестве данных.

Посредником в переговорах между Новым Орлеаном и Palantir выступил бывший руководитель президентской кампании Билла Клинтона 1992 года, Джеймс Карвилл. Он инвестировал в стартап еще с 2011 года, с тех пор работая на должности советника. В интервью The Verge он назвал коллаборацию своей идеей и объяснил это моральными побуждениями. После подписания всех документов в распоряжении Palantir оказались следующие сведения: 

• публичные документы;
• судебные документы;
• лицензии и права;
• адреса;
• номера телефонов;
• данные из социальных сетей;
• городские сведения криминального и некриминального характера.

На основании этой информации стартап, который использовал машинное обучение, создавал карту связей. Она объединяла между собой разношерстную информацию, которая имела отношение к преступлениям: от номеров автомобилей до постов в социальных сетях. Полицейскому достаточно было внести в поиск одну из переменных и система показывала ему вероятность, с которой человек стал бы жертвой насилия или сам нарушил закон. The Verge отмечают, что в учет вносились даже заполненные документы, которые в итоге не приводили к аресту или выдвижению официальных обвинений против жителей города.

Одна из областей исследований — случаи летального и нелетального применения огнестрельного оружия. По итогам работы собеседник издания сообщил, что они могли установить до 30-40% будущих жертв стрельбы из-за сильных связей с потенциально опасными личностями. Всего таких набралось 3900 человек.

За все 5 лет работы программы полиция отобрала из списка потенциальных преступников и жертв 308 человек для групповых собеседований. С тех пор семь закончили профессиональную подготовку, девять участвовали в оплачиваемых программах работы, ни один не закончил старшую школу или получил диплом о среднем образовании, 32 человека были официально устроены. 50 участников были задержаны после собеседований, двое с тех пор умерли. Зато статистика задержаний существенно выросла: за первые 16 месяцев работы полиция «взяла» 83 участников бандитских группировок. 

С момента запуска программы уровень преступности в Новом Орлеане действительно сократился на треть. Однако благотворить за это Palantir преждевременно — положительная статистика была ярко выражен первые два года, а потом резко пошла на спад. Не существует и достоверных исследований, связывающих работу предиктивного ПО с улучшением криминогенной обстановки.

Совокупное количество убийств в Новом Орлеане

Полиция Нового Орлеана при этом проводит четкое разграничение в вопросах использования технологий Palantir, сообщает портал Nola.com. По словам местного директора аналитического отдела, стоит отделять социальный анализ и анализ социальных сетей. Правоохранители никогда не просматривали посты из Twitter или Facebook. ПО якобы использовалось только для создания реестров людей, которые могли быть подвержены опасности. Полиция также отрицает использование предиктивных механизмов и настаивает, что данные от системы Palantir не были поводом для задержаний — в этом процессе задействовано гораздо больше факторов и участников.

Тем не менее Palantir использовали результаты работы в Новом Орлеане для корпоративного маркетинга. Предиктивную систему пытались «продать» Чикаго — но безуспешно. Зато продукты стартапа купила датская полиция (сумма сделки, по разным источникам, составляла от $14 до $41 млн). Также есть сведения об использовании ПО в Израиле.  

The Verge отмечают, что главная причина для беспокойства — секретный характер экспериментальной программы, которая прошла в Новом Орлеане. Если бы ее вынесли на публичное обсуждение, вопросов о нарушении приватности и законности таких действий было бы гораздо больше. Городской совет и адвокаты наверняка детально изучили, какие сведения передаются в распоряжение частной компании.

Кроме того, возникают вопросы и к «предвзятости» алгоритмов. Для любого предсказания нужен крепкий свод данных — и у полиции они есть в районах с частым патрулированием. Зато там, куда правоохранители заглядывают реже (а это районы с преимущественно богатым белым населением) собрано меньше статистики.