У Кремниевой долины долгая история сотрудничества с военными и полицией. Но нарастающий бунт — пример политического пробуждения среди работников, которые начинают понимать, как именно используют созданные ими проекты. То, что началось внутри Google как беспокойство по поводу предоставления Пентагону ИИ-технологий, разрослось на фоне новой иммиграционной политики, учрежденной администрацией Дональда Трампа. Теперь недовольство быстро растет.
Wired указывают: всего за несколько дней в конце июня, сотрудники Microsoft, Amazon и Salesforce опубликовали петиции, в которых просили своих CEO прекратить или пересмотреть прибыльные контракты с пограничной службой и местными полицейскими департаментами. И это необычное поведение — обычно работники не нарушали молчание. Эта культурная установка, закрепленная множеством NDA-соглашений и расследованиями всех утечек, теперь уходит в прошлое.
В случае Google, сотрудников поощряли ко внутренним дебатам — и они долгое время верили в эту систему. Однако в начале этого года, внутри компании разразился скандал вокруг роли в проекте Maven. Его суть заключается в применении ИИ для интерпретации записей, снятых дронами. Подчиненные использовали другую тактику, когда почувствовали, что руководство пытается преуменьшить важность и объем сотрудничества с Пентагоном. Тысячи людей, включая инженеров, подписали петицию, в которой попросили CEO Сундара Пичаи разорвать контракт. Ряд подписантов даже пригрозила покинуть компанию в случае невыполнения условий. Другая группа инженеров отказалась заниматься разработкой инструмента, необходимого для проекта Maven.
В петиции указывалось: «Мы верим, что Google не должна заниматься военным бизнесом». В начале июня Google сообщила, что не будет продолжать контракт с Пентагоном после выполнения нынешних обязательств. Несколькими днями позже, Пичаи опубликовал кодекс этики по использованию ИИ, в котором сообщалось — компания не будет разрабатывать технологии, используемые в вооружении, но продолжит «сотрудничество с правительствами и военными во многих других направлениях».
Изменения вдохновили сотрудников других корпораций. Петиция, которую на старте подписали семь сотрудников Microsoft, набрала внутри компании 457 подписей и требовала отменить контракт c иммиграционной и таможенной службой США (ICE). Спустя еще два дня, работники Amazon опубликовали письмо, в котором требовали свернуть продажу полиции фирменных сервисов для распознавания по лицу. Документ подписали 400 человек. В Salesforce более 650 сотрудников тоже призвали компанию переосмыслить отношения с ICE, поскольку почувствовали угрозу корпоративным ценностям. Учитывая, что каждый из перечисленных бизнесов имеет десятки тысяч сотрудников со всего мира, точный уровень внутренней поддержки оценить достаточно сложно.
Но протесты также привлекли внимание влиятельных академиков и ученых, которые начали составлять собственные петиции по поводу сотрудничества американского государства с Google и Microsoft. Причем это общественное движение эволюционирует: в прошлом году сотрудники ряда технологических корпораций просили своих CEO выйти из консультативного совета новой президентской администрации и выступить против запрета на въезд для граждан ряда мусульманских стран. Но просить компанию отказаться от доходного контракта — это компромисс совершенно другого уровня. Лиз Фонг-Джонс, инженер в Google, известная своей адвокатской деятельностью, комментирует: «Одна ситуация — о политике, а вторая затрагивает ключевой бизнес, определяет, чем будет и не будет заниматься компания».
Форест Бриско, профессор бизнес-школы Пенна, говорит — такое поведение необычно в частных компаниях, но уже встречалось ранее. Он указывает на то, что климатологи, нанятые компаниями Dupont и General Motors в конце 80-х, пытались повлиять на позиции компании по вопросу изменения климата.
Издание указывает, что ситуацию подстегивает рекрутинговая манера Долины — компании поощряют то, чтобы работа становилась синонимом социальной идентичности человека, он разделял утопические идеи компании. Неудивительно, что люди, которые хотели чувствовать себя героями, не горят желанием ассоциироваться с нарушением человеческих прав. При этом, они чувствуют себя свободнее, поскольку обладают востребованными навыками и находятся на конкурентном рынке с высоким спросом. На сборочных линиях китайских заводов такого не встретишь — там люди намного уязвимее.
Почему изменения оказались настолько резкими? Людям потребовалось время, чтобы в действительности понять, чем занимаются их компании. По словам сотрудницы YouTube Стефани Паркер, дебаты внутри Google начались еще после выборов 2016 года. Сотрудники стали устанавливать причинно-следственные связи между своими действиями и реальными последствиями. Менеджер Patreon Эрика Бейкер, которая ранее работала в Google, отмечает:
Уверена, что никто не шел работать в Google с мыслями: “Ну что ж, буду трудиться на военного подрядчика”. Тут недалеко Lockheed Martin, все желающие могли отправиться туда.
Обсуждения касаются множества проектов: от постройки систем распознавания по лицу, которые могут навредить невиновным людям до представления компьютерных сервисов, которые несколько лет назад разрешили бы запускать только на устройствах внутри Пентагона. Этические вопросы поднимаются с обеих сторон. CEO компании Clarifai, которая также работает над проектом Maven, в недавном блог-посте рассказал, что итоговая технология может спасти жизни. Менеджеры Microsoft вели онлайн-обсуждение, в котором сообщали, что компания провела переговоры с адвокатской группой по вопросам иммиграционной политики — и специалисты сообщили, что разрыв сотрудничества может лишь навредить детям и семьям.
Тем не менее, многих эти доводы не убеждают — к примеру, вопросы возникают к стартапу Palantir, который работает с ICE, пользуясь услугами облака AWS от Amazon. Анонимный сотрудник Google, выступавший за сворачивание работы над Maven, сетует:
Мы не можем разделить эти моменты и сказать: “Вообще-то, мы не строили тюрьмы, а просто помогли в составлении чеков для постройки тюрем”. Это этические вопросы, которыми задаются множество людей.
Пока что движение не выдвигает сформированной политической позиции о том, какая работа с государством приемлема. Вместо этого активисты ратуют за прозрачность обсуждения и возможность сесть за стол переговоров. В качестве исторического примера Wired приводят компанию IBM, которая сотрудничала с властями нацистской Германии накануне Второй мировой войны. Тогда некоторые сотрудники тоже протестовали.
Нынешние работники понимают, что борьба будет долгой, устланной размытыми юридическими формулировками и взвешенными ответами. Например, в новых ИИ-принципах Google написано, что компания не будет развивать «технологии, чьи цели противоречат общепринятым принципам международного права и правам человека». Один из сотрудников компании прокомментировал: «Да кто так вообще говорит? Ты или поддерживаешь права человека или нет».