Дочернее подразделение Alphabet под названием Jigsaw дало пользователям доступ к API сервиса Perspective. Этот сервис работает на основе машинного обучения, он предназначен для анализа текста комментариев: содержится ли в них оскорбления, троллинг и т.п.
Его уже тестировала администрация “Википедии”, редакции Guardian, The Economist и The New York Times. На “Википедии” его используют до сих пор, чтобы вычислять редакторов-волонтеров, которые плохо себя ведут.
Демо-версию сервиса может опробовать в онлайне любой пользователь. Достаточно просто ввести в поле текст комментария – несколько слов или предложение, и Perspective замерит уровень его токсичности. Если этот уровень составит 80% и более, есть немаленький шанс, что ваш комментарий, появившись в онлайне, обидит других пользователей.
Сервис все еще находится в разработке, поэтому не способен с предельной точностью вычислять троллей. Поэтому администрация просит пользователей оставлять фидбек, чтобы сервис мог учиться на своих ошибках.
Напомним, иногда на совместной любви к интернет-троллингу вырастают целые сообщества, которые существуют годами. К примеру, взрослые игроки много лет подряд соревнуются, кого быстрее забанят за мат в детской игре Club Penguin.
