Для борьбы с сексуальным насилием над детьми компания Google создал специальный сайт protectingchildren.google. Он предназначен для представителей общественных организаций, правоохранительных органов и правительств, с которыми Google сотрудничает с целью защиты детей в интернете. Отныне сайт доступен также на украинском языке.

Чем полезен ресурс

На сайте собрана информация о программах и инструментах, которые позволяют выявлять и блокировать материалы с изображением сексуального насилия над детьми и рекомендации по борьбе с этим явлением.

“Наша цель – направлять собственные технические знания на разработку и бесплатное распространение технологий, которые помогут организациям выявлять и удалять материалы с изображением сексуального насилия над детьми, а также помочь этим организациям улучшить свои технические возможности для борьбы с сексуальным насилием над детьми в интернете”, – говорится в описании проекта.

Инструменты

Content Safety API использует искусственный интеллект, чтобы помогать организациям лучше сортировать по приоритету материалы с изображением сексуального насилия над детьми. Таким специалистам приходится обрабатывать десятки тысяч подобных изображений.

“Если рассмотрение одного изображения занимает 10 секунд, за неделю работник сможет проверить только 14 400 изображений и найти среди них 1070 нарушений. Благодаря Content Safety API, который сортирует материал по приоритету, за это же время можно будет найти 7000 изображений с сексуальным насилием над детьми. Эффективность вырастет на 700%”, – поясняют в компании.

Чтобы начать использовать сервис Content Safety API, нужно зарегистрироваться и заполнить форму заявки на сайте.

Функция поиска сцен сексуального насилия над детьми – эту технологию разработала команда YouTube. Она использует совпадения хеша, чтобы выявлять известный контент с нарушениями, и позволяет находить такой тип контента среди большого количества видео без нарушений. Когда обнаруживается нарушение, его обозначают для партнеров, чтобы те могли пожаловаться на такой контент в соответствии с местными законами и нормами.