Google создала новые бесплатные инструменты на базе ИИ для борьбы с распространением материалов сексуального характера с изображением детей

Оперативное обнаружение и удаление материалов сексуального насилия над детьми (Child Sexual Abuse Material – CSAM) является приоритетом для крупнейших интернет-компаний. Однако эта работа нелёгкая, как морально, так и физически. Вот почему компания Google выпустила бесплатное программное обеспечение на основе ИИ, предназначенное для помощи в поиске соответствующего материала.Существующие технические решения в основном работают путём сопоставления изображений и видеороликов с каталогом запрещённого или неправомерного контента. Наиболее известным примером является разработанный компанией Microsoft инструмент под названием PhotoDNA, который используют Facebook и Twitter. Он отлично справляется с уже известным контентом, но не может идентифицировать материал, отсутствующий в базе. Этим занимаются модераторы, которые самостоятельно его просматривают и блокируют вручную.Используя машинное обучение, новое программное обеспечение от Google сортирует изображения и видео, выделяя вероятный CSAM-контент. Как отмечают в компании, во время тестирования данный инструмент ускорил поиск и обработку данных в 7 раз. Фред Лэнгфорд (Fred Langford), заместитель генерального директора организации Internet Watch Foundation (IWF), считает, что такие инструменты существенно облегчают работу организаций с ограниченными ресурсами, вынужденными обходиться человеческой силой. Он также добавил, что это большой шаг на пути к полностью автоматизированным системам, способным идентифицировать ранее неизвестный им контент без взаимодействия с человеком.Источники: The Verge и GoogleIWF – крупнейшая организация, занимающаяся надзором за интернетом. Одна из главных её задач – предотвращение распространения материалов сексуального насилия над детьми. Организация финансируется за счёт благотворительных взносов крупных международных технологических компаний, в том числе и Google, сотрудничает с правоохранительными органами и правительством. В IWF уже подтвердили, что в ближайшее время приступают к тестированию нового инструмента Google..post-facts{margin:20px 0 15px 0;padding:15px 0 15px 23px;margin-bottom:0;border-top:1px solid #ddd;border-bottom:1px solid #ddd.post-facts li{position:relative.post-facts li:after{content:"";display:block;width:8px;height:8px;background-color:#40b8f2;transform:rotate(45deg);position:absolute;left:-20px;top:7px.post-facts li+li{margin-top:4px

Также по теме: