Google решила бороться с ИИ-порно

Компания Google объявила о крупных изменениях в своей политике для борьбы с растущим числом сексуально откровенных дипфейков. Эта мера стала ответом на недавно принятый Сенатом США законопроект, направленный на ограничение распространения такого контента. Теперь Google будет использовать двухступенчатый подход для предотвращения появления дипфейков в поисковых результатах.

Компания улучшила свою систему для удаления вредоносного контента. Как работает новая система определения дипфейков:

Система анализирует изображение и проверяет, настоящее оно или нет, содержит ли оно откровенный контент и было ли оно распространено с согласием человека, который изображен на этой картинке.

После того, как поисковик подтверждает, что на картинке изображены эротика или порнография, сгенерированные с помощью нейросети, программа будет удалять все похожие картинки и дубликаты.

Также обновлена система ранжирования, чтобы сократить появление откровенного контента в поисковых результатах. Для запросов, которые дают много неподобающих результатов, поисковая система будет показывать больше неоткровенного контента, такого как новостные статьи. Google утверждает, что эти обновления помогли уменьшить количество дипфейков на более чем 70%, хотя точные данные по этому поводу не предоставлены.

Кроме того, внедрена система мониторинга: веб-сайты, которые получают много флагов для удаления откровенного контента, могут быть понижены в результатах поиска. Это означает, что сайты с большим количеством удалений будут менее видны в поисковой выдаче.

Эти меры, хотя и не столь масштабные, помогают жертвам дипфейков и порномести бороться с нарушениями. Усилия Google, вместе с возможными новыми регуляциями от других компаний в области ИИ, могут уменьшить необходимость правительственного вмешательства в эту проблему.