Meta подала в суд на создателя популярного приложения для создания дипфейков с обнажением Crush AI, которое, по данным компании, разместило тысячи рекламных объявлений на её платформах. Помимо судебного иска, Meta объявила о новых мерах по борьбе с подобными сервисами.
В иске, поданном в Гонконге, Meta обвинила компанию Joy Timeline HK, стоящую за Crush AI, в попытках обойти процедуру модерации для распространения рекламы услуг по созданию «обнажёнки» с помощью ИИ. В официальном блоге Meta заявила, что неоднократно удаляла нарушающие политику объявления, но Joy Timeline HK продолжала создавать новые.
По данным автора рассылки Faked Up Алексиоса Манцарлиса, Crush AI, использующее генеративный ИИ для создания поддельных порнографических изображений реальных людей без их согласия, запустило более 8 000 рекламных объявлений своих услуг на платформах Meta в первые две недели 2025 года. В январском отчёте Манцарлис отметил, что около 90% трафика сайтов Crush AI поступало из Facebook или Instagram, и сообщил, что лично сообщил Meta о нескольких таких ресурсах.
Создатели Crush AI обходили систему проверки рекламы Meta, создавая десятки рекламных аккаунтов и регулярно меняя доменные имена. Многие из этих аккаунтов, по словам Манцарлиса, назывались «Eraser Annyone’s Clothes» с добавлением цифр. В какой-то момент у Crush AI даже была официальная страница в Facebook, продвигавшая сервис.
Проблема не ограничивается Meta. Социальные сети, включая X и TikTok, также столкнулись с трудностями в модерации контента, создаваемого ИИ-инструментами, особенно в контексте защиты несовершеннолетних.
Исследователи зафиксировали всплеск ссылок на приложения для «снятия одежды» с помощью ИИ в 2024 году на платформах вроде X, Reddit и YouTube. В ответ Meta и TikTok запретили поиск по ключевым словам, связанным с такими сервисами, но полностью искоренить их не удалось.
В блоге Meta сообщила о разработке технологии для выявления рекламы ИИ-сервисов по обнажению «даже при отсутствии откровенного контента в самих объявлениях». Компания использует алгоритмы для быстрого удаления копий уже заблокированной рекламы и расширила список запрещённых терминов, фраз и эмодзи.
Кроме того, Meta применяет методы борьбы с злоумышленниками к сетям аккаунтов, продвигающих подобные сервисы. С начала 2025 года компания заблокировала четыре такие сети.
За пределами своих платформ Meta начала делиться данными об ИИГ̶-приложениях через программу Lantern Tech Coalition — совместную инициативу Google, Meta, Snap и других компаний для борьбы с детской эксплуатацией. С марта Meta предоставила этой сети более 3 800 уникальных URL.
На законодательном уровне Meta заявила о поддержке инициатив, позволяющих родителям контролировать загрузку приложений их детьми. Компания ранее одобрила американский закон Take It Down Act и сейчас работает над его реализацией.
Techcrunch event
SAVE $200+ ON YOUR TECHCRUNCH ALL STAGE PASS
BUILD SMARTER. SCALE FASTER. CONNECT DEEPER. JOIN VISIONARIES FROM PRECURSOR VENTURES, NEA, INDEX VENTURES, UNDERSCORE VC, AND BEYOND FOR A DAY PACKED WITH STRATEGIES, WORKSHOPS, AND MEANINGFUL CONNECTIONS.
SAVE $200+ ON YOUR TECHCRUNCH ALL STAGE PASS
BUILD SMARTER. SCALE FASTER. CONNECT DEEPER. JOIN VISIONARIES FROM PRECURSOR VENTURES, NEA, INDEX VENTURES, UNDERSCORE VC, AND BEYOND FOR A DAY PACKED WITH STRATEGIES, WORKSHOPS, AND MEANINGFUL CONNECTIONS.
Boston, MA | July 15
REGISTER NOW
[https://techcrunch.com/events/techcrunch-all-stage-2025/?utm_source=tc&utm_medium=ad&utm_campaign=tcallstage2025&utm_content=ticketsales&promo=rb_inline&display=]