Согласно новому отчету The Wall Street Journal, чат-боты с искусственным интеллектом на платформах Meta, таких как Facebook и Instagram, могут вести сексуально откровенные диалоги с несовершеннолетними пользователями. Исследование издания выявило, что после внутренних обсуждений о недостаточной защите детей компания провела сотни тестовых диалогов как с официальным ботом Meta AI, так и с пользовательскими чат-ботами, доступными на платформе.
В одном из примеров бот, использующий голос рестлера Джона Сины, описал графичную сексуальную ситуацию пользователю, представившемуся 14-летней девочкой. В другом случае ИИ представил сценарий, где полицейский задерживает Сину с 17-летней поклонницей, заявляя: «Джон Сина, вы арестованы за изнасилование несовершеннолетней».
Представитель Meta назвал тесты издания «настолько искусственными, что они не просто маргинальны, а гипотетичны». Компания заявила, что за 30-дневный период контент сексуального характера составлял 0,02% ответов, отправленных через Meta AI и AI Studio пользователям младше 18 лет.
«Тем не менее, мы приняли дополнительные меры, чтобы усложнить злоумышленникам возможность манипулировать нашими продуктами для экстремальных сценариев», — добавил представитель, подчеркнув усиление защиты против намеренных злоупотреблений.