Это похоже на начало хоррора XXI века: ваша история браузера всё это время была публичной, а вы и не подозревали. Именно такое ощущение возникает сейчас в новом автономном приложении Meta AI, где толпы пользователей невольно публикуют свои якобы приватные диалоги с чат-ботом.
Когда вы задаёте вопрос ИИ, появляется кнопка «поделиться» — она перенаправляет на экран с превью поста, который можно опубликовать. Однако многие пользователи, судя по всему, блаженно не осознают, что публикуют текстовые беседы, аудиозаписи и изображения для всеобщего обозрения.
Проснувшись сегодня утром, я не ожидала услышать аудиозапись мужчины с южным акцентом, спрашивающего: «Эй, Meta, почему одни пуки воняют сильнее других?»
Но вопросы о метеоризме — мелочь по сравнению с другими проблемами. В приложении я видела запросы о помощи в уклонении от налогов, вопросах об аресте родственников из-за причастности к white-collar преступлениям, просьбы составить рекомендательное письмо для сотрудника, замешанного в правовых проблемах — с указанием его полного имени. Эксперт по безопасности Рэйчел Тобак обнаружила примеры публикации домашних адресов пользователей и конфиденциальных судебных деталей.
Представитель Meta отказался от комментариев по запросу TechCrunch.
Три скриншота из приложения: первый показывает запрос на изображение Марка Цукерберга с беременным животом, женившегося на насекомом; второй — вопрос о красных шишках на внутренней стороне бедра; третий — генерацию изображения Гоку, празднующего День России.
Совершали ли вы преступление или беспокоитесь о странной сыпи — это кошмар для конфиденциальности. Meta не информирует пользователей о настройках приватности при публикации или даже о месте размещения контента. Если вы вошли через публичный аккаунт Instagram, то ваши поиски «женщин с большой попой» тоже станут достоянием общественности.
Этого можно было избежать, если бы Meta не выпустила приложение с абсурдной идеей, что люди захотят читать чужие диалоги с ИИ, или если бы кто-то предвидел проблематичность такой функции. Неслучайно Google никогда не превращал поисковик в ленту соцсети — или почему публикация анонимизированных поисковых запросов AOL в 2006 году обернулась катастрофой.
Согласно данным аналитической компании Appfigures, приложение Meta AI скачали всего 6,5 млн раз с момента запуска 29 апреля. Для стартапа это успех, но речь не о нишевой игре независимого разработчика — это продукт одной из самых богатых компаний мира, вложившей в технологию миллиарды долларов.
С каждым секундой безобидные на первый взгляд запросы в Meta AI приближаются к вирусному скандалу. За считанные часы в приложении множатся явные троллинговые посты: кто-то публикует резюме с просьбой найти работу в кибербезопасности, аккаунт с аватаркой Пепе-лягушонка спрашивает, как сделать бонг из бутылки.
Если Meta хотела привлечь внимание к своему ИИ-приложению — публичный компромат на пользователей определённо стал эффектным способом.