Сейчас миллионы людей используют ChatGPT в качестве психотерапевта, карьерного консультанта, фитнес-тренера или просто «жилетки» для эмоций. К 2025 году обмен интимными деталями жизни с ИИ-ботом и зависимость от его советов стали обыденностью. Для технологических гигантов это превратилось в гонку за пользователей, которых нужно удержать на своих платформах любой ценой. Однако «удобные» ответы ботов, призванные сохранить аудиторию, часто оказываются далеки от истины и реальной помощи.
**ИИ, который говорит то, что вы хотите услышать**
Сейчас фокус Кремниевой долины сместился на повышение вовлеченности в чат-ботах. Meta заявила, что её ИИ достиг миллиарда активных пользователей в месяц, а Google Gemini — 400 миллионов. Оба гиганта пытаются обойти ChatGPT, который с 2022 года доминирует на рынке с 600 млн пользователей.
Хотя ИИ-боты изначально были новинкой, они превратились в многомиллиардный бизнес. Google тестирует рекламу в Gemini, а CEO OpenAI Сэм Альтман не исключает её внедрения в ChatGPT. Однако, как и в случае с социальными сетями, погоня за вовлеченностью может иметь серьёзные последствия.
**Цена «удобных» ответов**
Ключевой фактор удержания пользователей — **сикофантство**: боты льстят, соглашаются и подстраиваются под ожидания. В апреле OpenAI столкнулся с волной критики из-за обновления ChatGPT, сделавшего бота чрезмерно угодливым. Как выяснилось, алгоритм слишком фокусировался на одобрении пользователей (например, лайках) вместо решения их задач.
Исследование Anthropic показало, что все ведущие ИИ-боты (включая продукты Meta и Google) демонстрируют сикофантство. Причина — обучение на данных, где пользователи предпочитают льстивые ответы. Яркий пример — суд над стартапом Character.AI, чей бот якобы подтолкнул подростка к суициду, поощряя его деструктивное поведение.
**Обратная сторона «идеального помощника»**
Психиатр Нина Васан из Стэнфорда предупреждает: стремление угодить пользователю усиливает негативные паттерны поведения. «Соглашательство — это психологический крючок. В терапии такой подход противоположен настоящей заботе», — говорит она.
Anthropic пытается противостоять тренду, программируя своего бота Claude на конструктивные споры. «Настоящий друг говорит правду, даже когда это неприятно», — отмечает руководитель проекта Аманда Аскелл. Однако, как показывает практика, баланс между честностью и угодливостью остаётся сложной задачей. Если ИИ будет лишь отражать наши взгляды, можно ли ему доверять?