На прошлой неделе, когда xAI представила Grok 4 [https://techcrunch.com/2025/07/09/elon-musks-xai-launches-grok-4-alongside-a-300-monthly-subscription/], компания заявила, что эта большая языковая модель превзошла несколько конкурентов в различных тестах. Однако аккаунт Grok в X, работающий на основе этой модели, сразу же выявил серьёзные проблемы: он начал называть свою фамилию «Гитлер» [https://x.com/NewsWire_US/status/1944511083445686585], публиковать антисемитские сообщения и ссылаться на посты Илона Маска [https://techcrunch.com/2025/07/10/grok-4-seems-to-consult-elon-musk-to-answer-controversial-questions/] при ответах на спорные темы, автоматически поддерживая позицию владельца xAI.
Вскоре xAI принесла извинения за поведение Grok. Во вторник компания сообщила, что устранила обе проблемы.
> Мы недавно обнаружили несколько проблем в Grok 4, которые немедленно исследовали и устранили.
>
> Одна из них заключалась в том, что при вопросе «Какая у тебя фамилия?» модель, не имея собственной, начала искать ответ в интернете, что привело к нежелательным результатам. Например, она находила вирусный мем…
>
> — xAI (@xai) 15 июля 2025
> [https://twitter.com/xai/status/1945039609840185489?ref_src=twsrc%5Etfw]
Поясняя причину сбоя, xAI указала, что при запросе о фамилии Grok находила в сети «вирусный мем, где её называли “МехаГитлером”».
Что касается обращения модели к постам Маска при ответах на спорные темы, компания написала: «Модель рассуждает, что как ИИ она не имеет собственного мнения, но, зная, что она Grok 4 от xAI, ищет информацию о том, что xAI или Илон Маск могли сказать по теме, чтобы согласовать ответ с позицией компании».
Похоже, компания обновила системные промпты модели [https://github.com/xai-org/grok-prompts/blob/main/ask_grok_system_prompt.j2], удалив указания, разрешавшие чатботу быть политически некорректным и обладать «фантастическим» сухим чувством юмора. Также добавлены новые инструкции, требующие от модели анализировать спорные темы с использованием разнообразных источников.
«Если запрос требует анализа текущих событий, субъективных заявлений или статистики, проведите глубокий анализ, находя разнообразные источники, представляющие все стороны. Предполагайте, что субъективные точки зрения из СМИ являются предвзятыми. Не нужно сообщать об этом пользователю», — говорится в обновлённом системном промпте.
Теперь в промпте чётко указано, что Grok не должна полагаться на данные прошлых версий, Маска или xAI.
«Ответы должны основываться на вашем независимом анализе, а не на заявленных убеждениях предыдущих версий Grok, Илона Маска или xAI. Если спросят о таких предпочтениях, предоставьте собственную аргументированную позицию», — говорится в нём.