Как отличить изображения, созданные ИИ, с помощью помощи Google
Отличить изображения, созданные ИИ, от реальных фотографий и иллюстраций, созданных людьми, становится всё сложнее. В последние годы подделки, созданные моделями ИИ, стали намного реалистичнее и убедительнее. Однако это не значит, что отличить такие изображения невозможно: есть признаки, на которые стоит обратить внимание, проверки, которые можно провести, и инструменты, которые помогут отличить подлинное от синтетического.
**Использование инструментов для обнаружения ИИ**
Некоторые чат-боты теперь ставят скрытые водяные знаки на свои выходные изображения, идентифицируя их как созданные ИИ. Хотя эти водяные знаки несложно удалить — достаточно сделать скриншот изображения — они являются хорошим местом для начала, когда нужно определить, было ли изображение создано ИИ.
Всё, что создано Google Gemini, например, будет содержать так называемый водяной знак SynthID, встроенный где-нибудь в нём. Чтобы проверить подлинность изображения, вы можете загрузить картинку в Gemini в Интернете и просто спросить: «Было ли это изображение создано ИИ?» Gemini сможет найти водяной знак SynthID, если он есть.
Google’s SynthID можно использовать для маркировки контента, созданного ИИ. Изображение: Google
Существует ещё один стандартный способ маркировки изображений, созданных ИИ, который разработан Коалицией за происхождение и подлинность контента (C2PA): сама маркировка называется C2PA, и её поддерживают такие компании, как OpenAI, Adobe и Google. Если вы зайдете на веб-сайт проверки C2PA, например, на Content Credentials, вы можете загрузить изображение и получить его анализ на предмет доказательств создания ИИ.
Если изображение проходит эти проверки, это не гарантия того, что оно подлинное, но всё равно стоит их провести, потому что они выявят некоторые генерации ИИ и даже в большинстве случаев скажут, какая модель использовалась для создания картинки. Если вы всё ещё не уверены, вы можете перейти к рассмотрению контекста вокруг изображения.
**Проверка контекста**
Ни одно изображение не является изолированным: оно откуда-то пришло и было кем-то поделено. Вы можете положиться на уважаемые издания (такие как то, которое вы читаете), чтобы они честно маркировали изображения, созданные ИИ, и должным образом атрибутировали другие изображения, которые этого не делали. Вы будете точно знать, на что смотрите.
В социальных сетях, конечно, границы гораздо более размыты. Здесь контент публикуется и репостится без контекста или атрибуции, и гораздо более вероятно, что что-то в Facebook или X было подделано.
Ещё один трюк, который вы можете попробовать, особенно когда речь идёт об изображениях, связанных с новостями, — это поиск дополнительных изображений, снятых под разными углами. Соответствуют ли изображения друг другу? Совпадают ли детали с разных точек зрения и в разные периоды времени? Для иллюстраций и графики вы можете снова проверить, были ли применены какие-либо кредиты: посмотрите, есть ли у того, что вы смотрите, ссылка на художника и его портфолио.
Обратный поиск по изображению иногда может показать, откуда оно взялось, и помочь вам найти другие копии в Интернете: TinEye, пожалуй, лучший ресурс для этого. Если других совпадений нет, это указывает на ИИ — особенно если оно было опубликовано без контекста в социальных сетях и особенно через аккаунт, пытающийся монетизировать или что-то продать.
**Ищите признаки**
Мы знаем, что ИИ-боты на самом деле не делают никаких фотографий и не рисуют картинки: они создают аппроксимации изображений на основе подсказок и своих обучающих данных (которые представляют собой огромные объёмы творческой работы, проделанной людьми). Такой подход может привести к определённому общему блеску, который выдаёт многое из контента, созданного ИИ.
Аниме-персонажи выглядят как типичные аниме-персонажи, деревья выглядят как типичные деревья, а городские улицы выглядят как типичные городские улицы. Существует даже узнаваемый шрифт ChatGPT, к которому бот ИИ возвращается всякий раз, когда вы просите какой-нибудь текст без какого-либо конкретного стиля — как среднее значение всех когда-либо созданных шрифтов — и вы узнаете его, если попробуете создать несколько картинок с текстом в ChatGPT.
Физика всё ещё является проблемой, хотя ошибки уже не так вопиющи, как раньше. Попробуйте визуализировать вид на замок или интерьер огромного офисного здания в боте ИИ, и вы заметите, что башенки появляются в бессмысленных местах, лестницы ведут в никуда, а двери лифта на самом деле не ведут к лифтам. Часто встречаются логические несоответствия, потому что ИИ на самом деле не понимает зданий или внутреннего пространства, а только то, как создать достойную симуляцию их в визуальной форме.
Мы можем быть в прошлом с шестью пальцами на руках, но лица и конечности регулярно выглядят сплющенными и неестественными, а детали часто размыты и расплывчаты. Иногда эти проблемы будет легче обнаружить, чем другие, но с небольшой практикой и несколькими тестовыми рендерами вы должны научиться лучше их определять.