Сайт французского сообщества разработчиков Developpez.com опубликовал отчёт, в котором говорится, что агент ChatGPT от OpenAI успешно обошёл систему проверки Cloudflare Turnstile. Эта система обычно используется для остановки автоматизированного трафика на веб-сайтах.
Во время теста, проведённого при выполнении рутинной задачи по конвертации видео, агент искусственного интеллекта достаточно убедительно имитировал поведение человека, чтобы пройти шаг проверки «Я не робот» незамеченным.
Исследователи говорят, что демонстрация подчёркивает растущую проблему: по мере того как искусственный интеллект становится всё более искусным в имитации действий человека в интернете, цифровых барьеров, предназначенных для исключения автоматических ботов, может оказаться недостаточно.
Как ИИ обошёл систему безопасности Cloudflare?
Проверка Cloudflare Turnstile не ограничивается только головоломками. Она анализирует ряд поведенческих и технических сигналов: движения мыши, время кликов, отпечатки браузера, репутацию IP-адреса и даже то, как выполняется JavaScript на странице. Если что-то выглядит подозрительно, система запускает более традиционный тест с изображением CAPTCHA.
В данном случае агент ChatGPT, запущенный OpenAI, успешно имитировал это едва уловимое поведение, чтобы избежать дальнейшего контроля. Скриншоты, опубликованные пользователем Reddit «logkn», показывают, как ИИ беспрепятственно проходит проверку. Агент, который объединяет оператора OpenAI (для взаимодействия с веб-сайтами) и глубокие исследования (для сложных задач), даже комментировал процесс в режиме реального времени. В какой-то момент он написал: «Этот шаг необходим, чтобы доказать, что я не робот», — одновременно незаметно минуя проверку.
Системы CAPTCHA уже находятся под давлением
Это не первый раз, когда искусственный интеллект обходит системы CAPTCHA. В сентябре 2024 года исследователи опубликовали в arXiv результаты, показывающие, что модель искусственного интеллекта, использующая технологию распознавания изображений YOLO (You Only Look Once), может решать задачи reCAPTCHA v2 от Google со 100% точностью.
Системы, которые эволюционировали от простых текстовых тестов в 1990-х годах до сегодняшнего поведенческого анализа, теперь демонстрируют уязвимости. Проблема усугубляется тем, что системы CAPTCHA стали вызывать раздражение у людей. В то время как боты искусственного интеллекта могут теперь проходить проверку за миллисекунды, реальные пользователи часто застревают, идентифицируя размытые светофоры или пешеходные переходы.
«Инструменты, предназначенные для исключения машин, всё чаще наказывают людей», — говорит аналитик по безопасности Джеймс Картрайт.
Что это значит для будущего онлайн-безопасности?
Более серьёзная проблема заключается в том, что если такие инструменты искусственного интеллекта, как агент ChatGPT, смогут последовательно обходить проверки безопасности, веб-сайты могут стать более уязвимыми для сбора данных, спама и целевых атак. Многие компании полагаются на системы типа CAPTCHA как на первую линию защиты от автоматизированных угроз.
Эксперты предупреждают, что гонка вооружений между мерами безопасности и искусственным интеллектом только усиливается. Некоторые компании уже экспериментируют с альтернативами, такими как анализ поведения или аутентификация на основе устройств, но ни одна из них не оказалась панацеей.
По мере того как инструменты искусственного интеллекта становятся всё более совершенными, баланс между удобством пользователей и онлайн-безопасностью может стать ещё более хрупким.