Агенты на базе больших языковых моделей (LLM) стали достаточно мощными, чтобы справляться со сложными задачами, начиная от веб-исследований и создания отчётов и заканчивая анализом данных и многошаговыми рабочими процессами в программном обеспечении. Однако они испытывают трудности с процедурной памятью, которая сегодня часто жёстко запрограммирована, разработана вручную или «зашита» в весах моделей. Это делает их уязвимыми: неожиданные события, такие как сбои в сети или изменения пользовательского интерфейса, могут привести к необходимости полного перезапуска.
В отличие от людей, которые учатся, используя прошлый опыт в виде рутинных действий, современные агенты LLM не имеют систематического способа создания, усовершенствования и повторного использования процедурных навыков. Существующие платформы предлагают абстракции, но оставляют оптимизацию жизненных циклов памяти в значительной степени нерешённой.
Память играет решающую роль в языковых агентах, позволяя им вспоминать прошлые взаимодействия в краткосрочном, эпизодическом и долгосрочном контекстах. Хотя текущие системы используют такие методы, как векторные вложения, семантический поиск и иерархические структуры для хранения и извлечения информации, эффективное управление памятью, особенно процедурной, остаётся сложной задачей.
Исследователи из Чжэцзянского университета и Alibaba Group представляют Memp — платформу, разработанную для предоставления агентам адаптивной процедурной памяти на протяжении всей жизни. Memp преобразует прошлые траектории в подробные пошаговые инструкции и скрипты более высокого уровня, предлагая стратегии для построения, извлечения и обновления памяти. В отличие от статических подходов, он постоянно совершенствует знания посредством добавления, проверки, рефлексии и отказа от устаревших данных, обеспечивая актуальность и эффективность.
Тестирование на ALFWorld и TravelPlanner показало, что Memp последовательно повышает точность, сокращает ненужные исследования и оптимизирует использование токенов. Примечательно, что память, созданная более сильными моделями, эффективно передавалась более слабым, повышая их производительность. Это показывает, что Memp позволяет агентам учиться, адаптироваться и обобщать знания в различных задачах.
Тенденции в области кибербезопасности на основе ИИ: что формирует 2025 год? Лучшие инструменты для обеспечения кибербезопасности на основе ИИ
Гонка вооружений в сфере безопасности искусственного интеллекта (ИИ) идёт полным ходом. По мере усложнения киберугроз организации переосмысливают стратегии защиты, отводя искусственному интеллекту центральную роль.
1. Обнаружение угроз на основе ИИ и автоматизированные ответы.
Времена разрозненных средств обеспечения безопасности и медленного ручного вмешательства ушли в прошлое. Современная кибербезопасность опирается на модели глубокого обучения, которые анализируют поведение пользователей, устройств и сетей на предмет аномалий в режиме реального времени. Эти системы снижают количество ложных срабатываний и мгновенно реагируют на подозрительную активность, позволяя командам безопасности перейти от реактивного тушения пожаров к проактивной защите.
2. Рост автоматизированных операций SOC.
Центры операций безопасности (SOC) переживают революцию: агентский ИИ берёт на себя рутинный мониторинг, сортировку и реагирование на инциденты. Однообразные оповещения и повторяющиеся расследования передаются автоматизированным агентам, освобождая человеческих аналитиков для стратегической работы. Результат — более быстрое смягчение последствий и значительно более эффективное распределение ресурсов даже во время всплесков атак с большим объёмом.
3. Адаптивные, контекстно-зависимые средства защиты.
Статических правил и общих элементов управления доступом уже недостаточно. Ведущие системы защиты используют ИИ для анализа контекста в реальном времени — например, идентификатора пользователя, состояния устройства, местоположения и недавней активности — перед предоставлением доступа или реагированием на инциденты. Это значительно укрепляет модели Zero Trust, помогая предотвратить злоупотребление привилегиями и боковое перемещение способами, которые не могут обычные решения.
4. Прогностический интеллект для безопасности нового поколения.
Зачем ждать атаки, если её можно предсказать? Инструменты ИИ теперь сканируют глобальные данные об угрозах, чтобы не только выявлять уязвимости, но и фактически предвидеть будущие тактики и пути атак. Эти прогностические системы информируют архитекторов безопасности о возникающих рисках, позволяя им усилить защиту до того, как злоумышленники нанесут удар.
5. Выявление атак, сгенерированных ИИ.
Фишинговые письма, поддельные голосовые звонки, дипфейки — это новые орудия социальной инженерии. Команды безопасности теперь используют решения на основе ИИ, специально разработанные для выявления и перехвата синтетического контента в различных форматах. Мультимодальная проверка стала стандартом, переломив ситуацию с продвинутым мошенничеством и попытками выдать себя за других.
6. Zero Trust становится умнее.
Zero Trust — это не просто отказ в доступе, это непрерывная, интеллектуальная проверка. ИИ ускоряет политики Zero Trust, создавая динамическое управление доступом, которое адаптируется к реальному поведению и контексту. Это означает, что подозрительные действия помечаются за миллисекунды, а доверенный доступ постоянно пересматривается, а не предоставляется постоянно.
7. Защита LLM с помощью трассировки источников.
Генеративный ИИ добавляет ещё один уровень риска — галлюцинации, внедрение запросов и несанкционированный вывод. Инновации, такие как RAG-Verification (Retrieval-Augmented Generation), обеспечивают трассировку источников и гарантии для контента, созданного с помощью ИИ. Это гарантирует, что важные решения, принимаемые с помощью LLM или при их участии, подкреплены проверяемыми данными.
Лучшие инструменты для обеспечения кибербезопасности на основе ИИ в 2025 году:
* AccuKnox AI CoPilot. Специализируется на безопасности в облаке и Kubernetes, используя eBPF-видимость во время выполнения и генеративный ИИ для автоматической генерации политик, обеспечения соответствия требованиям и реализации нулевой доверия.
* SentinelOne Singularity XDR. Обеспечивает обнаружение угроз на основе ИИ, анализ поведения в реальном времени и автоматизированные ответы для конечных точек, сетей и облачных рабочих нагрузок, помогая снизить утомляемость от оповещений и масштабировать операции SOC.
* CrowdStrike Falcon Cloud Security. Обеспечивает расширенную защиту от угроз на базе ИИ для конечных точек и облачных сред, известен своим обнаружением в режиме реального времени, быстрым развёртыванием и беспроблемной интеграцией.
* Torq HyperSOC. Агентская платформа автоматизации SOC на базе ИИ, которая включает ИИ-агентов для обогащения, проверки пользователей и устранения неполадок, обеспечивая гиперавтоматизацию в масштабе предприятия.
* Microsoft Security Copilot. Интегрирует генеративный ИИ и решения Microsoft для обеспечения безопасности, чтобы автоматизировать реагирование на инциденты, расследования и мониторинг сети с помощью рабочих процессов, управляемых естественным языком.
* Fortinet FortiAI. Анализ угроз на основе машинного обучения для трафика, конечных точек и журналов, обеспечивает оперативное устранение неполадок, интеграцию с песочницей и управление пользователями по политикам.
* Deep Instinct. Использует глубокое обучение для расширенной защиты от вредоносных программ и программ-вымогателей, уделяя особое внимание обнаружению угроз нулевого дня и защите конечных точек.
* Radiant Security SOC Automation. Полностью автономная платформа автоматизации SOC с триажем оповещений без использования плейбуков, расследованием, устранением неполадок и непрерывным обучением для адаптивной безопасности.
* Zscaler Cloud Security. Облачный защищённый веб-шлюз на базе ИИ и нулевой доступ к сети; предлагает CASB, ZTNA, SWG и защиту SaaS для распределённых сред.
Эти платформы представляют собой передовой опыт использования ИИ для обнаружения, предотвращения, реагирования, автоматизации SOC, защиты облачных рабочих нагрузок и обеспечения безопасности Zero Trust в 2025 году.
Суть в том, что будущее кибербезопасности — это быстроразвивающаяся, автоматизированная и контекстно-зависимая система. По мере расширения поверхностей атак (особенно в сфере ИИ) стратегии защиты должны развиваться, чтобы не отставать. Интеграция этих инструментов и методов на основе ИИ — это не просто модернизация, это необходимый щит для современного цифрового предприятия.
1. Какие проблемы решает платформа Memp для агентов на базе больших языковых моделей (LLM)?
Платформа Memp разработана для предоставления агентам адаптивной процедурной памяти на протяжении всей жизни. Она преобразует прошлые траектории в подробные пошаговые инструкции и скрипты более высокого уровня, предлагая стратегии для построения, извлечения и обновления памяти.
2. Какие тенденции в области кибербезопасности на основе ИИ описаны в статье?
В статье описаны следующие тенденции:
* Обнаружение угроз на основе ИИ и автоматизированные ответы.
* Рост автоматизированных операций SOC.
* Адаптивные, контекстно-зависимые средства защиты.
* Прогностический интеллект для безопасности нового поколения.
* Выявление атак, сгенерированных ИИ.
* Zero Trust становится умнее.
* Защита LLM с помощью трассировки источников.
3. Какие инструменты для обеспечения кибербезопасности на основе ИИ упомянуты в статье?
В статье упомянуты следующие инструменты:
* AccuKnox AI CoPilot.
* SentinelOne Singularity XDR.
* CrowdStrike Falcon Cloud Security.
* Torq HyperSOC.
* Microsoft Security Copilot.
* Fortinet FortiAI.
* Deep Instinct.
* Radiant Security SOC Automation.
* Zscaler Cloud Security.
4. Какие задачи решают инструменты для обеспечения кибербезопасности на основе ИИ?
Инструменты для обеспечения кибербезопасности на основе ИИ решают следующие задачи:
* Обнаружение угроз и автоматизированные ответы.
* Мониторинг, сортировка и реагирование на инциденты в SOC.
* Анализ контекста в реальном времени для предоставления доступа или реагирования на инциденты.
* Прогнозирование будущих тактик и путей атак.
* Выявление синтетического контента в различных форматах.
* Динамическое управление доступом, которое адаптируется к реальному поведению и контексту.
* Обеспечение трассировки источников и гарантий для контента, созданного с помощью LLM.