В этом руководстве мы реализуем систему управления с участием двух агентов, которая применяет принципы Конституционного ИИ в финансовых операциях. Мы демонстрируем, как разделяем выполнение задач и надзор, объединяя агента-исполнителя (Worker Agent), который выполняет финансовые действия, с агентом-аудитором (Auditor Agent), который обеспечивает соблюдение политик, безопасность и соответствие требованиям.
Основные компоненты системы
1. Worker Agent — выполняет финансовые запросы.
2. Auditor Agent — проверяет соответствие действий Worker Agent конституционным правилам.
3. Constitution — набор правил, регулирующих поведение агентов.
Принципы работы
- Правила управления кодируются напрямую в формальной конституции.
- Проверки на основе правил сочетаются с рассуждениями при помощи ИИ.
- Системы становятся самонастраивающимися, поддаются аудиту и устойчивы к рискованному или несоответствующему поведению в финансовых рабочих процессах с высокими ставками.
Пример кода
«`python
import json
import re
from typing import List, Dict, Any, Optional, Literal
from pydantic import BaseModel, Field, validator
from enum import Enum
from datetime import datetime
import os
«`
«`python
class PolicyViolationType(str, Enum):
«»»Типы нарушений политик»»»
PIIEXPOSURE = «piiexposure»
BUDGETEXCEEDED = «budgetexceeded»
UNAUTHORIZEDACTION = «unauthorizedaction»
MISSINGJUSTIFICATION = «missingjustification»
SUSPICIOUSPATTERN = «suspiciouspattern»
«`
Демонстрация работы системы
Мы запускаем демонстрационные примеры, чтобы показать, как система работает в различных сценариях. Примеры включают безопасные транзакции, транзакции с утечкой конфиденциальной информации и транзакции, превышающие бюджет.
Результаты
- Пример 1: безопасная транзакция ($2500) — одобрена.
- Пример 2: транзакция с утечкой конфиденциальной информации ($7500) — отклонена.
- Пример 3: транзакция, превышающая бюджет ($15 000) — отклонена.
Заключение
В этом руководстве мы продемонстрировали, как спроектировать самонастраивающиеся системы управления с участием двух агентов на основе Конституционного ИИ для безопасных и соответствующих требованиям финансовых операций. Мы показали, как обнаруживать и реагировать на утечку конфиденциальной информации, перерасход бюджета и отсутствие обоснований, количественно оценивая риски и обеспечивая соблюдение жёстких границ управления.
Для получения полного кода перейдите по ссылке. Присоединяйтесь к нашему Telegram-каналу и подписывайтесь на рассылку. Следите за нами в Twitter и присоединяйтесь к нашему ML SubReddit.
1. Какие основные компоненты включает в себя система управления с участием двух агентов на основе Конституционного ИИ?
Основные компоненты системы:
* Worker Agent — выполняет финансовые запросы.
* Auditor Agent — проверяет соответствие действий Worker Agent конституционным правилам.
* Constitution — набор правил, регулирующих поведение агентов.
2. Какие принципы лежат в основе работы системы управления с участием двух агентов на основе Конституционного ИИ?
Принципы работы:
* Правила управления кодируются напрямую в формальной конституции.
* Проверки на основе правил сочетаются с рассуждениями при помощи ИИ.
* Системы становятся самонастраивающимися, поддаются аудиту и устойчивы к рискованному или несоответствующему поведению в финансовых рабочих процессах с высокими ставками.
3. Какие типы нарушений политик могут быть обнаружены и предотвращены с помощью системы управления с участием двух агентов на основе Конституционного ИИ?
Типы нарушений политик:
* PII_EXPOSURE (утечка конфиденциальной информации).
* BUDGET_EXCEEDED (превышение бюджета).
* UNAUTHORIZED_ACTION (несанкционированные действия).
* MISSING_JUSTIFICATION (отсутствие обоснования).
* SUSPICIOUS_PATTERN (подозрительные схемы).
4. Какие примеры сценариев были продемонстрированы для иллюстрации работы системы управления с участием двух агентов на основе Конституционного ИИ?
Примеры сценариев:
* Безопасная транзакция ($2500) — одобрена.
* Транзакция с утечкой конфиденциальной информации ($7500) — отклонена.
* Транзакция, превышающая бюджет ($15 000) — отклонена.
5. Какие преимущества предоставляет система управления с участием двух агентов на основе Конституционного ИИ для финансовых операций?
Преимущества:
* Обнаружение и реагирование на утечку конфиденциальной информации, перерасход бюджета и отсутствие обоснований.
* Количественная оценка рисков.
* Обеспечение соблюдения жёстких границ управления.