Введение
ИИ революционизирует работу практически во всех отраслях. Он делает нас более эффективными, продуктивными и — при правильном внедрении — лучше выполняющими свою работу. Но по мере того, как наша зависимость от этой новой технологии стремительно растёт, мы должны помнить об одном простом факте: ИИ не безошибочен. Его результаты не стоит принимать за чистую монету, потому что, как и люди, ИИ может ошибаться.
Такие ошибки мы называем «галлюцинациями» ИИ. Они могут варьироваться от неправильного решения математической задачи до предоставления недостоверной информации о государственной политике. В строго регулируемых отраслях галлюцинации могут привести к дорогостоящим штрафам и юридическим проблемам, не говоря уже о недовольстве клиентов.
Почему галлюцинации ИИ имеют значение?
Для компаний, работающих с клиентами, точность имеет решающее значение. Если сотрудники полагаются на ИИ для выполнения таких задач, как обобщение данных о клиентах или ответы на запросы клиентов, они должны быть уверены в точности генерируемых такими инструментами ответов.
В противном случае компании рискуют нанести ущерб своей репутации и лояльности клиентов. Если клиенты получают от чат-бота недостаточно полные или ложные ответы, или если они вынуждены ждать, пока сотрудники проверят факты, выданные чат-ботом, они могут уйти к конкурентам. Люди не должны беспокоиться о том, что компании, с которыми они взаимодействуют, предоставляют им ложную информацию — они хотят быстрой и надёжной поддержки, а это значит, что правильное выстраивание таких взаимодействий имеет первостепенное значение.
Руководители компаний должны проявить должную осмотрительность при выборе подходящего инструмента ИИ для своих сотрудников. ИИ должен освобождать время и энергию сотрудников, чтобы они могли сосредоточиться на более важных задачах; инвестиции в чат-бот, требующий постоянного контроля со стороны человека, сводят на нет весь смысл его внедрения. Но действительно ли галлюцинации настолько распространены, или этот термин просто используется для обозначения любого ответа, который мы считаем неправильным?
Борьба с галлюцинациями ИИ
Примите во внимание: теория динамического смысла (ДСТ), согласно которой понимание между двумя людьми — в данном случае между пользователем и ИИ — передаётся посредством обмена. Однако ограничения языка и знаний по рассматриваемым темам приводят к несогласованности в интерпретации ответа.
В случае с ответами, сгенерированными ИИ, возможно, что алгоритмы, лежащие в основе, ещё не полностью оснащены для точной интерпретации или генерации текста таким образом, чтобы он соответствовал нашим ожиданиям как у людей. Это несоответствие может привести к тому, что ответы будут казаться точными на первый взгляд, но в конечном итоге им не будет хватать глубины или нюансов, необходимых для истинного понимания.
Более того, большинство универсальных языковых моделей (ЯМ) черпают информацию только из контента, который публично доступен в интернете. Корпоративные приложения ИИ работают лучше, когда они основаны на данных и политиках, специфичных для отдельных отраслей и предприятий. Модели также можно улучшить с помощью прямой обратной связи от человека — особенно это касается агентских решений, которые разработаны так, чтобы реагировать на тон и синтаксис.
Такие инструменты также должны проходить тщательное тестирование, прежде чем стать доступными для потребителей. Это важная часть предотвращения галлюцинаций ИИ. Весь процесс должен быть протестирован с использованием пошаговых разговоров, в которых ЯМ играет роль персонажа. Это позволяет компаниям лучше оценить общий успех разговоров с моделью ИИ, прежде чем выпускать её в мир.
Агентский ИИ: новый этап развития корпоративного программного обеспечения
Доставляя инструменты онлайн по модели подписки, «программное обеспечение как услуга» (SaaS) изменило способ работы предприятий. Однако для некоторых возможности были ограничены, поэтому вертикальный SaaS добавил отраслевую функциональность. Затем появился искусственный интеллект (ИИ) и такие достижения, как роботизированная автоматизация процессов (RPA), которая будет использовать виртуальных ботов для копирования действий людей и устранения рутинных задач.
Теперь корпоративное программное обеспечение вступает в новую эру с агентским ИИ, основанным на автономных агентах, которые не просто имитируют людей, а анализируют данные, принимают решения, выполняют задачи и самостоятельно организуют рабочие процессы в режиме реального времени. Агентский ИИ выходит далеко за рамки традиционного SaaS или RPA. Это программное обеспечение, которое действует как рабочая сила в цифровой сфере, которую можно интегрировать в технологический стек и которая может приносить измеримые бизнес-результаты. Это стало возможным благодаря тому, что отдельные агенты ИИ используют большие языковые модели для выполнения рассуждений на высоком уровне.
Для работы не требуются подсказки от людей, и каждому агенту можно поставить свою цель. Один может сосредоточиться на новых продажах, другой — облегчить обслуживание клиентов, третий — управлять производственными изменениями в режиме реального времени — возможности кажутся безграничными. И в отличие от генеративных моделей ИИ, таких как ChatGPT, агентские агенты не просто перефразируют и выдают контент, они даже могут самостоятельно перемещаться по базам данных и создавать рабочие процессы для выполнения поставленной задачи.
Согласно Gartner, примерно треть программных приложений на предприятиях будет иметь интегрированный агентский ИИ к 2028 году: в 2024 году этот показатель составлял менее одного процента. В результатах опроса, объявленных Cloudera в середине апреля — на основе опроса 1 484 мировых ИТ-лидеров, — 83% считают, что ИИ-агенты имеют решающее значение для конкурентного преимущества, и примерно 60% опасаются, что они отстанут, если не начнут внедрять их в этом году.
Более того, 96% заявили, что планируют увеличить количество развёртываний в течение следующих 12 месяцев, половина из них добавила, что это могут быть крупные развёртывания по всей организации.
Преодоление разрыва
Генеральный директор Salesforce Марк Бениофф назвал агентский ИИ «новой моделью труда, новой моделью производительности и новой экономической моделью». Участие в рабочей силе США остаётся ниже даже допандемийного уровня, и сегодня вакансий больше, чем безработных кандидатов, которые могли бы их занять. Основная цель ИИ — избавиться от рутинных задач, однако в то же время сотрудники должны быть в состоянии производить больше.
Агентский ИИ может преодолеть разрыв между персоналом и продуктом различными способами. Например, руководитель отдела продаж может использовать решение для управления взаимоотношениями с клиентами (CRM), чтобы контролировать большую группу существующих и потенциальных клиентов и генерировать продажи. ИИ-агент может общаться с этой базой, определять возможности, обновлять записи, возможно, даже совершать мелкие продажи. Если у вас есть такая возможность для команды, ежедневные и круглосуточные часы ручного труда будут сэкономлены, а возможность увеличения продаж окажет значительное влияние.
Ответственность и подотчётность
Хотя многое ещё предстоит сделать с агентским ИИ, несомненно то, что способ выбора поставщиков программного обеспечения должен измениться. Традиционная оценка была сосредоточена в основном на наборах функций, но с агентским ИИ предприятия должны учитывать такие вещи, как история надёжности и ответственности поставщика, и могут ли они соответствовать конкретным целям компании.
Ответственность должна быть предметом заботы лиц, принимающих решения, потому что они больше не просто покупают программное обеспечение. Вместо этого они дают цифровому интеллекту разрешение делать что-то от их имени, что может создать юридические и нормативные проблемы. Тем не менее, предприятия должны учитывать свою ответственность, глубоко вникать в риски, стремиться к возможности аудита и держать нормативные рекомендации на переднем плане.
Также организации должны определить, кто на самом деле несёт ответственность, если ИИ-агент выйдет из-под контроля, а также процедуры его сдерживания или отключения в случае возникновения такой ситуации.
Шаги, которые необходимо предпринять
С появлением агентского ИИ многие из нас увидят серьёзные изменения в том, как мы ведём бизнес. Вот несколько действий, которые вы можете немедленно предпринять, чтобы начать процесс.
Для начала пересмотрите свой технологический стек, уделив особое внимание тем функциям, основанным на правилах, которые агент ИИ мог бы устранить. Подумайте, какое программное обеспечение может иметь проблемы с совместимостью или потребовать нового интерфейса программирования приложений.
Избегайте принятия решений в изоляции — агентский ИИ может повлиять на многие аспекты бизнеса, поэтому привлекайте лидеров из юридического, ИТ-отдела и отдела операций. Также крайне важно разработать политику для сотрудников по безопасному и ответственному использованию агентов.
Вы должны понимать рабочую мощность ИИ-агента, а также сложность, которую он может устранить. Это означает, что вам также необходимо пересмотреть модели затрат на программное обеспечение и рентабельность инвестиций, которую они могут обеспечить. Речь идёт об объёме и эффективности, поэтому количество мест, лицензий и подписок больше не являются критериями, которые следует использовать.
Агентский ИИ окажет значительное влияние на SaaS, но не заменит его полностью. Мы увидим сотрудничество технологий, руководствуясь целью расширения возможностей рабочей силы. Тем не менее предприятиям принципиально необходимо изменить то, как они работают с программным обеспечением. Агентский ИИ уже здесь, и чем быстрее вы поймёте, что он может сделать, и примените его на практике, тем больше вы укрепите свои будущие позиции и добьётесь успеха.