AWS опубликовала описание Smart Approvals в Amazon Quick - функции, которая решает, нужно ли человеку подтверждать действие, предложенное агентом. Даты выпуска на странице источника нет, поэтому в материале речь о том, что функция делает и как ею управлять.
Что она делает
Smart Approvals сопоставляет каждое предложенное действие с запросом пользователя. После этого действие либо одобряется автоматически, либо возвращается пользователю. Новых прав функция не выдаёт и уже обязательные согласования человеком не отменяет.
Границы задаёт политика
Перед автоматической проверкой Quick сверяет действие с Custom Permissions, Quick Guardrails, разрешениями на действия коннекторов и личными настройками пользователя. Запрещённое остаётся запрещённым. Действие попадает на автоматическую проверку, только если у пользователя выбрано «Ask each time» и больше ничто не требует одобрения человека.
Кто может пользоваться функцией, администраторы определяют через Custom Permissions. По умолчанию она включена, но у профилей с запретом по умолчанию её нужно разрешить явно. Пользователь может отключить её для себя, и выбор действует и на диалоги, и на запуски по расписанию. Если пользователь отключил функцию, настройка на уровне аккаунта её для него не включит.
Как устроена проверка
Классификатор - отдельная модель. Она оценивает, что делает действие, куда уходят данные и кого это затрагивает. Для этого используются запрос и ограниченный срез переписки. Модель также может обратиться к графу знаний пользователя, построенному по подключённым источникам, чтобы понять, кем получатель приходится пользователю, например входит ли он в цепочку руководителей. По заявлению AWS, эти данные не идут на обучение моделей и улучшение сервиса.
К примерам действий, которые должны вернуться человеку, относятся отправка материалов за пределы организации, отправка старшим руководителям в цепочке подчинения, изменение доступов, удаление записей и запуск платежей. AWS оговаривает, что список не исчерпывающий. Сверка с запросом заодно защищает от косвенной инъекции промпта, когда текст в найденном контенте пытается увести агента в сторону.
Ограничения AWS признаёт открыто. Модель может ошибаться, поэтому действия, которые всегда требуют одобрения человека, нужно закреплять через разрешения на действия коннекторов. Каждое автоматическое одобрение одноразовое и покрывает только то действие и те параметры, которые проверили. Тайм-ауты и сбои проверки одобрения не дают никогда.
Пример от AWS. Аккаунт-менеджер просит отправить обзор по итогам квартала двум названным коллегам. В исходных материалах есть заметка, что его нужно разослать и в общий список отдела продаж, около 2000 человек. Отправка по замыслу возвращается к ней, потому что аудитория изменилась.
Аудит
Обновления разрешений, связанные с Smart Approvals, фиксируются в AWS CloudTrail: пользователь, коннектор, действие и время. Эта отметка не доказывает, что разрешение принято или действие выполнено. Подтверждение выполнения - в целевой системе, например отправленное письмо или обновлённый тикет. История событий CloudTrail хранит события 90 дней, так что для более долгих расследований нужен настроенный trail. Логи чатов собирают только то, что происходит после настройки доставки в Amazon CloudWatch Logs. В них может оказаться чувствительное содержимое, поэтому доступ стоит ограничить и продумать политики защиты данных.
Порядок внедрения
AWS советует сначала проверить разрешения на действия коннекторов, затем настроить логирование и включить функцию только для пилотной команды и одного определённого процесса. Критерий успеха нужно определить заранее: меньше запросов на рутинные действия, при этом существенные по-прежнему доходят до человека. Расширять охват стоит, только когда это подтверждает опыт пилота.