Ценность ИИ-агента идёт из того, что он может прочитать; риск идёт оттуда же. Любое серьёзное внедрение заканчивается ответами на одни и те же пять вопросов от команды по защите данных. Вот они, вместе с контролем, который отвечает на каждый, и тем, как это устроено в Harmona.
1. От чьего имени агент может читать?
Неправильный ответ — «служебная учётная запись с доступом ко всему». Агент должен читать с правами того, кто спрашивает, чтобы вопрос менеджера по продажам никогда не поднял кадровый документ. В Harmona каждое чтение идёт с правами спрашивающего; личные аккаунты (ваш Gmail, ваш Drive) доступны только владельцу или тем, кому он явно открыл доступ. Администраторы организации видят, что объект существует, но не его содержимое, пока кто-то им не поделится.
2. Где обрабатываются данные и что остаётся после?
Когда вы подключаете базу, диск или сайт документации, кое-что сохраняется, чтобы поиск был быстрым: векторы для выборки, состояния файлов для свежести. Это хранилище должно быть вашим и находиться в известном регионе. Harmona обрабатывает источники в хранилище вашего собственного пространства, в регионе ЕС на облачных тарифах; тарифы Enterprise работают в приватном облаке или на ваших серверах.
3. Используются ли наши данные для обучения моделей?
Не должны, и ответ должен быть письменным. Harmona не обучает модели на данных клиентов; используемые поставщики моделей и их условия предоставляются по запросу, а тарифы Enterprise включают договор на обработку данных по GDPR и КВКК.
4. Что происходит при удалении подключения?
Всё, что на нём построено, должно уйти вместе с ним: источники, векторы, состояния файлов. Если удаление — это заявка в поддержку, то это не удаление. В Harmona удаление подключения убирает построенное на нём, а зависевшие от него виджеты говорят об этом вместо того, чтобы показывать устаревшие числа.
5. Может ли агент действовать во внешнем мире без человека?
Чтение — один класс риска; отправка — другой. Всё, что уходит наружу — письмо, обновление тикета, изменение записи в CRM — должно ждать человека, и подтверждение должно показывать ровно то, что произойдёт. Harmona показывает каждое действие наружу карточкой подтверждения; задачи без присмотра держатся списка прав, выданного при создании, и сообщают, что отклонили.
Ещё три контроля, о которых стоит спросить
- Маскирование личных данных до модели. Адреса почты, телефоны, номера карт, удостоверения и ключи API маскируются до того, как запрос дойдёт до модели. В Harmona это включено у каждого нового агента вместе с ограничением советов (медицина, право, финансы) и ограничением содержания; выключить — осознанное действие.
- Учётные данные никогда в чате. Конструктор, который принимает пароль или строку подключения в сообщении чата, рано или поздно их утечёт. Agent Mode в Harmona отправляет вас за секретами на собственную страницу ресурса, а инструментов удаления в нём нет вовсе.
- Читаемый журнал действий. Каждый вызов инструмента должен появляться в разговоре постоянной записью, а не мимолётным состоянием «думаю»: что прочитано, что собрано, чем поделились.