El valor de un agente de IA viene de lo que puede leer; el riesgo viene del mismo sitio. Todo despliegue serio acaba respondiendo a las mismas cinco preguntas del equipo de protección de datos. Aquí están, con el control que responde a cada una y cómo lo implementa Harmona.
1. ¿En nombre de quién puede leer el agente?
La respuesta equivocada es «una cuenta de servicio con acceso a todo». Un agente debe leer con los permisos de quien pregunta, para que la pregunta de un comercial nunca saque a la luz un documento de RR. HH. En Harmona cada lectura ocurre con los permisos de quien pregunta; las cuentas personales (su Gmail, su Drive) solo las usa su propietario, o quien él comparta explícitamente. Los administradores de la organización ven que un activo existe, no su contenido, hasta que alguien lo comparte.
2. ¿Dónde se procesan los datos y qué queda atrás?
Cuando conecta una base de datos, una unidad o un sitio de documentación, algo se almacena para que la búsqueda sea rápida: vectores para la recuperación, estados de archivo para la frescura. Ese almacén debe ser suyo, en una región conocida. Harmona procesa las fuentes en el almacén de su propio espacio, en la región de la UE en los planes en la nube; los planes Enterprise funcionan en una nube privada o en sus propios servidores.
3. ¿Se usan nuestros datos para entrenar modelos?
No deberían, y la respuesta debería estar por escrito. Harmona no entrena ningún modelo con datos de clientes; los proveedores de modelos usados y sus condiciones se listan bajo petición, y los planes Enterprise incluyen un contrato de tratamiento de datos bajo RGPD y KVKK.
4. ¿Qué pasa cuando eliminamos una conexión?
Todo lo construido sobre ella debería irse con ella: fuentes, vectores, estados de archivo. Si eliminar es un ticket a soporte, no es eliminar. En Harmona, eliminar una conexión borra lo que se construyó sobre ella, y los widgets que dependían de ella lo dicen en lugar de mostrar números obsoletos.
5. ¿Puede el agente actuar sobre el mundo exterior sin una persona?
Leer es una clase de riesgo; enviar es otra. Todo lo saliente, un correo, una actualización de ticket, un cambio en un registro del CRM, debe esperar a una persona, y la aprobación debe mostrar exactamente lo que va a pasar. Harmona muestra cada acción saliente como una tarjeta de aprobación; las tareas sin supervisión se ciñen a la lista de permisos concedida al crearlas e informan de lo que rechazaron.
Tres controles más por los que merece la pena preguntar
- Enmascarado de datos privados antes del modelo. Direcciones de correo, teléfonos, números de tarjeta, documentos de identidad y claves de API se enmascaran antes de que un prompt llegue a un modelo. En Harmona esto está activado en cada agente nuevo, junto con la restricción de consejo (médico, legal, financiero) y la restricción de contenido; desactivar uno es un acto deliberado.
- Credenciales nunca en el chat. Un constructor que acepta una contraseña o una cadena de conexión en un mensaje de chat es un constructor que la filtrará. El Agent Mode de Harmona le lleva a la propia página del recurso para los secretos y no tiene herramientas de borrado en absoluto.
- Un registro de auditoría legible. Cada llamada a una herramienta debe aparecer como un registro fijo en la conversación, no como un estado de «pensando» pasajero: qué se leyó, qué se construyó, qué se compartió.