Agentes de IA
Seguridad de los datos en los agentes de IA
Si la IA filtra datos, llegan las quejas de clientes, las auditorías y un lanzamiento que se detiene. El agente ve lo mismo que sus empleados (pedidos, fichas de clientes, políticas internas), así que antes de ponerlo en marcha acordamos con usted dónde se aloja y qué datos puede abrir. Puede funcionar en nuestra nube, cuyos centros de datos están en varias regiones del mundo, o en servidores suyos. El agente respeta los permisos de su interlocutor, deja constancia de cada acción y se entrena con conversaciones de las que se han quitado nombres y teléfonos.
Preguntarecibido en el canalplataformaBuscarbase de conocimientos y CRMen la plataformaAl modelomensajes y 2 fragmentosteléfono ocultoResponderguardado en el historialregistroExperiencia
Lo que restringimos durante la configuración
Una fuga a través de la IA casi siempre se debe a un exceso de accesos o de información, no a un modelo «demasiado listo». Por eso restringimos precisamente eso.
Casos de uso
Qué protegemos en la práctica
Tres situaciones habituales en un centro de contacto y cómo en cada una la información innecesaria queda fuera de alcance.
El agente de IA solo ve a la persona que se puso en contacto
El asesor de IA identifica al cliente por su número de teléfono o su cuenta de mensajería y abre únicamente sus pedidos y solicitudes. En esa conversación no dispone de ningún dato sobre otros clientes. Si la respuesta la redacta un modelo en la nube, el teléfono y la dirección se sustituyen por marcadores antes de enviar nada. El cliente recibe la respuesta al instante y su empresa no expone los datos de nadie más.
- Solo sus propios pedidos
- Datos de contacto ocultos a la nube
- Sin acceso a otros clientes
Clientereconocido por el númeroteléfonoVisiblesus pedidos y ticketssolo los propiosOtros clientesno disponibleocultoA la nubeteléfono y dirección – marcadores de posiciónocultoCada rol recibe su propia información
Los agentes obtienen del asistente de IA las políticas y los datos de sus propios clientes; los precios de compra, los informes de dirección y la información de otros departamentos quedan reservados a quienes tienen acceso. El asistente de IA reconoce al empleado por su usuario en la plataforma y trabaja dentro de esos mismos límites. Puede darlo a toda la plantilla con tranquilidad: no mostrará a nadie más de lo que le corresponde.
- Permisos por rol
- Las secciones restringidas no se ven
- Acceso con cuenta de usuario
Agentepolíticas y clientes propiosabiertoPrecios de comprasolo gerentesocultoInformes del equipoal jefe de departamentopor rolUsuariocuenta en la plataformaverificadoCada respuesta se puede rastrear paso a paso
Un cliente cuestiona una respuesta o el equipo de seguridad revisa cómo trabaja la IA. El registro muestra la pregunta, qué fichas y artículos abrió la IA y qué contestó. Los errores aparecen en minutos, el revisor dispone de hechos y no de versiones de terceros, y el asunto se cierra sin una larga cadena de correos.
- Pregunta y respuesta
- Información consultada
- Pasos en orden
Pregunta¿cómo devuelvo un artículo?registradoVisibleartículo y pedido en el CRMreservadoResponderenviado al clienteregistradoAccesoequipo de seguridadpor rolCómo se guardan las grabaciones, quién controla qué y cómo se obtiene el consentimiento se explica en la página de seguridad de la plataforma.
Cómo funciona
Dónde están los datos y de qué aprende la IA
Nube
Centros de datos en distintas regiones, acceso bajo su control
Los chats, las grabaciones de audio y los materiales de referencia se guardan en nuestros servidores, alojados en centros de datos de varias regiones del mundo, y su administrador decide quién los ve. Si sus políticas limitan dónde pueden procesarse los datos, las respuestas las genera un proveedor de modelos que cumple esos requisitos. No necesita servidores ni administradores propios.
- Alojamiento en nuestros centros de datos
- Usted concede los accesos
- Proveedor de modelos acorde a sus políticas
Plataformaservidores en la nubenubeModeloLocal, a peticiónusted eligeAl modelomensajes y fragmentossin teléfonos de escritorioAccesoconcedido por su administradoren sus servidoresSu servidor
Todo se queda dentro de la empresa
Lo instalamos todo en su infraestructura: la plataforma, la base de conocimientos y un modelo de código abierto. Para responder no hace falta conexión a internet, y su equipo de seguridad controla el agente de IA como cualquier otro sistema interno. Esta opción la eligen las organizaciones que no pueden dejar salir los datos del edificio: bancos, clínicas y organismos públicos.
- Plataforma en sus servidores
- Modelo de código abierto en sus servidores
- Sin acceso a internet
Plataformasu servidoren sus servidoresModelomodelo abierto, en una GPUen sus servidoresInternetno necesario para las respuestassin elloDatosnunca salen de la empresadentroEntrenamiento
Entrenamiento con conversaciones anonimizadas
Antes de entrenar la IA con chats y llamadas reales, sustituimos nombres, teléfonos, direcciones y números de contrato por marcadores. Un experto revisa una muestra para comprobar que no se haya escapado nada, y solo entonces las conversaciones pasan al entrenamiento. La IA aprende de su trabajo real sin datos personales en el conjunto de entrenamiento.
- Marcadores en lugar de nombres
- Revisión de un experto
- Solo conversaciones depuradas
Llamadas12.400 seleccionadosmuestraNombres y teléfonossustituido por marcadores de posicióneliminadoDirecciones y contratossustituido por marcadores de posicióneliminadoReseñarevisado por muestreo por un expertosuperadoLanzamiento
Cómo configuramos la seguridad del agente de IA
- 01RequisitosRevisamos sus políticas internas de protección de datos y la lista de datos restringidos.
- 02DespliegueDecidimos: nuestra nube o sus servidores, y un modelo en la nube o uno de código abierto instalado en su infraestructura.
- 03RolesDefinimos qué pueden ver los clientes, los socios y cada departamento.
- 04RestriccionesDejamos por escrito qué temas evita la IA y cuándo pasa la conversación de inmediato a un empleado.
- 05PruebasProbamos las respuestas con distintos roles y comparamos el registro con los resultados esperados.
- 06SupervisiónTras el lanzamiento, damos acceso al registro a los responsables y a los especialistas en seguridad.
Requisitos
Qué necesitamos de usted
- Políticas
- Sus normas internas de tratamiento de datos
- Roles
- Quién ve qué en cada conversación
- Despliegue
- Nuestros servidores en la nube o sus propios equipos
- Modelo
- Un modelo en la nube acorde a sus políticas o uno de código abierto en sus servidores
- Cuentas de usuario
- Acceso de los empleados a través de la plataforma
- Costo
- Configurar se paga en horas de soporte
Preparación
Qué decidir antes del lanzamiento
Preguntas y respuestas
Preguntas frecuentes
¿El modelo en la nube ve toda nuestra base de conocimientos?
No. Recibe solo lo que se está diciendo en ese momento y un par de fragmentos relevantes. Todo lo demás (la base de conocimientos, el historial de conversaciones, los datos de clientes) se queda en la plataforma. Si ni siquiera eso puede salir de su empresa, instalamos un modelo de código abierto en sus servidores.
¿Dónde se guardan las conversaciones de los clientes con la IA?
En el mismo lugar donde está alojada la plataforma: en los servidores de CONTACT.WORK o dentro de su propia infraestructura. Los permisos de consulta se asignan por rol, igual que para el resto de conversaciones.
¿Los datos van cifrados en tránsito?
Los datos viajan por conexiones seguras entre la plataforma, los canales de comunicación y el modelo en la nube.
¿Pueden ver nuestros datos los empleados de CONTACT.WORK?
Solo cuando usted lo solicita, por ejemplo para investigar un error. Cada uno de esos accesos queda anotado en el registro.
¿Cuánto tiempo se conservan los registros?
El tiempo que usted decida. Al terminar el plazo de conservación, se eliminan.
Si dejamos de trabajar juntos, ¿qué ocurre con nuestros datos?
Los eliminamos de la nube al finalizar el contrato, o antes si nos lo pide.
¿El modelo aprende de nuestras conversaciones?
Solo si usted lo pide. Si decide entrenar la IA con sus conversaciones, las usamos después de quitar nombres, teléfonos y direcciones. En caso contrario, las conversaciones no se usan para entrenar.
¿De quién es el modelo después del entrenamiento?
De su empresa. Quien paga el entrenamiento es dueño del modelo resultante, de las respuestas aprobadas y de la base de conocimientos.
¿Podemos trabajar totalmente sin conexión?
Cuando todo el sistema, incluido un modelo de código abierto, está instalado dentro de su empresa, no necesita internet para responder.
¿Cómo sabe el asistente de IA qué puede mostrar a un empleado?
Por su usuario en la plataforma: el asistente de IA solo accede a las secciones abiertas para ese empleado.
¿Quién puede leer el registro de respuestas?
Las personas a las que usted dé acceso; normalmente, el responsable del centro de contacto, el jefe de calidad y un responsable de seguridad.
¿Nos ayudan a obtener la aprobación del equipo de seguridad?
Describimos el despliegue, los flujos de datos y los lugares de almacenamiento en un documento para sus revisores.
¿Y si nuestras políticas restringen dónde se procesan los datos?
Usamos un modelo en la nube de un proveedor que cumple sus requisitos de ubicación de datos, o instalamos un modelo de código abierto en sus servidores para que nada salga de la empresa.
¿Cómo está protegida la propia plataforma?
Las grabaciones, conversaciones y fichas de clientes están cubiertas por los roles, los registros y las reglas de conservación de la plataforma.
¿Cuánto cuesta configurar la seguridad?
La configuración de roles, restricciones y despliegue se factura en horas de soporte; la plataforma no cobra licencias.
Glosario
Términos de esta página
- Despliegue en la nube
- La plataforma funciona en los servidores del proveedor y los agentes se conectan por internet. Más información →
- Centro de datos
- Un edificio con servidores, energía de respaldo, refrigeración y conexiones de red. Más información →
- Base de conocimientos
- Todas las respuestas, normas y precios en un solo lugar, para los agentes y para la IA. Más información →
- Ficha del cliente
- La pantalla con los datos del cliente que el agente ve durante la conversación. Más información →
- CRM: gestión de relaciones con clientes
- Donde la empresa guarda sus clientes, negociaciones y todo el historial de comunicación. Más información →
- ERP – planificación de recursos empresariales
- Pedidos, inventario y finanzas en un solo sistema. Más información →
- Datos personales
- Todo lo que apunta a una persona concreta: un nombre, un número, una voz. Más información →
- Cifrado
- Los datos cifrados no se pueden leer sin la clave. Más información →
Actualizado: