¿Es seguro conectar un agente de IA a tu tienda? Accesos, contraseñas y una lista de seguridad

Conectar un agente de IA a tu tienda es seguro cuando controlas tres cosas: a qué puede acceder, qué puede hacer sin preguntar y qué registro deja. Se vuelve arriesgado cuando un agente recibe accesos amplios, contraseñas compartidas y no deja rastro, porque entonces nadie puede decir qué hizo ni impedir que haga más.

Esta guía explica cómo entran los agentes en tus sistemas, los riesgos que importan a una tienda online, una lista que puedes usar con cualquier proveedor y las preguntas que debes hacer por escrito antes de conectar nada. Termina con cómo gestiona Concierge cada punto.

• Demasiado acceso: Un agente que solo responde preguntas sobre pedidos no necesita publicar cambios en el tema ni editar descuentos. Cada permiso de más es algo que puede salir mal.
• Acciones que no puedes deshacer: Reembolsos, cancelaciones y datos eliminados. Una persona debería pedirlas o aprobarlas.
• Hablar con el cliente equivocado: Compartir detalles de un pedido con alguien que solo conoce un correo o un número de pedido.
• Contraseñas en el chat: Una contraseña escrita en una conversación puede acabar en registros, transcripciones y exportaciones.
• Restos: Archivos, sesiones y datos que quedan en una máquina después del trabajo, donde el siguiente trabajo puede alcanzarlos.
• Instrucciones ocultas en el contenido: Un email, una página web o un archivo que lee el agente puede contener texto escrito para dirigirlo, lo que se conoce como inyección de prompts. Los límites sobre lo que un agente puede hacer reducen el daño que puede causar una instrucción maliciosa, pero no sustituyen las defensas del propio proveedor, así que pregunta por ellas.
• Sin rastro: Si no puedes ver qué hizo el agente y por qué, no puedes corregir errores ni demostrar lo que pasó.

• Cada agente tiene solo los permisos que su trabajo necesita.
• Cada agente responde solo en los canales que le asignas.
• Los cambios que el agente decide por su cuenta esperan un sí.
• Tu equipo aprueba los reembolsos.
• Los clientes demuestran quiénes son antes de que el agente comparta detalles privados o cambie su cuenta.
• Nadie escribe una contraseña en un chat. Una persona inicia sesión en los sitios web por sí misma.
• El trabajo que necesita código o archivos se ejecuta en una máquina aislada que se borra después del trabajo.
• Cada solicitud, aprobación, acción y respuesta queda registrada y es fácil de revisar.
• Lo que el agente recuerda no puede identificar a un cliente, y puedes hacer que lo olvide.
• Las conexiones con herramientas se pueden revocar con un clic, y se cierran cuando se va una persona del equipo.
• Las grabaciones y los datos se eliminan según un calendario que tú defines.
• Probaste el agente sin exponerlo a clientes reales antes de activarlo.
• Sabes quién de tu equipo puede cambiar agentes y canales.

Haz estas preguntas por escrito y guarda las respuestas. Un proveedor que no puede responder con claridad ya te está diciendo algo.

• Certificaciones: ¿Qué auditorías de seguridad tienen, como SOC 2 Type II, y podemos ver el informe bajo un acuerdo de confidencialidad (NDA)?
• Inicio de sesión para nuestro equipo: ¿Admiten inicio de sesión único (SSO) con SAML?
• Proveedores de modelos: ¿Qué proveedores de modelos de IA procesan nuestros datos, y alguno entrena con ellos?
• Inyección de prompts: ¿Qué impide que las instrucciones ocultas en un email, una página web o un archivo dirijan al agente?
• Acceso: ¿Podemos limitar cada agente a acciones concretas? ¿Qué acciones siempre necesitan aprobación?
• Contraseñas: ¿Cómo inicia sesión el agente en los sitios web, y dónde se guardan las credenciales?
• Aislamiento: ¿Dónde ejecuta código o abre archivos el agente, y qué pasa después con esa máquina?
• Registros: ¿Qué se registra, quién puede verlo y durante cuánto tiempo?
• Eliminación: ¿Cómo eliminamos grabaciones, memorias y datos de clientes, y cómo gestionan las solicitudes de eliminación de datos?
• Subencargados: ¿Qué terceros procesan nuestros datos, y dónde?

Hazle las mismas preguntas a cada proveedor, también a nosotros. Las respuestas sobre proveedores de modelos e inyección de prompts deben venir por escrito del proveedor, no de una entrada de blog, porque dependen de contratos y cambian con el tiempo.

Chargezen cuenta con la certificación SOC 2 Type II y admite inicio de sesión único (SSO) con SAML 2.0; consulta el Trust Center y la página de seguridad. Dentro de Concierge, estos controles ya están en el producto (detalles en seguridad para agentes):

• Acceso por agente: En la página Configure Agent de cada agente, marcas solo lo que puede consultar o hacer, y los canales en los que responde. Un agente sin una capacidad no puede usarla, se lo pidan como se lo pidan.
• Los clientes demuestran quiénes son: Antes de que un agente comparta detalles privados de un pedido o de una cuenta, o cambie la cuenta de un cliente, el cliente confirma un código de inicio de sesión.
• Sus propias ideas esperan un sí: Los cambios que alguien pide de forma explícita se ejecutan sin una aprobación aparte. Lo que el agente propone por su cuenta pregunta primero, como una oferta. En una tarea programada, donde nadie está presente, un paso que podría causar daños necesita el permiso permanente o la aprobación de una persona de tu equipo. Los agentes abren devoluciones; los reembolsos quedan en manos de tu equipo.
• Una computadora privada para cada trabajo: Cuando un trabajo necesita código, hojas de cálculo o archivos, el agente recibe su propia computadora, separada de tus otros sistemas. Se apaga cuando termina el trabajo, y el siguiente trabajo empieza en una nueva.
• Los inicios de sesión siguen en tus manos: Cuando un sitio web pide iniciar sesión, el agente te pasa la pantalla para que lo hagas tú. Tu contraseña nunca entra en el chat.
• Un registro de cada paso: Cada solicitud, aprobación, uso de herramienta y respuesta queda guardado en la conversación y en Operate > History.
• Una memoria que respeta la privacidad: Los agentes aprenden cómo funciona tu negocio, nunca quiénes son tus clientes. Cada memoria tiene una audiencia, y Forget borra una para siempre.
• Conexiones comprobadas: ChatGPT, Claude y otros asistentes inician sesión con OAuth, actúan como la persona del equipo que los conectó y pierden el acceso cuando desconectas o quitas a esa persona. Las solicitudes de Slack se comprueban por firma.
• Conservación: Las grabaciones de llamadas se conservan durante los días que definas (de 1 a 3650) y luego se eliminan automáticamente, salvo que pongas una en retención legal. Se procesan las solicitudes de eliminación de datos de clientes de Shopify.
• Permisos separados para tu equipo: Ver Concierge, gestionar conversaciones y agentes, cambiar los ajustes de los canales y gestionar grabaciones son permisos separados.

• Crea un agente con un trabajo y solo las capacidades que ese trabajo necesite.
• Pruébalo en el Playground con preguntas reales antes de que hable con clientes.
• Define tu política de grabación de llamadas antes de activar la voz.
• Decide quién de tu equipo puede gestionar agentes y canales.
• Revisa el historial de conversaciones todos los días de la primera semana.

Concierge le da a tu tienda empleados digitales con los controles anteriores integrados: aprobaciones, una computadora privada para cada trabajo, un navegador que te deja a ti los inicios de sesión y controles de privacidad. Concierge Starter cuesta US$20 al mes con 20 000 créditos. Pro cuesta US$199 al mes con 199 000 créditos, o US$1990 al año. Los créditos adicionales cuestan US$1 por cada 1000, las llamadas y los SMS se cobran según el uso, y no hay cargos por usuario. Consulta los precios.

Glosario: acceso de mínimo privilegio, entrega de credenciales, entorno aislado (sandbox) para agentes, OAuth, IA en la sombra, límites de la IA, registro de auditoría, uso de la computadora y agente de navegador. Sigue leyendo: cómo mantener la supervisión humana, cómo implementar un agente de IA de soporte en cuatro etapas y ¿puede un agente de IA general llevar tu soporte de Shopify?

Sí, cuando cada agente tiene solo el acceso que su trabajo necesita, sus propias ideas esperan un sí, los reembolsos quedan en manos de tu equipo y cada paso queda registrado. Evita las herramientas que necesitan tu contraseña de administrador.

No. Prefiere las conexiones integradas y OAuth. Cuando un agente deba usar un sitio web que pide iniciar sesión, la sesión debe iniciarla una persona. En Concierge, el agente te pasa la pantalla y tu contraseña nunca entra en el chat.

Sí. Chargezen cuenta con la certificación SOC 2 Type II y admite inicio de sesión único con SAML 2.0. Consulta el Trust Center para ver los detalles.

La inyección de prompts es texto oculto en un email, una página web o un archivo que intenta dirigir a un agente de IA para que haga algo que no pediste. Pregunta a cada proveedor por escrito cómo se defiende, y limita lo que puede hacer cada agente.