Por qué fallan los agentes de IA empresariales y cómo hacer que estén listos para producción con Glean y AWS
He aquí una afirmación audaz: la mayoría de los "agentes de IA" que se demuestran en las salas de juntas no están realmente listos para la empresa. Alucinan bajo presión, fallan con datos reales y no pueden pasar una auditoría SOC 2. Si quieres una IA que tus equipos legales, de seguridad y de TI aprueben de verdad, y que tus empleados utilicen de verdad, necesitas una construcción que combine la recuperación de grado empresarial (Glean), primitivas robustas en la nube (AWS) y una arquitectura disciplinada que sobreviva a la escala.
Esta guía te guiará paso a paso a través de cómo construir agentes de IA listos para la empresa con Glean y AWS, desde la recuperación consciente de la identidad hasta el uso seguro de herramientas, desde los presupuestos de latencia hasta la observabilidad, y desde el piloto hasta la producción.
Utilizaremos una estructura basada en preguntas para que puedas saltar a lo que más te importa: el acceso a los datos, la seguridad, la arquitectura y el despliegue.
¿Qué queremos decir con agentes de IA listos para la empresa?
Un agente de IA listo para la empresa no es solo una interfaz de chat. Es un sistema seguro y auditable que puede:
- Responder a preguntas utilizando el conocimiento de la empresa con estrictos límites de permisos
- Realizar acciones a través de herramientas aprobadas (por ejemplo, tickets de ServiceNow, incidencias de Jira, publicaciones de Slack)
- Atribuir fuentes y explicar el razonamiento
- Operar bajo controles empresariales de SSO, SCIM y DLP
- Cumplir con los requisitos de residencia, registro y retención de datos
- Escalar a miles de usuarios con latencia y coste predecibles
Aquí es donde la construcción de agentes de IA con Glean y AWS brilla: Glean proporciona búsqueda y recuperación empresarial consciente de la identidad en todas las aplicaciones, mientras que AWS aporta la base de computación, orquestación, redes y gobernanza que necesitarás en producción.
Arquitectura de un vistazo: Glean + AWS
Piensa en el sistema como cuatro capas:
- Capa de identidad y acceso (SSO, SCIM, permisos)
- SSO a través de Okta/Azure AD; SCIM para el aprovisionamiento; asignaciones de roles
- Glean aplica permisos a nivel de documento en el momento de la consulta
- AWS Cognito o SAML/OIDC directo para mediar tokens en los servicios
- Capa de recuperación empresarial (Glean)
- Índice unificado en Google Drive, Slack, Confluence, Jira, GitHub, Box, Notion y más
- Recuperación y clasificación conscientes de los permisos
- Reescritura de consultas, búsqueda híbrida, reordenación semántica
- Capa de razonamiento y orquestación (AWS + modelos)
- AWS Lambda o ECS para pasos de agente sin estado
- Amazon Bedrock para acceso gestionado a modelos de vanguardia
- Step Functions para flujos de trabajo multiherramienta y reintentos
- Secrets Manager/Parameter Store para claves y credenciales de herramientas
- Capa de acción y herramienta (integraciones empresariales)
- Operaciones de lectura y escritura en sistemas de registro (ServiceNow, Salesforce, Jira, Slack)
- Protecciones, aprobaciones y observación para cada llamada a la herramienta
- Registros de auditoría en CloudWatch/OpenSearch para la explicabilidad
Construcción central: Cómo construir agentes de IA listos para la empresa con Glean y AWS
A continuación, se muestra una ruta práctica de extremo a extremo. Adáptala a tu pila, pero mantén los principios.
1) Configura primero la identidad y la gobernanza
- Establece SSO a través de Okta/Azure AD. Asigna grupos/roles a permisos de aplicaciones.
- Utiliza SCIM para el ciclo de vida automatizado del usuario (incorporación/traslado/baja). La desaprovisionamiento debe trasladarse en cascada al agente.
- Configura las cuentas de AWS con roles de IAM de mínimo privilegio. Separa desarrollo, pruebas y producción. Aplica puntos de conexión VPC para Bedrock y controles de salida de datos donde sea necesario.
- Define la retención de datos: cuánto tiempo almacenar las indicaciones, las respuestas y las incrustaciones vectoriales. Utiliza buckets S3 cifrados con KMS para los registros y artefactos.
Consejo: Trata la identidad como una señal de tiempo de ejecución. El agente debe pasar la identidad del usuario final a través de Glean y las herramientas para que las comprobaciones de permisos permanezcan intactas.
2) Conecta las fuentes en Glean y habilita la recuperación consciente de los permisos
- Conecta Slack, Drive, Confluence, Notion, GitHub, Jira, Box y correo electrónico según tu huella.
- Permite que Glean rastree e indexe con el mínimo privilegio; confirma los ámbitos con seguridad.
- Valida la propagación de permisos: un usuario solo debe recuperar lo que puede ver en la aplicación de origen.
- Ajusta la configuración de la consulta de Glean: habilita la reescritura de la consulta, la recuperación híbrida y la reordenación semántica para una mejor precisión.
Por qué es importante: En la mayoría de las empresas, el 70-90% del problema de la "alucinación" es en realidad un problema de recuperación. Con Glean, el agente de IA recupera los documentos correctos condicionados a los permisos del usuario, lo que reduce enormemente el riesgo y las respuestas irrelevantes.
3) Elige modelos a través de Amazon Bedrock y establece protecciones
- Comienza con un modelo generalista (por ejemplo, Claude, Llama o Mistral a través de Bedrock) y A/B contra indicaciones de dominio.
- Utiliza Bedrock Guardrails para filtros de seguridad, comprobaciones de inyección de indicaciones y políticas de contenido.
- Restringe las respuestas: requiere citas por ID/URL de documento, aplica esquemas JSON para las salidas de herramientas y establece tokens máximos por paso.
- Mantén un presupuesto de latencia: apunta a P95 de extremo a extremo < 2,5 s para preguntas y respuestas y < 6 s para flujos de uso de herramientas.
4) Orquesta el agente en AWS
Patrón: Planificación estilo ReAct + uso de herramientas + respuesta fundamentada.
- Utiliza Step Functions para coordinar los pasos: recuperar → planificar → herramienta → validar → responder.
- Las llamadas de razonamiento se ejecutan en Lambda o ECS; elige Lambda para el tráfico en ráfagas, ECS para el rendimiento sostenido.
- Los adaptadores de herramientas (Jira, Slack, ServiceNow) son Lambdas sin estado con secretos de ámbito IAM en AWS Secrets Manager.
- Almacena el estado de conversación de corta duración en DynamoDB con TTL; análisis a largo plazo en S3/Glue/Athena.
5) Implementa la generación aumentada por recuperación (RAG) con Glean
- Consulta Glean con el token de identidad del usuario y la pregunta del usuario.
- Recupera los principales resultados k (por ejemplo, híbrido: k=10 semántico + 10 palabras clave) respetando los permisos.
- Reordena con la relevancia de Glean; pasa solo los fragmentos principales y desduplicados al modelo.
- Requiere que el agente cite las fuentes e incluya una puntuación de confianza.
Esqueleto de indicación:
- Sistema: “Eres un asistente empresarial fundamentado. Utiliza solo el contexto proporcionado. Si es irrelevante, haz un seguimiento. Cita siempre las fuentes por título y enlace.”
- Herramientas: “Puedes llamar a Jira_CreateIssue, Slack_PostMessage, ServiceNow_CreateIncident. Solo actúa después de confirmar con el usuario, a menos que un libro de ejecución autorice la automatización.”
6) Añade uso seguro de herramientas y aprobaciones
- Envuelve cada herramienta con validación de parámetros y limitación de velocidad.
- Requiere confirmación humana o aprobación del gerente para acciones impactantes (por ejemplo, aprovisionamiento de acceso, cierre de P1).
- Registra cada llamada a la herramienta (quién, qué, cuándo, esquema de entrada, salida) en CloudWatch y S3 para auditorías.
- Para las publicaciones de Slack/Teams, admite el "modo borrador" para la vista previa antes de enviar.
7) Observabilidad, evaluación y control de deriva
- Captura indicaciones, fragmentos de contexto, citas y respuestas con redacción donde sea necesario.
- Utiliza los paneles de OpenSearch para supervisar la precisión@k, la fundamentación y la tasa de desvío.
- Ejecuta evaluaciones fuera de línea: selecciona un conjunto de oro de 100-300 preguntas específicas de la organización con las respuestas esperadas y las fuentes requeridas.
- Programa canarios para detectar la deriva del conector o del permiso (por ejemplo, canales de Slack modificados, migraciones de unidades).
8) Ajuste de rendimiento y coste
- Almacena en caché las consultas de Glean por usuario para temas candentes (por ejemplo, política de RR. HH.) con TTL cortos.
- Utiliza modelos más pequeños para el enrutamiento, modelos más grandes solo para consultas difíciles o planes multiherramienta.
- Procesa por lotes la reordenación cuando sea posible; comprime el contexto; utiliza la desduplicación de fragmentos.
- Realiza un seguimiento del coste por tarea resuelta; establece cuotas por organización y por grupo de usuarios.
Ejemplo: Un asistente de TI empresarial construido con Glean y AWS
Vamos a ver un escenario concreto que muestra cómo construir agentes de IA listos para la empresa con Glean y AWS.
Caso de uso: Triaje y resolución de soporte de TI.
- El usuario pregunta: “VPN falla en macOS 14 después de la actualización, ¿alguna solución?”
- El agente enruta a la pista del libro de ejecución de TI.
- Recuperación: Consulta Glean con la identidad del usuario y busca el libro de ejecución de VPN (Confluence), un hilo de Slack de #it-support y un documento de política de Jamf. Solo se consideran los recursos a los que el usuario puede acceder.
- Planificación: El agente propone pasos: compartir la solución, comprobar el cumplimiento del dispositivo a través de Jamf y, si no se resuelve, abrir un incidente de ServiceNow.
- Llamadas a herramientas: Lee el estado de Jamf (solo lectura), redacta un mensaje de solución y pide al usuario que confirme la escalada. Con la confirmación, crea un incidente con la plantilla correcta.
- Respuesta: Proporciona un resumen conciso de la solución con citas al libro de ejecución y al hilo de Slack, todo dentro del ámbito de permisos del usuario.
Por qué funciona: El agente está fundamentado en la recuperación consciente de los permisos de Glean, y AWS gestiona la ejecución, las aprobaciones y el registro.
Lista de comprobación de seguridad y cumplimiento (no te saltes esto)
- Mantén el contexto de recuperación en el lado del servidor; no expongas el contenido del documento sin procesar al cliente.
- Cifra en reposo con KMS; aplica TLS 1.2+ en tránsito.
- Pasa la identidad del usuario a Glean y a las herramientas; nunca utilices una identidad de bot compartida para la recuperación.
- Asigna RBAC de grupos IdP a ámbitos de herramientas.
- Habilita Bedrock Guardrails; no permitas secretos en las indicaciones.
- Redacta PII donde sea necesario y documenta las ventanas de retención.
- Registros inmutables en S3 con Object Lock; exporta a tu SIEM.
- Mantén un libro de ejecución para la respuesta a incidentes y la reversión del modelo.
Plan de implementación: 10 pasos para la producción
- Define los 3 principales casos de uso del agente (TI, RR. HH., operaciones de ventas) y las métricas de éxito (tasa de desvío, CSAT, tiempo de resolución).
- Levanta cuentas de AWS, VPC, líneas de base de IAM y acceso a Bedrock.
- Integra SSO/SCIM; asigna roles y flujos de aprobación.
- Conecta las fuentes principales en Glean y valida la recuperación consciente de los permisos.
- Construye un servicio de orquestación mínimo (Lambda + API Gateway) con Step Functions.
- Implementa el contrato de indicación RAG, las citas y el filtrado de fuentes.
- Añade dos herramientas de extremo a extremo (primero de solo lectura, luego de escritura con aprobación).
- Instrumenta el registro, las evaluaciones y los paneles; crea un conjunto de oro de 150 preguntas.
- Ejecuta una versión beta cerrada con 50-100 usuarios; corrige los principales problemas; establece SLO.
- Despliega ampliamente; establece una revisión de cambios semanal y una evaluación del modelo mensual.
Preguntas frecuentes al construir agentes de IA con Glean y AWS
¿Cómo reduzco las alucinaciones en los agentes empresariales?
Fundamenta el modelo con la recuperación de Glean y aplica una indicación estricta: utiliza solo el contexto proporcionado y cita siempre las fuentes. Rechaza las respuestas con baja confianza y haz preguntas aclaratorias. La mayoría de las alucinaciones desaparecen cuando confías en la recuperación consciente de los permisos.
¿Puede el agente respetar los permisos a nivel de documento en todas las aplicaciones?
Sí. Cuando construyes agentes de IA con Glean y AWS, Glean aplica los permisos de las aplicaciones conectadas en el momento de la consulta, por lo que el agente solo ve a lo que el usuario puede acceder. Pasa siempre el token de identidad del usuario para mantener la cadena de custodia.
¿Con qué modelos debo empezar en AWS?
Utiliza Amazon Bedrock para acceder a varios modelos. Comienza con un modelo general fuerte para el razonamiento y un modelo más pequeño y rápido para el enrutamiento. Evalúa la latencia, el coste y la precisión con tu conjunto de oro seleccionado.
¿Cómo puedo permitir que los agentes realicen acciones de forma segura en sistemas como Jira o ServiceNow?
Envuelve cada herramienta con esquemas estrictos, validación de entrada y flujos de trabajo de aprobación. Registra cada llamada a la herramienta y almacena las salidas para la auditoría. Para las acciones impactantes, requiere un paso de confirmación humana.
¿Qué métricas demuestran que un agente está listo para la producción?
Realiza un seguimiento de la fundamentación (tasa de citas), la precisión de la respuesta, la latencia P95, la tasa de resolución/desvío y el coste por tarea resuelta. Construye paneles y ejecuta comprobaciones de regresión semanales en tu conjunto de oro.
Por cierto: acelerando el bucle de construcción
Vale la pena señalar: si tu equipo crea prototipos con frecuencia, un copiloto para la investigación y la redacción puede acelerar los documentos de diseño, los libros de ejecución y las iteraciones de indicaciones. Herramientas como {Sider.AI} ayudan a los equipos a resumir hilos largos, redactar indicaciones de evaluación y comparar las salidas del modelo lado a lado, lo que resulta útil cuando estás ajustando cómo construir agentes de IA listos para la empresa con Glean y AWS. Conclusiones clave y próximos pasos
- La construcción de agentes de IA con Glean y AWS te proporciona recuperación consciente de la identidad y orquestación de nivel empresarial.
- Comienza con la identidad, la gobernanza y la recuperación consciente de los permisos antes de la lógica de planificación sofisticada.
- Utiliza protecciones de Bedrock, esquemas de herramientas estrictos y aprobaciones humanas en el bucle.
- Instrumenta todo: evaluaciones, auditorías y controles de costes.
Próximos pasos esta semana:
- Redacta tus tres principales casos de uso y métricas de éxito.
- Conecta dos fuentes principales en Glean; ejecuta una evaluación de 150 preguntas.
- Levanta un orquestrador mínimo de Lambda + Step Functions con una herramienta de solo lectura.
- Establece tus presupuestos de latencia y coste antes de que se expanda el piloto.
FAQ
{Q1:¿Qué significa listo para la empresa para los agentes de IA en AWS?
Significa agentes seguros y auditables que respetan el SSO y los permisos de documentos, proporcionan citas y se ejecutan en una infraestructura compatible. Cuando construyes agentes de IA con Glean y AWS, obtienes recuperación consciente de los permisos y observabilidad de grado en la nube.
}{Q2:¿Cómo evita Glean las fugas de datos en las respuestas de la IA?
Glean aplica permisos a nivel de documento de cada aplicación conectada en el momento de la consulta. El agente solo recupera el contenido al que el usuario puede acceder, lo cual es fundamental al construir agentes de IA listos para la empresa con Glean y AWS.
}{Q3:¿Qué servicios de AWS debo utilizar para la orquestación?
Utiliza Lambda o ECS para la ejecución, Step Functions para flujos de trabajo de varios pasos, Bedrock para modelos y protecciones, y Secrets Manager para las credenciales. Esta pila es una base probada para construir agentes de IA con Glean y AWS.
}{Q4:¿Cómo evalúo la precisión y reduzco las alucinaciones?
Crea un conjunto de oro de preguntas, requiere citas y utiliza la generación aumentada por recuperación. Con Glean y AWS, la recuperación consciente de los permisos más las protecciones reduce significativamente las alucinaciones.
}{Q5:¿Pueden los agentes de IA realizar acciones de forma segura, como crear tickets o publicar en Slack?
Sí, con herramientas validadas por esquema, aprobaciones para acciones de alto impacto y registro de auditoría completo. Este es un patrón central cuando construyes agentes de IA listos para la empresa con Glean y AWS.
}
