Resumen técnico del sistema de IA

Descripción general

Este artículo ofrece transparencia técnica sobre cómo se construyen, prueban y operan los sistemas de IA de ISMS Copilot. Estos detalles demuestran nuestro compromiso con el desarrollo responsable de IA a través de prácticas de implementación verificables.

A quién va dirigido

Este artículo es para:

• Equipos de seguridad y cumplimiento que evalúan controles de gobernanza de IA
• Auditores que evalúan la implementación de sistemas de IA frente a políticas
• Gestores de riesgos que requieren transparencia técnica para sistemas de IA
• Usuarios técnicos que desean comprender la arquitectura de IA

Implementación de ISO 42001

El sistema de IA de ISMS Copilot está diseñado y operado de acuerdo con los requisitos de la norma ISO 42001:2023 (Sistema de Gestión de Inteligencia Artificial). Nuestra implementación técnica se alinea con controles específicos de ISO 42001:

Alineación de la arquitectura:

• A.4.2 (Establecimiento del contexto): Sistema de inyección dinámica de conocimiento del marco documentado en el Documento de Diseño del Sistema de IA (AI-SDD-001)
• A.5 (Evaluación de impacto): Evaluación integral de impacto de IA (1.9 Riesgo Bajo, clasificación de Riesgo Limitado según la Ley de IA de la UE)
• A.6 (Desarrollo responsable): Ciclo de vida de desarrollo seguro con pruebas de regresión, escaneo SAST/DAST, pruebas de inyección de prompts
• A.7 (Gestión de datos): Acuerdos de cero retención de datos, aislamiento de espacios de trabajo, períodos de retención controlados por el usuario
• A.8 (Interacción con el usuario): Avisos de transparencia, diseño con intervención humana, descargos de verificación en toda la plataforma
• A.9 (Uso responsable): Limitación de propósito, prevención de jailbreaks, barreras de alcance de contenido

Arquitectura de conocimiento dinámico de marcos

ISMS Copilot utiliza la inyección dinámica de conocimiento de marcos para fundamentar las respuestas de IA en conocimiento verificado de cumplimiento. A partir de la versión 2.5 (febrero de 2025), esto reemplaza la arquitectura RAG (Retrieval-Augmented Generation) anterior con un enfoque más confiable y eficiente en tokens.

Cómo funciona la inyección de conocimiento de marcos

Componentes de la arquitectura:

• Capa de detección de marcos: Coincidencia de patrones basada en expresiones regulares que detecta menciones de marcos en las consultas de los usuarios (ISO 27001, SOC 2, GDPR, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, Ley de IA de la UE)
• Capa de inyección de conocimiento: Carga dinámicamente solo el conocimiento relevante del marco en el contexto de la IA basado en los marcos detectados
• Capa de generación: Los modelos de lenguaje grandes (LLM) de proveedores de IA empresariales reciben el conocimiento del marco antes de generar respuestas
• Mecanismo de validación: El conocimiento del marco proporcionado a la IA garantiza que las respuestas se basen en requisitos reales de cumplimiento, no en conjeturas probabilísticas

Por qué la inyección dinámica es importante para el cumplimiento:

• Elimina alucinaciones: La IA recibe conocimiento verificado del marco antes de responder, evitando la invención de números de controles y requisitos
• Eficiencia en tokens: Solo se cargan los marcos relevantes (~1-2K tokens) frente al envío de todo el conocimiento (~10K tokens) en cada solicitud
• Detección confiable: La coincidencia de patrones con expresiones regulares (no basada en IA) garantiza que nunca se pasen por alto las menciones de marcos
• Arquitectura extensible: Se agregan nuevos marcos con una sola definición de objeto, sin necesidad de reentrenar el modelo
• Soporte para múltiples marcos: Maneja consultas que mencionan varios marcos simultáneamente (ej. "Asociar ISO 27001 con SOC 2")

Implementación técnica

Proceso de detección:

1. El usuario envía una consulta (ej. "¿Qué es el Anexo A.5.9 de ISO 27001?")
2. La detección de marcos escanea la consulta en busca de coincidencias de patrones (ISO 27001, GDPR, SOC 2, etc.)
3. Los marcos coincidentes activan la inyección de conocimiento
4. El conocimiento relevante del marco se agrega al prompt del sistema de IA antes de la generación

Marcos soportados (v2.5):

• ISO 27001:2022, Sistema de Gestión de Seguridad de la Información
• ISO 42001:2023, Sistema de Gestión de Inteligencia Artificial
• ISO 27701:2025, Sistema de Gestión de Información de Privacidad
• SOC 2, Control de Organización de Servicios (Criterios de Servicios de Confianza)
• HIPAA, Ley de Portabilidad y Responsabilidad de Seguros Médicos
• GDPR, Reglamento General de Protección de Datos
• CCPA, Ley de Privacidad del Consumidor de California
• NIS 2, Directiva de Redes y Sistemas de Información
• DORA, Ley de Resiliencia Operativa Digital
• Ley de IA de la UE, Ley de Inteligencia Artificial de la Unión Europea

Evolución de RAG a inyección dinámica

Enfoque anterior (pre-v2.5): Arquitectura RAG

• Búsqueda semántica recuperaba fragmentos relevantes de documentación
• La calidad de la recuperación variaba según la redacción de la consulta
• Se enviaban todos los ~10K tokens de conocimiento en muchas solicitudes
• Enfocado principalmente en ISO 27001

Enfoque actual (v2.5+): Inyección dinámica de marcos

• La detección basada en expresiones regulares garantiza la identificación confiable de marcos
• Solo se cargan los marcos relevantes (eficiencia en tokens)
• Soporta 10 marcos simultáneamente
• Diseño extensible para adiciones rápidas de marcos

Proveedores de IA y protección de datos

Utilizamos proveedores de IA de nivel empresarial con acuerdos estrictos de protección de datos.

Proveedores actuales

Modelos de IA de backend:

• xAI Grok, Ruta predeterminada actual para muchas sesiones pagas Fast / Think / Beyond cuando la Protección Avanzada de Datos está desactivada (enrutamiento de estilo cero retención; consulte el Centro de Confianza para la tabla en vivo)
• Anthropic Claude, Ruta de respaldo/alternativa según el plan y la disponibilidad
• OpenAI / otros modelos de clase OpenRouter, Enrutamiento económico para Free/Essential y algunas tareas especializadas
• Mistral AI, Ruta de la UE cuando la Protección Avanzada de Datos está activada

El enrutamiento depende del plan y la configuración, no es una única marca fija para todos los usuarios. El failover automático puede mover el tráfico cuando un proveedor no está disponible. Cuando la Protección Avanzada de Datos está habilitada, el procesamiento de IA sigue la topología de Mistral en la UE descrita en la documentación de ADP. Todas las rutas utilizan la misma inyección especializada de conocimiento de cumplimiento. Para fines de diligencia, siempre prefiera el Centro de Confianza sobre este resumen narrativo si alguna vez difieren.

Acuerdos de cero retención de datos

Todos los proveedores de IA operan bajo acuerdos de Cero Retención de Datos (ZDR):

Términos del acuerdo ZDR:

• No se retienen datos de usuario más allá del procesamiento de la solicitud
• No se entrenan modelos con contenido del cliente
• Transferencias de datos conformes con el GDPR con Cláusulas Contractuales Tipo (SCC)
• Estándares de seguridad empresarial aplicados

Para obtener información detallada sobre procesadores y flujos de datos, consulte nuestro Registro de Actividades de Tratamiento.

Requisitos de desarrollo

Cada componente del sistema de IA se desarrolla según requisitos documentados que definen el comportamiento esperado, las restricciones de seguridad y los umbrales de rendimiento.

Requisitos funcionales

Definición de alcance:

• La IA proporciona asistencia de cumplimiento, no asesoramiento legal
• Límites de tareas: generación de políticas, análisis de brechas, preparación de auditorías, revisión de documentos
• Aplicación de restricciones: sin acceso a internet, sin ejecución de código, sin procesamiento de datos personales más allá del uso de la plataforma

Requisitos de rendimiento

Objetivos de calidad:

• Precisión de las respuestas fundamentada en fuentes recuperadas con citación
• Ventana de contexto suficiente para análisis de cumplimiento de múltiples documentos
• Tiempo de respuesta optimizado para uso interactivo (objetivo: menos de 10 segundos)
• Límites de tasa definidos por nivel de usuario para garantizar la estabilidad del sistema

Requisitos de seguridad

Mitigación de alucinaciones:

• Fundamentación en fuentes: las respuestas deben referenciar la documentación recuperada
• Validación de recuperación: las respuestas se verifican contra el contenido de la fuente
• Puntuación de confianza: se reconoce la incertidumbre cuando las fuentes son ambiguas
• Descargos de verificación del usuario: todas las salidas requieren revisión humana

Filtrado de contenido:

• Detección y bloqueo de contenido inapropiado
• Límites de alcance: la IA rechaza solicitudes fuera de alcance (ej. temas no relacionados, asesoramiento médico/legal)
• Protección contra jailbreaks e inyección de prompts

Consulte Visión general de seguridad y uso responsable de la IA para obtener detalles sobre las barreras de seguridad.

Requisitos de manejo de datos

Privacidad por diseño:

• No se utilizan datos de usuario para el entrenamiento de modelos (se aplican acuerdos ZDR)
• Minimización de datos: solo se procesan los datos necesarios para la recuperación y generación
• Procesamiento temporal: sin almacenamiento a largo plazo de prompts/respuestas más allá de los registros de sesión del usuario
• Controles de retención: períodos de retención de datos configurables por el usuario (1 día a 7 años, o mantener para siempre)
• Controles de transferencia: transferencias de datos conformes con el GDPR con SCC

Para conocer las prácticas completas de manejo de datos, consulte nuestra Política de Privacidad.

Pruebas de verificación y validación

Los sistemas de IA se someten a pruebas rigurosas antes de su implementación. Ningún sistema se pone en producción sin pasar la validación basada en requisitos.

Pruebas de regresión

Se ejecutan pruebas automatizadas en cada cambio de código para garantizar que la funcionalidad existente permanezca intacta.

Cobertura de pruebas:

• Precisión de recuperación: Precisión y exhaustividad frente a conjuntos de datos de verdad básica
• Fundamentación de respuestas: Verificación de que los resultados citan las fuentes recuperadas
• Detección de alucinaciones: Comparación con respuestas incorrectas conocidas
• Puntos de referencia de rendimiento: Validación del tiempo de respuesta y manejo del contexto

Pruebas de Seguridad

Los sistemas de IA se someten a la misma validación de seguridad que todos los componentes de la plataforma.

Pipeline de Pruebas:

• SAST (Pruebas de Seguridad de Aplicaciones Estáticas): Escaneo de vulnerabilidades a nivel de código con integración de Semgrep
• DAST (Pruebas de Seguridad de Aplicaciones Dinámicas): Validación de seguridad en tiempo de ejecución
• Pruebas de Penetración: Evaluaciones de seguridad anuales realizadas por terceros
• Pruebas de Inyección de Prompts: Validación contra entradas adversariales que intentan eludir restricciones de seguridad

Pruebas de Aceptación por el Usuario

La validación con escenarios del mundo real junto a profesionales de cumplimiento garantiza:

• Que los resultados cumplen con estándares de calidad profesional
• Que las respuestas son apropiadas para casos de uso de cumplimiento
• Que las limitaciones se comunican claramente
• Que los mecanismos de retroalimentación son accesibles y efectivos

Lista de Verificación de Validación de Despliegue

Los sistemas de IA se despliegan solo después de cumplir con los requisitos documentados:

Los despliegues que no superan la validación se revierten hasta que se cumplan los requisitos.

Monitoreo y Mejora Continua

Posterior al despliegue, monitoreamos el comportamiento del sistema de IA para detectar degradación, problemas emergentes o usos indebidos.

Métricas de Monitoreo

Lo que rastreamos:

• Tasa de alucinaciones: Seguimiento a través de informes de usuarios y detección automatizada
• Precisión de las respuestas: Validación muestral frente a estándares de cumplimiento de verdad básica
• Patrones de uso: Detección de uso fuera de alcance o inapropiado
• Métricas de rendimiento: Tiempo de respuesta, precisión de recuperación, tasas de error
• Retroalimentación de usuarios: Informes de impacto adverso, tickets de soporte, solicitudes de funcionalidades

Ciclo de Mejora Continua

Los datos de monitoreo informan mejoras iterativas:

Bucles de Retroalimentación:

• Retroalimentación de usuarios e informes de impacto adverso → actualizaciones del modelo y ajuste de recuperación
• Resultados de pruebas de seguridad → mejoras en la seguridad y actualizaciones de controles
• Cambios regulatorios y mejores prácticas → actualizaciones de documentación y marco de trabajo
• Monitoreo de rendimiento → mejoras en la precisión y optimización de respuestas

Respuesta a Incidentes

Notificamos a los usuarios sobre incidentes relacionados con IA para mantener la transparencia y la confianza.

Canales de Notificación:

• Alertas por correo electrónico para incidentes críticos que afecten la funcionalidad de IA
• Notificaciones en Slack para equipos suscritos
• Actualizaciones en la página de estado con líneas de tiempo de incidentes y resoluciones
• Notificaciones tempranas conforme a NIS2 (informes de 24 horas para incidentes significativos de ciberseguridad)

Limitaciones Conocidas

Los sistemas de IA tienen limitaciones inherentes que los usuarios deben comprender para utilizarlos de manera responsable.

Limitaciones Técnicas

Restricciones Actuales:

• Naturaleza probabilística: La IA genera respuestas basadas en patrones estadísticos, no en lógica determinista
• Sin acceso a internet: La IA no puede recuperar información en tiempo real ni acceder a sitios web externos
• Sin ejecución de código: La IA no puede realizar cálculos, ejecutar scripts ni validar implementaciones técnicas
• Corte de conocimiento: El conocimiento del modelo de IA está limitado a las fechas de corte de los datos de entrenamiento (varía según el proveedor)
• Límites de contexto: La ventana de contexto máxima restringe la cantidad de información procesada en una sola solicitud
• Límites de dominio: La IA está entrenada para cumplimiento/seguridad; el rendimiento en otros dominios no está garantizado

Para limitaciones detalladas y soluciones alternativas, consulte nuestra página de Problemas Conocidos.

Responsabilidad de Verificación por el Usuario

ISMS Copilot está diseñado para asistir, no para reemplazar, el juicio profesional:

• Contrastar las sugerencias de la IA con estándares oficiales
• Validar la información crítica antes de presentarla a los auditores
• Utilizar la IA como asistente de consultor, no como sustituto de la experiencia
• Ejercer el juicio profesional al aplicar las recomendaciones de la IA

Consulte Cómo Usar ISMS Copilot de Manera Responsable para conocer las mejores prácticas de verificación.

Informes y Retroalimentación

La retroalimentación de los usuarios es fundamental para mejorar el sistema de IA. Proporcionamos múltiples mecanismos para informar problemas, inexactitudes o comportamientos inesperados.

Cómo Reportar Problemas

Impactos Adversos o Alucinaciones:

1. Vaya al menú de usuario (arriba a la derecha) > Centro de Ayuda > Contactar con Soporte
2. Incluya el prompt, la respuesta y capturas de pantalla en su informe
3. Espere una respuesta en un plazo de 48 horas

Informes en la Plataforma:

• Utilice el botón "Reportar Problema" disponible en toda la plataforma para marcar respuestas específicas de la IA

Qué Ocurre Después de Reportar

1. Revisión inmediata (en un plazo de 48 horas): El equipo de soporte evalúa la gravedad y el impacto
2. Investigación: El equipo técnico analiza el problema, reproduce el incidente e identifica la causa raíz
3. Respuesta: Recibirá una actualización sobre los hallazgos y las acciones planificadas
4. Remediación: Los problemas se abordan mediante actualizaciones del modelo, ajuste de recuperación, correcciones de código o mejoras en la documentación
5. Mejora continua: Las lecciones aprendidas se integran en los procesos de prueba y monitoreo

Consulte la Visión General de Seguridad y Uso Responsable de la IA para obtener instrucciones detalladas sobre cómo reportar.

Actualizaciones de Documentación

Las especificaciones técnicas se actualizan cuando:

• Cambian los proveedores de IA (nuevos modelos, APIs obsoletas)
• Evoluciona la arquitectura (nuevos componentes, métodos de validación)
• Se revisan los requisitos (nuevas restricciones de seguridad, objetivos de rendimiento)
• Se amplían las prácticas de prueba (nuevas técnicas de validación, herramientas de seguridad)

Las actualizaciones se comunican a través de las notas de la versión y esta página de documentación. Suscríbase a nuestra página de estado para recibir notificaciones de cambios.

Próximos Pasos

• Revise cómo ISMS Copilot implementa ISO 42001
• Aprenda sobre los guardarraíles de seguridad de la IA y las prácticas de uso responsable
• Entienda las alucinaciones de la IA y cómo prevenirlas
• Siga las mejores prácticas para usar ISMS Copilot de manera responsable
• Revise nuestras completas Políticas de Seguridad

Obtener Ayuda

Para preguntas técnicas sobre las especificaciones del sistema de IA o para solicitar documentación adicional:

• Contacte al soporte a través del menú del Centro de Ayuda
• Reporte preocupaciones de seguridad de inmediato para su investigación
• Revise el Centro de Confianza para obtener información detallada sobre la gobernanza de la IA
• Consulte la Página de Estado para conocer los problemas conocidos