Red Hat lanza asago: nuevo proyecto open source para automatizar la seguridad y gobernanza de IA
Nuevo proyecto open source colaborativo reúne a Red Hat, Alquimia AI, Brave Software, la coalición EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA y The Alan Turing Institute para reducir la brecha entre los requisitos de políticas de IA y la implementación segura de sistemas de inteligencia artificial.
Red Hat, líder mundial en la provisión de soluciones open source, anunció hoy la creación de asago, un proyecto comunitario de código abierto destinado a automatizar la transformación de políticas de gobernanza de IA en sistemas de IA listos para producción e implementados con seguridad. asago conecta las etapas, herramientas y requisitos fragmentados entre los equipos de ingeniería y compliance para crear un flujo de trabajo automatizado, auditable y rastreable. El objetivo es ayudar a entregar sistemas de IA más seguros y listos para producción, impulsando la innovación en días, y no en meses o años.
“A medida que las organizaciones avanzan de proyectos piloto experimentales hacia agentes autónomos de IA a largo plazo, establecer guardrails operacionales claros se convierte en un requisito esencial de infraestructura”, afirma Steven Huels, vicepresidente de Ingeniería de IA en Red Hat. “A través de iniciativas como Lightwell, estamos trabajando para proteger la cadena de suministro open source contra vulnerabilidades impulsadas por IA. asago complementa este esfuerzo y representa el siguiente paso lógico para la IA corporativa al automatizar la conexión entre definiciones de políticas corporativas y agentes en producción. Esto ofrece a las empresas la confianza operacional de extremo a extremo necesaria para escalar una IA confiable en ambientes de nube híbrida”.
¿Qué es asago?
asago (AI Safety And Governance Orchestration) busca utilizar una plataforma open source estandarizada y un flujo de trabajo automatizado para traducir políticas corporativas y regulatorias de gobernanza de IA complejas en controles operacionales efectivos. Se basa en el trabajo de Red Hat y NVIDIA como miembros de la Open Secure AI Alliance, y alinea la flexibilidad de los desarrolladores con la gobernanza de los operadores a lo largo de cuatro etapas principales:
- Mapeo de riesgos: el framework interpreta automáticamente las políticas de gobernanza enviadas y vincula los requisitos internos con estándares como el NIST AIRMF, el OWASP LLM Top 10 y la Ley de IA de la UE (EU AI Act) mediante el IBM AI Risk Atlas, convirtiendo directrices abstractas en perfiles de riesgo accionables.
- Evaluación de riesgos: asago genera y ejecuta escenarios específicos para cada caso de uso, realizando pruebas automatizadas de seguridad adaptadas a los riesgos identificados e investigando comportamientos potencialmente nocivos, en lugar de depender exclusivamente de benchmarks genéricos.
- Mitigación de riesgos: el proyecto recomienda las medidas de mitigación más adecuadas, incluyendo guardrails de seguridad basados en los resultados de las pruebas, creando una justificación clara y una traza de auditoría lista para revisión.
- Implementación en producción: asago orquesta los controles recomendados en configuraciones listas para implementación en diferentes plataformas, incluyendo ambientes de nube híbrida y Kubernetes, eliminando la codificación manual de la infraestructura.
Cada etapa estructurada generará una traza de auditoría continua, vinculando las cláusulas de las políticas directamente a las pruebas y controles en ejecución. Esto permitirá a los revisores identificar el riesgo exacto que aborda cada acción, transformando la seguridad de IA en un recurso corporativo predecible y gobernado.
¿Por qué es importante asago?
Traducir políticas abstractas a software retrasa la innovación en IA e incrementa riesgos por errores de comunicación. Con la entrada en vigor de normativas como la EU AI Act, las empresas no pueden depender de revisiones manuales ni arriesgarse a usar shadow AI sin protección. Mientras los equipos de compliance exigen evidencias y evaluaciones rigurosas, los ingenieros requieren configuraciones estructuradas para sus flujos de DevOps y GitOps.
asago resuelve esta fricción mediante un único estándar abierto que unifica a los especialistas de compliance, científicos de datos y administradores de infraestructura. Al integrarlos por igual, la plataforma facilita la creación de controles de seguridad para LLM y agentes autónomos corporativos, eliminando las inconsistencias de la traducción manual.
“El proyecto asago es un verdadero esfuerzo colaborativo de código abierto que reúne a representantes de la industria de tecnología, la academia y el sector público”, afirma Stuart Battersby, arquitecto de seguridad y evaluación de modelos de IA en Red Hat. “Invitamos a nuevos colaboradores a participar en esta iniciativa liderada por la comunidad, especialmente de diferentes partes del mundo, para garantizar la mayor diversidad posible de perspectivas sobre seguridad en IA.”
Principales aspectos destacados
- Automatización para reducir la complejidad de las políticas: sustituye interpretaciones manuales y scripts personalizados por un flujo de orquestación integrado, reduciendo el tiempo de implementación de meses a días.
- Una traza única de auditoría: atiende a responsables de políticas, CIO, desarrolladores de IA, ingenieros de plataforma y auditores externos en una interfaz unificada de trazabilidad.
- Código abierto y gobernanza orientada por la comunidad: disponible bajo la licencia Apache License 2.0 para promover la colaboración abierta en todo el ecosistema de seguridad en IA.
- Implementación independiente de la infraestructura: genera configuraciones declarativas para Kubernetes, Terraform y Ansible, permitiendo que las organizaciones mantengan una postura consistente de seguridad en múltiples nubes y ambientes on-premises.
“En Alquimia, construimos nuestra plataforma de IA agéntica con base en una convicción: la inferencia de IA debe ser controlada, explicable y soberana desde el diseño, y no tratada como una exigencia de compliance de último momento”, afirma Sebastián Cao, CEO de Alquimia AI. “asago transforma esa misma convicción en un estándar abierto, ofreciendo a cualquier organización un camino desde la política hasta la gobernanza lista para producción que puede ser auditada efectivamente. Es exactamente este tipo de infraestructura la que necesita la industria y es por eso que, a través de gaussia.ai, contribuimos con métricas abiertas y científicamente fundamentadas para medir cómo se comportan realmente los sistemas de IA en el mundo real. Frameworks abiertos de gobernanza, como asago, hacen posible que comunidades enteras, y no solo los proveedores, definan en la práctica qué significa una IA confiable.”
Disponibilidad
El proyecto asago se encuentra actualmente en la fase de formación de la comunidad. Desarrolladores, investigadores académicos y organizaciones interesadas en adoptar la iniciativa de forma anticipada ya pueden acceder al repositorio y participar en la gobernanza del proyecto a través de GitHub. Para obtener más información y manifestar interés en colaborar, ingresa a asago.ai.
Fundamentalista de los Ramones y Justin Bieber. El mismísimo rey de Gondor sabe mí nombre. Odio el chocolate.
