Microsoft publicó su Informe de Transparencia sobre IA Responsable 2026, el tercero que presenta anualmente.
El documento da cuenta de los avances, aprendizajes y cambios del último año para desarrollar, desplegar y utilizar sistemas de IA de manera responsable.
El informe parte de una realidad: el contexto de riesgo cambia a medida que la IA se vuelve más capaz, accesible y autónoma.
Microsoft identifica cinco tendencias que transforman el panorama:
- La aceleración de la adopción de IA mientras persisten brechas entre geografías e idiomas.
- El creciente uso de chatbots para orientación personal, incluida información de salud y apoyo emocional.
- La expansión de sistemas de IA generativa y agencial.
- El aumento del uso malicioso de IA para fraude, suplantación, deepfakes y ataques de ingeniería social.
- La rápida evolución de la regulación a nivel global.
De los modelos a los agentes
Uno de los principales focos del reporte es la IA agencial.
A diferencia de sistemas que solo generan una respuesta, los agentes pueden conectar modelos, herramientas, servicios y fuentes de datos para ejecutar tareas de múltiples pasos.
Esto amplía las posibilidades de la tecnología, pero también modifica el panorama de riesgo.
Factores como los permisos, el acceso a información y sistemas, la memoria y el grado de autonomía adquieren mayor relevancia.
Para responder a este escenario, Microsoft actualizó integralmente su Estándar de IA Responsable.
La actualización establece:
- Mayor claridad sobre las responsabilidades de quienes desarrollan IA y de quienes la implementan.
- Requisitos específicos para modelos, servicios de plataforma y aplicaciones.
- Reglas adicionales para escenarios de mayor riesgo.
- Mayor alineación entre la gobernanza de IA y los procesos de seguridad de la compañía.
La compañía también sumó prácticas de modelado de amenazas específicas para IA agencial; amplió sus capacidades internas de evaluación y reforzó salvaguardas como las defensas contra ataques de prompt injection y los clasificadores de seguridad.
El proceso de gestión de riesgos se alinea con las funciones Govern, Map, Measure y Manage del AI Risk Management Framework de NIST.
Y se complementa con una instancia central de revisión previa al lanzamiento de tecnologías de IA.
Del principio a la práctica
El reporte ofrece indicadores concretos sobre la escala de este trabajo:
- Cerca de 20.000 ingenieros, responsables de políticas públicas y clientes recibieron capacitación en IA responsable.
- Microsoft revisó más de 100 leyes aprobadas y propuestas para actualizar su Estándar de IA Responsable, con la participación de más de 80 empleados de más de 30 equipos.
- Para evaluar Copilot Health antes de su lanzamiento, la compañía consultó a más de 250 profesionales clínicos acreditados de más de dos docenas de países.
- Se amplió el trabajo para evaluar la confiabilidad de la IA en distintos idiomas, con investigación en seis localidades de Asia y PazaBench, con cobertura de 39 lenguas africanas.
La responsabilidad no termina con el lanzamiento
El informe también pone énfasis en una cuestión clave: la responsabilidad no corresponde únicamente a quien desarrolla un modelo.
El Estándar actualizado incorpora un capítulo específico para el despliegue de IA, con prácticas para:
- Evaluar capacidades y limitaciones antes de implementar una tecnología.
- Analizar riesgos según el contexto específico de uso.
- Establecer supervisión y mitigaciones.
- Monitorear desempeño, retroalimentación e incidentes después del lanzamiento.
- Proporcionar a los usuarios información sobre usos previstos, limitaciones y salvaguardas.
Este enfoque reconoce que la gobernanza necesita ser continua y adaptarse a cómo las personas y organizaciones utilizan la IA en el mundo real.
El reporte señala además que la rápida difusión de la IA no ocurre de manera uniforme.
Persisten diferencias importantes en quién puede acceder a estas tecnologías y beneficiarse de ellas, particularmente entre geografías e idiomas.
