La adopción acelerada de la inteligencia artificial (IA) generativa en el sector corporativo ha abierto una sofisticada superficie de ataque.
Trend Micro advierte que los chatbots, diseñados para mejorar la eficiencia, pueden ser transformados en puertas traseras para acceder a infraestructuras sensibles.
Un ciberataque a estos sistemas no es directo, sino una cadena de pasos que inicia con el sondeo de límites. Los atacantes buscan errores técnicos que filtren información sobre el funcionamiento del sistema.
Si la IA analiza fuentes externas, como foros o reseñas, los delincuentes pueden aplicar una inyección indirecta de prompts mediante comandos ocultos en comentarios aparentemente inofensivos.
El riesgo se agrava cuando se otorgan permisos excesivos a los asistentes. A través de instrucciones maliciosas, los atacantes logran que la herramienta consulte bases de datos internas, extrayendo información de clientes o credenciales de almacenamiento en la nube.
Este proceso puede derivar en la ejecución de código en el servidor y el robo de modelos personalizados.
“Una aplicación de IA comprometida puede pasar de ser un asistente de servicio al cliente a una puerta trasera crítica”, advierte Samuel Toro, Head of Sales para la región norte de Latinoamérica en la compañía.
Para el ejecutivo, los grandes avances tecnológicos exigen la identificación proactiva de nuevos riesgos cibernéticos.
La defensa ante estas amenazas requiere un enfoque de capas basado en el modelo de confianza cero o Zero Trust.
Esto implica escanear los modelos desde su desarrollo y aplicar barreras en tiempo real que inspeccionen tanto las entradas (prompts) como las salidas de información para detectar anomalías.
“No se trata de un solo producto, sino de construir una defensa resiliente”, puntualiza Toro.
La gestión integral del ciberriesgo debe incluir una protección robusta de la infraestructura subyacente para contener amenazas y evitar que un compromiso en la IA afecte la totalidad de los activos digitales de la organización.
