Ciberseguridad en la era dorada de la IA

Resumen

El 16 de mayo de 2026 participé como panelista en el AI & Cybersecurity Forum en Bogotá. El panel — cuatro ingenieros más un moderador — abordó "Ciberseguridad en la era dorada de la IA", centrado en modelos agénticos, amenazas emergentes y ataques de inyección de prompts.

La conversación recorrió cómo los marcos tradicionales de seguridad tienen dificultades para capturar los riesgos únicos de los sistemas impulsados por LLMs, y en qué deberían concentrar el esfuerzo de mitigación los equipos de ingeniería a medida que aumenta la autonomía de los agentes.

Esta página es el registro canónico de la participación. La grabación completa, las diapositivas y un recap escrito se añadirán a medida que estén listos.

Grabación

Puntos clave

• Los marcos tradicionales de amenazas no fueron diseñados para la autonomía de los LLMs. STRIDE y modelos similares tratan a la IA como una herramienta, no como un actor. Los sistemas agénticos necesitan modelos de amenaza donde el modelo mismo sea una superficie de ataque con su propio límite de confianza.
• La inyección de prompts es la inyección SQL de la era de la IA: no es un problema del modelo, es un problema de validación de entradas. El contenido externo (correos, páginas web, mensajes de usuario) debe tratarse como entrada no confiable incluso cuando lo procesa un agente de IA.
• Los despliegues agénticos más peligrosos son aquellos en los que las personas confían en la salida sin leerla. El perímetro de seguridad sigue el límite de confianza, no el límite del sistema.
• La mayoría de fallos de seguridad de IA en producción no son exóticos. Son sistemas agénticos con permisos de herramientas demasiado amplios ejecutando instrucciones inyectadas desde contenido controlado por usuarios: una categoría de vulnerabilidad bien entendida corriendo sobre infraestructura nueva.
• La defensa en profundidad para agentes de IA implica permisos mínimos sobre herramientas, validación de salidas antes de acciones irreversibles, human-in-the-loop en operaciones de alto riesgo y red teaming adversarial antes del despliegue en producción.

Fotos