Durante décadas aprendimos a desconfiar de los archivos ejecutables, de los correos con enlaces sospechosos y de los documentos infectados con virus. Hoy, la irrupción de la inteligencia artificial está dando origen a una nueva generación de riesgos mucho más discretos y difíciles de detectar.
Imagine por un momento que un documento PDF aparentemente inofensivo, un currículum, un contrato, un artículo académico o un reporte técnico contuviera instrucciones ocultas dirigidas no a usted, sino a la inteligencia artificial que utilizará para analizarlo.
Aunque suene a ciencia ficción, ya es una realidad.
Los especialistas la conocen como inyección de prompts (prompt injection), una técnica mediante la cual un atacante inserta instrucciones maliciosas dentro de documentos, páginas web o archivos aparentemente legítimos para manipular el comportamiento de un sistema de inteligencia artificial. En lugar de limitarse a resumir o analizar el contenido, la IA puede ser inducida a ignorar instrucciones originales, revelar información, alterar respuestas o ejecutar acciones no previstas dentro de los límites de las herramientas a las que tenga acceso.
La gravedad del problema aumenta conforme las organizaciones incorporan asistentes de IA conectados con correo electrónico, calendarios, repositorios documentales, bases de datos o sistemas corporativos. Lo que antes era simplemente un archivo, ahora puede convertirse en un vehículo para intentar influir en una decisión automatizada.
El modus operandi resulta particularmente ingenioso.
El delincuente prepara un documento completamente normal para el ojo humano. Puede tratarse de un PDF con información financiera, un currículum vitae, un contrato o un reporte técnico. Sin embargo, dentro del archivo incorpora instrucciones ocultas —a veces invisibles para una persona— diseñadas específicamente para ser interpretadas por una inteligencia artificial.
Cuando un usuario solicita a su asistente de IA que resuma el documento, extraiga información o genere un análisis, el modelo procesa tanto el contenido legítimo como las instrucciones maliciosas incrustadas. Si el sistema no cuenta con controles adecuados, esas instrucciones podrían influir en el resultado o intentar obtener información que nunca debió exponerse.
El fenómeno recuerda mucho a lo que ocurrió hace años con los ataques de ingeniería social. Los delincuentes descubrieron que era más fácil engañar a las personas que vulnerar directamente los sistemas.
Hoy parecen haber encontrado un camino similar: engañar a la inteligencia artificial para que ésta, a su vez, influya sobre las personas.
La amenaza todavía se encuentra en evolución, pero diversos investigadores advierten que, conforme los llamados “agentes de IA” adquieran mayor autonomía para consultar bases de datos, enviar correos, programar reuniones o ejecutar tareas, este tipo de ataques podría adquirir una dimensión mucho más preocupante.
La buena noticia es que la prevención sigue siendo posible, pero exige cambiar nuestra manera de pensar.
Hasta ahora revisábamos si un archivo contenía malware. A partir de ahora también tendremos que preguntarnos si contiene instrucciones ocultas dirigidas a una inteligencia artificial.
Cinco recomendaciones poco tradicionales
1. No delegue completamente el criterio a la IA. Si un documento genera conclusiones sorprendentes, solicitudes inusuales o recomendaciones que parecen fuera de contexto, verifique directamente la fuente original antes de actuar.
2. Considere cualquier documento externo como contenido potencialmente no confiable. Así como aprendimos a desconfiar de enlaces desconocidos, conviene asumir que un PDF, un currículum o un reporte descargado de Internet también puede intentar influir en una IA.
3. Separe la IA que analiza información de la IA que toma acciones. Si utiliza asistentes capaces de acceder a correos, archivos o sistemas corporativos, evite que un mismo proceso tenga acceso irrestricto a información sensible y capacidad para ejecutar acciones sin supervisión humana.
4. Incorpore el pensamiento crítico como parte del proceso. La inteligencia artificial puede acelerar el análisis, pero las decisiones relevantes deben seguir siendo validadas por personas, especialmente cuando impliquen aspectos financieros, legales, operativos o de seguridad.
5. Capacite a su organización en esta nueva forma de ingeniería social. Durante años enseñamos a los colaboradores a identificar correos de phishing. Hoy también deberán aprender que algunos documentos pueden intentar manipular a la inteligencia artificial con la que trabajan todos los días.
La historia de la ciberseguridad demuestra que cada avance tecnológico trae consigo nuevas oportunidades… y nuevos riesgos.
La inteligencia artificial no será la excepción. Por ello, quizá la mejor defensa siga siendo la misma de siempre: una combinación de tecnología, controles adecuados y personas informadas.
En esta nueva era digital, no solo debemos preguntarnos qué estamos leyendo. También debemos preguntarnos…¿Qué está leyendo la inteligencia artificial por nosotros?
