Medidas para reducir los riesgos de ataque por el uso de la IA

La Inteligencia Artificial no entra sola: qué riesgos aparecen cuando le damos acceso a mails, archivos y calendarios

https://www.itsitio.com
Por: José Aguirregabiria

Mario Micucci, Investigador de Seguridad Informática de ESET, analiza cómo el avance de asistentes conectados a plataformas digitales amplía la superficie de ataque, expone información sensible y qué medidas pueden tomarse para reducir los riesgos.

Cada vez más usuarios conectan asistentes de Inteligencia Artificial con correos electrónicos, navegadores, documentos, calendarios y aplicaciones de trabajo para automatizar tareas diarias.

Lo que hasta hace poco parecía una simple herramienta de consulta empieza a transformarse en un sistema con acceso real a buena parte de la vida digital de las personas y las empresas. Y ahí es donde especialistas en ciberseguridad empiezan a encender las alertas.

El fenómeno se aceleró en los últimos meses con el auge de integraciones alrededor de herramientas como Anthropic Claude y OpenAI ChatGPT. En redes sociales abundan tutoriales, extensiones y conectores que prometen transformar estos asistentes en verdaderos “copilotos digitales” capaces de leer mails, resumir documentos, organizar agendas o interactuar con distintas aplicaciones.

Sin embargo, detrás de esa comodidad aparecen nuevas superficies de ataque que empiezan a preocupar tanto a usuarios individuales como a empresas.

Mario Micucci, Investigador de Seguridad Informática de ESET, explicó que el principal cambio está en el nivel de acceso que empiezan a tener estas plataformas sobre la vida digital de las personas.

“La IA deja de ser solo una herramienta de consulta y pasa a convertirse en un intermediario con acceso a datos y acciones”, señaló.

Según el especialista, cuando un asistente puede leer correos, consultar archivos, acceder al calendario o navegar sitios web, el riesgo ya no se limita únicamente a la privacidad de la conversación. El problema pasa a ser mucho más amplio.

“Cuando un asistente puede leer correos, navegar páginas, consultar documentos, acceder al calendario o interactuar con aplicaciones, aumenta mucho la superficie de ataque”, advirtió Micucci.

Qué pasa cuando usamos extensiones y conectores no oficiales

Uno de los puntos que más preocupa a los especialistas es la proliferación de extensiones, plugins y conectores no oficiales que prometen potenciar las capacidades de asistentes de IA.

Muchas de estas herramientas ofrecen automatización de tareas, resúmenes de correos, integración con plataformas colaborativas o acceso rápido a documentos. El problema es que, para funcionar, suelen solicitar permisos extremadamente amplios.

“Un conector no oficial puede actuar como un puente entre la IA y datos altamente sensibles, pero sin las garantías de seguridad, privacidad, auditoría o control de permisos que debería tener una integración legítima”, explicó Micucci.

El investigador advirtió además que el boom de la inteligencia artificial ya está siendo aprovechado por ciberdelincuentes mediante campañas maliciosas especialmente diseñadas para explotar el interés masivo por estas tecnologías.

“Campañas de phishing más convincentes, sitios falsos que simulan herramientas de IA, extensiones maliciosas que prometen potenciar asistentes, instaladores falsos y malware disfrazado de aplicaciones de productividad”, sostuvo.

Cuando la Inteligencia Artificial tiene acceso a todo

Uno de los aspectos más delicados del nuevo escenario tecnológico aparece cuando una herramienta de IA obtiene acceso simultáneo a múltiples plataformas y fuentes de información.

Correos electrónicos, documentos internos, reuniones, calendarios, aplicaciones de mensajería y repositorios corporativos pueden terminar centralizados bajo un mismo asistente digital.

Para Micucci, el riesgo crece justamente por la capacidad de correlacionar datos.

“Un dato aislado puede no ser sensible, pero combinado con otros puede revelar información crítica”, explicó.

El especialista ejemplificó que un correo puede contener detalles sobre una negociación, mientras que un documento puede incluir precios y el calendario revelar reuniones vinculadas a un acuerdo comercial.

A esto se suma otro fenómeno cada vez más observado en el mundo de la seguridad informática: las llamadas “prompt injections”, instrucciones maliciosas ocultas dentro de documentos, páginas o correos electrónicos que buscan manipular el comportamiento del asistente de IA.

“El problema no es únicamente que el modelo vea información sensible, sino que puede procesar instrucciones maliciosas escondidas en correos, documentos, páginas web o archivos”, indicó.
Permisos excesivos: el punto ciego al conectar una IA

La discusión ya no gira únicamente alrededor de qué datos comparte voluntariamente un usuario, sino también sobre qué permisos concede a herramientas que actúan en su nombre.

Según el investigador de ESET, otorgar acceso amplio a correos, archivos o historial de navegación puede derivar en escenarios mucho más complejos que una simple filtración de datos.

“Cuando una herramienta tiene permisos de lectura y escritura, el riesgo no es solo la exposición de información. También puede haber modificación de archivos, envío de correos no autorizados, creación de eventos falsos o descarga de archivos maliciosos”, detalló.

En entornos corporativos, las consecuencias pueden escalar rápidamente hacia fuga de información, fraude interno o compromiso de cuentas.

Por eso, los expertos recomiendan prestar atención a determinadas señales antes de instalar cualquier integración relacionada con inteligencia artificial.

Shadow AI en las empresas: el uso de herramientas de inteligencia artificial sin control del área de IT preocupa cada vez más a especialistas en ciberseguridad.

Entre las principales alertas aparecen:

• permisos desproporcionados;
• desarrolladores desconocidos;
• extensiones fuera de tiendas oficiales;
• falta de política de privacidad;
• promesas excesivamente amplias sobre automatización y productividad.

“Una integración que accede a correos, documentos o historial de navegación debería explicar qué datos recolecta, dónde los procesa, si son compartidos con terceros y cómo se pueden revocar los permisos”, señaló Micucci.

Shadow AI: cuando los empleados usan IA sin control de la empresa

El avance acelerado de la IA generativa también abrió una preocupación creciente dentro del mundo corporativo: el fenómeno conocido como “shadow AI”.

El término hace referencia al uso de herramientas de inteligencia artificial sin aprobación ni supervisión formal por parte de las áreas de IT o ciberseguridad.

“El principal riesgo es perder visibilidad y control sobre la información corporativa”, explicó Micucci.

Según el especialista, muchas organizaciones todavía no lograron adaptar políticas, controles y procesos internos a la velocidad con la que se expandieron estas plataformas.

“El problema no es que los empleados usen IA, sino que lo hagan sin lineamientos, clasificación de datos, revisión de proveedores o controles técnicos”, afirmó.

La preocupación crece porque estos asistentes no solo procesan información, sino que también pueden automatizar tareas, generar contenido y conectarse simultáneamente con múltiples aplicaciones empresariales.

Cómo darle acceso a la IA sin perder el control

Frente a este escenario, los especialistas insisten en que el desafío no pasa por evitar la inteligencia artificial, sino por utilizarla con criterios de seguridad adecuados.

Para Micucci, una de las claves principales es aplicar el principio de mínimo privilegio.

“Una herramienta de IA solo debería tener acceso a los datos y funciones estrictamente necesarios”, explicó.

El investigador también recomendó utilizar únicamente integraciones oficiales o aprobadas por las organizaciones, revisar cuidadosamente los permisos antes de instalar extensiones y revocar accesos que ya no sean necesarios.

Finalmente, dejó una advertencia que resume el nuevo paradigma tecnológico alrededor de la IA conectada.

“No son simples chats: cuando tienen acceso a aplicaciones, archivos y acciones, deben gestionarse con los mismos criterios de seguridad que cualquier otra aplicación crítica”, concluyó.