Nueva vulnerabilidad de la inteligencia artificial que amenaza a las empresas

Nueva vulnerabilidad de la inteligencia artificial que amenaza a las empresas
Por Lic. Carmen Marín de González con la colaboración de Gemini

El artículo de Agustina Paz en Infobae Nueva vulnerabilidad de la inteligencia artificial que amenaza a las empresas https://www.infobae.com/opinion/2026/05/08/la-nueva-vulnerabilidad-de-la-inteligencia-artificial-que-amenaza-a-las-empresas/, pone el acento sobre un problema profundo y sumamente delicado. Plantea que el vector de ataque y la vulnerabilidad principal ya no residen únicamente en el "robo" o la "filtración" masiva de datos (la clásica brecha de seguridad), sino en la manipulación silenciosa de las instrucciones y la lógica que estructuran cómo la IA decide y construye sentido sensemaking, dicho en palabras llanas: proceso humano mediante el cual las personas organizan, interpretan y dan significado a situaciones complejas, ambiguas o inciertas. Es la habilidad fundamental de "dar luz" a un entorno caótico para poder tomar decisiones informadas y actuar. (https://thecynefin.co/what-is-sense-making/)

Imagen creada por Grok

 
Ataque modificando las instrucciones que se le dan a la IA

Cuando un atacante altera el contexto, las reglas de negocio o los prompts del sistema —lo que el artículo describe como modificar cómo el sistema interpreta lo que ve sin necesidad de llevarse nada—, el riesgo deja de ser puramente técnico o informático. Se transforma en una crisis de confianza, veracidad y gobernanza de la información, siendo esta última el enfoque estratégico de una organización para gestionar todo su ciclo de vida de datos y contenidos

Desde un punto de vista archivológico

La perspectiva de la Archivología moderna, demuestra que nuestro rol va mucho más allá de custodiar soportes físicos para centrarnos en la gobernanza de datos, los metadatos y la autenticidad documental bajo normativas internacionales, esta vulnerabilidad impacta directamente en los pilares de nuestra profesión de las siguientes maneras:

1. La destrucción del "Documento de Archivo" como Evidencia

Para los archivólogos, un documento es tal si posee tres atributos esenciales: autenticidad, integridad y fiabilidad. Si los sistemas empresariales de IA (como agentes autónomos integrados en los flujos de trabajo) son vulnerados en su lógica, la IA puede comenzar a clasificar, indexar, resumir o incluso crear registros institucionales basándose en un sentido alterado.

 
El impacto: Se rompe el principio de fiabilidad. Los documentos generados o gestionados por esa IA pierden su valor administrativo y de evidencia legal. Si el sistema "entiende" mal una orden interna debido a una instrucción manipulada en sus capas lógicas, el resultado documental reflejará una realidad corporativa distorsionada.

2. El colapso de los Metadatos de Contexto (ISO 23081)

La norma ISO 23081 establece que los metadatos deben capturar no solo el contenido, sino el contexto de producción y los procesos de la gestión de documentos. Cuando el artículo señala que "cuando lo que se altera no son los datos sino el sentido, el riesgo deja de ser técnico", nos enfrenta a un escenario crítico: los datos crudos en la base de datos pueden parecer intactos, pero la capa de metadatos contextuales y relacionales que la IA aplica de forma automatizada ha sido corrompida. El rastro de procedencia y la cadena de preservación digital se vuelven difusos e irrelevantes porque la interpretación del documento ha sido secuestrada en silencio.

3. La urgencia del "Criterio Humano" en la Auditoría Archivística

El texto menciona una asimetría operativa: agentes autónomos de IA iterando miles de veces hasta encontrar fallos que el escaneo humano tardaría años en ver. Ante esta automatización masiva, la tentación de las organizaciones es delegar también la auditoría en la propia tecnología.
La respuesta archivística: Aquí es donde el criterio humano calificado se vuelve obligatorio. El archivólogo no puede ser un mero espectador técnico; debe liderar el diseño de las políticas de gobierno de la información, estableciendo pistas de auditoría robustas y sistemas de preservación a largo plazo (siguiendo modelos como OAIS/ISO 14721) que aíslen los documentos auténticos y sus lógicas originales del entorno dinámico y potencialmente vulnerable de los grandes modelos de lenguaje en producción.

4. Del Perímetro de Seguridad a la "Diplomática Digital"

Durante mucho tiempo, los departamentos de TI se enfocaron en proteger el "perímetro" (los servidores, el acceso, el cifrado). El artículo advierte que cuando la lógica de la IA vive detrás del mismo perímetro que los datos, una falla altera todo el procesamiento de manera interna.

Para el profesional de la información, esto valida la necesidad de aplicar los conceptos de:

• La Diplomática Digital, disciplina científica que estudia la autenticidad, integridad y validez jurídica de los documentos electrónicos,
• Herramientas como el blockchain: (o cadena de bloques) es una base de datos o libro contable digital, descentralizado y seguro. Almacena información agrupada en bloques que se enlazan criptográficamente entre sí, formando una línea de tiempo inalterable. Esto significa que, una vez registrada una información, no se puede borrar ni modificar
• El sellado de tiempo (timestamping): mecanismo digital que certifica la fecha y hora exacta en que se creó, firmó o modificó un documento electrónico o conjunto de datos, directamente sobre el documento y sus metadatos desde el momento de su génesis.
• La seguridad ya no puede depender de la "caja" (el sistema de IA), sino de la estructura intrínseca de los datos y documentos que garantice que no han sido alterados por interpretaciones maliciosas del algoritmo.

En conclusión:

Esta vulnerabilidad demuestra que el verdadero valor estratégico de las organizaciones y su continuidad operativa no dependen de acumular gigabytes de datos, sino de la integridad de la lógica con la que se gestionan. Este escenario aleja definitivamente la visión del archivólogo como un gestor de almacenes y lo coloca en la primera línea de la gobernanza corporativa. Ante la crisis del sensemaking artificial, la archivología aporta las reglas metodológicas, éticas y normativas indispensables para asegurar que la memoria institucional siga siendo confiable y verificable.

Read more...