La gestión documental se ha convertido en un factor estratégico para la banca digital

La gestión documental impulsa la eficiencia y la confianza en la banca digital

https://portalinnova.cl/
Portal Innova | Grupo Prensa Digital | S.M

La gestión documental se ha convertido en un factor estratégico para mejorar la experiencia del cliente y abrir nuevas oportunidades en el sector financiero.

Santiago, 07 octubre de 2025.- Aunque la mayoría de las transacciones financieras ya se realizan a través de canales digitales, uno de los principales retos de la banca sigue siendo establecer vínculos cercanos y duraderos con los clientes. Frente a este desafío, la gestión documental ha dejado de ser un proceso interno para convertirse en un eje central de la transformación digital.

DocPath, empresa global especializada en soluciones de software para la administración de información, explica cómo la gestión del ciclo de vida documental se ha convertido en un pilar de la transformación digital y en un elemento decisivo para optimizar la experiencia en el sector financiero, garantizando al mismo tiempo seguridad y cumplimiento normativo.

Los servicios digitales no solo amplían la tenencia de cuentas, también generan impacto directo: 72% de usuarios ahorran tiempo, 59% planifican mejor sus finanzas y 53% acceden a más crédito, según Mastercard. Alcanzar estos resultados exige procesos internos igual de ágiles y seguros, y es aquí donde la gestión documental desempeña un papel decisivo: al digitalizar y centralizar la información, las instituciones financieras pueden responder con mayor eficiencia, ofrecer experiencias personalizadas y fortalecer la confianza en cada interacción, potenciando así la competitividad en un mercado cada vez más digital.

“La gestión documental ya no es simplemente almacenar información en formato electrónico. Hoy hablamos de plataformas inteligentes que conectan datos, procesos y personas en tiempo real. En el sector financiero, esto significa poder anticiparse a las necesidades del cliente, mejorar la toma de decisiones y, al mismo tiempo, asegurar que cada comunicación tenga validez legal y se entregue en el canal que el usuario prefiere. Es una herramienta que impacta directamente en la competitividad del banco y la experiencia de los usuarios”, señaló Mauricio Saavedra Pazos, director de ventas de DocPath en Latinoamérica.

La implementación de soluciones avanzadas en procesos documentales no solo agiliza procesos, también genera valor en distintas áreas de negocio como:Eficiencia operativa:escalabilidad y rapidez en la producción de documentos con integración de información.
Seguridad y fuerza legal:contratos ejecutables y acuerdos válidos con firmas digitales seguras.
Servicios personalizados:cruce inteligente de datos para impulsar estrategias de fidelización, upselling (vender una versión mejorada del producto) y cross-selling (vender productos complementarios).
Cumplimiento normativo:control de versiones, auditorías completas y herramientas de diseño intuitivas.
Almacenamiento inteligente:plataformas seguras con búsquedas avanzadas por título y contenido.
Protección contra fraudes:mecanismos que refuerzan la integridad de los acuerdos y previenen alteraciones.

La interacción con el cliente se redefine al incorporar canales digitales que ya hacen parte de su día a día. Herramientas como WhatsApp, aplicaciones de billetera digital o notificaciones vía SMS permiten mantener un contacto directo y oportuno, mientras que la accesibilidad de documentos en formatos compatibles con pautas internacionales como el WCAG (Web Content Accessibility Guidelines), que garantizan que los contenidos digitales sean accesibles para personas con discapacidad, amplía el alcance a más usuarios.

Además, la captura inteligente de datos evita redundancias y acelera los procesos, mientras que el seguimiento en tiempo real de la interacción con los documentos enviados abre la puerta a una conexión más profunda y a oportunidades de servicio en el momento adecuado.

“Cuando los bancos gestionan de manera centralizada todo el ciclo de vida documental, no solo ganan agilidad interna, también elevan la satisfacción del cliente y reducen costos operativos. Hemos visto casos donde la automatización documental permite responder en segundos a solicitudes que antes tardaban días, o generar contratos con plena validez jurídica en cuestión de minutos. Todo esto se traduce en experiencia, confianza, fidelización y una base sólida para la innovación en productos financieros”, concluye Mauricio Saavedra Pazos, director de ventas de DocPath en

Read more...

Foro de Evaluación Documentalen el Archivo General de la Nación argentino

El Archivo General de la Nación fue sede del Foro de Evaluación Documental
https://www.argentina.gob.ar/

El Archivo General de la Nación, organismo dependiente del Ministerio del Interior, fue sede del Foro de Evaluación Documental, organizado en conjunto con ANSES. El evento abordó la urgencia de gestionar el volumen creciente de documentos físicos y digitales.

El Archivo General de la Nación, organismo dependiente del Ministerio del Interior, fue sede del Foro de Evaluación Documental, organizado en conjunto con ANSES. En el evento se presentaron experiencias y estrategias para gestionar el creciente volumen de documentos físicos y digitales.

El momento central fue la presentación de la Comisión de Evaluación Documental. Esta comisión, clave para eficientizar la gestión documental en la Administración Pública Nacional, es coordinada por el AGN e integrada por representantes de la Secretaría Legal y Técnica, la Secretaría de Gestión y Empleo Público y la Secretaría de Innovación Pública. En la presentación de la Comisión estuvieron presentes Enrique Carrizo, Subsecretario de Innovación, y Anabella Hayet, Directora de Administración y Gestión de la Información del AGN.

Intercambios técnicos entre AGN y ANSES

Personal del Archivo General de la Nación (AGN), organismo dependiente del Ministerio del Interior, visitó el Archivo Central de la Administración Nacional de la Seguridad Social (ANSES) para un intercambio de buenas prácticas en gestión documental masiva y digitalización.

La comitiva, compuesta por integrantes del Departamento de Archivo Intermedio y de Procesos Digitales, analizó la operatoria de un archivo que administra cerca de 34 millones de expedientes (físicos y digitales) bajo estándares internacionales.

El encuentro se centró en la escala y eficiencia de los procesos de ANSES:

Digitalización masiva: Se generan aproximadamente 5.000.000 de imágenes digitales mensuales, enfocadas en expedientes con plazos de guarda prolongados.

Logística y expurgos: Implementación de un cronograma anual para la despapelización de su red de 441 archivos periféricos. El organismo expurga cerca de 15 toneladas de papel mensuales, donadas al Hospital Garrahan.

Trazabilidad: Riguroso registro, clasificación y trazabilidad de documentos (archivo, digitalización o expurgo), utilizando una Comisión de Evaluación Documental propia.

Gestión de la demanda: Monitoreo continuo de procesos para responder a unas 10.000 consultas mensuales.

Este fructífero intercambio resulta esencial para que el Archivo General de la Nación evalúe y optimice sus propios métodos de gestión de gran volumen documental.

Cómo solicitar documentos audiovisuales en alta resolución en el Archivo General de la Nación

El Archivo General de la Nación (AGN), organismo dependiente del Ministerio del Interior, brinda un servicio optimizado y simplificado para que profesionales del cine, la televisión y la producción documental accedan rápidamente a su vasto acervo audiovisual en alta definición (HD).

Pensado para agilizar los procesos de investigación y producción, este instructivo detalla cómo obtener copias digitales del patrimonio histórico argentino.

PASO 1: Buscá la pieza audiovisual de tu interés
Ingresá a nuestro buscador audiovisual.

Localizá y seleccioná el documento exacto que te interesa incluir en tu producción. Anotá el título del video, el ID, y los minutos y segundos que precisás.

PASO 2: Iniciá la solicitud
Ingresá al formulario de solicitud de copias en alta resolución

PASO 3: Completá el formulario
En el formulario online, indicá tus datos personales, la información de tu productora (esencial para fines de derechos y uso) y el detalle exacto del material que necesitás para tu proyecto.

PASO 4: Recibí las piezas y la licencia
Te enviaremos el presupuesto detallado por el material de alta calidad.
Una vez abonado, recibirás la copia de alta resolución directamente en tu mail, lista para ser integrada en tu largometraje, corto o documental. El envío del material no suele demorar más que 5 días luego del envío del comprobante de pago.

Read more...

El manejo indebido de documentos clasificados: caso John Bolton

Imputan a John Bolton,exasesor de Trump, por manejo indebido de documentos clasificados
https://www.elperiodico.com/

Le acusan de transmitir información de alto secreto a través de cuentas personales de correo electrónico y aplicaciones de mensajería

El exasesor de Seguridad Nacional de EEUU, John Bolton. / EP

El que fuera asesor de Seguridad Nacional durante la primera Administración de Donald Trump y ahora acérrimo crítico del presidente, John Bolton, ha sido imputado formalmente de cerca de una veintena de cargos por manejo indebido de documentos clasificados.

El Departamento de Justicia ha informado este jueves de que un gran jurado federal ha emitido un escrito de acusación formal contra Bolton --que se desempeñó como asesor entre 2018 y 2019-- por transmitir y retener ilícitamente información de defensa nacional, según reza un comunicado. "Hay un solo nivel de justicia para todos los estadounidenses. Cualquiera que abuse de una posición de poder y ponga en peligro nuestra seguridad nacional rendirá cuentas. Nadie está por encima de la ley", ha declarado la fiscal general, Pamela Bondi.

El director del FBI, Kash Patel, ha aseverado que "el caso se ha basado en el trabajo meticuloso de profesionales (...) del FBI que siguieron los hechos con total transparencia". "No se tolerará el uso de la justicia como arma, y el FBI nos e detendrá ante nada para llevar ante la justicia a cualquiera que amenace nuestra seguridad nacional", ha sostenido.

Bolton supuestamente transmitió documentos clasificados como de alto secreto a través de cuentas personales de correo electrónico y aplicaciones de mensajería. Estos documentos contenían información sobre futuros ataques, adversarios extranjeros y relaciones de política exterior. La acusación también alega que Bolton retuvo ilegalmente documentos confidenciales --sobre líderes de una adversario, fuentes y recopilaciones utilizadas para obtener declaraciones sobre un adversario extranjero-- en su domicilio.

John Bolton enfrenta 18 cargos bajo la Ley de Espionaje: el Departamento de Justicia retira la acusación completa de 26 páginas
https://www.westernjournal.com/
Jack Davis

El entonces asesor de seguridad nacional, John Bolton, responde a las preguntas de los periodistas

tras una reunión con el presidente de Bielorrusia en Minsk el 29 de agosto de 2019. (Sergei Gapon - AFP / Getty Images)

La acusación contra el ex asesor de seguridad nacional John Bolton muestra que está acusado de 18 cargos criminales, incluidos ocho cargos de transmisión de información de defensa nacional y 10 cargos de retención de información de defensa nacional.

La acusación también afirma que después de que Bolton fuera hackeado por un “actor cibernético” vinculado a Irán, no reveló qué tipo de información clasificada había estado enviando a través de la cuenta hackeada.

La acusación formal alega que “desde aproximadamente el 9 de abril de 2018 hasta al menos aproximadamente el 22 de agosto de 2025, BOLTON abusó de su posición como Asesor de Seguridad Nacional al compartir más de mil páginas de información sobre sus actividades diarias como Asesor de Seguridad Nacional, incluida información relacionada con la defensa nacional que fue clasificada hasta el nivel TOP SECRET/SCI, con dos personas no autorizadas, a saber, los Individuos 1 y 2”.

La acusación dice que el ex asesor del presidente Donald Trump durante el primer mandato de Trump “también retuvo ilegalmente documentos, escritos y notas relacionados con la defensa nacional, incluida información clasificada hasta el nivel TOP SECRET/SCI, en su casa en el condado de Montgomery, Maryland”.

ÚLTIMA HORA: John Bolton acaba de ser acusado formalmente por un gran jurado. ¿Qué opinas al respecto?

La acusación decía que desde “alrededor del 9 de abril de 2018 hasta aproximadamente el 15 de septiembre de 2019, de manera regular, Bolton envió entradas similares a un diario a los Individuos 1 y 2 que contenían información clasificada hasta el nivel TOP SECRET/SCI”, y agregó que estas fueron enviadas “a través de una aplicación de mensajería comercial no gubernamental”.

“En otras ocasiones, Bolton utilizó sus cuentas de correo electrónico personales no gubernamentales, como las cuentas de correo electrónico alojadas por AOL y Google, para enviar por correo electrónico información clasificada hasta el nivel TOP SECRET/SCI a los Individuos 1 y/o 2 en sus cuentas de correo electrónico personales”, dice la acusación.

La acusación señaló que Bolton no dijo la verdad cuando fue atacado por "un actor cibernético que se cree está asociado con la República Islámica de Irán".

El pirata informático “obtuvo acceso no autorizado a la información clasificada y de defensa nacional en esa cuenta, que Bolton había enviado previamente por correo electrónico a los individuos 1 y 2”.

La acusación dice que el representante de Bolton “no le dijo al gobierno de Estados Unidos que la cuenta contenía información de defensa nacional, incluida información clasificada, que Bolton había colocado en la cuenta desde su época como Asesor de Seguridad Nacional”.

Bolton no le informó en ningún momento al FBI que, mientras era Asesor de Seguridad Nacional, había utilizado la cuenta de correo electrónico pirateada para enviar a los Individuos 1 y 2 documentos relacionados con la defensa nacional, incluyendo información clasificada. Tampoco le informó al FBI que los piratas informáticos ahora tenían esta información, según la acusación.

La acusación ofrecía un resumen de los documentos que Bolton envió a personas que no estaban autorizadas a recibirlos, todos los cuales, como decía la acusación, fueron leídos por un hacker vinculado a Irán.

Un documento “revela información sobre un futuro ataque por parte de un grupo adversario en otro país”, mientras que otro “revela que un socio de enlace comparte información sensible con la comunidad de inteligencia estadounidense”.

En enero de 2019, según la acusación, Bolton envió a sus socios un documento que “[reveló] información de que un adversario extranjero estaba planeando el lanzamiento de un misil en el futuro; una acción encubierta en un país extranjero relacionada con acciones intergubernamentales sensibles; fuentes y métodos sensibles utilizados para recopilar inteligencia humana.

Un documento de junio de 2019 que Bolton envió “revela inteligencia sobre el conocimiento de un adversario de acciones planificadas por Estados Unidos; inteligencia sobre planes de ataque del adversario llevados a cabo contra fuerzas estadounidenses en otro país; inteligencia humana utilizando fuentes y métodos sensibles; un programa de acción encubierta; inteligencia recopilada sobre el líder de un grupo militar de una nación adversaria”, dice la acusación.

Un documento de julio de 2019 que Bolton envió “revela inteligencia sobre los líderes de un adversario”, dice la acusación, mientras que uno de agosto “revela inteligencia sobre las interacciones de un país extranjero con un adversario; entre comillas, una declaración directa recopilada a través de fuentes y métodos de inteligencia sobre un país extranjero; inteligencia de un país extranjero que describe un ataque planeado por un adversario a una instalación; fuentes y métodos sensibles utilizados para recopilar inteligencia sobre un país extranjero; una acción encubierta y fuentes y métodos utilizados”.

Un documento de septiembre revela “una acción encubierta planeada por el gobierno de Estados Unidos; inteligencia que confirma que un adversario extranjero fue responsable de un ataque”, dice la acusación, mientras que otro “revela una acción encubierta llevada a cabo por el gobierno de Estados Unidos, un país socio de enlace e información específica sobre la acción”, dice la acusación.

Read more...

NotebookLM, IA de Google, ahora resume documentos en video

NotebookLM, IA de Google, ahora resume documentos en video: Aprenda a usarla en su vida diaria

https://www.elcolombiano.com/
Leonardo Bautista Romero

La app sigue sumando funciones para usuarios en español y ofrece herramientas prácticas que empresas y personas están aprovechando para ahorrar tiempo en el día a día.

Google estrenó en NotebookLM la función Video Overviews, que permite transformar documentos extensos en resúmenes automáticos en video narrados en español.

La herramienta de inteligencia artificial, que hasta ahora se limitaba a texto y audio, ya está disponible en Colombia y más de 80 idiomas, y promete cambiar la manera en que estudiantes, docentes y profesionales procesan información

NotebookLM nació como un asistente de inteligencia artificial para organizar documentos. Era capaz de subrayar conceptos, organizar ideas y generar síntesis en texto o audio.

Con la nueva actualización, cualquier archivo cargado, sea una presentación, transcripción académica o informe corporativo, puede convertirse en un video breve con gráficos, imágenes y voz automatizada en español.

El usuario solo necesita cargar sus documentos desde su cuenta Google y elegir la opción de video. En minutos, la plataforma selecciona los conceptos clave, los organiza y produce una narración audiovisual que puede descargarse o compartirse.

Según Google, la meta es clara: “entender los conceptos clave de las fuentes para optimizar el tiempo entre la búsqueda y el aprendizaje o la creación”.

Además de los videos, la herramienta permite:

-Analizar archivos PDF, presentaciones, notas o transcripciones de YouTube.

-Generar resúmenes escritos con citas verificables.

-Explicar conceptos difíciles en términos sencillos.

-Crear guías de estudio, cronogramas de trabajo o listas de preguntas frecuentes.

-Transformar entrevistas o documentos dispersos en borradores para artículos o pódcast.

La actualización también incluye mejoras en Audio Overviews, ampliando las opciones para consumir información mientras se conduce, se hace ejercicio o se realizan otras tareas cotidianas.

El especialista argentino José Ignacio Molina, Growth Marketing Manager en la consultora Meriti, explicó en su blog que NotebookLM está revolucionando la gestión del conocimiento en compañías de distintos sectores. Según cuenta, ya lo implementó en su trabajo con resultados “increíbles” en eficiencia.

Entre las funciones clave, destaca:

-Mind Map Interactivo: permite visualizar relaciones entre conceptos complejos. Por ejemplo, un equipo de marketing puede mapear conexiones entre “automatización”, “engagement” y “contenido generado por IA”.

-Selector de idioma: útil para equipos internacionales, con generación de contenido en más de 35 lenguas.

-Integración con Google Workspace: ahora disponible como servicio principal en planes Business y Enterprise.
Casos prácticos para el día a día


Molina resume cuatro usos frecuentes para trabajar a diario con esta herramienta:

-Gestión de conocimiento: centralizar presentaciones, PDFs y documentos para que cualquier miembro consulte información y obtenga respuestas inmediatas.

-Creación de informes: cargar documentos extensos y recibir resúmenes listos para clientes en minutos.

-Capacitación y Onboarding: crear un “NotebookLM de bienvenida” con información clave para que nuevos empleados aprendan sin depender de un mentor.

-Optimización de estrategia comercial: analizar interacciones con clientes y detectar patrones de demanda para ajustar productos y discursos de venta.

Par empezar a usarlo, el primer paso es ingresar a NotebookLM con una cuenta de Google. Una vez dentro, se pueden cargar documentos o enlaces desde Google Drive y elegir entre resumen en texto, audio o video. La interfaz permite definir idioma, duración y nivel de detalle.

Con un clic, la IA analiza los archivos y genera el resultado en pocos minutos. El contenido puede almacenarse, descargarse o compartirse.

Read more...

Como detectar si se uso una IA

La nueva Inteligencia Artificial que detecta si se usó otra IA en un documento: cómo funciona

https://www.ambito.com/

Encontré una plataforma con la que podrás descubrir si un texto fue plagiado o hecho con esta herramienta de tecnología.

El uso de Inteligencia Artificial en las escuelas es un enorme problema debido a que muchos estudiantes aprovechan esta herramienta para realizar sus actividades sin esfuerzo, algo que no siempre es fácil de detectar. Sin embargo, existen muchas plataformas que pueden ayudar a esto, como Winston AI, que cuenta con un 99.98% de precisión.

Esta plataforma tiene la capacidad de detectar si se utilizaron herramientas como ChatGPT, Gemini, GPT4 y muchas más en la realización de trabajos. Sin embargo, esta no es su única funcionalidad, ya que también es especialmente útil para escritores y para editores.

Cómo funciona Winston AI, la plataforma que detecta el uso de IA

La función principal de Winston AI es descubrir si un escrito fue hecho con IA. Al introducir el texto que se desea comprobar, la plataforma muestra una escala de cuánta posibilidad hay de que se haya escrito con inteligencia artificial. Este evaluará oración por oración y generará un informe con todos los datos ofrecidos.

Por otro lado, Winston AI es una herramienta especialmente ideal para detectar si hubo plagio de diversos contenidos, mientras que también muestra de dónde se copió la información. Esto ayudará a optimizar tiempo y recursos a los editores, al mismo tiempo que ayuda a mejorar textos gracias a la optimización con lenguaje SEO.

Además, con esta plataforma, los escritores también podrán mejorar sus borradores. Pero al priorizar siempre el toque humano y personal, la IA mantiene la calidad de contenido sin perder la supervisión humana. Gracias a esta herramienta, aumentarán la eficacia de los textos y su originalidad sin dejar de lado lo orgánico.

Read more...

workslop o la basura producida por la IA

Los documentos sin valor creados con IA están causando pérdidas millonarias a las empresas

https://es.wired.com/
Jorge Garay

Cada vez es más común recibir documentación creada por IA que debe ser corregida, lo que aumenta la carga de trabajo de los empleados de una empresa y afecta su productividad.

ilustración de un robot sentado frente a una computadora.Westend61/GETTY IMAGES

¿Harto de revisar documentos creados con IA? No eres el único. Al 40% de los trabajadores de oficina en Estados Unidos les toma un promedio de dos horas en descifrar y corregir cada archivo intervenido por alguna herramienta de inteligencia artificial, y enviado por colegas y hasta gerentes y directores. Ese esfuerzo extra, provocado por lidiar con trabajo sin sustancia disfrazado con prompts para parecer competente (una práctica conocida como workslop), junto con la frecuencia del fenómeno, puede explicar por qué muchas empresas que adoptan nuevas tecnologías no logran un retorno medible de inversión (ROI).

Una investigación del laboratorio de investigación conductual BetterUp Labs, en conjunto con el equipo de Stanford Social Media Lab, reveló el impacto oculto del abuso del trabajo creado por IA y que carece de valor. Sus resultados estiman que los incidentes de workslop donde se traslada el trabajo de corrección generan un coste mensual extra por empleado de 186 dólares. En una empresa de 10,000 personas, esa pérdida anual por concepto de productividad asciende a 9 millones de dólares.

Los investigadores advierten que la proliferación de herramientas de IA, mismas que prometen ahorrar tiempo y aumentar la productividad, a menudo provoca el efecto contrario. Documentos extensos, presentaciones llamativas, imágenes automáticas, videos o correos redactados con prompts, que suelen lucir impecables, pero terminan requiriendo desde retoques o hasta rehacerse manualmente en su totalidad. Ese es el workslop, aclara BetterUp Labs: “Crea la ilusión de progreso. Se propaga cuando la IA se convierte en muleta en lugar de herramienta de colaboración”.

Cuando la IA se usa sin responsabilidad

Una encuesta realizada a 1,150 empleados de tiempo completo de todas las industrias en Estados Unidos mostró que el 40% aceptó lidiar con workslop. La mayoría de los documentos creados con IA provenían de colegas, pero en el 16% de los casos llegaban desde un puesto gerencial o directivo. Las compañías tecnológicas y de servicios profesionales son las más afectadas por esta tendencia.

Dicho fenómeno también deteriora las relaciones laborales. La mitad de los encuestados percibió a los autores de esos trabajos como menos creativos, capaces o confiables. El 37% los consideró menos inteligentes, y un 33% reconoció que preferiría no volver a colaborar con ellos.

“Cuando los líderes organizacionales abogan por la IA en todas partes todo el tiempo, modelan una falta de discernimiento sobre cómo aplicar la tecnología. Es fácil ver cómo esto se traduce en que los empleados copien y peguen sin verificar las respuestas de IA en los documentos, incluso cuando la IA no es la adecuada para el trabajo en cuestión. La IA generativa no es apropiada para todas las tareas, ni puede leer la mente”, señala el comunicado del laboratorio.

De acuerdo con el CIO Playbook 2025, un estudio elaborado por la firma de análisis IDC en colaboración con Lenovo sobre la adopción de IA en la industria tecnológica, hasta el 65% de las organizaciones en América Latina ya utilizan esta clase de herramientas de alguna u otra forma. La mayoría de los encuestados aceptó que han tenido problemas con demostrar el retorno de inversión.

Para BetterUp Labs, la clave para no caer en el workslop radica en la propia empresa entusiasta de la IA. El flujo de trabajo con la nueva tecnología debe seguir recomendaciones cuidadosas sobre las practicas particulares según la visión de los líderes. La IA debe estar al servicio de resultados compartidos, en lugar de funcionar como un vehículo para eludir la responsabilidad, afirman.

“Enmarque la IA como una herramienta de colaboración, no como un atajo. Incorpore una mentalidad piloto, con alta agencia y optimismo, utilizando IA para acelerar resultados específicos con un uso específico”, finaliza el informe.

Read more...

Inseguridad de los modelos de inteligencia artificial más avanzados del mundo: con 250 documentos corruptos los hackean

Basta con 250 documentos corruptos para hackear modelos de IA como ChatGPT o Claude

https://andro4all.com/
Alex Verdía

Una nueva investigación ha puesto en entredicho la seguridad de los modelos de inteligencia artificial más avanzados del mundo. Un estudio conjunto de Anthropic, el UK AI Security Institute y el Alan Turing Institute revela que los modelos de lenguaje de gran tamaño (LLM), como los que impulsan ChatGPT, Claude o Gemini, pueden desarrollar vulnerabilidades internas si se incluyen apenas 250 documentos manipulados dentro de sus datos de entrenamiento. En otras palabras, alguien podría alterar la forma en que una IA responde a determinados estímulos simplemente colando un puñado de archivos maliciosos entre millones de textos legítimos.



Cómo unos pocos documentos pueden “envenenar” a un modelo de IA

Los investigadores entrenaron modelos que iban desde 600 millones hasta 13.000 millones de parámetros, cada uno con conjuntos de datos ajustados a su tamaño. En todos los casos, descubrieron que bastaban unos pocos cientos de documentos maliciosos para implantar un “backdoor” o puerta trasera: una instrucción secreta que cambia el comportamiento del modelo al recibir un disparador concreto. Por ejemplo, al aparecer una frase como “”, los modelos dejaban de generar texto coherente y empezaban a producir galimatías o fragmentos sin sentido.

El hallazgo contradice investigaciones previas que sugerían que cuanto más grande fuera el modelo, más difícil resultaría atacarlo, ya que los datos contaminados representarían un porcentaje ínfimo del total. En cambio, el nuevo estudio muestra que la cifra absoluta de documentos maliciosos necesarios se mantiene prácticamente constante independientemente del tamaño del modelo. Anthropic describió este resultado como “uno de los hallazgos más preocupantes hasta la fecha en materia de seguridad de entrenamiento de IA”.

El experimento más revelador fue el del modelo de 13.000 millones de parámetros, entrenado con 260.000 millones de tokens. Bastaron 250 documentos , es decir, solo el 0,00016% del conjunto total, para instalar el backdoor con éxito. Los modelos más pequeños se comportaron igual, lo que sugiere que el tamaño no es un factor de protección frente a este tipo de ataques.

Los investigadores explican que los modelos de lenguaje aprenden patrones incluso de ejemplos extremadamente raros. Por eso, si un atacante consigue insertar textos con un patrón repetido, por ejemplo, frases normales seguidas del disparador y texto caótico, el modelo puede interiorizar esa relación como válida. En la práctica, esto significa que alguien que publique sistemáticamente documentos maliciosos en la web podría infectar los datos de entrenamiento de futuros modelos, ya que gran parte del contenido usado por empresas como OpenAI, Google o Anthropic proviene del rastreo masivo de páginas abiertas en Internet.

No es la primera vez que se demuestra el potencial de estos ataques. En 2024, un grupo de investigadores de Carnegie Mellon, ETH Zurich, Meta y DeepMind ya había probado que controlar el 0,1% de los datos de entrenamiento bastaba para introducir comportamientos indeseados. El MIT realizó un experimento similar y obtuvo casi los mismos resultados. Pero ambos enfoques implicaban millones de archivos. Lo novedoso del estudio de Anthropic es que reduce ese número a una cifra manejable por cualquier atacante con pocos recursos.

El equipo también exploró si los modelos podían “olvidar” los backdoors con entrenamiento adicional usando datos limpios. Descubrieron que este entrenamiento correctivo reducía la efectividad del ataque, pero no siempre lo eliminaba del todo. En algunos casos, incluso tras añadir miles de ejemplos “buenos”, el modelo conservaba rastros del comportamiento malicioso. No obstante, con una cantidad suficiente de ejemplos correctivos (entre 2.000 y 3.000), la vulnerabilidad desaparecía casi por completo. Esto sugiere que los procesos de afinado y seguridad que aplican las grandes empresas sí serían capaces de neutralizar este tipo de ataques antes de que lleguen a los usuarios finales.

El estudio también subraya que la verdadera dificultad para los atacantes no está en generar los documentos maliciosos, sino en lograr que estos se incluyan en los conjuntos de entrenamiento reales. Las empresas de IA más importantes filtran y curan cuidadosamente sus fuentes, lo que hace improbable que un atacante consiga introducir sus textos de forma directa. Aun así, los investigadores advierten que los métodos de curación actuales podrían no ser suficientes si las técnicas de envenenamiento se vuelven más sofisticadas.

A pesar de las limitaciones del estudio, que solo probó modelos de hasta 13.000 millones de parámetros y ataques relativamente simples, el resultado plantea un desafío estratégico para la industria. La investigación demuestra que la escala no garantiza seguridad: un puñado de ejemplos envenenados puede tener el mismo impacto en un modelo pequeño que en uno de cientos de miles de millones de parámetros. Por ello, los expertos reclaman nuevos protocolos de defensa que no dependan únicamente de proporciones estadísticas, sino que consideren ataques de baja escala pero alta efectividad.

En palabras del propio informe: “Nuestros resultados sugieren que la introducción de puertas traseras mediante envenenamiento de datos podría ser más fácil en modelos grandes de lo que se pensaba, ya que el número de ejemplos necesarios no aumenta con el tamaño del modelo”. Es una advertencia clara de que, incluso en la era de la IA a escala planetaria, la seguridad puede fallar por apenas 250 documentos envenenados.

Read more...