"El Proyecto Panamá: la destrucción de los libros escaneados para entrenar a la IA

>>  lunes, 28 de septiembre de 2026

Qué es el "Proyecto Panamá" y cómo reveló la destrucción de miles de libros antiguos para entrenar a la IA

https://www.bbc.com
Matías Zibell

Marçal Font lleva 20 años trabajando como librero de viejo 
(persona que vende y compra libros usados, de segunda mano o descatalogados).

El 30 de abril pasado Marçal Font recibió un pedido que llamó su atención en la Librería Fénix, un lugar de referencia para el comercio de libros antiguos de la ciudad catalana de Badalona.

"Hace 20 años que me dedico a ser librero de viejo, o sea, que de compras extrañas he tenido millones, con lo cual ya no me alarmo", le cuenta a BBC Mundo quien es además poeta y profesor de Literatura Comparada de la Universidad de Barcelona.

El pedido provenía de una empresa ubicada en Canadá, pero esta no era la primera vez que la librería enviaba libros en catalán al exterior. "Mandamos libros hasta Japón, no es algo raro; pero el patrón (de compra) era extraño".

Cuando a comienzos de mayo llegó una nueva serie de pedidos, Font decidió investigar por temor a que se tratara de un fraude.

"No es frecuente buscar a quiénes nos compran, pero en ese caso empezamos a mirar, más que nada, porque eran pedidos en una ventana de una hora o 40 minutos. Teníamos tres o cuatro correos pidiendo un número dispar de libros. Y los gastos de envío asociados eran disparatados".

Entonces consultó con su amigo Xavier Vinaixa, a quien además de su amor por los libros y el humanismo, lo une la pasión por la inteligencia artificial.

"Me llamó y me dijo, 'oye, me están entrando aquí pedidos con patrones raros, el mismo cliente, con envío al exterior y pagando tres veces gastos de envío'. Y él lo primero que pensó es que no fuera una estafa", recuerda Vinaixa en diálogo con BBC Mundo.

"Y ahí fue cuando empezamos a tirar del hilo y encontramos otra gente, con las mismas inquietudes que Marçal, en Alemania, en Nueva Zelanda... Y entonces lo vimos súper claro", añade este investigador de inteligencia artificial y director técnico de la empresa tecnológica Sorensen.ai.

Getty Images

Si uno realiza una búsqueda en internet con los términos "libros antiguos" e "inteligencia artificial" encuentra rápidamente esas "inquietudes" a las que hace referencia Vinaixa.

En un artículo del periódico británico The Telegraph titulado "Barbarie cultural: cómo las empresas de IA están destruyendo los libros del mundo", un librero de Haarlem, Países Bajos, cuenta la sorpresa que sintió al recibir un pedido masivo de libros:

"En el comercio de libros antiguos es muy poco frecuente que la gente quiera comprar más de un libro. Así que, si alguien viene y dice 'quiero un par de cientos de sus libros' resulta muy extraño", contó el anticuario Pieter de Vries.

El diario The Guardian, citó a una librera en la ciudad australiana de Victoria que recibió un pedido de la misma compañía que le compró a Marçal Font: "Hicieron el pedido, pagaron por adelantado y no pusieron reparos a los gastos de envío", explicó Delfina Manor.

Ambos artículos, así como los que contaron la historia del librero catalán, hacen referencia a la investigación periodística que destapó lo que se conoce como el "Proyecto Panamá".

Destrucción y entrenamiento

En septiembre de 2025, la empresa de inteligencia artificial (IA) Anthropic acordó pagar US$1.500 millones para resolver una demanda colectiva presentada por autores que alegaban que la compañía había utilizado sus obras sin permiso para entrenar sus modelos de IA.

Cuatro meses después, el diario Washington Post publicó en exclusiva un documento que fue parte del proceso judicial, en el que se mencionaba la existencia de un plan para digitalizar todas las obras escritas por la humanidad.

"El Proyecto Panamá es nuestro esfuerzo para escanear de forma destructiva todos los libros del mundo", indicaba el texto filtrado, que más adelante especificaba: "No queremos que se sepa que estamos trabajando en esto".

Maximiliano Firtman, profesor argentino y autor de libros sobre programación e inteligencia artificial, fue uno de los autores que demandó a Anthropic en esa demanda colectiva.

Según le cuenta a BBC Mundo, el juez dictaminó que si la empresa compraba el ejemplar del libro, podía usarlo para entrenar a la IA.

"Y ahí empezaron a surgir los testimonios de libreros alrededor del mundo que reciben órdenes de libros que nadie tocaba, y de algunas empresas que se dedican a escanear estos libros y darles el texto ya escaneado a las empresas de inteligencia artificial. Así aparece el tema de la destrucción de los libros".

Rodrigo Álvarez, periodista especializado en tecnología en el medio Todo Noticias (TN) de Argentina, explica que hay dos métodos para digitalizar libros, uno de los cuales no implica la destrucción del ejemplar, ya que usa escáneres planos o dispositivos con forma de V que escanean las páginas sin desarmar la encuadernación.

"El procedimiento 'destructivo' es basicamente un proceso que comienza con el corte del lomo para que las hojas queden sueltas; las páginas ya separadas se introducen en escáneres industriales de alta velocidad que las escanean mucho más rápido, de manera automática", le dice a BBC Mundo.

Una vez digitalizadas las páginas, el libro ya no puede armarse de nuevo y sus restos suelen enviarse a reciclaje.

"Las empresas eligen esta segunda alternativa por una cuestión de escala: permite digitalizar millones de ejemplares con mayor rapidez y a un costo menor. En el caso documentado de Anthropic, para el Proyecto Panama se usó este procedimiento", concluye Álvarez.

Entrenamiento

Digitalizar los libros permite preservar los textos escritos a lo largo de la historia humana, pero el objetivo principal parece obedecer más a entrenar a la inteligencia artificial que a un espíritu de conservación.

"Cuando hablamos de IA normalmente se sobreentiende que hablamos de un LLM (siglas en inglés de Large Language Model), un gran modelo de lenguaje", aclara Xavier Vinaixa.

Los LLM, como -por ejemplo- ChatGPT-, son programas de inteligencia artificial que aprenden a entender, resumir, traducir y generar texto u otro contenido prediciendo la palabra o el fragmento siguiente.

"Todos usamos el teclado predictivo en nuestros teléfonos. Vos decís 'hola, estoy llegando…' y capaz que te sugiere la palabra 'tarde'. ¿Cómo funciona ese teclado predictivo? En base a estadísticas de textos previos que vos escribiste. Eso mismo, pero elevado a la millonésima potencia, es un LLM", ejemplifica Maximiliano Firtman.

Entonces, para entrenar a estos modelos grandes de lenguaje en el intrincado arte de encontrar las conexiones entre las palabras, primero se los "alimentó" con toda la información que había en la red -Wikipedia, blogs, foros-, y cuando esto comenzó a acabarse, se los entrenó con notas de periódicos y hasta con subtítulos de los videos de YouTube.

"Todo lo que tenían a mano se lo daban a esa máquina que se traga textos, y cuando esto se terminó empezaron a buscar en los libros impresos que ya estaban digitalizados, luego en las bibliotecas y ahora empezaron a buscar libros extraños que no son comerciales. ¿Y que están dónde? En librerías de libros usados y anticuarios", añade Firtman.

"En el caso de Marçal -dice Xavier Vinaixa- me comentaba de pedidos que le llegaban, por ejemplo, de la historia de los embutidos catalanes, cosas que seguro que no se han usado todavía para entrenar".

Datos sin contexto no son datos

La destrucción de los libros escaneados para entrenar a la IA ha generado cuestionamientos y dudas desde diversos foros.

Miguel Ángel Ortega, presidente de la Asociación Profesional del Libro y Coleccionismo Antiguos de España (UNILIBER), le dice a BBC Mundo que se debería distinguir si se trata de ejemplares de tiradas masivas o de tiradas limitadas.

"Como comerciantes que preservamos el patrimonio y que realizamos una labor de conservación, creemos que el uso final de una obra, de una edición muy limitada, escasa o única, lógicamente, no debería ser la destrucción".

En esto coincide Rodrigo Álvarez, el periodista de Tecnología de TN, para quien el mayor riesgo "es que las compras indiscriminadas destruyan ejemplares raros o agotados sin comprobar antes cuántos de esos ejemplares quedan en stock de distribuidoras y librerías, o incluso en poder de las personas".

A Marçal Font, en cambio, la destrucción de libros no le preocupa tanto: "No soy nada romántico en ese sentido".

"Igual que los veterinarios que estudian para salvar a los animales acaban siendo los que más animales sacrifican; mi punto de vista es que no hay nadie que destruya más libros que un librero de viejo, porque compramos bibliotecas enteras, salvamos todo lo salvable, pero hay mucho que no se salva".

Font explica que si un libro tiene depósito legal, lo que asegura una conservación de 5 o 10 ejemplares como mínimo, "que se destruya un ejemplar para que toda esa información vaya a un formato nuevo de conocimiento me parece hasta bien".

Su preocupación radica en que la digitalización de todo el material producido por la humanidad deje de lado aquello que no cuenta con un ISBN (siglas en inglés de International Standard Book Number), el número que identifica cada libro publicado.

"Toda la disidencia política del mundo, la lucha LGTBI, todos los fanzines de rebeldía, la contracultura, todo lo underground se ha hecho sin ISBN", señala, y advierte que este material podría perderse para futuras generaciones si no se lo digitaliza también.

Por esa razón, tanto Álvarez como Font destacan que no se debe confundir digitalización con conservación.

"La digitalización de un libro no es lo mismo que conservar un libro; generalmente ese archivo digital suele quedar en una base de datos privada, fuera del alcance de lectores, bibliotecas e investigadores", advierte Álvarez.

El periodista tecnológico añade que en esta digitalización extrema también pueden perderse características que exceden al texto, como su encuadernación, anotaciones, ilustraciones, calidad de impresión, procedencia y otras particularidades.

Para Font, la ausencia de estos "metadatos" deja en las sombras claves fundamentales para la buena interpretación de un texto, con lo cual los datos que se producen incluso para la propia industria de IA son, en su opinión, deficitarios.

"Que haya un trasvase de conocimiento del formato libro a los nuevos formatos me parece muy positivo; en los siglos XV y XVI ya hubo un proceso similar con esos libros de la recién inaugurada imprenta, y también se perdía la calidad de los datos de un formato a otro. ¿Eso cómo se resolvió? Con metadatos".

Él pone el ejemplo de cuando se recopiló información inscrita en pierdas para pasarla al papel: "No bastaba con transcribir el texto que había en la piedra, había que incluso dibujar la piedra, hablar de sus materiales, de su localización, todo ese metadato es lo que nos permite ahora a nosotros reconstruir qué decía esa piedra en realidad".

El presidente de la Asociación Profesional del Libro y Coleccionismo Antiguos de España explica que incluso dos libros con el mismo texto pueden tener un valor cultural muy diferente.

"Pueden tener la misma información, pero uno tiene un ex libris (una etiqueta decorativa pequeña que se pega en el interior de la cubierta delantera para indicar quién es su propietario), una encuadernación artesanal o anotaciones, que no se van a poder trasladar al formato digital, un poco lo que ocurre con el formato del libro electrónico".

El resumen del resumen del resumen...

Para evitar la digitalización que destruye los libros y deja de lado información clave, tanto Font como Vinaixa proponen evitar los intermediarios

"La solución que proponemos es escanear nosotros nuestro patrimonio en nuestra lengua, lo guardamos y licenciamos los datos; si tú quieres los datos, yo te los doy de la mejor manera posible y el libro me lo guardo, porque para la gente que hace investigación es importante también cómo el libro tiene la portada, cómo ha sido cosido, no solo el contenido", dice Vinaixa.

El director técnico de la empresa tecnológica Sorensen.ai. añade que la demanda de datos continuará, hasta que ya no haya con qué alimentar a la inteligencia artificial.

"Creíamos que la IA se iba a quedar pequeña cuando ya no haya más capacidad de proceso. Pues no, el tope son los datos, la IA se ha quedado pequeña porque ya no hay más datos".

Para Firtman, aún no sabemos qué pasara cuando se acabe la información generada por humanos:

"Lo siguiente que hay son los datos sintéticos, los textos escritos por la propia IA. El mayor riesgo de acá a unas décadas es que cuando todo se lo preguntemos a una IA, sin ir a las fuentes, esa IA se empiece a degradar porque se está entrenando con la misma información que generó la propia IA".

El periodista Rodrigo Álvarez grafica esta degradación con la imagen de una serpiente que se come su propia cola:

"Las empresas alimentarían a sus modelos con contenido generado por otras inteligencias artificiales y en ese caso podrían multiplicarse errores, hacer cada vez más básico el lenguaje, como un resumen de un resumen de un resumen, cada vez más sencillo, una síntesis de una síntesis que se aleja de la información original".

Mientras, en la Librería Fénix de Marçal Font, la situación se fue modificando tras la compras "extrañas" de abril y mayo.

"Han ido cambiando de logística y de empresa. También nos empezaron a hacer mandar los libros no solo a Norteamérica sino a Alemania".

Y después de un mes sin novedades, Font ha recibido un nuevo pedido, justo esta semana, lo cual, para él, solo podría implicar una cosa:

"El Proyecto Panamá sigue en marcha".

Read more...

Un documento puede mostrar quién cambió una frase, pero ¿quién aprobó lo que ahora dice?

Cuando la IA edita el documento, ¿quién posee el cambio?

https://www.unite.ai
Gary Espinosa



Un documento puede mostrar quién cambió una frase, pero dejarte adivinando quién aprobó lo que ahora dice. Cuando la IA y las personas han revisado ambas la redacción, un nombre junto a la edición final no responde a esa pregunta.

Considera una política de soporte hipotética que promete una respuesta dentro de dos días hábiles. Una reescritura de IA propone un día hábil. Un editor humano lo cambia a tres, y un líder de equipo aprueba el documento. El archivo publicado parece ordinario. Su historial contiene una propuesta rechazada, una revisión humana y una decisión sobre lo que los clientes deben esperar.

¿Quién posee ese cambio? Necesitamos distinguir las contribuciones antes de poder asignar la responsabilidad de su publicación. De lo contrario, “asistido por IA” nos dice muy poco sobre cómo llegó la redacción final.

Separar la edición de la decisión

El anuncio de Microsoft del 29 de septiembre de 2025 de que Agent Mode en Word estaba comenzando su despliegue Frontier situó la edición conversacional dentro de la aplicación de documentos, inicialmente en la web. Ese anuncio establece la fecha de lanzamiento, no cómo cualquier organización en particular revisa los cambios resultantes.

Para un equipo que usa IA de esta manera, el punto de partida útil es la persona que solicita la edición.
Registra a esa persona por separado del software que la genera. Si alguien luego reescribe la sugerencia, también conserva esa contribución. La aprobación es otra acción, vinculada a la versión que el revisor realmente vio.

Esos roles no exigen personas distintas para cada tarea. Un editor puede solicitar una reescritura, revisarla y tener autoridad para aprobarla. La distinción sigue siendo importante: solicitar un párrafo más corto no implica necesariamente aprobar cada alteración que haga el software.

El W3C PROV data model proporciona un vocabulario para describir esta historia. Los documentos y sus versiones pueden representarse como entidades; las ediciones y aprobaciones como actividades; las personas y el software como agentes. El modelo describe las relaciones entre ellos. No determina la responsabilidad legal ni autentica a quien aparezca en el campo de autor.

Para flujos de trabajo de documentos asistidos por IA que involucren redacción técnica o material de soporte, esto significa definir lo que representa cada acción registrada. Un comentario identifica una contribución a la discusión. Una aprobación debe identificar el permiso para publicar una redacción específica. Asignar a ambos el mismo estado genérico de “revisado” haría el registro menos útil.

Crear un registro para un pasaje modificado

Regresemos al ejemplo del tiempo de respuesta. Antes de generar una reescritura, conserva la redacción aprobada de dos días hábiles y su versión del documento. Asigna a la propuesta de cambio un identificador y luego conecta a él las revisiones y decisiones posteriores.

Lo siguiente es un diseño ilustrativo, con identificadores inventados. No es la salida de un producto probado ni un esquema que soporte cada herramienta de documentos.

Elemento de registro

Qué preservar

Documento y ubicación

ID del documento, versión base v12 y el pasaje afectado. Utiliza un identificador de pasaje estable cuando esté disponible; la paginación puede cambiar.

Propuesta de IA C17

Redacción original y respuesta propuesta de un día hábil; tiempo de generación, identidad autenticada del usuario solicitante y la identidad del software. Registra los detalles del modelo cuando estén expuestos; de lo contrario, márcalos como desconocidos.

Revisión humana C17b

El cambio del editor a tres días hábiles, su identidad y su relación con C17.

Decisión de revisión

C17 rechazado o reemplazado; C17b aceptado. Identifica al aprobador y la hora de la decisión, con una razón cuando el cambio lo justifique.

Versión publicada v13

El archivo publicado, su propietario responsable y una conexión conservada con la revisión aceptada.


Conserva la propuesta de IA después de que la revisión humana la reemplace. Si el registro retiene solo la redacción final de tres días hábiles, un revisor posterior no podrá reconstruir la sugerencia anterior a partir de esa entrada. Los cambios rechazados forman parte del historial aunque no correspondan al texto publicado.

El Generative AI Profile de julio de 2024 de NIST describe la procedencia como información sobre el origen y la historia del contenido, incluidas las modificaciones y fuentes. También recomienda evaluar la relación entre los procesos de procedencia y los revisores humanos. La tabla aplica esa idea a un flujo de trabajo de documentos; no es una lista de verificación de certificación de NIST.

Puedes conservar este registro dentro del sistema de documentos o en un repositorio conectado. En cualquier caso, haz que la relación con la versión publicada sea lo suficientemente explícita para que alguien pueda recuperarla sin depender de la memoria del editor original.

Verificar qué sobrevive al traspaso

Un archivo exportado merece su propia verificación. El historial disponible durante la edición puede diferir de lo que un destinatario puede inspeccionar, según la aplicación, el formato y la configuración de exportación. No asumas que cada PDF pierde la atribución, o que preservar los comentarios visibles conserva cada decisión de revisión.

La documentación para editar con Copilot de Microsoft indica que sus cambios respetan Control de Cambios cuando esa función está habilitada. Esa es una funcionalidad útil. No establece que todo su historial de aprobaciones sobreviva a cada conversión o transferencia posterior.

Prueba la ruta que tu equipo realmente utiliza. Lleva el documento de ejemplo a través de la revisión y la exportación, y luego intenta recuperar la revisión aceptada y su aprobador usando los registros retenidos. Si el archivo publicado no puede llevar ese historial, conserva un registro controlado en otro lugar y preserva la conexión entre ambos.

Los casos menos sencillos también merecen atención. Acepta solo parte de una sugerencia e inspecciona lo que indica el registro. Haz que dos revisores trabajen contra la misma versión base, y luego determina qué cambios llegaron al archivo publicado. Finalmente, edita el pasaje después de la aprobación y verifica que la decisión anterior no se haya convertido silenciosamente en la aprobación de la nueva redacción.

El nombre de autor mostrado debe poder rastrearse a una cuenta autenticada antes de confiar en él para la identificación. De manera similar, un resumen de archivo puede ayudar a identificar el artefacto publicado, pero no puede decirte si el compromiso de tiempo de respuesta es correcto. Esos son controles separados, y tu proceso de revisión debe preservar la distinción.

Establece el Límite de Aprobación Antes de la Publicación

Cambiar el formato de un encabezado y cambiar un compromiso con el cliente no tienen por qué seguir rutas de revisión idénticas. Decide qué ediciones pueden proceder bajo una política establecida y cuáles requieren la aprobación de una persona designada. Esa elección debe reflejar lo que el cambio significa para las personas que usan el documento.

El argumento para autoridad explícita de decisión de IA se vuelve práctico aquí. En nuestro ejemplo, alguien necesita autoridad para aprobar un compromiso de respuesta de tres días hábiles. El permiso para editar el archivo por sí solo no debe considerarse evidencia de esa autoridad.

Proporciona a ese revisor suficiente contexto para decidir. Muestra la redacción original y la propuesta junto a cualquier revisión humana intermedia. Haz visibles los conflictos no resueltos e identifica la versión destinada a la publicación. Un revisor que solo vea un párrafo final pulido puede no tener razón para notar que el tiempo de respuesta cambió.

Define quién posee la publicación antes de transferir el flujo de trabajo a los usuarios. Esa persona no tiene que realizar cada edición, pero necesita una forma de establecer que la revisión requerida se realizó y se aplica al archivo que está publicando. Dejar la asignación vaga dificulta resolver un cambio disputado cuando el documento está listo para su uso.

Esto no requiere conservar indefinidamente cada solicitud confidencial. Retén la evidencia necesaria para explicar la decisión según la política de acceso y retención de tu organización. Si la información de la versión del modelo no está disponible, registra la limitación. Un historial útil debe hacer evidente la información faltante en lugar de insinuar un nivel de detalle que el sistema nunca capturó.

Publica Solo la Versión que Puedes Rastrear

Antes de publicar un cambio significativo, intenta rastrearlo a través del registro. Encuentra la sugerencia original, determina qué modificó el editor humano y recupera la decisión que aceptó esa revisión. Luego compara la versión aprobada con el archivo que se entregará.

Si falta esa conexión, suspende el cambio de revisión. Que alguien recuerde que el documento fue “aprobado” no basta para establecer qué redacción aprobó.

Un editor debe poder explicar su contribución sin que se le asignen todas las sugerencias que la IA generó. El responsable de la publicación necesita saber con precisión lo que está autorizando. No podemos pedir a las personas que respalden cambios sin proporcionarles una forma fiable de inspeccionar cómo se realizaron esos cambios.

Read more...

Agente IA de OpenAI accedió sin autorización el pasado junio a un portal del sistema público de salud de Australia

Un agente de inteligencia artificial de OpenAI accede sin permiso a datos del sistema de salud de Australia
https://www.rtve.es/

  • El incidente, en el que no se filtraron datos de pacientes, ocurrió en junio pero se ha conocido ahora
  • Se trata del primer hackeo conocido de una IA a una agencia gubernamental


Una inteligencia artificial (IA) desarrollada por la empresa OpenAI accedió sin autorización el pasado junio a un portal del sistema público de salud de Australia y obtuvo acceso a archivos de datos, tanto públicos como no públicos. OpenAI no informó al Gobierno australiano hasta pasados tres meses. Se trata del primer hackeo autónomo de una IA a una administración pública del que se tiene noticia.

El Gobierno australiano ha asegurado que la IA no accedió al historial de los pacientes ni a datos personales de los ciudadanos, pero ha mostrado su "extrema preocupación" y ha abierto una investigación. "La situación es obviamente inaceptable", ha declarado el primer ministro australiano, Anthony Albanese.

El caso se suma a la serie de incidentes conocidos en los que la IA ha operado de forma autónoma y sin permiso, y se ha conocido cuando se debate el modelo de desarrollo de esta tecnología y sus posibles amenazas.

El agente de la IA obtuvo información sin permiso

Un agente de IA es un sistema informático o software que actúa de forma autónoma y puede elaborar estrategias para lograr sus objetivos. Uno de estos agentes realizaba una investigación sobre el gasto público en medicamentos y como parte de esa investigación consultó el 18 de junio el portal de estadísticas de Medicare, el sistema universal de salud australiano, administrado por Services Australia, la agencia estatal para la gestión de los servicios sociales, informa Efe.

El agente solicitó en varias ocasiones el acceso a informacion sobre el sistema de salud, pero fue bloqueado por el portal. Entonces, la IA encontró una forma de sortear esas restricciones y terminó accediendo a la información sin permiso.

OpenAI ha informado en un comunicado de que había "identificado actividad que implica a varios sitios webs y sericios del Gobierno de Australia mientras nuestros modelos intentaban buscar respuestas...

Nuestros modelos tomaron acciones que no pretendíamos".

El primer ministro australiano informó de lo ocurrido a los medios en una comparecencia el miércoles en Nueva York, donde asiste a la Asamblea General de la ONU. "Había bloques [de programación] que claramente respondían y le decían al agente de IA que 'no'. El agente buscó una manera de evitar esos bloques, no aceptó un 'no' por respuesta", ha explicado.

OpenAI ha asegurado que su agente obtuvo solamente estadísticas sanitarias agregadas y nombres de archivos internos, pero no accedió a los historiales de los pacientes.

El ministro de Defensa, Richard Marles, también ha subrayado que por la brecha en el portal de Medicare no se filtraron informes o registros médicos personales, pagos de ayudas, detalles financieros o de cuentas bancarias de ciudadanos australianos, y que la IA sólo accedió a datos agregados sobre el uso del sistema de salud en el país.

"Extrema preocupación" del Gobierno australiano


A pesar de eso, el Gobierno australiano ha expresado su "extrema preocupación". "La evidencia que tenemos hasta el momento es que la red no se ha visto más ampliamente comprometida. Pero no obstante, la situación es obviamente inaceptable", ha declarado Albanese

El primer ministro también ha mostrado su malestar por que OpenAI haya tardado tres meses en informar a las autoridades. "Hasta el 10 de septiembre no hubo ninguna notificación en absoluto", se ha quejado, según recoge Reuters.

Albanese ha anunciado la creación de un grupo de trabajo para investigar lo ocurrido, con la participación del coordinador nacional de ciberseguridad, la Oficina de IA, la Dirección Australiana de Señales y el Instituto Australiano de Seguridad de la IA. Uno de los aspectos que se revisarán será por qué los sistemas gubernamentales no detectaron la brecha de seguridad.

La investigación intentará determinar también si el agente de IA pudo acceder o intentar acceder a otros portales del Gobierno. Los técnicos de OpenAI ha identificado actividad relacionada con varios sitios web y servicios del Gobierno australiano, y el propio Albanese ha reconocido que otros tres sitios webs gubernamentales relacionados con el sistema de salud pueden haberse visto afectados, aunque aún no se ha confirmado.

Por otra parte, según The New York Times, los agentes de OpenAI intentaron acceder sin permiso a otras tres páginas web para completar búsquedas de información: una biblioteca en la Universidad de Nuevo México (EE.UU); DataUSA, un repositorio de código abierto que reúne datos sobre empleo y educación, también en EE.UU.; y el Instituto Australiano de Salud y Bienestar. En estos casos, la IA no tuvo éxito y no pudo acceder a los datos. Todos los incidentes ocurrieron en mayo y junio.

OpenAI, la empresa tecnológica dirigida por Sam Altman, se ha visto implicada en varios casos de hackeos y ataques independientes de sus agentes de IA a otros agentes o portales. En julio, la empresa reveló que algunos de sus modelos de IA más avanzados se descontrolaron y llevaron a cabo un "ciberataque sin precedentes" perpetrado de manera autónoma contra la empresa Hugging Face, encargada de desarrollar modelos de IA de código abierto.

La empresa de Altman advirtió que este tipo de "incidentes de ciberseguridad" podrían ser cada vez más comunes. Otras empresas rivales, como Anthropic, Google y Meta también han informado de casos en los que sus agentes han accedido a sistemas externos.

Estos sucesos, junto con el aviso de algunos expertos de que la IA puede convertirse en una amenaza para la Humanidad, han llevado a cuestionarse el modelo de desarrollo de esta tecnología, que se ha convertido además en otro elemento del enfrentamiento geoestratégico entre Estados Unidos y China. Este mismo miércoles se celebró en la ONU una conferencia sobre los peligros de la Inteligencia Artificial y su posible regulación, en los márgenes de la Asamblea General.

Read more...

Snap Shots

Get Free Shots from Snap.com

  © Free Blogger Templates Autumn Leaves by Ourblogtemplates.com 2008

Back to TOP