Agente IA de OpenAI accedió sin autorización el pasado junio a un portal del sistema público de salud de Australia

Un agente de inteligencia artificial de OpenAI accede sin permiso a datos del sistema de salud de Australia
https://www.rtve.es/

• El incidente, en el que no se filtraron datos de pacientes, ocurrió en junio pero se ha conocido ahora
• Se trata del primer hackeo conocido de una IA a una agencia gubernamental

Una inteligencia artificial (IA) desarrollada por la empresa OpenAI accedió sin autorización el pasado junio a un portal del sistema público de salud de Australia y obtuvo acceso a archivos de datos, tanto públicos como no públicos. OpenAI no informó al Gobierno australiano hasta pasados tres meses. Se trata del primer hackeo autónomo de una IA a una administración pública del que se tiene noticia.

El Gobierno australiano ha asegurado que la IA no accedió al historial de los pacientes ni a datos personales de los ciudadanos, pero ha mostrado su "extrema preocupación" y ha abierto una investigación. "La situación es obviamente inaceptable", ha declarado el primer ministro australiano, Anthony Albanese.

El caso se suma a la serie de incidentes conocidos en los que la IA ha operado de forma autónoma y sin permiso, y se ha conocido cuando se debate el modelo de desarrollo de esta tecnología y sus posibles amenazas.

El agente de la IA obtuvo información sin permiso

Un agente de IA es un sistema informático o software que actúa de forma autónoma y puede elaborar estrategias para lograr sus objetivos. Uno de estos agentes realizaba una investigación sobre el gasto público en medicamentos y como parte de esa investigación consultó el 18 de junio el portal de estadísticas de Medicare, el sistema universal de salud australiano, administrado por Services Australia, la agencia estatal para la gestión de los servicios sociales, informa Efe.

El agente solicitó en varias ocasiones el acceso a informacion sobre el sistema de salud, pero fue bloqueado por el portal. Entonces, la IA encontró una forma de sortear esas restricciones y terminó accediendo a la información sin permiso.

OpenAI ha informado en un comunicado de que había "identificado actividad que implica a varios sitios webs y sericios del Gobierno de Australia mientras nuestros modelos intentaban buscar respuestas...

Nuestros modelos tomaron acciones que no pretendíamos".

El primer ministro australiano informó de lo ocurrido a los medios en una comparecencia el miércoles en Nueva York, donde asiste a la Asamblea General de la ONU. "Había bloques [de programación] que claramente respondían y le decían al agente de IA que 'no'. El agente buscó una manera de evitar esos bloques, no aceptó un 'no' por respuesta", ha explicado.

OpenAI ha asegurado que su agente obtuvo solamente estadísticas sanitarias agregadas y nombres de archivos internos, pero no accedió a los historiales de los pacientes.

El ministro de Defensa, Richard Marles, también ha subrayado que por la brecha en el portal de Medicare no se filtraron informes o registros médicos personales, pagos de ayudas, detalles financieros o de cuentas bancarias de ciudadanos australianos, y que la IA sólo accedió a datos agregados sobre el uso del sistema de salud en el país.

"Extrema preocupación" del Gobierno australiano

A pesar de eso, el Gobierno australiano ha expresado su "extrema preocupación". "La evidencia que tenemos hasta el momento es que la red no se ha visto más ampliamente comprometida. Pero no obstante, la situación es obviamente inaceptable", ha declarado Albanese

El primer ministro también ha mostrado su malestar por que OpenAI haya tardado tres meses en informar a las autoridades. "Hasta el 10 de septiembre no hubo ninguna notificación en absoluto", se ha quejado, según recoge Reuters.

Albanese ha anunciado la creación de un grupo de trabajo para investigar lo ocurrido, con la participación del coordinador nacional de ciberseguridad, la Oficina de IA, la Dirección Australiana de Señales y el Instituto Australiano de Seguridad de la IA. Uno de los aspectos que se revisarán será por qué los sistemas gubernamentales no detectaron la brecha de seguridad.

La investigación intentará determinar también si el agente de IA pudo acceder o intentar acceder a otros portales del Gobierno. Los técnicos de OpenAI ha identificado actividad relacionada con varios sitios web y servicios del Gobierno australiano, y el propio Albanese ha reconocido que otros tres sitios webs gubernamentales relacionados con el sistema de salud pueden haberse visto afectados, aunque aún no se ha confirmado.

Por otra parte, según The New York Times, los agentes de OpenAI intentaron acceder sin permiso a otras tres páginas web para completar búsquedas de información: una biblioteca en la Universidad de Nuevo México (EE.UU); DataUSA, un repositorio de código abierto que reúne datos sobre empleo y educación, también en EE.UU.; y el Instituto Australiano de Salud y Bienestar. En estos casos, la IA no tuvo éxito y no pudo acceder a los datos. Todos los incidentes ocurrieron en mayo y junio.

OpenAI, la empresa tecnológica dirigida por Sam Altman, se ha visto implicada en varios casos de hackeos y ataques independientes de sus agentes de IA a otros agentes o portales. En julio, la empresa reveló que algunos de sus modelos de IA más avanzados se descontrolaron y llevaron a cabo un "ciberataque sin precedentes" perpetrado de manera autónoma contra la empresa Hugging Face, encargada de desarrollar modelos de IA de código abierto.

La empresa de Altman advirtió que este tipo de "incidentes de ciberseguridad" podrían ser cada vez más comunes. Otras empresas rivales, como Anthropic, Google y Meta también han informado de casos en los que sus agentes han accedido a sistemas externos.

Estos sucesos, junto con el aviso de algunos expertos de que la IA puede convertirse en una amenaza para la Humanidad, han llevado a cuestionarse el modelo de desarrollo de esta tecnología, que se ha convertido además en otro elemento del enfrentamiento geoestratégico entre Estados Unidos y China. Este mismo miércoles se celebró en la ONU una conferencia sobre los peligros de la Inteligencia Artificial y su posible regulación, en los márgenes de la Asamblea General.

Read more...

Investigadores han protestado por el cierre con siete llaves de los archivos españoles

Que no se toque ni un solo papel
http://www.noticiasdegipuzkoa.com/ 06/11/2014

Los administradores del poder no pueden actuar como si los archivos fueran suyos, del Gobierno, y no de todos los ciudadanos

Siegfried Lenz (Lyck, Prusia oriental, 1926) fue uno de los escritores de la posguerra alemana más respetados y leídos del país. A lo largo de su obra intentó explorar la culpabilidad de sus compatriotas en los horrores del nazismo y luchó para dar forma a una nueva identidad nacional. Hace quince días murió en Hamburgo. Tenía 88 años y a lo largo de su prolífica y exitosa vida de escritor había logrado vender más de 30 millones de ejemplares. La ministra alemana de Cultura, Monika Grütters, defendió bien su valioso trabajo. “No reprimir la propia historia, sino superarla. Con este convencimiento, Lenz contribuyó, como autor de la generación de posguerra, a restablecer la fama de Alemania como nación de cultura”, señaló la ministra. “Nos quedará para siempre su sentido de la responsabilidad ciudadana”, decía el presidente de la Academia de las Artes de Berlín, Klaus Staeck.

Todos se han referido a la labor de Lenz -que tomó como una especie de misión personal a lo largo de toda una vida- de procesar intelectualmente el pasado nazi de Alemania hasta hacerlo digerible a las futuras generaciones, para que pudiesen extraer cuanto nutriente ético pudiera proporcionar la experiencia vivida. Así, hizo gravitar sobre sus relatos todo el peso de la culpa y las heridas de la guerra, identificándola con una losa que persigue a los supervivientes y como el lastre invisible de los amigos perdidos en la batalla y de los errores cometidos.

En el polo opuesto, en España, el relator especial de la ONU, Pablo de Greiff, reconoce que hay mucha información sobre el periodo franquista, si bien “está sumamente dispersa”. Constata que “no existen censos oficiales de víctimas ni datos oficiales sobre el número total de víctimas de la Guerra Civil y la dictadura”, mientras persisten “temas subexplorados”, como los trabajos forzosos, niños robados, la represión o la implicación de empresas privadas “en la comisión de violaciones de los derechos humanos”. Pese a alabar el trabajo que realizan asociaciones y fundaciones, De Greiff centra sus lamentos en que la Ley de Transparencia 19/2013 “no haya sido la oportunidad para abordar los vacíos legales” para acceder a los archivos y fondos documentales, así como a la documentación que, “invocando riesgos para la seguridad nacional” sigan clasificados.

Por todo esto, Borja de Riquer y tres centenares de investigadores han protestado por el cierre con siete llaves de los archivos españoles. Y es que la consulta de la documentación de algunos archivos históricos españoles se ha convertido en un tema extremadamente polémico que puede acabar en un escándalo de alcance internacional. Las dificultades con que se encuentran los investigadores a la hora de trabajar en los archivos públicos derivan de las insuficiencias y las contradicciones de la política archivística española. Hoy es una evidencia que la ley del Patrimonio Histórico Español de 1985 es obsoleta, entre otras cosas, porque se contradice con la ley de Protección de Datos de 1999 y con la reciente ley de Transparencia. Persisten las arbitrariedades a la hora de interpretar cuáles son los datos personales que pueden realmente afectar “a la seguridad, al honor de las personas, a la intimidad privada y familiar y a la propia imagen”. Y eso hace que muchos responsables de archivos se vean obligados a interpretar una normativa poco precisa y a actuar a menudo como censores, restringiendo el acceso a muchos documentos.

Hay dos sentencias del Tribunal Constitucional que afectan a esta cuestión que tendrían que servir de directriz máxima. La sentencia de Francisco Tomás y Valiente del 14 de febrero de 1992 defendía el predominio del “interés público de la información sobre el hipotético derecho al honor”. Según esta sentencia, las restricciones tendrían que ser una excepción y siempre habría que dar prioridad al “derecho a la información veraz”. La otra fue la redactada por María Emilia Casas el 23 de febrero del 2004 y afectó al famoso programa de TV3 dirigido por Dolors Genovès sobre el consejo de guerra a Manuel Carrasco i Formiguera. La sentencia fue bien clara: había de “prevalecer el derecho a la difusión pública de las investigaciones sobre el derecho al honor de las personas cuando la información se ajusta a los usos y métodos característicos de la ciencia histórica”.

Los últimos años se han producido en dos archivos españoles hechos realmente inaceptables que hay que denunciar públicamente. El actual ministro de Defensa, Pedro Morenés, ha vetado la desclasificación de unos 10.000 documentos militares correspondientes a los años 1936-1968, aunque la anterior ministra, Carme Chacón, había autorizado su consulta y eventual reproducción. Mucho más grave es lo que pasa con la documentación histórica del archivo del Ministerio de Asuntos Exteriores y Cooperación. El 15 de octubre del 2010, a propuesta del ministro Miguel Ángel Moratinos, el Consejo de Ministros declaró como secreta y reservada gran parte de la documentación sobre la actividad diplomática, las relaciones internacionales y la política exterior españolas sin fijar una limitación temporal, por lo cual esta restricción podía afectar tanto a la documentación del siglo XX como a la del XVIII. Parece que el escándalo Wikileaks influyó bastante en este acto, inaceptable en cualquier Estado democrático, dado que incumple la legislación española y la internacional. El ministro utilizó el argumento de que se hacía eso con el fin de garantizar “la seguridad y la defensa del Estado” y para hacerlo utilizó la vieja ley franquista de Secretos Oficiales de 5 de abril de 1968. Pero la cosa no acaba aquí. Hace unos meses, el actual ministro de Asuntos Exteriores, García Margallo, ha tomado una medida drástica que ha significado la interrupción de numerosas investigaciones que hacían historiadores españoles y extranjeros: ha decidido el cierre del archivo histórico del Ministerio de Exteriores con la excusa de que todos sus fondos se trasladan al Archivo Histórico Nacional y al Archivo General de la Administración, en Alcalá de Henares.

Estas actuaciones de ministros del Gobierno Rajoy suponen una clara vulneración de los derechos de los ciudadanos para acceder a la documentación histórica y un incumplimiento flagrante de acuerdos y normativas internacionales (Consejo de Europa, Consejo Internacional de Archivos, Unesco, etcétera). La existencia de políticos que vetan el acceso a la documentación o dificultan su consulta refleja la limitada calidad de la democracia española. Impedir el libre conocimiento del pasado es una violación directa de los derechos humanos, de unos derechos tan básicos y elementales como cualquiera de los que conforman una democracia plena. Son ya numerosas las asociaciones y los grupos de historiadores que han protestado por estos hechos y que piensan denunciarlos ante organismos internacionales.

El poder del Estado sobre los archivos no puede derivar en una excesiva consideración sobre su titularidad y en la creencia de que no se trata de un servicio público. Los administradores del poder no pueden actuar como si los archivos fueran suyos, del Gobierno, y no de todos los ciudadanos. Esta actitud del Gobierno Rajoy contrasta con la adoptada por el Ejecutivo argentino, que ha puesto a disposición de todo el mundo la documentación confidencial de las fuerzas armadas (actas Secretas de la Junta Militar de 1976-1983, “listas negras” de intelectuales, artistas, periodistas…) localizada recientemente en un cuartel de Buenos Aires. Las lecciones de democracia se dan con hechos, no con palabras.

Con todos estos antecedentes tan trabajados y escritos por Borja de Riquer y cientos de los investigadores presentamos y defendimos en octubre una moción en el Senado con tres puntos. En ella, el Senado insta al Gobierno a:

1. Cumplir los criterios de la Unión Europea sobre el acceso a los archivos históricos que se rige por la “norma de los treinta años”: los documentos se abren al público treinta años después de su fecha de creación.

2. Permitir que los Archivos de los Ministerios de Asuntos Exteriores y de Defensa puedan ser consultados por los investigadores.

3. Revisar la Ley de Secretos Oficiales para que no haya ningún impedimento legal a esta labor histórica y de transparencia.

Todos los Grupos la apoyaron. ¿Quién no lo hizo? El PP. Y la moción fue directamente al cesto de los papeles. La democracia en España brilla por su ausencia.

Autor: IÑAKI ANASAGASTI 

Read more...