Descubre el origen y la autenticidad de imágenes y videos con Google

Ahora puedes saber cómo y con qué se creó una imagen o video: así se verifica el contenido con Google

https://www.infobae.com/
Santiago Neira

Google integra SynthID y Content Credentials para rastrear el origen del contenido -

 (Imagen Ilustrativa Infobae)

La proliferación de contenido digital, especialmente aquel generado o modificado mediante inteligencia artificial, ha hecho que la pregunta sobre el origen y la autenticidad de imágenes y videos cobre una relevancia inédita.

Google responde a este desafío expandiendo su tecnología de verificación de contenido, permitiendo a cualquier usuario descubrir cómo, cuándo y con qué herramientas se creó o editó un archivo multimedia. Esta iniciativa marca un hito en la transparencia digital y en la lucha contra la desinformación, facilitando una navegación más segura y confiable en la era de los medios generativos.

La actualización llega en un momento donde la edición avanzada y la generación sintética de imágenes y videos son accesibles para millones de personas. La capacidad de saber si un archivo es auténtico, ha sido manipulado o fue creado por IA se convierte en una herramienta esencial tanto para usuarios comunes como para empresas, medios y organismos de control.

Con preguntas simples como si un material fue generado por inteligencia artificial o retocado, el sistema devuelve información de procedencia y modificaciones, apoyándose en señales invisibles y credenciales compatibles con múltiples plataformas

SynthID, Content Credentials y la marca de agua digital

Google empezó hace tres años con SynthID, una tecnología de marca de agua digital capaz de insertar señales invisibles en contenido generado por IA. Estas señales permiten rastrear el origen de una imagen, video o audio sin afectar su calidad. Desde su lanzamiento, SynthID se ha integrado en los modelos y productos de Google, marcando ya más de 100 mil millones de archivos visuales y decenas de miles de años de audio.

El estándar C2PA Content Credentials, adoptado por Google y otros actores clave de la industria, agrega otra capa de transparencia. Esta credencial muestra detalles sobre la creación, edición y herramientas utilizadas en un archivo, sean procesos manuales o automáticos. Los últimos modelos Pixel (8, 9 y 10) ya incluyen esta función para imágenes y, próximamente, para video, permitiendo identificar si el contenido proviene directamente de una cámara o ha sido manipulado después.

Nuevas formas de verificar contenido en la web

La expansión de la verificación llega a varias plataformas de Google, incluyendo Search, Gemini, Chrome, Pixel y Google Cloud. Ahora, los usuarios pueden utilizar funciones como Lens, Modo IA y Circle to Search para consultar el origen de una imagen. Basta con preguntas del tipo “¿Esto fue hecho con IA?” o “¿Esta imagen ha sido editada?”, y la tecnología de Google cruz 

La verificación también se integra en la app Gemini, que ya ha procesado más de 50 millones de consultas globalmente. En las próximas semanas, estas capacidades llegarán a Chrome, permitiendo comprobar la autenticidad de fotografías y videos directamente desde el navegador.ará los datos de SynthID y Content Credentials para responder.

Chrome sumará verificación de autenticidad para fotos y videos desde el navegador - GOOGLE

En YouTube, la plataforma identifica el contenido generado o alterado con IA mediante etiquetas específicas, y otros servicios como Backstory colaboran para optimizar la detección y la respuesta ante posibles fraudes o manipulaciones.

Colaboraciones y adopción en la industria

Frente a la velocidad con que se difunden los contenidos digitales, Google impulsa la colaboración con otras empresas para establecer estándares sólidos e interoperables. OpenAI, Kakao, ElevenLabs y NVIDIA ya utilizan SynthID en sus modelos, y Meta implementará Content Credentials en Instagram para reconocer y etiquetar medios capturados con cámaras nativas de dispositivos Pixel.

En el ámbito corporativo, Google Cloud lanzará una nueva API de Detección de Contenido por IA, pensada para que empresas puedan identificar y gestionar archivos generados o modificados por modelos de IA, tanto para operaciones internas como para ofrecer mayor seguridad a los usuarios.

El objetivo de Google es que cada vez más archivos en la web lleven estas marcas de agua y credenciales, facilitando la verificación rápida y confiable de su procedencia. Así, se combate la manipulación, se previene el fraude y se promueve la confianza en la información digital.

El trabajo de Google junto a organismos como el comité directivo de C2PA busca que estas herramientas sean universales y funcionen en todas las plataformas, apps y redes sociales del ecosistema digital.

En un escenario donde la desinformación puede propagarse rápidamente, la capacidad de verificar la historia y el origen de cualquier contenido se vuelve imprescindible.

Read more...

C2PA icono oficial: utilizado para dar transparencia sobre origen e historial de edición de un archivo

Icono oficial de C2PA

Por: Lic. Carmen Marín
Tomado de: Modo IA de Google

El icono oficial de C2PA es un símbolo visual diseñado para indicar que un archivo digital (imagen, video o audio) incluye Credenciales de Contenido. Su función principal es ofrecer transparencia sobre el origen y el historial de edición de un archivo, permitiendo a los usuarios verificar si el contenido fue generado por Inteligencia Artificial o si ha sido manipulado.

Características principales

• Identidad Visual: El icono suele aparecer como una pequeña marca o etiqueta con las letras "CR" (de Content Credentials).
• Interactividad: Al hacer clic o pasar el cursor sobre el icono, se despliega un panel con metadatos que detallan quién creó el archivo, qué herramientas se usaron y qué cambios se realizaron desde su origen.
• Estándar Universal: Es parte de un estándar técnico abierto desarrollado por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), que agrupa a gigantes tecnológicos como Adobe, Microsoft, Intel, Sony y OpenAI.

¿Dónde encontrarlo?

Este icono se está integrando gradualmente en diversas plataformas y dispositivos:

• Cámaras profesionales: Modelos de Leica y Sony ya pueden "firmar" fotos al momento de capturarlas.
• Software de edición: Herramientas como Adobe Photoshop y Lightroom permiten incluir estas credenciales al exportar un trabajo.
• Plataformas sociales: Redes como LinkedIn y servicios como ChatGPT ya muestran este icono en las imágenes compatibles para ayudar a combatir la desinformación.

Referencias

https://translate.google.com/translate?u=https://help.openai.com/en/articles/8912793-c2pa-in-chatgpt-images&hl=es&sl=en&tl=es&client=sge#:~:text=C2PA%20es%20un%20est%C3%A1ndar%20t%C3%A9cnico%20abierto%20que,el%20historial%20(o%20procedencia)%20del%20contenido%20multimedia.

https://helpx.adobe.com/mx/creative-cloud/help/content-credentials.html#:~:text=Las%20Content%20Credentials%20son%20un,de%20%E2%80%9Cnutrici%C3%B3n%E2%80%9D%20del%20contenido.

https://design.tutsplus.com/es/articles/a-to-z-of-photoshop-tips-tricks-hacks--cms-36371#:~:text=A%20de%20acciones%20de%20Photoshop%20(%20Adobe,de%20arte%20en%20menos%20de%20cinco%20minutos.

C2PA +3

https://translate.google.com/translate?u=https://c2pa.org/introducing-official-content-credentials-icon/&hl=es&sl=en&tl=es&client=sge#:~:text=El%20icono%20oficial%20de%20Credenciales%20de%20Contenido,tanto%20consumidores%20como%20creadores%20verifiquen%20el%20contenido:

https://ceeicastellon.emprenemjunts.es/?op=8&n=32247

https://www.youtube.com/watch?v=wMnVHeXPb6c

https://www.pandasecurity.com/es/mediacenter/c2pa-la-propuesta-de-modelo-para-combatir-las-imagenes-falsificadas/

Read more...

Coalición para la Procedencia y Autenticidad del Contenido (C2PA)

Icono de credenciales de contenido oficial

https://c2pa.org/
Artículo del 10 de octubre de 2023

La Coalición para la Procedencia y Autenticidad del Contenido (C2PA) presenta el nuevo y oficial "icono de transparencia" de las Credenciales de Contenido, una marca que proporcionará a los creadores, anunciantes y consumidores de todo el mundo la señal de que el contenido digital es fiable.

                                            

Tras dos años de colaboración en investigación, diseño, desarrollo e iteración, nuestra comunidad de líderes técnicos y expertos en diseño UX acordó unánimemente el nuevo símbolo que permite identificar de un vistazo si un contenido multimedia cuenta con credenciales de contenido. El diseño se basó en los criterios identificados al inicio del proceso como esenciales para el éxito del icono, incluyendo la transmisión de confianza, la indicación de información adicional, su comprensión inmediata y universal, y su simplicidad y flexibilidad para adaptarse a diversos contextos y fondos. El icono —un pin minimalista con las letras «CR»— puede grabarse en contenido multimedia, como imágenes y vídeos, integrándose a la perfección en los flujos de trabajo tanto de creadores como de consumidores. En consonancia con los principios rectores de la C2PA, también es de código abierto, lo que facilita su adopción por parte de empresas o desarrolladores en cualquier plataforma, producto, herramienta o solución.

Así es como funciona: 

Simplemente desplázate sobre el icono de Credenciales de Contenido (CR) para ver una "etiqueta de información nutricional digital" o una lista de ingredientes, todo en una barra lateral integrada. Esta lista de ingredientes mostrará información verificada como contexto clave para que los usuarios sepan con certeza qué están viendo. Esto puede incluir datos sobre un contenido, como: información del editor o creador, dónde y cuándo se creó, qué herramientas se utilizaron para crearlo, incluyendo si se utilizó o no IA generativa, así como cualquier edición realizada durante el proceso. La protección de la privacidad es un pilar fundamental de las Credenciales de Contenido, por lo que cualquier información relacionada con la identidad es siempre opcional.

El nuevo icono de Credenciales de Contenido será integrado por importantes marcas y líderes de la industria, como Adobe, Microsoft, Publicis Groupe, Leica, Nikon, Truepic y muchos más, brindando un nuevo nivel de transparencia reconocible en el contenido digital, desde su creación hasta su consumo. Con el auge del contenido generado por IA y los deepfakes virales, se ha vuelto más fácil difundir desinformación y, a menudo, difícil distinguir entre contenido confiable y no confiable. Desde plataformas sociales hasta sitios de noticias en línea, pasando por campañas de marca digitales y mucho más, el objetivo es que este nuevo icono de Credenciales de Contenido sea tan ampliamente adoptado que se convierta en algo esperado universalmente y, algún día, sea tan omnipresente y reconocible como el símbolo de copyright. Con el apoyo de socios y la comunidad creativa, la C2PA está cobrando impulso y ayudando a restaurar la confianza y la transparencia en línea en este momento crítico.

El icono oficial de Credenciales de Contenido formará parte del estándar técnico internacional de la C2PA, y las empresas del comité directivo y las comunidades globales, como la Iniciativa de Autenticidad de Contenido (CAI) y Project Origin , trabajarán en estrecha colaboración para impulsar un amplio conocimiento y la adopción tanto de las Credenciales de Contenido como de este nuevo icono, garantizando así un impacto social positivo.

Además, hemos lanzado un nuevo portal en línea llamado ContentCredentials.org como un lugar central para obtener más información sobre las Credenciales de Contenido, así como un recurso permanente para que tanto consumidores como creadores verifiquen el contenido: http://contentcredentials.org/ .

A continuación encontrará más información sobre cómo los líderes de nuestro comité directivo de C2PA están considerando el nuevo icono y cómo lo están incorporando a sus productos y soluciones:

Andy Parsons, director sénior de la Iniciativa de Autenticidad de Contenido (CAI) de Adobe, dijo:

Las Credenciales de Contenido pueden funcionar como una etiqueta de calidad digital para todo tipo de contenido, y como base para reconstruir la confianza y la transparencia en línea. A lo largo de la historia, la iconografía visual ha sido un poderoso símbolo de comunicación y cultura. Nos entusiasma enormemente el potencial del icono oficial de transparencia de las Credenciales de Contenido para convertirse en un estándar y una expectativa universal en el entorno digital, contribuyendo a que la confianza sea un principio fundamental en este nuevo mundo digital. Esperamos seguir incorporando las Credenciales de Contenido y el nuevo icono en todos nuestros productos y soluciones de Adobe.

Andrew Jenks, presidente de la C2PA y director de procedencia de medios en Microsoft, dijo:

Durante casi tres años, la C2PA ha sido fundamental para liderar los esfuerzos de desarrollo e implementación de innovaciones tecnológicas que permiten a los creadores de contenido y medios identificar y proteger sus activos creativos. Nos entusiasma la oportunidad de consolidar estos logros con la disponibilidad del nuevo ícono de Credenciales de Contenido. Este identificador consistente y reconocible ayudará a los consumidores a tomar decisiones rápidas, informadas y necesarias sobre el contenido que consumen y comparten en internet. Esperamos impulsar una mayor estandarización en todo el ecosistema a través de nuestro trabajo organizacional en especificaciones y estándares interoperables.

Jem Ripley, CEO de Publicis Digital Experience, dijo:

El marketing se basa en contenido audaz y que invita a la reflexión, capaz de conmover, contar historias e impulsar resultados comerciales. Por ello, la confianza en dicho contenido, en particular en su origen, su creación y su edición, es fundamental. Igualmente importante es garantizar la seguridad de la marca de nuestros clientes frente a los riesgos del contenido sintético, y reconocer de forma justa y adecuada el trabajo de sus creadores.

Jatin Aythora, director de Investigación y Desarrollo de la BBC, dijo:

Como miembros fundadores del Proyecto Origin y partidarios del trabajo realizado por Adobe y otras organizaciones en este ámbito, creemos que ayudar al público a comprender el origen y la elaboración del contenido será una parte cada vez más crucial de nuestro ecosistema informativo. Integrar estas señales en nuestro contenido es fundamental para lograr este objetivo, por lo que hemos comenzado a analizar cómo podemos hacerlo. Pero no nos detendremos ahí. Continuaremos nuestra colaboración con empresas de medios y tecnología, así como con otras organizaciones, para desarrollar este trabajo y esperamos seguir colaborando a medida que abordamos los desafíos de la desinformación.

Mounir Ibrahim, vicepresidente ejecutivo de Asuntos Públicos e Impacto de Truepic, dijo:

La digitalización de nuestras sociedades y economías nos ha vuelto altamente dependientes del contenido digital a la hora de tomar decisiones. La proliferación y accesibilidad de herramientas de manipulación, edición y síntesis hacen que la transparencia y la autenticidad del contenido digital sean imprescindibles hoy en día. Un icono universal de credenciales de contenido representa un gran avance hacia una internet más auténtica y transparente. Este icono reconocible se convertirá en una señal y una oportunidad para que todos aprendamos más sobre el historial del contenido digital antes de tomar una decisión importante basada en lo que vemos y oímos en línea.

Read more...