OpenAI añade C2PA y SynthID para verificar imágenes generadas por IA

Con los generadores de imágenes por IA ampliamente disponibles en línea, distinguir imágenes auténticas de las generadas por IA se ha vuelto más difícil. El martes, OpenAI anunció dos nuevas medidas para ayudar a abordar este problema. La empresa está implementando metadatos de la Coalition for Content Provenance and Authenticity (C2PA) junto con SynthID, una tecnología de marca de agua desarrollada por Google. Sin embargo, estas nuevas protecciones solo se aplican a imágenes generadas por productos de OpenAI. Debido a que estas protecciones se limitan a los propios modelos de OpenAI, no afectarán a las imágenes provenientes de otras herramientas de IA. En cambio, tienen la intención de ayudar a garantizar que OpenAI no contribuya al problema del contenido generado por IA no verificado.

Para ayudar a los usuarios a verificar estas señales, OpenAI está presentando una herramienta de verificación pública que permitirá a los usuarios probar fácilmente si una imagen fue generada usando IA. Inicialmente, esta herramienta solo verificará señales de C2PA y SynthID en imágenes generadas por los propios modelos de OpenAI, aunque la empresa espera ampliar sus capacidades para cubrir otras herramientas con el tiempo.

Los dos sistemas están diseñados para trabajar juntos y abordar las limitaciones de cada método individual. La Coalition for Content Provenance and Authenticity (C2PA) es una organización sin fines de lucro fundada en 2021. Si bien C2PA proporciona un estándar abierto que incrusta señales claras directamente en los metadatos de una imagen, su adopción sigue siendo inconsistente en toda la industria, a pesar de que ha sido adoptada por una gama de productos de Google. Debido a que la señal de C2PA es claramente accesible dentro de los metadatos de cada archivo, puede ser manipulada, lo que hace que el estándar sea más útil entre usuarios de confianza.

Para contrarrestar esta vulnerabilidad, OpenAI se está asociando con Google para implementar SynthID. Esta tecnología de marca de agua está diseñada para ser más robusta contra la manipulación digital. La marca de agua sigue siendo detectable incluso cuando actores malintencionados intentan eliminarla mediante capturas de pantalla, cambio de tamaño u otras alteraciones. Al combinar ambos enfoques, la empresa apunta a construir un sistema de verificación más seguro. Como señaló OpenAI en su anuncio: “La marca de agua puede ser más duradera ante transformaciones como capturas de pantalla, mientras que los metadatos pueden proporcionar más información que una marca de agua por sí sola. Juntos, hacen que la procedencia sea más resistente de lo que sería cualquiera de las capas por sí sola”.

Por qué importa

Esta medida aborda la creciente dificultad de distinguir imágenes auténticas de las generadas por IA al combinar metadatos y marcas de agua para crear un estándar de procedencia más resistente.