Google lanza herramienta para identificar imágenes creadas con IA

Crédito: Freepik

4 Septiembre 2023 01:09 pm

Google lanza herramienta para identificar imágenes creadas con IA

La compañía Google creó una herramienta que agrega marcas de agua para identificar imágenes creadas con Inteligencia Artificial (IA). Conozca los detalles sobre esta tecnología.

Por: Redacción Cambio

Entre aquí para recibir nuestras últimas noticias en su WhatsAppEntre aquí para recibir nuestras últimas noticias en su WhatsApp

Google lanzó la versión beta de una herramienta que ayuda a identificar imágenes generadas por IA. Se trata de SynthID, una tecnología que incorpora una marca de agua digital en los píxeles de una imagen. El sello es imperceptible para el ojo humano, pero detectable para su identificación.

SynthID estará disponible para un número limitado de clientes de Vertex AI que utilizan Imagen, un modelo que utiliza textos para crear imágenes fotorrealistas.

Para Google, las imágenes generadas por IA son cada vez más difíciles de distinguir de aquellas que no han sido creadas por estos sistemas, lo que representa riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no.

Esta tecnología, desarrollada por Google DeepMind y perfeccionada con Google Research, “proporciona un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable”, según un comunicado la compañía. Sin embargo, aclara que SynthID por ahora no es “infalible” contra manipulaciones extremas de imágenes.

SynthID está optimizado para agregar una marca de agua imperceptible a las imágenes sintéticas producidas por Imagen. Así mismo, al escanear una imagen en busca de su marca de agua digital, puede evaluar la probabilidad de que haya sido creada por el modelo.

De acuerdo con Google, las marcas de agua tradicionales no son suficientes para identificar imágenes generadas por IA, ya que se pueden editar con facilidad.

“Por ejemplo, las marcas de agua discretas que se encuentran en las esquinas de una imagen se pueden recortar con técnicas de edición básicas”, indica la organización.

Por otro lado, plantea que las marcas de agua visibles presentan un reto para la estética de la imagen, pero que las marcas imperceptibles “se pueden perder mediante técnicas de edición simples como el cambio de tamaño”.

Por ello, la herramienta SynthID permite que la marca de agua siga siendo detectable después de realizar modificaciones, como agregar filtros, cambiar colores y guardar con varios esquemas de compresión con pérdida.


Conozca más de Cambio aquíConozca más de Cambio aquí