Google lanza herramienta para identificar imágenes creadas con IA

Google lanzó la versión beta de una herramienta que ayuda a identificar imágenes generadas por IA. Se trata de SynthID, una tecnología que incorpora una marca de agua digital en los píxeles de una imagen. El sello es imperceptible para el ojo humano, pero detectable para su identificación.

SynthID estará disponible para un número limitado de clientes de Vertex AI que utilizan Imagen, un modelo que utiliza textos para crear imágenes fotorrealistas.

Para Google, las imágenes generadas por IA son cada vez más difíciles de distinguir de aquellas que no han sido creadas por estos sistemas, lo que representa riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no.

Le puede interesar: Billetera virtual de Google ya está disponible en Colombia: ¿cómo funciona?

Esta tecnología, desarrollada por Google DeepMind y perfeccionada con Google Research, “proporciona un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable”, según un comunicado la compañía. Sin embargo, aclara que SynthID por ahora no es “infalible” contra manipulaciones extremas de imágenes.

SynthID está optimizado para agregar una marca de agua imperceptible a las imágenes sintéticas producidas por Imagen. Así mismo, al escanear una imagen en busca de su marca de agua digital, puede evaluar la probabilidad de que haya sido creada por el modelo.

De acuerdo con Google, las marcas de agua tradicionales no son suficientes para identificar imágenes generadas por IA, ya que se pueden editar con facilidad.

“Por ejemplo, las marcas de agua discretas que se encuentran en las esquinas de una imagen se pueden recortar con técnicas de edición básicas”, indica la organización.

Lea también: ¿Cómo obtener más espacio gratuito en Google Drive? Le explicamos

Por otro lado, plantea que las marcas de agua visibles presentan un reto para la estética de la imagen, pero que las marcas imperceptibles “se pueden perder mediante técnicas de edición simples como el cambio de tamaño”.

Por ello, la herramienta SynthID permite que la marca de agua siga siendo detectable después de realizar modificaciones, como agregar filtros, cambiar colores y guardar con varios esquemas de compresión con pérdida.