Google lanza una nueva herramienta para detectar imágenes de IA – Telangana Today

Llamada SynthID, la herramienta incorpora una marca de agua digital directamente en los píxeles de una imagen.

Hyderabad: En los últimos días, ha habido un aumento masivo de imágenes generadas por IA, lo que dificulta distinguir entre reales y falsas. Para combatir este problema, Google ha lanzado una herramienta de marca de agua que puede ayudar a identificar imágenes generadas por IA.

Llamada SynthID, la herramienta incorpora una marca de agua digital directamente en los píxeles de una imagen. El código especial es invisible para el ojo humano, pero detectable para su identificación, compartió la compañía en una publicación de blog. Esto permite a las computadoras detectar fácilmente imágenes generadas por IA.

En asociación con Google Cloud, SynthID está disponible para clientes específicos que usan Vertex AI y un modelo llamado Imagen, uno de los últimos modelos de conversión de texto a imagen de la compañía que utiliza texto escrito para crear imágenes fotorrealistas.

«Si bien la IA generativa puede liberar un enorme potencial creativo, también presenta nuevos riesgos, como permitir que los creadores difundan información errónea, intencionalmente o no», continúa el blog. Ser capaz de identificar el contenido generado por IA es clave para que las personas sepan cuándo interactúan con los medios generados y para ayudar a prevenir la difusión de información errónea”, añade.

Según el blog, SynthID permanece vigente incluso después de modificaciones, como agregar filtros a las imágenes, cambiar sus colores y comprimirlas. La tecnología utiliza dos sistemas inteligentes para hacer su trabajo: uno para agregar la marca de agua y otro para la identificación.

“SynthID no es infalible contra la manipulación extrema de imágenes, pero proporciona un enfoque técnico prometedor para permitir que las personas y las organizaciones trabajen de manera responsable con contenido generado por IA. Esta herramienta también podría evolucionar junto con otros modelos y modalidades de IA más allá de las imágenes, como audio, video y texto”, dijo Google.

La compañía mencionó además que integrará SynthID en más productos de Google y pronto lo pondrá a disposición de terceros.