Google aplica cambios para evitar engaños con la IA

El despliegue y auge de la inteligencia artificial generativa trajo consigo numerosos beneficios, como la posibilidad de crear contenido en forma dinámica, con unas pocas instrucciones. En paralelo, esos avances también se asocian a una serie de riesgos y los desarrolladores deben asegurarse que sus tecnologías se usen de un modo responsable, tal como observa Android Headlines.

Una de las tantas problemáticas relacionadas con la IA generativa es la erosión entre lo real y lo sintético. En criollo, esas tecnologías dificultan la capacidad de distinguir si un contenido fue creado con inteligencia artificial, lo que expande el alcance (y la peligrosidad) de las deepfakes, noticias falsas, engaños, etcétera.

En este marco, Google acaba de dar un paso relevante, con cambios en su aplicación Photos. ¿De qué se trata esta movida y cómo beneficiará a los usuarios?

El videojuego que ya costó $100M y sigue sin fecha de salida

Google Photos suma las “marcas” de SynthID: los detalles que tenés que conocer

De acuerdo a la fuente mencionada, la compañía de Mountain View anunció la incorporación de SynthID en la app Google Photos. Aquel es un sistema que inyecta metadatos en imágenes generadas con IA, para que sean debidamente identificadas, evitando usos indebidos y confusiones.

Esa tecnología ya se usa, por ejemplo, en los resultados de búsqueda de Google, indicando dentro de la pestaña “Acerca de esta imagen” si una foto fue generada con IA. También está presente en el generador de imágenes del chatbot Gemini.

El paso es importante porque la aplicación Photos (o Google Fotos, en español) recibió varias funciones de IA. Una de las más interesantes es “Reimagine”, que permite transformar imágenes existentes, enfocando caras borrosas, mejorando la resolución, añadiendo colores en contenido blanco y negro, e incluso animando rostros.

Con la incorporación de SynthID en Google Photos, las imágenes editadas con IA tendrán metadatos (información escondida, aunque consultable) que delatará cuando se trate de elementos sintéticos.

Identificar elefantes, no hormigas

Desde Google explicaron que el sistema está diseñado para marcar las imágenes en las que se realizaron ediciones grandes o “pesadas”. En ese sentido, cuando se realizan cambios con IA muy pequeños (por ejemplo el color de una flor pequeña, dentro de una foto) es posible que SynthID no lo marque.

Un detalle relevante: el proceso de marcado no requiere participación directa del usuario, sino que se realiza en forma automática y no es opcional.