Get All Access for $5/mo

DeepMind de Google libera un sistema para identificar imágenes creadas por medio de la inteligencia artificial La herramienta lleva el nombre de SynthID y aunque dista mucho de ser perfecta, explora modos de combatir la desinformación que la tecnología puede generar.

deepmind.com

Hace unos meses una imagen del Papa Francisco I llegó a los titulares de los medios de comunicación y a los feeds de las redes sociales. En ella se podía ver al pontífice caminando por una calle vistiendo una elegante chamarra blanca (después se dijo que era de la marca Balenciaga) con un crucifijo plateado colgando del cuello. Aunque observando la fotografía es posible detectar que hay algo raro en ella (las manos, siempre son las manos), hubo muchos que creyeron que se trataba de una imagen real y criticaron la opulencia de un papa que se ha caracterizado por su humildad y votos de pobreza.

Al poco tiempo se supo que la imagen había sido creada por medio de Midjourney, una herramienta de inteligencia artificial (IA) capaz de generar imágenes a partir de la entrada de texto proporcionada por un usuario.

La imagen del Papa Francisco I demostró algo que ya sabíamos: que la tecnología ha evolucionado tanto que empieza a ser imposible distinguir a simple vista si una imagen, video texto o pintura ha sido creada por un ser humano o por una máquina.

A las imágenes de Francisco le siguieron las del supuesto arresto de Donald Trump y muchas otras. Una de las preocupaciones con las herramientas regenerativas de IA es que puedan ser utilizadas para difundir información falsa al mostrar imágenes y videos que parezcan reales (como los deepfakes).

Consciente de esa situación, Deep Mind, la empresa de investigación y desarrollo de IA de Google, ha creado una herramienta que permite identificar con facilidad las imágenes que hayan sido generadas haciendo uso de la inteligencia artificial por medio de una marca de agua imperceptible para el ojo humano e indeleble, pese a que el material sea recortado y/o editado.

Pero hay dos detalles: los creadores de las imágenes tienen que "marcar" manualmente la imagen y por ahora solo funciona con Imagen, la herramienta de Google que equivale a Dalle-2 de OpenAI.

El nombre de la herramienta es SynthID y DeepMind explicó por medio de una publicación en su blog oficial: "Con esta herramienta, los usuarios pueden incrustar una marca de agua digital imperceptible en sus imágenes generadas por IA e identificar si Imagen se utilizó para crearlas, o incluso parte de ellas. Ser capaz de identificar el contenido generado por IA es fundamental para promover la confianza en la información. Si bien no es una bala de plata para abordar el problema de la desinformación, SynthID es una solución técnica temprana y prometedora para este apremiante problema de seguridad de la IA".

Aunque se trata todavía de una solución parcial que requiere de la buena voluntad de un usuario, deja ver que las empresas que están desarrollando las herramientas de IA que usamos en nuestro día a día, comprenden la necesidad de transparentar cuando algún material fue creado utilizando alguna de sus herramientas.

No es una solución, pero al menos un pequeño paso en la dirección correcta para abordar el tema.
Eduardo Scheffler Zawadzki

Entrepreneur Staff

Emprendedores

10 grandes frases sobre el poder de las metas

Establecer metas es el primer paso para lograr algo significativo.

Noticias

¿Qué es la "renuncia desnuda"? La tendencia que está desafiando al mundo laboral en China

Esta tendencia es adoptada principalmente por los trabajadores más jóvenes.

Emprendedores

10 hábitos diarios de la personas altamente exitosas

Adoptar estos rituales diarios permite a cualquiera embarcarse en un camino hacia el éxito.

Finanzas

Cómo ganar dinero rápido: 10 formas reales de generar ingresos rápidamente

¿Quieres ganar dinero extra lo antes posible? Echa un vistazo a esta lista de diez maneras de generar ingresos rápidamente para inspirarte y comenzar a trabajar.

Noticias

14 maneras fáciles de ganar dinero extra en casa

Un ingreso adicional se siente como ser rico si ya tienes un trabajo diario para cubrir las deudas.

Noticias

Jose Pino, el hacker que desarrolla herramientas que resuelven los problemas de criptoinseguridad en América Latina

Desde niño se interesó por la programación y gracias a su experiencia ha sido reconocido por grandes tecnológicas tras hallar fallas de seguridad en sus sistemas.