Get All Access for $5/mo

¿Demasiado tarde? Microsoft aplica candados para evitar deepfakes como las de Taylor Swift Reportes señalaron que usuarios aprovecharon fallas en Designer para generar contenido ofensivo sin el consentimiento de las celebridades.

Neilson Barnard | Getty Images

Luego de que se diera a conocer que los deepfakes explícitos de Taylor Swift fueron creados por su herramienta gratuita de generación de imágenes mediante inteligencia artificial, Designer, Microsoft anunció que ha implementado medidas de seguridad en dicha herramienta.

Esta respuesta de la empresa tecnológica norteamericana llega después de que 404 Media informó que estas imágenes tuvieron su origen en el foro 4chan y un canal de Telegram, donde usuarios aprovecharon un fallo en la aplicación para generar contenido falso de celebridades sin su consentimiento.

El informe destacó que los usuarios descubrieron que al escribir mal el nombre de la artista o al redactar una descripción ligeramente sugerente, la herramienta permitía eludir protecciones contra el uso de palabras clave con términos sexuales.

En respuesta, Microsoft aplicó un parche de seguridad, limitando la capacidad de Designer para crear imágenes genéricas.

Aunque no se pudo confirmar que las imágenes de Taylor Swift en X fueron generadas con la herramienta, la semana pasada, el CEO de Microsoft, Satya Nadella, se comprometió en una entrevista con NBC News a fortalecer las barreras de seguridad en los sistemas de IA para prevenir la creación de contenido dañino.

Relacionado: Los deepfakes explícitos de Taylor Swift generados por la IA son la evidencia de un problema que nos negamos a atender

La denuncia de un hombre llamado Shane Jones

En un incidente relacionado, un ingeniero de Microsoft llamado Shane Jones, alertó sobre una vulnerabilidad en la plataforma DALL-E 3 de OpenAI, permitiendo la generación de deepfakes violentos y sexuales similares a los de Taylor Swift.

Ante la falta de respuesta de OpenAI y Microsoft, Jones presentó una denuncia en el Capitolio, con la que exhortó al gobierno a crear un sistema para reportar y rastrear vulnerabilidades en sistemas de IA.

En respuesta, un vocero de Microsoft afirmó que sus investigadores no encontraron que las técnicas reportadas por Jones burlaran los filtros de seguridad. Además, anunció la implementación de una plataforma interna de informes para que los empleados expresen sus inquietudes sobre los modelos de IA antes de hacerlas públicas.

Relacionado: Los deepfakes acechan en 2024. Así es cómo abordar el creciente panorama de amenazas de la IA
Entrepreneur en Español

Entrepreneur Staff

Emprendedores

10 grandes frases sobre el poder de las metas

Establecer metas es el primer paso para lograr algo significativo.

Iniciar un negocio

63 ideas de pequeños negocios para iniciar en 2025

Hemos elaborado una lista con las mejores y más rentables ideas de pequeños negocios para que los emprendedores las consideren en 2025.

Emprendedores

Por qué la pasión de Steve Jobs por la caligrafía es un ejemplo importante para usted

Al ejercitar intencionalmente su músculo creativo, surgen naturalmente nuevas oportunidades.

Estrategias de crecimiento

¿Cómo ganó un profesor universitario $8 millones en la ruleta durante 5 años?

Hay algo que decir para identificar una falla y explotarla pacientemente.

Consultoría

Cómo hacer preguntas verdaderamente poderosas como líder (y por qué es importante)

Para ser un líder efectivo, debes desarrollar la habilidad de hacer preguntas poderosas. Aquí te explicamos por qué y cómo hacerlo.

Emprendedores

10 sencillos pasos para construir un equipo de trabajo eficiente y excepcional

Construir un equipo de trabajo excepcional requiere de una visión clara, talento diverso, comunicación efectiva, colaboración y mejora continua. ¡Veamos los pasos y pongamos manos a la obra!