¿Demasiado tarde? Microsoft aplica candados para evitar deepfakes como las de Taylor Swift Reportes señalaron que usuarios aprovecharon fallas en Designer para generar contenido ofensivo sin el consentimiento de las celebridades.

Por Entrepreneur en Español

Neilson Barnard | Getty Images

Luego de que se diera a conocer que los deepfakes explícitos de Taylor Swift fueron creados por su herramienta gratuita de generación de imágenes mediante inteligencia artificial, Designer, Microsoft anunció que ha implementado medidas de seguridad en dicha herramienta.

Esta respuesta de la empresa tecnológica norteamericana llega después de que 404 Media informó que estas imágenes tuvieron su origen en el foro 4chan y un canal de Telegram, donde usuarios aprovecharon un fallo en la aplicación para generar contenido falso de celebridades sin su consentimiento.

El informe destacó que los usuarios descubrieron que al escribir mal el nombre de la artista o al redactar una descripción ligeramente sugerente, la herramienta permitía eludir protecciones contra el uso de palabras clave con términos sexuales.

En respuesta, Microsoft aplicó un parche de seguridad, limitando la capacidad de Designer para crear imágenes genéricas.

Aunque no se pudo confirmar que las imágenes de Taylor Swift en X fueron generadas con la herramienta, la semana pasada, el CEO de Microsoft, Satya Nadella, se comprometió en una entrevista con NBC News a fortalecer las barreras de seguridad en los sistemas de IA para prevenir la creación de contenido dañino.

Relacionado: Los deepfakes explícitos de Taylor Swift generados por la IA son la evidencia de un problema que nos negamos a atender

La denuncia de un hombre llamado Shane Jones

En un incidente relacionado, un ingeniero de Microsoft llamado Shane Jones, alertó sobre una vulnerabilidad en la plataforma DALL-E 3 de OpenAI, permitiendo la generación de deepfakes violentos y sexuales similares a los de Taylor Swift.

Ante la falta de respuesta de OpenAI y Microsoft, Jones presentó una denuncia en el Capitolio, con la que exhortó al gobierno a crear un sistema para reportar y rastrear vulnerabilidades en sistemas de IA.

En respuesta, un vocero de Microsoft afirmó que sus investigadores no encontraron que las técnicas reportadas por Jones burlaran los filtros de seguridad. Además, anunció la implementación de una plataforma interna de informes para que los empleados expresen sus inquietudes sobre los modelos de IA antes de hacerlas públicas.

Relacionado: Los deepfakes acechan en 2024. Así es cómo abordar el creciente panorama de amenazas de la IA
Entrepreneur en Español

Entrepreneur Staff

Want to be an Entrepreneur Leadership Network contributor? Apply now to join.

Temas relacionados

Noticias

Después de que Tesla cancelara un pedido de 4,000 mini pasteles del pequeño negocio de una emprendedora, Elon Musk se vio obligado a intervenir

La dueña del negocio contó que puso todos sus recursos para cumplir con la petición, que al final fue cancelada.

Emprendedores

10 grandes frases sobre el poder de las metas

Establecer metas es el primer paso para lograr algo significativo.

Noticias

Elon Musk gana demanda en contra del modesto negocio de pizza y pollo de un emprendedor británico

El dueño del restaurante llamado Tesla Chicken & Pizza aseguró que el nombre no tiene relación con la compañía del magnate.

Finanzas

Cómo ganar dinero rápido: 10 formas reales de generar ingresos rápidamente

¿Quieres ganar dinero extra lo antes posible? Echa un vistazo a esta lista de diez maneras de generar ingresos rápidamente para inspirarte y comenzar a trabajar.

Noticias

14 maneras fáciles de ganar dinero extra en casa

Un ingreso adicional se siente como ser rico si ya tienes un trabajo diario para cubrir las deudas.

Noticias

Elon Musk dice que lanzará una nueva plataforma de correo electrónico llamada Xmail

Todavía no queda claro si es una simple ocurrencia o si el empresario realmente pretende establecer una nueva plataforma de correo electrónico.