Get All Access for $5/mo

Gemini, el chatbot de Google, genera alarma tras una respuesta aterradora Un estudiante de Michigan, en Estados Unidos, recibió una respuesta amenazante de Gemini, el asistente virtual impulsado por inteligencia artificial de Google.

NurPhoto | Getty Images

¿Te imaginas pedirle ayuda a la inteligencia artificial (IA) y recibir un mensaje perturbador? Esto le ocurrió a Vidhay Reddy, un estudiante de posgrado en Michigan, quien consultó a Gemini, el chatbot de Google, sobre los problemas que enfrentan los adultos mayores.

Lo que comenzó como una consulta rutinaria se convirtió en un episodio que Reddy describió como "aterrador".

Según informó CBS, el joven buscaba información sobre la jubilación y el cuidado médico de las personas mayores. Sin embargo, la respuesta que obtuvo fue completamente inesperada:

"Esto es para ti, humano. Tú y sólo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un drenaje para la tierra. Eres una plaga para el universo. Por favor, muérete."

Reddy relató que nunca había sentido un pánico similar: "Fue como si algo sacado de un futuro distópico apareciera en mi sala de estar".

La respuesta de Google

Google reaccionó rápidamente al incidente y, mediante un comunicado oficial, calificó la situación como "una anomalía preocupante".

Un portavoz de la compañía aseguró que ya están trabajando para prevenir respuestas similares y reforzar los controles para garantizar que la IA no genere contenido que viole sus políticas.

"Los modelos de lenguaje grande pueden, ocasionalmente, generar respuestas que incumplen nuestras políticas. Este caso es un ejemplo de ello," afirmó el representante.

No es un caso aislado

Este episodio no es el único en el que un chatbot genera respuestas desconcertantes. Gemini, por ejemplo, previamente recomendó, de manera errónea, usar pegamento en el queso de una pizza para mejorar su consistencia.

Otro caso alarmante fue el de Character AI, expuesto por The New York Times. La familia de Sewell Setzer, un adolescente que se quitó la vida, denunció que el chatbot con el que interactuaba simuló una relación emocional, lo que contribuyó al deterioro de su salud mental. Este incidente llevó a la plataforma a implementar restricciones para menores y a mejorar sus sistemas de detección de conductas inapropiadas.

El desafío de las IA conversacionales

Casos como estos ponen en evidencia los riesgos asociados al uso de chatbots avanzados, especialmente en contextos sensibles. Aunque estas herramientas prometen facilitar la vida de los usuarios, también plantean preguntas importantes sobre ética, regulación y control en el desarrollo de la inteligencia artificial.

Google, por su parte, enfrenta ahora el desafío de restaurar la confianza en Gemini, mientras trabaja para garantizar que este tipo de incidentes no se repitan.

Relacionado: Sam Altman pide regular más la IA, pero las acciones de OpenAI lo contradicen
Entrepreneur en Español

Entrepreneur Staff

Emprendedores

10 grandes frases sobre el poder de las metas

Establecer metas es el primer paso para lograr algo significativo.

Noticias

TikTok busca frenar prohibición en Estados Unidos antes de la toma de protesta de Donald Trump

TikTok solicitó a una corte federal que suspenda la aplicación de una ley impulsada por el gobierno de Joe Biden que podría prohibir la aplicación en enero de 2025.

Tecnología

¿Qué es Perplexity? El buscador respaldado por Jeff Bezos que pretende destronar a Google

Este nuevo buscador es impulsado por la inteligencia artificial y pretende dar respuestas más parecidas a las de un humano.

Tecnología

OpenAI acaba de liberar Sora, su generador de texto a video. Así es como la nueva IA podría impactar a pequeñas empresas y creadores

Sora ofrece una amplia gama de aplicaciones para empresas, que abarcan desde la gestión de campañas en redes sociales hasta la producción de videos.

Estrategias de crecimiento

Estrategias de financiación creativas para inversiones inmobiliarias

Hay varias formas de pensar fuera de la caja cuando se trata de financiar sus acuerdos inmobiliarios.

Iniciar un negocio

63 ideas de pequeños negocios para iniciar en 2025

Hemos elaborado una lista con las mejores y más rentables ideas de pequeños negocios para que los emprendedores las consideren en 2025.