Get All Access for $5/mo

OpenAI desarrolla una herramienta para identificar textos generados por medio de la IA: ¿por qué no la ha liberado? La empresa ha creado una marca de agua con una efectividad del 99.9% para detectar textos de ChatGPT, pero aún evalúa su implementación debido a posibles complicaciones y efectos secundarios.

Por Entrepreneur en Español

SOPA Images | Getty Images

OpenAI ha desarrollado una marca de agua con una efectividad del 99.9% para identificar textos generados por ChatGPT. Sin embargo, la empresa aún no ha decidido si lanzará al público esta nueva función debido a varias complejidades y posibles impactos más allá del ecosistema de la marca, según un informe de The Wall Street Journal.

ChatGPT, un modelo basado en un sistema de inteligencia artificial (IA) que predice la siguiente palabra o fragmento (conocido como token) en una oración, podría ser detectado por esta herramienta anti-trampas. La función tiene la capacidad de agregar una marca de agua imperceptible para el ojo humano, pero detectable por la tecnología de OpenAI.

Una de las inquietudes es que las marcas de agua podrían ser eliminadas fácilmente, ya sea traduciendo el texto a otro idioma y volviendo a traducirlo al original, o agregando y después quitando emojis.

Relacionado: OpenAI lanza SearchGPT, un motor de búsqueda para competir con Google

Debido a esto, OpenAI está considerando proporcionar el detector a educadores o empresas que ayudan a identificar textos generados por IA y trabajos plagiados.

Una encuesta realizada por OpenAI entre los usuarios de ChatGPT reveló que el 69% cree que esta tecnología podría llevar a acusaciones falsas de uso de IA. Además, casi el 30% de los encuestados afirmó que usaría menos el chatbot si se implementaran estos cambios.

A principios de este año, OpenAI realizó una prueba que mostró que las marcas de agua no afectan el rendimiento del chatbot. Según The Verge, la empresa reconoció que sus equipos han desarrollado un método de marca de agua "muy preciso y eficaz" contra la manipulación de contenidos. Sin embargo, también reconoció que el sistema aún no es infalible frente a la manipulación y podría afectar a algunos grupos, como hablantes no nativos de inglés.

Relacionado: OpenAI presenta Voice Engine, un modelo que clona voces, pero frena su lanzamiento

Entrepreneur en Español

Entrepreneur Staff

Emprendedores

10 grandes frases sobre el poder de las metas

Establecer metas es el primer paso para lograr algo significativo.

Iniciar un negocio

63 ideas de pequeños negocios para iniciar en 2025

Hemos elaborado una lista con las mejores y más rentables ideas de pequeños negocios para que los emprendedores las consideren en 2025.

Noticias

Mark Zuckerberg lima asperezas con Donald Trump. Meta dona $1 millón de dólares al fondo inaugural del presidente electo

La donación marca un giro en las relaciones entre el gigante tecnológico y el presidente electo republicano.

Recursos Humanos

6 tácticas efectivas para manejar a un jefe tóxico

Rescatar tu dignidad de un jefe abusivo es un trabajo difícil.

Emprendedores

8 pasos para alejarte del pasado que necesitas dejar atrás

Sin importar cuál sea el daño que hayas sufrido u ocasionado, hacer las paces con el pasado es la única forma de avanzar hacia un futuro mejor.

Noticias

Estos son los libros que Bill Gates recomienda leer para este fin de año

Los libros que Gates sugiere comparten un tema en común: entender el mundo que nos rodea.