Ejecutivo de Google advierte sobre las "alucinaciones" del chatbot de inteligencia artificial. ¿Y eso qué significa? Prabhakar Raghavan advierte que la inteligencia generativa como ChatGPT puede ser convincente, pero incorrecta.
Por Jonathan Small Editado por Eduardo Scheffler Zawadzki
El principal ejecutivo de Google declaró a un periódico alemán que la forma actual de la inteligencia artificial generativa —como ChatGPT— puede ser poco confiable y entrar en un estado de ensueño y distracción.
"Este tipo de inteligencia artificial de la que estamos hablando en este momento a veces puede conducir a algo que llamamos alucinación", dijo Prabhakar Raghavan, vicepresidente senior de Google y jefe de Google Search, a Welt am Sonntag.
"Esto se expresa de tal manera que una máquina proporciona una respuesta convincente, pero completamente inventada", dijo.
De hecho, muchos usuarios de ChatGPT, incluido el cofundador de Apple, Steve Wozniak, se han quejado de que la inteligencia artificial se equivoca con frecuencia.
Los errores en la codificación y decodificación entre texto y representaciones pueden causar alucinaciones de inteligencia artificial.
El autor Matt Bell explicó esto en un tuit haciendo referencia a un artículo de Ted Chiang: "Si un algoritmo de compresión está diseñado para reconstruir texto después de que el 99% del original ha sido descartado, debemos esperar que porciones significativas de lo que genera sean completamente fabricadas ..."
Ted Chiang on the "hallucinations" of ChatGPT: "if a compression algorithm is designed to reconstruct text after 99% of the original has been discarded, we should expect that significant portions of what it generates will be entirely fabricated..." https://t.co/7QP6zBgrd3
— Matt Bell (@mdbell79) February 9, 2023
No quedó claro si Raghavan estaba haciendo una referencia a la incursión de Google en la inteligencia artificial generativa.
La semana pasada, la compañía anunció que está probando un chatbot llamado Bard Apprentice. Este se basa en la tecnología LaMDA (una familia de modelos de lenguaje neuronal conversacional), al igual que el modelo de lenguaje de OpenAI que ChatGPT utiliza.
La presentación de la herramienta en París fue considerada un desastre de relaciones públicas, pues en gran medida los inversionistas se sintieron decepcionados.
Los desarrolladores de Google han estado bajo una intensa presión desde el lanzamiento de ChatGPT de OpenAI, que ha tomado al mundo por sorpresa y que representa una amenaza al negocio principal de Google.
"Obviamente sentimos la urgencia, pero también sentimos una gran responsabilidad", dijo Raghavan al periódico. "Ciertamente no queremos engañar al público".
