Get All Access for $5/mo

Un abogado utilizó ChatGPT para redactar un texto legal y presentó en juicio un documento lleno de citas inventadas El jurista ha comprobado en carne propia que las herramientas de inteligencia artificial no son infalibles.

SomYuZu | Shutterstock

Una vez que te das cuenta de lo que la inteligencia artificial (IA) puede hacer por ti, es difícil no comenzar a usarla. Herramientas como ChatGPT, Bard o Midjourney son capaces de ahorrarnos largas horas de trabajo arrojando grandes resultados (siempre y cuando sepamos explicarles exactamente qué es lo que queremos).

Pero estas herramientas no son infalibles. Sus datos son tan correctos como las bases de datos que las alimentan. Pueden arrojar respuestas con errores, comentarios sesgados, datos incompletos o desactualizados. Por eso, al utilizarlas, es crucial verificar la información que nos han dado.

Un abogado en un tribunal de Nueva York ha aprendido esto por la mala. Según The New York Times el abogado Steven Schwartz utilizó ChatGPT para redactar un texto en el que se oponía a la solicitud de la parte defensora de que el caso fuera desestimado.

Schwartz representa a un pasajero que demandó a la aerolínea colombiana Avianca luego de ser golpeado por un carrito de servicio durante un vuelo.

El problema para el abogado fue que el programa impulsado por la inteligencia artificial inventó varias decisiones judiciales que citaba en el texto como ejemplo para apoyar su tesis.

Según The New York Times, al darse cuenta de las fallas en el documento, el juez Kevin Castel comentó: "La Corte se encuentra ante una situación inédita. Una presentación remitida por el abogado del demandante en oposición a una moción para desestimar el caso está llena de citas de casos que no existen".

Luego de explicar que el texto había sido elaborado con ayuda de una herramienta impulsada por la inteligencia artificial, Schwartz fue citado el próximo 8 de junio para exponer su caso y exponer por qué no debería de ser sancionado por haber presentado un documento lleno de datos falsos.

¿Qué son las alucinaciones de la inteligencia artificial?

No es la primera vez que los usuarios reportan que las herramientas de inteligencia artificial arrojan resultados perfectamente bien redactados, pero completamente inventados. A esto se le llama "alucinaciones".

Hace unos meses Prabhakar Raghavan, vicepresidente senior de Google y jefe de Google Search explicó el fenómeno al diario alemán Welt am Sonntag: "Este tipo de inteligencia artificial de la que estamos hablando en este momento a veces puede conducir a algo que llamamos alucinación. Esto se expresa de tal manera que una máquina proporciona una respuesta convincente, pero completamente inventada".
Eduardo Scheffler Zawadzki

Entrepreneur Staff

Emprendedores

10 grandes frases sobre el poder de las metas

Establecer metas es el primer paso para lograr algo significativo.

Iniciar un negocio

63 ideas de pequeños negocios para iniciar en 2025

Hemos elaborado una lista con las mejores y más rentables ideas de pequeños negocios para que los emprendedores las consideren en 2025.

Consultoría

Más 'endpoints' equivalen a más ciberataques en Latinoamérica. Tres cosas que los fundadores deben saber para 2025

De cara al nuevo año, las startups deben equilibrar la incorporación de dispositivos con las mejores prácticas en cuanto a privacidad y protección de seguridad.

Noticias

14 maneras fáciles de ganar dinero extra en casa

Un ingreso adicional se siente como ser rico si ya tienes un trabajo diario para cubrir las deudas.

Emprendedores

9 maneras de atraer energía positiva hoy y todos los días

La buena energía puede aumentar nuestros sentimientos de bienestar, disolver los sentimientos de ansiedad y mejorar la comunicación.

Emprendedores

8 pasos para alejarte del pasado que necesitas dejar atrás

Sin importar cuál sea el daño que hayas sufrido u ocasionado, hacer las paces con el pasado es la única forma de avanzar hacia un futuro mejor.