La inteligencia artificial aprende de ti, incluso cuando te equivocas Modelos de lenguaje se entrenan con miles de interacciones humanas diarias, incluidas aquellas que contienen errores.
La inteligencia artificial (IA) no se entrena sola. Aunque los algoritmos sean complejos y los servidores gigantescos, al final, la materia prima proviene de millones de personas que charlan, corrigen, comentan y opinan.
En esa interacción, herramientas como ChatGPT o Gemini aprenden a responder mejor y absorben lo que sus usuarios piensan, creen o incluso malinterpretan.
Actualmente, los asistentes basados en grandes modelos de lenguaje se integran de forma acelerada a rutinas laborales, tareas académicas y búsquedas personales.
La tecnología conocida como aprendizaje reforzado por retroalimentación humana (RLHF, por sus siglas en inglés) permite que estos sistemas ajusten su desempeño cada vez que un usuario les indica si una respuesta fue útil o no.
Ese ajuste depende del criterio del humano que evalúa. La IA refleja lo que recibe, no lo que necesariamente es correcto.
Relacionado: Yuval Noah Harari lanza una advertencia: "La IA puede acabar con el dominio humano en la Tierra"
Entrenamiento colectivo: un espejo en cada usuario
Según datos Pew Research Center, retomados por Expansión, más de la mitad de los adultos estadounidenses ya ha usado un chatbot. Muchos de ellos repiten la experiencia con regularidad, lo que convierte esa interacción en una fuente constante de entrenamiento para los modelos. La inteligencia artificial aprende del comportamiento colectivo, no de una verdad objetiva.
Por ejemplo, Gemini, el modelo multimodal de Google, responde a comandos por voz, texto, imagen o video. Su diseño lo convierte en un asistente versátil, pero también en un espejo de cada usuario.
En este tipo de interacción, las personas tienden a establecer una relación de confianza. Algunos usuarios creen que el sistema los "recuerda", le atribuyen personalidad o comparten información privada con él.
Un estudio de la Mozilla Foundation encontró que al menos un tercio de los usuarios de plataformas de IA entregó datos personales sin verificar cómo se almacenaban o utilizaban.
Si una persona corrige a la IA de manera equivocada, y esa corrección se integra como una mejora, el modelo podría empezar a reproducir errores como si fueran aciertos.
En el fondo, la inteligencia artificial no decide por sí sola qué es correcto. Lo aprendió —y lo seguirá aprendiendo— de nosotros. Si no vigilamos ese proceso, terminaremos construyendo una máquina que replica lo peor de nuestras certezas disfrazadas de verdad.
Relacionado: Nick Bostrom y la paradoja de la IA: el mayor riesgo es también la única vía hacia el futuro
