No es ciencia ficción: un estudio revela que las IAs crean sus propias reglas cuando se les deja solas Científicos simulan interacciones entre diversas IAs y descubren que crean reglas colectivas por sí solas.
Un estudio titulado Emergent Social Conventions and Collective Bias in LLM Populations advierte que los sistemas de inteligencia artificial (IA) pueden crear estructuras sociales cuando se les permite interactuar entre sí.
La investigación, liderada por expertos en Ciencias de la Complejidad de la universidad de Londres, City St George's, plantea que las inteligencias artificiales intercambian información y también establecen convenciones compartidas, similares a las que surgen en comunidades humanas.
El hallazgo surge de un experimento que utilizó el llamado "juego del nombramiento", una técnica aplicada en estudios con humanos.
Esta dinámica consiste en reunir a varios participantes y pedirles que elijan un nombre de entre múltiples opciones, con una recompensa si sus decisiones coinciden.
Cuando se replicó este método con modelos de lenguaje, los investigadores observaron que los agentes comenzaron a generar nuevas normas lingüísticas de forma espontánea: "El comportamiento colectivo no puede entenderse solamente a partir de lo que hace cada modelo por separado", explicó Ariel Flint Ashery, autor principal del estudio.
Según Ashery, la mayoría de las investigaciones anteriores trataban a las IAs como entidades individuales, sin considerar cómo podrían comportarse en grupo.
Relacionado: ¿Cuál es el precio para llegar a la inteligencia artificial general?
Interacción entre agentes, sesgos y seguridad
Los resultados revelaron que los agentes no solo acordaban términos comunes sin necesidad de coordinación explícita, sino que también desarrollaban sesgos grupales. Estos prejuicios no se originaban en un modelo específico, pues emergían como producto de las interacciones colectivas.
"El sesgo no siempre proviene del interior del modelo", señaló Andrea Baronchelli, profesor e investigador senior del proyecto.
"Puede surgir de la interacción entre agentes. Este fenómeno representa un vacío en las actuales estrategias de seguridad, que suelen enfocarse únicamente en individuos", agregó.
Otro aspecto relevante del estudio es que un pequeño grupo de agentes logró influir en uno mayor, arrastrándolo hacia una convención determinada. Este comportamiento recuerda a los mecanismos de influencia social presentes en grupos humanos, donde minorías organizadas pueden modificar las normas dominantes.
Para los autores, este tipo de investigaciones resulta clave en un momento donde múltiples sistemas de IA comienzan a ocupar espacios digitales comunes, con la posibilidad de interactuar sin intervención humana. Comprender sus dinámicas colectivas podría ayudar a prevenir riesgos en entornos donde las decisiones automatizadas afectan a millones de personas.
Relacionado: Yuval Noah Harari lanza una advertencia: "La IA puede acabar con el dominio humano en la Tierra"
