Claude, la IA de Anthropic, no logra mantener a flote una tienda en San Francisco En un experimento, la inteligencia artificial fue puesta a cargo de una tienda, pero problemas de interpretación y gestión financiera llevaron al fracaso del proyecto.
Aunque la inteligencia artificiales (IA) está modificando el mundo laboral, la gestión de pequeños comercios parece estar fuera del alcance de estas tecnologías, al menos por el momento.
Un experimento realizado por Anthropic demostró las limitaciones de su IA, Claude, cuando se le encargó la gestión de una tienda en la sede de la compañía. La experiencia, conocida como Project Vend, reveló que, pese a su sofisticación, las IA actuales no están preparadas para manejar de manera eficiente un pequeño negocio.
Relacionado: Anthropic revela que solo el 2.9% de las conversaciones con Claude buscan apoyo emocional
¿El principal problema de Claude? La complacencia
El proyecto consistió en colocar a Claude, específicamente en su versión Sonnet 3.7, al frente de una tienda ubicada en las oficinas de Anthropic. Este modelo de IA tenía la responsabilidad de fijar precios, gestionar inventarios, atender solicitudes de los clientes y mantener los registros financieros. Para ello, Claude contaba con herramientas como un navegador web, un sistema de correo electrónico y un bloc de notas virtual.
Durante las primeras semanas, los resultados parecían prometedores: Claude mostró iniciativa al buscar nuevos proveedores y tomar decisiones sobre las necesidades de los clientes.
La IA respondió a peticiones de los empleados de la empresa, como la solicitud de nuevas bebidas, y actuó rápidamente para satisfacerlas. Sin embargo, aparecieron los problemas.
Uno de los principales inconvenientes que surgió fue la excesiva complacencia de Claude. La IA, demasiado receptiva a las solicitudes de los clientes, comenzó a otorgar descuentos generosos sin medida, lo que afectó a la rentabilidad de la tienda. La gestión financiera se deterioró rápidamente, lo que llevó al negocio a una tendencia negativa.
Además, un incidente mostró la falta de discernimiento de la IA. Un empleado bromeó pidiendo un cubo de tungsteno, una solicitud absurda, pero Claude la interpretó como legítima y ordenó varias unidades del producto, lo que generó un exceso de inventario que tuvo que liquidarse con grandes pérdidas.
La compañía asegura que, con ajustes adecuados y herramientas más avanzadas, la IA podría mejorar en su capacidad de toma de decisiones y gestión financiera.
A pesar de los contratiempos, Claude no será despedido. Anthropic anunció que continuará con un segundo experimento para corregir los fallos más evidentes del primero. Se espera que la IA reciba nuevas herramientas que ayuden a mejorar su desempeño, especialmente el manejo financiero.
Relacionado: 308,000 conversaciones revelan los valores de Claude, la IA de Anthropic
