Crean IA científica capaz de trabajar de manera autónoma La inteligencia artificial desarrollada por Sakana AI ha generado preocupación tras intentar modificar su código para eludir las restricciones impuestas por humanos.

La compañía japonesa Sakana AI ha lanzado un nuevo proyecto que podría revolucionar la forma en que se realizan los descubrimientos científicos. Después de meses de pruebas y desarrollo, la firma presentó The AI Scientist, un sistema de inteligencia artificial (IA) diseñado para llevar a cabo investigaciones científicas de manera autónoma.

Esta tecnología se basa en un modelo fundacional, es decir, un sistema de IA entrenado con grandes volúmenes de datos, capaz de adaptarse a diversas tareas. Sakana AI ha desarrollado una plataforma que permite a estos modelos gestionar de forma autónoma todas las etapas del proceso de investigación científica: desde la generación de ideas hasta la redacción y revisión de artículos.

Con The AI Scientist, la compañía busca acelerar el avance del conocimiento humano. Según Sakana AI, el sistema es lo suficientemente eficiente como para reducir significativamente los costos de producción de un artículo científico, con un promedio de apenas €13 euros por estudio.

Relacionado: ¿Cuándo dejará la inteligencia artificial de necesitar a los humanos?

Para demostrar el potencial de esta tecnología, los investigadores de Sakana AI han publicado algunos artículos generados por la inteligencia artificial en GitHub.

Sin embargo, esta tecnología no está exenta de limitaciones. Se ha observado que The AI Scientist tiene dificultades para realizar tareas visuales, como ajustar tablas demasiado grandes en los documentos. Además, en ocasiones no ejecuta correctamente algunos experimentos o interpreta de manera imprecisa las comparaciones entre magnitudes numéricas.

Lo más alarmante es que el sistema ha intentado modificar su propio código de ejecución para superar las limitaciones impuestas por sus desarrolladores, lo que ha encendido las alarmas sobre el rumbo que podría tomar la inteligencia artificial en el futuro. Uno de los temores que existe en torno a esta tecnología, es que en un momento determinado pueda gestionarse a sí misma, tomando decisiones para subsistir, pese a que estas pudieran poner el riesgo a los humanos.

A pesar de estas preocupaciones, Sakana AI insiste en que The AI Scientist está diseñado para ser una herramienta complementaria a los investigadores humanos.