¿Por qué Elon Musk y otros expertos en tecnología están tan preocupados por la inteligencia artificial? En la era emergente de la inteligencia artificial (IA), destacadas figuras tecnológicas celebran las asombrosas capacidades de la tecnología, mientras que otras compañías pelean ferozmente en el mercado de la IA. Sin embargo, a medida que las empresas luchan por adaptarse, muchos expertos en tecnología expresan preocupaciones sobre los posibles inconvenientes de la nueva tecnología.

"La era de la IA ha comenzado", declaró Bill Gates en marzo, reflexionando sobre una demostración de OpenAI en la que la IA logró destacadas hazañas, como aprobar un examen de Biología y dar una respuesta reflexiva y conmovedora cuando se le preguntó qué haría si fuera el padre de un niño enfermo.

Al mismo tiempo, gigantes tecnológicos como Microsoft y Google están inmersos en una carrera por desarrollar tecnología de IA, integrarla en sus ecosistemas existentes y dominar el mercado. En febrero, el CEO de Microsoft, Satya Nadella, desafió a Sundar Pichai de Google a "salir y bailar" en el campo de batalla de la inteligencia artificial.

Para las empresas, es un desafío mantenerse al día. Por un lado, la IA promete agilizar los flujos de trabajo, automatizar tareas tediosas e incrementar la productividad en general. Por otro lado, el ámbito de la IA avanza rápidamente, con nuevas herramientas que aparecen todos los días. ¿En qué áreas exactamente deberían apostar para mantenerse a la vanguardia?

Ahora, muchos expertos en tecnología están retrocediendo. Líderes como el cofundador de Apple, Steve Wozniak, e Elon Musk de Tesla, junto con otros 1,300 expertos de la industria, profesores e ilustres de la IA, firmaron una carta abierta solicitando detener el desarrollo de la IA durante seis meses.

Al mismo tiempo Geoffrey Hinton, el "padrino de la IA", renunció como uno de los principales investigadores de IA de Google y escribió un artículo de opinión en The New York Times advirtiendo sobre la tecnología que él ayudó a crear.

Incluso Sam Altman de ChatGPT se unió al coro de voces de advertencia durante una audiencia en el Congreso.

Pero, ¿qué dicen estas advertencias? ¿Por qué los expertos en tecnología hablan de que la IA realmente podría representar una amenaza para las empresas e incluso para la humanidad?

Aquí tienes una visión más detallada sobre estas advertencias.

Responsabilidad incierta

Para empezar, existe una preocupación muy centrada en los negocios: la responsabilidad.

Si bien las IA han desarrollado capacidades asombrosas, están lejos de ser infalibles. Por ejemplo, en un sonado caso, ChatGPT inventó las referencias científicas de un artículo que ayudó a escribir.

En consecuencia, surge la pregunta sobre la responsabilidad. Si una empresa utiliza la inteligencia artificial para completar una tarea y proporciona información errónea a un cliente, ¿quién es responsable de los daños? ¿La empresa? ¿El proveedor de la IA?

En este momento nada de esto está claro. Además, los seguros comerciales tradicionales no cubren las responsabilidades relacionadas con la IA.

Los reguladores y las aseguradoras están luchando por ponerse al día. Recientemente, la Unión Europea redactó un marco para regular la responsabilidad de la IA.

Robo de datos a gran escala

Otra preocupación está relacionada con el uso no autorizado de datos y las amenazas de ciberseguridad. Los sistemas de inteligencia artificial almacenan y manejan con frecuencia grandes cantidades de información sensible, gran parte de la cual se recopila en áreas legales ambiguas.

Esto podría convertirlos en objetivos atractivos para ataques cibernéticos.

"En ausencia de regulaciones sólidas de privacidad (en Estados Unidos) o de una aplicación adecuada y oportuna de las leyes existentes (en la Unión Europea), las empresas tienden a recopilar la mayor cantidad de datos posible", explicó Merve Hickok, Presidenta y Directora de Investigación del Center for AI and Digital Policy, en una entrevista con The Cyber Express.

"Los sistemas de IA tienden a conectar conjuntos de datos previamente disímiles", dice Hickok. "Esto significa que las violaciones de datos pueden dar lugar a una exposición de datos más detallados y pueden causar daños aún más graves".

Desinformación

El siguiente problema son los individuos malintencionados que están recurriendo a la IA para generar desinformación. Esto no solo puede tener graves repercusiones para figuras políticas, especialmente en un año electoral, sino que también puede causar daños directos a las empresas.

Ya sea de forma intencionada o accidental, la desinformación en línea ya está desbocada. Es posible que la IA aumente su volumen y dificulte su detección.

Fotos generadas por IA de líderes empresariales, audios que imitan la voz de un político y presentadores de noticias artificiales que anuncian noticias económicas convincentes. Las decisiones empresariales basadas en información falsa de este tipo podrían tener consecuencias desastrosas.

Miembros del equipo desmotivados y menos creativos

Los emprendedores también debaten cómo la IA afectará la psicología de los miembros individuales de la fuerza laboral.

"¿Deberíamos automatizar todos los empleos, incluyendo los que son satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, inteligencia, obsolescencia y reemplazo?" pregunta la carta abierta.

Según Matt Cronin, Coordinador de Seguridad Nacional y Cibercrimen del Departamento de Justicia de Estados Unidos, la respuesta es un claro "No". Una sustitución a gran escala devastaría la motivación y la creatividad de las personas en la fuerza laboral.

"Dominar y comprender profundamente un tema requiere de tiempo y esfuerzo significativos", escribe en The Hill. "Por primera vez en la historia, toda una generación puede saltarse este proceso y seguir progresando en la escuela y el trabajo. Sin embargo, depender de la IA generativa tiene un precio oculto. No estás aprendiendo de verdad, al menos no de una manera que te beneficie significativamente".

En última instancia, el uso generalizado de la inteligencia artificial puede disminuir la competencia de los miembros del equipo, incluidas las habilidades de pensamiento crítico.

Inestabilidad económica y política

No se sabe qué cambios económicos causará la adopción generalizada de la IA, pero es probable que sean grandes y rápidos. Después de todo, una estimación reciente de Goldman Sachs proyectó que dos tercios de los empleos actuales podrían automatizarse parcial o totalmente, con consecuencias opacas para las empresas individuales.

Según perspectivas más pesimistas de los expertos, la IA también podría incitar a la inestabilidad política. Esto podría variar desde la manipulación de elecciones hasta escenarios realmente apocalípticos.

En un artículo de opinión en la revista Time, el teórico de decisiones Eliezer Yudkowsky pidió una detención general del desarrollo de la IA. Él y otros argumentan que no estamos preparados para una inteligencia artificial poderosa y que un desarrollo desenfrenado podría llevar a una catástrofe.

Conclusión

Las herramientas de IA tienen un inmenso potencial para aumentar la productividad de las empresas y elevar su éxito.

Sin embargo, es crucial ser conscientes del peligro que los sistemas de IA representan, no solo según los pesimistas y los tecnófobos, sino también según las mismas personas que desarrollaron estas tecnologías.