¿Qué se esconde realmente detrás de la famosa carta contra la inteligencia artificial? Hace unas semanas miles de expertos en inteligencia artificial firmaron una carta pública pidiendo que se detuviera el desarrollo de los experimentos gigantes ligados a la IA durante seis meses debido a los riesgos que implican.

Hace un poco más que un mes, decenas de miles de profesionales de inteligencia artificial (IA), incluyendo a Elon Musk, CEO de SpaceX, Tesla, y ahora Twitter, Yoshua Bengio, un ganador del Premio Turing, y también Steve Wozniak, el cofundador de Apple, firmaron una carta pública que advertía sobre los riesgos de "experimentos gigantes" de IA subregulados.

Al contrario de lo que muchos infirieron, la carta no fue en contra del desarrollo de sistemas de IA en general. Su finalidad fue detener los experimentos que sobrepasen incluso las ya sorprendentes capacidades de GPT-4, el modelo de lenguaje revolucionario creado por OpenAI.

Pero apenas se publicó la carta cuando la opinión predominante pareció ser que muchos de estos profesionales actuaban por sus propios intereses. Muchos acusaron a Musk de querer parar el desarrollo para poder aprovecharse de la pausa para ganar la reñida competencia empresarial que se desató con la llegada de ChatGPT.

Las sospechas aumentaron después de que Musk anunció la fundación de su nueva compañía: X.AI. La carta que firmó habla de "grandes riesgos para la humanidad" como resultado de los experimentos gigantes de IA y, aún así, parece que Musk usará su compañía para competir con OpenAI.

¿Será ese el caso del resto de los firmantes también?

Una petición razonable

Muchos de los firmantes han alegado que la carta era parte de una batalla más grande para garantizar que la IA tenga un futuro más seguro. Algunos incluso comunicaron públicamente que no estaban del todo convencidos con los argumentos expuestos. Aún así, casi todos concuerdan en que fue una manera sensata de expresar sus preocupaciones e involucrar al resto de la sociedad en la conversación.

"Me pareció que la carta era muy oportuna, hacía una petición muy razonable y me alegré de apoyarla porque creo que mucha gente piensa que la IA ha avanzado muy deprisa", comentó Marc Rotenberg, fundador del Center for AI and Digital Policy, en exclusiva para Entrepreneur en Español, "realmente necesitamos establecer límites."

Para Rotenberg, este no es un argumento nuevo motivado por algún cambio en el mercado del que pueda aprovecharse. Semanas antes de que la carta existiera, su organización ya había pedido a la Comisión Federal de Comercio (FTC, por sus siglas en inglés) en los Estados Unidos para que abriera una investigación y ordenara a OpenAI que detuviera el desarrollo de modelos GPT hasta establecerse la regulación necesaria.

Lo mismo nos comentó José Hernández-Orallo, profesor de la Universitat Politècnica de València (UPV) e investigador de extensa trayectoria en el Leverhulme Centre for the Future of Intelligence: "Llevo los últimos diez años de mi vida preocupado por los riesgos que supone la IA", añadió. "Aunque no esté de acuerdo con algunas de las cosas que se dicen en la carta, creo que era bienintencionada."

"Como trabajo en el campo de la inteligencia artificial, siento la responsabilidad de hacer algo al respecto", nos comenta Michael Osborne, profesor e investigador especialista en IA de la Universidad de Oxford y cofundador de Mind Foundry. Osborne fue la mente maestra detrás del famoso "Oxford Study," un estudio que predijo que hasta el 47% de los trabajos podrían automatizarse dentro de las siguientes dos décadas.

Moshe Vardi, profesor de la Rice University, coautor de más de 600 trabajos de investigación y recipiente de numerosos premios por su trabajo como ingeniero computacional y de IA, nos confiesa sus desavenencias: "En realidad estoy en desacuerdo con casi todo lo que dice la carta. No estoy de acuerdo con el análisis ni con la solución. Entonces, ¿por qué firmé la carta?En lugar de los aspectos específicos de la misma, mi lectura fue: 'El laissez faire ya no funciona para la tecnología. Debemos cambiar la conversación en torno a la misma'".

Estos expertos no están solos en sus preocupaciones. Una encuesta reciente realizada por el Pew Research Center donde se entrevistó a 10,260 adultos en los Estados Unidos, arrojó que casi la mitad de los encuestados se encuentran tan emocionados como igualmente preocupados por el super-acelerado crecimiento de las tecnologías de IA en la vida diaria.

Los contraargumentos

Aún si los firmantes tuvieron buenas intenciones, las razones para rechazar la carta no se hicieron esperar. Business Insider publicó un artículo que causó mucho revuelo donde acusaban a Musk y al resto de los firmantes de buscar beneficios bajo falsas pretensiones éticas.

Para Michael Osborne, la motivación de personas como Musk no es tan importante: "Lo que realmente deberíamos debatir es el fondo de la carta. Por supuesto, la gente va a firmar esta carta por muchas razones diferentes, pero lo que deberíamos debatir es si estas sugerencias son realmente útiles."

Algunos profesan la preservación del orden, otros de la sociedad. Unos pocos llegan al punto de exponer que elevaron su voz para salvaguardar a la humanidad. "Todos tenemos algún tipo de interés propio. Mi propio interés es la preservación. Quiero preservar la humanidad, y soy parte de ella", declaró Vardi.

Muchos objetan que la pausa haría más daño que bien. Por ejemplo, algunos ejecutivos de tecnología militar de los Estados Unidos y también expertos de la Rand Corporation sugirieron que las compañías y autoridades de occidente eran las únicas que querían suspender los experimentos, lo que podría poner al hemisferio en riesgo al permitir que fuerzas políticas en otras regiones se aprovechen de la pausa para ganar ventaja en la cruenta competición de sistemas de IA avanzados.

"Algunas personas se han preguntado si, por ejemplo, China se detendría si lo hiciera también Estados Unidos, pero en realidad las regulaciones chinas sobre IA parecen ser más estrictas que en Estados Unidos, por lo que creo que las autoridades chinas sí podrían estar dispuestas a firmar algún acuerdo de cooperación bilateral que prohibiera seguir entrenando a las IA más potentes," contraargumentó Osborne.

Rotenberg, quien ha declarado con frecuencia frente al congreso de los Estados Unidos sobre las regulaciones internacionales para la privacidad y la tecnología, acotó: "No creo que la gente que piensa que la regulación obstaculiza la competencia esté viendo lo que está pasando ahora, porque China quiere ambas cosas, y creo que Estados Unidos también debería quererlas." Y de hecho, China acaba de proponer regulaciones para IA generativa.

La objeción final y tal vez más condenatoria es que la carta es sensacionalista y no ofrece remedio para los problemas más importantes que atañen a la IA de hoy en día. "¿Estoy de acuerdo con todo lo que dice la carta? Por supuesto que no. ¿Hubiera escrito la carta de otra manera? Sí. ¿Fue un error que los autores de la carta no hablaran del aquí y el ahora y del verdadero problema de la parcialidad en la IA? También", confiesa Rotenberg, "pero en realidad, nuestra organización ha estado implicada en todas esas cuestiones".

Osborne también expresa su preocupación en los problemas comunes de la IA hoy en día, no solo del futuro lejano: "Creo que la precaución es sensata, pero dejando a un lado los riesgos existenciales, hay muchos daños posibles que incluso la GPT-4 podría provocar en los próximos seis meses. Me preocupa la desinformación. Me preocupa el desarrollo de robots de propaganda."

La promulgación a escala de la desinformación es una preocupación casi unánime en los expertos. Las historias recientes de deepfakes de audio, video, o imágenes generados por medio de inteligencia artificial por motivos propagandísticos parecen ir en aumento. Hace solo un mes, VTV, una estación de televisión pro-Maduro en Venezuela, mostró videos de supuestos periodistas de los Estados Unidos hablando en apoyo del turismo en el país que resultaron ser totalmente falsos, en un intento por manipular la opinión pública.

Políticos y activistas involucrados inadvertidamente en deepfakes pornograficos también son otra muestra del uso nocivo de esta tecnología. Es por eso que las autoridades en muchos países están intentando regular con mayor celeridad de la normal, en un intento por hacer frente a esta nueva oleada de deepfakes, aunque con poco éxito hasta ahora.

El incierto futuro de la IA

Eso nos lleva a la que tal vez sea la pregunta más importante de este asunto: ¿Más allá de la controversia, sirvió de algo la carta?

El revuelo parece haber impactado sobre el futuro del desarrollo y la regulación de la IA, pero tal vez no de la manera en que los firmantes inicialmente esperaban. Por un lado, la pausa de seis meses no sucedió. Algunos de los firmantes auguran que probablemente no sucederá en el futuro cercano tampoco.

"Por el momento, [una pausa es] muy poco probable, y creo que la mayoría de los firmantes lo sabían," confiesa Hernández-Orallo.

Pero Vardi no cree que la pausa sea esencial: "No dijimos, vale, pausa. Los coches matan a la gente. Pongamos en pausa todos los coches durante seis meses. Dijimos, empecemos a regular la tecnología de los automóviles y hemos creado normas".

Rotenberg, por otro lado, cree que la pausa ya existe, de cierta manera: "Ahora vemos los esfuerzos de los miembros del Parlamento Europeo esta semana pidiendo esencialmente una pausa y una cumbre Unión Europea - Estados Unidos sobre IA, lo que creo que sería genial. Oyes a Sam Altman de OpenAI decir que básicamente están aplazando los planes para lanzar GPT-5, lo que también me parece bien".

Si en algo están de acuerdo los firmantes es que en el futuro cercano, los legisladores y las autoridades probablemente van a tomar en cuenta más y más los riesgos y problemas regulatorios asociados con los experimentos gigantes de IA. Y ya empezaron a actuar.

"Creo que ha habido algunos pasos posteriores a la carta que sugieren que, ya sea como resultado de la carta o simplemente como resultado del impacto cada vez mayor de los grandes modelos lingüísticos de IA, los reguladores están prestando más atención", menciona Osborne haciendo referencia a la reciente prohibición de ChatGPT en Italia.

"De hecho, hoy soy más optimista de lo que era, digamos, hace tres meses." concluye Rotenberg.

Es difícil ignorar que las razones detrás de los que firmaron la carta son tan variadas como contundentes. No obstante, la creciente preocupación sobre el desarrollo de la IA esbozada en su argumentario parece legitimarse con la aparición casi diaria de nuevos usos nocivos de IA a escala. Si algo está claro es que el desarrollo de la IA es indetenible y entre más poderosa se vuelva, más responsabilidad nos exige. Entre más miedo nos cause, más atención debemos prestarle.