inteligencia artificial

3 maneras en las que la inteligencia artificial podría amenazarnos

Un nuevo informe muestra tres formas en que la IA podría usarse para causar daño, de manera física, digital y política.
3 maneras en las que la inteligencia artificial podría amenazarnos
Crédito: Depositphotos.com
8 min read
This story originally appeared on Foro Económico Mundial

Por Rob Smith

La inteligencia artificial (IA) podría mejorar drásticamente nuestras vidas y tener un gran impacto positivo en áreas que van desde la asistencia sanitaria hasta la seguridad, la gobernación y la economía. Pero casi todas las tecnologías se pueden usar tanto para mal como para bien.

El informe Uso malicioso de la inteligencia artificial, compilado por expertos de varias instituciones, incluida la Universidad de Cambridge y la firma de investigación OpenAI, argumenta que, en las manos equivocadas, la IA podría ser explotada por estados corruptos, terroristas y criminales.

El informe describe tres áreas, física, digital y política, donde es más probable que se explote la IA, y describe cómo podrían suceder los ataques.

1. Accidentes automovilísticos a control remoto

La mayor preocupación es que la IA se utilice para realizar ataques físicos contra humanos, como piratear vehículos autónomos para causar colisiones.

"Si múltiples robots son controlados por un solo sistema de IA ejecutado en un servidor centralizado, o si múltiples robots son controlados por sistemas idénticos de IA y se les presentan los mismos estímulos, un solo ataque podría producir fallas simultáneas en una escala por lo demás inverosímil", sostiene el informe.

El Profesor de la Universidad de Texas en Austin, Dr. Peter Stone, que es parte de un equipo que recientemente desarrolló un nuevo algoritmo para mejorar la forma en que los robots y los humanos se comunican, cree que las advertencias del informe deben tomarse en serio, pero que la situación no es nueva ni exclusiva de los vehículos autónomos.

"Si hoy alguien pusiera todas las luces de los semáforos simultáneamente en verde, se produciría un desastre", nos dice el Dr. Stone. "Y el hecho de que nuestra red eléctrica esté bastante centralizada nos hace vulnerables a los apagones en gran escala". Según el Dr. Stone, la respuesta adecuada serían medidas de seguridad más fuertes, así como la redundancia (la provisión de capacidad de respaldo) y la descentralización de la toma de decisiones.

2. Suplantación de identidad sofisticada

En el futuro, los intentos de acceder a información personal y sensible de un individuo podrían ser llevados a cabo por IA casi en su totalidad.

"Estos ataques pueden usar sistemas de IA para completar ciertas tareas con más éxito que cualquier humano", dice el informe, y agrega que el fraude o el robo de identidad podrían volverse más refinados y efectivos a medida que la inteligencia artificial evoluciona.

Si la IA pudiera manejar la generación de mensajes e investigación típica para llevar a cabo una suplantación de identidad, habría muchas más personas engañadas por esta actividad.

La IA podría hacerse pasar por los contactos reales de las personas, imitando el estilo de escritura de esos contactos, lo que haría más difícil detectar el engaño.

El Profesor de Robótica en la Universidad Carnegie Mellon, Illah Nourbakhsh, dice que, dado que la IA evoluciona a gran velocidad, necesitamos respuestas más rápidas para enfrentar estos riesgos. "El verdadero desafío es considerar medidas políticas para maximizar lo bueno y minimizar lo malo", manifiesta Nourbakhsh. "Del mismo modo que los estafadores humanos encuentran formas cada vez más sofisticadas de quitarles el dinero a las personas mediante engaños, habrá gente maliciosa que usará la inteligencia artificial para buscar constantemente nuevos caminos para introducirse en nuestros datos y billeteras".

3. Manipulación de la opinión pública

Las noticias y los videos falsos generados por IA y bots podrían tener un gran impacto en la opinión pública, alterando todos los niveles de la sociedad, desde la política hasta los medios. El uso de bots de redes sociales difundiendo noticias falsas fue ya una realidad durante la campaña presidencial en los Estados Unidos en 2016.

Los bots bien entrenados podrían crear una ventaja estratégica para los partidos políticos, y funcionar casi como máquinas de propaganda de inteligencia artificial que prosperarían en sociedades de baja confianza, afirma el informe.

Esto va más allá de la simple difusión de contenidos falsos. "Los sistemas de IA ahora pueden crear imágenes sintéticas que son casi indistinguibles de las fotografías, mientras que hace solo unos años atrás las imágenes que producían eran toscas y obviamente poco realistas", dice el informe.

Caras sintéticas cada vez más realistas generadas por IA

Wendell Wallach, Presidente del Consejo Mundial Futuro de Tecnología, Valores y Política del Foro Económico Mundial, y autor de "A Dangerous Master: How to keep technology from slipping beyond our control", dice que las redes sociales ya combinan ideas sobre la psicología humana y cómo manipular las opiniones, y que se volverán más sofisticadas en los próximos años.

"Estas herramientas no se utilizarán solo como propaganda de los estados para confundir y desestabilizar a los líderes opositores, sino también como nuevos métodos empleados por los políticos y los partidos para rastrear, manipular y controlar a los ciudadanos dentro de un país".

Mitigación de los riesgos

En respuesta a estas y otra infinidad de amenazas descritas en el informe, los expertos han planteado cuatro recomendaciones de "alto nivel":

1. Los responsables políticos y los investigadores técnicos deben trabajar juntos ahora para comprender y prepararse para el uso malicioso de la IA.

2. Mientras que la IA tiene muchas aplicaciones positivas, es una tecnología de doble uso, y los investigadores e ingenieros deben ser conscientes y proactivos sobre el potencial de su uso indebido.

3. Se pueden y deben aprender las mejores prácticas de disciplinas con una historia más larga de manejo de los riesgos del doble uso, como la seguridad informática.

4. La variedad de las partes interesadas involucradas en la prevención y mitigación de los riesgos del uso malicioso de la IA debería expandirse activamente.

"Se requerirá una nueva forma de gobierno ágil e integral tanto a nivel internacional como nacional para maximizar los beneficios de la IA, mitigar los riesgos y cumplir con estas cuatro recomendaciones de alto nivel", dice Wendell Wallach.

En el Centro del Foro Económico Mundial para la Cuarta Revolución Industrial, la Directora de Inteligencia Artificial y Aprendizaje Automático, Kay Firth-Butterfield, está trabajando para abordar algunos de los pasos descritos en el informe para mitigar los riesgos: "Hemos codiseñado un proyecto para ayudar a los investigadores e ingenieros a ser conscientes del uso indebido de la IA, para asegurarnos de que la enseñanza sobre el diseño ético y relevante desde un punto de vista cultural de la IA esté disponible para cualquier estudiante y posgraduado que diseñe, desarrolle y cree IA", dice Firth- Butterfield.

"También estamos trabajando con los gobiernos y los consejos de administración para crear las mejores prácticas para la puesta en marcha y el uso de la inteligencia artificial", explica. "Queremos imaginar un nuevo tipo de regulador que pueda abordar los riesgos de una manera ágil, y promover y fomentar el uso de la tecnología de manera beneficiosa para toda la humanidad y el planeta".

Keep Reading

Mexico Desconocido

12 cosas que hacer en Salamanca, Guanajuato

Te compartimos esta lista de cosas que hacer en Salamanca, para que aproveches cualquier fin de semana o puente y te lances a Guanajuato.
Nupcias Magazine

8 cosas que te conviene comprar para tu boda en el Buen Fin

Aprovecha este fin de semana del Buen Fin para comprar algunas piezas clave para tu boda.
Cine Premiere

Andrew Lincoln en trilogía de películas The Walking Dead

Tras el reciente episodio, AMC sorprende: Andrew Lincoln regresará como Rick Grimes, ¡pero a una trilogía de películas The Walking Dead!
Altonivel

Diltex: la mexicana que sobrevivió al TLCAN y ahora crece con IBM

Diltex, empresa propietaria de la firma Ilusión hoy enfrenta con IBM una nueva competencia en un terreno poco transitado en la industria de la moda: la tecnología.

More from Entrepreneur

In as little as seven months, the Entrepreneur Authors program will turn your ideas and expertise into a professionally presented book.
Apply Now

One-on-one online sessions with our experts can help you start a business, grow your business, build your brand, fundraise and more.
Book Your Session

Are paying too much for business insurance? Do you have critical gaps in your coverage? Trust Entrepreneur to help you find out.
Get Your Quote Now

Latest on Entrepreneur

My Queue

There are no Videos in your queue.

Click on the Add to next to any video to save to your queue.

There are no Articles in your queue.

Click on the Add to next to any article to save to your queue.

There are no Podcasts in your queue.

Click on the Add to next to any podcast episode to save to your queue.

You're not following any authors.

Click the Follow button on any author page to keep up with the latest content from your favorite authors.