Empleados

¿Qué hay detrás de las revueltas de los empleados en Amazon, Microsoft y Google?

Los empleados de estas firmas están molestos. He aquí el por qué y cómo usan sus voces para dar forma a la política de las compañías sobre armas, vigilancia y más.
¿Qué hay detrás de las revueltas de los empleados en Amazon, Microsoft y Google?
Crédito: Albert L. Ortega | Getty Images
Entrepreneur Staff
Associate Editor
12 min read

¿Qué obtienes cuando cruzas la tecnología avanzada con la guerra y la vigilancia gubernamental? Cientos de empleados inestables, cientos de miles de personas angustiadas y una cantidad incalculable de malas relaciones públicas.

En Amazon, los empleados están en pie de guerra por la decisión de la compañía de vender su software de reconocimiento facial Rekognition a los departamentos de policía y agencias gubernamentales. La tecnología usa inteligencia artificial (IA) para identificar, rastrear y analizar rostros en tiempo real, y Amazon afirma que puede reconocer hasta 100 personas en una imagen e identificar "personas de interés" para fines como la vigilancia gubernamental. En mayo, una investigación de la Unión Americana de Libertades Civiles (ACLU) mostró que Amazon estaba comercializando y vendiendo activamente el software de reconocimiento facial a las agencias gubernamentales.

Los trabajadores de Amazon no están de acuerdo. En una carta interna al CEO Jeff Bezos la semana pasada, los empleados mencionaron el informe de ACLU y sus temores de que el software se utilizara para dañar a los más marginados.

"La tecnología como la nuestra juega un papel cada vez más crítico en muchos sectores de la sociedad", dice la carta. "Lo que está claro para nosotros es que nuestras prácticas de desarrollo y ventas todavía tienen que reconocer la obligación que conlleva esto. Concentrarse exclusivamente en el valor para los accionistas es una carrera hacia el fondo en la que no participaremos. Rehusamos construir la plataforma que impulsa a ICE, y nos negamos a contribuir con herramientas que violan los derechos humanos. Como amazónicos éticamente interesados, exigimos una elección en lo que construimos y una opinión sobre cómo se usa. Aprendemos de la historia y comprendemos cómo se emplearon los sistemas de IBM en la década de 1940 para ayudar a Hitler. IBM no se responsabilizó entonces, y para cuando se entendió su rol, ya era demasiado tarde. No dejaremos que eso suceda nuevamente".

Los empleados pidieron a Amazon que dejara de vender servicios de reconocimiento facial a las agencias policiales, dejaran de asociarse con Palantir y otras compañías que trabajan con el Servicio de Inmigración y Control de Aduanas (ICE), abandonaran por completo el negocio de la vigilancia e implementaron fuertes medidas de transparencia sobre las compañías y agencias usando los servicios de Amazon y cómo. Al hablar, los empleados de Amazon agregan sus voces a las de muchos otros. El lunes, organizaciones de derechos civiles, religiosos y comunitarios visitaron la sede central de Amazon en Seattle, entregando más de 150,000 firmas de peticiones, una carta de coalición firmada por 70 organizaciones comunitarias en los EE.UU. y una carta de los accionistas de la compañía.

En una publicación de blog de junio, Amazon Web Services (AWS) dijo que el software de reconocimiento facial de la compañía también se ha utilizado para prevenir el tráfico de personas, la explotación infantil y el robo de paquetes.

"Creemos que es un enfoque equivocado imponer una prohibición a las nuevas tecnologías, ya que podrían ser utilizadas por las malas personas para fines nefastos en el futuro", escribió el Dr. Matt Wood, gerente general de AI en AWS. "El mundo sería un lugar muy diferente si restringiéramos que la gente comprara computadoras porque es posible usarlas para hacer daño".

La compañía no respondió a una solicitud de comentarios adicionales y no respondió públicamente a la carta abierta de los empleados.

No solo Amazon

Lo que está sucediendo en Amazon apunta a una tendencia de la industria tecnológica mucho más grande en los últimos meses. Los empleados se están dando cuenta (y usan) de su capacidad de unirse para configurar la política de la empresa y, con ella, las trayectorias de las causas que les importan.

"Como este debate particular está siendo dirigido por empleados dentro de las empresas, se está jugando en un foro muy público, lo cual es inusual", dice Alan Smeaton, profesor de informática en la Universidad de Dublín. "Señala una lucha de poder desde adentro".

En una publicación de blog de enero, Microsoft elogió su orgullo de apoyar el trabajo de seguridad interna de ICE con sus servicios en la nube. La controvertida política de "cero tolerancia" de la administración Trump para las personas que cruzan la frontera ilegalmente ha sido noticia en las últimas semanas por separar a más de 2,300 niños de sus familias. (después de un alboroto nacional, el presidente Trump firmó una orden ejecutiva para mantener unidas a las familias). La semana pasada, más de 100 empleados de Microsoft firmaron una carta abierta al presidente ejecutivo, Satya Nadella, en protesta por el contrato de la compañía con ICE.

"Creemos que Microsoft debe adoptar una postura ética y poner a los niños y las familias por encima de las ganancias", dice la carta. "Como las personas que crean las tecnologías de las que Microsoft se beneficia, nos negamos a ser cómplices. Somos parte de un movimiento en crecimiento, compuesto por muchos en toda la industria que reconocen la grave responsabilidad que tienen quienes crean una poderosa tecnología para garantizar que lo que construyen se use para bien, y no para dañarlo ".

En un memo interno a los empleados, Nadella denunció la política de separación familiar en la frontera como "cruel y abusiva", pero también restó importancia a la participación de la compañía con ICE. "Quiero dejarlo claro: Microsoft no está trabajando con el gobierno de los EE. UU. en ningún proyecto relacionado con la separación de niños de sus familias en la frontera", escribió, y mencionó que los servicios en la nube son para "correo, calendario, mensajería y gestión de documentos". No presentó pautas de transparencia específicas para estos contratos y, en respuesta a una solicitud de comentarios, un representante dijo que Microsoft no tenía nada más que comentar.

Los empleados de Amazon y Microsoft no son los únicos trabajadores tecnológicos que emiten una alarma.

En marzo, el sitio de noticias tecnológicas Gizmodo informó por primera vez sobre la decisión de Google de emplear a inteligencia artificial para apoyar un controvertido programa piloto militar llamado Project Maven. La iniciativa tiene como objetivo mejorar el análisis de metraje de drones mediante la auto clasificación de imágenes de personas y objetos, y podría utilizarse para hacer que los ataques con drones sean más precisos. La participación de Google provocó la renuncia de aproximadamente 12 empleados.

"En algún momento, me di cuenta de que no podía recomendar de buena fe a nadie que se uniera a Google sabiendo lo que sabía", le dijo un empleado de Google a Gizmodo en mayo. "Me di cuenta de que si no puedo recomendar que la gente se una, ¿por qué sigo aquí?" (En noticias relacionadas, la compañía silenciosamente eliminó la mayoría de las menciones de su viejo lema "Don’t be evil" del código de conducta de toda la compañía a fines de abril o principios de mayo).

La participación de Google en Project Maven provocó una gran protesta pública, y los investigadores de AI de todo el país firmaron una carta abierta en la que le pedían a la compañía que se comprometiera a no utilizar nunca su tecnología. Google anunció en junio que no renovaría su contrato con el Pentágono luego de su expiración el próximo año.

"Reconocemos que una tecnología tan poderosa plantea preguntas igualmente importantes sobre su uso", publicó Google en un blog en junio después del anuncio de que la compañía no renovaría su contrato con el Pentágono. La firma presentó siete principios para su futuro trabajo en IA, aclarando que no serían tratados como conceptos teóricos sino como "estándares concretos que gobernarán activamente nuestra investigación y desarrollo de productos". Los principios mismos: ser socialmente beneficioso, evitar crear o reforzar los prejuicios injustos, construirse y someterse a pruebas de seguridad, rendir cuentas a las personas, incorporar principios de diseño de privacidad, mantener altos estándares de excelencia científica y estar disponibles para usos acordes con estos principios.

Google también estableció claramente las pautas para los usos de inteligencia artificial que no perseguirá, aunque el lenguaje podría decirse que permite cierto margen de maniobra. En cuanto a las tecnologías que causan o pueden causar un daño general, la empresa aclaró: "Donde haya un riesgo material de daño, procederemos solo cuando creamos que los beneficios superan sustancialmente los riesgos e incorporarán las restricciones de seguridad apropiadas". La compañía dice que no colaborará en armas u "otras tecnologías cuyo principal propósito o implementación sea causar o facilitar lesiones directas a las personas", así como "tecnologías que recopilan o usan información para la vigilancia violando normas internacionalmente aceptadas" y "tecnologías" cuyo propósito contraviene los principios ampliamente aceptados del derecho internacional y los derechos humanos".

Google no quiso hacer más comentarios a Entrepreneur.

Power to the people (El poder de la gente)

Cuando se trata del poder colectivo de los trabajadores de la tecnología para dar forma a la naturaleza de la política de la empresa, las implicaciones en las industrias, la política y las relaciones internacionales son amplias.

Esas implicaciones no han sido exploradas adecuadamente por investigadores, diseñadores de políticas y compañías tecnológicas, según los 26 autores detrás de un informe reciente titulado "El uso malicioso de la inteligencia artificial". Los antecedentes de los autores abarcaron la academia, la sociedad civil y la industria, desde el Universidad de Cambridge al Instituto del Futuro de la Humanidad. Cuando se trata de seguridad política, el informe destaca el uso potencial de IA para la propaganda y el engaño dirigidos, como la manipulación de videos o el habla humana.

"Los investigadores de IA y las organizaciones que los emplean se encuentran en una posición única para dar forma al panorama de seguridad del mundo habilitado para la IA", dice el informe, que destaca la necesidad de educación, estándares éticos y expectativas.

No es la primera vez que IA se ha visto implicada en controversias. En 2015, Google Photos etiquetó a los usuarios afroamericanos como gorilas, y en 2017, los desarrolladores rusos de FaceApp "embellecieron" las caras aligerando los tonos de la piel. Pero "lo que estamos viendo ahora es diferente", dice Smeaton, se debe a controversias previas relacionadas con el uso de datos asimétricos utilizados para entrenar la tecnología, no la tecnología de inteligencia artificial en sí.

Los investigadores de IA están cada vez más conscientes de cómo el trabajo que pretendían para un solo uso podría ser utilizado por otros para algo bastante diferente, quizás incluso con intenciones maliciosas. Smeaton señala al investigador de la Universidad de Cambridge Aleksandr Kogan como un excelente ejemplo. "Kogan no es el primero en descubrir que una vez que su trabajo está fuera de la caja, otros toman el control de cómo se usa", dice, mencionando que después de ver la devastación causada por las bombas atómicas de Hiroshima y Nagasaki, Robert Oppenheimer intentó detener el desarrollo posterior de la energía atómica  y luego renunció al Proyecto Manhattan. "De alguna manera, estamos viendo que la historia se repite", dice Smeaton.

Después de noticias sobre la participación de Google en la tecnología de guerra y el Pentágono, más de 300 empleados de la industria tecnológica firmaron una petición dirigida a Google, Amazon, Microsoft e IBM con una premisa: la tecnología no debería estar en el negocio de la guerra.

"Muchos de los que firmamos esta petición enfrentamos decisiones éticas en el diseño y desarrollo de la tecnología a diario", dice. "No podemos ignorar la responsabilidad moral de nuestro trabajo.  Representamos una creciente red de trabajadores tecnológicos que se comprometen a nunca 'simplemente seguir órdenes', sino a exigirnos a nosotros mismos, a los demás y a la industria misma ser responsables".

Keep Reading

Mexico Desconocido

12 cosas que hacer en Salamanca, Guanajuato

Te compartimos esta lista de cosas que hacer en Salamanca, para que aproveches cualquier fin de semana o puente y te lances a Guanajuato.
Nupcias Magazine

8 cosas que te conviene comprar para tu boda en el Buen Fin

Aprovecha este fin de semana del Buen Fin para comprar algunas piezas clave para tu boda.
Cine Premiere

Andrew Lincoln en trilogía de películas The Walking Dead

Tras el reciente episodio, AMC sorprende: Andrew Lincoln regresará como Rick Grimes, ¡pero a una trilogía de películas The Walking Dead!
Altonivel

Diltex: la mexicana que sobrevivió al TLCAN y ahora crece con IBM

Diltex, empresa propietaria de la firma Ilusión hoy enfrenta con IBM una nueva competencia en un terreno poco transitado en la industria de la moda: la tecnología.

More from Entrepreneur

In as little as seven months, the Entrepreneur Authors program will turn your ideas and expertise into a professionally presented book.
Apply Now

Whether you are launching or growing a business, we have all the business tools you need to take your business to the next level, in one place.
Enroll Now

One-on-one online sessions with our experts can help you start a business, grow your business, build your brand, fundraise and more.
Book Your Session

Latest on Entrepreneur

My Queue

There are no Videos in your queue.

Click on the Add to next to any video to save to your queue.

There are no Articles in your queue.

Click on the Add to next to any article to save to your queue.

There are no Podcasts in your queue.

Click on the Add to next to any podcast episode to save to your queue.

You're not following any authors.

Click the Follow button on any author page to keep up with the latest content from your favorite authors.