My Queue

There are no Videos in your queue.

Click on the Add to next to any video to save to your queue.

There are no Articles in your queue.

Click on the Add to next to any article to save to your queue.

There are no Podcasts in your queue.

Click on the Add to next to any podcast episode to save to your queue.

You're not following any authors.

Click the Follow button on any author page to keep up with the latest content from your favorite authors.

inteligencia artificial

Así es como debe ser la regulación del reconocimiento facial

Esta tecnología, en las manos incorrectas, puede ser muy peligrosa, por lo que no es casualidad que se hayan incrementado los llamados para regularla.
Así es como debe ser la regulación del reconocimiento facial
Crédito: Depositphotos.com
7 min read
This story originally appeared on Foro Económico Mundial

Por Javier Arreola-Rosales, Executive, Investment Banking, GF Inbursa

A pesar de que el Reconocimiento Facial (RF) se utiliza en centenares de aplicaciones, existen muy pocas reglas para gobernar su uso. Más importante: esta tecnología, en las manos incorrectas, puede ser muy peligrosa, por lo que no es casualidad que se hayan incrementado los llamados para regularla.

La Unión Americana de Libertades Civiles fue una de las primeras organizaciones que se pronunció por la regulación, después de anunciar que obtuvo documentos sobre el uso de Amazon Rekognition para equipar a fuerzas policiacas. La organización manifestó que este tipo de uso “plantea profundas preocupaciones sobre las libertades y derechos civiles[…] una vez que se construyan y desplieguen sistemas de vigilancia automáticos y potentes como estos, el daño será extremadamente difícil de deshacer.”

En diciembre pasado, un director de Microsoft instó a los legisladores estadounidenses a establecer reglas sobre el RF para evitar una carrera sobre una espiral hasta el fondo —observación que recalcó Satya Nadella en Davos—.

Las reacciones tampoco han sido las que Microsoft esperaba. Por un lado, otras empresas de tecnología los criticaron aduciendo que tenían miedo a la competencia. Para la compañía con sede en Washington, el potencial del abuso va más allá de la auto vigilancia y auto contención de los jugadores de la industria, y por ello se requieren reglas claras. A nivel estatal, un grupo bipartidista presentó una propuesta que exigía la certificación que los sistemas en uso son igualmente precisos para personas de diferentes razas, tonos de piel, etnias, género o edad.

¿Cómo es el marco regulatorio actual?

A nivel internacional, no existe una regulación unificada para el uso del RF. En EE.UU., las leyes a nivel estatal y federal dejan a discreción de las autoridades de seguridad que puedan establecer sus propias políticas. Lo más cercano es la Cuarta Enmienda constitucional, que protege a los ciudadanos contra el espionaje, aunque la mayor parte de interés policiaco es aplicarla a imágenes recopiladas legalmente en público.

A nivel federal, hay interés de organizar audiencias ante el Congreso para informar sobre el tema. A nivel estatal, Texas, Illinois y Washington tienen leyes de privacidad para la recolección de datos biométricos, por lo que las compañías requieren permiso para hacerse desde huellas digitales hasta RF.

A nivel municipal, las ciudades californianas de Berkeley, Davis, Oakland, Santa Clara y San Francisco han tomado acciones alrededor del RF, al que ven como tecnología de espionaje. Ahora exigen cierta transparencia y un proceso ordenado para utilizarla. Algunas propuestas más ambiciosas buscan reportes anuales y hasta la prohibición de la tecnología, ya que solo ven un uso coercitivo u opresivo.

Hacia una regulación del RF

La regulación del RF debe ser una prioridad para países latinoamericanos, que están inmersos en una profunda transformación tecnológica, con gobiernos más interesados en utilizarla. Por ejemplo, el gobierno de la Ciudad de México anunció que se utilizará la tecnología en las 22 estaciones del metro más críticascon el fin de “mejorar el servicio al usuario”.

Nos encontramos en un caso típico en el que la tecnología se mueve más rápido que los reguladores, pero hay derechos que deben ser protegidos. Compañías como Microsoft apoyan medidas así porque, al estar en innovación de vanguardia, han visto sus implicaciones.

Imagen: Blog Fintechgracion

Un marco básico para una regulación del RF debiera incluir los siguientes apartados.

1. Casos de uso prohibido o con alto nivel de regulación: Debe definir el concepto de aceptabilidad para uso de la tecnología. Se pueden definir casos estrictamente prohibidos y debe facilitar los cambios en el camino, ya que los abusos no ocurren desde el principio, sino a medida que la tecnología se acepta y se afianza.

2. Protección: Se refiere a reglas para defender derechos universales (no discriminación, por ejemplo), poblaciones vulnerables (menores de edad, entre otros), minorías (raciales, étnicas, entre otras) y áreas sensibles (hospitales, escuelas, baños, entre otros).

3. Transparencia: El RF puede ser legislado dentro del marco de recolección de datos biométricos, que generalmente requieren que las personas sean notificadas, y en algunos casos, den su consentimiento. Aquí hay que tener cuidado que la forma de aplicar esta regla sea práctica, ya que generalmente estas legislaciones derivan en papeleo y aumento de burocracia.

4. Rendición de cuentas y atención a sesgos: Se deben abrir protocolos para que terceros de confianza puedan realizar pruebas y comparaciones sobre los motores de RF, de forma que muestren precisión y no tengan sesgos injustos, incluidos los raciales.

5. Supervisión humana: Al menos para esta generación de RF, sería valioso exigir que los algoritmos tengan supervisión humana relevante mientras estén trabajando. Los revisores deberán estar capacitados para prever y responder a escenarios complejos de uso, y tomar decisiones relevantes.

6. Educación sobre RF: Como en muchos casos tecnológicos, las personas saben poco —y les interesan poco— las implicaciones del RF. Es por ello que, así como se está comenzando a capacitar desde la educación básica sobre el consumo de noticias en la época de las fake news y sus riesgos, se haga una concientización análoga para RF.

7. Uso en el sector público: La legislación debe marcar reglas claras a los gobiernos y los cuerpos de seguridad —con participación de especialistas y organizaciones civiles— sobre el uso responsable de esta tecnología, incluyendo protocolos de actuación. Más aún, deben legislarse inclusive casos excepcionales como seguridad nacional y emergencia, así como distinguir su uso en espacios públicos —no es lo mismo utilizarla en una calle cualquiera que en una manifestación o dentro de un estadio—. Igualmente, tiene que asegurarse que no se le dé un uso discriminatorio.

Como se ha visto aquí, el marco regulatorio del RF puede ser muy directo y su objetivo debe ser el de velar por el bien común y generar confianza. Inclusive, puede mejorar nuestra vida en caso de que nos permita contar con espacios públicos y privados más seguros. Pero para ello, tenemos que comenzar con su discusión.

Keep Reading

Mexico Desconocido

Coffee Fest México 2019: una fiesta de café te espera en el Zócalo de la CDMX

El aroma a café invadirá el Zócalo de la CDMX con el Coffee Fest 2019, una fiesta que honra al café. ¡No te la pierdas!
Nupcias Magazine

4 hoteles subacuáticos para tu luna de miel

Disfrutarán de los mejores días acompañados de la vida marina.
Cine Premiere

Toy Story 4 – Trailer Final

Disney comparte el trailer final de Toy Story 4, secuela que se estrenará el 21 de junio en varias partes del mundo.
Altonivel

¿Es posible un mundo más sustentable frente al consumo de energía?

Las temperaturas extremas contribuyeron el año pasado en aumentar la demanda mundial de energía. ¿Lograremos un mundo sustentable?

More from Entrepreneur

Kathleen, Founder and CEO of Grayce & Co, a media and marketing consultancy, can help you develop a brand strategy, build marketing campaigns and learn how to balance work and life.
Jumpstart Your Business. Entrepreneur Insider is your all-access pass to the skills, experts, and network you need to get your business off the ground—or take it to the next level.
Create your business plan in half the time with twice the impact using Entrepreneur's BIZ PLANNING PLUS powered by LivePlan. Try risk free for 60 days.

Latest on Entrepreneur