Acusan de racismo a empresa de inteligencia artificial por alterar el acento de los empleados de un call center mediante software

La compañía fue señalada por modificar el acento de personas para que sonaran más americanas, una empresa de IA fue acusada de racismo.

Por
Las opiniones expresadas por los colaboradores de Entrepreneur son personales.

La empresa de inteligencia artificial Sanas enfrenta acusaciones de racismo y discriminación por manipular los acentos de su plataforma para que suenen más "blancos" y estadounidenses. La startup india utiliza software de reconocimiento de voz para cambiar en tiempo real el acento de los usuarios, para que empleados de call centers extranjeros suenen más estadounidenses.

Canva
Acusan de racismo a empresa de inteligencia artificial por alterar el acento de los empleados de un call center mediante software

En declaraciones para Insider, el director y cofundador de Sanas, Sharath Keshava Narayana, dijo que la sustitución del acento indio por el estadounidense es solo el diseño inicial y que incluirá más: "No únicamente un estadounidense tiene problemas para entender a alguien de India, también viceversa. A medida en que continuamos escalando el producto y comenzamos a ver más acentos específicos, será una solución localizada", explicó.

En contraparte, expertos en la industria de la tecnología acusan a Sanas de 'blanqueo' digital.

"No se trata tanto de comprender como de la comodidad de grupos que no quieren empatizar o relacionarse con otras personas", sentenció Nakeema Stefflbauer, directora ejecutiva de FrauenLoop, un grupo de programación informática, liderado por mujeres.

En opinión de Stefflbauer, los acentos indican poder y pertenencia, por lo que la idea de Sanas de establecer un medio para comunicarse mejor con estadounidenses y europeos occidentales es una solución unilateral que, intencionalmente o no, refuerza jerarquías raciales.

Sanas ha recaudado $32 millones de dólares y dice que su intención es ayudar a las personas a sonar "más locales, más globales", pero no más "blancas y estadounidenses". Mia Shah-Dand, fundadora de Women in AI Ethics y Lighthouse3, dijo que el anuncio de Sana es "incendiario" y que la tecnología está tratando de borrar lo que hace que las personas sean únicas.

"Se siente como cualquier cosa en Silicon Valley, mientras esté legitimado por Stanford o el MIT, está bien", dijo Shah-Dand. "La gente aceptará el racismo y el sexismo, siempre y cuando quienes lo hagan pertenezcan a una de estas prestigiosas universidades. En lugar de que la tecnología haga del mundo un lugar mejor, está reforzando, ayudando o sacando provecho de todo ese odio y racismo".

Los fundadores de Sanas dijeron que la idea surgió después de que un amigo suyo de la Universidad de Stanford tuvo un desempeño inferior en un call center por su acento centroamericano. Por ello, agentes imitan los de los clientes y cambian sus nombres.

Según Osama Badr, agente de call center en Egipto, sus calificaciones mejoraron cuando cambió su nombre a Michael O'Connor: "Mis calificaciones de desempeño en las encuestas de los clientes aumentaron: todo verde, verde, verde", dijo.

Keshava Narayana dijo que tuvo experiencias similares y que se sometió a seis semanas de entrenamiento de acento en un call center y le pidieron que se presentara como Ethan.

Los trabajadores de call centers que enfrentan comentarios racistas en su trabajo creen que la solución de Sanas puede ser una bendición.