5 pasos para ayudar a las empresas tecnológicas a reducir el sesgo en la IA El marco de cinco pasos puede ayudar a los emprendedores tecnológicos a evitar que se desarrollen sesgos y a revertir los sesgos existentes en la tecnología.

Los niños se adaptan inevitablemente a la cultura en la que fueron criados. Los padres o tutores dan forma a la lente a través de la cual ven el mundo, en gran parte a través de los ejemplos que dan. Muchos padres experimentan horror humorístico cuando un niño capta una palabra inapropiada, probablemente de una conversación adulta escuchada por casualidad, y comienza a emplear esa expresión en su habla cotidiana. No importa si los padres, intencional o involuntariamente, están elaborando la lente para el niño; aún así, captarán los puntos de vista y los hábitos de los padres.

Estamos siendo testigos de esta misma progresión en el mundo de la tecnología. Los sistemas de inteligencia artificial adoptan la cosmovisión de sus creadores, al igual que los niños adoptan la cosmovisión de los adultos que los criaron. Esto es problemático porque la inteligencia artificial no puede desarrollar su propia cosmovisión, aprender de sus experiencias de vida o desafiar la cosmovisión de su creador como lo haría un niño a medida que crece.

Aquí hay cinco iniciativas que ayudarán a prevenir sesgos en la tecnología.

1.Hacer que la educación tecnológica sea accesible

Los sistemas de inteligencia artificial están sesgados y la tecnología suele seguir los puntos de vista de sus creadores. Si bien la sociedad ha cambiado considerablemente en el último medio siglo, las corporaciones todavía tienen sesgos subyacentes (se den cuenta de ellos o no). Es esencial que tomemos medidas activas para revertir nuestros sesgos, de modo que podamos evitar que se desarrollen más sesgos en la inteligencia artificial, y la mejor manera de hacerlo es hacer que la industria de la tecnología sea más accesible para una gama más amplia de personas.

Iniciativas como Girls Who Code, AI4ALL y otros programas educativos hacen posible que los niños desarrollen un interés en la tecnología. Para reducir los prejuicios y hacer que la industria de la tecnología sea más diversa, los líderes deben invertir en la educación de los jóvenes para que puedan desarrollar un interés en el campo y desarrollar las habilidades necesarias para seguir una carrera. Las empresas de tecnología deben invertir en una variedad de estudiantes desde el principio, sabiendo que las inversiones en educación producen resultados a largo plazo.

Relacionado: esta es la herramienta de inteligencia artificial más poderosa del mundo

2. Contratar y promover teniendo en cuenta la diversidad

A pesar de las numerosas llamadas de los principales líderes de la industria, el mundo de la tecnología aún carece de diversidad. La Harvard Business Review informó que empresas líderes como Google solo han avanzado lentamente hacia una mayor diversidad entre los miembros del personal. Incluso casi siete años después de que las empresas tecnológicas comenzaran a informar sobre los esfuerzos de diversidad, la mayoría de las organizaciones tecnológicas líderes están fallando, y las minorías solo representan porcentajes de un dígito de la fuerza laboral general.

No hace falta decirlo, pero las empresas deben contratar y promover activamente teniendo en cuenta la diversidad. Esta es la forma más efectiva de eliminar los sesgos en la inteligencia artificial, porque con una fuerza laboral más diversa, la IA se desarrollará teniendo en cuenta puntos de vista y experiencias multifacéticas. Y no podemos hacerlo simplemente en el nivel de entrada: la diversidad debe extenderse hasta la cima del liderazgo tecnológico para que aquellos que firman proyectos puedan ver puntos ciegos en los sistemas.

3. Evaluar conjuntos de datos

El sesgo ya está en sus conjuntos de datos y no debe ignorarlo. Para contrarrestar los sesgos, todo desarrollador de tecnología de inteligencia artificial debe dedicar tiempo a evaluar los conjuntos de datos con los que se creó el sistema. Esta evaluación debe tener lugar en todas las etapas del desarrollo, desde el diseño inicial hasta las pruebas finales.

La mejor manera de evaluar la IA en busca de sesgos es hacer preguntas específicas. La FTC proporciona pautas para determinar si la inteligencia artificial está en la trayectoria correcta y para aclarar qué está permitido (o prohibido) por ley. Los desarrolladores deben cuestionarse a sí mismos y a la tecnología que están creando. Es imperativo que los desarrolladores comprendan sus propios sesgos, especialmente los inconscientes, y puedan evaluar su trabajo por los mismos. Trabajar para eliminar los sesgos no es un proceso lineal, ya que requerirá varios pasos de ida y vuelta.

Relacionado: Lo que todo emprendedor debe saber sobre la inteligencia artificial

4. Reevaluar periódicamente los sistemas para detectar sesgos

Las evaluaciones rigurosas no pueden detenerse en conjuntos de datos. La tecnología está creciendo y cambiando a un ritmo tan rápido, y las estrategias, los sistemas e incluso los resultados deben reevaluarse en cada paso del camino. Para revertir los sesgos que ya existen en la inteligencia artificial y evitar que se desarrollen más sesgos, las empresas deben verificar su trabajo una y otra vez.

La inteligencia artificial puede aprender nuevos datos y, por lo tanto, desarrollar nuevos sesgos a medida que el sistema crece y cambia. Las empresas deben comprender el impacto que esto podría tener en sus sistemas y en las personas que los utilizan. El software de inteligencia artificial debe evaluarse periódicamente, especialmente desde la interfaz de cara al consumidor, de modo que se tengan en cuenta y se eliminen los sesgos.

5. Ajuste y repita el proceso

La tecnología nunca se ha desarrollado de forma lineal. Lo mismo se aplica a la inteligencia artificial: los datos, los procesos, los sistemas e incluso los propios bots deben ajustarse con el tiempo. La mejor vía a seguir es adoptar un enfoque preventivo. Eso significa que estos cinco pasos para reducir el sesgo en la IA deben ajustarse y repetirse varias veces en cualquier sistema dado.

La compasión humana es el núcleo de esta misión hacia la igualdad en la inteligencia artificial. Para crear tecnología que sirva a la humanidad en lugar de dañarla, debemos construirla pensando en las personas. Es un momento crucial en la tecnología, y es esencial que las empresas adopten un enfoque más humano de la inteligencia artificial al centrarse en crear sistemas libres de sesgos.

Relacionado: Tenga cuidado con estos 5 problemas de inteligencia artificial en recursos humanos