Sesgo algorítmico: Cuando la Inteligencia Artificial toma las decisiones por nosotros

//Sesgo algorítmico: Cuando la Inteligencia Artificial toma las decisiones por nosotros

Sesgo algorítmico: Cuando la Inteligencia Artificial toma las decisiones por nosotros

A medida que la Inteligencia Artificial avance y aumente el número de usuarios, los retos tecnológicos serán mayores y se enfrentarán a problemas más complejos.

La Inteligencia Artificial se está utilizando cada vez para más cosas, tanto en el ámbito público como en el privado. Entre otras cosas, se ha llegado a utilizar esta tecnología en los juicios para fijar penas de cárcel, algo muy complicado, ya que no proporciona información suficiente sobre cómo se ha llegado a tomar esta decisión. Aquí es donde entra en juego uno de los caminos clave a abordar: la interpretabilidad.

Existe un claro riesgo en la toma de decisiones de la Inteligencia Artificial influida por sesgos de género o raza, por ello, es necesario investigar sobre la manera que tienen los algoritmos de entender estos datos y la lógica con la que trabajan para llegar a una conclusión.

Kate Crawford, líder de Microsoft Research y fundadora de AI Now, explica que “los algoritmos son tan buenos como los datos con los que han sido entrenados, y los datos a menudo son imperfectos”.

Y es que el Machine Learning aprende de los datos anteriormente procesados por humanos, y estos son los que cuentan con los mencionados sesgos. Microsoft ya ha comenzado a desarrollar una herramienta que identifique de manera automática los sesgos en diferentes algoritmos.

Para que estos sesgos se eviten, el investigador senior de Microsoft Rich Caruna explicó que la clave está en que existan trabajadores externos que sean conscientes de las posibles vías con las que estos sesgos puedan surgir, las identifiquen y las eviten, para que los modelos que desarrollen sean más fáciles de entender y de detectar.

Al fin y al cabo, los algoritmos de Inteligencia Artificial están creados por humanos, y heredan los prejuicios que tengan los propios humanos.

Si quieres conocer las claves de la Inteligencia Artificial para los próximos años y profundizar en las Redes Neuronales, tendrás la oportunidad de escuchar a nuestro compañero Diego Calvo, Technical Lead de Machine Learning en Bravent el próximo martes, 11 de junio en DotNet Málaga.

¡Me apunto!
2019-05-31T10:57:48+00:0029 mayo, 2019|Categories: Servicios cognitivos|Tags: , , , , , |0 Comments