Estudio revela que robots están aprendiendo a ser racistas y sexistas
El estudio dirigido por investigadores de la Universidad Johns Hopkins, el Instituto Tecnológico de Georgia y la Universidad de Washington, en Estados Unidos, muestra cómo robots se vuelven sexistas y racistas por culpa de una inteligencia artificial (IA) defectuosa.
Según los profesionales, un robot con sistema de inteligencia artificial prefiere sistemáticamente a los hombres sobre las mujeres, a los blancos sobre las personas de color, y saca conclusiones sobre la profesión o la designación de las personas basándose únicamente en una foto de su rostro.
«Corremos el riesgo de crear una generación de robots racistas y sexistas, pero la gente y las organizaciones han decidido que está bien crear estos productos sin abordar los problemas», explicó el equipo en un texto dirigido por el primer autor e investigador de robótica Andrew Hundt, del Instituto Tecnológico de Georgia.
A medida que las empresas se apresuran a comercializar la robótica, el equipo sospecha que los modelos podrían servir de base para los robots que se diseñen para su uso en hogares y lugares de trabajo, como los almacenes.
Si las mismas redes neuronales se utilizan en modelos de producción generalizada, esto podría traducirse en un sesgo racial y de género en el mundo real, con un impacto potencialmente peligroso tanto para los trabajadores como para los propietarios privados.
Fuente: DW
