¿Inteligencia Artificial «racista»? Revelan problemas según el color de piel

La industria del automóvil va hacia la conducción 100% autónoma. Lo vemos en los CES, Salones del Automóvil y cada vez son más frecuentes las noticias sobre grandes desembolsos de dinero que apuntan a la investigación y desarrollo en este campo.

Son los famosos «sistemas de asistencia avanzada en conducción» (ADAS, en sus siglas en inglés), los cuales se valen de radares, láser y datos almacenados en software sumamente potentes para que, entre otros fines, eviten llevar por delante a peatones en caso de que el conductor no esté atento.

Sin dudas, ayudas que apuntan a mejorar la seguridad vial, sin embargo, un inquietante estudio de la Universidad de Tecnología de Georgia, en Estados Unidos, revela que las personas con tonos de piel más oscuros son reconocidas como tales y no como objetos hasta un 10% menos de las veces que las personas «blancas».

El problema indican desde la casa de estudios, radica en el almacenamiento de datos, en este caso en las fotos de personas para que el algoritmo las reconozca como tales. Al parecer se han proporcionado mayor cantidad de fotos de personas «blancas» que «de color».

En muchos casos el algoritmo está «seteado» para que, de tratarse de un objeto, evalúe llevarlo por delante para preservar la vida de quienes están a bordo; en tanto si es una persona, tratará de esquivarla para salvar las vidas de todos los involucrados.

Lo curioso es que en condiciones desfavorables para la «visión» de los sistemas (como ocurrió el año pasado con el Volvo autónomo de la foto propiedad de Uber que llevó por delante a una ciclista en plena noche), los márgenes de error entre ambos grupos de personas tiende a igualarse.

En cambio, cuando los factores externos son mejores, el margen de error empeora. Una clara muestra de que algo está mal.

Cabe destacar que aunque suena desagradable y hasta peligroso, la Inteligencia Artificial aprende mucho más rápido que un ser humano, pero siempre en base a lo que éste le proporcione. Es decir que si a la base de datos se cargan millones de fotos con mayoría de personas de color blanco, será lógico que al sistema le cueste más identificar a los que tienen otro tono de piel.

La solución no sólo pasará por ese lado. La implementación de sistemas de teledetección como el lídar, que usa la proyección de la luz para formar un mapa 3D de lo que lo rodea, son más precisos que el basado en cámaras. Sin embargo, éstos también son más costosos.

Entonces, el auto autónomo será más seguro que el ser humano siempre y cuando el bolsillo así lo posibilite, ya sea desde el lado de las automotrices para su avance, como el del consumidor para luego adquirirlo.