Objetividad o sesgo. Estos son dos temas importantes del infinito debate sobre la inteligencia artificial, su eficiencia, y su ética. Este debate que nunca se cerró, se retomó rápidamente en Twitter de la mano del usuario @fasterthantimeline que consiguió levantar las voces de muchos otros usuarios con una simple pregunta.
Al retomar un tema intenso de febrero pasado volvió a preguntar "una vez más" quién llamó machine learning a lo que él considera que debería llamarse "bias automation" o automatización del sesgo. Para eso, recordó un estudio que muestra que el uso de la inteligencia artificial en entrevistas de trabajo puede estar plagado de sesgos.
Muchas veces raciales. Otras de aspecto: el simple uso de unos anteojos cambian la opinión del software sobre la misma persona al sostener lo mismo que esa misma sin lentes.
Incluso, la decoración hace grandes cambios en las valoraciones finales. Una simple estantería situada detrás tuyo en una entrevista online puede hacer a un programa de inteligencia artificial considerarte mucho más abierto, consciente, amable y extrovertido que quien da la misma entrevista con una pared vacía detrás.
Esto sucedió con el software de una start-up con sede en Múnich que recibió mucho apoyo financiero de inversores porque su servicio consiguió atraer su atención, de acuerdo con el estudio. Este promete analizar el tono de voz, el lenguaje, los gestos y las expresiones faciales y crea un perfil de comportamiento de la personalidad.
Sin embargo, como se puede ver en el estilo la misma persona con accesorios extra como un pañuelo en la cabeza o unos anteojos condicionaban la evaluación final del sistema. Para ello, una mujer de nombre Stefanie hizo la misma entrevista con diferentes complementos.
El software usa el llamado modelo OCEAN que analiza los siguientes rasgos de personalidad que pueden evaluar a una persona:
Como se puede ver en la siguiente imagen, una persona que lleva anteojos es considerada como menos responsable (es decir, la tendencia de una persona a actuar de forma organizada o meticulosa) que quien no necesita lentes. También es apreciada como más introvertida.
Por su parte, si la misma Stefanie lleva un pañuelo en la cabeza, como se puede ver en las valoraciones siguientes aportadas por el software, es considerada más abierta, extrovertida y amable.
"No esperábamos ver estos resultados al cambiar simplemente de ropa", admitieron los encargados del informe. ¿Por qué los accesorios, como el pañuelo en la cabeza o las gafas, deberían importar a la hora de evaluar la personalidad?
También le pusieron a la actriz una peluca, la peinaron con flequillo sobre la frente, le cambiaron su blusa y su saco. Y las opiniones del software iban cambiando según lo hacían estos pequeños matices de la apariencia física de Stefanie.
Además, la actriz también repitió varias veces la prueba siempre con el mismo estilo y ahí los parámetros de su supuesta personalidad, según el sistema de inteligencia artificial, no cambiaron nada.
Fuente: Genbeta