Varias compañías que ofrecen servicios tecnológicos en España han reconocido que sus algoritmos de Inteligencia Artificial (IA) han experimentado fallos de funcionamiento debido a los cambios bruscos en el comportamiento de las personas causados por la pandemia de coronavirus, al igual que han hecho antes los desarrolladores de IA en el resto del mundo, y que se aprecia en los errores del reconocimiento facial con mascarillas o en los sistemas de detección de fraude.
La pasada semana, una investigación del Instituto Tecnológico de Massachusetts (MIT, Estados Unidos) advirtió sobre este fenómeno. Según los proveedores tecnológicos internacionales, los fallos en la IA han afectado a sectores muy diferentes, desde las recomendaciones de las plataformas de 'streaming' hasta los sistemas de inventarios automatizados de las tiendas.
Ahora, compañías que ofrecen servicios IT en España como son Atos Iberia y Fujitsu han confirmado que estos problemas también se han registrado a nivel local. Su impacto se ha centrado en los mecanismos de reconocimiento facial cuando las personas llevan puestas mascarillas y de forma más general han afectado también a sectores como el comercio, los transportes y la logística.
"Todo algoritmo de IA basa su 'inteligencia' en los datos que fueron usados para su entrenamiento", ha asegurado Carlos Cordero, CTO de Fujitsu. En el caso de los mecanismos de reconocimiento facial, estos se han entrenado con imágenes de caras completas, por lo que el uso de mascarillas como protección frente a la Covid-19 implica problemas.
Para evitarlos, ya existen algunos sistemas de reconocimiento facial que funcionan con mascarilla, como los desarrollados por la compañía barcelonesa Herta y recientemente por el Grupo SPEC, entro otros, este último capaz también de medir la temperatura a distancia.
/https://assets.iproup.com/assets/public/images/lazyload.gif)
Reconocimiento facial, en la lupa
Con este mismo motivo, otros miembros de la industria a nivel internacional, como la 'startup' estadounidense Workaround y la Universidad de Wuhan (China), han comenzado a elaborar bases de datos con fotografías de rostros de personas con mascarillas recopiladas a través de Internet, en algunos casos procedentes de imágenes redes sociales como Instagram. En ambos casos estos datos se han publicado de forma abierta en la plataforma Github.
Los problemas han afectado también a los móviles iPhone y su desbloqueo facial Face ID, que no funciona con mascarilla. Por ello, la última versión de su sistema operativo móvil, iOS 13.5, ha comenzado a mostrar automáticamente la pantalla de contraseña.
Esta medida acelera el proceso de acceso para personas que lleven puestas mascarillas contra el coronavirus, ya que evita los segundos de espera mientras el sistema Face ID intenta, sin éxito, reconocer el rostro cubierto del usuario.
Problemas con la detección de fraude
Los errores en la IA debido al cambio de comportamiento en las personas han afectado también a otras aplicaciones distintas, ya que son "extrapolables prácticamente a todos los algoritmos de IA que han sido entrenados con información que ha cambiado de forma sustancial en unas pocas semanas", ha explicado el CTO de Fujitsu.
Entre los mecanismos de IA que han fallado durante esta crisis se encuentran los sistemas de detección automática de fraude como en el uso de tarjetas de crédito, cálculos de riesgo en el sector financiero, predicciones de la demanda y otros algoritos predictivos que "se han visto poco o nada efectivos debido al cambio repentino en el comportamiento de la sociedad confinada en sus casas", como ha admitido Fujitsu.
Cómo adaptar la tecnología
En esta situación, la industria se encuentra ante la dificultad de adaptar los sistemas de IA para que sigan funcionando a pesar del contexto excepcional de pandemia. "Se pueden adaptar los algoritmos reentrenándolos con datos actuales, representativos de la nueva situación", ha asegurado en declaraciones a Europa Press José Esteban, director de Innovación de Atos en Iberia.
Para este proceso, según Atos es necesario que los humanos supervisen los resultados obtenidos por los algoritmos automáticos, revisando sus decisiones y anulándolas cuando sea necesario.
No todos los mecanismos de IA, no obstante, han recibido el mismo impacto por la crisis. Aunque "no hay IA que prediga con fiabilidad" fenómenos como el coronavirus, "para que la IA no falle cuando el entorno cambia súbitamente, una posible solución son los sistemas que aprenden continuamente de los datos", ha asegurado Esteban.
En las soluciones que usan un aprendizaje continuo no supervisado, los sistemas pueden adaptarse por sí solos a un cambio brusco como el actual, con un uso masivo de la tecnología para el teletrabajo, consumo y el entretenimiento.
Sin embargo, también estos sistemas pueden tener problemas, ya que "no siempre pueden aprender con la rapidez suficiente", según ha apuntado Esteban.
Otro inconveniente derivado de los algoritmos no supervisados es que "si funcionan muy bien y aprenden continuamente de forma rápida pueden dar lugar a que los sistemas empiecen a tener comportamiento" y a que, por ejemplo, sus acciones dejen de ser predecibles, como ha concluido el directivo de Atos en Iberia.
