No hace falta imaginar un futuro en el que una inteligencia artificial decida qué personas echar de un trabajo, vigilar y dirigir a los empleados o contratar a una persona sin intervención humana. Ya está pasando y su uso se está disparando sin ningún control legal.
La federación sindical británica —que agrupa a los diferentes sindicatos gremiales del Reino Unido— acaba de publicar un informe que ha hecho saltar las alarmas sobre el uso de la inteligencia artificial para decidir el destino de seres humanos. Un uso que se ha acelerado dramáticamente en la pandemia.
El informe realiza varias recomendaciones que tienen bastante lógica si queremos evitar llegar a la distopía por la vía exprés. Todas ellas pasan por la supervisión humana no solo en la creación de estas herramientas, sino en la revisión de sus decisiones. Sin embargo, esto no es tan fácil como puede parecer.
El caso de un hombre que fue despedido automáticamente por una máquina en 2018 da una idea de la potencial magnitud del problema. Un programa decidió despedir a Ibrahim Diallo —un ingeniero que solo llevaba ocho meses de un contrato de tres años en una empresa de desarrollo de software— cortando su acceso al rascacielos en el que trabajaba e iniciando un proceso totalmente automatizado que terminó con él escoltado fuera del edificio.
Como Diallo contó en su artículo "La máquina que me despidió", aunque nadie quería despedirlo, ningún humano pudo hacer nada por solucionarlo. Después de esperar unos días para ver si se solucionaba, Diallo decidió irse a otra compañía de software.
Desgraciadamente, no todo el mundo es un codiciado ingeniero de software trabajando en California. El caso de Diallo es una anécdota porque fue producto de un error, pero es indicativo de las consecuencias de la aplicación de algoritmos automatizados sin control humano, que es precisamente lo que están denunciando varias fundaciones, científicos y organizaciones como la federación sindical británica.
La situación es mucho más precaria para la inmensa mayoría de los empleados, desde oficinistas hasta mozos de almacén. La trituradora de seres humanos que es Amazon es un buen ejemplo de ello. Las siniestras condiciones laborales en los almacenes del gigante minorista han sido documentadas en repetidas ocasiones, así que no es necesario entrar en cómo los empleados se ven obligados a orinar en botellas para no perder segundos de su tiempo y terminar en la calle.
En 2019 varios documentos salieron a la luz demostrando cómo la compañía de Jeff Bezos había implementado sistemas de inteligencia artificial para optimizar sus almacenes y despedir a empleados. Es un ejemplo de una lista que ya es bastante larga. En 2020, un grupo de conductores holandeses denunciaron a Uber y Ola —una compañía india de transporte de pasajeros— por utilizar un algoritmo para echarlos a la calle o castigarlos con descuentos en las tarifas de sus carreras. Terminaron perdiendo parte del pleito, pero los jueces forzaron a Ola a revelar los parámetros que regulan su algoritmo de penalización.
Esto último es uno de los grandes problemas de utilizar la inteligencia artificial para gestionar trabajadores, ya sea para contratarlos, despedirlos o gestionar su trabajo: las máquinas son imparciales, pero la realidad es que los algoritmos de inteligencia artificial son discriminatorios por naturaleza.
Las discriminaciones surgen por sus métodos de aprendizaje. Un sistema de redes neuronales no sabe más de lo que se le enseña, alimentándose con decenas de miles de casos y midiendo cientos de variables.
Hay miles de estudios que demuestran que las AI fallan frecuentemente, desde algoritmos de visión que confunden rostros negros —que han hecho que personas acaben en la cárcel por equivocación— a otros que eliminan los curriculum vitae de mujeres de la lista de candidatos a un trabajo. Obviamente, los gabinetes de abogados laborales ya están afilando los cuchillos para enfrentarse a un escenario que —según los expertos— puede ser la norma de aquí a tres años.
Según la asociación sindical británica, si se quiere evitar llegar a la distopía laboral, los gobiernos deberán crear un marco legal que regule el uso de las inteligencias artificiales para este tipo de usos.
Ellos proponen que todas las herramientas de AI que se introduzcan deben ser antes consultadas y explicadas a los trabajadores, y que esto debe ser un deber legal. También proponen algo que parece lógico: el derecho del trabajador para solicitar que la decisión de un algoritmo sea revisada por humanos. También proponen enmiendas a las leyes laborales actuales en el Reino Unido que establezcan guardarraíles contra algoritmos discriminatorios.
Son recomendaciones lógicas, pero que pueden ser de difícil aplicación porque los algoritmos de aprendizaje de los sistemas de inteligencia artificial actuales resultan en verdaderas cajas opacas casi imposibles de descifrar. Lo que la revista científica MIT Review llama el corazón negro de la inteligencia artificial: los científicos son incapaces de comprender por qué los algoritmos funcionan.
Como apunta la consultora Korn Ferry: la inteligencia artificial no tiene por qué mostrar un motivo por el que hay que eliminar a alguien de su puesto de trabajo. Sencillamente lo hace, como una especie de dios omnipotente y omnisciente. "Si el algoritmo lo dice, tendrá razón", piensan los jefes. Hasta que el algoritmo los eche.
Fuente: El Confidencial