No es algo inusual o no experimentado por los usuarios de diferente plataformas, que vivencian recomendaciones personalizadas de publicidades, o de contenidos específicos determinados por hábitos de uso.
Así lo vemos cuando realizamos una búsqueda en Google, posteamos contenido en Facebook, leemos los tuits recomendados, o, en el caso de YouTube, que videos seguramente preferimos ver.
Investigadores de Google publicaron recientemente un artículo académico ("Recommending what video to watch next: a multitask ranking system") en el que ofrecen algunos detalles relevantes sobre el funcionamiento del sistema de recomendación de vídeos de YouTube, uno de los más relevantes y avanzados de la industria, y que destaca por su efectividad a la hora de retener la atención del usuario.
Al tratarse de un plataforma en la que una gran cantidad de usuarios suben cientos de horas de vídeo cada segundo, el funcionamiento de su sistema de recomendación ha de ser forzosamente diferente de los de otras plataformas de streaming como Spotify o Netflix, que cuentan con un catálogo estable y centralizado: la evaluación de datos y la generación de recomendaciones en tiempo real cobra una importancia mucho mayor en el caso del portal de vídeos de Google.
La clave: dos redes neuronales profundas
Hasta 2016, YouTube recurría a algoritmos que sencillamente recomendaban vídeos en base a un conjunto de varios criterios: duración del vídeo, número de suscriptores, número de veces que había sido compartido, etc. Sin embargo, hace 3 años YouTube empezó a adoptar las redes neuronales.
Ahora, el sistema de recomendación de vídeos de YouTube funciona como un embudo estructurado en dos etapas, cada una de ellas responsabilidad de una red neuronal distinta:
1) Generación de ítems candidatos: En esta fase, las opciones se reducen de millones a miles. Recurre a datos extraídos del historial de los usuarios para ofrecer un listado de vídeos que tenga en cuenta el filtrado colaborativo (¿qué otros vídeos han atraído la atención del resto de personas que ven vídeos similares a los de este usuario?, por ejemplo).
2) Clasificación: En esta fase, las opciones se reducen de miles a decenas. Este proceso asigna una puntuación a cada vídeo, la cual determina la visibilidad que tendrá el mismo a la hora de mostrar las recomendaciones cuando estemos usando YouTube.
Aspectos como su similitud con contenidos que hayamos visualizado anteriormente aumentarán la probabilidad de que aparezcan entre los primeros puestos, mientras que se reducirán si el vídeo ya fue recomendado antes y el usuario 'pasó' del mismo.
Otro factor que influye es la 'edad' del vídeo: para evitar un sesgo en favor del contenido más antiguo (el que más visitas y 'likes' acumula, al fin y al cabo), el sistema de recomendación favorece la presencia de contenido novedoso entre las recomendaciones.
Engagement y sesgos
Sin embargo, aun conociendo todos los factores que tiene en cuenta YouTube a la hora de generar sus recomendaciones, resulta imposible predecir los mismos con exactitud, porque las redes neuronales profundas van aprendiendo sobre la marcha, alterando ligeramente sus resultados para cumplir con el objetivo básico con el que fueron creadas: en este caso, aumentar el 'engagement' (es decir, la retención del usuario frente a la pantalla).
De hecho, YouTube ha tenido que realizar cambios en su inteligencia artificial en los últimos tiempos, por el incentivo perverso que estaba demostrando ser esa búsqueda del engagement a toda costa. Hace unos meses abordamos cómo esta política había llevado a muchos usuarios a 'engancharse' a contenidos pseudocientíficos y conspiratorios.
Guillaume Chaslot, ex-trabajador de Google y asesor del Center for Humane Technology, cuenta la historia de un conocido, "Brian", que encontraba en esa situación:
"Para sus padres, familiares y amigos, su historia es desgarradora. Pero desde el punto de vista de la inteligencia artificial de YouTube, es un gran éxito. Diseñamos la inteligencia artificial de YouTube para que aumentara el tiempo que las personas pasan online, porque eso conlleva más anuncios. La inteligencia artificial considera a Brian como un modelo que debe multiplicarse".
"¿Cuántas personas como Brian son seducidas por esas 'madrigueras de conejo' todos los días? Por diseño, la inteligencia artificial intentará captar a la mayor cantidad posible. [...] Por lo tanto, si 'la tierra es plana' mantiene a los usuarios más tiempo on line que 'la tierra es redonda', esa teoría se verá favorecida por el algoritmo de recomendación", indicó Xataka.