4 preguntas (y respuestas) sobre los algoritmos de recomendación
Detrás de cada sugerencia de contenido se esconde un sofisticado sistema que decide qué merece tu atención y qué permanecerá invisible.
Por - Ulises Hadjis
Este análisis revela los mecanismos opacos que moldean nuestro consumo digital y los riesgos que implica ceder nuestras decisiones a cajas negras corporativas optimizadas para el engagement, no para nuestro bienestar.
1. ¿Qué es un algoritmo de recomendación?
La manera más simple de verlo es como una instancia que nos ayuda elegir contenido frente a una oferta que supera nuestra posibilidad de consumo. Del mismo modo que en 1992 una videotienda tenía más cartuchos de VHS de los que podíamos ver en un fin de semana, y un empleado podía, basado en una breve conversación sobre mis gustos, recomendarme algunos títulos; ahora mismo esa función la cumple un programa informático.
A grandes rasgos lo que hace el algoritmo es colocar a cierto contenido por encima de otro de una manera explícita: el video, o la canción que aparece justo después de la que el usuario eligió, es más importante que la que aparece de segunda. A diferencia de las recomendaciones personales, dónde un empleado de la tienda de discos podía sugerirte 3 discos y que tu tomaras la decisión final, las sugerencias algorítmicas tienen una fuerte dinámica vertical: una cosa es mejor que otra siempre, sin medias tintas.
2. ¿Por qué necesitamos estos algoritmos de recomendación?
Quizás hasta antes del renacimiento, la oferta de información a un sujeto, y su capacidad de digerirla en un período de vida eran similares; pero ahora mismo es imposible para una persona leer todos libros, escuchar todos los discos y ver todas las series y películas a las que tiene acceso. Esta sobreoferta de información genera en el sujeto una neurosis particular denominada FOMO (Fear of missing out), el espectador tiene miedo de estarse perdiendo algo muy bueno que pudiera interesarle. Antes, colocábamos esa labor curadurial en lo que Latour llama Mediadores: críticos, premios, y especialmente intelectuales que validaban y digerían ciertos productos. Pero ahora mismo desde un discurso cientificista, el algortimo cumple esa función.
3. ¿Es fácil saber cómo funcionan esos algoritmos de recomendación?
No, son instancias privadas de cada plataforma de contenidos, al ser uno de sus diferenciadores para aventajar a sus competidores, las compañías guardan con mucho recelo el funcionamiento de sus algoritmos de recomendación. A pesar de dichas políticas de privacidad, diversos investigadores se han tomado a la tarea de ver cómo operan estos softwares algorítmicos de recomendación, pero nunca pueden tener certezas: primero por la opacidad de la programación, segundo, por los constantes cambios de programación que sufren los algoritmos y tercero por el constante saboteo que reciben dichos investigadores por parte de las plataformas.
4. ¿Qué peligros trae esta dinámica algorítmica?
Hay varios peligros en esta dependencia al algoritmo de recomendación. El primero es que le dejamos a una instancia controlada por una élite el que ver y el que no ver. Alguien pudiera alegar que siempre ha sido así, que grupos de poder siempre han controlado nuestro acceso a la información; y efectivamente así ha sido, pero al menos en ese entonces era medianamente claro: los periódicos y canales de televisión tenían dueños conocidos públicamente. Ahora mismo dicha mediación está vedada por una mampara cientificista: las plataformas nos dicen que ningún ser humano hace una curaduría, sino que nuestro propio consumo genera dichas recomendaciones automáticamente.
El algoritmo quiere que nos mantengamos la mayor cantidad de tiempo en la plataforma, y para lograr dicho objetivo, recurre a cualquier método. Tufecki insiste en que el algoritmo de YouTube busca crear a usuarios radicales, porque eso generará más tiempo de compromiso en la plataforma: si buscamos un video para hacer una lasagna vegetariana, 3 recomendaciones luego estamos viendo uno sobre como el veganismo es la única forma de salvar a la humanidad. Pareciera entonces que buena parte de las plataformas quieren que nos enganchemos en peleas en los comentarios de los contenidos para así conseguir más “engagement”.