X convierte el enfado en engagement: así funciona su algoritmo de recomendación
Un estudio de investigadores de Stanford ha puesto el foco en una de las grandes paradojas de los algoritmos de recomendación de las redes sociales: cuanto mejor intentan predecir aquello que nos interesa, más pueden acabar alejándonos de nuestros propios valores.
La investigación, publicada en Proceedings of the National Academy of Sciences (PNAS), analiza el funcionamiento del feed “Para ti” de X y concluye que este sistema tiende a amplificar contenidos que generan reacciones, incluso cuando chocan con las preferencias y valores declarados por los usuarios.
El problema estaría en una métrica que se ha convertido en una de las principales brújulas de las plataformas: el engagement. Seguir una cuenta, detenerse a leer una publicación, compartirla o responder a ella son señales que los algoritmos utilizan para interpretar qué quiere ver una persona. Sin embargo, según los investigadores, existe una diferencia fundamental entre interactuar con algo porque nos gusta y hacerlo precisamente porque nos indigna.
“Están diciendo, en esencia, que engagement equivale a valores, pero no es tan sencillo”, explica Ziv Epstein, autor principal del estudio. Una publicación puede provocar una respuesta porque confirma nuestras ideas, pero también porque nos enfada, nos sorprende o nos parece especialmente ofensiva. Para el algoritmo, ambas interacciones pueden terminar significando prácticamente lo mismo: que ese contenido funciona.
Para comprobarlo, el equipo de Stanford seleccionó aleatoriamente a 715 usuarios de la plataforma antes conocida como Twitter y les pidió que completaran un cuestionario sobre sus valores personales. Los investigadores utilizaron para ello la escala de valores básicos de Schwartz, que contempla 19 dimensiones, desde la humildad hasta el hedonismo. Después compararon esos perfiles con el contenido que aparecía en dos espacios diferentes de X: el feed “Siguiendo”, formado principalmente por las cuentas que cada usuario ha decidido seguir, y “Para ti”, donde interviene la recomendación algorítmica.
La comparación reveló una diferencia significativa. Las publicaciones que no estaban alineadas con los valores declarados por los usuarios tenían más probabilidades de ser amplificadas en “Para ti” que aquellas que sí coincidían con sus preferencias. En otras palabras, el sistema puede terminar utilizando nuestras reacciones a contenidos que rechazamos como una señal para mostrarnos todavía más publicaciones similares.
Es un mecanismo que ayuda a entender por qué las redes sociales pueden convertirse fácilmente en escenarios de confrontación. Una persona puede detenerse a contestar a una publicación que considera absurda, compartirla para criticarla o entrar en una discusión con su autor. Todas esas acciones generan actividad y, desde el punto de vista de un sistema optimizado para maximizar la interacción, pueden ser interpretadas como señales positivas.
El resultado es una paradoja: aquello que consigue captar nuestra atención no necesariamente es aquello que queremos consumir. El contenido provocador puede ser más eficaz para mantenernos enganchados precisamente porque despierta emociones intensas, mientras que las publicaciones con las que estamos de acuerdo pueden generar una interacción mucho más discreta.
Los valores deberían primar
Michael Bernstein, profesor de Informática de Stanford y coautor del trabajo, considera que los sistemas de valores de los usuarios deberían tener un peso mucho mayor en los sistemas de recomendación.
“Los valores que tenemos, aquello que realmente nos importa, deberían ser tan informativos para las plataformas como el engagement”, señala. Según el investigador, las plataformas están interpretando como un deseo de recibir más contenido todo tipo de interacciones que en realidad pueden proceder del enfado o el desacuerdo.
El estudio no plantea que la solución pase simplemente por crear feeds en los que cada usuario vea exclusivamente aquello con lo que está de acuerdo. De hecho, los investigadores advierten de que ese enfoque podría generar nuevas cámaras de eco en las que desapareciera cualquier punto de vista diferente.
Su propuesta apunta hacia sistemas capaces de encontrar un equilibrio entre personalización y diversidad. Entre las posibilidades que plantean está utilizar los valores declarados por los usuarios para reorganizar las recomendaciones, pero también desarrollar algoritmos que prioricen contenidos capaces de conectar a personas con posiciones diferentes en lugar de potenciar el enfrentamiento.
El equipo de Stanford ha desarrollado incluso una extensión para Chrome que permite analizar y reordenar el contenido de los feeds en función de los valores que declara el propio usuario. No se presenta como una solución definitiva, sino como una demostración de que existen alternativas al modelo basado casi exclusivamente en la interacción.
La investigación pone así el foco en una cuestión que va mucho más allá de la herramienta propiedad de Elon Musk. El problema no es únicamente qué contenidos elegimos voluntariamente, sino qué ocurre cuando una plataforma aprende de nuestras reacciones y confunde atención con interés. Si la indignación, la provocación y la confrontación generan más respuestas que los contenidos que realmente valoramos, un algoritmo diseñado para maximizar el engagement tiene un incentivo para seguir mostrándonos aquello que más nos altera.
Como resume Bernstein, “nuestros feeds no deberían valorar el engagement basado en la confrontación por encima de los contenidos complementarios, ni deberían mostrarnos únicamente aquello con lo que estamos de acuerdo”. El reto, según los investigadores, consiste en diseñar sistemas de recomendación capaces de reducir las divisiones sociales en lugar de aprovecharlas para mantener nuestra atención.
Juanrrison Ford
Últimas entradas de Juanrrison Ford (ver todo)
Quizás también te interese
Valydo: “Predecimos el tamaño, coste e interés de mercado que genera un producto o servicio antes de desarrollarse»
X lanza X Chat, una app para competir con WhatsApp y Telegram
Instagram Threads, cerca de alcanzar a X en usuarios diarios
La polémica racista de Google Photos
Instagram alcanza los 700 millones de usuarios mensuales
