Por Martín Ariel Gendler*

En los últimos años, se vienen observando cambios en el ecosistema de internet tanto respecto de los discursos como respecto de los modelos de negocios.

Tras la masificación de los mecanismos de personalización y perfilamiento algorítmico, se ha pasado de la celebración de las potencialidades democratizadoras al énfasis en su contracara en términos de manipulación y vigilancia. Pero es necesario abandonar las imágenes polares de los sueños y las pesadillas.

De sueños y entusiasmos digitales  

Desde finales del siglo xviii, toda nueva creación y/o innovación técnica ha sido recubierta de un entusiasmo asociado al progreso, capaz de producir mejoras para el conjunto de la humanidad. En este sentido, cabe destacar la invención de objetos técnicos como el telégrafo, el cine, el teléfono, la radio y la televisión, pero también el desarrollo de canales, vías ferroviarias, energía eléctrica o incluso represas, invenciones e innovaciones acompañadas de un entramado discursivo que proclamaba que, casi por su mera implementación, se generaría una «ampliación sin precedentes de horizontes de participación democrática, igualdad política y el aumento de la competencia cívica». La clave parecía estar en que cada nuevo objeto técnico proveía a sus usuarios de mayores recursos y oportunidades para acceder a información y generaba así nuevas oportunidades de acción, reflexión y desarrollo personal y colectivo.

Con la llegada de la informática, nuevamente se reactivaría el «ciclo». Las tecnologías digitales fueron presentadas como un mecanismo eficaz para la salida de las crisis económicas y sociales que tuvieron lugar en la década de 1970. Esto se plasmó tanto en los informes y proyectos de «informatización de la sociedad» como en las elaboraciones teórico-conceptuales que veían en las tecnologías y en el conocimiento no solo la clave para la salida de la crisis, sino también los parámetros ideales para reconfigurar las sociedades occidentales.

En la década de 1980, estos discursos sobre los supuestos efectos democratizadores y potenciadores se focalizaron en las computadoras personales y en la electrónica, y se trasladaron hacia internet con el inicio de su comercialización y masificación.

Durante estos años, el incremento exponencial de usuarios, junto con la creación de la web, los navegadores y un gran número de empresas vinculadas, generó el mayor pico de este andamiaje discursivo.

Se indicaba que las características técnicas de la arquitectura de la red de redes permitían el acceso y la interconexión masivos, descentralizados y transparentes, y estos generarían un incremento de la participación y el debate democrático, nuevos canales para establecer lazos y desarrollar la sociabilidad, una potenciación de las libertades y del ejercicio de los derechos humanos e individuales, y la ruptura de los monopolios informativos. A la vez que la producción colaborativa y los procesos de digitalización harían posible una expansión sin precedentes de la innovación y del crecimiento económico.

Tal fue la euforia del momento que discursos como el del entonces vicepresidente estadounidense Al Gore aseguraban que internet podría «recrear el ágora ateniense en nuestros tiempos». Se generó una atmósfera de gran expectativa financiera que llevó por las nubes las acciones de las primeras compañías, y se anunciaron dos cumbres mundiales sobre la sociedad de la información para congeniar un nuevo modelo global de sociedad informatizada.

Configuraciones y reconfiguraciones

Sin embargo, pronto se empezarían a entrever diversas limitaciones. Se evidenció que existía una gran proporción de población mundial que no disponía ni de los recursos ni de las habilidades para tener una experiencia integral en la red de redes, lo cual generaba una enorme masa de excluidos (desconectados).

Esta situación ha podido observarse durante la actual pandemia en América Latina que ha impedido, por falta de recursos, a muchas familias, cuyos hijos no podían asistir a clases y se les pedía conectarse por internet con sus profesores desde sus casas. Esta posibilidad se hizo imposible en muchos lugares, especialmente rurales, por dificultades de conectividad o no tener el dinero suficiente para adquirir un computador (N.de la Redacción).

Asimismo, el entusiasmo inicial de los inversores con las empresas de internet terminó generando una fenomenal crisis financiera, llamada «crisis de las punto com», al evidenciarse que, salvo excepciones, estas compañías generaban escasas o nulas ganancias. Estos obstáculos provocaron diversas mutaciones en el proceso, siempre conservando el norte respecto de que las tecnologías digitales generarían democracia, apertura y oportunidades, pero de forma más mesurada.

En primer lugar, se inició un proceso en el que los distintos Estados nacionales empezaron a desplegar variados planes de políticas públicas para incrementar la infraestructura de conectividad, reducir brechas de acceso e incentivar procesos de inclusión digital.

En segundo lugar, si bien la crisis había borrado del mapa a un enorme conjunto de empresas y sitios web, se siguió apostando a que internet era el futuro, lo que generó un proceso de reconversión de los principales modelos de negocio, que apuntaba principalmente a la interactividad y a la publicidad digital. Así, la década de 2000 estuvo caracterizada por el surgimiento de un gran número de sitios web y softwares enfocados mayormente en interconectar usuarios y fomentar sus intercambios y vínculos sociales, como así también por la creación y circulación de sus producciones de contenidos. Nos referimos principalmente a las llamadas «plataformas de redes sociales».

Estas plataformas, desde un temprano inicio, manifestaban que su principal objetivo era reunir a las personas y potenciar sus capacidades de expresión, acceso a la información y producción de contenidos digitales, y se declaraban «herederas» de los ideales de los padres fundadores de internet. Se señalaba que era en el «territorio» de estas plataformas donde las personas, además de comunicarse, podrían también empoderarse y desplegar prácticas que incrementaran su participación democrática. Pese a ello, fruto de los efectos y aprendizajes de la «crisis de las punto com», también estas plataformas irían incorporando paulatinamente distintas prácticas publicitarias para poder sustentar sus desarrollos.

Con este objetivo, se llevó a cabo un proceso de apropiación de las cookies, un software de identificación, recolección y aplicación de datos de actividad de los usuarios diseñado originalmente en 1994 para el comercio electrónico. De forma paulatina, un gran número de empresas de internet empezaron a incluir distintos volúmenes de estos softwares de registro de datos, con el argumento de que así disponían de recursos necesarios para poder ofrecer publicidad personalizada, que supuestamente era más eficaz al estar centrada en lo que «el usuario desea».

Asimismo, las mecánicas de uso e interacción en las plataformas, completamente orientadas a cuantificar la experiencia del usuario, junto con un proceso continuo de almacenamiento de datos directos –brindados por el mismo usuario en la creación de su cuenta/perfil– e indirectos –obtenidos de la huella de su actividad digital–, comenzaron a utilizarse no solo con fines publicitarios sino también para ir optimizando los propios mecanismos, secciones y posibilidades de las plataformas. Se generaba así un sistema en el que, a mayor cantidad de usuarios, y por tanto mayor volumen de datos disponibles, se producían mayores oportunidades de mejora, innovación y comercialización.

La consolidación y expansión del modelo

A finales de la década de 2000 e inicios de la de 2010, varios hechos contribuyeron a consolidar este modelo y a expandirlo al resto de la economía digital. En 2007, la creación del smartphone vendría a posibilitar el acceso y conexión a internet de un enorme número de individuos y colectivos previamente desconectados, a la vez que fomentaba una conexión espacio-temporal virtualmente ininterrumpida, volviendo a los sujetos más proclives a la conexión las 24 horas.

La innovación abrió asimismo la puerta a una enorme expansión de desarrollos y usos de aplicaciones específicas, en especial plataformas de redes sociales, que incrementaron exponencialmente sus usuarios en poco tiempo. Cabe destacar que el smartphone no solo ampliaba la cantidad de datos que era posible extraer debido al aumento del tiempo de conexión, sino que también incorporaba lógicas de geolocalización y de acceso a ciertos contenidos del dispositivo, como galería de imágenes y agenda de contactos, a los que antes era difícil acceder en un dispositivo fijo sin recurrir a programas informáticos tipo malware.

En segundo lugar, jugó también un papel la crisis económica global que estalló en 2008. Siguiendo a Nick Srnicek, este proceso generó una necesidad de readaptación de las economías capitalistas, así como una reorientación de las inversiones financieras, que luego de la «crisis de las punto com» habían pasado mayormente a ubicarse en el sector inmobiliario.

En tercer lugar, es necesario mencionar las revelaciones sobre espionaje estatal llevadas a cabo por WikiLeaks en 2011 y por Edward Snowden en 2013. Con ellas, se logró visualizar que, lejos de quedarse fuera del juego, algunos Estados estaban desplegando activamente estrategias de almacenamiento de datos, tanto de sus propios ciudadanos como de otros países. Cabe destacar que en este punto las plataformas de redes sociales y otras empresas de internet fueron percibidas mayormente como «víctimas obligadas a colaborar». El rol que estas habían tenido en los procesos de la Primavera Árabe, cuando se las consideró cuasi responsables de las manifestaciones en pos de mayores derechos y libertades, había consolidado el discurso respecto de su papel como símbolo de democratización y progreso, a punto tal que que numerosas regulaciones sobre internet, según se declaraba, eran establecidas para proteger «a los actuales y futuros Googles y Facebooks del mundo».

Datos, gubernamentalidad algorítmica y democracia

Con el correr de los años, los mecanismos de extracción de datos fueron perfeccionándose, a lo que contribuyeron distintos desarrollos algorítmicos junto con la inteligencia artificial, que no solo permitían identificar, recolectar y almacenar datos, sino también ponerlos en diálogo entre sí, de modo de producir una serie de perfiles generales que puedan sentirse como particulares al aplicarse a los distintos usuarios. Perfiles, cabe aclarar, en constante cambio, modulación y mejora, sobre la base de los continuos flujos de datos extraídos y puestos en relación a cada hora, minuto y segundo. Estos procesos no solo tenían lugar cada vez más en cada sitio web y plataforma, sino que poco a poco se fueron también instalando en los dispositivos móviles y generaron una lógica de acompañamiento algorítmico de la vida en todo momento y lugar.

Se abría así la puerta al despliegue de una forma diferencial de gestión y conducción de la población. Siguiendo a Michel Foucault (derecha), desde mediados del siglo xix los ejercicios de producción de cuerpos y subjetividades habían mutado hacia un sistema de administración de la vida de las poblaciones caracterizado por fomentar la circulación y ordenarla según curvas de normalidad obtenidas gracias a datos estadísticos elaborados por el Estado. Se apuntaba a un modo de operar sobre las acciones para orientar y producir distintas disposiciones y caminos posibles, sobre la base de estos estándares y parámetros estadísticos (gubernamentalidad). Sin embargo, como bien advertía Gilles Deleuze, esto también había empezado a ser modulado tras la aparición y masificación de las tecnologías digitales, que permitían desplegar sofisticados mecanismos de identificación, almacenamiento y procesamiento de datos que operan de forma constante, en tiempo real y al aire libre, aunque también en la comodidad del hogar9. Estos mecanismos llegaban al punto de generar que cada cifra, modulada en forma de perfil, pasara a obrar como una contraseña para favorecer, habilitar, dificultar o imposibilitar distintas posibilidades de acción, consumo y relación.

Estas modificaciones indicaban que los distintos ejercicios de gubernamentalidad también habían cambiado, y que se había constituido otro tipo de modalidad, una gubernamentalidad algorítmica o, en otras palabras, la posibilidad de operar sobre acciones de otros generando disposiciones basadas en la producción de datos materializados en perfiles elaborados por distintos algoritmos programados a tal efecto. Esto también permitió entrever que, en la gestión de las poblaciones, no solo el Estado tendría un papel estelar, sino también un enorme número de empresas privadas: aquellas en cuyas plataformas y sitios web los usuarios despliegan la mayor parte de sus interacciones y a las que destinan la mayor parte de su tiempo y atención.

Vale detenerse aquí para analizar los vínculos entre esta forma particular de administración de la población, basada en perfiles y personalización algorítmica, y el ejercicio democrático. Desde un inicio, se sostuvo que estas lógicas brindan a los usuarios soluciones tecnológicas que optimizan su vida y sus tiempos11. Se enunciaba la personalización algorítmica como un elemento sumamente positivo dado que, al estar basada en datos «que no pueden mentir», segmenta informaciones y orienta acciones, relaciones y prácticas en función de lo que cada usuario haya indicado efectivamente que «le interesa». Asimismo, la posibilidad de cuantificar las distintas instancias de la vida de cada individuo, en especial en áreas como deportes, salud, aprendizajes o consumos, permite a las empresas observar un estado de situación y progreso para tomar decisiones sobre la base de esos datos. En teoría, los individuos también pueden acceder a esa información, aunque muchas veces esto sea difícil o hasta imposible en la práctica, según los casos y las posibilidades del código técnico de las plataformas.

Todo esto, montado sobre una lógica neoliberal basada en el rendimiento continuo, pero también sobre una lógica cibernética que clamaba la necesidad de correlacionar datos para predecir, con el objetivo de prevenir y optimizar, era enunciado como una «práctica de empoderamiento». En otras palabras, al estar el individuo continuamente modulado por la aplicación de distintos perfiles metaestables que van orientando las informaciones, relaciones, personas, consumos, lugares e intereses a los que accede, se argumenta que esto le permite optimizar tiempos, esfuerzos y energías para configurarse a sí mismo una vida ordenada y eficiente. De esta manera, los mecanismos algorítmicos pasarían a predecir, sugerir y conducir lo considerado como «mejor y más apropiado» para la ciudadanía, quitándole a esta la «pesada carga» de tener que tomar decisiones en soledad, sin ninguna asistencia, en un mundo atiborrado de datos procesados supuestamente para brindar tales orientaciones.

En suma, se sostenía que los efectos de la aplicación de la lógica de perfilamiento contribuirían a incrementar el ejercicio democrático, con el argumento de que los datos, algoritmos y perfiles persiguen una lógica apolítica y anormativa, y son «ciegos» a diferencias sociales, políticas, religiosas, étnicas o de género. Por tanto, se consideraba que, dado que las orientaciones se producen solo sobre la base de correlaciones de datos, esto podría incrementar las oportunidades para múltiples grupos de la población, ya que se desvanecerían virtualmente los considerados «sesgos sociales» y el foco estaría en lo que el usuario «ha dicho y hecho».

Montados sobre estos argumentos, los mecanismos de perfilamiento y personalización algorítmica continuaron expandiéndose, a punto tal de ir consolidándose una lógica de silicolonización de la vida

 entendiéndose que cada nuevo desarrollo no solo era un símbolo y motor del progreso y la democracia, sino que también era una solución tecnológica para ir remediando todos los problemas de la vida.

Sin embargo, diversos hechos ocurridos durante 2016 y 2017, como el triunfo de Donald Trump en las elecciones estadounidenses, el Brexit, la victoria del «No» en el referéndum sobre los Acuerdos de Paz en Colombia y el ascenso al poder de Jair Bolsonaro en Brasil, empezaron a despertar alarmas en torno del funcionamiento de la personalización algorítmica imperante en internet. El «escándalo» de Cambridge Analytica en 2018, en el que se reveló que se habían puesto en juego estos mecanismos de personalización para influir en las opiniones de los usuarios, no solo despertó una catarata de críticas hacia las principales plataformas (Google, Amazon, Facebook, Apple y Microsoft, las gafam), sino que también incitó una fuerte desconfianza hacia el estado actual del ecosistema de internet.

Sin embargo la construcción del ejercicio democrático en internet es posible. Sserá necesario primero poner paños fríos sobre el andamiaje discursivo tecnofóbico post-Cambridge Analytica, y a la vez evitar un resurgimiento del andamiaje tecnofílico previo para poder, desde una visión crítica, operar colectivamente en función de la generación de cambios cuyos efectos puedan permitir remodular las lógicas presentes. Quizás la pandemia haya abierto una pequeña pero fructífera ventana por donde se pueda empezar a obrar en favor de ello.

Fuente: Nueva Sociedad