Forum. Revista Departamento de Ciencia Política

Capitalismo de datos

Hace más de cincuenta años advertía Herbert Marcuse (1970; 2009) sobre el componente ideológico y político sobre el que se sostenía aquella interpretación basada en la razón técnico-científica que parecía dominar sin contrapeso la cultura occidental en aquel entonces y que avanzado el tiempo adquiría alcance planetario. Múltiples fueron las voces que ponían la voz de alerta por el avance sin contrapeso de esta forma de pensar sustentada principalmente en el cálculo y la planificación como única forma de enfrentar los problemas humanos y sociales (Heidegger, 2002; Horkheimer, 1973). Primacía del cálculo racional que sería solo la expresión histórica del dominio de clase (Vattimo, 2020). El planteamiento de Marcuse tenía como foco principal la crítica al capitalismo y a la sociedad industrializada. Sin lugar a duda dicha crítica a la sociedad contemporánea obtiene plena vigencia en las primeras décadas del siglo XXI, pues si bien gracias a la globalización y al despliegue técnico científico el panorama mundial se ha modificado radicalmente por el desarrollo exponencial de las tecnologías de la información y la comunicación, la inteligencia artificial, las biotecnologías, la big data, etcétera; algunos de los problemas sociales y políticos parecen persistir o incluso agudizarse con la reaparición de grupos radicales de ultraderecha y el aumento de los caudillismos (Forti, 2022).

Estos desarrollos tecnológicos han sido la punta de lanza de un sin fin de utopías, discursos y planteamientos ideológicos que prometían y prometen todavía una serie de avances y progresos en todas las esferas de la existencia. Así, pues, la tecnología de última generación nos brindaría beneficios de todo orden, incluidos claro está la emergencia de nuevas formas de ciudadanía, comunicación, educación, acción política y participación; como si de un plumazo, gracias al desarrollo tecnológico, se pudieran borrar las desigualdades, autoritarismos, dictaduras y antagonismos de las sociedades contemporáneas. “Nos habían anunciado la accesibilidad de la información, la eliminación de los secretos y la disolución de las estructuras de poder” (Innerarity, 2020, p. 362). Es decir, gracias a internet y a las redes sociales, viviríamos en un nuevo espacio público sin mediaciones interesadas de políticos, empresarios o periodistas; una verdadera democracia en línea. Ahora bien, dado el poder incontrarrestable que ejerce la inteligencia artificial y los algoritmos en las redes sociales y en las aplicaciones de las más diversas índoles, se ha venido a discutir la influencia que estos tienen en la toma de decisiones de los usuarios y que ha puesto en tela de juicio una serie de promesas fundacionales o utopías surgidas en el seno de la era digital; especialmente en lo que tiene que ver con la idea de ciudadanía digital, la cual, supuestamente, “estimularía la transparencia gubernamental y empresarial. Circularía más información y, en consecuencia, se enriquecería el debate público sobre asuntos de interés general, lo cual derivaría en una democracia más sana, participativa y transparente” (García-Ramírez y Valle-Jiménez, 2020, p. 20).

Ahora bien, las primeras décadas del siglo XXI parecen marcadas por una suerte de transformación del capitalismo decimonónico que ha mutado hacia una forma de capitalismo que se adapta y muta a merced de las transformaciones tecnológicas. Esta forma de capitalismo del siglo XXI recibe distintas denominaciones tales como capitalismo de vigilancia (Zuboff, 2020), capitalismo cognitivo (Lassalle, 2019), capitalismo de plataformas (Srnicek, 2018), tecno ideología (Sadin, 2020) o capitalismo de la información (Han, 2022). Denominaciones que intentan dar cuenta de esta nueva forma del sistema capitalista en la cual la importancia y valor de los medios de producción, como motor del crecimiento económico, deja su lugar a un sistema social, político y económico mediado por las tecnologías que:

Reclama unilateralmente para sí la experiencia humana, entendiéndola como una materia prima gratuita que puede traducir en datos de comportamiento[…] la dinámica competitiva de estos nuevos mercados impulsa a los capitalistas de la vigilancia a adquirir fuentes de excedente conductual cada vez más predictivas: desde nuestras voces hasta nuestras personalidades y nuestras emociones incluso. Con el tiempo, los capitalistas de la vigilancia descubrieron que los datos conductuales más predictivos se obtienen interviniendo en la marcha misma de las cosas para empujar a, persuadir de, afinar y estimular ciertos comportamientos a fin de dirigirlos hacia unos resultados rentables. (Zuboff, 2020, pp. 17-18)

Como podemos ver, el motor de esta fase del capitalismo sería la experiencia humana transformada en datos de comportamiento que a través de las huellas que vamos dejando en internet con cada búsqueda, interacción, click o like se transforma en la gran mina de oro del presente siglo, lo que incluso ha llevado a algunos a decir que los datos son el nuevo petróleo (Humby, 2017). Todo lo cual es capitalizado por las Big Tech a través de la inteligencia artificial, los algoritmos y la big data, pues estos monopolios a través del registro y vigilancia de nuestras búsquedas, interacciones y conductas alimentan una gigantesca base de datos de los usuarios, logrando adquirir un alto grado de conocimiento de cada uno, perfilando y estableciendo patrones de personalidad de millones de internautas. Gracias a este conocimiento, adquirido por medio de la vigilancia masiva a la que somos sometidos y al desarrollo de los algoritmos de inteligencia artificial, pueden perfilar, predecir y persuadirnos de forma subrepticia, a través de las recomendaciones, a comprar el producto que estábamos buscando, pasando por una película o una canción, hasta votar por un candidato que no sabíamos era el nuestro; o también a creer la última fake news o teoría conspiratoria. Es decir, la influencia de estas plataformas va desde recomendar, sugerir o hasta dirigir nuestras decisiones; por no decir, determinar lo que vamos a elegir.

Es menester aclarar que el fenómeno de la vigilancia no es algo completamente nuevo para la sociedad occidental, pues tal como había adelantado Michel Foucault (2003) la vigilancia ha sido un mecanismo de control y ordenamiento social en la sociedad moderna; realidad que el filósofo francés, retomando el modelo carcelario de Bentham, denominó panóptico. Cuestión que más adelante reformulará Bauman y Lyon (2013) al hablar del pospanóptico, entendido como la estructura de vigilancia propia de la era digital. Más allá del costo humano y social para las libertades civiles que tiene la invasión de la privacidad y la intimidad provocada por esta vigilancia a la que somos sometidos las veinticuatro horas del día cuando utilizamos nuestros dispositivos digitales; la pérdida más significativa o el eslabón más peligroso de esta cadena estaría por el lado de la clasificación social resultante de esta vigilancia.

Por mucho tiempo las discusiones respecto a este asunto se enfocaban en advertir del peligro para las libertades de esta invasión de la privacidad y la intimidad, sin embargo, ahora el centro de la discusión está en lo que hacen los monopolios tecnológicos con esa información y datos; cuestión que afectaría directamente la capacidad decisoria de los usuarios y la capacidad de ampliar sus horizontes cognitivos según la clasificación de los algoritmos. Esto tendría consecuencias directas en nuestra manera de informarnos, interpretar la realidad y darle sentido, lo que termina por repercutir en el rumbo de la política y la decisión informada de los llamados ciudadanos digitales. En este sentido,

La amenaza que las grandes tecnologías supone para la democracia es multifacética. En primer lugar, las principales plataformas de medios sociales —Twitter, Facebook, Google y otras— recetarían, promoverían y restringirían la información recibida por los ciudadanos de las sociedades democráticas e incluso sus opiniones. Este poder sobre la palabra y la expresión, y por tanto sobre nuestra política y nuestro sistema de gobierno no tiene parangón en la historia. (Baer y Chin, 2021)

Este escenario ha llevado al planteamiento de una disminución o empeoramiento de las democracias y del acceso a la información de carácter pluralista en la era digital, lo que por ende afectaría nuestra capacidad de elegir libre e informadamente (Saran y Mattoo, 2022).

Segmentación algorítmica

Un ejemplo paradigmático de este fenómeno se presenta en el devenir político de Estados Unidos en los últimos años, donde la campaña de Donald Trump de 2016 mostró de qué manera se podía influir en las decisiones de la ciudadanía gracias a la utilización de los datos extraídos de los usuarios, pues los algoritmos de la inteligencia artificial permitieron perfilar y explotar las debilidades y miedos de cientos de miles de usuarios de Facebook para brindar mensajes acordes con esas debilidades y miedos. Es decir, en virtud de la clasificación y segmentación de los usuarios, fue posible brindar una propaganda política acorde a sus perfiles psicológicos (Galdon-Clavell, 2019; O’Neil, 2018). Sin embargo, esta es solo la punta del iceberg, pues al finalizar su periodo presidencial en 2021 el entonces presidente de los Estados Unidos mostró el poder destructivo y dañino de la utilización maliciosa de las redes sociales, cuando sin prueba alguna acusó de fraude electoral a sus adversarios y a través de estas redes incitó a sus partidarios a atacar el capitolio en un evidente intento de golpe de estado. Asalto que mostró la capacidad de cohesión y acción de estos grupos de autoafirmación que inundan las redes sociales con contenidos extremistas, teorías conspirativas y bulos (Colomina, 2021).

Estos acontecimientos nos permiten recoger dos perspectivas a tener en cuenta cuando se habla de los peligros o problemas que plantea el uso sin control de la Inteligencia Artificial (IA), algoritmos y big data en las redes sociales. Si bien todos estamos acostumbrados a recibir cierta publicidad o recomendaciones acorde a nuestros intereses gracias a las búsquedas y a la trazabilidad a la que nos sometemos en la red; otra cosa muy distinta es que dichas sugerencias nos lleven a comprar, creer o votar en virtud de cierta modificación conductual guiada por los algoritmos de la IA. Cuestión que se puede llevar a cabo a través de la segmentación o microtargeting, pues si bien:

Facebook parece una moderna plaza de pueblo, la empresa decide, conforme a sus propios intereses, qué vemos y que descubrimos en su red social, todo esto gracias a que en cuestión de horas[…] Facebook podía recopilar información sobre decenas de millones de personas y calcular el impacto de sus palabras y los enlaces que compartían tenían los unos sobre los otros. Y además, podía usar ese conocimiento para influir en las acciones de las personas. (O´Neil, 2018, p. 145)

El objetivo de la segmentación en un primer momento era puramente comercial, es decir, gracias al registro, recopilación y extracción de miles de millones de datos de comportamiento de los usuarios de las plataformas de internet y redes sociales, los algoritmos de inteligencia artificial, se podían establecer patrones, predicciones y perfiles psicológicos de los usuarios, con un nivel de conocimiento nunca visto en la historia.

Todo esto permitía recomendar determinados productos a los usuarios, incluso antes que ellos mismo supieran lo que querían; esta sería solo la punta del iceberg y el efecto menos peligroso de esta segmentación. Pues bien, la cada vez más frecuente microsegmentación “proporciona cobertura a los políticos, alentándolos a ser muchas cosas para muchas personas […]desde la publicidad depredadora hasta los modelos de vigilancia, castigan sobre todo a las clases más desfavorecidas, la microsegmentación política afecta a los votantes de cualquier clase económica” (O´Neil, 2018, p. 156).

Como podemos ver, el problema fundamental es que estas estrategias de marketing han pasado rápidamente a invadir prácticamente todo espacio abierto en las redes sociales y aplicaciones de diversa índole, lo que tiene amplias repercusiones en nuestra forma de adquirir información, en la discusión política y por ende en nuestra forma de interpretar al mundo. Como dice Galdon-Clavell (2019):

De ahí que, en el uso de datos, el paso de un contexto de consumo a un contexto político implique un salto cualitativo de profundas consecuencias[…] Si los entornos virtuales que nos rodean nos clasifican de una forma que escapa a nuestro control, y esa clasificación determina aquello (bienes de consumo, ideas, conversaciones) a lo que tenemos acceso, ¿dónde quedan la libertad y el libre albedrío? ¿Cuán difícil puede resultar escapar del escaparate personalizado perpetuo que acompaña todas las acciones que realizamos en Internet?

Ciertamente, esta segmentación entrega a los partidos o políticos poderosas herramientas para enviar a los electores un mensaje o publicidad de acuerdo con los intereses concretos de los votantes, con un mensaje adecuado según dicha segmentación. Esta fue la estrategia utilizada por Donald Trump en su campaña, gracias a la cual logró un triunfo contra todo pronóstico, donde gracias a los perfiles psicológicos de los electores se les enviaba determinado mensaje dependiendo de dichos datos ¹ . Como señala O’ Neil (2018), “usaron esta información para llevar a cabo análisis psicográficos […]clasificándolos dentro de la escala del ‘modelo de los cinco grandes factores de la personalidad’: apertura a nuevas ideas, responsabilidad, extrovertidos, amabilidad e inestabilidad emocional” (p. 153).

Asimismo, el asalto al Capitolio que tuvo lugar en 2021 nos permite visualizar otra arista de la segmentación o personalización propia de los filtros de información o también llamadas cámaras de resonancia que actúan según la programación de los algoritmos de la inteligencia artificial; y siguiendo la segmentación o perfil de cada usuario envían cierta información, contenido que se ajusta a cada perfil ideológico. Fomentando de manera automatizada un sesgo de confirmación (McIntyre, 2018) y el compromiso de los usuarios, limitando así las posibilidades cognitivas de los usuarios previamente perfilados. Estas cámaras de resonancia, definidos por Eli Pariser (2017) como filtro burbuja, intentan por todos los medios de mantenernos cómodos y confortables para que pasemos la mayor cantidad del tiempo entregándoles nuestra atención que supone jugosas ganancias con los datos obtenidos.

El problema con todo esto es que gracias a la segmentación, fruto de la mediación algorítmica, se limita todavía más nuestro acceso a la información y a visiones de la realidad distintas a la nuestra, pues “los filtros personalizados presentan cierta clase de autopropaganda invisible, adoctrinándonos con nuestras propias ideas, amplificando nuestro deseo por cosas que nos son familiares y manteniéndonos ignorantes con respecto a los peligros que acechan en el territorio oscuro de lo desconocido” (Pariser, 2017, p. 24). Y más problemático aún es que muchas veces ni siquiera somos conscientes de dicha influencia algorítmica y las limitaciones que conlleva, creyendo que lo que vemos es la única verdad; y casualmente cuadra perfectamente con nuestros pensamientos e ideología; razón por la cual tendemos sin mayor reflexión a creer a buenas y a primeras lo que nos aparece en nuestras redes. Este modelo de negocios, aplicado a nuestra forma de ver la realidad tiene amplias repercusiones que influyen en nuestra manera de interpretar el mundo, pues si tenemos una visión sesgada del mundo y de la información, que se va retroalimentando constantemente, difícilmente podemos situarnos en otra perspectiva distinta a la que vemos una y otra vez repetida en nuestra pantalla.

Como denuncia Imran Ahmed (2021), director ejecutivo del Centro para Contrarrestar el Odio Digital (CCDH), Instagram en plena pandemia ponía a disposición de los usuarios una nueva función que los instaba a ver teorías conspiratorias y mentiras relacionadas con el COVID-19 y las vacunas con la sola finalidad de mantener a la gente utilizando la aplicación y poder mostrarles mayor cantidad de anuncios. Pues, “los algoritmos que recomiendan contenidos son obra de un editor (programador) que elige lo que ven los lectores, no una plataforma neutral. Esto tiene serias implicaciones legales y regulatorias para las compañías de medios sociales y evidencia su responsabilidad ante el daño a los individuos y a la sociedad” (Ahmed, 2021).

Ahora bien, estos procedimientos no serían tan problemáticos si esa personalización solo tuviera que ver con la publicidad dirigida, sin embargo, la fuente de noticias personalizadas de Facebook y de otras redes sociales se han convertido en fuente de noticias fundamentales. Es más, Facebook y Twitter se han convertido en la mayor fuente de noticias y medios de información del planeta. En este sentido, si asumimos que “la estructura de nuestros medios de comunicación afecta el carácter de nuestra sociedad” (Pariser, 2017, p. 18), podemos concluir que algunos de los problemas mencionados tienen relación directa con la segmentación. Incluso, como sostiene Byung Chul Han, nos encontraríamos frente a una nueva forma de dominio, un:

Régimen de la información […]en la que la información y su procesamiento mediante algoritmos e inteligencia artificial determinan de modo decisivo los procesos sociales, económicos y políticos. A diferencia del régimen de la disciplina, no se explotan cuerpos y energías, sino información y datos. El factor decisivo para obtener el poder no es ahora la posesión de los medios de producción, sino el acceso a la información, que se utiliza para la vigilancia psicopolítica y el control y pronóstico del comportamiento. (2022, p. 6)

Ciertamente, las redes sociales e internet han abierto un conjunto de posibilidades para las luchas sociales y la democratización de la información. Sin embargo, sus efectos nefastos han adquirido notoriedad cuando se habla de desinformación, teorías conspiratorias, posverdad, fake news, cultura de la cancelación y un largo etcétera. Todo esto ha llevado a poner en tela de juicio el carácter emancipatorio de las tecnologías, pues hemos pasado en el presente siglo de la utopía a la distopía, de la euforia a la preocupación, de las esperanzas de emancipación al temor relacionada con el control y la falta de libertad.

Fake news y posverdad en la era de la personalización

Las fake news, por una parte, se han definido como aquellas noticias falsas que circulan en los medios de comunicación, las cuales se pueden difundir rápidamente a través de las redes sociales y servicios de mensajería. Esta desinformación tiene como objetivos principales, por una parte, influir en la opinión pública, alterar la realidad y beneficiar o perjudicar un ideal, interés o pensamiento. También la difusión y creación de este tipo de desinformación tiene objetivos meramente comerciales, pues generan grandes ganancias a sus creadores gracias a la viralización y circulación de este tipo de desinformación (Kuisz y Wigura, 2021). En términos generales se podría afirmar que las noticias falsas no se crean solamente como una diversión o juego, sino que para obtener determinados dividendos que pueden ser económicos (Kuisz y Wigura, 2021), políticos o ideológicos. Por ende, no hablamos exclusivamente de informaciones tendenciosas o manipuladas sino lisa y llanamente de mentiras (Amorós, 2018).

Por otra parte, como comenta Fernando Buen-Abad (2017) al referirse a la posverdad: “sus definiciones la pintan como una forma emotiva de la mentira para manipular la opinión pública[…] para subordinar los hechos a las habilidades emocionales del manipulador. Es la mentira que prescinde de los hechos[…]. La realidad se convierte en un estorbo o en una anécdota decorativa —o prescindible— del enunciado”. Es decir, la posverdad se comprende como una distorsión de la realidad empleada para hacer creer a alguien algo determinado, apelando principalmente a las emociones, sentimientos, o incluso las creencias personales del usuario; es decir, los hechos pasan a un segundo plano o son derechamente ignorados. En este contexto, como aclara D’Ancona: “la web es el vector definitivo de la Posverdad precisamente porque es indiferente a la falsedad, la honestidad y la diferencia entre ambas (2017, p. 37).

En las distintas plataformas de redes sociales abunda la desinformación y las teorías conspirativas por eso el fenómeno de la posverdad y las fake news se encuentran muchas veces en el centro de las discusiones y debates sobre la labor de los periodistas y la importancia de realizar un trabajo riguroso en un mundo globalizado, donde la velocidad e inmediatez se transforman en valores absolutos. La forma en la que los medios de comunicación actúan frente al manejo, distribución y abundancia de información, determina en cierta medida la calidad con la que llegan las noticias a los usuarios. Comenta Ramonet:

Esto se complejiza en un entorno donde la “conspiranoia” y el fanatismo forma parte de un sistema atacado, además, por la incertidumbre de la Covid-19, lo que domina a las redes es el pensamiento mágico. La verdad es cada vez más emocional y no real. Las redes están hechas para emitir y no para recibir. Existe una repolitización salvaje en un sentido antropológico. (2021)

La posverdad tiene lugar cuando alguien intenta moldear la opinión e interpretación de las masas a través de narrativas construidas desde engaños (McIntyre, 2018). Debido a esto la veracidad de un hecho se alimenta de la emoción o sentimientos que estos causan en las personas. “Así, la posverdad equivale a una forma de supremacía ideológica, a través de la cual sus practicantes tratan de obligar a alguien a que crea en algo, tanto si hay evidencia a favor como si no. Y esta es la receta para la dominación política” (McIntyre, 2018, p. 41). En este contexto, es que ciertos dirigentes políticos definen qué es verdad y qué no; cuáles sucesos son importantes y deben ser tomados en cuenta, haciendo creer a sus simpatizantes hechos que justifican o apoyan su ideología.

Profundizando en esto, McIntyre (2018) aclara que una cosa es proferir una falsedad o cometer un error de juicio, de lo cual nadie estaría exento; y otra cosa muy distinta es cuando “nuestra intención es manipular a alguien para que crea algo que sabemos que no es verdad, hemos pasado de la mera ‘interpretación’ de los hechos a su falsificación” (p. 37). Es decir, la posverdad puede pasar de una interpretación de hechos a una falsificación de la realidad.

Ahora bien, cabe preguntarse de qué forma se relacionan los algoritmos, la segmentación y la posverdad y las fake news. Muchas veces se tiende a confundir el fenómeno de la posverdad y las noticias fake, creyendo que son lo mismo y no se establecen diferencias entre ellas. Sin embargo, si bien son fenómenos que están estrechamente relacionados, las noticias falsas son el sustento o alimento del que se nutre la posverdad. Vale preguntarse, como hace Amorós (2018), por el rol de las fake news en la posverdad; la información falsa es el tren de alta velocidad que nos lleva rápidamente y sin atajos a la posverdad. La posverdad, en tanto dominada por las emociones, creencias e ideologías personales por encima de los hechos, adquiere su fisonomía y se constituye como tal gracias a las informaciones falsas, esto es, con narrativas que nos hagan creer que la realidad o el mundo es tal cual como queremos que sea, como un reflejo de nuestros propios gustos o ideologías. En términos similares expresa McIntyre: “las noticias falsas son un intento deliberado de hacer que la gente reaccione a la propia desinformación, tanto si es con el objetivo del beneficio como del poder. Pero, en cualquier caso, las consecuencias pueden ser nefastas” (2018, p. 124) como, por ejemplo, en el caso del asalto al capitolio o el intento de golpe de Estado en Brasil.

En relación con esto Sadin (2022) afirma que en la era de la posverdad los ciudadanos no desean escuchar ningún relato que ponga en riesgo sus ideas, los usuarios de las redes sociales tienen una tendencia a seguir cuentas que refuerzan sus opiniones (p. 131). En otras palabras, una de las consecuencias más visibles del diseño de las redes digitales está relacionado con la segmentación y que actúan como cámaras de resonancia que filtran contenidos e invisibilizan perspectivas distintas; generando en el usuario una apariencia de verdad y reafirmación de las propias ideologías, donde no tienen cabida posiciones distintas o antagónicas; se privilegia así una visión única y absoluta de la realidad. De acuerdo con Jandrić, la posverdad es “un concepto social de gran alcance, que amenaza los conceptos tradicionales de conocimiento, toma de decisiones y política, es una compleja mezcla de datos, información, conocimiento y sabiduría; verdad y engaño; hecho y emoción; razón e instinto, que ha establecido relaciones cada vez más complejas en la era digital” (2018, p. 47).

Remedios Zafra resume las consecuencias de la segmentación:

En las redes la cantidad de información y voces esta filtrada por nuestro perfil y por la máquina, y el filtro dificulta (o incluso anula el escrutinio). No es extraño entonces que la información se haga propaganda. No ya por no detenernos a contrastar datos, sino porque ante el exceso solo vemos lo más accesible, los generados por las voces con más influencia online, o por las redes que habitamos, casi siempre formadas por personas que piensan de manera muy similar. (2017, p. 185)

De acuerdo con esto es más fácil apelar a las emociones de los internautas, teniendo en cuenta sus perfiles para enviar determinada información y no otra, lo que permite difundir en mayor cantidad y precisión tanto fake news como posverdad. Esto nos habla del tipo de participación y cultura política en la que estamos inmersos, pues “seguramente esta falta de aprecio por los hechos es uno de los factores que explica la polarización de la vida política. El combate político se desarrolla sin que la realidad esté de por medio y gira en torno a ficciones útiles” (Innerarity, 2018, p. 26).

En definitiva, “la tecnología digital ha sido la principal infraestructura de la posverdad. Pero sería ridículo, y profundamente antidemocrático recomendar el retroceso de esta revolución. La cuestión es qué hacer mejor dentro de sus fronteras, que cambian rápidamente” (D’Ancona, 2017, p. 70). En otras palabras, lo importante es de qué manera enfrentamos estos fenómenos dentro del contexto y los escenarios planteados por la revolución tecnológica, sin desvalorizar los aportes que han hecho a la democratización de la información y la comunicación.

Polarización social y participación política

Resulta oportuno resaltar que estos fenómenos tales como la segmentación algorítmica y la personalización de la información influyen claramente en la proliferación de fake news, posverdad, desinformación, teorías conspiratorias; además de estimular, con sus modelos comerciales, la polarización política y social que se ha agudizado en el último tiempo. Claro está que con esto no queremos decir que estos fenómenos sean el resultado del uso de redes sociales o de la omnipresencia de internet; sin embargo, dado el alcance de las redes de internet y la segmentación es que se puede conocer a la perfección a los usuarios y de esta forma dirigir la información de acuerdo a sus preferencias; lo que ha hecho mella en la capacidad de los usuarios de abrirse a perspectiva plurales y diversas de la realidad.

En otras palabras, a la desinformación, polarización y manipulación como fenómenos presentes desde hace tiempo en los medios de comunicación y en el quehacer político debemos agregar: “la perfilación de datos psicométricos extraídos de las redes sociales para anticipar con precisión las ideas y decisiones individuales, la personalización de la propaganda y la capacidad de los bots para imponer agendas y manipular el peso de las informaciones que se difunden” (Forti, 2022, p. 78).

Ahora bien, junto a las predicciones definidas por los algoritmos están aquellas que elegimos personalmente, de esta forma se terminan de constituir las cámaras de resonancia o eco. Se produce así un aislamiento intelectual, lo que impide que nos situemos en el punto de vista de otros, pues las burbujas informativas refuerzan las propias ideologías o puntos de vista personales y por lo mismo afectan nuestra visión de la realidad. Llegando a influir o determinar nuestra idea respecto a temas de alto impacto como el tratamiento de la Covid-19 y la vacunación o los problemas medioambientales (Blanco-Prieto, 2021).

Es más, tal como afirma Galdon-Clavell (2019), parece ser que ese diseño permite y estimula la proliferación de grupos en la autoafirmación de sus principios, prejuicios e ideologías, dado que por la influencia de las cámaras de resonancia se distancian completamente de visiones o interpretaciones distintas de la realidad. Ahora bien, como señala la autora, una de las consecuencias más visibles sería la escasa visibilidad que para estos grupos de autoafirmación o tribus (Han, 2022) tienen las ideas distintas o contrapuestas, pues la estructura comunicativa que imponen los algoritmos:

Implica que la expansión de Internet a segmentos cada vez más amplios de población, combinada con su capacidad movilizadora, de acceso a información, opinión, desinformación o propaganda, y de construcción de identidad a través de la búsqueda de otros usuarios similares, genera nuevos universos donde encontrar pares, aliados, colaboradores, o conversos (ibídem). Por lo que es más probable que nos creamos un rumor o una teoría de la conspiración si concuerda con nuestra visión del mundo. (Thompson, 2017, citado en Innerarity y Colomina, 2020, p. 15)

Quedando así poco espacio para el disenso, el debate y el intercambio dialógico, pues aquella visión compartida por el grupo será muy difícil de poner en tela de juicio y menos rechazar. Se dirige y direcciona el compromiso, el engagement con el grupo y sus ideas. En este sentido, es importante resaltar que:

En su análisis sobre la propagación de noticias falsas, Del Vicario y otros (2016) muestran que la velocidad y estructura de las noticias falsas que son virales no se distinguen de las de las noticias verdaderas, excepto por la mayor homogeneidad de la comunidad que las comparte. Es decir, la creencia en distintos “hechos” hace que las noticias falsas se viralicen tan solo en la comunidad que es cognitivamente congruente con el contenido reportado. (Calvo y Aruguete, 2020)

En este contexto es que muchas veces se confunde: la información con la propaganda, la verdad con la mentira y lo que es más grave aún, se confunden los propios pensamientos, ideas o decisiones con los que imponen los algoritmos, creyendo que somos nosotros quienes tomamos las decisiones, desde las más nimias a las importantes; y todo esto la mayoría de las veces trabaja de forma inconsciente. Asimismo, estas cámaras de resonancia nos empujan muchas veces a adherir, pensar o actuar según los designios de esa red de amigos, contactos o gente cercana que piensa de manera muy parecida a la nuestra y que constituye nuestro círculo algorítmico. En este sentido, según concluyen algunos estudios, parece ser que al momento de cumplir con un deber ciudadano motiva mucho más el juicio de los amigos o la gente cercana en las redes sociales que la convicción íntima de hacerlo (O´Neil, 2018, p. 144).

En este mismo sentido expresa Stuart Russell (Adamo-Idoeta, 2021), investigador en inteligencia artificial de la Universidad de California, quien advierte que los algoritmos de las redes sociales son cada vez más peligrosos, pues los diseñadores los programan con la tarea de optimizar sus procesos a cualquier costo, sin considerar los daños sociales e individuales. Lo que consiguen entregándoles contenidos que se ajusten a sus gustos para que permanezcan frente a la pantalla el mayor tiempo posible, sin tener en cuenta si esto afecta la salud mental y bienestar del usuario o afecta a la ciudadanía global. A su juicio, las redes sociales producen adicción, depresión, disfunción social e incluso pueden fomentar el extremismo. Y resalta que lo más preocupante de todo es que:

Al optimizar estas cantidades, podemos estar causando enormes problemas a la sociedad. (Las redes sociales) no solo están optimizando lo incorrecto, sino que también están manipulando a las personas, porque al manipularlas consigue aumentar su compromiso. Y si puedo hacerte más predecible, por ejemplo, transformándote en un ecoterrorista extremo, puedo enviarte contenido ecoterrorista y asegurarme de que hagas clic para optimizar mis clics. (Adamo-Idoeta, 2021)

En efecto, las críticas o juicios respecto a los impactos negativos de las redes sociales o de internet van dirigidas al diseño y estructura de dichas plataformas que según su modelo de negocios pueden permitir o, más aún, estimular la desinformación o polarización si ello permite una mayor viralización o circulación de los contenidos. A pesar de que estos contenidos sean nocivos o perjudiciales para la sociedad, pues lo importante es la optimización y que pasemos la mayor cantidad de tiempo entregándoles nuestra atención sin tomar en cuenta la calidad del contenido que estamos recibiendo; tanto si es de mi equipo de fútbol favorito, la última teoría conspiratoria o un grupo de ultraderecha. No es difícil concluir que “vivimos una época de fake news, trolls y lawfare que se caracterizan por crear y promover discursos de intolerancia apelando a una matriz ideológica compartida en busca de polarización y enfrentamiento” (Bilyk y Ciappinac, 2022, p. 8).

En esta perspectiva se expresa Martín Hilbert (2021), funcionario de la Cepal y experto en redes digitales, big data y algoritmos informáticos, quien comenta respecto a la proliferación de las teorías de conspiración, poniendo el caso de YouTube: “históricamente, se estimaba que el 10 % de sus recomendaciones eran videos con noticias falsas. Hasta que, en 2019, Google decidió hacer algo para combatirlas y logró reducirlas a la mitad. Ahora rondan el 5 %. Así que, si una persona dedica una hora por día a YouTube, verá al menos 3 minutos diarios de teorías conspirativas”.

De manera oportuna, resaltar que esos mismos diseños y estructuras de las redes sociales y las tecnologías podrían servir y utilizarse para fines más loables, como sería estimular nuestras fortalezas, pensamientos positivos y propios para mejorar la calidad de vida de los usuarios (Adamo-Idoeta, 2021; Hilbert, 2021; Innerarity, 2020; O´Neil, 2018; Zuboff, 2020). Usos y aplicaciones que lamentablemente para los usuarios no generan las ganancias económicas y rédito que los monopolios tecnológicos esperarían y por ende no son aplicados en los mentados diseños algorítmicos.

Segmentación y democracia

Este recorrido nos ha permitido poner en el centro del debate ciertas consecuencias negativas que conlleva la segmentación propia de los algoritmos de las redes sociales. En este contexto, sobresale una dimensión todavía más preocupante de este poder omnisciente de la inteligencia artificial y la segmentación, pues según algunos autores el verdadero peligro que se esconde tras esto no es nada menos que la pérdida de la soberanía y la libertad de decisión de los usuarios; en otras palabras, nos enfrentaríamos a una verdadera crisis de la democracia liberal. Asunto que podríamos abordar desde dos perspectivas distintas, dado que, por una parte, se discuten las consecuencias y la influencia de la segmentación y las cámaras de resonancia; y, por otra, lo que tiene que ver con la delegación de la capacidad de decisión ² .

En primer lugar, retomaremos la crítica de Pariser (2017) al filtro burbuja, que es como denomina el autor a los algoritmos que filtran los contenidos en los buscadores y redes sociales de internet. Su principal preocupación es por las consecuencias que tiene para la democracia la utilización de estos filtros, pues la democracia necesita de ciudadanos que puedan situarse desde otros puntos de vista, que puedan ponerse en el lugar de otros; es decir, que sean capaces de plantear un diálogo respecto a hechos compartidos. No obstante, estamos cada vez más encerrados en nuestro propio punto de vista, encerrados en nuestras burbujas o cámaras de resonancia. Por ende, en vez de tener un mundo compartido sobre el cual discurrir o discutir nos encontramos con un mundo hecho a nuestra medida y gustos, limitando la posibilidad de ver otros contenidos o información distinta a mi propio perfil. En otras palabras, “los algoritmos que orquestan la publicidad orientada están empezando a dirigir nuestra vida” (Pariser, 2017, p. 18). En definitiva, están orientando y definiendo nuestras posibilidades de informarnos y conocer el mundo.

En la elaboración de una narrativa emotiva, se evidencia la ignorancia, la mentira, el engaño y el giro político. Cuestión peligrosa y perjudicial para la sociedad contemporánea porque puede terminar generando un debilitamiento de la democracia, como lo manifiesta Han, al afirmar que hay una crisis de la esfera pública discursiva de Habermas, pues en este contexto, los algoritmos, los datos y la inteligencia artificial influencian y determinan la discusión y el diálogo (2022, p. 69). Esto afectaría la construcción de los acontecimientos, su interpretación y la toma de decisión por parte de la ciudadanía en temas relevantes, pues una sociedad bien informada cuenta con herramientas para hacer parte de una democracia que se ha construido históricamente desde la esfera pública y que utiliza como mecanismo privilegiado de convencimiento el mejor argumento (Habermas y Rawls, 2015, p. 61).

El ejercicio de la democracia deliberativa se alimenta de la conversación, la plaza pública y los argumentos razonados (Habermas y Rawls, 2015). Antes bien, lo que realmente hace falta en este escenario, completamente digitalizado, es el debate de la esfera pública, dado que las narrativas propias de las nuevas tecnologías han llevado a una pobreza argumentativa de los líderes de opinión, que están más enfocados en trabajar sobre las emociones que generan en los ciudadanos que en profundizar y trabajar en propuestas concretas de acción política. En términos todavía más claros, Pariser (2021) concluye que “las plataformas tecnológicas que muchos utilizamos constantemente, ya sea Facebook, YouTube o Twitter, nos han defraudado a nosotros y a la democracia”, dado que las redes sociales han permitido y estimulado con sus diseños la proliferación y propagación de la desinformación. Cuestión que ha provocado fisuras importantes en la democracia, en virtud de la proliferación de ideas radicales y extremistas en las redes sociales que prontamente son viralizadas, poniendo en riesgo los sistemas democráticos de muchos países (Tsalikis, 2019).

Como hemos podido ver, son múltiples las implicancias que tiene la segmentación algorítmica para la sociedad del siglo XXI, que parece estar signada en su comienzo por la incertidumbre postpandémica y la volatilidad (Innerarity, 2020). No es difícil concluir que las promesas y esperanzas democratizadoras de las tecnologías parecen haberse desvanecido, sino del todo, sí en gran medida. Hemos asistido a importantes luchas democráticas y emancipadoras a través de las redes sociales e internet, como ejemplo la primavera árabe, el 15-M o la revuelta de octubre de 2019 en Chile; movimientos que sin embargo parecen haberse disuelto al unísono con las utopías libertarias de internet.

capitalismo de datos: las amenazas contra la libertad y la ciudadanía democrática

En segundo lugar, persiste una preocupación todavía más profunda respecto al poder que han adquirido estos desarrollos y avances de la inteligencia artificial, algoritmos y big data, manejados a su antojo por las Big Tech en su afán de alcanzar mayores cuotas de poder y conocimiento para de esta manera aumentar sus ganancias y monetizar todo aquello que es posible recoger a través de sofisticados sistemas de vigilancia, recolección y clasificación a las que somos sometidos las veinticuatro horas del día cuando usamos un teléfono inteligente. No obstante, la pérdida de la privacidad o intimidad pasa a segundo plano cuando nos referimos a la utilización que se puede hacer con dicho caudal de datos e información.

Shoshana Zuboff (2020) expone la figura emergente del capitalismo de la era digital para el que la experiencia humana se transforma en la materia prima fundamental a explotar, gracias a la cual los monopolios tecnológicos pueden fabricar productos predictivos que pueden predecir lo que cualquiera de nosotros hará ahora y en el futuro. Es por esto, que “con el tiempo, los capitalistas de la vigilancia descubrieron que los datos conductuales más predictivos se obtienen interviniendo en la marcha misma de las cosas para empujar a, persuadir de, afinar y estimular ciertos comportamientos a fin de dirigirlos hacia unos resultados rentables” (Zuboff, 2020, p. 18).

En otras palabras, gracias al conocimiento y perfilamiento que adquiere el capitalismo de vigilancia y a partir de la reorientación que va desde el conocimiento hacia el poder no solo se pretende la automatización de los flujos de información que vamos recibiendo, sino que la intención última es automatizar a los usuarios y sus decisiones. De esta forma los medios de producción quedan supeditados a complejos y finamente estructurados medios de modificación conductual. El usuario queda, así, a merced de un poder instrumental que conoce con total precisión el comportamiento humano, sus emociones, su personalidad y lo puede modificar orientándolo a los objetivos de terceros (Zuboff, 2020).

Ciertamente, esta forma de capitalismo socavaría las bases de la democracia y la capacidad de decisión de los usuarios, limitando profundamente su capacidad de elegir libremente ajeno a estos moldeamientos conductuales. En definitiva, “como un derrocamiento de la soberanía del pueblo y como una fuerza prominente en la peligrosa deriva hacia la ‘desconsolidación’ de la democracia que actualmente amenaza a los sistemas democráticos liberales de Occidente” (Zuboff, 2020, p. 36).

En esta misma línea se expresa José María Lassalle (2019), cuando interpreta la era digital, erigida sobre la base de una nueva divinidad estructurada según los parámetros de la tríada algoritmos, big data e inteligencia artificial, como un Ciber Leviatán que sería la manifestación de una nueva forma y expresión de poder, puesto que: “los datos que generan internet y los algoritmos matemáticos que los discriminan y organizan para nuestro consumo son un binomio de control y dominio que la técnica impone a la humanidad” (Lassalle, 2019, p. 11).

Definido en términos de un Leviatán tecnológico, resultante de la convergencia de un tecnopoder constituido por los monopolios tecnológicos o Big Tech que promueven un capitalismo cognitivo basado en la economía de los datos; y que al mismo tiempo se sostiene en las multitudes de usuarios o internautas que se integran sin capacidad crítica en los dispositivos de control y vigilancia que impone la revolución digital. Esta concentración de poder exige un nuevo contrato social que permita aunar bajo un poder absoluto y centralizado tecnológicamente una nueva idea de soberanía mediada por la tecnología que promete optimizar y hacer más eficientes las decisiones y soluciones a los problemas del hombre contemporáneo, coligando la dimensión técnica, económica y política en un mismo planteamiento. Soberanía y capacidad decisoria que quedaría en manos de esta nueva que impone una administración matematizada del mundo (Lassalle, 2019).

Es decir, gracias a la capacidad que tienen los algoritmos y la inteligencia artificial de poder tomar mejores decisiones que el ser humano, la tecnología podrá superar el siempre falible e inestable conocimiento humano; logrando así llevarnos por el camino de la certeza y la perfección. Sin embargo,

El problema no es solo de carácter moral con relación al ejercicio de la libertad humana, sino también político…Ahora se nos neutraliza en la capacidad decisoria jugando con la sutileza algorítmica que hace que las personas no actúen según su juicio, sino que se optimice este en nuestro propio beneficio […] la política que irrumpe con la revolución digital quiebra los fundamentos democráticos de una ciudadanía que ya no quiere decidir acerca del sentido de sus acciones. (Lassalle, 2019, pp. 31-32)

Asimismo, no podemos obviar que la apropiación de los datos y la delegación de la capacidad decisoria de los usuarios, que entregan voluntariamente a los sistemas algorítmicos, afectan nuestra identidad y el significado de lo humano. Es definitiva, debemos poner mucha atención en estos desarrollos y discursos, pues pueden terminar socavando la identidad de nuestros pueblos latinoamericanos y lo propiamente humano, bajo la égida del poder tecnológico, que lamentablemente responden a intereses económicos, aprovechando la desregulación, falta de legislación al respecto y distancia crítica (García-Canclini, 2019).

Como podemos ver, una vez: “desactivada la ciudadanía como eje de gravedad de la política, las estructuras analógicas de la democracia liberal se desmoronan porque la capacidad humana para decidir libremente está colapsando[…] imponiéndose el poder desnudo de la tecnología como la única referencia posible del orden y la seguridad” (Lassalle, 2019, p. 22).