Tecnología degradante

 El documental de Netflix "The Social Dilemma" ("El dilema de las redes sociales") ha tenido un gran éxito (ha sido "Top 10") y ha advertido mucha gente de los peligros de las redes sociales. Sinan Aral, en un texto mucho más elaborado ("The Hype Machine", "la máquina de la exageración") ha analizado detalladamente los aspectos tanto positivos como negativos de las comunicaciones digitales.

La BBC entrevistó a Randy Fernando, uno de los autores del documental:

 "De tanto discutir cuándo la tecnología iba a sobrepasar nuestras capacidades, perdimos de vista que las máquinas se estaban enfocando en conocer nuestras debilidades.
 Es la base que sustenta un concepto que está resonando en Silicon Valley y que se conoce como human downgrading, "degradación humana" en español.
 Fue acuñado por el científico informático Tristan Harris y su socio Randima (Randy) Fernando, cofundadores del Center for Humane Technology (CHT, Centro para la Tecnología Humana), una organización sin ánimo de lucro cuya misión es "revertir la degradación humana" y "realinear la tecnología con nuestra humanidad"." (Blasco)

Como bien señala Sinan Aral, la "máquina de la exageración" ofrece tanto elementos positivos como peligros, "y las decisiones que tomaremos en los próximos dieciocho a veinticuatro meses sobre cómo diseñar. regular, monetizar y usar las redes sociales determinarán qué camino tomamos. Estamos en una encrucijada. Para actuar responsablemente, tenemos que educarnos sobre cómo funcionan las redes sociales."
    
"The Social Dilemma" puso sobre todo en evidencia las actuales falencias. Dice Randy Fernando:

    "A medida que hemos ido mejorando y actualizando nuestras máquinas, hemos degradado a los seres humanos. Y debería haber sido al revés. Eso es algo que se repite constantemente."
    Cuando nuestra atención se interrumpe repetidamente, nos distraemos más. Nos convertimos en la peor versión de nosotros mismos. La tecnología nos cambia. Y eso ocurre constantemente y cada vez más porque las redes sociales facilitan ese proceso.
    Al final del ciclo, la tecnología termina cambiándonos y, efectivamente, degradándonos. Y cuando nos hemos degradado, somos más vulnerables en el ciclo siguiente porque cuando estamos más distraídos es más fácil que ocurra un nuevo ciclo.    Termina siendo una carrera [de las empresas] por llegar hasta el fondo de nuestro tallo cerebral que saca lo peor de nosotros mismos y que cada vez incluye menos pausa, menos reflexión y menos meditación porque estamos ocupados reaccionando todo el tiempo. (Randy Fernando, en Blasco)

En el documental se enfatizan estos efectos negativos. las redes sociales "nos manipulan". Pero    

 "¿Dónde está la frontera entre los esfuerzos extremos por manipularnos y los que son más modestos? Parece imposible decirlo. Si eres o no manipulado tiene poco que ver con los esfuerzos de manipulación y más contigo mismo."  (DeBrabander, en A.Castedo)

Pedro Baños, experto en geopolítica, publicó "El dominio mental", donde se centra en las técnicas que utiliza el poder para controlar nuestra mente. No solo repasa el modo en que las empresas, los gobiernos e incluso los partidos políticos llegan a "sabe todo de nosotros, incluso cosas que ni nosotros mismos sospechamos", pero se extiendo sobre los objetivos: "actuar para condicionarnos mentalmente tanto de forma individual como de forma colectiva". "No sólo se condiciona a personas individuales, sino incluso se trata de condicionar a ciudades o estados enteros." Lamentablemente, "hemos entrado en lo que yo llamo 'la sociedad de la resignación'. [...] Hemos entrado en un estado de pasividad tal -o mejor dicho, nos tienen en un estado de pasividad y atonía tal- que no somos capaces de reaccionar, a pesar de que vemos todos los días cómo nos engañan, cómo nos mienten." (Entrevista con I.Hernández)
    
El papa Francisco también ha abordado el tema en su encíclica Fratelli Tutti:

 "Presos de la virtualidad hemos perdido el gusto y el sabor de la realidad." (33)
 "El respeto al otro se hace pedazos y, de esa manera, al mismo tiempo que lo desplazo, lo ignoro y lo mantengo lejos, sin pudor alguno puedo invadir su vida hasta el extremo." (40)
 "La agresividad social encuentra en los dispositivos móviles y ordenadores un espacio de ampliación sin igual." (44)
 "El desplazamiento de la razón moral trae como consecuencia que el derecho no puede referirse a una concepción fundamental de justicia, sino que se convierte en el espejo de las ideas dominantes. Entramos aquí en una degradación..." (210)

¿Qué podemos hacer? Como señalan Randy Fernando y Sinan Aral, en lo personal podemos usar menos las plataformas digitales, cambiar lo que mostramos en ellas y nuestras interacciones en línea; en lo colectivo, se necesita la presión de consumidores, inversores, políticos, educadores y tecnólogos, y ésto implica una codificación diferente los algoritmos, a favor de las personas y no de las empresas.

 "Debemos adaptarnos a la Nueva Era Social, brindando soluciones detalladas de Privacidad y Protección de Datos, Antimonopolio, Competencia, Portabilidad de Datos, Noticias Falsas, Libertad de Expresión vs Discurso de Odio, Integridad Electoral y mucho más. ... Si bien la competencia puede ayudar a obligar a las plataformas a competir por nuestra atención con diseños que protegen nuestros valores sociales, las fuerzas del mercado que inclinan la Nueva Era Social hacia los monopolios permanecerán incluso si se desmantela Facebook. Necesitamos soluciones más fundamentales. ... Necesitamos poder llevar nuestras redes sociales a un competidor, si así lo deseamos. Deberíamos poder utilizar varios servicios diferentes. ¿Cómo podemos lograr esto? Una forma de garantizar la portabilidad y la competencia de los datos es exigir, por ley, que las plataformas tecnológicas hagan que sus datos, y específicamente sus redes sociales, sean portables." (Sinan Aral)

El tema de la privacidad, sin embargo, es más complejo de lo que parece, como explica detalladamente el filósofo político Firmin DeBrabander, profesor de Filosofía en el Maryland Institute College of Art (Estados Unidos). Se puso a preparar un libro sobre el tema pero, a poco andar, se dio cuenta de que no era capaz de definir qué es la privacidad ni tampoco de explicar con precisión por qué es tan fundamental. Después de un estudio histórico y de consderar múltiples teorías, concluyó que "es un concepto incoherente". En realidad, nadie parece capaz de definir exactamente qué es pero la valora, y cada uno establece cuales son, para él, sus límites.

"Yo hago esta crítica de la idea de privacidad y soy escéptico sobre ella. Pero admito desde el principio en mi libro que a mí me gusta tener privacidad y la valoro, aunque sea difícil decir qué es exactamente." (DeBrabander, en A.Castedo)

Finalmente, quizás su núcleo sea la  libertad de pensamiento y de expresión:

 "¿Cuál es el supuesto valor de la privacidad? Quien mejor lo articuló fue John Stuart Mill, quien dijo que necesitábamos el derecho a la privacidad porque hay que proteger el espacio para que el individuo piense lo que quiera, para decir lo que quiera. Se trata de tener libertad de pensamiento y de expresión." (DeBrabander, en A.Castedo)    

Un problema igual o más complejo es el de hacer frente a la información falsa. "La lucha contra la desinformación será (y debería ser) ganada no por los responsables políticos sino por las plataformas y las personas. Si bien no existe una fórmula mágica, una combinación de enfoques puede, en conjunto, frenar la difusión de noticias falsas y disminuir su impacto en la sociedad." (ibidem) La formación (educación) del pensamiento crítico de las personas es esencial en este sentido. Pero se necesitan también algoritmos capaces de detectar mejor las falsedades, la ayuda humana siendo vital para entrenarlos.

Complejo también es el de los límites de la libertad de expresión, especialmente frente a los discursos de odio:

"Más importante que decidir qué discurso permitir y qué discurso restringir es decidir cómo se deben trazar estas líneas y quién debe trazarlas. Donde los límites al discurso tienen sentido debido a la naturaleza atroz de su daño potencial en circunstancias específicas, el proceso para decidir esos límites debe ser deliberativo y representativo, en lugar de ser promulgado rápidamente por unos pocos elegidos." (S.Aral)

¿Una vía de solución? (Al menos para las redes sociales)

 "La mejor manera de fomentar la competencia en las redes sociales es hacer cumplir la interoperabilidad, la portabilidad de los datos y los gráficos sociales, y la capacidad de los consumidores para pasar sin problemas de un servicio a otro.
 ¿Qué pasaría si hubiera un botón de "verdad", un botón de "confianza" o un botón de "conocimiento"? ¿Qué pasaría si los usuarios ganaran reputación no a través de la popularidad, sino como personas influyentes que nos conectaron con las nuevas ideas y personas más valiosas, o que nos enseñaron algo nuevo, o que nos brindaron el mayor apoyo social, o corrigieron nuestros errores, o nos salvaron? de nuestros propios malos hábitos?" (S.Aral)

¿Y a nivel más general?

"¿Qué podríamos o qué deberíamos hacer para evitar que nos controlen mentalmente?" pregunta Irene Hernández a Pedro Baños.
 "Lo primero, entender que esto sucede, que esto pasa, que no es ninguna fabulación. [...] A partir de ahí, yo creo que la sociedad en su conjunto tiene que hacer un esfuerzo para no permitir que nos lleven a estos estados de pasividad absoluta, debemos exigir tener buenos dirigentes, dirigentes que cumplan con los requisitos de honradez, de transparencia y de verdadera vocación de servicio. Y eso lo tenemos que exigir los ciudadanos, porque si no nos seguirán tomando el pelo casi de manera sistemática." (P.Baños, a I.hernández)

¿Pero cómo obtener un acuerdo colectivo sufciente para lograr estos cambios? ¿Cómo oponerse al poder económico de las grandes corporaciones, más poderosas que la mayoría de los gobiernos, que solo buscan el beneficio máximo inmediato? Y si, como dice Pedro baños, "aquellos que nos deberían guiar [los gobiernos] por el buen camino son los primeros que nos distraen con todo tipo de artimañas psicológicas"?

Al menos la Unión Europea ha intentado frenar las prácticas abusivas de las plataformas y prepara una nueva Ley de Servicios Digitales (anunciada en febrero de 2020 por la Comisión Europea). Uno de los objetivos de esta ley será definir cuál es la responsabilidad de las plataformas con el contenido que se publica en ellas. (Xataka, 30/11/2020)

Se mantiene la duda en torno a la posible manipulación mental por parte de los políticos y los gobiernos. Si no nos hacemos cargo de ellos, "el riesgo es que dejemos la esencia de lo que somos y entremos en una fase de deshumanización absoluta" concluye Pedro Baños.

Referencias
- Aral, S. 82020): "The Hype Machine", Crown y  Kindle Edition.
- Blasco, L. (2020): "La degradación humana causada por la tecnología ha sobrepasado algunos límites importantes", BBC News Mundo, 24/11/2020.
- Castedo, A. (2020): "No podemos salvar nuestra privacidad, pero la democracia nunca la ha necesitado", BBC News Mundo, 4/12/2020.
- Colle, R. (2015): "¿Ser digital o ser humano?", INCOM-Chile. (2a edición 2018)
- Hernández, I. (2020): "Vivimos hiperconectados y eso permite que controlen nuestra mente", BBC News Mundo, 8/12/2020.