La internet de las falsedades

La semana pasada me he referido ya a la "industria de falsas noticias". Ahora, el último informe del Comisario europeo de Justicia sobre el estado de la incitación al odio en las redes sociales determinó que todavía queda mucho trabajo por hacer y que el código de conducta firmado por las empresas no está dando los resultados esperados. La Comisión Europa ha reiterado así su exigencia de que Facebook, Google y Twitter vigilen con más ímpetu la incitación al odio que se produce en estas redes sociales.  (TICbeat, 5/12/2016)

Facebook ha respondido anunciando "un algoritmo que detecta desnudez, violencia o cualquier otra cosa que no esté de acuerdo a nuestras políticas", según un comunicado de prensa, pero declinaron referirse sobre si este proyecto puede o no detectar noticias falsas y no está claro a partir de cuando estará operativo (FayerWayer, 6/12/2016).

El Congreso de los Estados Unidos ha aprobado una ley que impide que las empresas tomen represalias contra los clientes que publican opiniones negativas en Internet. (Gizmodo, 6/12/2016) Habría que ver los detalles de esta ley para saber si toma en cuenta la problemática de las falsedades!

Hace unos días tuve acceso a un artículo de The Guardian que rinde cuenta de una investigación de Jonathan Albright, profesor asistente de comunicaciones de la Universidad Elon de Carolina del Norte, sobre cómo los sitios web de extrema derecha han difundido falsas noticias. 

"Tomé una lista de estos falsos sitios de noticias que circulaban; tuve una lista inicial de 306 de ellos y usé una herramienta -como la que usa Google- para rastrearlos y luego los mapeé. Miré a donde los enlaces apuntaban - como YouTube y Facebook - y entre ellos, millones de ellos ... y simplemente no podía creer lo que estaba viendo.
Han creado una web que está sangrando a través de nuestra web. Esto no es una conspiración. No hay una persona que haya creado esto. Es un vasto sistema de cientos de sitios diferentes que están utilizando todos los trucos que todos los sitios web utilizan. Están enviando miles de enlaces a otros sitios y, juntos, esto ha creado un vasto sistema satelital de noticias de la [extrema] derecha y propaganda que ha rodeado completamente al sistema de medios de comunicación." 

Encontró finalmente 23.000 páginas y 1,3 millón de hipervínculos. El gráfico que sigue muestra esta nube que envuelve a los medios legítimos. 

"Lo que este mapa muestra es la red de distribución y se puede ver que está rodeando y realmente asfixiando el ecosistema de noticias mainstream. Cuando se mira en 3D, en realidad se ve como un virus. Y Facebook fue sólo uno de los anfitriones de este virus, que ayuda a propagarlo más rápidamente."

Charlie Beckett, profesor de la Escuela de Medios y Comunicaciones de LSE, dice: "Lo que Jonathan Albright ha demostrado es que esto no es un subproducto de Internet, ni siquiera se hace por razones comerciales, es motivado por la ideología, por personas que tratan deliberadamente de desestabilizar Internet". Y para ello usan los mismo trucos que los sitios comerciales para "jugar" con el algoritmo de Google: cuantas más personas busquen información sobre un tema determinado, más gente verá enlaces a los sitios correspondientes y subirá en los resultados de Google. El mapa muestra lo bien que lo están haciendo. 

"Cada vez que a alguien le gusta uno de estos posts en Facebook o visita uno de estos sitios web, los scripts le siguen a través de la Web. Esto permite, por la minería de datos, influir en empresas como Cambridge Analytica marcar a los individuos, seguirlos en la web y enviarles mensajes políticos altamente personalizados. Es una máquina de propaganda, dirigida individualmente a las personas para reclutarlas a una idea; es un nivel de ingeniería social que nunca había visto antes."

Si es un sitio de odio, como ocurre con los sitios neonazis, más aparecerán en la primera página de resultados, como demostró Carole Cadwalladr, la autora del artículo de The Guardian. Ella tipeó en Google Search "are jews" y el sistema le propuso completar la frase con cuatro diferentes adjetivos. El cuarto era "evil" ("los judíos son malvados") y ella ordenó esa búsqueda. Obtuvo una página entera de referencias que ofrecían un 90% de respuestas que confirmaban dicha afirmación. La primera era de una página que ofrecía los 10 mayores motivos de odio (“Top 10 Major Reasons Why People Hate Jews”), y la tercera remitía a un sitio neo-nazi. Se sorprendió descubriendo algo parecido con el tema de las mujeres ("women are..."), cuya primera opción para completar la pregunta fue "are evil" (son malvadas) y los 10 primeros resultados respondían afirmativamente. Y el primero de ellos decía incluso que "Toda mujer tiene algún tipo de prostituta en ella. Cada mujer tiene un poco de malvado en ella ... Las mujeres no aman a los hombres, les encanta lo que pueden hacer para ellas. Es razonable decir que las mujeres sienten atracción, pero no pueden amar a los hombres."!!

En español no se obtienen estos mismos resultados, aunque al buscar por Hitler, una de las sugerencias que se ofrecen al usuario es "Hitler era bueno". Pero ello no invalida lo encontrado por Albright: sin duda hay otros casos igualmente dudosos. Y nos ha de alertar una vez más acerca del peligro de creer en la inocuidad y objetividad de los algoritmos, aunque los expertos en estadística puedan demostrar que los algoritmos predictivos son superiores a la intuición e incluso a las opiniones de expertos (ver D.Kahnemen, "Pensar rápido, pensar despacio", pp.291-305), pero pasan por alto el significado, las tendencias malévolas y las mentiras (presentes también ya en muchas personalidades "digitales").

Referencia: C.Cadwalladr: "Google, democracy and the truth about internet search", The Guardian, 4/12/2016.

Ética (¿censura?) en las grandes plataformas

Facebook ha anunciado que impondrá censura para «evitar que la red, de entrada, se convierta en un nido de pornografía y violencia». Sin embargo, según ABC.es,

"A lo largo de la trayectoria de la mayor red social han sido muchas las ocasiones en las que se ha aplicado una dudosa moral a la hora de ocultar ciertos contenidos a los usuarios. ...
La pregunta es si Facebook debería aplicar otro tipo de normas morales a la hora de aplicar su criterio de selección de contenidos. «Podría aplicar las mismas normas que un medio de comunicación convencional», considera Miguel Ángel Jimeno, profesor de periodismo de la Universidad de Navarra, aunque al tratarse de una empresa privada con contenidos no periodísticos puede decidir lo que quiera. «Cuando una de esas reglas llama la atención a un sector de sus usuarios, como ha sucedido ahora, el mundo 'periodístico' se subleva. Pero creo que solo ha sido el periodístico. A los demás usuarios, el tema parece que ni les va ni les viene», añade este experto. Frente a esa situación, y de cara a evitar que este tipo de servicios se conviertan en foros de propagación de enfoques ideológicos hostiles, la propia compañía Facebook ha puesto el foco en un programa específico para luchar contra el odio digital, una expansión de los esfuerzos de la industria tecnológica para socavar la propaganda de internet de terroristas islámicos y radicales de extrema derecha. (ABC, 16/11/2016)

El tema de la censura o "filtrado" en medios sociales se ha hecho más notorio a raíz de las discusiones posteriores a la elección presidencial de los Estados Unidos, que ha demostrado que el tema es mucho más complejo que evitar la violencia o los trolls.

Según un análisis de Buzzfeed, durante la campaña presidencial norteamericana, las 20 noticias inventadas más compartidas en Facebook superaron ampliamente a las 20 noticias verídicas más compartidas (8,7 millones de interacciones, frente a 7 millones). “Nadie nunca chequea los datos. Así fue como Trump fue elegido. Él dijo lo que quiso, y la gente creyó todo, y cuando se comprobó que las cosas que decía no eran verdad, a la gente no le importaba, porque ellos ya lo habían aceptado. Es tenebroso”, confesó Paul Horner, uno de los autores más prolíficos de noticias falsas que se viralizan por las redes sociales y con las cuales gana hasta US$ 10 mil al mes por la publicidad que obtienen sus artículos mentirosos (El Mercurio, 26/11/2016).

Los mismos algoritmos que utilizan las redes sociales y las empresas para "ayudar" a sus usuarios, sirviéndoles lo que responde a sus gustos introducen una distorsión que puede ser éticamente cuestionada. Especialmente cuando se observa que de este modo pueden llegar a distorsionar el debate público.

“Nuestro mayordomo [asistente digital] puede recomendar servicios y productos que fomenten los intereses financieros de la super-plataforma en lugar de nuestros propios intereses. Al servir a sus verdaderos amos -las plataformas- puede distorsionar nuestra visión del mercado y llevarnos a los servicios y productos que sus amos desean promover.
El aumento en el poder económico de la super-plataforma puede traducirse en poder político. A medida que dependemos cada vez más de uno o dos mayordomos de cabecera, la super-plataforma aprenderá sobre nuestras creencias políticas y tendrá el poder de afectar nuestras opiniones y el debate público.” (M. E. Stucke y A. Ezrachi, Wired, 29/11/2016)

Filippo Menczer, director del Center for Complex Networks and Systems Research de la Universidad de Indiana (Bloomington) ha estudiado este fenómeno, ligado también a la industria de las noticias falsas:

“Tenemos una industria de falsas noticias y desinformación digital. Los sitios de Clickbait fabrican bromas para ganar dinero con anuncios, mientras que los llamados sitios hiperpartidistas publican y difunden rumores y teorías de conspiración para influir en la opinión pública.
Dentro de nuestra burbuja, estamos expuestos selectivamente a información alineada con nuestras creencias. Ese es un escenario ideal para maximizar el compromiso, pero uno perjudicial para desarrollar un escepticismo saludable. El sesgo de confirmación nos lleva a compartir un titular sin ni siquiera leer el artículo.” (Menczer, Inverse.com, 28/11/2016)

(Gráfico del estudio de Menczer)

También se extiende a políticas de marketing y publicidad que implantan un modelo de negocio que se basa en censura de contenido para obligar a los consumidores a pagar más dinero por menos información (Ver post del 4 de marzo y FayerWayer, 26/01/2016).

Lamentablemente tenemos una tendencia natural a relacionarnos con quienes piensan como nosotros y a evitar los contradictores. El físico teórico Cristián Huepe, investigador del Instituto de Sistemas Complejos de la Northwestern University en Chicago, que también estudió la dinámica de las redes de opinión, comprobó matemáticamente que el algoritmo de sitios como Facebook, sumado a la tendencia de las personas a asociarse con quienes piensan del mismo modo, genera dos grupos que no conversan entre sí.

“Ese algoritmo diseñado inicialmente para que uno pase más tiempo en Facebook, tiene como consecuencia secundaria que refuerza una situación ya natural en los seres humanos: que uno solo ve lo que a uno le gusta, con lo que está de acuerdo. Y refuerza esa tendencia tribal a separarse en grupos con opiniones muy distintas. Llega el punto en que las realidades, entre comillas, que tiene cada grupo son distintas. Porque la información que reciben solo está de acuerdo con ellos, entonces interpretan las noticias o incluso repiten informaciones falsas de manera que nadie cuestiona, porque todos ya están de acuerdo con la conclusión.” (Huepe, El Mercurio, 26/11/2016)

ACTUALIZACIÓN

La Comisión Europea le advirtió ayer domingo de forma oficial a las grandes tecnológicas estadounidenses como Facebook, Twitter, Google y Microsoft que deben empezar a actuar con más rapidez contra los discursos de odio en sus servicios. Les ha pedido que cumplan el código de conducta voluntario que firmaron hace seis meses prometiendo actuar en veinticuatro horas contra los comentarios abusivos si no quieren que sea la propia ley la que acabe forzándoles a hacerlo. (Genbeta, 5/12/2016)