CAMBRIDGE – El término “noticias falsas” se ha convertido en un epíteto que el presidente estadounidense Donald Trump aplica a toda información que le resulte desfavorable. Pero también es un término analítico que describe la presentación deliberada de desinformación como si fuera una noticia periodística convencional.
El problema no es del todo nuevo. Ya en 1925, Harper’s Magazine publicó un artículo sobre los peligros de las “noticias falsas”. Pero hoy, unos dos tercios de los adultos estadounidenses reciben noticias en parte a través de las redes sociales, y estas se basan en un modelo de negocios que se presta a la manipulación externa y en el que es muy fácil engañar a los algoritmos para obtener ganancias o servir a fines malignos.
Hay en todo el mundo muchas organizaciones (estatales, delictivas o de aficionados) con capacidad para descifrar (mediante “ingeniería inversa”) los algoritmos que las plataformas tecnológicas aplican a la información. La hazaña del gobierno ruso fue haber sido uno de los primeros que comprendió el modo de instrumentalizar las redes sociales para atacar a Estados Unidos usando empresas estadounidenses como armas.
Saturadas por el inmenso volumen de información disponible en Internet, a las personas les cuesta decidir dónde mirar. La atención, más que la información, es el recurso escaso que hay que obtener. Pero el análisis de macrodatos y la inteligencia artificial permiten una comunicación ultrapersonalizada, y esta encierra a las personas en una “burbuja de filtros” donde sólo ven información con la que están de acuerdo.
Los servicios “gratuitos” ofrecidos por las redes sociales se basan en un modelo de negocios en el que los verdaderos productos (que se venden a los publicistas) son la información de los usuarios y su atención. Los algoritmos se diseñan de modo de aprender lo que mantiene el interés de los usuarios, para que se les puedan mostrar más anuncios y generar más ingresos.
Emociones como la indignación estimulan el interés, y está comprobado que noticias indignantes pero falsas atraen a más lectores que las noticias reales. En un estudio se halló que en Twitter esas falsedades tenían 70% más de probabilidades de ser retuiteadas que las noticias verdaderas. En otro estudio sobre las manifestaciones que hubo este año en Alemania se encontró que el algoritmo de YouTube dirigía sistemáticamente a los usuarios hacia contenidos extremistas, porque allí es donde hay más “clics” e ingresos. Muchas veces la labor de verificación de datos (fact-checking) de los medios informativos convencionales no puede seguir el ritmo, y puede incluso ser contraproducente, al dar más visibilidad a la noticia falsa.
At a time when democracy is under threat, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided. Subscribe now and save $50 on a new subscription.
Subscribe Now
Por su misma naturaleza, el modelo de negocios de las redes sociales puede ser usado como un arma, por actores estatales y no estatales. Hace poco, Facebook recibió una andanada de críticas por su descuidado historial de protección de la privacidad de los usuarios. Según admitió su director ejecutivo, Mark Zuckerberg: “En 2016 no estábamos preparados para las operaciones de [des]información coordinadas que ahora enfrentamos a diario [pero después], aprendimos mucho y desarrollamos sistemas sofisticados que combinan a las personas con la tecnología para prevenir interferencias electorales basadas en nuestros servicios”.
Algunos ejemplos son: búsqueda y eliminación automatizada de cuentas falsas; menor visibilidad a páginas de Facebook que difundan desinformación; publicación de un informe de transparencia sobre la cantidad de cuentas falsas eliminadas; verificación de la nacionalidad de quienes publiquen anuncios políticos; contratación de 10 000 personas adicionales para funciones de seguridad; y mejora de la coordinación con las autoridades y con otras empresas para responder a actividades sospechosas. Pero el problema no está resuelto.
Entre las empresas de redes sociales y los actores estatales y no estatales que invierten en modos de explotar sus sistemas seguirá habiendo una carrera armamentista. Soluciones tecnológicas como la inteligencia artificial no son la panacea. Por ser a menudo más sensacionales y escandalosas, las noticias falsas viajan más lejos y más rápido que las reales. La información falsa recibe muchos más “retuits” en Twitter y en mucho menos tiempo que la información verdadera, y el mero hecho de repetir una noticia falsa, incluso en un contexto de verificación de datos, puede aumentar la propensión de las personas a tomarla por verdadera.
Antes de la elección presidencial de 2016 en Estados Unidos, la Agenstvo Internet-issledovanij (Agencia de investigaciones en Internet/Internet Research Agency) con sede en San Petersburgo (Rusia) dedicó más de un año a crear en las redes sociales decenas de cuentas que se hacían pasar por medios periodísticos locales estadounidenses. A veces presentaban noticias favorables a un candidato, pero muchas veces sólo buscaban generar una impresión de caos y malestar con la democracia y desalentar el voto.
Cuando en 1996 el Congreso estadounidense aprobó la Ley de Decencia en las Comunicaciones, a las recién nacidas empresas de redes sociales se las trató como proveedores de telecomunicaciones, medios neutrales que sólo daban a sus clientes la posibilidad de interactuar. Pero es evidente que este modelo quedó desactualizado. Bajo presión política, las principales empresas han comenzado a vigilar sus redes con más cuidado y eliminar las falsedades obvias, incluidas las propagadas por botnets.
Pero la limitación de la libertad de expresión, protegida por la Primera Enmienda de la Constitución de los Estados Unidos, plantea difíciles problemas prácticos. Las máquinas y los actores no estadounidenses no tienen derechos conforme a esa enmienda (y de todos modos, las empresas privadas no están supeditadas a ella), pero sí los tienen las personas y organizaciones estadounidenses por más aberrantes que sean, y estas pueden servir como intermediarios de influenciadores extranjeros.
En cualquier caso, el daño hecho por actores extranjeros puede ser menor que el que nos hagamos nosotros mismos. El problema de las noticias falsas y de los impostores extranjeros que se presentan como fuentes de noticias reales es difícil de resolver, porque implica tensiones entre valores que son importantes para nosotros. Las empresas de redes sociales, temerosas de que las acusen de censura, no quieren que las regulen los legisladores, y estos las critican por sus pecados de acto y de omisión.
La experiencia de las elecciones europeas hace pensar que el periodismo de investigación y la preparación de la opinión pública pueden ayudar a inmunizar a los votantes contra campañas de desinformación. Pero es probable que el combate a las noticias falsas siga siendo un juego del gato y del ratón, entre los que las publican y las empresas cuyas plataformas explotan. Se convertirá en una parte del ruido de fondo electoral en todas partes. El precio de proteger la democracia será una vigilancia constante.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Recent developments that look like triumphs of religious fundamentalism represent not a return of religion in politics, but simply the return of the political as such. If they look foreign to Western eyes, that is because the West no longer stands for anything Westerners are willing to fight and die for.
thinks the prosperous West no longer understands what genuine political struggle looks like.
Readers seeking a self-critical analysis of the former German chancellor’s 16-year tenure will be disappointed by her long-awaited memoir, as she offers neither a mea culpa nor even an acknowledgment of her missteps. Still, the book provides a rare glimpse into the mind of a remarkable politician.
highlights how and why the former German chancellor’s legacy has soured in the three years since she left power.
CAMBRIDGE – El término “noticias falsas” se ha convertido en un epíteto que el presidente estadounidense Donald Trump aplica a toda información que le resulte desfavorable. Pero también es un término analítico que describe la presentación deliberada de desinformación como si fuera una noticia periodística convencional.
El problema no es del todo nuevo. Ya en 1925, Harper’s Magazine publicó un artículo sobre los peligros de las “noticias falsas”. Pero hoy, unos dos tercios de los adultos estadounidenses reciben noticias en parte a través de las redes sociales, y estas se basan en un modelo de negocios que se presta a la manipulación externa y en el que es muy fácil engañar a los algoritmos para obtener ganancias o servir a fines malignos.
Hay en todo el mundo muchas organizaciones (estatales, delictivas o de aficionados) con capacidad para descifrar (mediante “ingeniería inversa”) los algoritmos que las plataformas tecnológicas aplican a la información. La hazaña del gobierno ruso fue haber sido uno de los primeros que comprendió el modo de instrumentalizar las redes sociales para atacar a Estados Unidos usando empresas estadounidenses como armas.
Saturadas por el inmenso volumen de información disponible en Internet, a las personas les cuesta decidir dónde mirar. La atención, más que la información, es el recurso escaso que hay que obtener. Pero el análisis de macrodatos y la inteligencia artificial permiten una comunicación ultrapersonalizada, y esta encierra a las personas en una “burbuja de filtros” donde sólo ven información con la que están de acuerdo.
Los servicios “gratuitos” ofrecidos por las redes sociales se basan en un modelo de negocios en el que los verdaderos productos (que se venden a los publicistas) son la información de los usuarios y su atención. Los algoritmos se diseñan de modo de aprender lo que mantiene el interés de los usuarios, para que se les puedan mostrar más anuncios y generar más ingresos.
Emociones como la indignación estimulan el interés, y está comprobado que noticias indignantes pero falsas atraen a más lectores que las noticias reales. En un estudio se halló que en Twitter esas falsedades tenían 70% más de probabilidades de ser retuiteadas que las noticias verdaderas. En otro estudio sobre las manifestaciones que hubo este año en Alemania se encontró que el algoritmo de YouTube dirigía sistemáticamente a los usuarios hacia contenidos extremistas, porque allí es donde hay más “clics” e ingresos. Muchas veces la labor de verificación de datos (fact-checking) de los medios informativos convencionales no puede seguir el ritmo, y puede incluso ser contraproducente, al dar más visibilidad a la noticia falsa.
HOLIDAY SALE: PS for less than $0.7 per week
At a time when democracy is under threat, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided. Subscribe now and save $50 on a new subscription.
Subscribe Now
Por su misma naturaleza, el modelo de negocios de las redes sociales puede ser usado como un arma, por actores estatales y no estatales. Hace poco, Facebook recibió una andanada de críticas por su descuidado historial de protección de la privacidad de los usuarios. Según admitió su director ejecutivo, Mark Zuckerberg: “En 2016 no estábamos preparados para las operaciones de [des]información coordinadas que ahora enfrentamos a diario [pero después], aprendimos mucho y desarrollamos sistemas sofisticados que combinan a las personas con la tecnología para prevenir interferencias electorales basadas en nuestros servicios”.
Algunos ejemplos son: búsqueda y eliminación automatizada de cuentas falsas; menor visibilidad a páginas de Facebook que difundan desinformación; publicación de un informe de transparencia sobre la cantidad de cuentas falsas eliminadas; verificación de la nacionalidad de quienes publiquen anuncios políticos; contratación de 10 000 personas adicionales para funciones de seguridad; y mejora de la coordinación con las autoridades y con otras empresas para responder a actividades sospechosas. Pero el problema no está resuelto.
Entre las empresas de redes sociales y los actores estatales y no estatales que invierten en modos de explotar sus sistemas seguirá habiendo una carrera armamentista. Soluciones tecnológicas como la inteligencia artificial no son la panacea. Por ser a menudo más sensacionales y escandalosas, las noticias falsas viajan más lejos y más rápido que las reales. La información falsa recibe muchos más “retuits” en Twitter y en mucho menos tiempo que la información verdadera, y el mero hecho de repetir una noticia falsa, incluso en un contexto de verificación de datos, puede aumentar la propensión de las personas a tomarla por verdadera.
Antes de la elección presidencial de 2016 en Estados Unidos, la Agenstvo Internet-issledovanij (Agencia de investigaciones en Internet/Internet Research Agency) con sede en San Petersburgo (Rusia) dedicó más de un año a crear en las redes sociales decenas de cuentas que se hacían pasar por medios periodísticos locales estadounidenses. A veces presentaban noticias favorables a un candidato, pero muchas veces sólo buscaban generar una impresión de caos y malestar con la democracia y desalentar el voto.
Cuando en 1996 el Congreso estadounidense aprobó la Ley de Decencia en las Comunicaciones, a las recién nacidas empresas de redes sociales se las trató como proveedores de telecomunicaciones, medios neutrales que sólo daban a sus clientes la posibilidad de interactuar. Pero es evidente que este modelo quedó desactualizado. Bajo presión política, las principales empresas han comenzado a vigilar sus redes con más cuidado y eliminar las falsedades obvias, incluidas las propagadas por botnets.
Pero la limitación de la libertad de expresión, protegida por la Primera Enmienda de la Constitución de los Estados Unidos, plantea difíciles problemas prácticos. Las máquinas y los actores no estadounidenses no tienen derechos conforme a esa enmienda (y de todos modos, las empresas privadas no están supeditadas a ella), pero sí los tienen las personas y organizaciones estadounidenses por más aberrantes que sean, y estas pueden servir como intermediarios de influenciadores extranjeros.
En cualquier caso, el daño hecho por actores extranjeros puede ser menor que el que nos hagamos nosotros mismos. El problema de las noticias falsas y de los impostores extranjeros que se presentan como fuentes de noticias reales es difícil de resolver, porque implica tensiones entre valores que son importantes para nosotros. Las empresas de redes sociales, temerosas de que las acusen de censura, no quieren que las regulen los legisladores, y estos las critican por sus pecados de acto y de omisión.
La experiencia de las elecciones europeas hace pensar que el periodismo de investigación y la preparación de la opinión pública pueden ayudar a inmunizar a los votantes contra campañas de desinformación. Pero es probable que el combate a las noticias falsas siga siendo un juego del gato y del ratón, entre los que las publican y las empresas cuyas plataformas explotan. Se convertirá en una parte del ruido de fondo electoral en todas partes. El precio de proteger la democracia será una vigilancia constante.
Traducción: Esteban Flamini