MENLO PARK, CALIFORNIË – Sinds de Amerikaanse presidentsverkiezingen van november 2016 de kwetsbaarheid aantoonden van digitale kanalen voor de aanbieders van “fake nieuws,” is het debat over de vraag hoe we desinformatie moeten bestrijden niet van tafel verdwenen. Er is veel gebeurd in de acht maanden sinds functionarissen van Facebook, Google en Twitter voor het Amerikaanse Congres verschenen om vragen te beantwoorden over hoe Russische bronnen hun platforms hadden weten te exploiteren om de verkiezingen te beïnvloeden. Maar als er één ding is dat door de speurtocht naar oplossingen duidelijk is geworden, dan is het dat er geen zilveren kogel bestaat.
In plaats van één samenhangende oplossing hebben we behoefte aan een reeks stappen waarmee het probleem vanuit meerdere hoeken kan worden aangepakt. Het moderne informatie-ecosysteem is als een Rubik’s Cube, waar telkens weer een andere draaibeweging nodig is om ieder individueel vierkantje “op te lossen.” Als het over digitale desinformatie gaat, moeten er op z'n minst vier dimensies in ogenschouw worden genomen.
In de eerste plaats: door wie wordt de desinformatie gedeeld? Desinformatie die door buitenlandse actoren wordt verspreid moet heel anders behandeld worden – zowel juridisch als normatief – dan desinformatie die door burgers wordt verspreid, vooral in de Verenigde Staten, met hun ongeëvenaarde bescherming van de vrijheid van meningsuiting en hun betrekkelijk strikte regels ten aanzien van buitenlandse inmenging.
In de VS kunnen minder geavanceerde gevallen van buitenlandse inmenging worden aangepakt met een mengeling van taalherkenningsalgoritmen en geolocatietechnieken, om actoren te kunnen identificeren die vanuit het buitenland werken. Waar veranderingen op het niveau van de platforms niet helpen, kunnen bredere overheidsinterventies zoals algemene sancties worden ingezet.
In de tweede plaats: waarom wordt de desinformatie gedeeld? “Misinformatie” – onnauwkeurige informatie die onbedoeld wordt verspreid – verschilt nogal van desinformatie of propaganda, die doelbewust worden verspreid. Voorkomen dat goedbedoelende actoren onbewust valse informatie delen kan – althans gedeeltelijk – worden aangepakt via bewustwordingscampagnes die zich richten op nieuwsconsumenten, of via fact-checking initiatieven. Slechtbedoelende actoren ervan weerhouden dergelijke informatie doelbewust te delen is ingewikkelder en afhankelijk van hun specifieke oogmerken.
Voor degenen die worden gemotiveerd door winstbejag – zoals de nu beruchte Macedonische tieners die duizenden dollars verdienden met het runnen van “fake nieuws”-sites – kan nieuw advertentiebeleid dat inkomstenmodellen ontwricht wellicht helpen. Maar dergelijk beleid zou degenen niet tegenhouden die om politieke of sociale redenen desinformatie delen. Als die actoren optreden als onderdeel van georganiseerde netwerken, zullen interventies wellicht een heel netwerk moeten ontwrichten om effectief te kunnen zijn.
Secure your copy of PS Quarterly: The Climate Crucible
The newest issue of our magazine, PS Quarterly: The Climate Crucible, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
In de derde plaats: hoe wordt de desinformatie gedeeld? Als actoren inhoud delen via de sociale media, kunnen veranderingen in het beleid van de platforms en/of overheidstoezicht volstaan. Maar zulke veranderingen moeten specifiek zijn.
Om te voorkomen dat bots gebruikt worden om inhoud kunstmatig te vermenigvuldigen, zouden platforms bijvoorbeeld kunnen eisen dat gebruikers hun werkelijke identiteit onthullen (hoewel dit weer problematisch zou zijn in autoritaire regimes, waar anonimiteit de pleitbezorgers van de democratie beschermt). Om geavanceerde microtargeting te beperken – het gebruik van consumentendata en demografische gegevens om de interesses en het gedrag van individuen te voorspellen, teneinde hun gedachten of daden te beïnvloeden –, zullen platforms wellicht hun beleid op het gebied van het delen van gegevens en privacybescherming moeten wijzigen, en nieuwe reclameregels moeten implementeren. In plaats van adverteerders voor slechts $30 toegang te geven tot 2300 waarschijnlijke “jodenhaters” zouden platforms bijvoorbeeld de doelwitten van politieke advertenties kunnen openbaren, bepaalde targetingcriteria kunnen verbieden, of beperkingen moeten kunnen opleggen aan de omvang van een doelgroep.
Dit is een soort wapenwedloop. Slechtbedoelende actoren zullen alle veranderingen die digitale platforms invoeren snel omzeilen. Nieuwe technieken – zoals het gebruik van blockchain om te helpen bij het vaststellen van de authenticiteit van foto's – zullen voortdurend nodig zijn. Maar er is weinig twijfel dat digitale platforms beter zijn toegerust om hun beleid regelmatig aan te passen dan de toezichthouders van de overheid.
Toch kunnen digitale platforms niet louter op eigen kracht het hoofd bieden aan desinformatie, niet in de laatste plaats omdat, op grond van sommige schattingen, sociale media slechts ongeveer 40% van het verkeer naar de meest flagrante “fake nieuws”-sites voor hun rekening nemen, terwijl de overige 60% “organisch” tot stand komt of via “dark social” (zoals tekstberichten of e-mails tussen vrienden). Deze routes zijn lastiger te controleren.
De laatste – en misschien belangrijkste – dimensie van de desinformatiepuzzel is de vraag wat er wordt gedeeld. Deskundigen hebben de neiging zich te concentreren op volledig “valse” inhoud, die makkelijker te identificeren is. Maar digitale platforms zijn al van nature gemotiveerd om dergelijke inhoud aan banden te leggen, eenvoudigweg omdat mensen in het algemeen niet als idioten willen overkomen door volledig valse verhalen te delen.
Mensen lezen en delen echter graag informatie die aansluit op hun inzichten; zij doen dat des te liever als die informatie leidt tot krachtige emoties – vooral woede. Omdat gebruikers zich massaal met dit soort inhoud bezighouden, willen digitale platforms die graag etaleren.
Dergelijke inhoud is niet alleen polariserend; zij is dikwijls misleidend en opruiend, en er zijn aanwijzingen dat zij een constructief democratisch discours kan ondermijnen. Maar waar ligt de grens tussen gevaarlijke onenigheid, gebaseerd op vertekening, en een krachtig politiek debat, gedreven door conflicterende wereldbeelden? En wie zou die lijn moeten of mogen trekken?
Zelfs als deze ethische vragen beantwoord zouden kunnen worden, stuit de identificatie van problematische inhoud op schaal op ernstige praktische problemen. Veel van de meest zorgwekkende voorbeelden van desinformatie waren niet gericht op een specifieke verkiezing of kandidaat, maar op het exploiteren van maatschappelijke verdeeldheid langs bijvoorbeeld raciale lijnen. En er is vaak geen geld mee gemoeid. Als gevolg daarvan hebben de nieuwe regels voor het toezicht op de campagnefinanciering er geen vat op, zoals de Honest Ads Act die zowel door Facebook als Twitter is gesteund.
Hoewel de oplossingen voor desinformatie in de VS al onduidelijk zijn, is de situatie zelfs nog neteliger in de internationale context, waar het probleem nóg meer gedecentraliseerd en ondoorzichtig is – opnieuw een reden dat er geen alomvattende oplossing bestaat.
Maar hoewel iedere maatregel slechts een beperkt bereik heeft – een verbeterd reclamebeleid kan 5% van het probleem oplossen, terwijl een ander beleid op het gebied van de micro-targeting wellicht 20% oplost – kan er alles bij elkaar genomen wel enige vooruitgang worden geboekt. Het eindresultaat zal een informatieklimaat zijn dat, ook al is het niet perfect, slechts een betrekkelijk kleine hoeveelheid problematische inhoud omvat – hetgeen onvermijdelijk is in democratische samenlevingen die de vrijheid van meningsuiting hoog in het vaandel dragen.
Het goede nieuws is dat deskundigen nu toegang zullen hebben tot op het terrein van de privacy beschermde gegevens van Facebook om hen te helpen de invloed van het platform op verkiezingen – en democratieën – in de hele wereld te begrijpen (en te verbeteren). We mogen hopen dat andere digitale platforms – zoals Google, Twitter, Reddit en Tumblr – dit voorbeeld zullen volgen. Met de juiste inzichten en de noodzakelijke toewijding aan fundamentele, zij het mondjesmaat toenemende, veranderingen, kan de sociale en politieke invloed van digitale platforms veilig – of althans veiliger – gemaakt worden voor de onder vuur liggende democratieën van vandaag de dag.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
If UK Chancellor of the Exchequer Rachel Reeves tried to meet all the political demands that have been placed on her, her budget would likely result in disappointing growth and financial instability. Instead, the new government's first budget should be judged according to four longer-term criteria.
lists four criteria for assessing the chancellor's attempt to meet a long list of unrealistic demands.
At COP16 in Colombia this month, delegates from nearly 200 countries will discuss how to accelerate action to protect 30% of the planet’s land and maritime areas by 2030. Central to that goal will be unlocking more investment through public-private partnerships, de-risking mechanisms, and other innovative strategies.
points out that biodiversity loss and ecosystem damage jeopardize all other global development goals.
MENLO PARK, CALIFORNIË – Sinds de Amerikaanse presidentsverkiezingen van november 2016 de kwetsbaarheid aantoonden van digitale kanalen voor de aanbieders van “fake nieuws,” is het debat over de vraag hoe we desinformatie moeten bestrijden niet van tafel verdwenen. Er is veel gebeurd in de acht maanden sinds functionarissen van Facebook, Google en Twitter voor het Amerikaanse Congres verschenen om vragen te beantwoorden over hoe Russische bronnen hun platforms hadden weten te exploiteren om de verkiezingen te beïnvloeden. Maar als er één ding is dat door de speurtocht naar oplossingen duidelijk is geworden, dan is het dat er geen zilveren kogel bestaat.
In plaats van één samenhangende oplossing hebben we behoefte aan een reeks stappen waarmee het probleem vanuit meerdere hoeken kan worden aangepakt. Het moderne informatie-ecosysteem is als een Rubik’s Cube, waar telkens weer een andere draaibeweging nodig is om ieder individueel vierkantje “op te lossen.” Als het over digitale desinformatie gaat, moeten er op z'n minst vier dimensies in ogenschouw worden genomen.
In de eerste plaats: door wie wordt de desinformatie gedeeld? Desinformatie die door buitenlandse actoren wordt verspreid moet heel anders behandeld worden – zowel juridisch als normatief – dan desinformatie die door burgers wordt verspreid, vooral in de Verenigde Staten, met hun ongeëvenaarde bescherming van de vrijheid van meningsuiting en hun betrekkelijk strikte regels ten aanzien van buitenlandse inmenging.
In de VS kunnen minder geavanceerde gevallen van buitenlandse inmenging worden aangepakt met een mengeling van taalherkenningsalgoritmen en geolocatietechnieken, om actoren te kunnen identificeren die vanuit het buitenland werken. Waar veranderingen op het niveau van de platforms niet helpen, kunnen bredere overheidsinterventies zoals algemene sancties worden ingezet.
In de tweede plaats: waarom wordt de desinformatie gedeeld? “Misinformatie” – onnauwkeurige informatie die onbedoeld wordt verspreid – verschilt nogal van desinformatie of propaganda, die doelbewust worden verspreid. Voorkomen dat goedbedoelende actoren onbewust valse informatie delen kan – althans gedeeltelijk – worden aangepakt via bewustwordingscampagnes die zich richten op nieuwsconsumenten, of via fact-checking initiatieven. Slechtbedoelende actoren ervan weerhouden dergelijke informatie doelbewust te delen is ingewikkelder en afhankelijk van hun specifieke oogmerken.
Voor degenen die worden gemotiveerd door winstbejag – zoals de nu beruchte Macedonische tieners die duizenden dollars verdienden met het runnen van “fake nieuws”-sites – kan nieuw advertentiebeleid dat inkomstenmodellen ontwricht wellicht helpen. Maar dergelijk beleid zou degenen niet tegenhouden die om politieke of sociale redenen desinformatie delen. Als die actoren optreden als onderdeel van georganiseerde netwerken, zullen interventies wellicht een heel netwerk moeten ontwrichten om effectief te kunnen zijn.
Secure your copy of PS Quarterly: The Climate Crucible
The newest issue of our magazine, PS Quarterly: The Climate Crucible, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
In de derde plaats: hoe wordt de desinformatie gedeeld? Als actoren inhoud delen via de sociale media, kunnen veranderingen in het beleid van de platforms en/of overheidstoezicht volstaan. Maar zulke veranderingen moeten specifiek zijn.
Om te voorkomen dat bots gebruikt worden om inhoud kunstmatig te vermenigvuldigen, zouden platforms bijvoorbeeld kunnen eisen dat gebruikers hun werkelijke identiteit onthullen (hoewel dit weer problematisch zou zijn in autoritaire regimes, waar anonimiteit de pleitbezorgers van de democratie beschermt). Om geavanceerde microtargeting te beperken – het gebruik van consumentendata en demografische gegevens om de interesses en het gedrag van individuen te voorspellen, teneinde hun gedachten of daden te beïnvloeden –, zullen platforms wellicht hun beleid op het gebied van het delen van gegevens en privacybescherming moeten wijzigen, en nieuwe reclameregels moeten implementeren. In plaats van adverteerders voor slechts $30 toegang te geven tot 2300 waarschijnlijke “jodenhaters” zouden platforms bijvoorbeeld de doelwitten van politieke advertenties kunnen openbaren, bepaalde targetingcriteria kunnen verbieden, of beperkingen moeten kunnen opleggen aan de omvang van een doelgroep.
Dit is een soort wapenwedloop. Slechtbedoelende actoren zullen alle veranderingen die digitale platforms invoeren snel omzeilen. Nieuwe technieken – zoals het gebruik van blockchain om te helpen bij het vaststellen van de authenticiteit van foto's – zullen voortdurend nodig zijn. Maar er is weinig twijfel dat digitale platforms beter zijn toegerust om hun beleid regelmatig aan te passen dan de toezichthouders van de overheid.
Toch kunnen digitale platforms niet louter op eigen kracht het hoofd bieden aan desinformatie, niet in de laatste plaats omdat, op grond van sommige schattingen, sociale media slechts ongeveer 40% van het verkeer naar de meest flagrante “fake nieuws”-sites voor hun rekening nemen, terwijl de overige 60% “organisch” tot stand komt of via “dark social” (zoals tekstberichten of e-mails tussen vrienden). Deze routes zijn lastiger te controleren.
De laatste – en misschien belangrijkste – dimensie van de desinformatiepuzzel is de vraag wat er wordt gedeeld. Deskundigen hebben de neiging zich te concentreren op volledig “valse” inhoud, die makkelijker te identificeren is. Maar digitale platforms zijn al van nature gemotiveerd om dergelijke inhoud aan banden te leggen, eenvoudigweg omdat mensen in het algemeen niet als idioten willen overkomen door volledig valse verhalen te delen.
Mensen lezen en delen echter graag informatie die aansluit op hun inzichten; zij doen dat des te liever als die informatie leidt tot krachtige emoties – vooral woede. Omdat gebruikers zich massaal met dit soort inhoud bezighouden, willen digitale platforms die graag etaleren.
Dergelijke inhoud is niet alleen polariserend; zij is dikwijls misleidend en opruiend, en er zijn aanwijzingen dat zij een constructief democratisch discours kan ondermijnen. Maar waar ligt de grens tussen gevaarlijke onenigheid, gebaseerd op vertekening, en een krachtig politiek debat, gedreven door conflicterende wereldbeelden? En wie zou die lijn moeten of mogen trekken?
Zelfs als deze ethische vragen beantwoord zouden kunnen worden, stuit de identificatie van problematische inhoud op schaal op ernstige praktische problemen. Veel van de meest zorgwekkende voorbeelden van desinformatie waren niet gericht op een specifieke verkiezing of kandidaat, maar op het exploiteren van maatschappelijke verdeeldheid langs bijvoorbeeld raciale lijnen. En er is vaak geen geld mee gemoeid. Als gevolg daarvan hebben de nieuwe regels voor het toezicht op de campagnefinanciering er geen vat op, zoals de Honest Ads Act die zowel door Facebook als Twitter is gesteund.
Hoewel de oplossingen voor desinformatie in de VS al onduidelijk zijn, is de situatie zelfs nog neteliger in de internationale context, waar het probleem nóg meer gedecentraliseerd en ondoorzichtig is – opnieuw een reden dat er geen alomvattende oplossing bestaat.
Maar hoewel iedere maatregel slechts een beperkt bereik heeft – een verbeterd reclamebeleid kan 5% van het probleem oplossen, terwijl een ander beleid op het gebied van de micro-targeting wellicht 20% oplost – kan er alles bij elkaar genomen wel enige vooruitgang worden geboekt. Het eindresultaat zal een informatieklimaat zijn dat, ook al is het niet perfect, slechts een betrekkelijk kleine hoeveelheid problematische inhoud omvat – hetgeen onvermijdelijk is in democratische samenlevingen die de vrijheid van meningsuiting hoog in het vaandel dragen.
Het goede nieuws is dat deskundigen nu toegang zullen hebben tot op het terrein van de privacy beschermde gegevens van Facebook om hen te helpen de invloed van het platform op verkiezingen – en democratieën – in de hele wereld te begrijpen (en te verbeteren). We mogen hopen dat andere digitale platforms – zoals Google, Twitter, Reddit en Tumblr – dit voorbeeld zullen volgen. Met de juiste inzichten en de noodzakelijke toewijding aan fundamentele, zij het mondjesmaat toenemende, veranderingen, kan de sociale en politieke invloed van digitale platforms veilig – of althans veiliger – gemaakt worden voor de onder vuur liggende democratieën van vandaag de dag.
Vertaling: Menno Grootveld