CAMBRIDGE – De term “fake-nieuws” is een toevoegsel geworden dat de Amerikaanse president Donald Trump vastplakt aan ieder hem onwelgevallig verhaal. Maar het is ook een analytische term die doelbewuste desinformatie beschrijft die wordt gepresenteerd in de vorm van een conventioneel nieuwsbericht.
Het probleem is niet compleet nieuw. In 1925 publiceerde Harper’s Magazine al een artikel over de gevaren van “fake-nieuws”. Maar vandaag de dag haalt tweederde van de Amerikaanse volwassenen een deel van zijn nieuws uit de sociale media, die gegrondvest zijn op een bedrijfsmodel dat zich leent voor manipulatie van buitenaf, en waarvan de algoritmen makkelijk kunnen worden misbruikt voor winstbejag of malafide doelstellingen.
Of ze nu van amateuristische herkomst, crimineel of gouvernementeel zijn, veel organisaties – zowel binnen- als buitenlandse – zijn zeer bedreven in het manipuleren van de manier waarop technologieplatforms informatie verspreiden. Rusland komt de eer toe een van de eerste landen te zijn geweest dat heeft begrepen hoe je de sociale media naar je hand kunt zetten en hoe je Amerikaanse bedrijven tegen de belangen van Amerika kunt inzetten.
Overweldigd door de hoeveelheid informatie die online beschikbaar is, vinden mensen het moeilijk om te bedenken waar ze zich op moeten richten. Aandacht in plaats van informatie wordt de schaarse hulpbron waarvan zij zich bedienen. Big data en kunstmatig intelligentie maken het mogelijk de communicatie zo fijnmazig in te richten dat de informatie die mensen uiteindelijk bereikt beperkt blijft tot een “filter-bubbel” van gelijkgestemden.
De “gratis” diensten die door de sociale media worden aangeboden, zijn gebaseerd op een winstmodel waarin de informatie en de aandacht van gebruikers feitelijk de producten zijn die aan adverteerders worden verkocht. Algoritmen worden ontworpen om te leren wat gebruikers bezighoudt, zodat zij meer advertenties opgediend kunnen krijgen en meer inkomsten genereren.
Emoties zoals woede stimuleren de betrokkenheid, en nieuws dat schokkend maar onwaar is blijkt méér kijkers te trekken dan feitelijk nieuws. Uit een onderzoek is gebleken dat het 70% waarschijnlijker is dat allerlei onwaarheden op Twitter worden rondgepompt dan wat er feitelijk is gebeurd. Op dezelfde manier blijkt uit een onderzoek naar betogingen in Duitsland eerder dit jaar dat het algoritme van YouTube gebruikers systematisch naar extremistische inhoud voerde, omdat daar de meeste “clicks” en de grootste omzet te behalen waren. Het fact-checking van de conventionele nieuwsmedia is dikwijls niet in staat gelijke tred te houden met dit “fake-nieuws” en kan soms zelfs contraproductief zijn, omdat het tot nog meer aandacht voor onwaarheden leidt.
Don’t miss our next event, taking place at the AI Action Summit in Paris. Register now, and watch live on February 10 as leading thinkers consider what effective AI governance demands.
Register Now
Op grond van zijn aard kan het winstmodel van de sociale media zowel door staten als niet-statelijke spelers worden misbruikt. Onlangs werd Facebook zwaar bekritiseerd vanwege de onverschilligheid waarmee de privacy van de gebruikers werd beschermd. CEO Mark Zuckerberg gaf toe dat Facebook in 2016 “niet voorbereid was op de gecoördineerde (des-)informatiecampagnes waarmee we regelmatig te maken hadden.” Het bedrijf heeft “sindsdien echter veel geleerd en geavanceerde systemen van technologie en menskracht ontwikkeld om te voorkomen dat onze diensten nog kunnen worden misbruikt om verkiezingen te manipuleren.”
Tot de genomen maatregelen behoort het inzetten van geautomatiseerde programma's om fake-accounts te vinden en te verwijderen; het bedenken van manieren om Facebook-pagina's die desinformatie verspreiden een minder prominente plek te geven dan in het verleden; het geven van openheid van zaken over het aantal valse accounts dat verwijderd wordt; het verifiëren van de nationaliteit van degenen die politieke advertenties plaatsen; het inhuren van 10.000 extra werknemers om de veiligheid van de dienstverlening te garanderen; en het verbeteren van de coördinatie met de gerechtelijke autoriteiten en andere bedrijven om verdachte activiteiten aan te pakken. Maar het probleem is daarmee niet opgelost.
De wapenwedloop zal aanhouden tussen de sociale mediabedrijven en staten en niet-statelijke spelers die investeren in manieren om misbruik te maken van de systemen van deze bedrijven. Technologische oplossingen als kunstmatige intelligentie zijn geen wondermiddel. Omdat het vaak sensationeler en schokkender is, doet fake-nieuws sneller de ronde en bereikt het meer mesen dan echt nieuws. Valse informatie op Twitter wordt door veel meer mensen en veel sneller rondgepompt dan ware informatie, en het telkens herhalen ervan – zelfs in de context van fact-checking – kan de waarschijnlijkheid vergroten dat een individu het als de waarheid aanvaardt.
Tijdens de voorbereidingen voor de Amerikaanse presidentsverkiezingen van 2016 heeft het Internet Research Agency in het Russische St. Petersburg ruim een jaar lang tientallen sociale media-accounts gecreëerd die eruit zagen als plaatselijke Amerikaanse nieuws-sites. Soms spraken deze sites een uitgesproken voorkeur uit voor een kandidaat, maar dikwijls waren zij louter ontworpen om een gevoel van chaos en walging over de democratie teweeg te brengen, en om de kiezersopkomst negatief te beïnvloeden.
Toen het Amerikaanse Congres in 1996 de Communications Decency Act aannam, werden de destijds prille internetbedrijven daarin behandeld als neutrale telecomproviders die hun klanten in staat stelden met elkaar te communiceren. Maar dit model is duidelijk achterhaald. Onder politieke druk zijn de grootste bedrijven het verkeer op hun netwerken zorgvuldiger in de gaten gaan houden en overduidelijke fake-sites en -accounts gaan verwijderen, inclusief zogenoemde “botnets” (sites en accounts waar geen mensen, maar computerprogramma's achter zitten).
Maar het opleggen van beperkingen aan de vrijheid van meningsuiting, die wordt beschermd door het Eerste Amendement op de Amerikaanse Grondwet, brengt ingewikkelde praktische problemen met zich mee. Hoewel machines en niet-Amerikaanse spelers geen rechten kunnen ontlenen aan dit Eerste Amendement (en particuliere ondernemingen hier sowieso niet aan gebonden zijn), is dit Amendement wel van kracht voor weerzinwekkende binnenlandse groeperingen en individuen, die tevens kunnen dienen als intermediair voor buitenlanders).
Hoe dan ook zou de schade die door buitenlandse spelers wordt berokkend wel eens minder groot kunnen zijn dan de schade die we onszelf berokkenen. Het probleem van fake-nieuws en de buitenlandse nabootsing van echte nieuwsbronnen is lastig, omdat er belangrijke, fundamentele waarden mee gemoeid zijn. De sociale mediabedrijven, die bang zijn te maken te krijgen met censuur, willen zien te voorkomen dat ze gereguleerd worden door wetgevers die hen bekritiseren omdat ze steken laten vallen en (soms) medeplichtig zijn.
Uit ervaringen rondom verkiezingen in Europa blijkt dat onderzoeksjournalistiek en het van te voren waarschuwen van het publiek kunnen helpen kiezers te waarschuwen voor desinformatiecampagnes. Maar de strijd tegen fake-nieuws zal waarschijnlijk een kat-en-muis-spel blijven tussen de producenten ervan en de bedrijven wier platforms misbruikt worden. Fake-nieuws zal deel blijven uitmaken van het achtergrondgeluid bij verkiezingen overal ter wereld. Voortdurende waakzaamheid is de prijs die we zullen moeten betalen voor het beschermen van onze democratieën.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
In betting that the economic fallout from his sweeping new tariffs will be worth the gains in border security, US President Donald Trump is gambling with America’s long-term influence and prosperity. In the future, more countries will have even stronger reasons to try to reduce their reliance on the United States.
thinks Donald Trump's trade policies will undermine the very goals they aim to achieve.
While America’s AI industry arguably needed shaking up, the news of a Chinese startup beating Big Tech at its own game raises some difficult questions. Fortunately, if US tech leaders and policymakers can take the right lessons from DeepSeek's success, we could all end up better for it.
considers what an apparent Chinese breakthrough means for the US tech industry, and innovation more broadly.
CAMBRIDGE – De term “fake-nieuws” is een toevoegsel geworden dat de Amerikaanse president Donald Trump vastplakt aan ieder hem onwelgevallig verhaal. Maar het is ook een analytische term die doelbewuste desinformatie beschrijft die wordt gepresenteerd in de vorm van een conventioneel nieuwsbericht.
Het probleem is niet compleet nieuw. In 1925 publiceerde Harper’s Magazine al een artikel over de gevaren van “fake-nieuws”. Maar vandaag de dag haalt tweederde van de Amerikaanse volwassenen een deel van zijn nieuws uit de sociale media, die gegrondvest zijn op een bedrijfsmodel dat zich leent voor manipulatie van buitenaf, en waarvan de algoritmen makkelijk kunnen worden misbruikt voor winstbejag of malafide doelstellingen.
Of ze nu van amateuristische herkomst, crimineel of gouvernementeel zijn, veel organisaties – zowel binnen- als buitenlandse – zijn zeer bedreven in het manipuleren van de manier waarop technologieplatforms informatie verspreiden. Rusland komt de eer toe een van de eerste landen te zijn geweest dat heeft begrepen hoe je de sociale media naar je hand kunt zetten en hoe je Amerikaanse bedrijven tegen de belangen van Amerika kunt inzetten.
Overweldigd door de hoeveelheid informatie die online beschikbaar is, vinden mensen het moeilijk om te bedenken waar ze zich op moeten richten. Aandacht in plaats van informatie wordt de schaarse hulpbron waarvan zij zich bedienen. Big data en kunstmatig intelligentie maken het mogelijk de communicatie zo fijnmazig in te richten dat de informatie die mensen uiteindelijk bereikt beperkt blijft tot een “filter-bubbel” van gelijkgestemden.
De “gratis” diensten die door de sociale media worden aangeboden, zijn gebaseerd op een winstmodel waarin de informatie en de aandacht van gebruikers feitelijk de producten zijn die aan adverteerders worden verkocht. Algoritmen worden ontworpen om te leren wat gebruikers bezighoudt, zodat zij meer advertenties opgediend kunnen krijgen en meer inkomsten genereren.
Emoties zoals woede stimuleren de betrokkenheid, en nieuws dat schokkend maar onwaar is blijkt méér kijkers te trekken dan feitelijk nieuws. Uit een onderzoek is gebleken dat het 70% waarschijnlijker is dat allerlei onwaarheden op Twitter worden rondgepompt dan wat er feitelijk is gebeurd. Op dezelfde manier blijkt uit een onderzoek naar betogingen in Duitsland eerder dit jaar dat het algoritme van YouTube gebruikers systematisch naar extremistische inhoud voerde, omdat daar de meeste “clicks” en de grootste omzet te behalen waren. Het fact-checking van de conventionele nieuwsmedia is dikwijls niet in staat gelijke tred te houden met dit “fake-nieuws” en kan soms zelfs contraproductief zijn, omdat het tot nog meer aandacht voor onwaarheden leidt.
PS Events: AI Action Summit 2025
Don’t miss our next event, taking place at the AI Action Summit in Paris. Register now, and watch live on February 10 as leading thinkers consider what effective AI governance demands.
Register Now
Op grond van zijn aard kan het winstmodel van de sociale media zowel door staten als niet-statelijke spelers worden misbruikt. Onlangs werd Facebook zwaar bekritiseerd vanwege de onverschilligheid waarmee de privacy van de gebruikers werd beschermd. CEO Mark Zuckerberg gaf toe dat Facebook in 2016 “niet voorbereid was op de gecoördineerde (des-)informatiecampagnes waarmee we regelmatig te maken hadden.” Het bedrijf heeft “sindsdien echter veel geleerd en geavanceerde systemen van technologie en menskracht ontwikkeld om te voorkomen dat onze diensten nog kunnen worden misbruikt om verkiezingen te manipuleren.”
Tot de genomen maatregelen behoort het inzetten van geautomatiseerde programma's om fake-accounts te vinden en te verwijderen; het bedenken van manieren om Facebook-pagina's die desinformatie verspreiden een minder prominente plek te geven dan in het verleden; het geven van openheid van zaken over het aantal valse accounts dat verwijderd wordt; het verifiëren van de nationaliteit van degenen die politieke advertenties plaatsen; het inhuren van 10.000 extra werknemers om de veiligheid van de dienstverlening te garanderen; en het verbeteren van de coördinatie met de gerechtelijke autoriteiten en andere bedrijven om verdachte activiteiten aan te pakken. Maar het probleem is daarmee niet opgelost.
De wapenwedloop zal aanhouden tussen de sociale mediabedrijven en staten en niet-statelijke spelers die investeren in manieren om misbruik te maken van de systemen van deze bedrijven. Technologische oplossingen als kunstmatige intelligentie zijn geen wondermiddel. Omdat het vaak sensationeler en schokkender is, doet fake-nieuws sneller de ronde en bereikt het meer mesen dan echt nieuws. Valse informatie op Twitter wordt door veel meer mensen en veel sneller rondgepompt dan ware informatie, en het telkens herhalen ervan – zelfs in de context van fact-checking – kan de waarschijnlijkheid vergroten dat een individu het als de waarheid aanvaardt.
Tijdens de voorbereidingen voor de Amerikaanse presidentsverkiezingen van 2016 heeft het Internet Research Agency in het Russische St. Petersburg ruim een jaar lang tientallen sociale media-accounts gecreëerd die eruit zagen als plaatselijke Amerikaanse nieuws-sites. Soms spraken deze sites een uitgesproken voorkeur uit voor een kandidaat, maar dikwijls waren zij louter ontworpen om een gevoel van chaos en walging over de democratie teweeg te brengen, en om de kiezersopkomst negatief te beïnvloeden.
Toen het Amerikaanse Congres in 1996 de Communications Decency Act aannam, werden de destijds prille internetbedrijven daarin behandeld als neutrale telecomproviders die hun klanten in staat stelden met elkaar te communiceren. Maar dit model is duidelijk achterhaald. Onder politieke druk zijn de grootste bedrijven het verkeer op hun netwerken zorgvuldiger in de gaten gaan houden en overduidelijke fake-sites en -accounts gaan verwijderen, inclusief zogenoemde “botnets” (sites en accounts waar geen mensen, maar computerprogramma's achter zitten).
Maar het opleggen van beperkingen aan de vrijheid van meningsuiting, die wordt beschermd door het Eerste Amendement op de Amerikaanse Grondwet, brengt ingewikkelde praktische problemen met zich mee. Hoewel machines en niet-Amerikaanse spelers geen rechten kunnen ontlenen aan dit Eerste Amendement (en particuliere ondernemingen hier sowieso niet aan gebonden zijn), is dit Amendement wel van kracht voor weerzinwekkende binnenlandse groeperingen en individuen, die tevens kunnen dienen als intermediair voor buitenlanders).
Hoe dan ook zou de schade die door buitenlandse spelers wordt berokkend wel eens minder groot kunnen zijn dan de schade die we onszelf berokkenen. Het probleem van fake-nieuws en de buitenlandse nabootsing van echte nieuwsbronnen is lastig, omdat er belangrijke, fundamentele waarden mee gemoeid zijn. De sociale mediabedrijven, die bang zijn te maken te krijgen met censuur, willen zien te voorkomen dat ze gereguleerd worden door wetgevers die hen bekritiseren omdat ze steken laten vallen en (soms) medeplichtig zijn.
Uit ervaringen rondom verkiezingen in Europa blijkt dat onderzoeksjournalistiek en het van te voren waarschuwen van het publiek kunnen helpen kiezers te waarschuwen voor desinformatiecampagnes. Maar de strijd tegen fake-nieuws zal waarschijnlijk een kat-en-muis-spel blijven tussen de producenten ervan en de bedrijven wier platforms misbruikt worden. Fake-nieuws zal deel blijven uitmaken van het achtergrondgeluid bij verkiezingen overal ter wereld. Voortdurende waakzaamheid is de prijs die we zullen moeten betalen voor het beschermen van onze democratieën.
Vertaling: Menno Grootveld