Zomaar opeens was het Twitter-account van een vriendin verdwenen. Het intikken van haar gebruikersnaam had geen zin, haar berichten waren nergens meer te vinden. Pas een dag later gaf ze een grommend teken van leven via een oud account: ‘Zit in de Twitter-gevangenis. Ik wacht op hoger beroep.’
Is onze vrijheid van meningsuiting wel veilig bij grote, private internetbedrijven? Zo nu en dan laait die discussie op. Bijvoorbeeld toen Twitter voorgoed het account van Donald Trump opschortte en webhost Amazon het conservatieve Twitter-alternatief Parler blokkeerde. Trump-aanhangers waren woest: socialemediabedrijven zouden conservatief gedachtegoed de mond snoeren. Hebben zij gelijk? Het korte antwoord: nee.
Update: YouTube verwijdert desinformatie over vaccins
YouTube
heeft laten weten voortaan nog strenger op te treden tegen desinformatie over vaccins. Niet alleen onjuiste informatie over COVID19-vaccins wordt verwijderd, maar ook video’s met valse beweringen over andere vaccins zal het bedrijf weghalen. Sinds YouTube in 2020 bekendmaakte dat het verkeerde informatie over coronavaccins zou verbannen, heeft het naar eigen zeggen al 130.000 video’s verwijderd.
Dit artikel verscheen eerder op OneWorld.nl op 18 februari 2021.
De grote jongens gaan vrijuit
Parler keerde begin dit jaar
op eigen kracht terug, en mijn vriendin die haar account kwijtraakte, plaatste allesbehalve rechts gedachtegoed: een boze tirade tegen de conservatieve Fox News-presentator Tucker Carlson deed haar de das om. Ze had hem een misogyne racist genoemd die ‘op een dag met karma te maken zou krijgen’. Twitter bestempelde het bericht als gewelddadig.
“
Door zijn kritiek op Zwarte Piet belandde Mitchell Esajas regelmatig in de ‘Facebook-gevangenis’
Wél klopt het dat socialemediabedrijven niet iedereen hetzelfde behandelen. Dat Trump überhaupt zo lang op sociale media aanwezig kon blijven, komt meer door zijn positie als wereldleider en nieuwsmaker dan door een vurig geloof in de vrijheid van meningsuiting bij socialemediabedrijven. Voor veel ‘gewone mensen’ zit een tijdelijke of permanente ban namelijk in een klein hoekje.
Mitchell Esajas, oprichter van historisch archief en cultureel centrum The Black Archives in Amsterdam, raakte tot enkele jaren geleden om de haverklap Facebook-berichten kwijt. Door zijn kritiek op Zwarte Piet en het aankaarten van andere vormen van racisme in Nederland, belandde hij regelmatig in de ‘Facebook-gevangenis’ – soms tot wel dertig dagen waarin hij niets kon plaatsen. Hij moest het doen met de mededeling dat hij ‘community-regels had overtreden’.
Ook de Canadese trans vrouw Söphie Edwards moest eraan geloven. Sinds het begin van haar transitie, drie jaar geleden, gebruikt ze haar
Instagram-account voor educatie over transgenderidentiteit. Ze was verbaasd toen een van haar posts vorig jaar opeens werd verwijderd omdat die ‘haat zou zaaien’. “Ik weet dat het Instagram om het woord ‘TERF’ ging”, vertelt ze via Facebook. TERFs (trans-exclusionary radical feminists) zijn zogenoemde feministen die trans vrouwen expliciet buitensluiten. “Toen ik een nieuwe
versie van de post plaatste zonder die afkorting erin, was er niets aan de hand.”
Het is beleid dat ze niet gewend was van haar Instagram-community, die normaliter een veilige plek voor haar is. Wel van Facebook. “Ik plaatste laatst expres een post waarin ik zei dat mannen trash zijn. Ik zat meteen drie dagen in de Facebook-gevangenis.” Dat was precies wat Edwards met de post wilde aantonen: “Als Facebook het zou willen, zou het heel gemakkelijk iets kunnen doen tegen mensen die écht haat zaaien.”
Rechtse boosheid doet het goed op sociale media
Of het waar is dat socialemediabedrijven sommige politieke ideologieën meer tegengas zouden geven dan andere (en welke dan), valt lastig te achterhalen. De platforms zelf brengen niet veel data naar buiten. Individuele
bans staan nergens netjes op een rijtje met de lengte en reden van de ban; ze zijn alleen anekdotisch te traceren.
Wat wel vaak is onderzocht is het bereik dat verschillende kanten van het politieke spectrum op sociale media hebben. En de uitkomst is steevast: rechts boert daar het beste. Dat komt door de emotionele component, zeggen de platforms zelf. Een YouTube-video waarin wordt opgeroepen tot woede jegens minderheidsgroepen leidt nu eenmaal tot meer interactie met gebruikers dan een complexe uitleg van de mechanismen achter armoede en andere sociale problematiek. Algoritmen interpreteren die eerste content als controversieel en dus interessanter, en tonen het aan meer gebruikers, die op hun beurt weer níeuwe content creëren.
“
Een YouTube-haatvideo tegen minderheidsgroepen scoort nu eenmaal beter dan een complexe uitleg over armoede
Sinds enkele jaren wordt er druk uitgeoefend op de techgiganten om iets aan deze vicieuze cirkel te doen. Zo was er na de gewelddadige aanslag op twee moskeeën in het Nieuw-Zeelandse Christchurch in 2019 veel aandacht voor de rol van socialemediaplatforms in de radicalisering van terreurplegers; in Nieuw-Zeeland werd
Christchurch Call opgericht, een verbond tussen overheden en socialemediabedrijven om radicaliserende content online beter te bestrijden.
De oplossingen die de techreuzen aandragen hebben vaak een ‘both sides’-insteek – zo trof een aangekondigde beleidsverandering bij Facebook om QAnon-groepen1 aan te pakken, ook antifascistische groeperingen in de Verenigde Staten. Facebook zelf zei ‘op te treden tegen groepen die geweld verheerlijken of laten zien dat ze wapens hebben en niet bang zijn om die te gebruiken’.
Monddood (zonder dat je het merkt)
Mitchell Esajas heeft van Facebook inmiddels een ‘beschermde status’ gekregen en hoeft niet meer zomaar voor het voortbestaan van zijn content te vrezen. Dit betekent overigens niet dat Facebook zijn berichten nooit verwijdert; wel dat een melding over een bericht van Esajas door een extra beoordelingsronde gaat voordat er actie wordt ondernomen. Deze ‘cross check’-status wordt onder meer toegepast voor publieke figuren, nieuwspagina’s, en profielen waar Facebook vaker fouten heeft gemaakt bij de beoordeling.
Maar Esajas is een uitzondering. Doorgaans houden de platforms zich vooral bezig met het verwijderen en weren van content. Zo hebben Twitter-gebruikers gereregeld last van ‘shadowbans’ – al houdt Twitter officieel vol dat het die niet uitdeelt. Wie een shadowban heeft gekregen, raakt zijn of haar berichten niet kwijt, maar is ook niet meer op het platform terug te vinden. Je bent er wel, maar moeilijk zichtbaar (alsof je in de schaduw staat).
“
De shadowban was bedoeld om trollen een time-out te geven, maar wordt ook gebruikt om sekswerkers monddood te maken
In de praktijk misbruikt Twitter de shadowbanfunctie, zegt sekswerker
Moira Mona: “De shadowban was bedoeld om trollen een time-out te geven, maar wordt ook gebruikt om sekswerkers monddood te maken.” Een enquête van actiegroep
hacking//hustling lijkt dat te bevestigen: ruim 30 procent van de sekswerkers in de onderzochte groep bleek met shadowbans te maken te hebben gehad; onder de sekswerkers die ook actief waren als antiracismeactivist, zelfs 50 procent.
Daarnaast kan Twitter je ook nauwelijks vindbaar maken: al jaren heeft Mona een zogeheten ‘search suggestion ban’. Twitter vult het zoekvenster niet automatisch aan als je de eerste letters van haar gebruikersnaam intypt. “Om mijn profiel te vinden, moet je dus mijn hele username hebben.”
Volgens de
servicevoorwaarden mogen Twitteraars expliciete beelden plaatsen. Waarom dan toch zoveel sekswerkers met shadowbans te maken krijgen? De wens om een breed publiek te dienen kan meespelen, net als angst voor klachten uit conservatieve hoek. Ook vinden sommige platforms het lastig onderscheid maken tussen daadwerkelijk illegaal materiaal en gewone pornografische content.
“
Posts van en over sekswerkers worden vaak verwijderd of leveren bans op
Overigens is Twitter voor sekswerkers ‘misschien nog wel het meest tolerante platform’, zegt Mona. “Instagram verwijdert heel veel foto’s. En op Fetlife
2 mag je weliswaar seksuele content plaatsen – zelfs racisme en transfobie is daar allemaal dikke prima – maar o wee als je sekswerker bent.” Posts van en over sekswerkers
worden vaak verwijderd of leveren bans op.Bang om partijdig te lijken
Vaak zijn de beweegredenen van een socialmediaplatform ondoorgrondelijk. Mensen die in 2020 op de muziekapp TikTok de vermelding ‘Black Lives Matter’ aan hun video’s wilden toevoegen, troffen bijvoorbeeld een lege hashtag aan. Het leek alsof de hashtag hier een shadowban had gekregen, maar in een
statement aan de pers noemde het bedrijf het een
bug. Voor een gebruiker is dat verschil natuurlijk lastig te zien.
En waar ligt überhaupt de grens tussen berichten in de schaduw plaatsen en censuur? In Rabbit Hole, een podcastserie van The New York Times, vertelt YouTube-CEO Susan Wojcicki over het hoofdpijndossier van ‘borderline extremistische’ content. Het bedrijf paste de afgelopen jaren zijn algoritme aan zodat gebruikers niet alleen video’s kregen aangeraden die leken op wat ze al bekeken hadden. Met de aanpassing hoopt YouTube te voorkomen dat digitale voorbijgangers in een bubbel terechtkomen en radicaliseren.
“
Aanpassingen aan rechtse ‘junk sites’, draaide Facebook terug; een linkse Amerikaanse nieuwssite moest het ontgelden
Zo’n algoritme-aanpassing kan natuurlijk overkomen als partijdigheid. En juist de angst om partijdig te lijken, zorgt ervoor dat de techreuzen partijdige keuzes maken. Toen Facebook in 2018
aankondigde dat het zijn nieuwsalgoritme zou aanpassen (opdat gebruikers betrouwbaardere artikelen te zien zouden krijgen),
onderzocht het achter de schermen welke nieuwsmedia door welke aanpassingen geraakt zouden worden. Aanpassingen die in het nadeel waren van rechtse ‘junk sites’, draaide het bedrijf terug, terwijl de linkse Amerikaanse nieuwssite
Mother Jones het moest ontgelden: door het nieuwe algoritme kwamen
Mother Jones-artikelen opeens minder vaak op tijdlijnen terecht.
De meerderheid censureert
Wat we niet mogen vergeten is het aandeel dat gebruikers zelf hebben in (vermeende) partijdigheid: rapporteerfuncties van verschillende sociale media worden veel misbruikt. Platforms halen posts vaak uit voorzorg al uit de lucht als ze een bepaald aantal meldingen hebben gehad. Dat overkwam bijvoorbeeld de populaire YouTuber Natalie Wynn, die onder de naam ContraPoints video’s maakt over sociale rechtvaardigheid. Een video van haar waarin rechtse argumenten over een ‘linkse censuurmachine’ onderuit werden gehaald, werd tijdelijk verwijderd. Een groot aantal gebruikers had namelijk geclaimd dat de video desinformatie verspreidde.
“
De schijn van partijdigheid blijft beangstigend voor techbedrijven
Volgens YouTube heeft het wereldwijd teams om te controleren of zulke claims terecht zijn, maar dat gebeurt vaak pas achteraf, blijkt uit veel klachten van YouTubers. Wynn moest zelf contact opnemen om de video weer online te krijgen, in een proces dat twee weken duurde. Geautomatiseerde algoritmen maken een video vaak vóór een regelrechte verwijdering al vrijwel onzichtbaar op het platform. (Wynn won het proces, maar verwijderde de video later zelf om privéredenen.)
Andere links-geëngageerde video’s uit hetzelfde ecosysteem kregen verzonnen klachten over antisemitisme voor de kiezen, zoals het kanaal van YouTuber Shaun. Hij had in een video gereageerd op claims over ‘witte genocide’. Het duurde tien dagen voordat YouTube de verwijdering van de video terugdraaide.
Dus, worden rechts-conservatieve stemmen nou onderdrukt of juist voorgetrokken? Die vraag is met de kennis van nu niet te beantwoorden. De systemen waar socialemediabedrijven al jaren aan knutselen proberen een balans te vinden tussen het stimuleren van aandacht en het vermijden van controverse. Het bestrijden van extremistische content wordt steeds belangrijker, maar de schijn van partijdigheid blijft beangstigend voor techbedrijven. De grootste schreeuwers krijgen de aandacht. De kunstmatige balans die ontstaat tussen ‘beide kanten’, treft vooral kwetsbare, vaak onzichtbare mensen hard.
