Auteur: Allum Bokhari

In januari, toen elk groot technologiebedrijf in Silicon Valley de president van de Verenigde Staten permanent van zijn platform verbande, was er overal ter wereld een backlash. De een na de ander lieten regerings- en partijleiders – velen van hen ideologisch gekant tegen het beleid van president Trump – hun stem horen tegen de macht en arrogantie van de Amerikaanse technologiegiganten. Deze omvatten de president van Mexico, de bondskanselier van Duitsland, de regering van Polen, ministers in de Franse en Australische regeringen, het neoliberale centrumrechtse blok in het Europees Parlement, het nationaal-populistische blok in het Europees Parlement, de leider van de Russische oppositie (die onlangs een moordaanslag heeft overleefd) en de Russische regering (die mogelijk achter die aanslag zat).

Veel voorkomende bedreigingen zorgen voor vreemde bondgenoten. Socialisten, conservatieven, nationalisten, neoliberalen, autocraten en anti-autocraten zijn het misschien oneens over veel zaken, maar ze erkennen allemaal dat de tech-reuzen veel te veel macht hebben vergaard. Niemand houdt van het idee dat een troep Amerikaanse hipsters in Silicon Valley op elk moment hun digitale communicatielijnen kunnen afsnijden.

Ik heb een boek over dit onderwerp gepubliceerd voorafgaand aan de Amerikaanse presidentsverkiezingen in november, en velen die me toen ‘alarmerend’ noemden, zijn daar nu niet meer zo zeker van. Ik heb het boek opgebouwd rond interviews met insiders uit Silicon Valley en gesteund op vijf jaar rapportage als technisch correspondent voor Breitbart News. Breitbart richtte in 2015 een speciaal technisch rapportageteam op – een tijd waarin maar weinigen het gevaar inzagen dat de opkomende golf van linkse vijandigheid  zou vormen tegenover de vrijheid van meningsuiting voor de visie van het World Wide Web als een vrij en open platform voor alle standpunten.

Deze omkering van dat vroege libertaire ideaal – de beweging van de vrijheid van informatie naar de controle van informatie op het web – is het verhaal van de afgelopen vijf jaar.

***

Toen het web in de jaren negentig werd gecreëerd, was het doel dat iedereen die een stem wilde, er een kon krijgen. Het enige wat iemand hoefde te doen om toegang te krijgen tot de wereldmarkt van ideeën, was online gaan en een website opzetten. Eenmaal gemaakt, was de website van die persoon. Vooral als de persoon zijn eigen server had, kon niemand hem deplatformen. Dat was zo ontworpen, omdat het web, toen het werd uitgevonden, concurreerde met andere soorten onlinediensten die niet zo gratis en open waren.

Het is belangrijk om te onthouden dat het web, zoals we het nu kennen – een netwerk van websites waartoe toegang wordt verkregen via browsers – niet de eerste online dienst ooit was. In de jaren negentig vond Sir Timothy Berners-Lee de technologie uit die websites en webbrowsers ondersteunt en creëerde hij het web zoals we het nu kennen. Maar er waren andere online services, waarvan sommige dateren van vóór de uitvinding van Berners-Lee. Bedrijven als CompuServe en Prodigy hadden in de jaren negentig hun eigen online netwerken – netwerken die los stonden van het web en toegangspunten hadden die anders waren dan webbrowsers. Deze particuliere netwerken waren open voor het publiek, maar CompuServe en Prodigy hadden alle informatie over hen in handen en konden mensen om welke reden dan ook van hun netwerk verbannen.

Op deze manieren was het web anders. Niemand bezat het, bezat de informatie erop, of kon iemand eraf schoppen. Dat was in ieder geval het idee voordat het web werd veroverd door een handvol bedrijven.

We kennen allemaal hun naam: Google, Facebook, Twitter, YouTube, Amazon. Net als Prodigy en CompuServe in de jaren ’90 bezitten ze alles op hun platformen en hebben ze de politiebevoegdheid over wat er kan worden gezegd en wie kan deelnemen. Maar het is tegenwoordig veel belangrijker dan in de jaren ’90. Destijds maakten maar heel weinig mensen gebruik van onlinediensten. Tegenwoordig gebruikt iedereen ze – het is praktisch onmogelijk om ze niet te gebruiken. Bedrijven zijn van hen afhankelijk. Nieuwsuitgevers zijn van hen afhankelijk. Politici en politieke activisten zijn van hen afhankelijk. En cruciaal is dat burgers voor informatie van hen afhankelijk zijn.

Tegenwoordig betekent Big Tech niet alleen controle over online informatie. Het betekent controle over nieuws. Het betekent controle over de handel. Het betekent controle over de politiek. En hoe gebruiken de technische giganten van bedrijven hun controle? Te oordelen naar de drie grootste stappen die ze hebben gemaakt sinds ik mijn boek schreef: het censureren van de New York Post in oktober, toen het zijn blockbuster-verhalen publiceerde over de corruptie in de familie Biden, de censuur en het uiteindelijke verbannen van het web van president Trump, en de gecoördineerde verwijdering van de nieuwe sociale mediasite Parler – het is duidelijk dat de prioriteit van Big Tech vandaag de dag is om politiek links en het establishment in Washington te steunen.

Big Tech is de krachtigste verkiezingsbeïnvloedende machine in de Amerikaanse geschiedenis geworden. Het is niet overdreven om te zeggen dat als de technologieën van Silicon Valley zich maximaal kunnen ontwikkelen, zonder enig overzicht of checks and balances, we nooit meer een vrije en eerlijke verkiezing zullen hebben. Maar de kracht van Big Tech gaat verder dan de manipulatie van politiek gedrag. Zoals een van mijn Facebook-bronnen me vertelde in een interview voor mijn boek: “We hebben duizenden mensen op het platform die het afgelopen jaar van uiterst rechts naar het midden zijn gegaan, dus we kunnen een model van die mensen bouwen en proberen alle anderen aan de rechterzijde hetzelfde pad te doen volgen.” Laat dat maar doordringen. Ze willen niet alleen informatie of zelfs stemgedrag controleren, ze willen het wereldbeeld van mensen manipuleren.

Is het te veel om te zeggen dat Big Tech prioriteit heeft gegeven aan dit soort manipulatie? Bedenk dat Twitter momenteel wordt geconfronteerd met een rechtszaak van een slachtoffer van seksueel misbruik van kinderen die zegt dat het bedrijf herhaaldelijk heeft nagelaten een video te verwijderen waarin zijn aanranding wordt afgebeeld, en dat het er uiteindelijk alleen mee instemde om dit te doen na tussenkomst van een agent van Homeland Security. Dus Twitter neemt het op zich om de president van de Verenigde Staten te verbannen, maar verwijderde kinderpornografie pas nadat het door de federale ordehandhaving daartoe werd aangespoord.

***

Hoe manipuleert Big Tech onze gedachten en ons gedrag? Het begint met het feit dat deze technologiebedrijven ernaar streven alles over ons te weten: onze voorkeuren en antipathieën, de problemen waarin we geïnteresseerd zijn, de websites die we bezoeken, de video’s die we bekijken, op wie we hebben gestemd en ons partijlidmaatschap. Als je naar een Hannukah-recept zoekt, weten ze dat je waarschijnlijk Joods bent. Als je de Yankees aan het bespotten bent, zullen ze erachter komen dat je een Red Sox-fan bent. Zelfs als uw smartphone is uitgeschakeld, houden ze uw locatie bij. Ze weten voor wie je werkt, wie je vrienden zijn, wanneer je met je hond wandelt, of je naar de kerk gaat, wanneer je in de rij staat om te stemmen, enzovoort.

Zoals ik al zei, controleert Big Tech ook hoe onze overtuigingen en gedragingen in de loop van de tijd veranderen. Ze identificeren de soorten inhoud die onze overtuigingen en ons gedrag kunnen veranderen, en ze gebruiken die kennis. Ze hebben dit lange tijd openlijk gedaan om consumentengedrag te manipuleren, zodat we op bepaalde advertenties klikken of bepaalde producten kopen. Iedereen die deze platforms gedurende een langere periode heeft gebruikt, is ongetwijfeld het griezelige fenomeen tegengekomen waarbij u op zoek bent naar informatie over een product of dienst, bijvoorbeeld een magnetron, en minuten later verschijnen er advertenties voor magnetrons op uw scherm. Dezelfde technieken kunnen worden gebruikt om politieke meningen te manipuleren.

Ik zei dat Big Tech onlangs ideologische vooringenomenheid heeft getoond. Maar het is evenzeer waar dat deze bedrijven in de politiek enorme economische belangen hebben. De partij die de macht heeft, zal bepalen of ze overheidscontracten krijgen, of ze belastingvoordelen krijgen en of en hoe hun branche wordt gereguleerd. Ze hebben duidelijk een commercieel belang bij politieke controle – en op dit moment belet niemand hen om die uit te oefenen.

Denk aan de feedback-lus om te begrijpen hoe effectief de manipulatie van Big Tech kan worden:

Omdat Big Tech voortdurend gegevens over ons verzamelt, voeren ze tests uit om te zien welke informatie invloed op ons heeft. Stel dat ze ons een negatief nieuwsbericht over iemand of iets voorleggen, en we klikken er niet op en lezen het niet. Ze gaan ermee door totdat ze inhoud vinden die het gewenste effect heeft. De feedback-lus verbetert voortdurend, en dit op een manier die niet detecteerbaar is.

Wat bepaalt wat er bovenaan de Facebook-feed, Twitter-feed of Google-zoekresultaten van een persoon wordt weergegeven? Verschijnt het daar omdat het populair is of omdat het viraal is gegaan? Is het er omdat het is waar je in geïnteresseerd bent? Of is er een andere reden waarom Big Tech wil dat het er is? Is het daar omdat Big Tech gegevens heeft verzameld die suggereren dat het waarschijnlijk uw denken of uw gedrag in een bepaalde richting zal duwen? Hoe kunnen we dat weten?

Wat we wel weten, is dat Big Tech openlijk de inhoud manipuleert die mensen zien. We weten bijvoorbeeld dat Google de zichtbaarheid van Breitbart News-links in zoekresultaten in 2020 met 99 procent heeft verminderd in vergelijking met dezelfde periode in 2016. We weten dat nadat Google afgelopen zomer een update introduceerde, clicks op Breitbart News-artikelen van Google-zoekopdrachten “Joe Biden” tot nul daalden en zo bleven tijdens de verkiezingen. Dit gebeurde niet geleidelijk, maar in één klap – alsof Google een schakelaar had. En dit was te ontdekken door het gebruik van Google’s eigen internetverkeersanalysetools, dus het is niet alsof het Google iets kon schelen dat we ervan wisten.

Maar nog verontrustender, denk ik, zijn de onzichtbare dingen die deze bedrijven doen. Denk aan “kwaliteitsbeoordelingen”. Elk Big Tech-platform heeft een versie hiervan, hoewel sommigen verschillende namen gebruiken. De kwaliteitsbeoordeling bepaalt wat er bovenaan uw zoekresultaten, of uw Twitter- of Facebook-feed, enz. wordt weergegeven. Het is een numerieke waarde op basis van wat de algoritmen van Big Tech bepalen in termen van ‘kwaliteit’. In het verleden werd deze score bepaald door criteria die enigszins objectief waren: als een website of post virussen, malware, spam of auteursrechtelijk beschermd materiaal bevatte, zou dat een negatieve invloed hebben op de kwaliteitsscore. Als een video of post aan populariteit wint, neemt de kwaliteitsscore toe. Dat klinkt eerlijk.

In de afgelopen jaren echter – en je kunt het begin van de verandering traceren naar de overwinning van Donald Trump in 2016 – heeft Big Tech allerlei nieuwe criteria geïntroduceerd die de kwaliteitsscores mee bepalen. Tegenwoordig zijn de algoritmen op Google en Facebook afgesteld om “haatdragende taal”, “verkeerde informatie” en “gezaghebbende” (in tegenstelling tot “niet-gezaghebbende”) bronnen te detecteren. Algoritmen analyseren het netwerk van een gebruiker, zodat alles wat gebruikers volgen op sociale media, bijvoorbeeld ‘niet-gezaghebbende’ nieuwsuitzendingen, de kwaliteitsscore van de gebruiker beïnvloedt. Algoritmen detecteren ook het gebruik van taal die door Big Tech wordt afgekeurd – bijvoorbeeld “illegale immigrant” (slecht) in plaats van “immigrant zonder papieren” (goed) – en passen de kwaliteitsscores dienovereenkomstig aan. Enzovoort.

Dit wil niet zeggen dat u hiervan op de hoogte bent of dat u uw kwaliteitsscore kunt opzoeken. Dit alles gebeurt onzichtbaar. Het is Silicon Valley’s versie van het sociale kredietsysteem van de Chinese Communistische Partij. Net als in China, als je de waarden van de heersende elite tart of de verhalen uitdaagt die de elite ‘gezaghebbend’ noemt, zal je score worden verlaagd en je stem zal worden onderdrukt. En het zal geheel in stilte gebeuren, zonder uw medeweten.

Deze technologie is nog enger in combinatie met de mogelijkheid van Big Tech om hele netwerken van mensen te detecteren en te monitoren. Een gebied van de informatica genaamd ‘netwerkanalyse’ is gewijd aan het identificeren van groepen mensen met gedeelde interesses, die vergelijkbare websites lezen, die over soortgelijke dingen praten, die vergelijkbare gewoonten hebben, die vergelijkbare mensen volgen op sociale media en die vergelijkbare politieke standpunten hebben. Big Tech-bedrijven kunnen detecteren wanneer bepaalde informatie door een bepaald netwerk stroomt – als er bijvoorbeeld een nieuwsbericht, een bericht of een video is dat viraal gaat onder conservatieven of onder kiezers in het algemeen. Dit geeft hen de mogelijkheid om een ​​verhaal dat ze niet leuk vinden af ​​te sluiten voordat het uit de hand loopt. En deze systemen worden steeds geavanceerder.

***

Als de capaciteiten van Big Tech zich ongecontroleerd en ongereguleerd kunnen ontwikkelen, zullen deze bedrijven uiteindelijk de macht hebben om niet alleen bestaande politieke bewegingen te onderdrukken, maar ook om te anticiperen en de opkomst van nieuwe te voorkomen. Dit zou het einde betekenen van de democratie zoals we die kennen, omdat het ons voor altijd onder de duim zou plaatsen van een onverklaarbare oligarchie.

Het goede nieuws is dat er een manier is om de tirannieke technologiegiganten in toom te houden. En de manier is simpel: neem hun macht weg om namens ons informatie te filteren en gegevens te filteren.

Alle kracht van Big Tech komt van hun inhoudsfilters: de filters op ‘aanzetten tot haat’, de filters op ‘verkeerde informatie’, de filters die ‘gezaghebbende’ bronnen onderscheiden van ‘niet-gezaghebbende’ bronnen, enzovoort. Op dit moment zijn deze filters standaard ingeschakeld. Wij als individuen kunnen ze niet uitschakelen. Maar het hoeft niet zo te zijn.

De belangrijkste eis die we kunnen stellen aan wetgevers en toezichthouders is dat het Big Tech verboden wordt om deze filters te activeren zonder ons medeweten en onze toestemming. Het zou hen verboden moeten worden dit te doen – en zelfs verboden om ons er toe aan te zetten een filter in te schakelen – en dit op straffe van verlies van hun immuniteit in toepassing van artikel 230 als uitgevers van inhoud van derden. Dit beleid moet strikt worden gehandhaafd, en het moet zelfs gelden voor ogenschijnlijk niet-politieke filters zoals relevantie en populariteit. Alles minder dan dit opent de deur voor manipulatie.

Ons uiteindelijke doel zou een marktplaats moeten zijn waarop externe bedrijven vrij zijn om filters te ontwerpen die kunnen worden aangesloten op services zoals Twitter, Facebook, Google en YouTube. Met andere woorden, we zouden twee afzonderlijke categorieën bedrijven hebben: bedrijven die inhoud hosten en bedrijven die filters maken om die inhoud te sorteren. Op zo’n markt zouden gebruikers de maximale keuzemogelijkheden hebben bij het bepalen van hun online ervaringen. Tegelijkertijd zou Big Tech zijn macht verliezen om onze gedachten en ons gedrag te manipuleren en legale inhoud – wat gewoon een extremere vorm van filteren is – van het web te weren.

Dit zou de norm moeten zijn die we eisen, en het zou sector breed moeten zijn. Het alternatief is een soort digitaal lijfeigenschap. We staan ​​traditioneel lijfeigenschap niet meer toe – individuen en bedrijven hebben een eerlijk proces en kunnen niet worden uitgezet omdat hun huisbaas hun politiek niet leuk vindt. Waarom zouden we deze rechten niet ook hebben als ons bedrijf of ons levensonderhoud afhankelijk is van een Facebook-pagina of een Twitter- of YouTube-account?

Dit is een kwestie die verder gaat dan partijdigheid. Wat de techreuzen doen is zo transparant onrechtvaardig dat iedereen er om zou moeten gaan geven – omdat we onder de huidige regeling allemaal aan hen overgeleverd zijn. Het World Wide Web was bedoeld om ons te bevrijden. Het doet nu het tegenovergestelde. Big Tech heeft steeds meer de touwtjes in handen. De meest prangende vraag van vandaag is: hoe gaan we de controle terugnemen?