Recentelijk heeft Gregory Coppola, senior Google-ingenieur, contact opgenomen met de waakhondgroep Project Veritas om te praten over de vooringenomenheid van Google die van invloed is op de informatie die gebruikers krijgen over politieke keuzes. (Hier is het interview.)
Coppola, die opgroeide in Canada, vertelde Project Veritas dat hij Google had ervaren als een vrij neutrale plek op politiek gebied toen hij daar in 2014 voor het eerst aan Google Assistant begon te werken. De dingen veranderden tijdens de Amerikaanse verkiezingen van 2016, toen “elk techbedrijf, iedereen in New York, iedereen op het gebied van computerwetenschap in principe geloofde dat” iedereen die Donald Trump steunde een racist was. Ongelukkig voor hemzelf, Coppola vond Trump wel aardig.
Op het moment dat er weer Amerikaanse verkiezingen aankomen, gaf hij zijn zorgen door aan Project Veritas. Uit de video:
Narrator: Volgens Coppola is de agenda van Big Tech gevaarlijk, voor een groot deel omdat die verborgen is.
Coppola: Ik denk dat we een lange periode hebben gehad, van laten we zeggen tien jaar, waarin we zoekmachines en sociale media hadden die geen politieke vooringenomenheid hadden en we een soort van gewend raakten aan het idee dat top search dat was, Google was waarschijnlijk het antwoord. En Robert Epstein, die vorige week voor het Congres getuigde, onderzocht dit en toonde aan dat de overgrote meerderheid van de mensen denkt dat als iets hoger wordt gewaardeerd op Google Search dan een ander verhaal, dat het dan belangrijker en correcter zou zijn. En, en we hebben nog geen tijd gehad om het feit te verwerken dat tech een agenda kan hebben. Ik bedoel, het is iets waar we nu pas over beginnen te praten. Dat is waarom ik met je praat.
Coppola verwijst naar de recente getuigenis van de veel gepubliceerde gedragsonderzoekspsycholoog Robert Epstein (die zichzelf omschreef als “centrum-links” voor een Senaatscommissie):
Gegevens die ik sinds 2016 heb verzameld, tonen aan dat Google inhoud aan het Amerikaanse publiek toont die bevooroordeeld is in het voordeel van één politieke partij (Epstein & Williams, 2019) – een partij die ik toevallig leuk vind, maar dat doet niet ter zake. Geen enkel particulier bedrijf zou het recht of de macht moeten hebben om grote bevolkingsgroepen te manipuleren zonder dat zij het weten. …
Ik richt me tot diverse, verschillende doelgroepen omdat de bedreigingen die uitgaan van Google, en in mindere mate van Facebook, zo ernstig zijn dat ik vind dat iedereen in de wereld ervan op de hoogte moet zijn. Ik zet mijn eigen politieke overtuigingen opzij wanneer ik mijn gegevens en zorgen rapporteer, omdat de problemen van deze bedrijven de persoonlijke politiek overschaduwen. Om het anders te zeggen: ik hou meer van de mensheid, mijn land en de democratie dan van een bepaalde partij of kandidaat. En de democratie zoals die oorspronkelijk is opgezet, kan de huidige macht van Big Tech niet overleven.
Als u de gegevens zou bestuderen die ik de afgelopen 6,5 jaar heb verzameld, zou ieder van u partijgeest opzij zetten en samenwerken om de buitengewone macht die Google en Facebook nu met ongegeneerde arrogantie uitoefenen, in te dammen.
Robert Epstein, “Why Google Poses a Serious Threat to Democracy, and How to End That Threat (transcript)” op American Institute for Behavioral Research and Technology
Epstein biedt vijf “verontrustende bevindingen,” waaronder
In 2016 hebben bevooroordeelde zoekresultaten gegenereerd door Google’s zoekalgoritme waarschijnlijk invloed gehad op onbesliste kiezers op een manier die ten minste 2,6 miljoen stemmen aan Hillary Clinton (die ik steunde) heeft gegeven. Ik weet dit omdat ik meer dan 13.000 verkiezingsgerelateerde zoekopdrachten heb bewaard die door een diverse groep Amerikanen zijn uitgevoerd op Google, Bing en Yahoo in de weken voorafgaand aan de verkiezingen, en de zoekresultaten van Google – die het zoeken in de VS en wereldwijd domineren – waren aanzienlijk bevooroordeeld in het voordeel van minister Clinton op alle 10 posities op de eerste pagina met zoekresultaten in zowel blauwe staten als rode staten.
Robert Epstein, “Why Google Poses a Serious Threat to Democracy, and How to End That Threat (transcript)” bij American Institute for Behavioral Research and Technology
Epstein’s getuigenis sluit aan bij eerdere observaties zoals dat “zoekopdrachten naar Hillary Clinton niet autocomplete naar woorden die populaire zoekopdrachten waren als ze negatief reflecteerden op de Democratische kandidaat .”
Gebruikers weten natuurlijk niet dat het algoritme op die manier is geconfigureerd. We denken dat dat de beste informatie is die beschikbaar is in een neutrale zin. Maar zoals Coppola Project Veritas vertelde, schrijven de algoritmen – de reeks commando’s aan computers – “zichzelf niet.” Mensen kunnen hun eigen mening in een algoritme schrijven, al dan niet bewust.
In een recent artikel geeft Coppola meer details over de mechanismen van opiniemanipulatie, waarbij hij Google News als voorbeeld gebruikt en “Donald Trump” als onderwerp kiest:
De meest gebruikte site, CNN, wordt in 20% van alle artikelen geselecteerd! Met andere woorden, zelfs met de miljoenen sites op het internet, is 1 op de 5 verhalen over “donald trump” uit Google News afkomstig van CNN.
Gregory Coppola, “Google Nieuws Analyseren: Introduction” op Medium
De betekenis van dat feit is dat, van de grotere Amerikaanse medianetwerken, CNN wordt verondersteld op de meest vijandige manier met het huidige Witte Huis om te gaan. Bijvoorbeeld, het netwerk klaagde het Witte Huis onlangs over de weigering van een perskaart aan een van haar verslaggevers.
Van het gedeeltelijke transcript bij Project Veritas:
… COPPOLA: Maar ik denk dat ik gewoon, weet je, ik kijk naar search en ik kijk naar Google News en ik zie wat het doet en ik zie Google executives naar het Congres gaan en zeggen dat het niet gemanipuleerd is. Het is niet politiek. En ik ben er zo zeker van dat dat niet waar is. Dat het, weet je, het wordt een stuk minder leuk om aan het product te werken. Dus het beïnvloedt je zo erg. Ja, zeker. Ik bedoel, het ding met Google is, als je weggaat, weet je, elk ander salaris bij een ander bedrijf zal lager zijn. Hmm. Dus ik denk wel dat het een opoffering is.” …
COPPOLA: “Ik wil alleen maar zeggen tegen alle niet-programmeurs dat ik echt niet het idee dat big tech is politiek neutraal, en ik denk dat we moeten beginnen met het opnemen van dat in welke strategie we gebruiken om een democratie gaan vooruit te hebben.”
Coppola’s houding tegenover zijn bazen is ambivalent. Hij respecteert CEO Sundar Pichai en gelooft niet dat hij of andere topmanagers van Google opzettelijk onwaarheden beweren tijdens hoorzittingen. Maar hij kan de gegeven informatie niet accepteren als objectieve feiten. Hoewel Coppola ook volhoudt dat Google klantgegevens vertrouwelijk behandelt en probeert eerlijk te zijn, merkt hij op dat er maar een paar mensen nodig zijn om een resultaat te beïnvloeden: “En in feite denk ik dat er maar een paar nodig zijn uit een organisatie van 100.000, weet je, om ervoor te zorgen dat het product op een bepaalde manier is…”
Hij beweert zeker niet dat het allemaal een soort samenzwering is; eerder is de gunst die wordt getoond aan een “handvol sites” die “vitriool tegen Trump zijn” het resultaat van geconcentreerde groepsmening bij Google. Dat gezegd hebbende, houdt hij vol, komt het neer op “inmenging in de Amerikaanse verkiezingen.”
Coppola is, uiteraard, met administratief verlof gestuurd. Hij is een inzamelingsactie begonnen om “vier maanden lang vanuit zijn huis in New York content te publiceren over politieke en technologische kwesties”.
Sommige Democraten worden ook ongeduldig. Een longshot kandidaat voor de Democratische Partij voor het presidentschap in 2020, Tulsi Gabbard, klaagt Google aan omdat “Google’s discriminerende acties tegen mijn campagne weerspiegelen hoe gevaarlijk hun volledige dominantie over internet zoeken is.”
Eén ding waar we op kunnen rekenen is een grotere publieke belangstelling voor hoe algoritmen worden geconstrueerd, een onderwerp dat in het verleden aula’s heeft leeggemaakt.
Note: Coppola behaalde zijn ingenieursdiploma aan de Universiteit van Waterloo en zijn MA in linguïstiek aan de Simon Fraser University, beide in Canada, en zijn doctoraat in engineering aan de Universiteit van Edinburgh, volgens zijn Linked In-profiel.
Verder lezen: Algoritmen kunnen ook onbewust bevooroordeeld zijn, Zie bijvoorbeeld,
Leerde AI zichzelf aan om “niet van” vrouwen te houden? Nee, het programma heeft zichzelf niets aangeleerd. Maar de situatie leerde het bedrijf wel iets belangrijks over wat we veilig kunnen automatiseren.
en
Kan een algoritme racistisch zijn? Nee, de machine heeft geen mening. Het verwerkt enorme hoeveelheden gegevens. En als gevolg daarvan worden de verontrustende verborgen wortels van sommige gegevens blootgelegd.