Nedávno se vedoucí inženýr společnosti Google Gregory Coppola obrátil na skupinu Project Veritas, aby hovořil o předpojatosti společnosti Google, která ovlivňuje informace, jež uživatelé dostávají o politických volbách. (Zde je rozhovor.)
Coppola, který vyrostl v Kanadě, řekl Projektu Veritas, že když tam v roce 2014 začal pracovat na aplikaci Google Assistant, zažil Google jako politicky celkem neutrální místo. Situace se změnila během amerických voleb v roce 2016, kdy „každá technologická společnost, všichni v New Yorku, všichni v oblasti počítačových věd v podstatě věřili, že“ každý, kdo podporuje Donalda Trumpa, je rasista. Nepříjemné pro něj samotného bylo, že Coppola měl Trumpa docela rád.
Když se blíží další americké volby, sdělil své obavy Projektu Veritas. Z videa:
Vypravěč: Podle Coppoly je agenda velkých technologií nebezpečná z velké části proto, že je skrytá.
Coppola: Myslím, že jsme měli dlouhé období, řekněme deseti let, kdy jsme měli vyhledávání a sociální média, která nebyla politicky zaujatá, a tak nějak jsme si zvykli na myšlenku, že špičkové vyhledávání je to, že Google je asi odpověď. A Robert Epstein, který minulý týden svědčil před Kongresem, se tím zabýval a ukázal, že naprostá většina lidí si myslí, že když je něco ve vyhledávači Google hodnoceno lépe než jiná zpráva, tak to bude důležitější a správnější. A, a to jsme ještě neměli čas vstřebat skutečnost, že technologie mohou mít nějakou agendu. Je to něco, o čem jsme začali mluvit až teď. Proto s vámi mluvím.
Coppola má na mysli nedávné svědectví široce publikovaného psychologa zabývajícího se výzkumem chování Roberta Epsteina (který se před senátním výborem označil za „středového/středolevého“):
Data, která jsem shromáždil od roku 2016, ukazují, že Google zobrazuje americké veřejnosti obsah, který je zaujatý ve prospěch jedné politické strany (Epstein & Williams, 2019) – strany, kterou mám náhodou rád, ale to je irelevantní. Žádná soukromá společnost by neměla mít právo ani moc manipulovat s velkým počtem obyvatel bez jejich vědomí. …
Oslovuji různorodé, odlišné publikum, protože hrozby, které představuje Google a v menší míře i Facebook, jsou natolik závažné, že si myslím, že o nich musí vědět každý člověk na světě. Když informuji o svých údajích a obavách, dávám stranou své vlastní politické přesvědčení, protože problémy, které tyto společnosti představují, zastiňují osobní politiku. Jinak řečeno, miluji lidstvo, svou zemi a demokracii víc než nějakou konkrétní stranu nebo kandidáta. A demokracie v původním pojetí nemůže přežít velké technologie v současné podobě.
Pokud byste prozkoumali data, která jsem shromažďoval v posledních šesti a půl letech, každý z vás by odložil stranickou příslušnost stranou a spolupracoval na omezení mimořádné moci, kterou nyní Google a Facebook s nestydatou arogancí disponují.
Robert Epstein, „Why Google Poses a Serious Threat to Democracy, and How to End That Threat (transcript)“ na stránkách American Institute for Behavioral Research and Technology
Epstein nabízí pět „znepokojivých zjištění“, mezi nimiž je
V roce 2016 tendenční výsledky vyhledávání generované vyhledávacím algoritmem společnosti Google pravděpodobně ovlivnily nerozhodnuté voliče způsobem, který dal nejméně 2,6 milionu hlasů Hillary Clintonové (kterou jsem podporoval). Vím to, protože jsem uchoval více než 13 000 vyhledávání souvisejících s volbami, která provedla různorodá skupina Američanů na Googlu, Bingu a Yahoo v týdnech před volbami, a výsledky vyhledávání Googlu – který dominuje vyhledávání v USA i ve světě – byly výrazně zkreslené ve prospěch ministryně Clintonové na všech 10 pozicích na první stránce výsledků vyhledávání jak v modrých, tak v červených státech.
Robert Epstein, „Why Google Poses a Serious Threat to Democracy, and How to End That Threat (transcript)“ na American Institute for Behavioral Research and Technology
Epsteinovo svědectví navazuje na dřívější pozorování, například že „vyhledávání Hillary Clintonové se automaticky nedoplňovalo na slova, která byla populárními hledáními, pokud se negativně odrážela na demokratické kandidátce“ .
Uživatelé samozřejmě nevědí, že je algoritmus takto nastaven. Myslíme si, že je to nejlepší dostupná informace v určitém neutrálním smyslu. Jak ale Coppola řekl Projektu Veritas, algoritmy – série příkazů počítačům – „se nepíší samy“. Lidé mohou do algoritmu vepsat své vlastní názory, ať už vědomě nebo ne.
V nedávném článku Coppola nabízí další podrobnosti o mechanismu manipulace s názory, přičemž jako příklad používá Google News a jako téma vybírá „donald trump“:
Nejpoužívanější web, CNN, je vybrán ve 20 % všech článků! Jinými slovy, i při milionech stránek na internetu je 1 z každých 5 článků o „donald trump“ ze Zpráv Google ze CNN.
Gregory Coppola, „Analyzing Google News: Úvod“ na Medium
Význam této skutečnosti spočívá v tom, že mezi většími americkými mediálními sítěmi se má za to, že CNN komunikuje se současným Bílým domem nejnepřátelštěji. Nedávno například tato televize zažalovala Bílý dům kvůli odepření novinářského průkazu jednomu ze svých reportérů.
Z částečného přepisu na Project Veritas:
… COPPOLA: Ale myslím, že prostě, víte, dívám se na vyhledávání a dívám se na Google News a vidím, co to dělá, a vidím, že vedení Googlu jde do Kongresu a říká, že to není zmanipulované. Není to politické. A já jsem si prostě jistý, že to není pravda. Že je to, víte, začíná být mnohem méně zábavné na tom produktu pracovat. Takže to na vás má takový vliv. Jo, určitě. Chci říct, že v Googlu je to tak, že když odejdete, ehm, víte, jakýkoli jiný plat v jakékoli jiné společnosti bude nižší. Hmm. Takže si myslím, že je to oběť.“ …
COPPOLA: „Chci jen říct všem neprogramátorům, že opravdu nevěřím myšlence, že velké technologické firmy jsou politicky neutrální, a myslím, že bychom to měli začít zahrnovat do jakékoli strategie, kterou použijeme, abychom měli demokracii i nadále.“
Coppolův postoj k jeho šéfům je ambivalentní. Generálního ředitele Sundara Pichaie si váží a nevěří, že by on nebo další vrcholní manažeři Googlu při slyšeních záměrně tvrdili nepravdy. Uvedené informace však nemůže přijmout jako objektivní skutečnost. Ačkoli Coppola také trvá na tom, že Google zachází s údaji zákazníků důvěrně a snaží se být spravedlivý, poznamenává, že k ovlivnění výsledku stačí jen několik lidí: „A ve skutečnosti si myslím, že by stačilo pár lidí ze stotisícové organizace, aby se ujistili, že produkt je určitým způsobem…“
Jistě netvrdí, že jde o nějaké spiknutí; přízeň projevená „hrstce stránek“, které jsou „skálopevně proti“ Trumpovi, je spíše výsledkem soustředěného skupinového názoru ve společnosti Google. Přesto trvá na tom, že se to rovná „vměšování do amerických voleb“.
Coppola byl samozřejmě postaven mimo službu. Zahájil kampaň na shromažďování finančních prostředků a usiluje o pokrytí životních nákladů, „aby mohl čtyři měsíce publikovat obsah o otázkách politiky a technologií“ ze svého domu v New Yorku.
Někteří demokraté začínají být také nervózní. Dlouholetá kandidátka na kandidáta Demokratické strany na prezidenta v roce 2020 Tulsi Gabbardová žaluje společnost Google, protože „diskriminační kroky společnosti Google proti mé kampani jsou odrazem toho, jak nebezpečná je jejich naprostá nadvláda nad internetovým vyhledáváním“.
Jednou věcí, se kterou můžeme počítat, je větší zájem veřejnosti o to, jak jsou algoritmy konstruovány, což je téma, které v minulosti vyprazdňovalo posluchárny.
Poznámka: Coppola získal inženýrský titul na University of Waterloo a magisterský titul z lingvistiky na Simon Fraser University, obojí v Kanadě, a doktorát z inženýrství na University of Edinburgh, jak uvádí jeho profil na Linked In.
Další čtení:
Naučila se umělá inteligence sama „nemít ráda“ ženy? Ne, program se sám nic nenaučil. Ale tato situace naučila společnost něco důležitého o tom, co můžeme bezpečně automatizovat.
a
Může být algoritmus rasistický? Ne, stroj nemá žádný názor. Zpracovává obrovské množství dat. A v důsledku toho se odhalují znepokojivé skryté kořeny některých dat