Pokud si chcete zapamatovat jen dvě věci týkající se vládní nátlakové kampaně s cílem ovlivnit rozhodování Marka Zuckerberga o moderování obsahu, pak si zapamatujte tyto: Donald Trump přímo vyhrožoval, že Zucka zavře na zbytek života do vězení, a jen před pár měsíci komisař FCC (brzy se stane předsedou FCC) Brendan Carr pohrozil Metě, že pokud bude pokračovat v ověřování faktů způsobem, který se Carrovi nelíbí, pokusí se v reakci na to odstranit ochranu Mety podle tzv. Sekce 230.
O dva měsíce později Zuckerberg ukončil veškeré ověřování faktů ve službě Meta. Ale když vystoupil u Joe Rogana, místo aby ukázal na tyto skutečné zjevné hrozby, obvinil raději Bidenovu administrativu, protože někteří úředníci administrativy poslali rozzlobené e-maily… což, jak Zuck opakovaně přiznává, mělo nulový dopad na skutečnou politiku Mety.
Mark Zuckerberg možná skončil s ověřováním faktů, ale my stále můžeme ověřovat výroky Marka Zuckerberga. A zejména některá zavádějící vyprávění, která vycházejí z jeho posledního rozhovoru s Joem Roganem.
Ostatně právě tento fact-check může být dobrým příkladem toho, o čem jsem mluvil v souvislosti se Zuckerbergovým rozhodnutím skončit s fact-checkingem, totiž že to není tak jednoduché, jak si někteří lidé myslí, protože kolem jádra pravdy mohou být zavádějícím způsobem prezentovány vrstvy nesmyslů, jejichž odlupování je důležité pro pochopení.
Toto je ve skutečnosti můj druhý pokus o napsání tohoto článku. První verzi jsem smazal brzy poté, co dosáhla 10 000 slov a já si uvědomil, že to všechno nikdo číst nebude. Takže toto je zjednodušená verze toho, co se stalo, kterou lze shrnout takto: skutečné hrozby přišly od republikánů, kterým Zuckerberg rychle ustoupil. Údajné hrozby ze strany Bidenovy administrativy byly přehnané, zveličené a zkreslené a Zuck přímo přiznává, že tyto požadavky mohl snadno odmítnout.
Vše ostatní je šum.
Vím, že lidé, kteří Rogana nemají rádi, ho hned zavrhují, ale já si ve skutečnosti myslím, že je často dobrým tazatelem pro určité druhy rozhovorů. Je ochotný mluvit s nejrůznějšími lidmi a klást i hloupé otázky, přičemž se vžije do role posluchačů/diváků. A to je za určitých okolností skutečně užitečné (a poučné).
Kde se to zvrhne, jako například zde, je tam, kde (1) záleží na nuancích a detailech a (2) kde osoba, s níž dělá rozhovor, má nějaký záměr, který chce prosadit svým sdělením, o němž ví, že mu ho Rogan sežere, a ví, že Rogan nerozumí natolik, aby rozebral, co se skutečně stalo.
Není to poprvé, co Zuckerberg vystoupil u Rogana a spustil vyprávění tím, že řekl věci, které jsou technicky vzato pravdivé, způsobem, který je zavádějící, přičemž pravděpodobně věděl, že Rogan a jeho fanoušci nebudou rozumět nuancím a spokojí se se zavádějícím příběhem.
Před dvěma a půl lety vystoupil u Joe Rogana a řekl, že FBI varovala jeho společnost před potenciálními snahami o hackerské útoky a úniky informací, které vyvíjeli Rusové, což Rogan a celá řada lidí, včetně mainstreamových médií, falešně interpretovali jako „FBI nám řekla, abychom zablokovali příběh o notebooku Huntera Bidena“.
Až na to, že to neřekl. Byl dotázán na příběh NY Post (který Facebook ve skutečnosti nikdy nezablokoval, pouze ho – krátce – zablokoval z „trendování“) a Zuckerberg svou odpověď velmi pečlivě formuloval tak, aby řekl něco, co už bylo známo, ale o čem by si lidé, kteří pozorně neposlouchají, mohli myslet, že odhaluje něco nového:
V pozadí je to, že za námi přišla FBI – za některými lidmi z našeho týmu – a řekla nám: „Hele, jen abyste věděli, měli byste být ve střehu. Mysleli jsme si, že ve volbách v roce 2016 bylo hodně ruské propagandy, máme to na vědomí, že se v podstatě chystá nějaký únik, který je tomu podobný.“
Ale to, že FBI rozeslala obecné varování všem sociálním médiím, aby si dávaly pozor na podobné dezinformační kampaně, bylo všeobecně známo a informováno o tom už mnohem dříve. FBI se k příběhu o notebooku Huntera Bidena konkrétně nevyjádřila, ani Facebooku (nebo komukoli jinému) neřekla, aby něco stáhl.
Přesto se z toho stala velká věc a spousta lidí to považovala za velké odhalení. Částečně proto, že když Zuck tu historku vyprávěl Roganovi, Rogan se choval, jako by to bylo velké odhalení, protože Rogan nezná pozadí, podrobnosti ani skutečnost, že se o tom široce informovalo. Také si neuvědomuje, že je obrovský rozdíl mezi obecným varováním „buďte ve střehu“ a požadavkem „hele, stáhněte to!“, přičemž první je standardní a druhé je pravděpodobně protiústavní.
Jinými slovy, Zuck v minulosti už využil Roganovu platformu k šíření pochybných narativů, protože věděl, že Rogan nemá dostatečné znalosti, aby se v danou chvíli dokázal vzepřít.
Poté, co se tak stalo, jsem byl alespoň otevřený myšlence, že Zuck mluvil jen obecně a neuvědomil si, jak Rogan a publikum převezmou jeho slova a spokojí se s nimi, přičemž uvěří velmi zavádějícímu příběhu. Ale teď, když to udělal znovu, mi připadá dost pravděpodobné, že je to záměrné. Když chce Zuckerberg dostat zavádějící příběh k publiku přátelskému k MAGA, může Roganovy posluchače spolehlivě oblbnout.
Tento rozhovor se totiž v mnoha ohledech podobal tomu, co se stalo před dvěma lety. Vyprávěl zavádějícím způsobem věci, které už byly všeobecně známé, a Rogan reagoval, jako by se odhalilo něco velkého. A média to pak amplifikují, protože také neznají detaily a nuance.
Tentokrát Zuckerberg mluví o údajném tlaku Bidenovy administrativy jako o důvodu svého problematického oznámení z minulého týdne:
Rogan: Co podle vás nastartovalo cestu ke zvýšení cenzury? Protože je zřejmé, že jsme se tímto směrem ubírali několik posledních let. Zdálo se, že jsme se o tom opravdu dozvěděli, když Elon koupil Twitter a dostali jsme Twitter Files a když jste sem přišel a když jste vysvětloval vztah s FBI, kdy se vás snažili přimět, abyste odstranil určité věci, které byly pravdivé a skutečné, a určité věci se snažili přimět, abyste omezil jejich sdílení. Takže z těchto rozhovorů. Kdy to tedy všechno začalo?
Hned si všimněte si zarámování této otázky. Není to vůbec přesné. Webové stránky sociálních médií měly vždy snahy o moderování obsahu / politiku obsahu. Facebook byl skutečně historicky mnohem agresivnější než většina ostatních. Pokud to neděláte, vaše platforma se zaplní spamem, podvody, nadávkami a pornem.
Tak to prostě funguje. A skutečně, Facebook byl v počátcích agresivně paternalistický, pokud jde o to, co je – a co není – na jeho stránkách povoleno. Vzpomínáte si na jeho proslulou prudérní politiku „žádná nahota“? O tom, jak těžké bylo ji v praxi realizovat, byl celý podcast Radiolabu.
Takže zaprvé, nazývat to „cenzurou“ je zavádějící, protože jde jen o to, jak se vypořádat s porušováním pravidel, a proto je vždy lepší termín moderace. Rogan mě do svého podcastu nikdy nepozval. Je to cenzura? Samozřejmě že ne. Má pravidla (a standardy!) pro to, komu poskytuje platformu. Stejně tak to dělá Meta. Odmítnutí některých projevů není „cenzura“, je to jen prosazování vlastních pravidel na vlastním soukromém pozemku.
Za druhé, Rogan sám zkresluje to, co mu Zuckerberg před dvěma lety řekl o FBI. Zuck neřekl, že se FBI snaží přimět Facebook, aby „odstranil určité věci, které jsou pravdivé a skutečné“, a „omezil jejich sdílení“. Řekl pouze, že si mají dávat pozor na potenciální pokusy cizích vlád o zasahování do voleb, a ponechal na platformách, jak s tím naloží.
Navíc myšlenka, že prostý fakt, jak moderování obsahu funguje, se dostal na veřejnost až s Twitter Files, je nepravdivá. Twitter Files odhalily… spoustu nezajímavého, co si idioti špatně vyložili. To skutečně víme, protože (1) jsme tomu věnovali pozornost a (2) Elonův vlastní právní tým u soudu přiznal, že to, co lidé o Twitter Files mylně tvrdili, nebylo ve skutečnosti řečeno.
Odtud Zuck začíná svou zavádějící, ale technicky skoro korektní odpověď:
Zuck: Jo, no, podívejte, myslím, že když se vrátím na začátek, nebo jak jsem říkal, myslím, že si takovou věc založíte, pokud vám záleží na tom, abyste lidem dali možnost postovat. Asi prvních deset let existence společnosti jsem se příliš nezabýval naší obsahovou politikou. Prostě se tak nějak v celé společnosti vědělo, že se snažíme dát lidem možnost co nejvíce sdílet.
A pak se objevily problémy, praktické problémy. Takže když je někdo například šikanován, tak to řešíme. Zavedli jsme systémy boje proti šikaně. Pokud někdo řekne, že někdo pirátí autorsky chráněný obsah na vaší službě, tak dobře, vytvoříme kontrolní systémy, abychom našli obsah chráněný duševním vlastnictvím.
Ale opravdu až v posledních 10 letech začali lidé prosazovat cenzuru založenou na ideologii a myslím, že to byly dvě hlavní události, které to opravdu spustily. V roce 2016 došlo ke zvolení prezidenta Trumpa, také se to shodovalo s v podstatě brexitem v EU a jakousi fragmentací EU. A pak, víte, v roce 2020 se objevil COVID. A myslím, že to byly v podstatě tyto dvě události, kdy jsme poprvé čelili právě tomuto masivnímu institucionálnímu tlaku, abychom v podstatě začali cenzurovat obsah na ideologickém základě…
Takže tahle část je v zásadě tak nějak přesná, což zakládá jádro pravdy, kolem kterého se bude stavět spousta nesmyslů. Je pravda, že Zuck na začátku nevěnoval příliš pozornosti politice obsahu na webu, ale je nesmysl, že šlo o to „dát lidem hlas“. To je Zuckovo převyprávění historie Facebooku. Nezapomeňte, že věci jako Newsfeed (který byl spíše o tom, aby lidé mohli mluvit) přidali až poté, co se objevil Twitter a Zuck se vyděsil, že Twitter Facebook zničí.
Za druhé pak přiznává, že společnost vždy moderovala, i když se mýlí, že to bylo tak reaktivní. Od poměrně raného období (jak bylo zmíněno výše) měla společnost slušně přísnou politiku obsahu, pokud jde o způsob moderování stránek. A skutečně, velká část z toho byla založena na tom, že chtěla zajistit, aby uživatelé měli na webu dobrý zážitek. Takže ano, věci jako šikana byly blokovány.
Ale co je šikana, je velmi subjektivní věc a velká část moderování obsahu je jen snaha týmů říct vám, abyste se přestali chovat jako blbci.
Je pravda, že od roku 2016 byl na Facebook vyvíjen tlak, aby moderátorské výzvy bral vážněji, a (možná?!?) kdyby v té době skutečně strávil více času porozuměním problematiky „trust and safety“, lépe by problematice rozuměl. Ale on to neudělal, což znamenalo, že udělal ve věcech nepořádek a pak se to snažil „napravit“ podivnými programy, jako je Oversight Board.
Ale také to znamenalo, že nikdy, nikdy nebyl dobrý ve vysvětlování inherentních kompromisů v oblasti trust and safety a toho, že vždycky se některým lidem nebudou líbit rozhodnutí, která učiníte. Dobrý vedoucí sociální sítě tyto kompromisy chápe a dokáže je vysvětlit. Ale to Zuck není.
A také, a to je důležité, Zuckerbergova tvrzení o tlaku na moderování z „ideologických“ důvodů jsou neuvěřitelně zavádějící. Ano, určitě na něj někteří lidé kvůli tomu vyvíjeli tlak, ale zdaleka nešlo o hlavní proud a bylo snadné ho ignorovat. Lidé ho žádali, aby zastavil potenciálně nebezpečné dezinformace, které způsobovaly škody. Například o genocidě v Myanmaru. Nebo informace kolem COVID, které byly potenciálně legitimně nebezpečné.
Jinými slovy, ve skutečnosti šlo (stejně jako v případě velké části trust and safety) o rozšíření pravidla „žádné šikanování“. Totéž platilo pro ochranu marginalizovaných skupin, jako jsou uživatelé LGBTQ+, nebo pro otázky, jako je Black Lives Matter. Požadavky uživatelů (v těchto případech nikoli vlády) se týkaly ochrany marginalizovanějších komunit před obtěžováním a šikanou.
Budu přeskakovat, protože Zuck a Rogan zde říkají spoustu hloupostí, ale tento článek by byl příliš dlouhý, kdybych se jimi všemi zabýval. Přeskočme tedy o pár minut dopředu, kde Zuckerberg opravdu trapným způsobem odflákne svůj úvodní kurs do problematiky svobody slova, když se snaží popsat, jak se Meta rozhodla řešit moderování dezinformací o covidu.
Zuckerberg: Další velkou událostí byl covid. To bylo také velmi ošemetné, protože na začátku to byla legitimní „krize veřejného zdraví“.
A je to… dokonce i lidé, kteří jsou jako nejhorlivější obhájci prvního dodatku… Nejvyšší soud má tento jasný precedens, že je to jako v pořádku, když nemůžete křičet oheň v plném divadle. Jsou chvíle, kdy v případě nouze může být vaše možnost mluvit dočasně omezena, aby se krize dostala pod kontrolu.
Takže na začátku covidu mi to bylo sympatické, vypadalo to jako, dobře, máte ten virus, vypadá to, že zabíjí spoustu lidí. Nevím, v té době jsme nevěděli, jak nebezpečné to bude. Takže na začátku to tak nějak vypadalo, že dobře, měli bychom trochu respektovat vládu a zdravotnické orgány, jak bychom to měli hrát.
Ale když se to změnilo z, víte, dvou týdnů na vyrovnání křivky na… na začátku to bylo jako dobře, není dost masek, masky nejsou tak důležité, aby, pak, to je jako o ne, musíte nosit masku. A všechno se měnilo. Prostě bylo velmi těžké to tak nějak sledovat.
Ve snaze obhájit přístup společnosti Meta k dezinformacím COVID se Zuckovi podařilo zmanipulovat první dodatek Ústavy způsobem, který je jednak právně nepřesný, jednak irelevantní pro skutečné problémy, o které se jedná.
Je toho tolik, co by se tu dalo rozvádět. Zaprvé, rozhodně by mu měl někdo vysvětlit první dodatek. Nejenže ho pochopil špatně, ale dokonce ho pochopil jinak, než jak ho chápe většina lidí. Celou záležitost s „ohněm v plném divadle“ jsme zde na Techdirtu probírali už mnohokrát, takže si ji zkrátíme:
- Není to „jasný precedens“. Není to vůbec precedens. Byla to poznámka mimochodem (v právnické terminologii: obiter dictum, takže ne precedentní) v případu uvěznění někoho za rozdávání protiválečné literatury (což by dnes většina lidí uznala jako zcela jasný projev chráněný prvním dodatkem).
- Soudce Oliver Wendell Holmes, který to řekl, toho zřejmě téměř okamžitě litoval a v podobném případě velmi brzy poté změnil názor a stal se mnohem „horlivějším obhájcem prvního dodatku“.
- Většina soudů a právníků (ačkoli existuje několik zdrženlivých) trvá na tom, že jakýkoli precedens, který existoval v případu Schenck (který opět neobsahoval tuto větu), byl účinně zrušen o půl století později v jiném případu, který odmítl test v případu Schenck a přešel k testu „podněcování k bezprostřednímu protiprávnímu jednání“.
Takže citace „požáru v plném divadle“ se v dnešní době obecně používá jako (velmi špatná, chybná) obhajoba, která říká „no, existují některé projevy, které jsou tak špatné, že jsou zjevně nechráněné“, ale bez toho, aby bylo možné vysvětlit, proč je tento konkrétní projev nechráněný.
Ale Zuck to ani takto nepoužívá. Zdá se, že mu uniklo, že celý smysl Holmesova dicta (opět, nikoli precedentu) byl v tom, že hovořil o falešném vykřikování ohně. Zuck naznačuje, že (nikoliv skutečný) test zní: „Můžeme omezit projev, pokud se jedná o skutečný požár, skutečnou mimořádnou událost“. A to je také špatně.
Ale nesprávnost jde také o jednu vrstvu hlouběji, protože první dodatek se vztahuje pouze na omezení, která může vláda uvalit na řečníky, nikoli na to, co může soukromý subjekt jako Meta (nebo Joe Rogan Experience) dělat na svém soukromém pozemku.
A pak, i když se přes to přenesete, Zuck se nemýlí v tom, že v počátcích bylo kolem covidu a zdraví hodně nejasností, včetně spousty nepravdivých informací, které se objevily pod imprimatur „oficiálních“ zdrojů, ale… chlape, Meta se záměrně rozhodla, že fakticky nechá CDC rozhodovat o tom, co je přijatelné, i poté, co mnoho lidí (včetně nás!) poukázalo na to, jak hloupé je, že platformy přenechávají svá rozhodnutí o „chybných informacích o covidu“ vládním agenturám, které jistě některé věci řeknou špatně, protože věda stále neměla jasno.
Ale nebyl to Bílý dům, kdo tlačil na Zucka, aby se řídil stanoviskem CDC. Meta (jako jediná z hlavních technologických platforem) veřejně prohlásila na počátku pandemie (když byl Trump ještě prezidentem), že její přístup k nakládání s dezinformacemi o covidu bude založen na „guidance“ oficiálních autorit, jako jsou CDC a WHO. Mnozí z nás měli pocit, že se tím Meta vlastně vzdává své role a dává příliš mnoho pravomocí vládním subjektům uprostřed nejasného vědeckého prostředí.
Ale to, že nyní obviňuje Bidenovu administrativu, je prostě nehorázně ahistorické.
A dál už to bylo jenom horší:
Zuckerberg: Tohle opravdu zasáhlo… nejextrémnější to bylo, řekl bych, za Bidenovy administrativy, když se snažili zavést program očkování a… Teď jsem obecně jako dost pro zavádění vakcín. Myslím, že celkově jsou vakcíny spíš pozitivní než negativní.
Ale myslím si, že když se snažili ten program prosadit, tak se zároveň snažili cenzurovat každého, kdo v podstatě argumentoval proti. A super tvrdě na nás tlačili, abychom smazali věci, které byly upřímně řečeno pravdivé. Chci říct, že na nás v podstatě tlačili a říkali, víte, všechno, co říká, že vakcíny mohou mít vedlejší účinky, musíte v podstatě stáhnout.
A já jsem si říkal, že to neuděláme, my to prostě neuděláme.
Rogan do toho pak skočí a zeptá se, „kdo jsou oni“, ale právě tady se projevuje jeho vlastní neznalost. Klíčovým bodem je poslední řádek. Zuckerberg říká, že jim řekl „my to neuděláme… my to prostě neuděláme“.
To je vše. O to tady jde.
Judikatura v této věci je jasná: vláda se může snažit přesvědčit společnosti, aby něco udělaly. Tomu se říká „použít bully pulpit“. Nemůže však společnost nutit, aby podnikla kroky proti projevům. A pokud se Zuckerberg a Meta cítili naprosto v pohodě, když řekli „tohle dělat nebudeme, tohle zjevně dělat nebudeme“, pak konec příběhu. Necítili se být nuceni.
Ostatně o tom částečně byl i loňský případ Murthy, který projednával Nejvyšší soud. A během ústního projednávání se soudci Kavanaugh a Kaganová (oba byli v předchozí kariéře právníky v Bílém domě) zcela vysmáli myšlence, že by úředníci Bílého domu nemohli obvolávat mediální subjekty a snažit se je přesvědčit, aby něco dělali, a to i drsnými slovy.
Soudce Kavanaugh:
JUSTICE KAVANAUGH: Myslíte si, že v otázce hněvu, asi jsem předpokládal, myslel, zkušení vládní tiskoví mluvčí v celé federální vládě, kteří pravidelně volají médiím a – a nadávají jim. Je to – chci říct, není to –
MR. FLETCHER: Já – já – já nechci…
JUSTICE KAVANAUGH: – rozumíte tomu? Řekl jste, že ten hněv je zde neobvyklý. Myslím, že –
MR.FLETCHER: Takže to –
JUSTICE KAVANAUGH: – že mi to nebylo úplně jasné z vlastní zkušenosti.
Později řekl víc:
JUSTICE KAVANAUGH: Mluvíte jménem Spojených států. Opět, moje zkušenost je taková, že Spojené státy ve všech svých projevech pravidelně komunikují s médii a hovoří o věcech, které se jim nelíbí nebo je nechtějí vidět, nebo si stěžují na faktické nepřesnosti.
Soudkyně Kaganová to cítila podobně:
JUSTICE KAGAN: Chci říct, mohu jenom porozumět, protože mi to připadá jako extrémně expanzivní argument, nabádání lidí, aby v podstatě potlačovali svůj vlastní projev. Stejně jako soudce Kavanaugh mám tedy zkušenost s nabádáním tisku k potlačování vlastního projevu.
Právě jste napsal sloupek do novin. Zde je pět důvodů, proč byste neměl psát další. Právě jste napsal článek, který je plný faktických chyb. Zde je deset důvodů, proč byste to už neměli dělat.
Vždyť tohle se ve federální vládě děje doslova tisíckrát denně.
„Ve federální vládě se to stává doslova tisíckrát denně“, To, co se stalo, nebylo ani tak zajímavé nebo jedinečné. Jediným problémem, a jediným okamžikem, kdy to vytváří potenciální problém s prvním dodatkem, je, když dochází k nátlaku.
Proto Nejvyšší soud v případu Murthy odmítl argument, že tento druh činnosti je nátlakový a porušuje první dodatek. Ze stanoviska, které napsala soudkyně Coneyová Barrettová, je zcela zřejmé, že Bílý dům ani nevyvíjel tak velký nátlak vůči Facebooku ohledně informací o covidu nad rámec některých veřejných prohlášení, a místo toho většina komunikace spočívala v tom, že Facebook zasílal informace vládě (jak úředníkům administrativy, tak CDC) a žádal o zpětnou vazbu.
Nejvyšší soud poznamenává, že Facebook změnil své zásady tak, aby omezil více informací o covidu, ještě předtím, než se domluvil s lidmi v Bílém domě.
Ve skutečnosti platformy, které jednaly nezávisle, posílily své již existující politiky moderování obsahu ještě předtím, než se do věci vložila vláda. Například společnost Facebook oznámila rozšíření svých zásad pro dezinformace o COVID-19 na začátku února 2021, tedy ještě předtím, než s touto platformou začali komunikovat představitelé Bílého domu. A platformy pokračovaly ve svém nezávislém rozhodování i poté, co začala komunikace s obžalovanými. Například při několika příležitostech různé platformy vysvětlily, že úředníci Bílého domu označili obsah, který neporušoval firemní politiku. Platformy navíc o moderování obsahu nemluvily pouze s vládou, ale pravidelně se radily i s externími odborníky.
Všechny tyto informace jsou veřejné. Byly uvedeny v soudním řízení. Je to v přepisu ústního jednání Nejvyššího soudu. Je to v rozsudku Nejvyššího soudu.
Přesto Rogan dělá, jako by to byla nějaká obrovská bomba. A Zuckerberg ho v tom nechá pokračovat. A média se s tím také vytasila, i když je to naprosto nepodstatná historka. Jak řekla Kaganová, pokusy přesvědčit média se dějí doslova tisíckrát denně.
Porušují první dodatek pouze tehdy, když přejdou do nátlaku a vyhrožují odvetou za neposlouchání. A skutečnost, že Meta se cítila svobodná říci ne a nezměnila své zásady, jasně ukazuje, že nešlo o nátlak.
Zuckerberg však nyní ví, že se Rogan chytil na návnadu, a začíná to přehrávat. Rogan se nejprve zeptá, kdo vám „říkal, abyste věci stáhli“, a Zuckerberg pak přizná, že se na ničem z toho vlastně nepodílel:
Rogan: Kdo jsou oni? Kdo vám říká, abyste odstranil věci, které hovoří o vedlejších účincích vakcín?
Zuckerberg: Byli to lidé z Bidenovy administrativy. Víte, já jsem se těch rozhovorů přímo neúčastnil…
Aha, takže jen předáváte informace, které byly celou dobu veřejně dostupné a o kterých už víme.
Rogan pak docela dobře vysvětluje můj teorém nemožnosti (samozřejmě ho tak nenazývá), přičemž si všímá obrovského rozsahu vlastností Meta a toho, že většina lidí ten rozsah ani nedokáže pochopit a že se samozřejmě stanou chyby. Upřímně řečeno, je to jedno z lepších „mainstreamových“ vysvětlení nemožnosti moderování obsahu ve velkém.
Rogan: Moderuješ v objemu, které je za hranicí představivosti. Počet lidských bytostí, které moderujete, je šílený. Jako co je… co je Facebook… kolik lidí ho denně používá? Ne kolik celkově. Kolik lidí ho používá pravidelně?
Zuck: Je to 3,2 miliardy lidí, kteří každý den používají jednu z našich služeb.
Rogan: (otáčí se) To je…!
Zuck: Jo, to je, ne, to je divoké.
Rogan: To je víc než třetina planety! To je tak šílené a je to skoro polovina Země!
Zuck: No, na měsíční bázi to asi je.
Rogan: UGGH!
Ale jenom jsem to chtěl říct, protože je spousta hyperkritických lidí, kteří jsou konspirační teoretici a myslí si, že všichni jsou součástí nějakého spolku, který je má ovládat. Chci, abyste pochopili, že ať už je to YouTube nebo jakékoli místo, o kterém si myslíte, že dělá něco, co je hrozné, je dobře, že se ozýváte, protože takhle se věci mění a takhle se lidé dozvídají, že lidem vadí moderování obsahu a cenzura.
Ale moderování ve velkém měřítku je šílené. Je to šílené. Co jsme se tuhle bavili o počtu videí, která se každou hodinu objeví na YouTube, a to šíleně velké číslo. To je jako zkusit sehnat rozumného, logického a objektivního člověka, který bude analyzovat každé video? To je prakticky nemožné. To není možné. Takže musíte použít spoustu nástrojů. Musíte spoustu věcí vyhodnotit špatně.
A také máte lidi, kteří věci reportují. A jak moc to tam ovlivní věci. Mohli byste mít hromadné hlášení, protože máte špatné aktéry. Máte nějakou korporaci, která se rozhodne, že na tohle video zaútočíme, protože je pro nás špatné. Ať ho stáhnou.
Děje se toho tolik. Chci to jen lidem vštípit do hlavy, než budeme pokračovat. Jako třeba pochopit, o jakých číslech se tu bavíme.
Jako… to je dostatečně slušné vysvětlení nemožnosti moderovat obsah v takovém měřítku. Kdyby se do toho chtěl Zuckerberg opřít a poukázat na to, že tato nemožnost a kompromisy, které z ní vyplývají, z toho všeho dělají subjektivní hru na hádání, kde se často dělají chyby a každý má svůj názor, bylo by to zajímavé.
Ale on vyhodil linii, kdy chce obvinit Bidenovu administrativu (přestože důkazy v této věci už před několika měsíci označil Nejvyšší soud za neproblematické), a hodlá Rogana krmit dalšími žvásty, aby vytvořil zavádějící obraz:
Zuckerberg: Takže, jak říkáte, myslím, že je to… je to tak složitý systém, že bych mohl strávit každou minutu veškerého svého času tímhle a nesoustředit se vlastně na budování žádné z věcí, které se snažíme dělat. Brýle s umělou inteligencí, budoucnost sociálních médií, všechny tyhle věci.
Takže se do těchto věcí zapojuju, ale obecně máme tým pro politiku. Jsou tam lidé, kterým důvěřuji. Ti lidé na tom tak nějak denně pracují. A ty interakce, o kterých jsem právě mluvil, myslím, že spousta z toho je zdokumentovaná… Myslím tím, protože víte, Jim Jordan a Sněmovna měli celé vyšetřování vládní cenzury kolem takových věcí a my jsme vydali všechny ty dokumenty a všechno je to veřejně dostupné…
Chci říct, že v podstatě ti lidé z Bidenovy administrativy volali našemu týmu a jako by na ně křičeli a nadávali. A ty dokumenty jsou… všechno je to venku!
Rogan: Sakra! Nahrávali jste si některé z těch telefonátů? Bože!
Zuckerberg: Já ne… nemyslím si… nemyslím si, že… ale… myslím si… chci říct, jsou tam e-maily. Ty e-maily jsou zveřejněné. Je to všechno… je to všechno venku a oni jsou… a v podstatě to dospělo do toho bodu, kdy jsme si řekli, ne, my to neuděláme. Nebudeme odstraňovat věci, které jsou pravdivé. To je směšné…
Rozbor toho, co říká, je důležitý. Opět jsme již výše zjistili několik důležitých skutečností, které Rogan nechápe, a Zuck je buď nechápe, nebo je ve svém vysvětlení záměrně neurčitý: (1) Vládní aktéři se neustále snaží přesvědčovat mediální společnosti ohledně jejich redakčního uvážení a není to v žádném případě protizákonné, pokud to nepřekročí hranici nátlaku, a Zuck (opět) přiznává, že žádný nátlak nebyl a neměli problém říct ne. (2) Nevychází ze skutečných poznatků z první ruky, ale z věcí, které jsou „venku“, protože „ty e-maily jsou zveřejněné“ a „všechno je to veřejně dostupné“.
Protože teď nejsem tak zaneprázdněný vytvářením brýlí s umělou inteligencí (i když možná pracuji na budoucnosti sociálních médií), ve skutečnosti jsem věnoval docela velkou pozornost tomu, co se stalo s těmi zveřejněnými e-maily a dokumenty ve veřejné doméně, a Zuckerberg věci zkresluje, ať už záměrně, nebo proto, že se k němu falešný narativ přefiltroval.
Důvod, proč jsem to pozorně sledoval, je ten, že jsem se obával, že by Bidenova administrativa mohla překročit hranici prvního dodatku. To není případ toho, že bych byl fanouškem Bidenovy administrativy, jejíž technická politika byla podle mého názoru téměř ve všech oblastech dost špatná. Veřejná prohlášení Bílého domu, ať už od tehdejší tiskové mluvčí Jen Psakiové nebo od samotného Joe Bidena, mi připadala jako hloupá, ale nezdálo se, že by překračovala hranici prvního dodatku, i když se jí nepříjemně blížila.
Proto jsem tento případ pozorně sledoval, částečně proto, že kdyby existovaly důkazy, že překročily hranici, křičel bych o tom ze střechy Techdirtu.
Ale znovu a znovu se ukazovalo, že ačkoli se možná přiblížili k hranici, nezdálo se, že by ji překročili. To ostatně konstatoval i Nejvyšší soud v případu Murthy.
Takže když Zuckerberg říká, že existují zveřejněné e-maily, které odkazují na „křik a nadávky“, vím přesně, o čem mluví. Protože to byl zlatý hřeb rozsudku okrskového soudu, který tvrdil, že Bílý dům porušil první dodatek (rozsudek později zrušil Nejvyšší soud).
Ve svém zápisu o tomto rozhodnutí okresního soudu jsem dokonce označil „nadávání“ v e-mailu za příklad, který mi připadal jako jedna z mála věcí, které by skutečně mohly být zcela jasným porušením prvního dodatku. Tady je to, co jsem napsal před dvěma lety, když toto rozhodnutí vyšlo:
Zdálo se, že většina nejhorších e-mailů pochází od jednoho člověka, Roba Flahertyho, bývalého „ředitele digitální strategie“, který se zřejmě domníval, že díky své práci v Bílém domě se může vůči společnostem chovat jako naprostý idiot a neustále je peskovat za moderování, které se mu nelíbilo.
Tohle je prostě naprosto nevhodné, aby vládní úředník říkal soukromé společnosti:
Flahertyho e-mail Facebooku z 15. července 2021, v němž Flaherty uvedl: „Bílý dům a Facebook se poté zjevně dostaly do napětí, které vyvrcholilo Flahertyho e-mailem Facebooku z 15. července 2021:“To myslíte kurva vážně? Chci odpověď na to, co se tu stalo, a chci ji ještě dnes.“
Pak jsem se ale ponořil hlouběji a podíval se na spis, odkud tento citát skutečně pochází, a uvědomil jsem si, že soudce okresního soudu ho zcela vytrhl z kontextu. Rozsudek vyzněl tak, že Flahertyho výbuch nadávek byl reakcí na to, že Facebook/Zuck odmítl přistoupit na požadavek moderace obsahu.
Pokud by tomu tak skutečně bylo, pak by to absolutně porušovalo první dodatek. Problém je, že se to nestalo. Stále to bylo obecně nevhodné, ale nešlo o protiústavní útok na projev.
Stalo se to, že Instagram měl chybu, která bránila Bidenovu účtu získat více sledujících, a Bílý dům to rozčílilo. Někdo z Mety na dotaz odpověděl, že v podstatě „ups, to byla chyba, naše chyba, ale už je to opravené“, a tato odpověď byla přeposlána Flahertymu, který se zachoval jako totální mocichtivý blbec s hláškou „To myslíte kurva vážně? Chci odpověď na to, co se tu stalo, a chci ji ještě dnes.“
Takže tady je klíčová věc: tato vášnivá výměna názorů neměla absolutně nic společného s tlakem na Facebook ohledně jeho politiky moderování obsahu. Ten „veřejně přístupný“ „nadávající“ e-mail se týkal výhradně chyby, která bránila Bidenovu účtu získat více sledujících, a Roba, kterého kvůli tomu chytal vztek.
Jak říká Zuck (ale je pozoruhodné, že nikdo z Roganova týmu to ve skutečnosti nedehledává), tohle všechno je „venku“ ve „veřejné doméně“. Rogan to nehledal. Není jasné, jestli se na to podíval Zuckerberg.
Ale já ano:
Stále můžeme tuto reakci považovat za naprosto nevhodnou a kreténskou. Ale ne proto, že by Facebook odmítl stáhnout informace o vedlejších účincích vakcín, jak je jasně naznačeno (a jak to Rogan bere).
Zuckerberg totiž (opět!) poukazuje na to, že reakcí společnosti na žádosti o odstranění memů proti vakcínám bylo odmítnutí Bílého domu:
Zuck: Chtěli, abychom odstranili tenhle mem Leonarda DiCapria, který se dívá na televizi a mluví o tom, že za 10 let nebo tak něco uvidíte reklamu, která říká, že pokud jste si vzali vakcínu proti covidu, máte nárok na takovou platbu, jako takový hromadný soudní spor.
A oni řekli: „Ne, to musíte sundat.“ My jsme prostě řekli: „Ne, nebudeme stahovat humor a satiru.Nebudeme odstraňovat věci, které jsou pravdivé.“
Poté sice mluví o hloupém Bidenově komentáři „zabíjejí lidi“, ale vynechává skutečnost, že Biden jej o několik dní později odvolal a přiznal, že „Facebook nezabíjí lidi“, a místo toho obvinil lidi z platformy šířící dezinformace a řekl, že „to jsem měl na mysli“.
Nic to však nezměnilo na skutečnosti, že Facebook odmítl proti těmto účtům zakročit.
Takže i poté, co několikrát řekl, že reakcí Facebooku na jakékoli komentáře, které přišly z Bílého domu, bylo říct jim „ne“, což je přesně to, co Nejvyšší soud jasně ukázal, že nešlo o žádný nátlak, Rogan pokračuje v tirádě, jako by mu Zuckerberg právě řekl, že obsah, který Bílý dům požadoval, skutečně potlačili (což Zuck Roganovi několikrát přímo popřel, dokonce i těsně před touto tirádou):
Rogan: Páni. Jo, je to prostě obrovský přešlap. A taky jste nezabíjeli lidi. Tohle je na tom všem to nejpodstatnější. Jako by potlačili tolik informací o věcech, které by lidé měli dělat bez ohledu na to, jestli věříte na vakcínu, nebo ne, bez ohledu na… nechme to stranou. Metabolické zdraví je v každodenním životě nesmírně důležité, ať už je pandemie, nebo není, a existuje spousta věcí, které můžete dělat a které vám mohou pomoci zotavit se z nemoci.
Předchází nemocem. Díky němu je vaše tělo odolnější a zdravější. Posiluje váš imunitní systém. A oni všechny tyto informace potlačovali, a to je prostě šílené. Nemůžete říkat, že jste jedni z těch dobrých, když potlačujete informace, které by lidem pomohly zotavit se z nejrůznějších nemocí. Nejen covid. Chřipka, běžné nachlazení, všechny druhy různých věcí. Vysoké dávky vitaminu C, D3 s K2 a hořčíkem. Tyto věci potlačovali, protože nechtěli, aby si lidé mysleli, že vám projde, když si nevezmete vakcínu.
Kámo, Zuck ti doslova opakoval, že Bílému domu řekli ne a ten obsah nepotlačovali.
Ale Zuck nezasáhne, aby Roganovy zkreslené informace opravil, protože od toho tu není. Je tu od toho, aby tento narativ šířil, a Rogan se do něj tvrdě zakousl. K popukání pak navazuje tím, že věc, kterou Zuck právě řekl, se nestala, ale kterou Rogan chrlí, jako by se stala, dokazuje špatnost „překrucování faktů“ a…. kde mám sakra ironický font?
Rogan: Tohle je šílený přešlap, ale spoustu lidí vyděsil… redpilloval, jak se říká. Hodně lidí, protože si uvědomili, že 1984 je jako návod k použití…
Zuck: Jo, jo.
Rogan: To je jako to, že se ukazuje, jak se věci můžou ubírat tímhle směrem, když se špatně mluví a když se bizarně překrucují fakta.
To bys přece věděl zrovna ty, ne, Joe?
Odtud přejdou k jiné diskusi, i když opět jde o to, že Zuckerberg podává Roganovi věty o tom, jak by USA měly „chránit“ americký technologický průmysl před zahraničními vládami, místo aby se je snažily regulovat.
O něco později skutečně proběhne dobrá diskuse o tom, jakých chyb se při moderování obsahu dopouštějí a proč. Rogan (poté, co strávil tolik času fňukáním nad zlem cenzury) najednou otočí a řekne, že, no jistě, Facebook by měl blokovat „dezinformace“ a „naprosté lži“ a „propagandu“:
Rogan: Ale na dezinformace si musíte dávat pozor! A musíte si dávat pozor právě na otevřené lži a stížnosti na propagandu, nebo spíše propagandistické kampaně. A jak to rozlišujete?
Kámo, jako by to byl celý tenhle problém. Sám jsi mluvil o miliardách lidí a o tom, jak se dělají chyby, protože je tolik věcí automatizovaných. Ale pak jsi zavádějícím způsobem tvrdil, že tyhle informace byly staženy kvůli požadavkům vlády (což Zuckerberg několikrát jasně popřel), a aby ses pak oháněl tím, že „ale dezinformace, lži a propagandistické kampaně se musí stáhnout“, to je sakra změna.
Ale jak jsem řekl, vede to k tomu, že Zuck vysvětluje, jak záleží na úrovních důvěry a jak to, kde tyto úrovně nastavíte, pokryje jednak to, kolik „špatného“ obsahu se odstraní, ale také to, kolik ho zůstane nahoře a kolik nevinného obsahu se náhodou zachytí:
Zuck: Dobře, máte nějaký klasifikátor, který se snaží najít řekněme drogový obsah, že? Lidé se rozhodnou, dobře, je to jako epidemie opiátů je velký problém, musíme lépe potírat drogy a jejich prodej. Jasně, nechci, aby lidé prodávali drogy na našich sítích.
Takže vytvoříme několik systémů, které v podstatě vyrazí ven a pokusí se automatizovaně najít lidi, kteří se zabývají obchodováním s drogami. A pak máte v podstatě otázku, jak přesně chcete klasifikátor nastavit? Chcete, aby si systém musel být na 99 % jistý, že někdo prodává drogy, než ho sejme? Chcete mít 90% jistotu? 80% jistotu?
A to pak odpovídá množství… Myslím, že statistický termín by byl „recall“. Kolik procent špatného zboží nacházíte? Takže pokud požadujete 99% jistotu, pak možná nakonec skutečně odstraníte jen 20 % špatného obsahu. Zatímco když to snížíte a řeknete, dobře, teď budeme vyžadovat pouze 90% spolehlivost, možná se vám podaří odstranit 60 % špatného obsahu.
Ale řekněme, že řeknete, ne, opravdu potřebujeme najít všechny, kdo dělají tuto špatnou věc… a nemusí to být tak závažné jako třeba obchodování s drogami. Může to být prostě jakýkoli druh obsahu, jakákoli kategorie škodlivého obsahu. Začínáte se dostávat k některým z těchto klasifikátorů může mít víte 80, 85 % přesnost, abyste dostali dolů 90 % špatných věcí.
Ale problém je, že pokud máte, 90% přesnost, znamená to, že jedna z deseti věcí, které klasifikátor sejme, není ve skutečnosti problematická. A pokud filtrujete… pokud to tak nějak vynásobíte přes miliardy lidí, kteří denně používají naše služby, jsou to miliony a miliony příspěvků, které jsou v podstatě odstraněny a jsou nevinné.
A po přezkoumání se na ně podíváme a řekneme si, že je směšné, že byla tato věc stažena. Což, myslím, že máte tu zkušenost a že jsme o tom už mluvili ohledně spousty věcí.
Ale ve skutečnosti jde jen o tu otázku, kam chcete nastavit klasifikátory, takže jedna z věcí, kterou uděláme, je v podstatě nastavit je tak, aby… vyžadovaly větší důvěru. Což je tento kompromis.
Bude to znamenat, že možná odstraníme menší množství škodlivého obsahu. Ale také to bude znamenat, že dramaticky snížíme počet lidí, kterým byl omylem odebrán účet, což je prostě hrozná zkušenost.
A to všechno je dobré a fascinující základní vysvětlení toho, proč Masnickův teorém nemožnosti zůstává v platnosti. Vždy budou existovat různé druhy falešně pozitivních a falešně negativních výsledků, a k tomu bude vždy docházet kvůli tomu, jak nastavíte úrovně spolehlivosti klasifikátorů.
Zuck mohl vysvětlit, že mnoho dalších věcí, na které Rogan naříkal ohledně „potlačování“ obsahu kolem covidu (což opět všichni kromě Rogana přiznali, že bylo založeno na vlastním rozhodování Facebooku, nikoli vlády USA), bylo dost často podobným druhem situace, kdy úrovně důvěryhodnosti klasifikátorů mohly zachytit informace, které zachytit neměly, ale které společnost (v té době) považovala za nutné nastavit na tuto úroveň, aby zajistila, že se zachytí dostatek „špatného“ obsahu (který by podle Rogana samotného měli odstranit).
Vůbec však není uznáno, jak tato část rozhovoru ovlivňuje předchozí rozhovor.
Je tam toho víc, ale tento příspěvek je už šíleně dlouhý, takže ho uzavřu tímto: Jak jsem zmínil v úvodu, Donald Trump přímo vyhrožoval, že Zucka zavře do vězení na zbytek života, pokud Facebook nebude moderovat tak, jak on chce. A jen před pár měsíci komisař FCC (brzy se stane předsedou FCC) Brendan Carr pohrozil Metě, že pokud bude pokračovat v ověřování faktů způsobem, který se Carrovi nelíbí, pokusí se v reakci na to odstranit ochranu Mety podle tzv. Sekce 230.
Nic z toho se v této diskusi neobjevilo. Jediný „vládní nátlak“, o kterém Zuck mluví, je ze strany Bidenovy administrativy s „nadávkami“, které, jak ochotně přiznává, je nezastrašily.
Takže tu máme Bidenovy úředníky, kteří byli možná zlí, ale ne tak hroziví, aby Meta cítila potřebu se jim klanět. A pak tu máme samotného Trumpa a přední členy jeho nastupující administrativy, kteří vyslali přímé a zjevné výhrůžky, před nimiž se Zuck téměř okamžitě sklonil a ustoupil.
A přesto Rogan (a většina médií, která se tímto podcastem zabývají) tvrdí, že „odhalil“, jak Bidenova administrativa porušila první dodatek. Sakra, NY Post dokonce vydal úvodník, v němž předstírá, že Zuck nezašel dost daleko, protože to všechno neodhalil včas kvůli případu Murthy. A to jen proto, že si autor neuvědomuje, že doslova mluví o dokumentech v případu Murthy.
Skutečný příběh spočívá v tom, že Zuckerberg ustoupil Trumpovým hrozbám a cítil se OK, když nevyhověl tlaku Bidenovy administrativy. Rogan na jednom místě žvaní o tom, že Trump teď bude Zucka chránit, protože Trump „jedinečně pocítil dopad toho, že nemůže mít svobodu slova“. To se zdá být obzvlášť ironické vzhledem ke skutečnému příběhu: Zuckerberg ustoupil Trumpovým hrozbám a cítil se OK, když nevyhověl tlaku Bidenovy administrativy.
Zuckerberg věděl, jak to Roganovi a Roganovu publiku zahraje, a dostal z toho přesně to, co potřeboval. Skutečnost je však taková, že to celé je Zuckovo ustupování hrozbám ze strany Trumpa a Trumpových úředníků, zatímco ze strany Bidenovy administrativy žádný nátlak necítí. Vzhledem k tomu, že se sociální média nadále potýkají s problémy s moderováním obsahu, bylo by hezké, kdyby vedoucí představitelé, jako je Zuckerberg, skutečně transparentně informovali o skutečných tlacích, kterým čelí, místo aby podněcovali zavádějící narativy.
Ale v takovém světě nežijeme.
Když odstraníme všechen spin a všechny zavádějící informace, pravdě se nevyhneme: Zuckerberg se tváří v tvář přímým hrozbám ze strany Trumpa a jeho poskoků složil jako laciný oblek, zatímco nad několika stroze formulovanými e-maily od Bidenových úředníků sotva mrknul okem.
A to je můj fact-check.
Článek původně vyšel na webu Techdirt pod názvem Rogan Misses The Mark: How Zuck’s Misdirection On Gov’t Pressure Goes Unchallenged. Přeložil DeepL a Martin Pánek.
