Lednové zablokování soukromých účtů Donalda Trumpa napříč webovými sociálními sítěmi vzbudilo vlnu emocí napříč internetem a připomnělo význam vlivných komunikačních platforem, s jejichž rostoucí mocí si úplně nevíme rady.
Nejvděčnějším terčem kritiky je již tradičně společnost Facebook, u které se už z principu jejího podnikání setkáváme s blokací zdaleka nejčastěji.
Není divu, loni v létě totiž pokořila metu tří miliard unikátních měsíčních návštěvníků, kteří nepřetržitě bombardují svoji zeď, Instagram, WhatsApp a Messenger obrovským množstvím příspěvků. A bylo by věru nelidské, kdyby alespoň jeden z nich neútočil na víru, etnický původ nebo třeba orientaci někoho dalšího a nevyzýval k alespoň nějaké formě násilí.
Blokovat, či neblokovat. Toť otázka
Jenže co s tím? Nechat to být? Facebook by se rázem dostal do křížku s legislativou většiny civilizovaných zemí. Tak tedy vše strojově a bez skrupulí mazat? Stroj, který by to dokázal, aniž by chyboval, ovšem neexistuje. Stroj může provést jen základní blokaci, uživatel ale musí mít vždy možnost odvolání k člověku, který případ alespoň formálně přezkoumá.
A co jste na Facebooku porušili vy? Podívejte se
A to se také děje, takže i mnohé medializované blokace z českých luhů a hájů dříve či později skončily obnovením účtu nešťastníka.
Moderátor z masa a kostí ovšem není soudce a každý takový spor nelze zcela objektivně posoudit, protože co je společensky přípustné třeba v poměrně liberálním Česku, nemusí být akceptovatelné v některé o něco prudérnější zemi.
Moderátor má na vás nejvýše pár minut
Internetoví moderátoři z masa a kostí – ať už ti z Facebooku, nebo Googlu – proto nakonec rozhodují pomocí podobných mechanizmů, které známe z call center. Bývají to nejrůznější rozhodovací stromy a poměrně rozsáhlé manuály. Díky ohromnému množství zablokovaných příspěvků totiž není v moci žádné internetové platformy, aby se třeba vaší nadávkou, fotografií ňader z nudapláže apod. zabývala déle než pár sekund.
Stručný obsah rozsáhlého manuálu, který pomáhá moderátorům Googlu hodnotit kvalitu webových stránek při tvorbě vah pro řadící algoritmus Page Rank.
Jen pro představu, aktuální verze General Guidelines (PDF), kterou používá Google k lidskému posouzení kvality webových stránek indexovaných jeho vyhledávačem, čítá175 normostran. Je to docela hutné čtení.
Facebook potřebuje svůj Nejvyšší soud
Jak se postupně Facebook nafukoval, jeho management si i pod tlakem komunity – především evropských zemí – uvědomil, že potřebuje dostatečně nezávislou a věrohodnou autoritu, která bude stát nad všemi těmito manuály, rozhodovacími stromy a počítačovými algoritmy.
Autoritu, ke které se budeme moci odvolat podobným způsobem, jak tak Američané činí v případě svého Nejvyššího soudu Spojených států amerických, no a my Češi zase u našeho Ústavního soudu České republiky.
Oversight Board 20 expertů z celého světa
Mark Zauckeberg před dvěma lety publikoval obsáhlý příspěvek A Blueprint for Content Governance and Enforcement, ve kterém nastínil, že už jeho firma na něčem podobném opravdu pracuje, no a loni na jaře jsme se konečně dočkali Dozorčí rady – Oversight Board.
Dvacítku Nejvyšších moderátorů postupně doplní další experti
Rada dostala do začátku 130 milionů dolarů na svůj provoz a další rozvoj a aktuálně ji tvoří 20 expertů z různých oblastí počínaje jemenskou aktivistkou za práva žen a nositelkou Nobelovy ceny Tawakkol Karmánovou a konče viceprezidentem libertariánského think tanku Cato Institute Johnem Samplesem.
Skupina je národnostně a názorově stejně pestrá jako samotná komunita Facebooku a do budoucna by se měla dokonce zdvojnásobit.
Rada nebude řešit kdejakou osobní banalitu
Oversight Board nicméně rozhodně nenahradí zhruba 15 tisíc současných moderátorů Facebooku. Profesoři práva ze Stanfordu, Kolumbie, Tchaj-wanu nebo třeba Indie tu nejsou od toho, aby po večerech zkoumali, proč vám robot zablokoval příspěvek, ve kterém jste chtěli věšet souseda nebo třeba předsedu vlády, protože by takových akademiků Facebook potřeboval opět tisíce a nijak by si nepomohl.
Pokud se nespokojíte s rozhodnutím moderátora na Facebooku a Instagramu a váš případ bude dostatečně vážný, budete jej moci nominovat na přezkum Dozorčí radou
Bude to fungovat jinak – formou výběru velkých kauz s celospolečenským dopadem. To znamená, že pokud vám Facebook zprvu zablokuje onen příspěvek, ve kterém věšíte souseda, načež se na stránce osobních průšvihů odvoláte k přezkumu, nicméně moderátor přečin podle manuálu potvrdí, teprve pak budete moci svoji při nominovat k tomuto Nejvyššímu soudu Facebooku.
Rada bude nastavovat nové precedenty
Rada dvaceti starších si z koše kauz a na základě vlastního autoritativního rozhodnutí vybere ty nejzajímavější, které mají tendenci nastavit nový precedentní výklad podmínek samotného Facebooku, no a během tříměsíční lhůty rozhodne.
Když to bude ve váš prospěch, nejen že se opět vrátíte do hry, ale bude to mít dopad i na další výklad předpisů celé sociální sítě. Rada v tomto případě stojí nad všemi autoritami společnosti včetně Marka Zuckerberga.
Pokárání Facebooku za přístup ke koronaviru
Před pár dny Oversight Board rozhodl v prvních pěti případech, přičemž ve čtyřech z nich skutečně zvrátil původní rozhodnutí Facebooku. Doložil tím jak svoji vlastní nezávislost, tak skutečnost, že softwarové algoritmy i armáda moderátorů nerozhodují vždy tak, jak by opravdu měli.
Všechny případy včetně detailního zdůvodnění rady jsou veřejné a najdete je v sekci Decisions. Prvních pět případů reflektuje kauzy z loňského podzimu a najdete v nich samá aktuální témata.
Seznam doporučení, jak se má změnit Facebook v případě blokace informací o pandemii koronaviru (případ 2020-006-FB-FBR)
Tou dobou Facebook například oznámil, že se bude mnohem větší měrou věnovat blokaci manipulativních příspěvků s tematikou pandemie koronaviru. Jenže jak už tomu bývá, blokoval hlava hlava nehlava i ty příspěvky, které skutečně jen nabízely jiný pohled na věc. A právě jedno takové rozhodnutí z Francie nyní Rada odmítla, takže Facebook bude muset příspěvek opět zviditelnit.
Ženské bradavky dostanou opět zelenou
Další případ, ve kterém Rada zvrátila původní rozhodnutí, se zase týká jistého instagramového příspěvku z Brazílie, jehož autor v rámci podzimní kampaně Pink October věnované boji proti rakovině prsu zveřejnil pět fotografií s ženskými ňadry. Jakmile nenasytní roboti Facebooku spatřili bradavku, příspěvek okamžitě zablokovali a stejný názor měl i moderátor z masa a kostí.
Seznam doporučení, jak se má změnit Instagram v případě blokace fotografií nahého lidského těla (případ 2020-004-IG-UA).
Kauza se později dostala do médií a sociální síť rozhodnutí dodatečně sama přehodnotila, Oversight Board se jí ale přesto věnoval právě proto, aby formou doporučení stanovil nový precedent. Bradavky v podobném kontextu už vadit nebudou (a programátoři botů na rozpoznávání ženských ňader se kvůli jejich optimalizaci pořádně zapotí).
Rada bude přezkoumávat blokaci Trumpa
Dozorčí rada v závěru ledna nakonec také zveřejnila seznam kauz, kterým se bude věnovat nyní a žádá širokou veřejnost o názor. To je totiž další aspekt jejího fungování. Ke každé vybrané kauze se můžete formou formuláře vyjádřit a nastínit tak svůj etický pohled na věc.
Facebook chce mít jasno, jestli mohl zablokovat Donalda Trumpa
Jedna z těchto kauz právem zastiňuje všechny ostatní, v následujících týdnech totiž bude Oversight Board přezkoumávat mimo jiné rozhodnut Facebooku na dobu neurčitou zablokovat onen soukromý účet Donalda Trumpa.
Mimochodem, tento případ nominoval samotný Facebook, který tak hledá jasný a nezávislý výklad svých vlastních podmínek služby a etického kodexu – Zásad komunity.
Exprezident porušil několik Zásad komunity
Facebook cituje několik veřejných příspěvků Donalda Trumpu, který v nich volá po „útoku na Kapitol“ a které předcházeli razii v budově Kongresu zkraje ledna letošního roku. Podle představitelů se jednalo o porušení Zásad komunity; konkrétně o sekce:
Rada to nebude mít jednoduché, Amerika a vlastně i svět jsou totiž v pohledu na blokaci Donalda Trumpa docela rozdělené, nicméně i tímto krokem stanoví precedent, za kterým tentokrát už nebude stát zaměstnanec Facebooku, ale skupina nezávislých akademických a lidskoprávních autorit.
Jestli to nakonec něčemu pomůže, zůstává velkou neznámou, monopolní a ve všech ohledech nadnárodní Facebook si ale na sebe ušil alespoň nějaký a procesně snad i trošku věrohodný a transparentní bič.
