Facebook, Google a další chystají nové automatické systémy na mazání hate speech

Velké sociální sítě a internetové společnosti v čele s Facebookem a Googlem chystají podle agenturních zpráv automatizované systémy na blokování hate speech – nesnášenlivých příspěvků, videí aj. Hlavním důvodem má být především rostoucí objem takového obsahu a v případě Evropy i tlak ze strany EU a některých zemí (zejména Německa).

Nejvíce na ráně je Facebook, který musí každý den prošetřit na milion označených příspěvků, které porušují pravidla. Je tedy zřejmé, že při takovém počtu už lidská síla prostě nestačí – leda že by si Mark Zuckerberg najal tisíce a tisíce nových brigádníků.

Takový Google má s analýzou zakázaného obsahu bohaté zkušenosti – v jeho případě se to týká zejména warezu ve vyhledávači. Internetová jednička z Mountain View obdrží každý den přes dva miliony podobných žádostí o odstranění odkazu.

A do třetice je tu ještě Twitter, který zase hraje na kočku a myš s politruky ISIS, kteří dnem i nocí zakládají na jeho síti propagandistické účty, aby je služba do několika hodin zase smazala.

Klepněte pro větší obrázek
Pravidla hate speech na Facebooku

Podle některých pozorovatelů však ještě silnější strojová blokace hate speech vzbuzuje obavy, protože definice nesnášenlivosti je často poměrně vágní a nabízí se otázka, jak se strojová analýza vypořádá s šedou zónou, tedy příspěvky, které jsou na hraně a zatímco pro jedny jsou ještě přijatelné, jiní by je už chtěli z internetu odstranit.

Zatímco třeba v případě dětské pornografie a zmíněného ISIS platí obecná shoda, že takový obsah nemá nárok na svobodu slova, u ostatních témat už to tak jednoduché není. Nabízí se například otázka, jak by se softwarový algoritmus vypořádal s internetovou hádkou mezi zastánci různých politických proudů třeba zrovna v relativně malé České republice.

Pokud by byl takový mazací robot příliš přísný, mohl by v důsledku napáchat mnohem více škod. Vzhledem k tomu, že i roboti nahlašující warez trpí zjevnou nedokonalostí a evidují i naprosto legitimní odkazy, lze předpokládat, že i software odstraňující hate speech někomu uškodí. I kdyby totiž trpěl chybovostí třeba jen tisícin procenta, při objemu mnoha milionů příspěvků publikovaných každý den na Facebooku by se jednalo o obrovský problém.

Témata článku: Google, Web, Facebook, Sociální sítě, Hate, Isis, Orwell

13 komentářů

Nejnovější komentáře

  • mikino123x 27. 6. 2016 13:05:49
    Ono Facebook ma s cenzurou uz nejake skusenosti, takze ma na com stavat......
  • Bohumil Bartoš 27. 6. 2016 10:44:32
    Opět SSácké Německo co nám chce diktovat co můžeme a co nemůžeme...
  • Tomáš Procházka 27. 6. 2016 10:44:00
    Nějaká svoboda slova je přeci vedlejší, když je v sázce to, že nikdo...
Určitě si přečtěte

Operační systém běžným počítačům nedal Bill Gates, ale Gary Kildall

Operační systém běžným počítačům nedal Bill Gates, ale Gary Kildall

** Gary Kildall pochopil, že levné výpočetní čipy mohou posloužit jako univerzální počítače pro všechny ** Připravil pro ně proto první operační systém ** Později mu systém vyfoukl Microsoft a nazval ho MS DOS

23.  4.  2017 | Pavel Tronner | 56

Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

** Už je to tady, lidé přestávají chápat počítače ** Systémy neuronových sítí začínají pracovat tak, že ani jejich tvůrci přesně neví, co se uvnitř děje ** Do budoucna to může být závažný problém

24.  4.  2017 | Jakub Čížek | 112

Před 35 lety měl premiéru legendární počítač ZX Spectrum. Připomeňte si „Gumáka“

Před 35 lety měl premiéru legendární počítač ZX Spectrum. Připomeňte si „Gumáka“

** Slavný osmibitový počítač Sinclair ZX Spectrum byl uveden právě před 35 lety ** Připomeňte si tento průkopnický počítač v tematických článcích ** Podívejte se, jak funguje dnes

23.  4.  2017 | Pavel Tronner | 13

Správný počítač má alespoň dva monitory. Anebo je to jinak?

Správný počítač má alespoň dva monitory. Anebo je to jinak?

** David si nedokáže představit práci bez dvou a více monitorů ** Kubovi naopak stačí jeden a ve více displejích se ztrácí ** Jaký přístup je lepší?

23.  4.  2017 | Jakub Čížek | 59

Jak by měly vypadat příští Windows? Designéři si pohráli s futuristickým prostředím Neon

Jak by měly vypadat příští Windows? Designéři si pohráli s futuristickým prostředím Neon

** Zkraje roku unikly na internet snímky nového prostředí Neon ** Součástí Windows by mohlo být už na podzim ** Komunita grafiků na webu nespala a začala si hrát

26.  4.  2017 | Jakub Čížek | 45


Aktuální číslo časopisu Computer

Supertéma: moderní cestování

Kdy opravdu přijdou nové baterie?

Velké testy: 6 herních notebooků a 8 volantů

Recenze: AMD Ryzen řady 5