Facebook, Google a další chystají nové automatické systémy na mazání hate speech

Facebook, Google a další chystají nové automatické systémy na mazání hate speech

Velké sociální sítě a internetové společnosti v čele s Facebookem a Googlem chystají podle agenturních zpráv automatizované systémy na blokování hate speech – nesnášenlivých příspěvků, videí aj. Hlavním důvodem má být především rostoucí objem takového obsahu a v případě Evropy i tlak ze strany EU a některých zemí (zejména Německa).

Nejvíce na ráně je Facebook, který musí každý den prošetřit na milion označených příspěvků, které porušují pravidla. Je tedy zřejmé, že při takovém počtu už lidská síla prostě nestačí – leda že by si Mark Zuckerberg najal tisíce a tisíce nových brigádníků.

Takový Google má s analýzou zakázaného obsahu bohaté zkušenosti – v jeho případě se to týká zejména warezu ve vyhledávači. Internetová jednička z Mountain View obdrží každý den přes dva miliony podobných žádostí o odstranění odkazu.

A do třetice je tu ještě Twitter, který zase hraje na kočku a myš s politruky ISIS, kteří dnem i nocí zakládají na jeho síti propagandistické účty, aby je služba do několika hodin zase smazala.

Klepněte pro větší obrázek
Pravidla hate speech na Facebooku

Podle některých pozorovatelů však ještě silnější strojová blokace hate speech vzbuzuje obavy, protože definice nesnášenlivosti je často poměrně vágní a nabízí se otázka, jak se strojová analýza vypořádá s šedou zónou, tedy příspěvky, které jsou na hraně a zatímco pro jedny jsou ještě přijatelné, jiní by je už chtěli z internetu odstranit.

Zatímco třeba v případě dětské pornografie a zmíněného ISIS platí obecná shoda, že takový obsah nemá nárok na svobodu slova, u ostatních témat už to tak jednoduché není. Nabízí se například otázka, jak by se softwarový algoritmus vypořádal s internetovou hádkou mezi zastánci různých politických proudů třeba zrovna v relativně malé České republice.

Pokud by byl takový mazací robot příliš přísný, mohl by v důsledku napáchat mnohem více škod. Vzhledem k tomu, že i roboti nahlašující warez trpí zjevnou nedokonalostí a evidují i naprosto legitimní odkazy, lze předpokládat, že i software odstraňující hate speech někomu uškodí. I kdyby totiž trpěl chybovostí třeba jen tisícin procenta, při objemu mnoha milionů příspěvků publikovaných každý den na Facebooku by se jednalo o obrovský problém.

Diskuze (13) Další článek: EU chce funkční kvantový počítač. Vědci dostali miliardu eur a dvacet let času

Témata článku: Google, Web, Sociální sítě, Facebook, Hate speech, Obrovský problém, Brigádník, Strojová analýza, Facebook a Google, Isis, Automatic, Maza, Hate, Orwell, Softwarový algoritmus, Google+, Lidská síla, Šedá zóna, Internetová jednička, Hat, Rostoucí objem, Shoda, Mazání, Kočka, Třetice


Určitě si přečtěte

Proč teď nedává smysl kupovat notebook a kdy přijde ten správný čas

Proč teď nedává smysl kupovat notebook a kdy přijde ten správný čas

** Během pár týdnů přijdou na trh výkonnější notebooky ** Čím dražší notebook vybíráte, tím víc se vám změní nabídka ** Také lehké notebooky budou téměř herní

Tomáš Holčík | 49

Koupili jsme nejlevnější dron s kamerou. Stál nás 300 Kč a má rozměry kreditky

Koupili jsme nejlevnější dron s kamerou. Stál nás 300 Kč a má rozměry kreditky

** Kvalitní drony začínají na 10 000 Kč ** Šli jsme na to jinak a koupili ten nejlevnější s kamerou ** I když je to čínský šmejd, je s ním zábava

Jakub Čížek | 34

České Rajče je stále plné dětských nahotin. Student pomocí A.I. analyzoval miliony fotek

České Rajče je stále plné dětských nahotin. Student pomocí A.I. analyzoval miliony fotek

** Rajče.net má odjakživa problémy s choulostivými fotkami dětí ** Student zlínské univerzity analyzoval jeho katalog ** Neuronová síť doposud prozkoumala 6 milionů snímků

Jakub Čížek, Filip Šedivý | 75

Už desítky let se pokoušíme odposlouchávat mozek. Rusům se podařil kousek, ze kterého vám spadne brada

Už desítky let se pokoušíme odposlouchávat mozek. Rusům se podařil kousek, ze kterého vám spadne brada

** K odposlechu mozků používáme EEG ** To má ale žalostné informační rozlišení ** Rusům pomohla počítačová neuronová síť

Jakub Čížek | 29

Měření rychlosti internetu: Populární Speedtest.net neřekne o skutečné rychlosti internetu téměř nic

Měření rychlosti internetu: Populární Speedtest.net neřekne o skutečné rychlosti internetu téměř nic

** Speedtest stále častěji měří jen rychlost na poslední míli ** Ta však ale neodpovídá reálnému surfování ** Jak se tedy pokusit změřit tu skutečnou?

Jakub Čížek | 85

10 skrytých nastavení prohlížeče Google Chrome, která se můžou hodit

10 skrytých nastavení prohlížeče Google Chrome, která se můžou hodit

** Prohlížeč Google Chrome ukrývá mnoho zajímavých možností ** Našli jsme deset nejzajímavějších skrytých nastavení ** Můžete si například výrazně vylepšit práci s kartami

Karel Kilián | 18



Aktuální číslo časopisu Computer

Megatest 12 bezdrátových sluchátek

Vyplatí se Apple z bazaru?

Test batohů pro notebooky

Vybíráme nejlepší sportovní hodinky