Facebook, Google a další chystají nové automatické systémy na mazání hate speech

Facebook, Google a další chystají nové automatické systémy na mazání hate speech

Velké sociální sítě a internetové společnosti v čele s Facebookem a Googlem chystají podle agenturních zpráv automatizované systémy na blokování hate speech – nesnášenlivých příspěvků, videí aj. Hlavním důvodem má být především rostoucí objem takového obsahu a v případě Evropy i tlak ze strany EU a některých zemí (zejména Německa).

Nejvíce na ráně je Facebook, který musí každý den prošetřit na milion označených příspěvků, které porušují pravidla. Je tedy zřejmé, že při takovém počtu už lidská síla prostě nestačí – leda že by si Mark Zuckerberg najal tisíce a tisíce nových brigádníků.

Takový Google má s analýzou zakázaného obsahu bohaté zkušenosti – v jeho případě se to týká zejména warezu ve vyhledávači. Internetová jednička z Mountain View obdrží každý den přes dva miliony podobných žádostí o odstranění odkazu.

A do třetice je tu ještě Twitter, který zase hraje na kočku a myš s politruky ISIS, kteří dnem i nocí zakládají na jeho síti propagandistické účty, aby je služba do několika hodin zase smazala.

Klepněte pro větší obrázek
Pravidla hate speech na Facebooku

Podle některých pozorovatelů však ještě silnější strojová blokace hate speech vzbuzuje obavy, protože definice nesnášenlivosti je často poměrně vágní a nabízí se otázka, jak se strojová analýza vypořádá s šedou zónou, tedy příspěvky, které jsou na hraně a zatímco pro jedny jsou ještě přijatelné, jiní by je už chtěli z internetu odstranit.

Zatímco třeba v případě dětské pornografie a zmíněného ISIS platí obecná shoda, že takový obsah nemá nárok na svobodu slova, u ostatních témat už to tak jednoduché není. Nabízí se například otázka, jak by se softwarový algoritmus vypořádal s internetovou hádkou mezi zastánci různých politických proudů třeba zrovna v relativně malé České republice.

Pokud by byl takový mazací robot příliš přísný, mohl by v důsledku napáchat mnohem více škod. Vzhledem k tomu, že i roboti nahlašující warez trpí zjevnou nedokonalostí a evidují i naprosto legitimní odkazy, lze předpokládat, že i software odstraňující hate speech někomu uškodí. I kdyby totiž trpěl chybovostí třeba jen tisícin procenta, při objemu mnoha milionů příspěvků publikovaných každý den na Facebooku by se jednalo o obrovský problém.

Diskuze (13) Další článek: EU chce funkční kvantový počítač. Vědci dostali miliardu eur a dvacet let času

Témata článku: Google, Facebook, Sociální sítě, Web, Hate speech, Maza, Google+, Internetová jednička, Kočka, Brigádník, DAL, Softwarový algoritmus, Mazání, Shoda, Lidská síla, Automatic, Rostoucí objem, Obrovský problém, Facebook a Google, Strojová analýza, Hat, Šedá zóna, Hate, Orwell, Isis



Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

** Sex manželských párů jen při zvláštních příležitostech. ** Ložnice ovládnou sexuální roboti s umělou inteligencí. ** I to je jeden ze závěrů Mezinárodní robotické konference.

Filip KůželJiří Liebreich
RobotiSexUmělá inteligence
Jak poznat, že máte možná hacknutý telefon? Toto je devět symptomů, které můžete pozorovat

Jak poznat, že máte možná hacknutý telefon? Toto je devět symptomů, které můžete pozorovat

** Jak poznat, že je váš smartphone hacknutý? ** Hledejte známky po nestandardním chování telefonu ** Stačí když telefon vydrží méně nebo topí i v klidovém režimu...

Martin Chroust
Jak...Malware
Zákaz potratů nutí ženy mazat aplikace pro sledování svého cyklu. Facebook to řeší mazáním účtů a příspěvků

Zákaz potratů nutí ženy mazat aplikace pro sledování svého cyklu. Facebook to řeší mazáním účtů a příspěvků

** Zrušení práva na potrat v USA má nečekaný vliv i na mobilní technologie ** Uživatelky ze strachu mažou citlivé aplikace ** Meta zase maže příspěvky a účty lidí, kteří nabízí potratové pilulky

Martin Miksa
MetaZdravíPro ženy
Vyhledávejte jako expert. Duckduckgo nebo Tineye zvládnou i to, na co je Google krátký

Vyhledávejte jako expert. Duckduckgo nebo Tineye zvládnou i to, na co je Google krátký

Vyhledávat lze na internetu i pokročilejším způsobem než jen zadáním fráze. Nejenže se dostanete ke kýžené informaci či materiálu mnohem snadněji, ale najdete i to, co byste jinak nenašli.

Antonín Trčálek
VyhledávačeGoogle
Sociální síť BeReal jde proti proudu. Žádné filtry a přetvařování, tohle má být čistá realita

Sociální síť BeReal jde proti proudu. Žádné filtry a přetvařování, tohle má být čistá realita

** BeReal je novou hvězdou mezi sociálními sítěmi ** Ukazuje pouze všední realitu běžných dní ** Aplikace vám jednou denně dá dvě minuty na poslání vlastní fotky

Martin Chroust
BeRealMobilní aplikaceSociální sítě
Recenze cykloradaru Garmin Varia RCT715. Bílé dodávky, všechny si vás natočím

Recenze cykloradaru Garmin Varia RCT715. Bílé dodávky, všechny si vás natočím

** Garmin do svého stále unikátního cykloradaru přidal kameru ** Snímá a ukládá, co se při jízdě děje za sedlem ** Kromě toho je to jedna z nejsilnějších svítilen na kolo

Marek Lutonský
Testy
Na televizích Samsung už se obejdete bez konzole. Kromě aplikace Xboxu jsou k dispozici i další streamovací služby

Na televizích Samsung už se obejdete bez konzole. Kromě aplikace Xboxu jsou k dispozici i další streamovací služby

Není to tak dlouho, co Xbox oznámil příchod svého streamovaného hraní i na televize Samsung. Na nejnovějších modelech už ho najdete v novém Gaming Hubu.

Martin Nahodil
Cloud GamingProject xCloud
Google aktualizoval správce hesel. Na všech platformách vypadá konečně stejně, nové heslo si přidáte i ručně

Google aktualizoval správce hesel. Na všech platformách vypadá konečně stejně, nové heslo si přidáte i ručně

** Google vylepšil Správce hesel alias Password Manager ** Na Androidu, iOS, Chrome OS, Windows, MacOS a Linuxu vypadá stejně ** Nové přihlašovací údaje můžete do správce zadat i ručně

Martin Chroust
HesloAndroid
Google není jen vyhledávač: 15 užitečných funkcí, o kterých možná ani nevíte

Google není jen vyhledávač: 15 užitečných funkcí, o kterých možná ani nevíte

** Google umí kromě vyhledávání i spoustu dalších věcí ** Vybrali jsme více než 15 užitečných funkcí a schopností ** Stačí zadat do vyhledávače ta správná klíčová slova

Karel Kilián
TipyVyhledávačeGoogle