Facebook | Sociální sítě | Hate speech

Facebook definoval terorismus. Slibuje, že jeho A.I. odhalí jak fanoušky ISIS, tak KKK

Facebook definoval terorismus. Slibuje, že jeho A.I. odhalí jak fanoušky ISIS, tak KKK

Facebook se na svém webu pochlubil, jak v posledních letech bojoval s extremisty na své síti. Zároveň uvedl v platnost přísnější pravidla a popsal, jak vlastně identifikuje ten nejnebezpečnější obsah.

Vše začalo už před lety, když sociální sítě poprvé objevili členové a sympatizanti Al-Káidy a později tzv. Islámského státu. Facebook vytvořil model, který popisoval chování podobných skupin na sociální síti a začal na něm učit své neuronové sítě.

Ty tak dnes detekují a s relativně malou chybovostí zablokují drtivou většinu podobného obsahu, ještě než jej vůbec někdo ručně nahlásí. Jen v posledních dvou letech to bylo 26 milionů záznamů na Facebooku, tedy 99 % strojově a proaktivně odstraněných dat extrémistů.

Umělá inteligence detekuje extrémisty podle vzoru chování, nikoliv podle ideologie

Podstatné je to, že je technologie vycvičená na určité typické vzory chování a nikoliv na ideologii samotnou. Měla by tedy být dostatečně univerzální na detekci organizované agrese jako takové.

Klepněte pro větší obrázek
Takto určitě nepište. Nehledě na váš žebříček hodnot a vnitřní měřítko toho, co je ještě přípustné a co už nikoliv, se jedná o čítankový hate speech definovaný podmínkami služby Facebooku.

Březnový útok v novozélandském městě Christchurch však podle Facebooku ukázal, že má nadále své mezery a že nestačí kontrolovat jen běžný obsah, ale stále častěji i živý přenos videa skrze jeho platformu. Útočník totiž své dílo přenášel právě skrze sociální sítě.

Facebook proto oznámil, na čem poslední měsíce pracoval a jak se jeho síť změní. Běžní uživatelé se ničeho obávat nemusejí, ale ti, kteří třeba jen slovně schvalovali právě útoky na Novém Zélandu, už ano.

Vylepšená detekční A.I. a nová definice teroristických a nesnášenlivých skupin

Facebook vylepšil strojové učení a hlavně investoval do lidských zdrojů, takže nyní zaměstnává mnohem více expertů na samotnou identifikaci, co je ještě stravitelný názor a co už ta nejhrubší forma hate speech.

Aby tyto excesy nemuseli analytici hodnotit případ od případu a velmi složitě ladit modely strojového učení, vytvořili samotnou definici terorismu, která sociální síti doposud chyběla.

2. Nebezpeční jednotlivci a organizace

Zdůvodnění těchto zásad:

Ve snaze předcházet a ukončit páchání škod v reálném světě nepovolujeme přítomnost na Facebooku žádné organizaci ani jednotlivci, jejichž cílem je šířit násilí nebo jsou do násilných aktivit zapojení. To se týká organizací či jednotlivců zapojených do těchto aktivit:

  • teroristické aktivity
  • organizované šíření nenávisti
  • masoví nebo sérioví vrazi
  • obchodování s lidmi
  • organizované násilí a kriminální činnost

Dále odebereme obsah, který vyjadřuje podporu nebo vychvaluje skupiny, vůdce nebo jednotlivce angažované v těchto aktivitách.

Definice teroristické organizace:

Jakákoli nevládní organizace, která se angažuje v předem promyšleném násilí vůči lidem nebo majetku s cílem zastrašit civilní obyvatelstvo, vládu nebo mezinárodní organizace za účelem dosažení politických, náboženských nebo ideologických cílů.

Definice organizace šířící nenávist:

Jakýkoli spolek tří a více lidí organizovaný pod jménem, znakem nebo symbolem, jehož ideologie, prohlášení nebo fyzické akce útočí na jednotlivce kvůli jejich rysům, včetně rasy, náboženské příslušnosti, národnosti, etnické příslušnosti, pohlaví, sexuální orientace nebo vážné nemoci či postižení.

Redakčně kráceno, plné znění najdete v Zásadách komunity Facebooku.

Americké zastánce white supremacy Facebook přesměruje na nevládní organizace

Pokud nyní Facebook zachytí podobný závadný obsah, který je v rozporu s podmínkami služby, se kterými každý člen sítě při registraci souhlasil, a jedná se tedy fakticky o smluvní vztah, nejen že jej dále analyzuje a uživatele případně zablokuje, ale podle zápisku na zpravodajském blogu se mu i pokusí pomoci.

Tuto funkci aktuálně testuje pouze v zámoří, kde při detekci extrémního obsahu přesměruje Američany třeba na web LifeAfterHate, který se pokouší pomoci zejména ultrapravicovým extrémistům, aby se po večerech neoblékali do prostěradel Ku Klux Klanu.

Diskuze (52) Další článek: Mozilla šlape na plyn. Nové verze Firefoxu bude vydávat dvakrát rychleji

Témata článku: Web, Facebook, Sociální sítě, Náboženství, Islámský stát, Terorismus, Hate speech, Definice, Extrémista, Nový Zéland, Isis, Christchurch, Síť, Obsah, KKK


Určitě si přečtěte

3D tisk pro naprosté zelenáče: Co vyrobíte na laciném stroji za pár tisíc korun

3D tisk pro naprosté zelenáče: Co vyrobíte na laciném stroji za pár tisíc korun

** Domácí 3D tisk je dnes už finančně dostupný prakticky všem ** Lacinou tiskárnu pořídíte za pár tisíc korun ** Jak vlastně tisk probíhá a jak navrhnout, co vytisknout

Jakub Čížek | 66

Google Coral: Raspberry Pi s čipem, který zpracuje 4 biliony operací za sekundu

Google Coral: Raspberry Pi s čipem, který zpracuje 4 biliony operací za sekundu

** Je to velké jako Raspberry Pi ** Ale je to až o několik řádů rychlejší ** Dorazil nám exotický Google Coral s akcelerátorem Edge TPU

Jakub Čížek | 18

10 novinek Androidu 10, které vás budou bavit

10 novinek Androidu 10, které vás budou bavit

Jan Láska, Vladislav Kluska | 24

Zorin OS 15: Vyzkoušejte další hezký a nenáročný linux pro mamku a taťku

Zorin OS 15: Vyzkoušejte další hezký a nenáročný linux pro mamku a taťku

** Ačkoliv je grafických linuxů plný internet, stále vládnou Windows ** Jeden z nich se jmenuje Zorin OS a nedávno se dočkal aktualizace ** Dělají jej dva kluci z Irska a je fakt hezký

Jakub Čížek | 114



Aktuální číslo časopisu Computer

Speciál o přechodu na DVB-T2

Velký test herních myší

Super fotky i z levného mobilu

Jak snadno upravit PDF