Facebook | Sociální sítě | Hate speech

Facebook definoval terorismus. Slibuje, že jeho A.I. odhalí jak fanoušky ISIS, tak KKK

Facebook definoval terorismus. Slibuje, že jeho A.I. odhalí jak fanoušky ISIS, tak KKK

Facebook se na svém webu pochlubil, jak v posledních letech bojoval s extremisty na své síti. Zároveň uvedl v platnost přísnější pravidla a popsal, jak vlastně identifikuje ten nejnebezpečnější obsah.

Vše začalo už před lety, když sociální sítě poprvé objevili členové a sympatizanti Al-Káidy a později tzv. Islámského státu. Facebook vytvořil model, který popisoval chování podobných skupin na sociální síti a začal na něm učit své neuronové sítě.

Ty tak dnes detekují a s relativně malou chybovostí zablokují drtivou většinu podobného obsahu, ještě než jej vůbec někdo ručně nahlásí. Jen v posledních dvou letech to bylo 26 milionů záznamů na Facebooku, tedy 99 % strojově a proaktivně odstraněných dat extrémistů.

Umělá inteligence detekuje extrémisty podle vzoru chování, nikoliv podle ideologie

Podstatné je to, že je technologie vycvičená na určité typické vzory chování a nikoliv na ideologii samotnou. Měla by tedy být dostatečně univerzální na detekci organizované agrese jako takové.

Klepněte pro větší obrázek
Takto určitě nepište. Nehledě na váš žebříček hodnot a vnitřní měřítko toho, co je ještě přípustné a co už nikoliv, se jedná o čítankový hate speech definovaný podmínkami služby Facebooku.

Březnový útok v novozélandském městě Christchurch však podle Facebooku ukázal, že má nadále své mezery a že nestačí kontrolovat jen běžný obsah, ale stále častěji i živý přenos videa skrze jeho platformu. Útočník totiž své dílo přenášel právě skrze sociální sítě.

Facebook proto oznámil, na čem poslední měsíce pracoval a jak se jeho síť změní. Běžní uživatelé se ničeho obávat nemusejí, ale ti, kteří třeba jen slovně schvalovali právě útoky na Novém Zélandu, už ano.

Vylepšená detekční A.I. a nová definice teroristických a nesnášenlivých skupin

Facebook vylepšil strojové učení a hlavně investoval do lidských zdrojů, takže nyní zaměstnává mnohem více expertů na samotnou identifikaci, co je ještě stravitelný názor a co už ta nejhrubší forma hate speech.

Aby tyto excesy nemuseli analytici hodnotit případ od případu a velmi složitě ladit modely strojového učení, vytvořili samotnou definici terorismu, která sociální síti doposud chyběla.

2. Nebezpeční jednotlivci a organizace

Zdůvodnění těchto zásad:

Ve snaze předcházet a ukončit páchání škod v reálném světě nepovolujeme přítomnost na Facebooku žádné organizaci ani jednotlivci, jejichž cílem je šířit násilí nebo jsou do násilných aktivit zapojení. To se týká organizací či jednotlivců zapojených do těchto aktivit:

  • teroristické aktivity
  • organizované šíření nenávisti
  • masoví nebo sérioví vrazi
  • obchodování s lidmi
  • organizované násilí a kriminální činnost

Dále odebereme obsah, který vyjadřuje podporu nebo vychvaluje skupiny, vůdce nebo jednotlivce angažované v těchto aktivitách.

Definice teroristické organizace:

Jakákoli nevládní organizace, která se angažuje v předem promyšleném násilí vůči lidem nebo majetku s cílem zastrašit civilní obyvatelstvo, vládu nebo mezinárodní organizace za účelem dosažení politických, náboženských nebo ideologických cílů.

Definice organizace šířící nenávist:

Jakýkoli spolek tří a více lidí organizovaný pod jménem, znakem nebo symbolem, jehož ideologie, prohlášení nebo fyzické akce útočí na jednotlivce kvůli jejich rysům, včetně rasy, náboženské příslušnosti, národnosti, etnické příslušnosti, pohlaví, sexuální orientace nebo vážné nemoci či postižení.

Redakčně kráceno, plné znění najdete v Zásadách komunity Facebooku.

Americké zastánce white supremacy Facebook přesměruje na nevládní organizace

Pokud nyní Facebook zachytí podobný závadný obsah, který je v rozporu s podmínkami služby, se kterými každý člen sítě při registraci souhlasil, a jedná se tedy fakticky o smluvní vztah, nejen že jej dále analyzuje a uživatele případně zablokuje, ale podle zápisku na zpravodajském blogu se mu i pokusí pomoci.

Tuto funkci aktuálně testuje pouze v zámoří, kde při detekci extrémního obsahu přesměruje Američany třeba na web LifeAfterHate, který se pokouší pomoci zejména ultrapravicovým extrémistům, aby se po večerech neoblékali do prostěradel Ku Klux Klanu.

Diskuze (52) Další článek: Mozilla šlape na plyn. Nové verze Firefoxu bude vydávat dvakrát rychleji

Témata článku: Web, Facebook, Sociální sítě, Hate speech, Islámský stát, Náboženství, Definice, Terorismus, Extrémista, Isis, Christchurch, Nový Zéland, Síť, Al-Káida, KKK, Obsah


Určitě si přečtěte

Hledá se způsob, jak uložit elektřinu. Možná pomohou obří gravitační baterie

Hledá se způsob, jak uložit elektřinu. Možná pomohou obří gravitační baterie

** Jak uložit elektřinu z fotovoltaiky a větrných turbín ** Pomohou třeba staré autobaterie, nebo setrvačníky ** A pak tu jsou bizarní gravitační akumulátory velikosti mrakodrapu

Jakub Čížek | 252

Co je TikTok: Svérázná sociální síť chytla mladé uživatele, už jich má už 1,5 miliardy

Co je TikTok: Svérázná sociální síť chytla mladé uživatele, už jich má už 1,5 miliardy

** Sociální síť TikTok získala stamiliony uživatelů a stále roste ** Jaký obsah na ní najdete a co můžete v jejím rámci čekat? ** Je to zábava pro mladé, nebo platforma pro úchyláky?

Karel Kilián | 37

Měření rychlosti internetu: Populární Speedtest.net neřekne o skutečné rychlosti internetu téměř nic

Měření rychlosti internetu: Populární Speedtest.net neřekne o skutečné rychlosti internetu téměř nic

** Speedtest stále častěji měří jen rychlost na poslední míli ** Ta však ale neodpovídá reálnému surfování ** Jak se tedy pokusit změřit tu skutečnou?

Jakub Čížek | 85



Aktuální číslo časopisu Computer

Test 9 bezdrátových reproduktorů

Jak ovládnout Instagram

Test levných 27" herních monitorů

Jak se zbavit nepotřebných věcí na internetu