Instagram hodlá do boje proti kyberšikaně nasadit umělou inteligenci. Oznámil to v tiskové zprávě s tím, že místo toho, aby řešil situaci až poté, co nastane, bude provádět kontrolu ještě před publikováním příspěvku.
Konkrétně to má fungovat tak, že algoritmy vyhodnotí obsah příspěvku, a pokud titulek obsahuje „potenciálně urážlivý jazyk“, dostane uživatel možnost ho před zveřejněním přehodnotit a případně změnit. Poslední aktualizace přináší podporu detekce titulků v obrázcích i videích.
Zatím kontrola funguje jen někde
Funkce je zatím dostupná jen ve „vybraných zemích“, nicméně v plánu je její globální rozšíření. Provozovatel sociální sítě se touto cestou snaží zastavit šíření negativity dříve, než k němu vůbec dojde. Uživateli se v případě „podezřelého textu“ zobrazí varování, že jeho titulek je podobný těm, které byly nahlášeny kvůli šikaně. Současně s tím dostane možnost ho upravit, nebo ho může i přes varování sdílet.
Podobně to již nějakou dobu funguje při odesílání komentářů – v případě podezření na nevhodný obsah je uživatel dotázán, zda si skutečně přeje komentář zveřejnit. Tato funkce údajně plní svůj účel a výsledky jsou dle zprávy velice slibné. Mnoho uživatelů prý využilo možnosti zvážit a následně přeformulovat svá slova.
V oznámení o nasazení kontroly titulků v obrázcích a videích se mimo jiné píše: „Kromě omezení dosahu šikany toto varování pomáhá vzdělávat lidi v tom, co na Instagramu nepovolujeme, a kdy může účtu hrozit riziko porušení našich pravidel.“
Šikana na Instagramu je problém
Ačkoli se šikana může vyskytovat téměř na jakékoli platformě, v případě Instagramu je zvlášť výrazným problémem. Studie z roku 2017 zjistila, že 17 % dospívajících je šikanováno online a že většina případů kyberšikany se děje na Instagramu.
Obrázková sociální síť přidala již v říjnu tohoto roku několik funkcí s cílem chránit své uživatele. Jedna z nich jim umožňuje chránit účet před nežádoucími interakcemi – komentáře od osoby, kterou „omezíte“, jsou viditelné pouze pro ni.
