Алгоритъм за омразата. Кога Facebook трие постове и страници?

На 15 март потребител, представящ се като Брентън Тарант, излъчва на живо във Facebook едно видео, разтърсило света. Вижда се как той пътува към джамия в Крайстчърч, Нова Зеландия, и как влиза в храма въоръжен с автоматично оръжие под звуците на сръбска песен, възхваляваща лидера на босненските сърби Радован Караджич.

Кадрите остават достъпни за потребителите на платформата в продължение на часове след като става ясно, че Тарант е открил огън в джамията и е убил 50 души.

Тогава Facebook понесе остри критики заради самото видео, а и заради факта, че коментари, съдържащи реч на омразата и призиви към насилие, не са блокирани. Австралия и Великобритания обявиха, че ще въведат регулации на съдържанието в социалните мрежи.

По-малко от две седмици по-късно американската компания въведе нови правила срещу съдържание, което възхвалява, подкрепя и разпространява идеите на т.нар. бял национализъм (идеология, според която белите хора трябва да развиват и отстояват своя културна и политическа идентичност, различна и превъзхождаща тази на останалите раси).

Новите правила влязоха в сила на 1 април и масово бяха критикувани като ограничаващи свободата на изразяване.

Какво се променя?

Досега в социалната мрежа бяха блокирани публикации, които дискриминират по раса, етническа принадлежнист, религия или сексуална ориентация, включително такива, възхваляващи белия супремасизъм (превъзходство на белите хора).

Новите правила се отнасят до публикации, в които се твърди, че културата на белите хора е по-висша и които призовават към разделение между расите. Политическият и етническият (например баският) сепаратизъм обаче остават разрешени. Няма да бъдат блокирани и постове, които призовават за разделение между малцинствена група (например афроамериканците в САЩ) и останалите хора, когато те идват от представители на тази група.

Това е причината новите правила да станат обект на критики. Американският интернет гигант оправдава решението си с характера на белия национализъм в историческа перспектива като унижаващ цветнокожите.

От Facebook обаче изтъкват, че алгоритмите на социалната мрежа не могат да идентифицират прояви на т.нар. бял национализъм. Затова компанията ще разчита на потребители да докладват такова съдържание, след което то ще бъде премахвано ръчно от нейни служители.

Кои публикации се трият от Facebook?

Такава е политиката на Facebook за повечето случаи на забранено съдържание. Най-често публикациите биват автоматично блокирани, когато алгоритмите на социалната мрежа разпознаят определени ключови думи или кадри. Важно е да се отбележи, че по този начин контекстът, в който е използван даден израз или кадър, не се взима под внимание.

Друг вариант е потребители да докладват за нередност при дадена публикация и тя да бъде изтрита автоматично при определен брой оплаквания. В трети случаи служители на Facebook преглеждат публикациите и ги изтриват ръчно. Според специализирани издания, работещите за компанията имат не повече от 30 секунди, за да вземат решение дали една публикация да бъде изтрита или не.

Facebook забранява пуликации, които показват или насърчават насилие, такива които възхваляват извършители на тежки престъпления (например серийни убийци) или подтикват към извършване на престъпления. Забранява се също речта на омразата, особено когато е използвана срещу групи, определяни като уязвими – най-често малцинства.

Към тази категория забранено съдържание се отнасят постове, дискриминиращи по раса, етническа принадлежност, миграционен статус, пол и сексуална ориентация. Забранява се групи от хора, дефинирани по някоя от тези характеристики, да бъдат сравнявани с животни, престъпници, да им бъдат приписвани унижаващи физически, умствени и морални характеристики.

Грешка в алгоритъма?

Не са изключение случаите, когато Facebook трие публикации, които всъщност не нарушават правилата на социалната мрежа. Това може да се дължи на факта, че алгоритмите на платформата не разпознават контекста, в който е употребен израз или кадър – те не правят разлика между иронизирането и възхваляването на дадено явление, например.

Друга възможност за грешка е, когато докладването на нередности в дадена публикация е организирано. Подобен метод се използва и за заглушаване на политически и идейни опоненти.

В такива случаи най-добрият вариант е поребителят да се свърже с екипа по поддръжката на социалната мрежа.

Имат ли връзка новите правила с изтрити Facebook страници в България?

В последните седмици бяха изтрити няколко популярни страници във Facebook в България, включително четири страници на журналиста Мартин Карбовски и такива на футболни отбори.

Няма яснота дали те са премахнати по новите правила, въведени от компанията. Ако е така, от изявленията на говорители на Facebook става ясно, че те не са изтрити автоматично, а ръчно от служители на компанията след като потребители са докладвали за нередности.