Секретен проект на компанията "Мета" (Meta) под названието "Dolphin", изпълняван от българското поделение на "Телъс интернешънъл" (Telus International), модерира съдържанието на социалната мрежа Фейсбук в България, разкрива разследващият сайт Bird.bg. Според него модерацията е структурирана по начин, който поражда съмнения за преднамерено санкциониране на български граждани и активисти, които застъпват проукраински позиции и са критици на Кремъл.

В последните месеци имаше спорове около българската модерация на Фейсбук заради масираното заглушаването на активисти, журналисти и общественици, които са критични към руската агресия в Украйна, докато в същото време се подсилва проруската пропаганда. Миналата година, седмици след като Русия нахлу в Украйна, беше изпратена и петиция до Европейския парламент срещу пристрастното модериране на съдържанието в българския сегмент на Фейсбук.

Бившият министър по въпросите на електронното управление Божидар Божанов влезе в кореспонденция с Фейсбук (Мета) за начина, по който се модерира съдържанието в България, но полученият отговор беше крайно неудовлетворителен.

Преди около два месеца профилът на главния редактор на Bird.bg Атанас Чобанов беше свален за 30 дни след споделяне на публикация на Европейския парламент, обявил Русия за държава-спонсор на тероризма. В отговор Bird.bg публикува личните профили на десетки служители на "Телъс интернешънъл" - България, призовавайки да избират между репутацията и възнаграждението си. Случаят предизвика противоречиви реакции и критики дали това е етично, но от друга страна не е ясно какъв акт на протест би могъл да насочи вниманието на технологичния гигант към казуса с България.

На 18 януари се проведе и протест на живо пред сградата на "Телъс" в София.

"Телъс" обаче отрича подозренията за преднамереност и дефект на модерацията.

"Имаше твърдение, че правим руска пропаганда. Ами какво да ви кажа - категорично се разграничаваме от подобно твърдение. Нито сме обвързани с руското правителство, нито с което и да било друго правителство по света. Ние сме абсолютно независима, публично търгувана компания", каза в интервю за "Капитал" през декември Кристина Иванова, директор за България и вицепрезидент "Операции" на "Телъс Интернешънъл" за Европа.

Името "Dolphin" се открива в съдебни дела срещу "Телъс" от уволнени служители, твърди Bird.bg.

"Телъс" работи като подизпълнител на "Мета" по договор от 2019 г.

Според разследващия сайт проектът "Dolphin" се изпълнява от секретен отдел на "Телъс", разположен в "Телъс Тауър" на пл. "Македония" в София, който е отделен с матови стъкла, въоръжена охрана и специален пропускателен режим с шлюзове с двустепенно отваряне. В него работят модератори на съдържание на български език във Фейсбук.

Българският отдел на "Dolphin" е малък, като е подчинен на руския отдел, който е най-голям. Други малки отдели, подчинени на руския, са грузинският, арменският и тези за езици от Средна Азия, твърди Bird.bg.

Средно на ден един модератор обработва по 800-900 доклада на компютър, като всяка преценка се прави изключително бързо – за около 40 секунди. При затруднение с преценката модераторът се допитва до служител, който е по-високо в йерархията и дава инструкции за това дали даден материал отговаря на стандартите на общността, пише разследващият сайт.

В интервю за в. "Капитал" ръководителят на отдел "Обществени политики" за Централна и Източна Европа в "Мета" Якоб Туровски твърди, че управлението на съдържание "винаги е комбинация от служителите ни, AI (изкуствен интелект – б.а.) и машинно обучени инструменти".

Според източници на Bird.bg обаче "Мета" не е инвестирала сериозно в изкуствен интелект и машинно обучени евристични инструменти за българския и други малки езици. За тях детайлната човешката намеса на модераторите е решаваща.

Как става?

Системата Изкуствен интелект (ИИ) работи най-общо казано по следния начин. След масово докладване от тролове, алгоритъмът на "Мета" автоматично блокира поста. Създава се тикет /сигнал/, който отива до втори, евристичен ИИ. Евристичен ще рече, че системата прави обобщение от частични данни без детайлен анализ. Тя решава дали да блокира поста според това дали подобни постове са били блокирани през последните дни от модератор.

Обжалването на блокиране от ИИ води до преглед от човешки модератор в "Телъс". Твърди се, че "Телъс", като част от тяхната търговска тайна, също имат някакъв алгоритъм за филтриране на тикети спрямо "нежелани лица". Това са локални правила за спорно съдържание, които се сформират от компанията отново чрез евристичен алгоритъм, обучаващ се върху метаданни. Целта не е човеколюбива, а комерсиална: да се маха съдържание, което кара потребители да ползват по-малко съответната социална мрежа.

Тук възниква първият сериозен проблем, защото локалните правила за спорно съдържание /locally controversial/ на "Телъс" включват предпочитанията на фалшивите хиляди тролски профили, които блокират "лоши неща" от "лоши хора".

Тези профили харесват новини за ракетни удари по украински детски градини и жилищни блокове, но не харесват новини за Русия като терористична държава. Система, която се обучава върху такива данни, няма как да даде противоположни резултати.

Източници на Bird обаче твърдят, че понеже пазарът в България е незначителен, автоматизацията за него не е изгодна. Според бивши служители на фирмата няма сериозна система за филтрация, базирана на изкуствен интелект.

Докладваното съдържание отива при съдник в "Телъс". Съдникът обикновено е млад човек, владеещ английски и друг майчин език. Той преминава обучение от четири седмици и половина, за да попие знанието кое е допустимо и кое не е, съгласно стандартите на общността на Фейсбук. Съдникът трябва да има отлична памет, защото няма право да си води записки. На разположение има "библията" със стандартите, която е над 1000 страници, но при 40 секунди средно за обработка на един пост, той няма време да търси в нея.

Съдникът вижда докладвано съдържание и решава за секунди дали да одобри доклада или да го отхвърли. Понякога му е нужна помощ от приятел и тогава се допитва до политкомисаря на групата.

За автора на докладваното съдържание, решението на съдника или политкомисаря е еквивалент на произнасяне: виновен или невинен. В карцера ли ще е през следващите дни или на свобода? Ако е обявен за виновен от съдника, алгоритмите на Фейсбук ще му наложат наказание. За рецидивистите наказанията са по-тежки и може да се стигне до блокиране на профила.

Съдникът вижда кой е доносникът, вижда и кой е докладван. Докладваният не вижда доносника. Доносникът вижда евентуално резултата от доноса – дали докладваното съдържание е свалено или не.

Чисто количествено, при такава разстановка на силите, печеливш ще бъде този, който успее да мобилизира голям брой доноси. Именно това правят тролските ферми – докладват масово. Но силите, които имат интерес от изкривената модерация не се ограничават само с външната намеса.

Bird.bg е получил информация за трима служители на отговорни длъжности в "Телъс", които имат "специални връзки с Русия". Пресслужбата на "Колпойнт Ню Юръп" ЕООД, както се нарича българското юридическо лице, собственост на "Телъс Интернешънъл Лимитид", обаче е отговорила, че изброените лица нямат никакво отношение към темата. "В "Телъс интернешънъл" работят хора от различна националност, носители на различни социални белези. Категорично, отказваме, бидейки отговорен работодател, да коментираме или предоставим информация, за който и да е наш служител", са добавили от компанията. По нейни официални данни от 2019 г. служителите на "Телъс Интернешънъл" в България, които работят по проекти на "Фейсбук", са около 150 души.