Тайни документи: Facebook изглежда поставя функции, печалба над безопасността на потребителите

Facebook, 13-годишният бегемот с 1,23 милиарда активни потребители, генерира над 8 милиарда долара на тримесечие приходи - 3 милиарда долара от това са нетни приходи (например печалба).

Но с толкова много потребители изглежда, че Facebook е превърнал безопасността на потребителите във второстепенна грижа. До началото на тази година във Facebook бяха заети само 4500 души за преглед на съдържанието. Което звучи като много хора, докато не осъзнаете, че тези 1,23 милиарда активни потребители споделят милиарди на парчета съдържание всеки ден, като милиони жалби на потребители за съдържание във Facebook се подават всеки ден.

Има ли Facebook сериозен проблем с безопасността на потребителите? Току-що публикувана пазач преглед на секретни вътрешни документи предполага, че проблемът му е извън контрол.

Facebook призна, че има някакъв проблем, когато по-рано тази година се съгласи почти да удвои персонала си за преглед - до 7500 - на фона на твърденията, че компанията просто не прави (или може би се грижи?) Достатъчно, когато потенциално вредно съдържание се трафикира през нейната платформа . Не удвоявате модераторския си персонал, ако всичко е нахално.

Сега, (Великобритания) Пазител публикува удивителни подробности за насоките за модериране на съдържанието на Facebook, извлечени от над 100 тайни, вътрешни ръководства за обучение и документация. Малко притеснително е, че всички тези важни неща не са в нито едно ръководство, дадено на модераторите на Facebook, когато са наети.Вместо това, изглежда, че това е частичен подход към политиката, в резултат на което се появява противоречива информация, неравномерна умереност и много малка надеждност в това как нейните модерационни политики действително работят в реалния свят.

„Facebook не може да контролира съдържанието си“, каза един източник. „Стана твърде голям, твърде бързо.“

Твърди се, че много модератори имат притеснения относно непоследователността и особения характер на някои от политиките. За тези, които са със сексуално съдържание, например, се казва, че са най-сложни и объркващи.

Като само един малък пример за това колко съдържание Facebook модерира, статиите отбелязват: „В един документ се казва, че Facebook преглежда над 6,5 милиона доклада седмично, свързани с потенциално фалшиви акаунти - известни като FNRP (фалшив, а не реален човек).“ И това е само за фалшиви акаунти. Представете си колко милиона са още отчети за действително съдържание.

Характеристики преди мисълта

Преди да се помисли как хората биха могли да използват (и злоупотребяват) с нова функция, Facebook изглежда подкрепя разгръщането на нещата и измисля как да го модерира като допълнителна мисъл. Погледнете Facebook Live, услуга за видео стрийминг, която позволява на хората да заснемат всичко, което се случва в живота им в момента. За какво мислеха, че хората в крайна сметка ще го използват?

„В същото време функцията за поточно предаване на живо на Facebook се използва за излъчване на убийства и самоубийства, като компанията очевидно не може да изключи превантивно потоците.“ Да! Повечето компании вероятно биха си помислили, преди да стартират нещо подобно: „Хей, ние се нуждаем от начин незабавно да докладваме за такива проблемни видеоклипове и да ги прекъснем“. Очевидно, не Facebook.

Това показва постоянна липса на обмисляне на проблемите и активно решаване на проблемите, преди те да възникнат. Или грешка в страницата на: „Хей, нека се заемем с това и да видим какъв протест ще получи, преди да направим нещо по въпроса.“ (Всичко в името на „свободата на словото“, разбира се, пренебрегвайки факта, че Facebook е глобална платформа.) 1

Къде отново поставих тази насока за модериране?

Поддържането на вашата общност в безопасност започва с наемането на достатъчно модератори, които да направят работата им приятна и да не е поразителна. Ясно е, че Facebook не е успял да направи това, докато се радва на рекорден ръст на потребителите си, приходи и печалби. Но това също така включва овластено ръководство на общността за умереност, което гарантира, че всичко, което им е необходимо, за да вършат работата си, е на едно място. Facebook, едва сега, очевидно мисли по-задълбочено за необходимостта от по-добри инструменти, според техния говорител: „В допълнение към инвестирането в повече хора, ние също изграждаме по-добри инструменти, за да запазим нашата общност в безопасност“, каза тя пред The ​​Guardian. „Ще направим по-лесно да ни докладвате за проблеми, по-бързо за нашите рецензенти да определят кои публикации нарушават нашите стандарти и по-лесно да се свържат с правоохранителните органи, ако някой се нуждае от помощ.“

И може би да ги сложите в един наръчник? Така че модераторите знаят къде да търсят и всички насоки да бъдат последователни?

Видеоклиповете за самонараняване са напълно добре в света на Facebook, защото човекът е „в беда“. Жестокостта към животните също (може би защото животното е в беда?). „Отмъщението порно“ също е наред, ако модераторът не може да потвърди липсата на съгласие от двете страни (което, предполагам, може да бъде доста трудно да се направи своевременно).

„Някои снимки на несексуално физическо насилие и тормоз над деца не трябва да бъдат изтривани или„ предприети действия “, освен ако няма садистичен или празничен елемент.“ Докато държите садизма и тържествата извън насилствените си образи и видеоклипове, очевидно Facebook ще им позволи.

Според документите, „Видеозаписите с насилствена смърт са обезпокоителни, но могат да помогнат за повишаване на осведомеността. За видеоклипове смятаме, че непълнолетните се нуждаят от защита, а възрастните се нуждаят от избор. Ние отбелязваме като „обезпокоителни“ видеоклипове на насилствената смърт на хората. " Не е ясно къде самоубийствено съдържание - като видеоклипове на живо или заплахи - попада в политиките за модериране на Facebook, но изглежда, че е разрешено.

Facebook трябва да даде приоритет на безопасността на потребителите

Някои призоваха Facebook да бъде по-строго регулиран, тъй като той е вратарят на цялото това съдържание (подобно на телевизионния оператор е вратарят на съдържанието в своята мрежа):

В доклад на британски депутати, публикуван на 1 май, се казва, че „най-големите и богати компании за социални медии са срамно далеч от предприемането на достатъчно действия за справяне с незаконното или опасно съдържание, за прилагане на правилните стандарти на общността или за защита на потребителите си“.

Грешката от страна на „свободата на словото“ може да изглежда добра идея, особено за американска компания. Но социалните мрежи са предимно онлайн общности - те не приличат много на вестниците. Основната цел на Facebook е да свързва хората помежду си. От това следва, че техните насоки ще отразяват по-скоро това разнообразие и са предназначени за безопасността на тази общност, вместо някаква мантра за публикуване на новини или празна идеология.

Бихме искали да видим Facebook да бъде по-прозрачен относно начините, по които модерира милиони хора и части от съдържание всеки ден. Проливането на по-голяма светлина върху тези проблеми помага да се посочат проблеми и дава възможност на Facebook да подобри безопасността на своята общност. И бихме искали да видим, че Facebook използва много повече от приходите си, за да гарантира, че има достатъчно персонал, за да поддържа платформата си в безопасност. За всички потребители.

За повече информация

Бележки под линия:

1. О, и имайте предвид, че ако имате 100 000 повече последователи във Facebook, в техните очи това ви прави „публична фигура“ - и не подлежи на поверителност или други защити на обикновените хора. [↩]