Дори Facebook не разбира алгоритмите на Facebook

След цялото ръчно извиване, дошло от спектакъла „фалшиви новини“ с любезното съдействие на емисията новини на Facebook - съдържанието, което виждате, когато влезете във Facebook от телефона или лаптопа си - едно нещо стана напълно ясно. Дори Facebook не разбира Facebook.

И това е проблемът с разчитането на алгоритмичен изкуствен интелект (AI), който е изграден (или по-точно, обединен) през годините от стотици различни разработчици и програмисти.

Всичко това ми стана ясно през последните няколко дни, докато размишлявах върху нещата, които научих на последната конференция HealtheVoices 2017, и след като прочетох отлична статия за Facebook от Farhad Manjoo в Списание Ню Йорк Таймс.

На конференцията представител на Facebook се сблъска с малко разочарована (и понякога почти враждебна) разпитваща тълпа за това, че нещата, които те пишат като здравни активисти и защитници, изглежда рядко изплуват в новинарските емисии на Facebook на други хора. Единственият начин, по който изглеждаше да получи ангажимент, казаха хората от публиката този ден, беше да го закупи чрез Facebook (чрез платен механизъм, известен като „подсилване“ на публикация).

Представителят на Facebook нямаше отговор да отговори на тези въпроси защо привидно висококачествено и добро съдържание не се показва в тяхната емисия новини. И все пак всеки един участник, с когото разговарях - страстни, ангажирани здравни защитници - го видя като проблем с Facebook. Но дори Facebook не можа да обясни как да го поправи.

Нищо чудно. Статията на списание Times хвърля светлина върху „защо“. Алгоритъмът за емисия на новини във Facebook сортира, средно, 2000 парчета възможно съдържание всеки път, когато човек зареди Facebook за първи път и при всяко опресняване.

Има толкова много променливи, които влизат в този сложен, тъмен и патентован алгоритъм за сортиране, че дори Facebook не може да отговори защо нещо ще се появи или не в емисията на новини на някого. Това е почти същият вид болка, който уебмастърите отдавна изпитват при работа с Google и техния алгоритъм за индексиране на търсенето.

Фактът, че алгоритъмът може лесно да бъде заобиколен чрез просто закупуване на достъп до емисията новини на хората, не е изненада. Това е голяма част от причината Facebook да печели толкова много пари година след година. Дори съдържанието с най-лошо качество може да си пробие път към вашата уж персонализирана емисия новини.

Емисия новини: Все още се работи

Бихте си помислили, че след толкова години упорита работа, внимание, часове на разработчици и проучване на този алгоритъм, това би направило някои основни неща правилни. Но два скорошни анекдота ми показват колко още трябва да отиде похваленият ИИ на Facebook.

Първият е концертният мем, който се сдоби с новинарския канал на Facebook в края на април 2017 г. В този конкретен мем участниците изброяват 10 концерта, на които са присъствали през живота си, но един от тях е фалшив. От приятелите на човека зависи да забележат фалшивия концерт, на който не са присъствали, и да го коментират.

Първоначалната ми мисъл, когато за пръв път видях това изскачане, беше: „На кого му пука?“ защото, честно казано, не ме интересува какви концерти са посещавали моите приятели. Ако бях ангажиран в действителен разговор с моите приятели по темата „концерти, които сме виждали“, това може да е страхотно. Но като начало на разговор, го намерих за нечувствен, защото е необичаен - социално свързан с Нищо. Така че ударих „Скрий тази публикация“ от първата, която видях в емисията си с новини.

Помогна ли това да спре притока на това съдържание към новинарския ми канал през следващите няколко дни? Нито една йота. Видях не по-малко от дузина такива въпроси през следващите два дни да заливат емисията ми (дори след като щракнах върху „Скриване на тази публикация“ и на поне още два). Всичко това представляваше нулев интерес за мен. Толкова за работата на AI на Facebook.

Вторият е окръг Блум. Аз съм голям фен и се зарадвах, когато Berkeley Breathed отново започна да рисува. Очаквам с нетърпение всеки ден, когато нов негов комикс се появи в емисията ми. И все пак мистериозно Facebook няма представа за това. Той спря да ми показва комиксите му преди няколко седмици, въпреки че аз старателно щракнах върху повечето от тях, за да ги чета по-лесно в увеличения им вид.

Как може толкова много кликвания да доведат до таг „не се интересувам, спрете да показвате това на този потребител“? Facebook не можа да отговори на този въпрос, ако искаше, защото няма представа как всъщност работи алгоритъмът му за подаване на новини - или не работи - за отделни потребители. Това би било смешно, ако не беше толкова голяма работа. Според изследователския център Pew повече от половината американци получават новините си от Facebook.

Форми за обратна връзка, които дават малко обратна връзка на потребителите

Facebook твърди, че може да оцени (и да работи за отстраняването) на много проблеми, ако потребителите просто са използвали техните форми за обратна връзка по-често. Но има причина, поради която потребителите мразят да дават обратна връзка с Facebook - тяхната система за обратна връзка просто гадно.

Формулярите за обратна връзка на Facebook дават на потребителите много малко собствена обратна връзка и вместо това ценят водещите потребители надолу по въпроса „Ето как да поправите това сами, идиот“, които очевидно винаги подсказват, че повечето от проблемите, с които се сблъсквате, са ваши поправка - не на Facebook. В края на тези форми няма човек и няма човешки отговор, който някога ще получите. Това е самото определение за нечовешко. Иронично за компания, която вижда себе си като „изгражда глобална общност“, свързвайки всички по-социално. Как може една компания да направи това, като избягва всякакъв човешки контакт със своите потребители? 1

AI е толкова сложен, че хората трябва да помогнат

Много разработчици си казват, че AI може в голяма степен да реши всеки човешки проблем, ако им се предоставят достатъчно променливи, набори от данни и ощипване. Но това, което Facebook ясно показа, е, че каквото и да прави, за да помогне за решаването на проблема си с новините, неговият AI не работи добре за много, много хора.

Никой не чувства, че Facebook дори слуша. Както отбелязах по-рано, здравни застъпници и активисти, с които разговарях на конференцията, казаха, че не са изслушани. Компаниите за социални медии като Facebook изглежда не се интересуват. И в затворена група във Facebook за издатели на новини, всеки ден чувам разочарованието относно това колко уважавани новинарски организации изчерпват своите задълбочени, разследващи журналистически статии във Facebook, без да плащат за повишаване. Междувременно една прохладна статия „5 невероятни, бързи и лесни начина за летен загар“ получава повече хитове, отколкото Google търси „Как да поправя ...“ заявки.

Кадри за раздяла на днешния AI

Хвалената Siri на Apple често се счита за полезен пример за AI, който работи в съвременния свят. Но докато пишех тази статия, казах: „Хей, Сири, кажи на Нанси, че я обичам.“

Сири, в безкрайната си мъдрост прави правилен получателя на съобщението (за щастие, тъй като познавам само една Нанси). Но изпратеният от нея текст беше „Обичам я“. Сири очевидно не е разбирала действителното значение на моето изречение и вместо това използва елементарни филтри, за да разбере, че искам да изпратя текст на човек в контактите ми с буквалното съобщение „Обичам я“.

Това е нивото на ИИ, с което работим днес в големи технологични компании като Facebook, Google и Apple - донякъде полезно, но разочароващо неравномерно по отношение на качеството и изпълнението му.

Наистина се надявам Facebook да разбере това, защото всеки ден усещам, че го използвам все по-рядко, тъй като той все повече става все по-малко подходящ за моето действителни интереси и ежедневието. Днес може да съм в малцинството, но подозирам, че това ще се промени, ако Facebook скоро не разреши тези проблеми, свързани с уместността и интереса.

Бележки под линия:

1. Това е една от причините, през които презентаторите на Facebook по време на конференции често се засипват с толкова много въпроси - това е единственият човешки контакт, който повечето от нас някога са имали с този технологичен гигант. [↩]