Как мека етика на Facebook ги вкара в проблем

Показваме чрез масивен (N = 689 003) експеримент във Facebook ...

Експериментът е манипулирал до каква степен хората (N = 689 003) са били изложени на емоционални прояви в своя News Feed. […] Два паралелни експеримента бяха проведени за положителни и отрицателни емоции: Един, при който излагането на положително емоционално съдържание на приятелите в тяхната News Feed беше намалено, и един, при който излагането на отрицателно емоционално съдържание в тяхната News Feed беше
намален.

При тези условия, когато човек зареди своя News Feed, публикации, съдържащи емоционално съдържание на съответната емоционална валентност, всяка емоционална публикация имаше между 10% и
90% шанс (въз основа на потребителския им идентификатор) да бъде пропуснат от тяхната емисия за новини за това конкретно гледане.

Ако участвахте в експеримента, публикациите с емоционална дума в тях имаха до 90 процента шанс да бъдат пропуснати от вашата емисия новини. В моите и в книгите на повечето хора това е доста манипулативна.

Сега вижте как Kramer (известен още като Danger Muffin) минимизира въздействието на експеримента в обяснението си, публикувано във Facebook:

Що се отнася до методологията, нашето изследване се стреми да разследва горното твърдение, като минимално деприоритизира малък процент от съдържанието в News Feed (въз основа на това дали в публикацията имаше емоционална дума) за група хора (около 0,04% от потребителите или 1 през 2500 г.) ...

А, ние преминаваме от „до 90 процента шанс“ до „минимално деприоритизиране на малък процент съдържание“. Не е ли удивително колко креативно човек може да характеризира абсолютно едно и също изследване по два практически противоречиви начина?

Значително ли беше или не?

Самото проучване прави множество твърдения и заключения относно значението и въздействието на техните открития (въпреки техните нелепо малки размери на ефекта). По някакъв начин всички тези неприятни, всеобхватни твърдения преминаха през рецензенти на списания PNAS (които сигурно са спали, когато са подпечатали тази хартия) и им беше позволено да стоят без квалификация.

В обяснението на Крамер, публикувано в неделя, той предполага, че техните данни всъщност така или иначе не са открили нищо, от което хората да се тревожат:

И в края на деня действителното въздействие върху хората в експеримента беше минималното количество за статистическото му откриване ... 3

Което директно противоречи на твърденията, направени в самото проучване:

Тези резултати предполагат, че емоциите, изразени от приятели, чрез онлайн социални мрежи, влияят на нашите собствени настроения, съставяйки, доколкото ни е известно, първите експериментални доказателства за мащабна емоционална зараза чрез социалните мрежи [...]

Онлайн съобщенията влияят на нашето преживяване на емоции, което може да повлияе на различни офлайн поведения.

Погледнете там - няма квалификации за тези изявления. Без да се казва, „О, но това наистина не би повлияло на емоциите на индивида.“ Не, по мое мнение, пълно противоречие с това, което един от изследователите твърди сега.

Но беше ли етично?

Много спорове са заобиколени дали този вид допълнителен манипулирането на вашата емисия новини във Facebook е етично и дали е редно да се вгради глобален формуляр за съгласие за изследване в споразумението за условията за услуга на уебсайта. (Facebook вече манипулира това, което виждате във вашата емисия новини чрез своя алгоритъм.)

Първо, нека извадим аргумента за червената херинга, че това изследване не е същото като вътрешните изследователски компании за използваемост или тестване на дизайн. Този вид изследвания никога не се публикуват и никога не се правят за изследване на научни хипотези относно емоционалното човешко поведение. Все едно да сравнявате ябълките с портокалите, за да предположите, че това е едно и също нещо.

Изследванията върху човешки теми обикновено трябва да бъдат подписани от независима трета страна, наречена институционален съвет за преглед (IRB). Те обикновено се помещават в университети и преглеждат всички изследвания, провеждани от собствените изследователи на университета, за да се гарантира, че не нарушават неща като закона, правата на човека или човешкото достойнство. Компаниите с идеална цел като Facebook обикновено нямат точен еквивалент на IRB. Ако изследване върху човешки теми не е било прегледано от IRB, дали е етично или морално, остава открит въпрос.

Ето „защитата на данните“ 4 Защита на Крамер на дизайна на изследването, както е отбелязано в изследването:

[Данните са обработени по начин], така че изследователите не са виждали текст. Като такъв той беше в съответствие с Политиката за използване на данни на Facebook, с която всички потребители се съгласяват преди да създадат акаунт във Facebook, което представлява информирано съгласие за това изследване.

Въпреки това, Кашмир Хил предполага, че Политиката за използване на данните във Facebook е променена 4 месеца след провеждането на проучването, за да позволи изрично използването на данни от Facebook за „проучване“.

Изглежда, че те също са се замислили да получат одобрение от университета за проучване. По-рано Хил съобщи, че IRB на Cornell не е направил преглед на изследването.5 Никой от изследователите не е пристъпил напред, за да обясни защо очевидно са казали на редактора на PNAS, че са го управлявали от IRB на университет.

Chris Chambers от британския Guadian предлага това резюме на тъжната ситуация:

Това положение е, честно казано, нелепо. В коя версия на 2014 г. е приемливо списанията, университетите и учените да предлагат невестулни думи и замъгляване в отговор на прости въпроси относно етиката на изследванията? Как е приемливо комисията по етика да реши, че същите автори, които са подпомагали Facebook при изготвянето на интервенционно проучване за промяна на емоционалното състояние на повече от 600 000 души, по някакъв начин „не са се ангажирали пряко с човешки изследвания“?

Заледяване на тортата: Неизвинението

Крамер не се извини, че е направил изследването без информирано съгласие на потребителя. Вместо това той се извини за начина, по който той пише проучването:

Мога да разбера защо някои хора имат притеснения по този въпрос и аз и моите съавтори много съжаляваме за начина, по който хартията описва изследването, и за всяко безпокойство, което то предизвика.

Хората не са разстроени, че сте направили изследването, те са разстроени, че сте направили изследването върху тях без тяхно знание или съгласие. И съжалявам за Facebook, но погребването на „съгласието“ с хиляди думи на законно мръсно мляко може да ви защити законно, но не ви предпазва от здравия разум. Или реакциите на хората, когато разберат, че ги използвате като морски свинчета.

Хората просто искат смислен начин да се откажат от провеждането на експерименти с тях и техните новини без тяхно знание или съгласие.

Facebook не предлага това днес. Но подозирам, че ако Facebook иска да продължи да прави изследвания от този характер, скоро ще предлага тази опция на своите потребители.

Етичен казус за всички времена

Тази ситуация е идеален пример за това как да не провеждате изследвания върху данните на потребителите си без изричното съгласие от тях. Ще се преподава в часовете по етика в продължение на години - а може би и десетилетия напред.

Той ще действа и като казус на това какво да не правите като социална мрежа, ако искате да останете доверени от потребителите си.

Facebook трябва да предложи на всички потребители истинско извинение за провеждането на този вид изследвания върху тях без тяхното изрично знание и разрешение. Те също трябва да променят своите вътрешни изисквания за научни изследвания, така че всички проучвания, проведени върху техните потребители, да преминават през външна, базирана в университета IRB.

Допълнителна информация

Фиаско на Facebook: изследването на Корнел върху „емоционалната зараза“ е нарушение на етиката?

Facebook добави „Изследване“ към потребителското споразумение 4 месеца след проучване на манипулацията на емоциите

Справка

Kramer, ADI, Guillory, JE, Hancock, JT. (2014). Експериментални доказателства за мащабна емоционална зараза чрез социалните мрежи. PNAS. www.pnas.org/cgi/doi/10.1073/pnas.1320040111

Бележки под линия:

1. Което вече ни казаха в проучването: „Тест дали публикациите с емоционално съдържание са по-ангажиращи.“ [↩]
2. Facebook изглежда по-малко свързан с реалния ми живот, тъй като изглежда, че собствената ми емисия новини до голяма степен е преминала от публикации за живота на хората до „връзки, които намирам за интересни“ - въпреки че никога не кликвам върху тези връзки! [↩]
3. Което е изследователски-капризен начин да се каже: „Нашият експеримент всъщност не намери забележителен размер на ефекта. Но ние ще разтръбим резултатите, сякаш сме ги направили (тъй като всъщност намерихме дневник, PNAS, достатъчно, за да го публикуваме!). " [↩]
4. Използвам цитати около това заглавие, защото всички изследователи и учени са учени по данни - това е, което отличава изследователя от разказвача на истории. [↩]
5. Всъщност те отбелязват, че Ханкок, посочен автор на хартията, е имал достъп само до резултати - дори до реалните данни! [↩]