pt Portuguese

Twitter се опитва да се бори с екстремизма: Илън пристигна

Компанията имаше амбициозен план за борба с екстремизма в платформата. Какво стана с това?

Това беше дълга пандемия за изследователския екип на Twitter. Натоварени с разрешаването на някои от най-трудните проблеми на платформата, свързани с тормоз, екстремизъм и дезинформация, служителите избягаха в долината Напа за корпоративно отстъпление през ноември 2021 г. Въпреки бурната промяна в ръководството, като Дорси наскоро се оттегли и беше заменен от бившия технологичен директор Параг Агравал, групата се почувства обединена и дори изпълнена с надежда. След месеци на битка с лоши актьори онлайн, служителите отделиха известно време за почивка. „В крайна сметка се почувствахме като обединен екип“, каза един изследовател.

Но на прощалния брънч в последния ден телефоните на хората започнаха да пиукат с тревожни новини: техният шеф Дантли Дейвис, вицепрезидент на Twitter по дизайна, беше уволнен. Никой не знаеше, че идва. „Беше като на филм“, казва един от участниците, който пожела да остане анонимен, защото не е упълномощен да говори публично за компанията. „Хората започнаха да плачат. Седях там и ядях кроасан и си мислех: „Какво става с времето?“

Новината предвещаваше низходяща спирала за изследователската организация. Въпреки че групата беше свикнала с реорганизации, разместването по средата на турне, целящо да обедини екипа, изглеждаше дълбоко символично.

Сътресенията избухнаха през април, когато Илон Мъск подписа сделка за закупуване на Twitter. Интервютата с настоящи и бивши служители, заедно със 70 страници вътрешни документи, предполагат, че хаосът около поглъщането на Мъск е тласнал някои екипи до точката на пречупване, което е накарало няколко здравни изследователи да напуснат, като някои казват, че колегите им са били инструктирани да премахнат приоритетите на проектите борба с екстремизма в полза на фокусиране върху ботове и спам. Сделката с Мъск може дори да не бъде одобрена, но ефектите върху здравните усилия на Twitter вече са ясни.

Екипът на здравеопазването, който някога е бил натоварен със задачата да популяризира гражданските разговори на известната нецивилна платформа, е нараснал от 15 служители на пълен работен ден до двама.

През 2019 г. Джак Дорси зададе фундаментален въпрос относно платформата, която той помогна да създаде: „Можем ли наистина да измерим здравето на разговора?“

На сцената на конференция на TED във Ванкувър главният изпълнителен директор с шапка говори сериозно за инвестиране в автоматизирани системи за проактивно откриване на лошо поведение и „напълно сваляне на тежестта от жертвата“.

Това лято компанията започна да наема екип от здравни изследователи, за да изпълни мисията на Дорси. Неговото изказване убеди хора, работещи в академичните среди или за големи технологични компании като Meta, да се присъединят към Twitter, вдъхновени от перспективата да работят за положителна социална промяна.

Когато процесът проработи по предназначение, здравните изследователи помогнаха на Twitter да мисли за потенциални злоупотреби с нови продукти. През 2020 г. Twitter работи върху инструмент, наречен „unmention“, който позволява на потребителите да ограничават кой може да отговаря на техните туитове. Изследователите проведоха упражнение на „червен екип“, събирайки служители от цялата компания, за да проучат как инструментът може да бъде злоупотребен. Липсата на споменаване може да позволи на „силни хора да потискат несъгласието, дискусията и корекцията“ и да позволят на „насилниците, които търсят контакт с техните цели [да] принудят целите да отговорят лично“, пише червеният екип във вътрешен доклад.

Но процесът не винаги е бил толкова гладък. През 2021 г. бившият продуктов шеф на Twitter Кайвон Бейкпур обяви, че приоритет номер едно на компанията е стартирането на Spaces. („Беше пълна атака за унищожаването на Clubhouse“, казва един служител.) Екипът, назначен за проекта, работи извънредно, опитвайки се да пусне функцията и не насрочи учение на червен отбор до 10 август – три месеца след него стартиран. През юли учението беше отменено. Spaces започнаха да работят без цялостна оценка на основните рискове, а бели националисти и терористи наводниха платформата, съобщи Washington Post.

Когато Twitter най-накрая проведе учение на червен екип за Spaces през януари 2022 г., докладът заключава: „Ние не даваме приоритет на идентифицирането и смекчаването на рисковете за здравето и безопасността преди стартирането на Spaces. Този червен отбор дойде твърде късно. Въпреки критичните инвестиции през първата година и половина от изграждането на Spaces, ние до голяма степен реагирахме на щетите в реалния свят, нанесени на Spaces от лоши актьори. Ние разчитаме твърде много на широката общественост, за да идентифицираме проблемите. Пускаме продукти и функции, без да проучим правилно потенциалните последици за здравето.“

По-рано тази година Twitter се отказа от плановете си да монетизира съдържание за възрастни, след като червен екип установи, че платформата не е обработвала правилно материали за сексуална експлоатация на деца. Това беше проблем, за който изследователите предупреждаваха от години. Служителите казаха, че ръководителите на Twitter са запознати с проблема, но отбелязаха, че компанията не е отделила необходимите ресурси за отстраняването му.

В края на 2021 г. здравните изследователи на Twitter прекараха години в игра с лоши актьори в платформата и решиха да приложат по-сложен подход за справяне с вредното съдържание. Външно компанията редовно беше критикувана, че позволява на опасни групи да излязат извън контрол. Но вътрешно понякога се чувстваше, че определени групи, като теоретиците на конспирацията, бяха изхвърлени от платформата твърде рано - преди изследователите да успеят да проучат тяхната динамика.

„Старият подход беше почти комично неефективен и много реактивен – ръчен процес на маркиране“, казва бивш служител, пожелал да остане анонимен, тъй като не е упълномощен да говори публично за компанията. „Простото дефиниране и залавяне на „лоши момчета“ е губеща игра.“

Вместо това изследователите се надяваха да идентифицират хора, които са на ръба да се ангажират с вредни туитове и да ги насърчат към по-здравословно съдържание, използвайки изскачащи и интерстициални съобщения. „Пилотът ще позволи на Twitter да идентифицира и използва поведенчески сигнали – вместо съдържание – и да достигне до потребители, изложени на риск от увреждане, с пренасочвания към съдържание и услуги за поддръжка“, гласи вътрешно резюме на проекта.

Изследователите на Twitter си партнираха с Moonshot, компания, специализирана в изучаването на насилствени екстремисти, и започнаха проект, наречен Redirect, вдъхновен от работата, която Google и Facebook са свършили, за да ограничат разпространението на вредни общности. В Google тази работа доведе до сложна кампания за насочване към хора, търсещи екстремистко съдържание с реклами и видеоклипове в YouTube, предназначени да развенчават екстремистки съобщения. Twitter планира да направи същото.

Целта беше компанията да се премести от просто реагиране на лоши акаунти и публикации към проактивно насочване на потребителите към по-добро поведение.

„Усилията на Twitter за задържане на вредни групи обикновено се фокусират върху дефинирането на тези групи, определянето им в политическа рамка, откриването на техния обхват (чрез принадлежност и групово поведение) и спирането или деплатформирането на тези в кохортата.“ се казва във вътрешно резюме на Проектът. „Вместо това този проект се стреми да разбере и адресира поведението на потребителите нагоре по веригата. Вместо да се фокусираме върху определянето на лоши акаунти или съдържание, ние се стремим да разберем как потребителите намират вредно групово съдържание в акаунти и след това пренасочваме тези усилия.

В първата фаза на проекта, която започна миналата година, изследователите се съсредоточиха върху три общности: расово или етнически мотивиран насилствен екстремизъм, антиправителствен или антиавторитарен насилствен екстремизъм и инцел. В казус на движението boogaloo, крайнодясна група, фокусирана върху подбуждането на втора американска гражданска война, Moonshot идентифицира 17 влиятелни лица, които са силно ангажирани в общността, използвайки Twitter, за да споделят и разпространяват своята идеология.

Докладът очерта възможни моменти за намеса: един, когато някой се опита да потърси термин от boogaloo и друг, когато се канеше да се ангажира с boogaloo съдържание. „Подходът на Moonshot за идентифициране на основната общност може да подчертае потребителите, които се насочват към тази сфера на влияние, като поискат интерстициално съобщение от Twitter“, се казва в доклада.

Екипът също предложи добавяне на изскачащо съобщение, преди потребителите да могат да ретуитват екстремистко съдържание. Бяха направени интервенции, за да се добави триене към процеса на намиране и взаимодействие с вредни туитове. Направено правилно, това ще намали въздействието на екстремисткото съдържание в Twitter, което ще затрудни групите да набират нови последователи.

Преди работата да може да бъде напълно изпълнена обаче, Мъск постигна споразумение с борда на Twitter да купи компанията. Малко след това служителите, ръководещи партньорството Moonshot, напуснаха. И в месеците, откакто Мъск подписа сделката, екипът за здравни изследвания почти се изпари от 15 служители до само двама.

„Продаването на компанията на Илон Мъск беше черешката на тортата на много по-дълга история на решения на високо ниво в компанията, показващи, че безопасността не е приоритет“, казва един служител.

Обща сума
0
Акции
Предишна
Властелинът на пръстените: Пръстените на силата, всички филмови герои, които ще се появят в поредицата

Властелинът на пръстените: Пръстените на силата, всички филмови герои, които ще се появят в поредицата

Властелинът на пръстените: Пръстените на властта е новата продукция, която се развива на Земята

Напред
Дата на пускане на Ethereum 2.0: Кога ще бъде пуснат Eth2?

Дата на пускане на Ethereum 2.0: Кога ще бъде пуснат Eth2?

Подобрен ETH идва с пускането на Ethereum 2

Recomendado