Свобода слова в соцсетях: эксперты о проблемах систем рекомендаций

Переговоры Илона Маска о приобретении Twitter привлекли внимание к значению свободы слова и модерации контента в эпоху социальных сетей, которые построены на алгоритмах, называемых «системами рекомендаций». Все это также послужило напоминанием о явном противоречии между общественной и частной ролью медиакомпаний, пишут эксперты The Brookings Institution Джастин Буллок и Антон Коринек.

«Системы рекомендаций, которые максимизируют вовлеченность пользователей, действительно эффективны для частной роли, направленной на получении прибыли. В этой связи страдают общественные блага, связанные с установлением связей и информированием нашего общества», — говорят эксперты.

Контекст

14 апреля Илон Маск предложил купить Twitter за $43 млрд. Реакция в социальных сетях была следующая: консерваторы приветствовали сделку, назвав ее «победой свободы слова», а либералы выразили обеспокоенность по поводу подхода к модерации контента. Однако совсем недавно Маск поставил под сомнение сделку, сославшись на то, что в Twitter может быть большое количество фейковых аккаунтов, чем было признано ранее.

Медиа синхронизируют потоки информации

Эффективный сбор, хранение, обработка и распространение информации имеют решающее значение для функционирования нашего современного общества. Наличие хорошо функционирующего медийного ландшафта, который эффективно распространяет информацию, является важным общественным благом, которое создает большие положительные внешние эффекты для общества. В США большинство медиа являются частными коммерческими организациями. Медиакомпании в значительной степени финансируются за счет рекламы — вспомогательной деятельности, которая перекрестно субсидирует сбор, курирование и распространение новостей.

Технологии повлияли на медиаландшафт

Во-первых, реклама мигрировала из традиционных СМИ в онлайн. Во-вторых, Интернет и ИИ привели к появлению компаний нового типа, работающих в соцсетях. Как и традиционные СМИ, социальные сети по-прежнему играют роль куратора информации и, следовательно, оказывают существенное влияние на информационные потоки с аналогичным потенциалом наложения на общество значительных внешних эффектов.

Отличия традиционных СМИ и соцсетей в создании и выборе контента

Традиционные медиа в основном представляют собой систему односторонней связи, в которой редакторы, журналисты и рекламодатели принимают решение о том, какой контент создается и доставляется. Социальные сети полагаются на пользовательский контент и алгоритмически отбирают информацию. Они используют системы рекомендаций для модерации и принятия решений о том, какую информацию предоставлять пользователям. Всеобъемлющая цель состоит в том, чтобы максимизировать «вовлечение пользователей», то есть максимально увеличить время, которое пользователь проводит на платформе и взаимодействует с контентом, что тесно связано с получаемым доходом от рекламы.

Работа систем рекомендаций

Они используют такие факторы, как личные характеристики пользователя, его отношения с авторами сообщений, тип контента, популярность сообщений и их давность, а также мельчайшие детали о предпочтениях. Профили в соцсетях содержат историю взаимодействия с платформой, что дает возможность предсказать, какие сообщения с наибольшей вероятностью привлекут внимание. Чем больше пользователь взаимодействует с платформой, тем лучше система рекомендаций может персонализировать контент. Это создает петлю обратной связи, которая позволяет алгоритму еще более эффективно максимизировать вовлеченность пользователей.

Разница работы с информацией

В традиционных СМИ журналисты и редакторы привносили в свою работу давний набор профессиональных норм и этических стандартов, а также проверяли факты и тщательно отбирали свои материалы. Совсем другая ситуация с социальными сетями, где большая часть контента создается отдельными пользователями и рекламодателями. Контент не проверяется и часто даже не претендует на информативность.

Для социальных сетей роль редакторов заменяется рекомендательными системами, которым не присуще понимание правды или сложности человеческого общества. В результате платформу столкнулись с целым рядом нежелательных результатов от усиления политической поляризации до распространения дезинформации и токсичного контента.

Механизмы модерации контента в соцсетях

Результаты модерации контента неоднозначны. Во-первых, соцсети обвиняют в цензуре при удалении постов. Во-вторых, что более важно, сосредоточение внимания на контроле за тем, чтобы конкретный фрагмент контента не пересекал определенные «красные линии», не решает корень проблемы: чаще всего сообщения, которые нарушают правила сообществ, взывают сильную реакцию и создаю максимальное взаимодействие среди пользователей. Таким образом, такие системы рекомендаций действуют как модератор в дебатах, который улавливает только самые возмутительные комментарии и побуждает других участников сосредоточить внимание и отреагировать на них.

Свобода слова в социальных сетях

В узком смысле «свобода слова» в социальных сетях — это просто возможность размещать контент. Однако это почти бессмысленная концепция: если алгоритм платформы не выдает пост другим пользователям, его вряд ли увидят — это как говорить в пустоту. Есть еще один наивный и опасный смысл — позволить каждому размещать любой контент и иметь автоматизированные системы рекомендаций, не понимая ответственности социальных сетей перед обществом. Не существует такой вещи, как «нейтральный» способ работы рекомендательных систем. Все это не вопрос свободы слова, а проблема того, какие целям следуют программы.

Открытые системы рекомендаций и управление контентом

Одна из заявленных целей Маска — обнародовать алгоритм системы рекомендаций Twitter, который решает, каким твитам отдать приоритет. Это позволило бы общественности более внимательно изучить ее и решить, какие частные и социальные показатели мы хотим, чтобы система рекомендаций использовала.
Еще один способ улучшить влияние современных соцсетей на информационные потоки в обществе — предоставить пользователям более четкий выбора контента, который будет им предлагаться. Например, Twitter мог бы добавить такие кнопки, как «информировать меня» или «подискутировать», чтобы пользователи могли видеть контент других точек зрения.

Обратная связь для системы рекомендаций

В обозримом будущем люди должны быть в курсе, когда дело доходит до принятия решения о том, какой контент рекомендуется, предоставляя рекомендательным системам обратную связь, чтобы повысить чувствительность к человеческим нормам общения и обмена информацией.

Было бы полезно, чтобы пользователи проходили более тщательную аутентификацию, чтобы улучшить качество контента за счет повышения уверенности в том, что он был создан и опубликован другим человеком, а не ботом.