Ключевым аспектом в формировании того, что пользователь смотрит и читает, выступают алгоритмы, сообщает ozgeris.info. Именно алгоритмы определяют, как порядок контента, так и его структуру. Они присутствуют практически везде: в социальных сетях, поисковых системах и видео платформах. Подобные системы относятся к классу рекомендательных алгоритмов, которые отбирают и фильтруют контент на основе поведения пользователя и его запросов. Их задача в том, чтобы увеличить шансы взаимодействия пользователя с контентом. Это достигается за счёт отслеживания поведенческих сигналов, таких как время просмотра, клики, удержание внимания и сравнение поведения пользователей. На основе этого система высчитывает и предсказывает, с каким контентом пользователь будет, вероятнее всего, взаимодействовать.
Контент, который показывается пользователю, зависит также не только от его предпочтений, но и от предсказуемости поведения. Алгоритмы не столько понимают, что пользователю нужно, сколько предугадывают его нужды на основе накопленных данных. С точки зрения теории алгоритмической вероятности система значительно чаще воспринимает простые и повторяющиеся структуры. В современной среде чем чаще пользователь что-то ищет, тем более вероятно оно будет показываться, как и похожий контент. Спорным моментом подобной оптимизации является смещение в сторону более простого информационного контента. Такой контент чаще вызывает взаимодействие пользователей, поэтому больше распространяется. Это приводит к замкнутому кругу, в рамках которого пользователь влияет на алгоритмы и формирует контент вокруг себя, а дальше алгоритм начинает влиять на пользователя.
Эли Паризер описывал один из таких эффектов в книге Filter Bubble в 2012 году. Filter Bubble — это постепенно окутывающий пользователя информационный пузырь. В рамках этого пузыря контент становится максимально персонализированным, близким пользователю по взглядам, а альтернативная точка зрения становится менее заметной. Второй же эффект называется echo chamber. Echo chamber — это ситуация, в рамках которой человек, сталкиваясь со взглядами, близкими к его собственным и не сталкиваясь с иной точкой зрения, укрепляется в своём мнении всё больше и больше. Таким образом алгоритмы представляют собой не просто фильтрацию контента пользователя, но и становятся инструментом формирования его взглядов. Этим охотно пользуются большие коммерческие платформы и магазины. Приобретая товар, покупателю вскоре предлагается множество аналогичных товаров или комплектующих к тому, что он уже приобрёл. Опасность подобного заключается в том, что пользователь становится менее открыт к иным точкам зрения, пребывая в одной и той же информационной среде.
Алгоритмы представляют собой невидимый механизм формирования взглядов человека, который также управляется и самим человеком. Не навязывая идеи напрямую, они предоставляют пользователю пространство выбора. Таким образом пользователь оказывается в среде, которая постепенно направляет его поведение, а также его решения.
