Яндекс Дзен – рекомендательный сервис, работающий с помощью искусственного интеллекта. На основе вашего поведения в сети (какие сайты, как долго и часто вы посещаете, что ищите, что пишете и т.д.) алгоритм составляет цифровой портрет пользователя и предполагает, что ему может быть интересно. Из всех материалов, опубликованных на платформе, он подбирает и предлагает именно те, которые, по его мнению, могут вам понравиться. Платформа работает как для читателей, так и для авторов.
С одной стороны, Яндекс Дзен не только упрощает поиск и потребление информации, но и позволяет любому человеку попробовать себя в качестве блогера, да еще и заработать на этом. С другой же стороны, далеко не каждый человек обладает навыками фильтрации и верификации информации, а авторы – далеко не все заботятся об аудитории и качестве контента (особенно, когда речь идет о деньгах). Так, кликбейты и фейкогенераторы получили неограниченный доступ к миллионной аудитории. Разумеется, официально на платформе они запрещены, но как известно, черный рынок не дремлет.
Почему необходимо относиться к материалам рекомендательной платформы со здравым скептицизмом? Какие элементы модерации она имеет? Почему нельзя просто создать фильтр для определенного рода новостей и материалов?
Что мы имеем?
Помимо миллионов единиц действительно полезного и качественного контента, в ленте проскакивают откровенно «желтые» заголовки, непроверенная, неуместная информация и фейки.
Например:
 |
 |
 |
Медиаэксперт Александ Амзин назвал подобное явление «черным рынком»: «Так как премодерация работает автоматически, появляется и развивается тайное знание о том, как составить материал с порнографическим анонсом и мошенническим содержимым. Появляются (признак зрелости платформы) ситуативщики — люди, распространяющие гарантированно вирусные материалы для получения максимального числа просмотров. Таким, например, был материал о трёхстах жертвах в Кемерово, собравший сотни тысяч просмотров в сжатые сроки и отловленный только читателями».
Этим читателем был журналист и эксперт по верификации информации Алексей Ковалев. На своей странице в Фейсбуке он обратился к медиадиректору Яндекс Дзена Даниилу Трабуну: «Мне кажется, Яндекс в какой-то момент должен взять на себя ответственность за фильтрацию такого, с позволения сказать, контента, потому что отмазка про "мы платформа, а не издатель", Марку Цукербергу уже не помогла». Ниже был комментарий самого Даниила, но сейчас он удален. Как и сама статья про количество жертв.
Пост Алексея Ковалева в Фейсбуке
Кто следит за потоком исходящей информации?
В первую очередь – алгоритм. Но сказать, что он всегда отсекает некорректные материалы, было бы громко. Он не позволяет использовать нецензурные выражения или графический контент – это правда. Запрещает размещать порнографию или использовать враждебные высказывания – правда. Помимо этого, Яндекс не советует прибегать к кликбейту или копипасту – это повлияет на охваты. У платформы имеется целый раздел о том, что запрещено размещать (кстати пункты «заведомо ложная информация», «шок-контент», «призывы к насилию» там тоже имеются). Однако у алгоритмов есть как мимом несколько минусов:
1) Алгоритмы не могут мгновенно проверить достоверность публикуемой информации.
2) Они не обладают семантической чувствительностью: не могут точно определить иронию, сарказм, средства художественной выразительности и т.д. (появляется целое тайное знание о том, как обмануть алгоритм и обойти запреты систем с помощью лексического богатства языка).
3) Алгоритм видит и замечает не все, у роботов тоже бывают сбои. В случаях, когда материал нарушает какие-либо принципы Пользовательского соглашения или на него поступают жалобы, он проверяется вручную. Если нарушения подтверждаются, материал чаще всего просто удаляют. При этом в том же соглашении подчеркивается (п. 3.5), что Яндекс имеет право, но не обязанность, отказать в публикации или удалить ее.
Очевидно, что создатели сервиса прекрасно понимают эти и многие другие нюансы при работе с искусственным интеллектом, но все не так просто.
Кто несет ответственность?
Во всей ситуации есть четыре участника, которые тесно взаимодействуют друг с другом: платформа, авторы, алгоритм и читатели.
С одной стороны, Яндекс Дзен позиционирует себя в качестве платформы, а не издателя. То есть предоставляет свободу пользователям с минимальными ограничениями, без вмешательства третьих лиц. Удаление или любые другие санкции в отношении материалов без достаточного основания могут быть расценены как посягательство на эту свободу (не берем в расчет очевидные нарушения, описанные в разделе «Требования к публикации»).
С другой, Дзен имеет совершенно очевидную связь с Яндексом и даже подавляющее большинство аудитории берет оттуда же. То есть в некоторой степени компания подписывается под тем, что рекомендует. К тому же, очевидного отделения Яндекса от пользовательского контента пока не наблюдается (особенно для рядового пользователя).
При просмотре сохраненных версий страниц Яндекс Дзена появляется такая плашка: «Яндекс не связан с авторами и содержимым страницы».
С юридической точки зрения, это действительно так – Яндекс не несет ответственность за Пользовательскую информацию. В Условиях использования сервиса «Яндекс Дзен» есть следующие пункты:
3.3 Ссылки ведут на веб-страницы или сайты в сети Интернет, созданные третьими лицами. Яндекс не несет никакой ответственности за качество таких веб-страниц или сайтов, а также за контент, размещенный на таких веб-страницах или сайтах. Индексирование производится роботом поисковой машины Яндекса в автоматическом режиме в соответствии с определенными алгоритмами, что не предполагает собой предварительную или последующую оценку содержания страниц веб-сайтов (модерацию) на предмет его соответствия нормам законодательства, этики или морали, а также иную цензуру. Яндекс также не отвечает за наличие/отсутствие, содержание и качество любых предложений об оказании услуг, приобретении товаров и т.д., которые могут быть доступны Пользователю на веб-сайтах третьих лиц, проиндексированных Яндексом, а также за любого рода убытки, которые Пользователь может понести, воспользовавшись такими предложениями.
3.4. Пользователь понимает и соглашается с тем, что Пользовательская Информация не должна нарушать авторские права, права на товарные знаки, средства индивидуализации и/или иные интеллектуальные права, принадлежащие третьим лицам. Пользователь самостоятельно и за свой счет обязуется урегулировать все претензии третьих лиц, связанные с размещением (редактированием) им Пользовательской Информации. В случае возникновения спорной ситуации бремя доказывания того, что размещаемая Пользователем Пользовательская информация не нарушает чьих-либо прав, лежит на таком Пользователе.
3.5. Пользователь признает и соглашается с тем, что Яндекс не обязан просматривать Пользовательскую информацию, размещенную Пользователем на Сервисе, а также то, что Яндекс имеет право (но не обязанность) по своему усмотрению отказать Пользователю в размещении и/или распространении им Пользовательской информации, или удалить любую Пользовательскую информацию, размещенную Пользователем на Сервисе.
В числе прочих, в документе содержится перечень запрещенной к распространению информации, ответственность за которую опять же несет пользователь. В него входит незаконная, целенаправленно вводящая в заблуждение, оскорбляющая нравственность, пропагандирующая ненависть и/или дискриминацию людей по расовому, этническому, половому, религиозному и прочим признакам информация.
Из всего вышеописанного следует, что ответственность за любую противоправную, непроверенную или этически неверную информацию несет пользователь, и никак не компания. Более того, пункт 6 документа гласит: «Пользователь понимает и соглашается с тем, что использование сервиса и ссылок осуществляется на собственный риск пользователя».
И что делать?
Как бы там ни было, остаться совершенно непричастным к контенту своего сервиса у Яндекса не получится. И в первую очередь это понимает команда Дзена.
19 апреля, после истории с волной фейков при трагедии в Кемерове, Яндекс Дзен внес изменения в правила монетизации контента: реклама больше не будет показываться в публикациях о трагических событиях и в материалах, которые нарушают правила сервиса. Определять такие публикации будет опять же алгоритм в автоматическом режиме.
«Мы считаем, что ни авторы, ни платформа не должны зарабатывать на трагических событиях», — говорит медиадиректор Яндекс Дзена Даниил Трабун.
Четкого понимания, что делать с непроверенной информацией, диффамацией и мошенниками пока нет даже у создателей Дзена и медиаэкспертов. Можно было бы предложить проверку и фильтрацию, но кто будет обрабатывать тысячи единиц контента в день, если не машина? Или пессимизировать материалы в выдаче? Пока вопрос остается открытым.
Как написал Алексей Ковалев: «По крайней мере надо признать, что проблема существует».
Данная публикация подготовлена в рамках проекта, финансируемого за счет гранта Президента Российской Федерации на развитие гражданского общества, предоставленного Фондом президентских грантов Автор текста: Алена Болдырева