На протяжении последних лет вопрос использования искусственного интеллекта в новостных медиа стоял особенно остро, ведь надо было не просто понять, как и зачем его использовать, но и оценить потенциальные риски. В том числе, с этической стороны.
Что такое искусственный интеллект (ИИ)?
По большому счету, это робот, который способен выполнять творческие функции, традиционно считающиеся прерогативой человека. Он способен учиться и самосовершенствоваться. Это называют машинным обучением. При этом робот/машина не обязательно имеют физическое обличие, это может быть и невидимая программа.
Как правило, существующие на сегодняшний день интеллектуальные системы имеют узкие области применения. Например, они помогают найти человеку что-то в интернете, написать текст по данным из открытых источников или сыграть с вами в шахматы (и обыграть).
Единого ответа на вопрос, чем занимается искусственный интеллект, не существует. Согласно одному из подходов (нисходящему), целью ИИ является имитирование высокоуровневых психических процессов человека – мышления, рассуждения, речи, эмоций, творчества и так далее.
Хорошо, но как интеллектуальные системы связаны с новостными медиа?
Мы уже отметили, что искусственный интеллект может имитировать действия человека в какой-то узкой области. Например, в письме. То есть фактически, на определенном этапе машина может выступать в роли писателя или журналиста – собирать, обрабатывать информацию и выдавать конечный результат в виде статьи. При этом у робота получится это минимум в два раза быстрее, чем у человека.
Еще интеллектуальные системы могут собирать данные и анализировать их. Например, чтобы понять предпочтения читателя, лучше советовать ему материалы и в конечном итоге получать более качественный трафик.
Варианты применения ИИ в медиа практически безграничны. Вероятно, вы даже не подозреваете, а на вашем любимом сайте уже живет робот, помогающий редакции и компании.
И что, уже есть прецеденты?
Да, уже не первый год новостные медиа экспериментируют с использованием ИИ, а журналисты даже соревнуются с роботами, чтобы доказать свое превосходство. Так, например, в мае 2016 года журналистка издания Financial Times Сара О’Коннор решила посоревноваться с машиной (в тексте девушка называет ее ‘entity’, что переводится как «существо») по имени Эмма. Им надо было написать статью о занятости в Великобритании на основе официальных данных.
«Я была уверена, что Эмма будет быстрее меня, но я правда надеялась, что я буду лучше», – написала позже Сара.
Программа оказалась действительно быстрее журналистки – она управилась за 12 минут против 35 минут, которые потребовались О’Коннор. Да и статья в целом оказалась лучше, чем ожидала девушка: достоверные факты и даже релевантный контекст есть. Но к облегчению Сары, искусственный интеллект Эмма оказалась лишена главного журналистского навыка из всех – определить новостную ценность и отличать от просто унылой информации. Хотя Эмма правильно указала, что уровень безработицы не изменился, она упустила из виду, что число соискателей впервые за почти год увеличилось.
Тот же Financial Times запустил алгоритм, который анализирует, сколько статей по заданной теме вы уже прочитали и на основе этих данных выводит наиболее релевантные для читателя, а еще показывает ваш уровень осведомленности в той или иной теме в очках. Это назвали скоринговым алгоритмом.
Другой пример использования ИИ в новостных медиа – это программа анализа больших данных, которую используют в AP (Assosiated Press).
Раньше у агентства была проблема: каждый квартал публичные компании в США публикуют свои корпоративные доходы. И каждый квартал репортеры Ассошиэйтед Пресс просматривали эти отчеты, извлекая соответствующие финансовые показатели для составления статей на основании этих цифр. Очевидно, это занимало очень много сил и времени. В лучшем случае, удавалось выпускать порядка 300 статей в квартал, а тысячи отчетов оставались не изученными. Сами репортеры называли весь этот процесс своим проклятьем.
Теперь с помощью ИИ агенство выпускает порядка 4,400 квартальных историй по отчетам публичных компаний. При этом материалы сохранили свое качество и достоверность, и за исключение объяснительной записки (о том, что это было написано роботом), сверху статьи, отличий от текста, написанного человеком, вы не найдете.
Если все так хорошо, тогда в чем проблема?
Во-первых, когда мы говорим о новостных медиа и читателях, мы всегда говорим о данных и доверии, которые в этом случае неразрывно связаны. В каком количестве мы их собираем и как используем данные – это уже другой вопрос. Очевидно, что без разрешения самого пользователя данные собрать нельзя (легально), но ведь можно предложить пользователю что-то взамен, и вот он уже соглашается отдавать свои персональные данные (например, 40% немцев были не видели особой проблемы при условии, что им разрешат пользоваться сервисами бесплатно).
Во-вторых, за каждым роботом стоит человек, который его программирует и задает вектор поведения и цели. Но помимо заданных намерений, интеллектуальная система может перенять и предрассудки, живущие в голове ее создателя. Так, например, были прецеденты в США, когда у машины наблюдали паттерн расовой предвзятости.
«За каждым фрагментом кода, который управляет нашими решениями, стоит человек со своими суждениями – о том, что важно, а что нет», – говорится в эссе «Этика и алгоритм» профессоров Бидхана Пармара и Эдварда Фримана.
Из этого вытекает мысль об ответственности самих журналистов. Нельзя оставлять ИИ исключительно на усмотрение изобретателей и программистов, потому что у каждого человека свое понимание, что важно, а что нет.
Данная публикация подготовлена в рамках проекта, финансируемого за счет гранта Президента Российской Федерации на развитие гражданского общества, предоставленного Фондом президентских грантов Автор текста: Алена Болдырева