ИИ-тократия

Политологи, социологи и компьютерные инженеры прогнозируют, что искусственный интеллект станет технологией, которая изменит представление об общественном управлении, аналогично тому, как это произошло в свое время с печатным прессом, картографией и компьютерными базами данных. Тем не менее, остается неясным, в каком направлении будет развиваться использование ИИ и какие политические субъекты получат выгоду от новых технологий. Что об этой проблеме думают политологи, и какие исследования есть на этот счет?

Как влияет развитие ИИ на демократическую политику?

Во-первых, следует проводить отличие между «общим» искусственным интеллектом, стремящимся имитировать человеческое мышление, и «узконаправленным» ИИ, разработанным для решения конкретных задач. Именно последний фигурирует в научных дискуссиях о роли новых технологий в политике. Так, А. Юнгхерр, эксперт по цифровой трансформации Института политологии Бамбергского университета, отмечает, что в настоящее время наиболее значимыми являются алгоритмы, формирующие информационное пространство и позволяющие анализировать большие объемы данных.

Одними из таких инструментов является медиа-ориентированный искусственный интеллект. Д. Милль, классик политической философии XIX века, еще в свое время подчеркивал необходимость видимости различных точек зрения для качественного функционирования демократии. Искусственный интеллект, однако, может косвенно препятствовать представлению разных мнений в публичном поле. Современные методы, направленные на фильтрацию новостной повестки и ее анализ, приводят к вытеснению малых и средних новостных агентств, которые не выдерживают конкуренции. Это, в свою очередь, ведет к уменьшению информационного разнообразия. В дополнение к этому, алгоритмы ИИ склонны к усреднению и воспроизводству наиболее частых позиций из текстов, на основе которых выполнялась их тренировка. Данные феномены, по мнению политологов, приводят к еще большему усилению доминирующих дискурсов, в то время как альтернативные точки зрения, особенно исходящие от маргинализированных социальных групп, исчезают из повестки. 

Вследствие вмешательства ИИ в процессы распространения информации под угрозой находится и способности людей к самоуправлению. Распространение сгенерированных «deep fake-ов» нарушает способность граждан к адекватной оценке политической повестки. Помимо этого, ИИ расширило возможности к оценке сложных общественных процессов в демократических системах. С одной стороны, это способствует решению проблем современного общества. С другой — это снижает долю «неопределенности», за счет которой функционирует демократия. Благодаря данной «неопределенности» проведение выборов имеет смысл, ведь у каждой партии есть шансы получить мандат. Из-за сложности и неопределенности общественных процессов, централизованное и экспертное принятие решений зачастую не имеет смысла, и децентрализованное управление способствует более эффективному обслуживанию социальных потребностей. Однако развитие ИИ в перспективе позволит экспертным сообществам преодолеть данную сложность и неопределенность, ослабляя необходимость в демократических институтах. 

Ученые также выделяют и положительные стороны ИИ. А. Юнгхерр отмечает, что использование искусственного интеллекта для модерации социальных сетей позволяет ограничивать радикальный и агрессивный контент. Распространение некачественного генерируемого контента также повышает публичное доверие к профессиональным медиа. Но, по итогам обозначенной концептуальной рамки, политологи скорее склонны видеть в искусственном интеллекте угрозу для демократических ценностей. 

Искусственный интеллект и транснациональные корпорации

Другое направление в политологической литературе по ИИ, — анализ усиления позиций компаний «Big Tech». Проблемы «частной власти» транснациональных корпораций и ранее вызывали опасения исследователей международной политики. С приходом ИИ эти опасения только усилились. С. Шривастава, глава лаборатории «Больших технологий и политической ответственности» при университете Пердью, отмечает, что технологические гиганты контролируют влиятельные информационные пространства, модерируемые компьютерными алгоритмами. Эти алгоритмы представляют собой «черный ящик», в большинстве случаев не поддающийся человеческой интерпретации даже их создателями. Данная проблема приводит не только к нарушению гражданских прав и свобод, концепцию которых ИИ не может понять, но и к усилению компаний-разработчиков. Последние настаивают на эксклюзивности своего контроля над данными технологиями вследствие невозможности ее интерпретации сторонними регуляторами. 

Кроме того, Big Tech является основным поставщиком новых инструментов ИИ для правительств, что делает их зависимыми от этих компаний. Хотя в истории имеются примеры, когда государство брало на свое вооружение и монополизировало частные разработки, как, например, печатный пресс, маловероятно, что подобный процесс повторится в случае искусственного интеллекта. Высокая технологичность рассматриваемых инструментов является одной частью проблемы. Однако основным вопросом является правовой статус транснациональных корпораций. В современных международных отношениях коммерческие организации, с одной стороны, обладают правами, охраняющих их деятельность. С другой стороны, международное законодательство, которое предполагало бы регулирование транснациональных корпораций, противоречиво и имеет множество ограничений. Это создает предпосылки к тому, что в вопросе разработки и распространения искусственного интеллекта коммерческие организации имеют больший вес, нежели государства. В итоге ученые в области международных отношений предсказывают укрепление транснациональных корпораций как субъектов мировой политики.

Почему автократии лидируют в разработке искусственного интеллекта?

Демократии традиционно ассоциируются с большими технологическими успехами по сравнению с авторитарными режимами. Такое преимущество достигается в результате гарантий прав частной и интеллектуальной собственности, а также благодаря представлению интересов предпринимателей в политике. Это создает благоприятную среду для технологических разработок коммерческими организациями. Однако появление искусственного интеллекта может поставить под сомнение устоявшиеся представления.

Масштабное исследование китайских IT-компаний, проведенное американскими учеными Мартиным Берахом, Эндрю Као, Дэвидом И-Янгом и Ноамом Юхтманом, демонстрирует взаимную выгоду в отношениях между Компартией Китая и компаниями, занимающимися разработкой искусственного интеллекта. Группа исследователей обнаружила, что китайское правительство формирует политически мотивированные запросы к частным компаниям на разработку продуктов в области общественной безопасности после случаев массовых волнений. За двухлетний период после таких запросов компании произвели больше новой продукции в области искусственного
интеллекта.

Если потребность авторитарных режимов в разработках искусственного интеллекта объясняется запросом на новые методы общественного контроля, то выгода от такого сотрудничества для IT-компаний менее очевидны. Разработка новой продукции в области искусственного интеллекта требует больших затрат, а результаты не всегда соответствуют целям успешной монетизации. Автократии могут точечно выделять необходимые ресурсы или формировать запросы на определенные продукты, в чем демократии более ограничены. Помимо финансового обеспечения, авторитарные режимы могут предоставлять более доступные и объемные базы данных для обучения искусственного интеллекта. Это касается как практического игнорирования конфиденциальности граждан в процессе сбора данных, так и доступа к обширным системам государственного надзора.

Ярослав Барыкин, политолог