Социально-культурные риски мультимодальных больших генеративных моделей «искусственного интеллекта» (GenAI)

Былевский Павел Геннадиевич ORCID: 0000-0002-0453-526X кандидат философских наук Доцент кафедры информационной культуры цифровой трансформации, доцент кафедры международной информационной безопасности; Московский государственный лингвистический университет 119034, Россия, г. Москва, ул. Остоженка, 36, оф. 106 Bylevskiy Pavel Gennadievich PhD in Philosophy Associate Professor, Department of Information Culture of Digital Transformation, Department of International Information Security, Moscow State Linguistic University 119034, Russia, Moscow, Moscow, Ostozhenka str., 36, office 106 pr-911@yandex.ru Другие публикации этого автора

Введение

Среди современных компьютерно-сетевых технологий «искусственного интеллекта» важное место занимают мультимодальные большие генеративные модели, позволяющие в индустриальных масштабах автоматизировать создание текстов, звуков, изображений и видео (Generative Artificial intelligence – GenAI). Разработчики позиционируют генерируемый мультимедийный контент как «сопоставимый» с человеческим творчеством, прогнозируя возможности многократного удешевления при повышении скорости и производительности. Сравниваясь с «новым атомным проектом», подобные разработки получают поддержку на уровне национальных программ и федеральных проектов, значительное и быстро растущее государственное, корпоративное и инвестиционное финансирование. Учитывая важность социально-культурных потребностей массовой аудитории, профессионального и самодеятельного творчества, мультимодальные большие генеративные модели признаны одним из приоритетных направлений государственных программ развития технологий «искусственного интеллекта» (см. Указ Президента Российской Федерации от 15.02.2024 №124 «О внесении изменений в Указ Президента Российской Федерации от 10 октября 2019 г. № 490 "О развитии искусственного интеллекта в Российской Федерации" и в Национальную стратегию, утвержденную этим Указом»).

Однако появление, развитие и массовое использование в различных отраслях и сферах новых компьютерно-сетевых технологий сопряжено с сопутствующими рисками, в оценке которых должны участвовать профильные специалисты. Исследуя итоги и перспективы применения GenAI в социально-культурной сфере, важно избежать некритических трансляций деклараций разработчиков, порой носящих маркетинговый характер. Для мультимодальных больших генеративных моделей профильным является философский, теоретико-культурный анализ, позволяющий критически оценить возможности их использования в творчестве, рассмотреть социально-культурные риски применения – восприятия массовой аудиторией, рекомендовать эффективные меры безопасности.

1. Производность «очеловечивания» техники от механистической редукции человека

Можно выделить три основных нарратива исследований философских и социально-культурных аспектов разработок и применения GenAI, опубликованных в российских научных журналах перечня ВАК (категории К1, К2) и международной базы Scopus (квартили Q1, Q2): возможности использования GenAI в профессиональном и любительском творчестве; влияние GenAI на социально-культурное восприятие массовой аудитории; перспективы признания машинной генерации творчеством, а GenAI автором. Диалектическая методология позволяет выделить два противоположных подхода: один включает некритическую трансляцию деклараций разработчиков в духе «философии искусственного интеллекта», второй основан на приоритете специфики социально-культурного творчества, признавая за техникой любой сложности лишь инструментальный характер.

Преувеличенным оценкам возможностей мультимодальных больших генеративных моделей способствует сам факт причисления их к технологиям «искусственного интеллекта»: признание сгенерированных текстов, звуков и изображений и видео «сопоставимыми» с результатами человеческой деятельности. В основе критерия «сопоставимости» лежит классический тест Тюринга, основанный всего лишь на мнении эксперта, оценивающего результаты генерации, возможно ошибочном, иллюзорном или заинтересованном ^[1]. Восприятие и оценки сгенерированного мультимедийного контента, как показали экспериментальные исследования, в значительной, если не в решающей степени зависят от характера осведомлённости пользователей о том, что такое «искусственный интеллект» ^[2]. В этой области, как и во многих других, часто «видят» именно то, что аудитории достаточно убедительно «обещали» в соответствии с её социально-культурными ценностями ^[3]. Поведение потребителей, операции пользователей с сервисами GenAI и степень их удовлетворённости также во многом зависят от ожиданий «превосходства над человеческими способностями» ^[4].

К «очеловечиванию» компьютерной техники неожиданно приводит критика «инструментализма» методом межсекторального феминистского дискурсивного анализа метафорических значений термина «искусственный интеллект». Подход к GenAI как к инструменту в преподавании английского языка сопоставляется с прежним колонизаторским отношением к коренным народам Австралии как к объекту. Делается вывод по аналогии с обретением гражданских прав женщинами и представителями колониальных народов: для достижения планетарной справедливости, после преодоления расового и гендерного неравенства, может потребоваться начать относиться к GenAI как чему-то большему, чем просто к инструменту ^[5]. Если признать за машиной способность мыслить и творить, формально логичен вывод о возможностях «превзойти человека» с помощью всё более мощных и совершенных электронно-вычислительных компьютерно-сетевых решений.

Подобное допущение, предполагающее встречную редукцию человека до машины (автоматизированного механизма), порождает завышенные ожидания возможностей GenAI в диапазоне от утопии до антиутопии. Технологии «искусственного интеллекта» нового поколения вызывают как восторги, так и опасения. Теоретических дискуссий о потенциальных возможностях, ограничениях и «подводных камнях» внедрения GenAI в творческую деятельность пока мало, но часто встречаются оценки мощных социотехнических моделей как «чудовища, вызывающего глубокий ужас и споры» ^[6]. ChatGPT, генератор всего лишь текстов по запросам пользователей, выглядит угрозой вытеснения человека из целых отраслей и исчезновения профессий, например, в рекламе ^[7]. Социолингвистические системы GenAI способны превратиться в «агентов цифровых владык» – владельцев интернет-сервисов, стать третьей стороной их общения с пользователями, формируя новый общественный уклад «алгоритмического», «платформенного» капитализма «всеобщего наблюдения» ^[8].

Условное приравнивание человека и машины порождает логическую цепочку: машинная генерация мультимедийного контента без понимания смыслов уподобляется человеческому творчеству, осуществляемому без полного знания его принципов и последствий. Сложность и признание «частичного превосходства над человеком» позволяют воспринимать GenAI уже не как инструмент, но как непредсказуемого и непостижимого «помощника», способного «взаимодействовать с обществом». Далее формулируются прогнозы, близкие по уровню эсхатологическим: предполагается, что GenAI способен обрести опыт самостоятельного наличного бытия, запустить цикл бесконечного самосовершенствования и самопорождения, трансформировать материю в цифроматериальное общество роевого интеллекта ^[9].

2. Современная постановка проблемы творчества и правосубъектности электронно-вычислительной машины

Преувеличенные прогнозы возможностей, и соответственно, рисков, вызванные причислением мультимодальных больших генеративных моделей к «искусственному интеллекту», можно условно разделить на два уровня, фундаментальный и прикладной. Смежные прикладные социально-культурные проблемы, решение которых требует философской методологии, таковы: следует ли признавать творчеством машинную генерацию мультимедийного контента и правосубъектность «искусственного интеллекта». Вторая проблема не является чисто юридической, поскольку правовая терминология необходимо соотносится с философскими понятиями общества и человека. Анализ уже прикладных возможностей и рисков может показать, целесообразно ли дальнейшее рассмотрение фундаментальных прогнозов разработок и применения технологий GenAI, как утопических, так и антиутопических. Точно и однозначно ответить на вопрос, может ли техника, компьютерный программно-аппаратный комплекс для генерации мультимедийного контента признаваться творцом и субъектом права, можно посредством классической философской методологии диалектического материалистизма.

В соответствии с классической политической экономией теоретико-культурный подход позволяет выделить в творческом труде творца-человека и вещные факторы: орудие (инструмент), материал и результат. Точно так же, как перо, кисть и музыкальный инструмент являются ручными инструментами, GenAI тоже выступает инструментом человеческого творчества, только стационарным и автоматизированным. Обработка текстов и звуков, изображений и видео посредством автоматизированных компьютерных сетевых программно-аппаратных комплексов с этой точки зрения принципиально не отличается от машинного производства прочей промышленной и бытовой продукции. В таком случае субъектом автоматизированной творческой деятельности и автором сгенерированного контента является человек, пользователь. Именно он решает, воспользоваться ли данным сервисом, формулирует текстовый запрос, принимает или отвергает результат.

Напротив, механистическая редукция человека к машине и «очеловечивание» электронно-вычислительной техники помогают успешному маркетингу технологий, причисляемых к «искусственному интеллекту», получению государственной поддержки и инвестиций. Однако некритическая трансляция этих постулатов «философии искусственного интеллекта» в социально-культурную сферу приводит к некорректной, на грани заведомой неразрешимости, формулировке проблематики.

Трактовка использования текстовых больших генеративных моделей как «сотрудничества», «взаимодействия» с человеком уводит исследование от вопросов эффективности создания и редактирования текстов для разных целей в сторону «диалектических переговоров, совместному с искусственным интеллектом написанию с помощью повторяющихся подсказок» ^[10]. Применение мультимодальных больших генеративных моделей в социально-культурной сфере предстаёт уже не как опосредованное технологиями взаимодействие творческих работников, аудитории, создателей и поставщиков сервисов. Прогнозируется новая эра «творческих отношений» между художниками и технологиями, огромные перспективы расширения творческого потенциала благодаря «симбиозу человека и искусственного интеллекта» ^[11].

Некритическая трансляция постулатов «философии искусственного интеллекта» в социально-культурную сферу критикуется юристами, которые придерживаются определения GenAI как об объекта, а не субъекта права, в том числе в области авторства. Чтобы поколебать их позицию, ради признания за собственником, а не за пользователем генеративного сервиса хотя бы временных прав на результат, применяются терминологические иносказания. Таковы, например, эвфемизмы генераторы результатов, «сопоставимых с результатами интеллектуальной деятельности», «создатель результата, не являющийся человеком» ^[12]. Творческий характер и оригинальность сгенерированного результата ^[13] могут трактоваться не как совместный продукт пользователя и создателей автоматизированного сервиса, но как аргумент в пользу возможности придания правосубъектности «искусственному интеллекту» ^[14].

Вопрос «машинного творчества» напрямую связан не только с авторскими правами, но и с ответственностью за правонарушения, совершённые с использованием техники. Мультимодальные большие генеративные модели «искусственного интеллекта» являются техникой, хотя и автоматизированной, в значительной степени автономной от создателей и операторов. Признание способности современных нейронных сетей создавать «объекты, до сих пор считавшиеся достижениями творческой деятельности человека», классификация цифрового искусства как «машинного творчества» ^[15] всего лишь маскирует, переносит на инструмент ответственность человека, который сделал запрос и опубликовал сгенерированный контент, нарушающий закон.

3. Теоретико-культурный анализ творческого содержания компьютерной генерации

Философско-культурный анализ творчества позволяет классифицировать мультимодальные большие генеративные модели не как «искусственный интеллект», но как автоматизированные системы машинной электронно-вычислительной обработки электронных (также цифровых) документов – текстовых, звуковых, изображений, видео, а потенциально и других видов (оцифрованных запахов, вкусов, тактильных ощущений и т.п.). Творческим характером может обладать лишь труд людей – субъектов, которые используют, обслуживают, разрабатывают, администрируют генеративные сервисы как объекты. Принципиальное устройство мультимодальной большой генеративной модели можно описать по аналогии с промышленным машинным массовым производством стандартизированных изделий, индустриальных или бытовых. Применение машины как автоматизированного средства труда заключается в обработке предмета труда (сырья, заготовки) в готовое изделие; устройство машины необходимо включает двигатель, управляющую трансмиссию и рабочие инструменты.

«Сырьём» для обработки, то есть предметом труда, являются электронные документы – результаты оцифровки человеческих действий: письма, рисования, речи, пения, исполнения музыкальных произведений, ролей в театре и кинофильмах, участия в массовых мероприятиях и т.п. Эти документы формализованы, индексированы по заданным параметрам и структурированы в электронные мультимедийные библиотеки – своего рода упорядоченный «склад сырья» с каталогом. Рабочими инструментами для обработки «сырья» являются специализированные программы – шаблоны операций, моделирующих приёмы редактирования человеком исходных документов (текстов, изображений, звуко- и видеозаписей и т.д.), объединённые в структурированные собрания.

Роль автоматизированной управляющей трансмиссии («руля») играют поисковые и управляющие алгоритмы, определяющие «сырые» исходных документы, операции обработки и их последовательность, наиболее соответствующие запросу пользователя по формальным критериям. «Двигателем» мультимодальных больших генеративных моделей как электронно-вычислительных программно-аппаратных комплексов являются генерирующие электроэнергию мощности – ГЭС, ТЭЦ, АЭС и т.п.

Генерация документа (текста, изображения, звукового, видео) по запросу пользователя, вплоть до режима трансляции в режиме реального времени, осуществляется следующими техническими средствами. По текстовому запросу с описанием результата автоматически определяются наиболее соответствующие по формальным признакам исходные документы из имеющейся библиотеки, а затем инструменты (программы) из наличного перечня и последовательность их выполнения. Генерация результата представляет собой автоматизированную обработку исходных документов («сырья») последовательностью операций (программами-инструментами).

Пользователь с помощью генеративного сервиса сам, незаметно для себя, выбирает из имеющихся в наличии наиболее подходящие исходный документ, программы-инструменты, определяет последовательность операций, выполнение которых и создаёт обработанный, «сгенерированный» документ. Для генерации результата могут потребоваться много документов; операции способны включать фрагментацию, компиляцию фрагментов, применение спецэффектов к «коллажу» и финальную «оригинализацию» (защиту от «антиплагиата»), что нисколько не меняет сути дела. Большие мультимодальные генеративные модели являются средствами самообслуживания пользователей, причём не в большей степени, чем для водителя – богато оснащённый электронной автоматикой автомобиль. Завышенные ожидания и некритическое восприятие GenAI как потенциального «художественного сверхразума» порождаются таким феноменом «массовой культуры» как современная мифология «искусственного интеллекта».

Наиболее верным и продуктивным представляется «инструментальный» подход к GenAI, подтверждаемый уже наработанной практикой применения в социально-культурной сфере. Творчество остается монополией человека, требует воображения, таланта, мастерства, а цифровизация и нейросети освобождают художника только от повторов самых простых рутинных операций ^[16]. GenAI применим для стимулирования и расширения технических возможностей человеческого творчества на основе автоматизированного анализа крупномасштабных наборов «больших данных» ^[2],[17]. «Искусственный эмоциональный интеллект» может быть полезен в статистической аналитике, разработке норм и стандартов, крупных проектов в сфере искусства и культуры ^[18]. Свободное от иллюзий «искусственного интеллекта» применение мультимодальных больших генеративных моделей может способствовать укреплению технологического и культурного суверенитета, преодолению потребительства, превращению социального творчества в высшую ценность ^[19],[20].

4. Социально-культурные риски мультимодальных больших генеративных моделей

Основываясь на определении мультимодальных больших генеративных моделей как автоматизированного технического инструмента творчества, можно выявить и определить различные «прикладные» социально-культурные риски, сопутствующие их разработке и применению. В случае реализации этих рисков ущерб может быть нанесён государственным и корпоративным интересам, профессиональным и непрофессиональным, самодеятельным творческим работникам, а также гражданам и пользователям, представляющим массовую аудиторию интернет-сервисов.

Государственной и корпоративной поддержке сопутствует риск несоответствия затрат ресурсов на разработку и внедрение GenAI получаемым результатам, неэффективное расходование финансовых средств, затрачиваемых на дорогостоящее оборудование, закупку у операторов «больших персональных данных», регулярное долговременное «обучение» (точнее, настройку) GenAI на многих людях. Уязвимостями здесь выступают некритическое восприятие прогнозов эффективности, заведомо завышенных разработчиками, обоснованное лишь постулатами «философии искусственного интеллекта», а также недостаточно широкое привлечение к экспертизе и разработкам отечественных философов, теоретиков культуры и искусства, культурологов, достаточно хорошо разбирающихся в современных цифровых технологиях.

Риском для профессиональных и самодеятельных творческих работников, особенно для начинающих и обучающихся, выступает иллюзорное восприятие мультимодальных больших генеративных моделей не как сервиса самообслуживания, но как образца «творческого сверхразума». Сгенерированные GenAI компиляции из «сырья», фрагментов работ никому не известных авторов, не представляющих художественной ценности, преобразованные автоматическими спецэффектами и замаскированные «защитой от антиплагиата», могут благодаря причислению к «искусственному интеллекту» восприниматься как высокие образцы подлинно современного «высокотехнологичного» искусства, превосходящие классические шедевры культуры, как ориентиры для совершенствования собственного мастерства.

Подобный риск значительного понижения художественного вкуса в результате цифровой автоматизации индустрии «массовой культуры» существует и для широкой аудитории, потенциально для всех граждан, пользователей. Машинная генерация в индустриальных масштабах вторичного и третичного «культурного ширпотреба» создаёт иллюзию подлинного творчества, отвечающего моде на «искусственный интеллект», поддерживается массированной трансляцией в интернет-коммуникациях, автоматизированным агрессивным маркетингом и навязчивой рекламой «рекомендательных сервисов».

Можно выделить целую группу социально-культурных рисков для российских государственных, коммерческих, некоммерческих организаций и всех граждан, связанных с использованием злоумышленниками быстроты, высокой производительности и дешевизны генерируемого GenAI убедительного фальсифицированного мультимедийного контента. Для трансляции массовой аудитории посредством прессы и социальных сетей быстро и недорого могут быть сгенерированы убедительные высококачественные (Deepfake) поддельные выступления авторитетных лидеров, руководителей и экспертов, подделки произведений искусства, исторических, политических и других документов, мнений граждан.

Таким образом, возможности использования злоумышленниками мультимодальных больших генеративных моделей порождают целую группу социально-гуманитарных рисков, сопряжённых с высокопродуктивной автоматизацией деструктивных манипуляций сознанием. GenAI в качестве высокопроизводительной «машины иллюзий и обмана» может эффективно применяться криминалом как автоматизирующее техническое средство «социальной инженерии», мошенничеств в социальных сетях и торговых сервисах, в том числе совершаемых посредством мобильных телефонов, интернет-мессенджеров и т.д. В корпоративных и межгосударственных конфликтах, «гибридных войнах» потенциал GenAI способен быть использован недружественными странами и организациями для массовой дезинформации, производства фейк-новостей, проведения кампаний «культуры отмены», фальсификации истории, разрушения традиционных ценностей и подмены социально-культурной идентичности.

Заключение

Результатом исследования является вывод об иллюзорности «фундаментальных» рисков того, что мультимодальные большие генеративные модели, причисляемые к «искусственному интеллекту», превзойдут качеством и сделают излишним человеческое творчество. При понимании GenAI как автоматизированного высокопроизводительного эффективного сервиса индустриального создания поддельно оригинального, но убедительного контента прорисовываются более реальные риски. К ним можно отнести риск низкой эффективности государственных и корпоративных затрат на разработки мультимодальных больших генеративных моделей, несопоставимых с полезностью результатов, а также понижение мастерства профессиональных и непрофессиональных творческих работников, ухудшение художественного вкуса массовой аудитории. Криминал, недружественные страны и организации могут использовать GenAI как высокопроизводительное и быстродействующее техническое средство в таких методах нарушения информационной безопасности как «социальная инженерия», мошенничество, манипулирование сознанием, дезинформация, фейк-новости, «культура отмены», разрушение традиционных ценностей и подмена социально-культурной идентичности.

Для минимизации рассмотренных социально-культурных рисков, обеспечения информационной безопасности национальных интересов и граждан России при разработке и применении мультимодальных больших генеративных моделей могут быть рекомендованы следующие средства. Во-первых, привлечение к разработкам и экспертизе российских моделей GenAI отечественных философов, теоретиков культуры, искусствоведов и др., являющихся одновременно профильными специалистами в социально-культурной проблематике, современных цифровых технологиях и в обеспечении информационной безопасности. Во-вторых, востребованы расширение и углубление научных исследований социально-культурных аспектов эффективности и безопасности мультимодальных больших генеративных моделей. В-третьих, результаты таких исследований рекомендуется использовать в образовании и популяризации посредством отечественной массовой прессы, социальных сетей, цифровых платформ и социальной рекламы для актуализации и повышения культуры информационной безопасности российских граждан.