Развитие искусственного интеллекта в Бразилии: акцент на военную сферу и вопросы интеллектуальной собственности

Статья подготовлена при финансовой поддержке РФФИ в рамках научного проекта № 18-29-15030 мк.
Acknowledgements. The reported study was funded by RFBR according to the research project No 18-29-15030 mk

Для развития военной сферы одной из стран БРИКС Бразилии существует в настоящее время и нормативно-правовая документальная, и институциональная основа. Так, с одной стороны, действуют и применяются «Национальная политика обороны» 1998 г. ^[1] и «Национальная стратегия обороны» 2008 г. ^{[2; 3. С. 81-89]} (последняя, например, призывает к проведению стратегических ядерных исследований ^[4]; исследования на тему создания собственной атомной субмарины бразильцы начали после Фолклендской войны, они стали логическим продолжением стартовавших еще в 1960-е гг. XX в. их работ по производству ядерного оружия ^[5]), с другой, для решения задач по обеспечению вооруженных сил страны современной техникой и по повышению эффективности научно-исследовательской, опытно-конструкторской, производственно-хозяйственной и коммерческой деятельности компаний создана «Бразильская ассоциация предприятий оборонной промышленности и систем безопасности» (Associação Brasileira das Indústrias de Materiais de Defesa e Segurança, ABIMDE, URL: https://abimde.org.br/pt-br/ (дата обращения: 08.07.2021)), которая объединяет в своем составе национальные компании и расположенные на территории Бразилии филиалы иностранных военно-промышленных корпораций, таких как Agusta-Westland, BAe Systems, Boeing, EADS, SAAB, Elbit Systems, Indra, Motorola, Rafal International, Rockwell-Collins и др.[6. С. 27-29 ] Так, Политика… устанавливает цели национальной обороны и направляет государство относительно того, что делать для их достижения, а Стратегия… определяет конкретно как достичь поставленных целей. Вместе они прокладывают путь к созданию обороны, к которой стремится Бразилия [7. P. 7.]. При этом если в 70-е гг. XX в. в период правления военной хунты (1964-1984 гг.) Бразилия по производству вооружений входила в пятерку мировых лидеров, а в стране появились заводы (на оборону работали свыше 120 ведущих промышленных предприятий) по производству основных видов оружия, которое в большом количестве экспортировалось за рубеж, такие как Embraer (авиастроение), Aviabraz (ракетно-космическая техника), Engesa (бронетанковая техника), IMBEL (стрелковое оружие), AMRJ (военное кораблестроение), то уже в 90-е гг. позиции оборонного сектора Бразилии значительно ослабли ^[8]. С принятием «Национальной стратегии обороны» 2008 г. Бразилия предприняла попытки начать наверстывать упущенное (напр., в форме «Соглашения между правительством Федеративной Республики Бразилия и правительством Французской Республики о сотрудничестве в области обороны и о статусе своих вооруженных сил», которое предусмотрело широкую передачу оборонных технологий [3. С. 81-89]; участие зарубежных компаний в программах производства вооружений и военной техники, напр., Aviabraz совместно с французской компанией Renault выпускает бронированный автомобиль TUPI, итальянский концерн Iveco производит на территории Бразилии для ее вооруженных сил бронетранспортер Guarani и т.д. [6. С. 27-29.]

Вместе с тем в настоящее время перед Бразилией, как и перед другими странами, встают новые вызовы, в частности, цифровизации, создания и исследования перспектив применения и применения искусственного интеллекта (далее – ИИ), в том числе в военной сфере. В этом формате Бразилия держит руку на пульсе [51. С. 11-108], и потому ею приняты новые документы и нормативно-правовые акты, и Бразилия работает над созданием новой инфраструктуры и институциональным оформлением таких новых инициатив. Так, с одной стороны, приняты: Общий закон о защите персональных данных No. 13.709 от 14 августа 2018 г. (в ред. Закона No. 13.853 от 2019 г.)^[9], в марте 2018 г. - национальная «Стратегия в области цифровой трансформации»^[10], которая согласовывает и координирует различные правительственные инициативы по цифровым вопросам для достижения Целей устойчивого развития в Бразилии; Декрет № 9.854 от 25 июня 2019 г., утвердивший Национальный план по созданию интернета вещей и предусмотревший создание Палаты управления и мониторинга разработки систем связи «машина-машина» и «интернет вещей» ^[11], а в апреле 2021 г. – «Национальная стратегия по развитию искусственного интеллекта» ^[12] (далее – Стратегия 2021 г.), которая направлена на стимулирование исследований, инноваций и разработки решений в области ИИ; с другой стороны - созданы Центры прикладных технологий для повышения эффективности городского хозяйства (applied technology centres for urban efficiency) – научные центры оценки, моделирования и демонстрации технологий, применяемых для повышения эффективности городской динамики, Бразилия также о провозгласила цель создания восьми Центров прикладных исследований ИИ (Applied research centres in AI), организованных признанными академическими и исследовательскими учреждениями страны. По данным на апрель 2021 г. ^[13] четыре из восьми Центров уже готовы к сдаче. Их деятельность касается здоровья, сельского хозяйства, промышленности и умных городов. Каждый Центр может получать до 1 млн реалов в год от Фонда поддержки научных исследований штата Сан-Паулу (FAPESP). Ожидается, что Центры в области ИИ будут стимулировать:

• фундаментальные и прикладные исследования и инновации;

• разработку специализированных продуктов, таких как аппаратное/встроенное программное обеспечение, алгоритмы и математические модели;

• установление связей между научно-технологическими учреждениями (Instituição Científica e Tecnológica, ICT) [14. С. 107-115], правительством и компаниями;

• создание необходимой инфраструктуры для расширения исследовательских сетей;

• развитие компетенций и передовую и квалифицированную технологическую подготовку;

• экономический рост и социальный прогресс страны ^[15].

Рассмотрим каков уровень развития идей и пропаганды искусственного интеллекта в Бразилии вообще и в военной сфере в частности, какова степень нуждаемости в военных технологиях, оснащенных ИИ (автономных и полуавтономных), есть ли в обществе консенсус по вопросу допустимости использования автономных вооружений, оснащенных ИИ, в том числе летальных.

Стратегия 2021 г. принята после консультаций с общественностью, которые проходили с декабря 2019 г. по март 2020 г. и направлена на сбалансированное этичное использование технологии ИИ при одновременном стимулировании исследований и инноваций в этом секторе.

В ней определено девять направлений развития ИИ и его экосистемы (рис. 1), лежащие в русле 5 принципов Рекомендации ОЭСР по искусственному интеллекту 2019 г. ^{[16; 17]}:

1) ИИ должен приносить пользу людям и планете, стимулируя инклюзивный рост, устойчивое развитие и благосостояние,

2) системы ИИ должны быть спроектированы таким образом, чтобы уважать верховенство закона, права человека, демократические ценности и разнообразие, и они должны включать соответствующие гарантии – например, позволяющие вмешиваться человеку, когда это необходимо, – для обеспечения справедливости и справедливого общества,

3) в системах ИИ должны быть прозрачность и ответственное раскрытие информации, чтобы люди понимали результаты, основанные на ИИ, и могли оспаривать их,

4) системы искусственного интеллекта должны функционировать надежно и безопасно на протяжении всего своего жизненного цикла, а потенциальные риски должны постоянно оцениваться и быть управляемыми,

5) организации и отдельные лица, разрабатывающие, развертывающие или эксплуатирующие системы ИИ, должны нести ответственность за их надлежащее функционирование в соответствии с вышеуказанными принципами.

Рис. 1. Направления развития ИИ и его экосистемы

Источник: [12. P. 6]

Среди горизонтальных направлений:

· законодательство, регулирование и этика, тематически направленные на обеспечение защиты прав человека и создание прочной нормативно-правовой базы, имеющей в себе обязательство включать этические требования в тендеры на решения, основанные на ИИ. Например, если рассматривать ИИ как источник повышения конкурентоспособности для предприятий, в интересах последних создать инфраструктуру (платформы [18. С. 1-19]), экосистемы (как, например, экосистема «Сбера» (URL: https://www.sber.ru/ecosystem (дата обращения: 09.07.2021)) в России и т.п.), которые соберут как можно больше пользователей, которые предоставят (сгенерируют) свои данные, доступные для использования и обмена.

Здесь идея ответственности за применение ИИ и связанных с этим рисков, связывается с созданием структуры управления ИИ, которая может обеспечить соблюдение ряда принципов, таких как:

(i) обозначение отдельных лиц или отдельных групп лиц в пределах организации для обеспечения соблюдения вырабатываемых (иногда в виде Кодекса или Настольной книги, по аналогии с выпущенным Правительством Сингапура изданием «Модельная основа управления ИИ» (“Model AI Governance Framework”), которое стремится перевести этические принципы в практическую практику, реализуемую в процессе развития ИИ;

(ii) принятие мер по повышению внутренней осведомленности работников и руководства предприятий и организаций о необходимости соответствия этике и подконтрольности практическим реализуемым процессам, в том числе путем руководства и обучения в компаниях и др.;

(iii) осуществление контроля за деятельностью ИИ, посредством которого сотрудники могут осознать проблемы соответствия и устранить их. Способы устранения такого рода проблем могут включать в себя создание печатей, сертификатов и кодексов поведения на уровне предприятий и учреждений, включая государственные. Тут правда возникает (или со временем возникнет) вопрос о том, что даже уже существующие образцы ИИ демонстрируют высокую способность к самообучению, и нельзя исключать, что они могут превзойти человека. Поэтому как возможно будет контролировать ИИ в этом случае? ^[19]

Кроме того, как и в случае с этическими комитетами в сфере биотехнологий этические аспекты применения ИИ необходимо связывать с созданием в организациях и на предприятиях разного рода советов по изучению данных или комитетов по этике в отношении ИИ (conselhos de revisão de dados ou comitês de ética em relação à IA), которые могут быть внутренними или внешними по отношению к организациям, и рассматриваться как способ повышения ответственности внутри корпорации, продвижения принятых более ответственных решений и гарантирования использования данных с соблюдением корпоративных и социальных ценностей;

· управление ИИ, при реализации которого подчеркивается важность (как и в ЮАР [20. С. 1-23]) создания механизмов, которые позволят предотвратить или исключить искажения (напр., предвзятость и т.п.), которые могут как появляться в действии самих алгоритмов, так и порождаться подборкой сетов, создаваемых операторами системы (людьми с их предубеждениями и пр.), содержащихся в базах данных, используемых для обучения таким образом, что в результате проведенного усовершенствования (дизайна) могут возникать проблемы с конфиденциальностью, безопасностью, правами человека, этикой (privacy by design, security by design, human rights by design, ethics by design) [21. С. 50-56]. Таким образом, оказывается важным утверждение процедур управления рисками, мониторинга и контроля при использовании систем ИИ на протяжении всего цикла их жизни;

· международные аспекты, касающиеся в практическом плане вопросов: интеграции Бразилии в международные сообщества (органы, форумы) для повышения этичности использования ИИ; содействия обмену специалистами для развития исследований в сфере ИИ в различных областях наук (точных, гуманитарных) и здравоохранения; экспорта систем ИИ, разработанных бразильскими компаниями, включая стартапы; разработки платформ для сотрудничества и обмена информацией о технологиях ИИ;

· Среди вертикальных:

· образование (квалификация для цифрового будущего), цель которого состоит в том, чтобы подготовить нынешнее и будущие поколения к тому, чтобы они справились с изменениями и последствиями ИИ. Так, Стратегия 2021 г. предлагает национальную программу цифровой грамотности для учащихся и техническую подготовку для учителей, например;

· рабочая сила и потенциал связаны с образованием и квалификацией. Стратегия 2021 г. подчеркивает, что большинство рабочих профессий в сфере транспорта, логистики, административной поддержки и офисной работы, а равно сферы производства находятся в опасности, и для работников этих сфер лучше уже сейчас приобрести новые творческие и социальные навыки, чтобы не проиграть в этой гонке, где важными станут квалификации в сфере информатизации, особенно это касается женщин, которых в профессиях, связанных с ИИ на сегодня по данным The Global Gender Gap Report 2018 г. [12. P. 32] всего 14%; то же касается расового разрыва в специалистах в сфере информационных технологий;

· исследования, разработки, инновации и предпринимательство тематически соответствует решению вопроса научного прорыва, основанного на способности ИИ обрабатывать большие объемы данных, что позволяет ему лучше и быстрее выявить закономерности, исследовать гипотезы и делать выводы, которые не поддаются выполнению людьми. При этом проводимые научные исследования в сфере ИИ должны базироваться на этическом подходе, чтобы сделать ИИ надежным и не угрожающим. Такой подход может включать в себя, но не ограничивается стремлением сделать системы ИИ более справедливыми, по возможности, уменьшить наличие в них проявлений дискриминации и предрассудков, повысить их прозрачность, понимаемость человеком и предсказуемость, сделать системы ИИ в целом более дружелюбными и повысить их ответственность. Как тут не вспомнить рассказ «Хоровод» (“Runaround” – англ.) 1942 г. из цикла «Галактическая история» А.Азимова (URL: https://royallib.com/book/azimov_ayzek/horovod.html (дата обращения: 28.08.2020)) в сравнении с «Россумскими универсальными роботами» (“Rossumovi univerzální roboti” – чеш.) 1920 г. К.Чапека (URL: https://librebook.me/r_u_r (дата обращения: 09.07.2021));

· применение ИИ в отраслях производства осознается не столько как фактор будущего, сколько как свершившийся факт для таких сфер экономики как: логистика; доставка; финансовые услуги и иные профессиональные услуги (таких специалистов, как юристы, инженеры, архитекторы, адвокаты); маркетинг и реклама; сельское хозяйство; здравоохранение (виртуальные помощники и пр.) и т.д., что требует интеграции технологического и социального контекста в процесс применения ИИ в производственных сетях ^[22]. Иными словами, должны найти должную оценку такие факторы как: роль данных в развитии ИИ; использование вспомогательных технологий, таких как IoT и пр.; вычислительные возможности ИИ; бизнес-модели, основывающиеся на использовании чисто человеческих подходов к решению тех или иных вопросов ^[23], имеющие в основе анализ надлежаще или ненадлежаще собранных больших данных;

· применение ИИ в сфере публичной власти, которое включает обязательство внедрить ИИ по крайней мере в 12 федеральных государственных службах Бразилии к 2022 г.,

· системы ИИ имеют потенциал применения в мероприятиях, относящихся к общественной безопасности и обороне (segurança e à defesa) в государственном и частном секторе. Недавнее исследование американского Carnegie Endowment for International Peace показало, что по меньшей мере 75 стран мира активно используют технологии ИИ в целях надзора (контроля) или соблюдения норм и требований общественной безопасности (fins de vigilância / segurança pública). Основные технологии ИИ в области общественной безопасности определены как: (i) платформы для «умных» городов; (ii) системы распознавания объектов и лиц (людей на фото и видео с оружием и без, демонстрирующих преступное поведение в общественных местах и т.п.) и звуков (выстрелов, ударов, автомобилей или беспорядков) с автоматической отправкой оповещений в соответствующие органы власти; (iii) “умная” полиция (policiamento inteligente). Именно такой ракурс использования ИИ был широко обсуждаемым, главным образом в части решения проблем, связанных с предвзятостью и дискриминацией, вытекающими во многих случаях из недостаточной репрезентативности и проработанности (наполненности) баз данных (используемых дата-сетов). Тогда как допускаемые в этом вопросе практические ошибки, вызванные демографическим перекосом (ассиметрией по типу мужчины-женщины, черные-белые-цветные, европейцы-азиаты и др.) в используемых дата-сетах могут выливаться в произвольные ограничения свободы, аресты и нарушения фундаментальных прав человека. Поэтому необходимо, чтобы технологии ИИ, используемые для обеспечения и поддержания общественной безопасности основывались на учете уважения права на неприкосновенность частной жизни и защиты персональных данных в соответствии конституционным правом на интимность, приватность и защиту изображений лиц, которые на них изображены (напр., фотографий, direitos constitucionais à intimidade, à privacidade e à proteção à imagem do titular). В этом формате приобретают значение некоторые механизмы, которые можно использовать для защиты обозначенных прав, это, например: 1) механизмы soft law (руководства и рекомендации, которые помогают регуляторам при выработке соответствующих законов); 2) реализация надзорных функций государственными органами, ответственными за проведение тех или иных мер, имеющих ограничительных или иной подобный характер; 3) внедрение стандартов, в том числе технических, устанавливаемых представителями научного и технического сообществ (по типу ISO/IEC 27001 для систем менеджмента информационной безопасности; ISO/IEC 27701 для систем управления конфиденциальной информацией и др.); 4) защита персональных данных на законодательном уровне (напр., названный выше Закон 2018 г.; 5) внедрение регуляторных песочниц (implementação de sandbox regulatório) как механизма для пилотирования, моделирования процессов новых технологий в изолированной среде, требующих изменения правового регулирования ^[12].

Как видим из сфер приложения, где ИИ мог бы найти свое применение, названы производство, общественная безопасность и публичная власть. Как важные составляющие рассматриваются образование, правовое регулирование и международный опыт, а также управление и научно-техническая и предпринимательская база; также составители Стратегии задумались о воздействии ИИ на рабочую силу.

Что получилось на выходе? По словам министра науки, технологий и инноваций Бразилии Маркоса Понтеса, Стратегия 2021 г. является «исполнением мечты» и большим шагом для Бразилии, поскольку правительство считает, что искусственный интеллект «необходим» для развития многих других технологий, таких как инновации вокруг «интернета вещей» ^[13].

При этом стратеги и военные советники часто утверждают, что милитаризация ИИ необратима ^[24]. На основе изучения степени автономии в системах вооружения еще в 2017 г. [25. P. 115] был сделан вывод о том, что автономия в них уже используется при решении широкого спектра задач, таких как поддержка идентификации целей, отслеживание, определение приоритетов и выбор целей в определенных случаях. В 2019 г. этот вывод был подтвержден в другом исследовании, касающемся изучения текущих военных разработок в области автономного оружия семи стран, имеющих наивысшие достижения в этой сфере - США, Китая, России, Великобритании, Франции, Израиля и Южной Кореи ^{[26, 50. С. 64-72]}.

Какие сферы приложения ИИ еще находит сегодня в военной сфере? Иллюстрацией послужит Таблица 1.

Табл. 1. Примеры образцов вооружений с технологиями ИИ,

разрабатываемые для Министерства обороны США (DoD)

Источник: ^[27]

Хотя список примеров вполне можно расширить в зависимости от большего или меньшего уровня автономии для каждой системы вооружений названных выше стран, большинство государств т.н. глобального Юга, в число которых входит и Бразилия, несмотря на расходы на военные нужды, по размеру которых на 2015 г., например, Бразилия занимала 11 место среди таких стран как США, Китай, Саудовская Аравия, Россия, Великобритания, Индия, Франция, Япония, Германия, Южная Корея, Италия, Австралия, ОАЭ и Израиль с ее 24,6 млрд долл., которые составили 1,4% ее ВВП [25. P. 94], далеки от какого-либо сопоставимого наращивания. Тогда как в вооруженном конфликте прорывные изменения могут очень быстро изменить соотношение сил. Здесь нужно отметить, наверное, что перед Бразилией не стоит необходимости решать такие военные задачи как перед Южной Кореей, опасающейся Кореи Северной или Индией, которой необходимо совершать оборонительные операции, связанные с развертыванием роботов-часовых или при патрулировании таких районов, как Аксай-Чин, либо в ходе обычных наступательных операций наземного базирования и операций по борьбе с повстанцами, осуществляемых роботами-солдатами (роботами-убийцами) [28. P. 671-690 ], либо ЮАР, которая, как представляется, видит экспорт производимых ею беспилотных летательных аппаратов (далее – БПЛА) перспективной сферой заработка ^[29], хотя такого рода мысль могла бы быть значимой, учитывая, что Бразилия является одним из лидеров по производству вооружения и военной техники в Латинской Америке и экспортирует ее в государств «третьего мира» [6. С. 27-29] и иные (напр., с 1971 по 2010 г. в США бразильскими производителями, скажем, филиалами компаний «Taurus» и «Amadeo Rossi», было продано 7,9 млн единиц огнестрельного оружия) ^[30].

Поэтому в ретроспективе, с одной стороны, в русле принятой политики создания совместных предприятий в военной сфере, Бразилия сотрудничала (на 2011 г., например), с Израилем в вопросе поставок стоявших в то время на вооружении Бразилии беспилотников Hermes 450 производства израильской компании Elbit Systems (URL: https://elbitsystems.com/ (дата обращения: 10.07.2021)). В то время как в совместной разработке Elbit Systems и Embraer, в работе ее совместного предприятия Harpia находился способный представлять интерес для военных и правоохранительных служб перспективный средневысотный БПЛА Harpia (рис. 2) - среднеплан, построенный по двухбалочной схеме, оснащен двигателем, расположенным в хвостовой части, и толкающим воздушным винтом. Форма носовой части фюзеляжа указывает на возможность установки на беспилотник загоризонтной антенны приемо-передатчика.

Рис. 2. Перспективный БПЛА Harpia, 2011 г.

Источник: ^[31]

На сегодня наиболее продвинутыми дронами Бразилии является триада базирующихся на военно-воздушной базе в Санта-Марии (Santa Maria Air Base) на Юге Бразилии импортируемых из Израиля ElbitHermes 900, ElbitHermes 450 иIAIHeron, из которых в 2011 г. сформирована эскадрилья «Гора» (“Horus Squadron”). Сейчас, 10 лет спустя, ВВС Бразилии и компания Embraer заключили соглашение о создании национального бразильского дрона ^[32]. Относительно Embraer стоит иметь в виду, что в апреле 2020 г. она заявила, что начала арбитражный процесс против американской Boeing Co после того, как в середине апреля 2020 г. этот американский производитель самолетов внезапно отменил сделку по покупке 80% активов бразильской компании на сумму 4,2 млрд долл., которая готовилась годы до этого, и переориентировалась в этом вопросе на Китай ^[33]. По данным на текущий период Бразилия и Elbit Systems интегрируют систему контроля и управления в вездеход Unimog 5000 (Unimog 5000 vehicle) ^[34].

Вообще же вопрос автономности беспилотных систем вооружений, в особенности, летального характера (Lethal Autonomous Weapon Systems, LAWS) является для Бразилии, как и для ряда других стран ^[35], вопросом исключительной важности. Поэтому Бразилия вместе с Австрией и Чили в 2018 г. в ходе важнейшей на сегодня многосторонней дискуссии по ИИ, миру и безопасности, состоявшейся в Женеве в рамках Группы правительственных экспертов (ГПЭ) открытого состава по новым технологиям в области LAWS (open-ended Group of Governmental Experts (GGE) on emerging technologies in the area of LAWS), официально созданной в 2017 г. в соответствии с Конвенцией о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие (Женева, 10 октября 1980 г.) (далее – Конвенция о «негуманном» оружии, КНО)^[36] рекомендовали начать переговоры по юридически обязательному документу для обеспечения значимого контроля человека над важнейшими функциями систем вооружений ^[37]. Кроме того, в ходе обсуждения возможностей конвергенции в вопросах LAWS тогда же ^[38] Бразилия представила свое следующее мнение:

“1. Дискуссии, проведенные в течение первой недели встречи ГПЭ в 2018 г. в Женеве по LAWS обеспечили повышенную ясность в отношении основных областей сближения, возникающих между государствами-членами. По мере того, как продолжаются и вызревают дебаты по вопросу о LAWS, объединяя основные позиции и позиции относительно характера связанных с этим проблем и возможных ответов на них, крайне важно определить общие элементы, которые могут быть дополнительно развиты в направлении достижения консенсуса, необходимого для принятия политических мер.

2. В прошлом году был достигнут значительный прогресс в межгосударственных дебатах по LAWS. Главная задача на данном этапе состоит в том, чтобы сосредоточиться и сконцентрировать дальнейшую работу на формирующихся широких соглашениях, упростив условия обсуждения и избежав фрагментации.

3. По мнению Бразилии, наиболее значимыми областями сближения, без ущерба для дальнейших элементов, которые необходимо определить, в настоящее время являются следующие:

а) автономия сама по себе является функцией человеческого контроля над конкретной системой: чем меньше контроля, тем больше автономии;

b) все системы вооружений должны соответствовать международному праву в целом и международному гуманитарному праву и международному праву в области прав человека, в частности, независимо от того, имеют ли они автономные функции или нет;

c) только люди и государства являются субъектами права и могут соблюдать его и нести ответственность за его нарушения поэтому подотчетность (accountability) и ответственность (responsibility) являются важнейшими элементами в будущем;

d) автономные системы вооружения могут соответствовать международному праву только до тех пор, пока они находятся под определенным контролем человека;

e) роль КНО заключается в обеспечении такого соблюдения в отношении определенных видов вооружений, соблюдение в сфере применения которых считается особенно проблематичным. Существует серьезная международная озабоченность по поводу автономных систем, применение которых было оправдано при их рассмотрении в CCW.

4. Эти общие точки соприкосновения рисуют четкую картину для продвижения вперед, при этом человеческий фактор находится в центре внимания, в том числе в качестве основы будущих правил.

5. Проблемы LAWS, которые затрагивают все международное сообщество, особенно наиболее уязвимые его части, будут только возрастать по мере быстрого развития технологий. Поэтому настоятельно необходимо сосредоточить обсуждение на создании рамок для обеспечения соответствия этих систем международному гуманитарному праву, международному праву в области прав человека, принципу гуманности и требованиям общественного сознания (public conscience). Вышеупомянутые области сближения могут стать платформой для достижения этой цели.”

Что сказать в этой связи? Всегда ли выступает против чего-тот тот, кто не может в силу физической (отсутствие сил нанести удар, например), финансовой (невосполнимая никакими способами недостаточность ресурсов и средств), психологической (приверженность строгому следованию 10 заповедям «Не убий», «Не укради», «Не прелюбодействуй» и пр.) невозможности совершить то или другое действие (ударить, убить и пр.) или в основе невозможности делать что-то лежит страх перед неизвестностью, последствиями, которые невозможно предвидеть и предусмотреть или необъяснимый, безотчетный, но панический, как у персидского царя Дария, бежавшего от Александра Македонского, ужас, который невозможно побороть?

Прежде всего, вероятно, в основе сопротивления и желания запретить то или другое лежит невозможность сделать так же, как сделал уже кто-то, самому и страх проиграть, будучи заведомо более слабым и неспособным сражаться на равных (здесь можно вспомнить рассказ «Авессалом» (“Absalom”) Г.Катнера и Кэтрин Л.Мур 1946 г. (URL: http://lib.ru/KUTTNER/absalom.txt (дата обращения: 10.07.2021)). Далее, вероятно, следует здравый смысл, предупреждающий не делать того, что ты не сможешь контролировать.

Но противостоит этим доводам желание догнать, встать на один уровень, то есть заложенное в человеке желание и конкурировать, и быть лучше, и любопытство («Сuriosity killed a cat» - англ.посл.), когда ученый «уподобляется ребенку, играющему со спичками и не понимающему, что такое пожар. А начинает понимать, что он наделал, когда его открытие у него отобрали.» ^[39]. Причины выступать против, как и поддерживать новшества могут быть разные.

Какое решение правильное? Мир существует до тех пор, пока в нем есть баланс, «Свой вклад в общество делают как оптимисты, так и пессимисты. Оптимист придумал самолёт, пессимист - парашют.» ^[40] Пусть каждый отстаивает свою точку зрения ^{[41; 42]}, а объективная реальность расставит все по своим местам.

Что касается законодательных рамок реализации развития в Бразилии БПЛА с ИИ и некоторых аспектов охраны и защиты прав интеллектуальной собственности, то страна стремится интернационализировать свои программы развития инноваций и привлекать международный бизнес не только на уровне крупных корпораций, но и на уровне стартапов (производственных, ИКТ, напр., акселерационная программа SEED Minas). Финансирование инноваций идет также напрямую от компаний: например, авиационная компания Embraer и др. создают лаборатории, зачастую объединяя несколько университетов (факультетов) для развития комплексных решений ^[43] (напр., в исследованиях лаборатории “Комфортная кабина самолета” для компании Embraer задействованы три университета штата Сан-Пауло) ^[44]. В результате, по утверждениям специалистов [45. P. 103-115], защита инноваций патентами оставалась в 2009-2018 г. практически постоянной - от 5423 (на 2009 г.) до 7505 (на 2018 г.) патентов (рис. 3).

Рис. 3. Количество патентов стран БРИКС за период 2009-2018 гг.

Источник: [45. P. 106]

Патентная защита основывается на положениях Закона № 9.279 от 14 мая 1996 г. «О промышленной собственности» ^[46] (в ред. Закона № 10.196 от 2001 г., далее – Закон 1996 г.), который с 15 мая 1997 г. является основным патентным законом страны. В числе непатентоспособных объектов согласно этому закону, в частости, объекты, противоречащие морали, добрым нравам или безопасности, публичному порядку или здравоохранению. Является ли, например, это препятствием патентованию, например, LAWS или из компонентов в Бразилии в контексте приведенных выше мнений представителей этой страны на международной арене о допустимости развития автономных систем вооружения?

Ответ на этот и другие вопросы в части развития автономных систем вооружения мы оставляем себе на перспективу.

Вместе с тем, как видно из сказанного выше искусственный интеллект лежит в основе многих новых продуктов и процессов, но из-за его алгоритмической природы возникают вопросы относительно патентоспособности его и продуктов и процессов, в основе которых он лежит (применяется).

Последние (от марта 2021 г.) Руководящие принципы Европейского патентного ведомства ^[47] (далее - ЕПВ), устанавливающие порядок патентной экспертизы проливают некоторый свет на эти вопросы, укрепляя давнюю концепцию технического подхода. Так, в п. 3.3.1 “ИИ и машинное обучение” (3.3.1 Artificial intelligence and machine learning) главы II “Изобретения” (Ch. II Inventions) говорится, что «Искусственный интеллект и машинное обучение основаны на вычислительных моделях и алгоритмах классификации, кластеризации, регрессии и уменьшения размерности, таких как нейронные сети, генетические алгоритмы, машины опорных векторов, k-средние, регрессионный анализ ядра и дискриминантный анализ. Такие вычислительные модели и алгоритмы perse имеют абстрактную математическую природу, независимо от того, могут ли они быть «обучены на основе обучающих данных (can be “trained” based on training data). Следовательно, руководство, приведенное в разделе G-II, 3.3 [“Математические методы” (3.3 Mathematical methods) – авт.] - в целом применимо также к таким вычислительным моделям и алгоритмам.»

Отметим, что в п. 3.3 говорится, что «Простого указания технического характера данных или параметров математического метода может быть недостаточно само по себе для определения изобретения по смыслу статьи 52(1).» и «Математический метод может способствовать техническому характеру изобретения, т. е. способствовать получению технического эффекта, который служит технической цели, путем его применения в области технологии и/или путем адаптации к конкретной технической реализации (T 2330/13)». То есть технический метод не признается патентоспособным.

Далее п. 3.3.1 гласит, что «Такие термины, как «машина опорных векторов», «механизм рассуждений» или «нейронная сеть», могут, в зависимости от контекста, просто относиться к абстрактным моделям или алгоритмам и, таким образом, сами по себе не обязательно подразумевают использование технических средств. Это необходимо учитывать при рассмотрении вопроса о том, имеет ли заявленный предмет технический характер в целом (статья 52(1), (2) и (3)).

Искусственный интеллект и машинное обучение находят применение в различных областях техники. Например, использование нейронной сети в устройстве для мониторинга сердца с целью выявления нерегулярного сердцебиения вносит технический вклад. Классификация цифровых изображений, видео, аудио или речевых сигналов на основе низкоуровневых признаков (например, краев или атрибутов пикселей для изображений) является еще одним типичным техническим применением алгоритмов классификации. Дополнительные примеры технических целей, для которых могут использоваться искусственный интеллект и машинное обучение, можно найти в списке в разделе G-II, 3.3.

Классификация текстовых документов исключительно в отношении их текстового содержания рассматривается, однако, не как таковая техническая цель, а как лингвистическая (T 1358/09). Классификация абстрактных записей данных или даже «записей данных телекоммуникационной сети» без каких-либо указаний на техническое использование полученной классификации также сама по себе не является технической целью, даже если алгоритм классификации можно считать обладающим ценными математическими свойствами, такими как надежность (T 1784/06).

Там, где метод классификации служит технической цели, этапы создания обучающего набора и обучение классификатора также могут способствовать техническому характеру изобретения, если они способствуют достижению этой технической цели.»

Таким образом, видно, что основная технология, лежащая в основе искусственного интеллекта, не подлежит патентованию в Европе. Однако применение ИИ, которое приводит к техническому эффекту, может иметь право на защиту.

29 декабря 2020 г. Национальный институт промышленной собственности Бразилии (Instituto Nacional da Propriedade Industrial (URL: https://www.gov.br/inpi/pt-br (дата обращения: 11.07.2021))) опубликовал пересмотренную версию ^[48] своих Руководящих принципов, устанавливающих порядок патентной экспертизы изобретений, реализованных в программном обеспечении 2014 г. ^[49] В разделе 13 говорится, что «методы искусственного интеллекта (ИИ), охватывающие машинное обучение и глубокое обучение, и другие методы, применяемые для решения технических проблем, могут считаться изобретениями» (“techniques of artificial intelligence (AI), covering machine learning and deep learning, and other techniques, when applied to the solution of technical problems, can be considered inventions”). На сегодня существует ограниченное число решений, доступных для прояснения этого вопроса. Некоторая информация, содержащаяся в Руководящих принципах, дает, по мнению бразильских специалистов ^[48], надежду на то, что практика продвигается вперед.

Однако, ЕПВ всегда был эталонным институтом для INPI, поэтому патентная практика в Бразилии в значительной степени зависит от процессов в странах Европы и Европе в целом. Несмотря на краткость, руководящие принципы INPI включают условие, в соответствии с которым методы ИИ могут считаться изобретениями, когда они «применяются для решения технических проблем» (AI techniques could be considered inventions when they are “applied to the solution of technical problems”). Это в значительной степени соответствует приведенному выше пониманию ЕПВ. Тогда как сами математические методы (п. I ст. 10) и сугубо абстрактные концепции (пп. II ст. 10) Закон 1996 г. изобретениями не признает, то есть законодатель отказывает им в патентоспособности. Получается, что основная технология, лежащая в основе ИИ, не имеет права на патентную защиту в Бразилии, запатентованы могут быть технические приложения ИИ. Будет интересно смотреть, как бразильские эксперты будут решать такие вопросы в настоящем и будущем как с технической, так и с правовой точки зрения.

Изложенное позволяет заключить следующее:

1. Согласно Стратегии развития Бразилии 2021 ИИ может найти свое применение в производстве, общественной безопасности и публичной власти с учетом обеспечения должного уровня развития таких важных составляющих как образование и квалификация рабочей силы, научно-техническая и предпринимательская базы, правовое регулирование и управление, а также с учетом международного опыта.

2. Применение ИИ в Бразилии признается свершившимся фактом в таких отраслях производства, как: логистика и доставка, финансовые и иные профессиональные (инженерные, архитектурные, юридические и адвокатские) услуги, маркетинг и реклама, сельское хозяйство и здравоохранение (виртуальные помощники и пр.) и т.д., однако при этом требуется интеграция технологического и социального контекста при использовании ИИ в производственных сетях.

3. Настоящий уровень и темпы развития инноваций в Бразилии практически не возрастают по сравнению с периодом 60-70 гг. прошлого века и настоящим периодом (с такими странами БРИКС, как Китай, Индия, Россия), вследствие чего Бразилия вышла из стран-лидеров-производителей новейшего вооружения и теперь предпринимает все возможные усилия по интернационализации своих программ развития инноваций и расширению сотрудничества в военной сфере со странами ЕС (Франция, Италия), закупает образцы БПЛА (в том числе военного назначения) у Израиля и сотрудничает с ним в научно-техническом направлении для создания своих БПЛА.

4. Технологии, лежащие в основе искусственного интеллекта и машинного обучения, - вычислительные модели, алгоритмы классификации, кластеризации, обучающие и др.- не подлежат патентованию в Бразилии (также как и в ЕС), но считаются изобретением при их применении для решения проблем технического характера - в качестве технических приложений ИИ.