Аннотация: Авторы подробно рассматривают вопросы применения отдельных технологий теории многоагентных систем в области организации дорожного движения с использованием беспилотных автотранспортных средств для борьбы с так называемыми «атаками при помощи оптических иллюзий» (или иначе — генеративно-состязательными атаками) на системы компьютерного зрения, используемые в таких автомобилях. В статье приводятся примеры генеративно-состязательных атак на нейронные сети различных типов, а также описываются проблемы и риски, которые возникают при использовании компьютерного зрения. Также приводятся возможные варианты решения описанных проблем. В качестве методологии исследования используется теория многоагентных систем в применении к автомобильному транспорту, что предполагает использование так называемого V2X-взаимодействия, то есть постоянного обмена информацией между автомобилем и различными акторами, участвующими в дорожном движении — центральной системой управления, другими автомобилями, придорожной инфраструктурой и пешеходами. Особым вкладом авторов в исследование темы является применение теории многоагентных систем для организации дорожного движения при рассмотрении его акторов в качестве агентов с различными ролями. Новизна этого заключается в применении одного из направлений искусственного интеллекта для решения проблем, полученных из-за использования других методов искусственного интеллекта (распознавания образов в компьютерном зрении). Актуальность исследования основана на постепенном широком охвате исследованиями вопросов организации беспилотного движения на полигонах и автомобильных дорогах общего пользования.

Abstract: This article meticulously examines the questions of application of certain technologies of multi-agent systems theory in the area of unmanned traffic management for combatting the so-called “generative adversarial attacks” on the computer vision systems that are used in such vehicles. The article provides examples of generative-adversarial attacks on various types of neural networks, as well as describes the problems that arise when using computer vision. Possible solutions to these problems are proposed. Research methodology includes the theory of multi-agent systems applicable to automobile transport, which suggests using the so-called V2X-interaction, i.e. constant exchange of information between the vehicle and various actors involved in road traffic – a central control system, other vehicles, roadside infrastructure and pedestrians. The authors’ special contribution to this research lies in application of the theory of multi-agent systems for traffic arrangement with consideration of its actors as the agents with diverse roles. The novelty consists in employment of one of the methods of artificial intelligence in solution of the problems, obtained due to the use of other methods of artificial intelligence (recognition of images in computer vision). The relevance of the study is based on the detailed coverage of the questions of organization of unmanned traffic on training grounds and public roads.

Аннотация: Предметом исследования является архитектура искусственных интеллектуальных систем, разработанная в рамках гибридного подхода к искусственному интеллекту. В статье предлагается авторское видение процесса построения искусственных интеллектуальных агентов на основе гибридного подхода с использованием организмических принципов. Искусственный интеллектуальный агент с гибридной схемой представляет собой «кибернетическую машину», действующую в некоторой среде и функционально взаимодействующую с ней. Интерес представляет способ взаимодействия и принятия агентом решений, в рамках которого информация из окружающей среды проходит через множество сенсоров, а потом подвергается очистке и сенсорной интеграции с дальнейшим переводом в символьный вид для принятия решений на основе символьной логики и работы универсальной машины вывода. В качестве основной методологии проведения исследования был принят системотехнический подход к анализу и построению технических систем, а также функциональный подход как дополнительный метод исследований. Новизна исследования заключается в использовании гибридной парадигмы построения искусственных интеллектуальных систем в совокупности с системотехническим и функциональным подходами при проектировании технических систем, что позволило обобщить имеющиеся данные о взаимодействии интеллектуальных агентов со средой и выявить интересные закономерности для использования при развитии систем искусственного интеллекта. Основным выводом проведённого исследования является возможность использования гибридной парадигмы для получения искусственных интеллектуальных агентов, обладающих важными плюсами восходящей и нисходящей парадигмы искусственного интеллекта — возможностью обучаться и адекватно себя вести в неизвестном окружении и способностью объяснять причины своих решений соответственно. Этот важный вывод позволит продвинуть исследования в области объяснимого искусственного интеллекта.

Abstract: The subject of research is the architecture of artificial intelligent systems, developed as part of a hybrid approach to artificial intelligence. The article offers the author’s vision of the process of constructing artificial intelligent agents based on a hybrid approach using organismic principles. An artificial intelligent agent with a hybrid scheme is a “cybernetic machine” operating in a certain environment and functionally interacting with it. Of interest is the way the agent interacts and makes decisions, in which information from the environment passes through many sensors, and then it is cleaned up and sensory integrated with further translation into a symbolic form for decision making based on symbolic logic and the operation of a universal output machine. As the main research methodology, a systems engineering approach to the analysis and construction of technical systems was adopted, as well as a functional approach as an additional research method. The novelty of the study is in the use of a hybrid paradigm for constructing artificial intelligent systems in conjunction with systems and functional approaches in the design of technical systems, which made it possible to generalize the available data on the interaction of intelligent agents with the environment and identify interesting patterns for use in the development of artificial intelligence systems. The main conclusion of the study is the possibility of using a hybrid paradigm to obtain artificial intellectual agents that have important advantages of the upward and downward artificial intelligence paradigm - the ability to learn and behave appropriately in an unknown environment and the ability to explain the reasons for their decisions, respectively. This important finding will advance research into explainable artificial intelligence.