On some Commutative and Idempotent Finite Groupoids Associated with Subnets of Multilayer Feedforward Neural Networks

Abstract

The work studies commutative and idempotent finite groupoids that are associated with subnetworks of multilayer feedforward neural networks (hereinafter simply neural networks). Previously, the concept of a neural network subnet was introduced. This paper introduces the concept of a generalized subnetwork of a neural network. This concept generalizes the previously introduced concept. The resulting groupoids are called additive and multiplicative groupoids of generalized subnets of a given neural network. These groupoids model the union and intersection of generalized subnets of a neural network. The conditions that the neural network architecture must satisfy in order for the additive groupoid of generalized subnets to be associative are identified. The conditions that the neural network architecture must satisfy in order for the multiplicative groupoid of generalized subnets to be associative are obtained. Subgroupoids of the constructed groupoids are studied

В работе изучаются коммутативные и идемпотентные конечные группоиды, которые связанны с подсетями многослойных нейронных сетей прямого распространения сигнала (далее, просто нейронные сети). Ранее вводилось понятие подсети нейронной сети. В данной работе вводится понятие обобщенной подсети нейронной сети. Это понятие обобщает ранее введенное понятие. Полученные группоиды получают название обобщенных подсетей заданной нейронной сети. Данные группоиды моделируют объединение и пересечение обобщенных подсетей некоторой нейронной сети. Выявлены условия, которым должна удовлетворять архитектура нейронной сети, чтобы аддитивный группоид обобщенных подсетей был ассоциативен. Получены условия, которым должна удовлетворять архитектура нейронной сети, чтобы мультипликативный группоид обобщенных подсетей был ассоциативен. Изучаются подгруппоиды построенных группоидов