WO2023199846A1 - システム - Google Patents

システム Download PDF

Info

Publication number
WO2023199846A1
WO2023199846A1 PCT/JP2023/014300 JP2023014300W WO2023199846A1 WO 2023199846 A1 WO2023199846 A1 WO 2023199846A1 JP 2023014300 W JP2023014300 W JP 2023014300W WO 2023199846 A1 WO2023199846 A1 WO 2023199846A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
layer
learning
agent
agents
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2023/014300
Other languages
English (en)
French (fr)
Inventor
和人 須田
裕子 石若
稔 大和田
智博 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to CN202380033774.1A priority Critical patent/CN119096254A/zh
Priority to EP23788265.9A priority patent/EP4502879B1/en
Publication of WO2023199846A1 publication Critical patent/WO2023199846A1/ja
Priority to US18/911,251 priority patent/US20250036921A1/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/092—Reinforcement learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/098—Distributed learning, e.g. federated learning

Definitions

  • the present invention relates to a system.
  • Patent Document 1 describes multi-agent reinforcement learning. [Prior art documents] [Patent document] [Patent Document 1] Japanese Patent Application Publication No. 2004-227208
  • a system may include a first layer agent of a first layer and a plurality of second layer agents of a second layer lower than the first layer, which are arranged in a network.
  • Each of the plurality of second layer agents uses the collected information to perform learning in cooperation with other second layer agents, and transmits information generated using the learning results to the first layer agent. It's fine.
  • the first layer agent may perform learning using information received from the plurality of second layer agents.
  • the system may further include a plurality of third layer agents of a third layer lower than the second layer. Each of the plurality of third layer agents executes learning in cooperation with other third layer agents using the collected information, and the information generated using the learning results is transmitted to the plurality of second layer agents.
  • Each of the plurality of third layer agents learns in cooperation with the other plurality of third layer agents using a third information collection unit that collects information and the information collected by the third information collection unit. and a third information transmitting unit that transmits information generated using the learning results by the third learning executing unit to at least one of the plurality of second layer agents. good.
  • Each of the plurality of second layer agents includes a second information collection unit that collects information from the plurality of third layer agents, and uses the information collected by the second information collection unit to collect information from the other plurality of third layer agents.
  • the first layer agent includes a first information collection section that collects information from the plurality of second layer agents, and a first learning execution section that executes learning using the information collected by the first information collection section. may have.
  • the first layer agent may be placed in a first NW layer of a hierarchical network, and the plurality of second layer agents may be placed in a second NW layer lower than the first NW layer of the layered network.
  • the plurality of third layer agents may be placed in a third network layer lower than the second network layer of the hierarchical network.
  • the hierarchical network may be a cloud network, the first NW tier may be configured by cloud computing, the second NW tier may be configured by a plurality of fog computing, and the third NW tier may be configured by cloud computing. , may be configured by multiple edge computing systems.
  • the hierarchical network may be a cloud network, the first NW tier may be configured by cloud computing, the second NW tier may be configured by a plurality of fog computing, and the third NW tier may be configured by cloud computing.
  • the third information collection unit may collect information from a plurality of IoT (Internet of Things) devices by mobile communication, and the third information transmission unit may be configured by a plurality of edge computing units.
  • At least one of the plurality of second layer agents selects information selected from the information collected by the third information collecting unit or information generated using the learning results.
  • the second information collecting unit may collect the information transmitted by the third information transmitting unit, and the second information transmitting unit may use the learning result by the second learning execution unit. Then, information selected from the information collected by the second information collection unit or information generated using the learning result may be transmitted to the first layer agent.
  • each of the plurality of third layer agents includes a third processing execution unit that executes a process on the information collected by the third information collection unit using learning results by the third learning execution unit. may have.
  • the third processing execution unit may generate information to be sent to at least one of the plurality of second layer agents using the plurality of pieces of information collected by the third information collection unit.
  • the third processing execution unit may generate transmission information including information selected from a plurality of pieces of information collected by the third information collection unit, using a learning result by the third learning execution unit.
  • the third processing execution unit may generate summary information that summarizes a plurality of pieces of information collected by the third information collection unit, using a learning result by the third learning execution unit.
  • the third information transmitting unit may transmit the information generated by the third processing execution unit to at least one of the plurality of second layer agents.
  • each of the plurality of second layer agents includes a second processing execution unit that executes processing on the information collected by the second information collection unit using learning results by the second learning execution unit. may have.
  • the second processing execution unit may generate information to be sent to the first layer agent using a plurality of pieces of information collected by the second information collection unit.
  • the second processing execution unit may generate transmission information including information selected from a plurality of pieces of information collected by the second information collection unit, using a learning result by the second learning execution unit.
  • the second processing execution unit may generate summary information that summarizes a plurality of pieces of information collected by the second information collection unit, using the learning result by the second learning execution unit.
  • the second information transmitting unit may transmit the information generated by the second processing execution unit to the first layer agent.
  • the first layer agent includes a first processing execution unit that executes processing on information collected by the first information collection unit using learning results by the first learning execution unit. good.
  • the first processing execution unit may use the learning result by the first learning execution unit to execute processing aimed at stabilizing the entire network to which the system is applied.
  • the first processing execution unit is configured to analyze at least one of the plurality of second tier agents or at least one of the plurality of third tier agents based on the result of analyzing the information collected by the first information collection unit. You may also generate instruction information for.
  • the first processing execution unit instructs at least one of the plurality of third layer agents to send information to at least one of the plurality of second layer agents out of the information collected from the IoT device.
  • Instruction information may be generated.
  • the first processing execution unit generates instruction information that instructs at least one of the plurality of second-tier agents to process the information collected from at least one of the plurality of second-tier agents. good.
  • the first processing execution unit may generate learning information to be transmitted to at least one of the plurality of third layer agents based on a result of analyzing the information collected by the first information collection unit.
  • the first processing execution unit may generate learning information to be transmitted to at least one of the plurality of second layer agents based on a result of analyzing the information collected by the first information collection unit.
  • the first processing execution unit may generate learning information including a reward set in accordance with a change in tendency of the information collected by the first information collection unit.
  • the plurality of third layer agents perform analysis that requires more real-time performance, and the first layer agent: Analyzing trends over a fairly long period of time, the plurality of second layer agents may perform a corresponding analysis during that period.
  • the plurality of third-tier agents collect image data and object detection data from a plurality of IoT devices placed in the area.
  • third-tier agents in charge of geographically adjacent subareas execute learning to detect the occurrence of accidents while sharing information, and the third-tier agents use the learning results to , detects the occurrence of an accident, and a plurality of second-tier agents are assigned to a group of subareas, collect information from third-tier agents that collect information from IoT devices in the subareas of the group, and The second layer agents perform learning to predict the occurrence of accidents by cooperating with each other, the second layer agents predict the occurrence of accidents using the learning results, and the first layer agents Based on the prediction result by the second layer agent, learning for controlling the overall information may be performed.
  • the first layer agent increases the amount of information collected and increases the types of information for subareas where accidents are expected to occur, and reduces the amount of information collected for other subareas, and increases the types of information collected. Control may be performed to reduce the number of types.
  • the third layer agent may route the message. It's fine.
  • the third layer agent may cooperate with other third layer agents to perform learning to control Topic, To (including Copy), and division of messages from publishers. Using the learning results, the third layer agent cooperates with other third layer agents to generate Topic, determine To, and send the message so that the message from the publisher reaches the appropriate subscriber. May control replication, message splitting, etc.
  • the second layer agent monitors the routing by the third layer agent based on the information collected from the third layer agent, and performs learning so that it can perform processing to resolve problems that occur in the routing. good.
  • the second layer agent buffers the message when there is a message with the same To with an unknown destination, and sends a part of the buffered message to the network when the amount of buffering exceeds a threshold. As a result, if the message comes back again, it will be buffered for a certain period of time until the message arrives, and when the message starts to arrive, it will send the message with the same To among the buffered messages. You may begin.
  • the first layer agent may perform learning to detect problems in the network using information collected from the second layer agent. When the first layer agent detects a problem in the network using the learning results, it may notify the network operator of the detection results or output an instruction to change the configuration of the network.
  • each of the multiple third-tier agents is installed in a vehicle located in each region divided into multiple regions.
  • Information may be collected from IoT devices installed in traffic lights, IoT devices installed in traffic lights, etc., and IoT devices installed on roads, etc.
  • the third layer agent collects vehicle location information, images captured by vehicle cameras and street cameras, vehicle detection information and human detection information detected by road sensors, vehicles detected by vehicle sensors, etc. At least one of the following information may be collected: distance between vehicles, weather information in the area, vehicle navigation information, and vehicle travel speed.
  • the third layer agent is in charge of a certain area, collects information from the IoT device installed in the vehicle from the time a vehicle enters the area, and collects information from the IoT device installed in the vehicle when the vehicle leaves the area. In some cases, the third layer agent in charge of the area where the vehicle enters may take over the collection of information.
  • the third layer lower agent shares information with other third layer agents to detect whether the distance between vehicles is shorter than a threshold or a danger such as a vehicle colliding with a person. good. When the third layer agent detects danger, it may transmit danger detection information to the target vehicle.
  • the second tier agent may instruct the third tier agent what information to communicate.
  • the second layer agent analyzes (learns) important information (many people, many cars, etc.) based on the information (day of the week, time, etc.) collected from the third layer agent in the past, and prioritizes collection. It may be possible to make it possible to determine information with a high degree of accuracy.
  • the second layer agent may instruct the third layer agent to collect high priority information for each period.
  • the second layer agent may be able to identify high priority information with high accuracy by learning in cooperation with other second layer agents. As a result of the learning, the second layer agent instructs the vehicle detection results to have a higher priority so that information can be collected on weekday mornings, and to increase the priority for the human detection results during the afternoon on holidays. It may be possible to provide instructions so that information can be collected.
  • the first tier agent may perform a broader range of analysis.
  • the first layer agent performs prediction several steps ahead (at a set time) based on traffic information (traffic volume, time of day, day of the week, event, weather) for the area in charge (city, prefecture, country), and Information may be provided to second-tier agents.
  • traffic information traffic volume, time of day, day of the week, event, weather
  • Information may be provided to second-tier agents.
  • An example of a network 100 to which an autonomous decentralized system is applied is schematically shown.
  • An example of a cloud network 300, which is an example of the network 100, is schematically shown.
  • An example of an autonomous decentralized system 200 is schematically shown.
  • An example of the functional configuration of the lower-level agent 230 is schematically shown.
  • An example of the functional configuration of the intermediate agent 220 is schematically shown.
  • An example of the functional configuration of the upper agent 210 is schematically shown.
  • Another example of the autonomous decentralized system 200 is schematically shown.
  • An example of the hardware configuration of a computer 1200 that implements an upper agent 210, an intermediate agent 220, or a lower agent 230 is schematically shown.
  • An autonomous decentralized system which is one type of multi-agent system, is known.
  • each of the multiple agents aims to independently learn autonomously and acquire cooperative behavior.
  • a state in which each agent is exactly the same (structure and parameters) is called homogeneous, and a state in which each agent becomes different from homogeneous (heterogenious) is called functional differentiation.
  • an autonomous distributed system there is a target and multiple hunters, and the multiple hunters learn how to capture the target. In other words, multiple hunter agents learn their own roles and cooperate to capture the target. There are examples like the catch-and-trace problem.
  • an autonomous distributed system a group of agents with the same performance (homo) differentiates in function through learning, and each agent comes to have a role (hetero). For example, in the tracking problem, agents are divided into agents that chase straight and agents that go around. By using such technology, for example, it is possible to autonomously perform learning that adapts to the environment using the same algorithm, or to perform autonomous and distributed learning using multi-agents.
  • an autonomous decentralized system is applied to the network.
  • FIG. 1 schematically shows an example of a communication network 100 to which an autonomous decentralized system is applied.
  • Communication network 100 is a hierarchical network.
  • the communication network 100 is composed of an upper computing 110, multiple intermediate computing 120, and multiple lower computing 130.
  • the upper computing 110 constitutes a first NW (NetWork) tier
  • the plurality of intermediate computing 120 constitutes a second NW tier lower than the first NW tier
  • the plurality of lower computing 130 constitutes a second NW tier lower than the second NW tier.
  • a lower third NW layer is also configured.
  • the communication network 100 to which the autonomous decentralized system is applied may be any communication network as long as it has a hierarchical structure.
  • communication network 100 is a cloud network.
  • FIG. 2 schematically shows an example of a cloud network 300, which is an example of the communication network 100.
  • the cloud network 300 is configured by cloud computing 310, multiple fog computing units 320, and multiple edge computing units 330.
  • Cloud computing 310 may be an example of upper level computing 110.
  • Fog computing 320 may be an example of intermediate computing 120.
  • Edge computing 330 may be an example of lower level computing 130.
  • the first NW tier is configured by cloud computing 310
  • the second NW tier is configured by multiple fog computing 320
  • the third NW tier is configured by multiple edge computing 330.
  • Each of the plurality of edge computing devices 330 communicates with one or more IoT devices 400 via a mobile communication system.
  • Each of the plurality of IoT devices 400 may transmit information to at least one of the plurality of edge computing devices 330 via a wireless base station, a Wi-Fi (registered trademark) access point, or the like.
  • the IoT device 400 may be any device as long as it can acquire and transmit some information.
  • the IoT device 400 includes, for example, various sensors. Examples of information transmitted by the IoT device 400 include image data (still images, moving images), sound data, infrared data, position data, object detection data, distance data, weather data, temperature data, humidity data, etc. This is just an example, and any information may be used.
  • the mobile communication system is, for example, a 5G (5th Generation) communication system.
  • the mobile communication system may be an LTE (Long Term Evolution) communication system.
  • the mobile communication system may be a 3G (3rd Generation) communication system.
  • the mobile communication system may be a 6G (6th Generation) communication system or later.
  • FIG. 3 schematically shows an example of an autonomous decentralized system 200.
  • the autonomous decentralized system 200 is composed of a plurality of agents having a hierarchical structure.
  • the autonomous decentralized system 200 includes a higher-level agent 210, multiple intermediate agents 220, and multiple lower-level agents 230.
  • the autonomous decentralized system 200 is applied to the communication network 100.
  • the upper level agent 210 is located at the upper level computing 110
  • each of the multiple intermediate agents 220 is located at each of the multiple intermediate computing 120
  • each of the multiple lower level agents 230 is located at each of the multiple lower level computing 110. 130 respectively.
  • a plurality of intermediate agents 220 may be arranged for one intermediate computing 120.
  • a plurality of lower-level agents 230 may be placed in one lower-level computing 130.
  • FIG. 2 illustrates a case where the autonomous decentralized system 200 is configured with three layers, the present invention is not limited to this.
  • the autonomous decentralized system 200 may have two hierarchies, or may have four or more hierarchies.
  • the autonomous decentralized system 200 may include a higher level agent 210 and a plurality of lower level agents 230.
  • the upper agent 210 may be an example of a first tier agent of the first tier
  • the lower agent 230 may be an example of a plurality of second tier agents of the second tier.
  • the upper level agent 210 is placed in the higher level computing 110
  • each of the plurality of lower level agents 230 is placed in each of the plurality of lower level computing 130.
  • the upper level agent 210 is placed in one of the plurality of intermediate computing units 120, and the plurality of lower level agents 230 are arranged in each of the plurality of lower level computing units 130.
  • the communication network 100 may be configured with two layers without including the plurality of intermediate computing devices 120.
  • the autonomous decentralized system 200 is applied to a cloud network 300, for example.
  • the upper level agent 210 is placed in a cloud computing 310
  • each of the plurality of intermediate agents 220 is placed in each of the plurality of fog computing 320
  • each of the plurality of lower level agents 230 is placed in each of the plurality of edge computing 330 respectively.
  • Multiple intermediate agents 220 may be deployed for one fog computing 320.
  • a plurality of lower-level agents 230 may be placed in one edge computing 330.
  • the upper agent 210 is placed in the cloud computing 310, and each of the plurality of lower agents 230 is placed in each of the plurality of edge computing 330. Further, for example, the upper level agent 210 is placed in one of the plurality of fog computing units 320, and the plurality of lower level agents 230 are placed in each of the plurality of edge computing units 330. Note that in this case, the cloud network 300 may be configured with two layers without including the plurality of fog computing devices 320.
  • the lower agent 230 collects information.
  • Lower agent 230 collects information sent by IoT device 400, for example.
  • the lower-level agent 230 may collect information from the IoT device 400 through mobile communication.
  • Lower level agent 230 may collect information sent by any device other than IoT device 400.
  • the lower-level agent 230 may collect information from any device other than the IoT device 400 through mobile communication.
  • the lower-level agent 230 uses the collected information to perform learning in cooperation with other lower-level agents 230.
  • the lower agent 230 may perform learning according to pre-registered rewards.
  • the lower agent 230 may perform learning according to knowledge registered in advance.
  • the lower agent 230 may perform various processes using the learning results. For example, the lower-level agent 230 uses the learning results to select information to be transmitted to the intermediate agent 220 from among the plurality of pieces of collected information, and transmits the selected information to the intermediate agent 220.
  • the lower agent 230 uses the learning results to generate summary information that summarizes a plurality of pieces of collected information and sends it to the intermediate agent 220.
  • the lower agent 230 collects it from the IoT devices 400 and sends it to the intermediate agent 222 or The usefulness of the information sent to the higher-level agent 210 is registered as a reward.
  • Each of the plurality of lower-level agents 230 autonomously advances learning while cooperating with other lower-level agents 230 to maximize the reward.
  • the plurality of lower-level agents 230 collect information from one or more different IoT devices 400, and each selects information to be sent to the upper layer from the collected information or sends the collected information to the upper layer based on different criteria.
  • a system can be constructed such that summary information is generated, and only information that is highly useful overall is transmitted to upper layers.
  • the lower agent 230 may execute processing with relatively high real-time performance.
  • the lower-level agent 230 uses the learning results to perform selection processing or summarize information collected from one or more IoT devices 400 at predetermined intervals such as 1 minute and 3 minutes. Performs information generation processing and sends the information to the upper layer. This makes it possible to adjust the information sent to the upper layer in real time.
  • a plurality of lower-level agents 230 placed in an edge computing 330 that handles information that includes images during the day and infrared data at night
  • many lower-level agents 230 handle images during the day and infrared data at night. Becomes in charge of.
  • the lower-level agent 230 can dynamically adapt to the environment, for example, the IoT device 400 to be collected may be changed, or the type of information collected by the IoT device 400 to be collected may be changed. However, it is still applicable. In this way, the lower agent 230 may execute processing in real time, but may also transmit statistical information or summary information with a time delay. Lower agent 230 may be able to intentionally insert a delay.
  • the intermediate agent 220 collects information.
  • Intermediate agent 220 may collect information from subordinate agents 230.
  • the intermediate agent 220 collects from the lower agent 230 the information that the lower agent 230 has collected from the IoT device 400.
  • the intermediate agent 220 collects from the lower-level agent 230 information selected by the lower-level agent 230 from among the plurality of pieces of information that the lower-level agent 230 has collected from the IoT device 400 .
  • the intermediate agent 220 collects from the lower agent 230 summary information that is a compilation of multiple pieces of information that the lower agent 230 has collected from the IoT device 400 .
  • the intermediate agent 220 uses the collected information to perform learning in cooperation with other intermediate agents 220.
  • the intermediate agent 220 may perform various processes using the learning results. For example, the intermediate agent 220 uses the learning results to select information to be transmitted to the intermediate agent 220 from among the plurality of pieces of information collected, and transmits the selected information to the upper agent 210. For example, the intermediate agent 220 uses the learning results to generate summary information that summarizes a plurality of pieces of collected information and sends it to the upper agent 210.
  • the intermediate agent 220 may execute processing with lower real-time performance than the lower-level agent 230.
  • the intermediate agent 220 performs processing using information collected from one or more lower-level agents 230 at predetermined intervals, such as one hour and one day.
  • the intermediate agent 220 performs learning using information for a predetermined period.
  • the intermediate agent 220 cooperates with other intermediate agents 220 to adjust the amount of information sent from the multiple lower-level agents 230 to the upper layer, and to adjust the amount of information transmitted from the multiple intermediate agents 220 to the higher-level agent 210. You may adjust the amount.
  • the intermediate agent 220 may perform learning or processing that ensures robustness in the autonomous decentralized system 200.
  • the intermediate agent 220 may play the role of Spinal Cord in the autonomous decentralized system 200.
  • the upper level agent 210 collects information.
  • Upper level agent 210 may collect information from intermediate agents 220.
  • the upper agent 210 collects from the lower agent 230 the information collected from the intermediate agent 220 and from the lower agent 230 .
  • the upper agent 210 collects from the intermediate agent 220 information selected by the intermediate agent 220 from among the plurality of pieces of information that the intermediate agent 220 has collected from the lower agent 230 .
  • the upper agent 210 collects summary information from the intermediate agent 220, which is a compilation of multiple pieces of information that the intermediate agent 220 has collected from the lower agents 230.
  • Upper level agents 210 may collect information from lower level agents 230.
  • the upper agent 210 executes processing using the collected information.
  • the upper agent 210 performs learning using the collected information, for example.
  • the upper agent 210 executes various processes using the learning results, for example.
  • the upper agent 210 may execute processing with lower real-time performance than the intermediate agent 220.
  • the upper level agent 210 executes processing using the collected information every predetermined period such as one week, one month, and one year.
  • the upper agent 210 performs learning using information for a predetermined period, for example.
  • the upper level agent 210 may execute processing aimed at stabilizing the entire autonomous decentralized system 200. For example, the upper level agent 210 may perform factor analysis of the overall communication load of the communication network 100 and the cloud network 300 based on the collected information. The upper agent 210 identifies the location where the communication load on the network is increasing depending on the content of the collected information and the information collection status, and reduces the communication load by, for example, the IoT device 400, the lower agent 230, The amount of information sent by intermediate agent 220 may be adjusted and the propagation path may be adjusted.
  • the autonomous decentralized system 200 by applying the autonomous decentralized system 200 according to this embodiment to a network, processing can be layered. According to the autonomous decentralized system 200, for example, while the low-level agents 230 execute highly real-time processing, only useful information is transmitted to the upper layer, and the intermediate agents 220 use the carefully selected information to perform further processing.
  • the information is further narrowed down, and the upper level agent 210 performs information processing over a wider span using even more carefully selected information, and the entire network is stabilized. It can contribute to building an environment that can handle large amounts of information appropriately.
  • FIG. 4 schematically shows an example of the functional configuration of the lower agent 230.
  • the lower agent 230 includes a storage section 231 , a registration section 232 , an information collection section 233 , a learning execution section 234 , a processing execution section 235 , and an information transmission section 236 .
  • the registration unit 232 performs various registrations.
  • the registration unit 232 registers, for example, learning information used by the lower agent 230 for learning.
  • the registration unit 232 stores the registered learning information in the storage unit 231.
  • the learning information may include a reward.
  • the learning information may include knowledge.
  • the registration unit 232 registers learning information by accepting input from, for example, an operator of the autonomous decentralized system 200.
  • the registration unit 232 registers learning information received from the upper agent 210, for example.
  • the registration unit 232 registers learning information received from the intermediate agent 220, for example.
  • the registration unit 232 may be an example of a third registration unit.
  • the information collection unit 233 collects information.
  • the information collection unit 233 may collect information transmitted by any device.
  • the information collection unit 233 collects information transmitted by the IoT device 400, for example.
  • the information collection unit 233 may collect information from the IoT device 400 through mobile communication.
  • the information collection unit 233 stores the collected information in the storage unit 231.
  • the information collection unit 233 may be an example of a third information collection unit.
  • the learning execution unit 234 executes learning using the information collected by the information collection unit 233.
  • the learning execution unit 234 may execute learning in cooperation with other lower-level agents 230 using the information collected by the information collection unit 233.
  • the learning execution unit 234 stores the learning results in the storage unit 231.
  • the learning result may include a model generated by learning by the learning execution unit 234.
  • the learning result may include a neural network generated by learning by the learning execution unit 234.
  • the learning execution unit 234 may be an example of a third learning execution unit.
  • the learning execution unit 234 may use any learning method. For example, the learning execution unit 234 first executes pre-training by simulation, and updates the model, neural network, etc. based on the information collected by the information collection unit 233. Actual data collected by the information collection unit 233 in the past may be used for preliminary learning. Synthetic data may be used for pre-learning. If the environment does not allow trial and error in learning, it is effective to perform rule-based learning instead of reinforcement learning and learn only its parameters.
  • the learning method may be ANN (Artificial Neural Network), DNN (Deep Neural Network), heuristics, or the like.
  • the process execution unit 235 executes various processes.
  • the processing execution unit 235 may use the learning results obtained by the learning execution unit 234 to execute processing on the information collected by the information collection unit 233.
  • the processing execution unit 235 may generate information to be sent to the intermediate agent 220 using a plurality of pieces of information collected by the information collection unit 233.
  • the processing execution unit 235 uses the learning results by the learning execution unit 234 to generate transmission information that includes information selected from the plurality of pieces of information collected by the information collection unit 233.
  • the processing execution unit 235 uses the learning result by the learning execution unit 234 to generate summary information that summarizes a plurality of pieces of information collected by the information collection unit 233.
  • the processing execution unit 235 may be an example of a third processing execution unit.
  • the information transmitter 236 transmits information.
  • the information transmitter 236 transmits the information collected by the information collector 233 to the intermediate agent 220.
  • the information transmitting unit 236 transmits the information generated by the processing execution unit 235 to the intermediate agent 220.
  • the information transmitter 236 may be an example of a third information transmitter.
  • FIG. 5 schematically shows an example of the functional configuration of the intermediate agent 220.
  • the intermediate agent 220 includes a storage section 221 , a registration section 222 , an information collection section 223 , a learning execution section 224 , a processing execution section 225 , and an information transmission section 226 .
  • the registration unit 222 performs various registrations.
  • the registration unit 222 registers learning information used for learning by the intermediate agent 220, for example.
  • the registration unit 222 stores the registered learning information in the storage unit 221.
  • the learning information may include a reward.
  • the learning information may include knowledge.
  • the registration unit 222 registers learning information by accepting input from, for example, an operator of the autonomous decentralized system 200.
  • the registration unit 222 registers learning information received from the higher-level agent 210, for example.
  • the registration unit 222 may be an example of a second registration unit.
  • the information collection unit 223 collects information.
  • the information collection unit 223 may collect information from the lower-level agents 230.
  • the information collecting unit 223 collects, for example, information transmitted by the information transmitting unit 236 of the lower-level agent 230.
  • the information collection unit 223 stores the collected information in the storage unit 221.
  • the information collection unit 223 may be an example of a second information collection unit.
  • the learning execution unit 224 executes learning using the information collected by the information collection unit 223.
  • the learning execution unit 224 may execute learning in cooperation with other intermediate agents 220 using the information collected by the information collection unit 223.
  • the learning execution unit 224 stores the learning results in the storage unit 221.
  • the learning results may include a model generated by learning by the learning execution unit 224.
  • the learning result may include a neural network generated by learning by the learning execution unit 224.
  • the learning execution unit 224 may be an example of a second learning execution unit.
  • the learning execution unit 224 may use any learning method. For example, the learning execution unit 224 first performs preliminary learning by simulation, and updates the model, neural network, etc. using information collected by the information collection unit 223. Actual data collected by the information collection unit 223 in the past may be used for preliminary learning. Synthetic data may be used for pre-learning. If the environment does not allow trial and error in learning, it is effective to perform rule-based learning instead of reinforcement learning and learn only its parameters.
  • the learning method may be ANN, DNN, heuristics, or the like.
  • the process execution unit 225 executes various processes.
  • the processing execution unit 225 may use the learning results obtained by the learning execution unit 224 to execute processing on the information collected by the information collection unit 223.
  • the processing execution unit 225 may generate information to be sent to the higher-level agent 210 using a plurality of pieces of information collected by the information collection unit 223.
  • the processing execution unit 225 uses the learning results by the learning execution unit 224 to generate transmission information that includes information selected from the plurality of pieces of information collected by the information collection unit 223.
  • the processing execution unit 225 uses the learning result by the learning execution unit 224 to generate summary information that summarizes a plurality of pieces of information collected by the information collection unit 223.
  • the processing execution unit 225 may be an example of a second processing execution unit.
  • the information transmitting unit 226 transmits information.
  • the information transmitter 226 transmits the information collected by the information collector 223 to the higher-level agent 210.
  • the information transmitting unit 226 transmits the information generated by the processing execution unit 225 to the higher-level agent 210.
  • the information transmitter 226 may be an example of a second information transmitter.
  • FIG. 6 schematically shows an example of the functional configuration of the upper agent 210.
  • the upper agent 210 includes a storage section 211 , a registration section 212 , an information collection section 213 , a learning execution section 214 , a processing execution section 215 , and an information transmission section 216 .
  • the registration unit 212 performs various registrations.
  • the registration unit 212 registers learning information used for learning by the upper agent 210, for example.
  • the registration unit 212 stores the registered learning information in the storage unit 211.
  • the learning information may include a reward.
  • the learning information may include knowledge.
  • the registration unit 212 registers learning information by accepting input from, for example, an operator of the autonomous decentralized system 200.
  • the registration unit 212 may be an example of a first registration unit.
  • the information collection unit 213 collects information.
  • the information collection unit 213 may collect information from the intermediate agent 220.
  • the information collecting unit 213 collects information transmitted by the information transmitting unit 226 of the intermediate agent 220, for example.
  • the information collection unit 213 stores the collected information in the storage unit 211.
  • the information collection unit 213 may be an example of a first information collection unit.
  • the learning execution unit 214 executes learning using the information collected by the information collection unit 213.
  • the learning execution unit 214 may be an example of a first learning execution unit.
  • the learning execution unit 214 may execute learning in cooperation with a plurality of intermediate agents 220 using the information collected by the information collection unit 213.
  • the learning execution unit 214 may execute learning in cooperation with the plurality of lower-level agents 230 using the information collected by the information collection unit 213.
  • the learning execution unit 214 may execute learning in cooperation with the plurality of intermediate agents 220 and the plurality of lower-level agents 230 using the information collected by the information collection unit 213.
  • the learning execution unit 214 stores the learning results in the storage unit 211.
  • the learning result may include a model generated by learning by the learning execution unit 214.
  • the learning result may include a neural network generated by learning by the learning execution unit 214.
  • the learning execution unit 214 may be an example of a first learning execution unit.
  • the learning execution unit 214 may use any learning method. For example, the learning execution unit 214 first performs preliminary learning by simulation, and updates the model, neural network, etc. using information collected by the information collection unit 213. Actual data collected by the information collection unit 213 in the past may be used for preliminary learning. Synthetic data may be used for pre-learning. If the environment does not allow trial and error in learning, it is effective to perform rule-based learning instead of reinforcement learning and learn only its parameters.
  • the learning method may be ANN, DNN, heuristics, or the like.
  • the process execution unit 215 executes various processes.
  • the processing execution unit 215 may be an example of a first processing execution unit.
  • the processing execution unit 215 may use the learning results obtained by the learning execution unit 214 to execute processing on the information collected by the information collection unit 213.
  • the processing execution unit 215 may use the learning results obtained by the learning execution unit 214 to execute processing aimed at stabilizing the entire network to which the autonomous decentralized system 200 is applied.
  • the processing execution unit 215 may generate instruction information for the intermediate agent 220 or the lower-level agent 230 based on the result of analyzing the information collected by the information collection unit 213. For example, the processing execution unit 215 generates instruction information that instructs the lower-level agent 230 to send information to the intermediate agent 220 from among the information collected from the IoT device 400. For example, the processing execution unit 215 generates instruction information that instructs the intermediate agent 220 to process the information collected from the intermediate agent 220.
  • the processing execution unit 215 may generate learning information to be sent to the lower agent 230 based on the results of analyzing the information collected by the information collection unit 213.
  • the processing execution unit 215 may generate learning information to be sent to the intermediate agent 220 based on the result of analyzing the information collected by the information collection unit 213. For example, the processing execution unit 215 generates learning information including a reward set according to a change in the trend of the information collected by the information collection unit 213.
  • the information transmitter 216 transmits information. For example, the information transmitting unit 216 transmits the instruction information generated by the processing execution unit 215 to the lower agent 230. For example, the information transmitting unit 216 transmits instruction information generated by the processing execution unit 215 to the intermediate agent 220.
  • the information transmitting unit 216 transmits the learning information generated by the processing execution unit 215 to the lower agent 230.
  • the information transmitting unit 216 transmits the learning information generated by the processing execution unit 215 to the intermediate agent 220.
  • the lower-level agent 230 will perform analysis that requires more real-time performance, and the higher-level agent 210 will perform analysis that requires more real-time performance. Analyzing trends over long periods of time, intermediate agent 220 performs the corresponding analysis during that time.
  • multiple lower-level agents 230 collect image data, object detection data, etc. from multiple IoT devices 400 placed in the area. do.
  • the area is divided into a plurality of subareas, and each of the plurality of lower-level agents 230 collects information from the IoT device 400 placed in each of the plurality of subareas.
  • a plurality of lower-level agents 230 in charge of geographically adjacent subareas execute learning for detecting the occurrence of an accident while sharing information.
  • the lower agent 230 may use the learning results to detect the occurrence of an accident.
  • a plurality of intermediate agents 220 are also assigned to a group of subareas to collect information from lower level agents 230 that collect information from IoT devices 400 in subareas of the group.
  • the plurality of intermediate agents 220 perform learning to predict the occurrence of an accident by cooperating with each other.
  • Intermediate agent 220 may use the learning results to predict the occurrence of an accident.
  • the upper agent 210 performs learning for controlling overall information, for example, based on the prediction results of the plurality of intermediate agents 220.
  • the upper level agent 210 may increase the amount of information collected or increase the types of information for subareas where accidents are expected to occur, and reduce the amount of information collected for other subareas. , perform control such as reducing the types of information.
  • the lower-level agent 230 will route the message. implement.
  • the lower-level agent 230 cooperates with other lower-level agents 230 to perform learning to control Topic, To (including Copy), and division of messages from the publisher. Using the learning results, the lower-level agent 230 cooperates with other lower-level agents 230 to generate a topic, determine To, duplicate the message, and send the message so that the message from the publisher reaches the appropriate subscriber. Control splitting, etc.
  • the intermediate agent 220 monitors the routing by the lower agent 230 using information collected from the lower agent 230, and performs learning so that it can perform processing to resolve problems that occur in the routing. For example, the intermediate agent 220 buffers the message when there is a message with the same To whose destination is unknown, and sends a part of the buffered message to the network when the amount of buffering exceeds a threshold. Release. As a result, if it comes back again, it will be buffered for a certain period of time until it can be delivered. Then, when messages start to arrive, transmission of messages with the same To among the buffered messages is started.
  • the upper agent 210 performs learning to detect problems in the network using information collected from the intermediate agent 220.
  • the higher-level agent 210 detects a problem in the network using the learning results, it notifies the network operator of the detection result or outputs an instruction to change the network configuration.
  • each of the plurality of lower-level agents 230 may be assigned to a vehicle located within each region divided into a plurality of regions.
  • Information is collected from the IoT devices 400 installed, the IoT devices 400 installed in traffic lights, etc., the IoT devices 400 installed on roads, etc.
  • the lower-level agent 230 may collect vehicle location information, images captured by a vehicle camera or street camera, vehicle detection information or human detection information detected by a road sensor, information detected by a vehicle sensor, etc.
  • the system collects information such as the distance between vehicles, local weather information, vehicle navigation information, and vehicle speed.
  • the lower agent 230 will be in charge of a certain area, and will collect information from the IoT device 400 installed in the vehicle from the time a certain vehicle enters the area, and When exiting the vehicle, information collection is handed over to the subordinate agent 230 in charge of the area into which the vehicle enters.
  • the lower-level agent 230 shares information with other lower-level agents 230 to detect that the distance between vehicles is shorter than a threshold, or that the vehicle is in danger of colliding with a person or the like.
  • the lower agent 230 detects danger, it transmits danger detection information to the target vehicle.
  • the vehicle warns the driver or stops driving.
  • the intermediate agent 220 instructs the lower-level agent 230 what information to communicate.
  • the intermediate agent 220 analyzes (learns) important information (many people, many cars, etc.) based on information (day of the week, time, etc.) collected from the lower agent 230 in the past, and determines the collection priority. Make it possible to judge high-level information. Then, the intermediate agent 220 issues instructions to the lower agent 230 so that high priority information can be collected for each period.
  • the intermediate agent 220 can identify high-priority information with high accuracy.
  • the intermediate agent 220 instructs to prioritize vehicle detection results so that information can be collected in the morning on weekdays, and to prioritize human detection results in the afternoon on holidays. The system will now instruct users to collect information.
  • the higher level agent 210 performs a broader range of analysis, for example.
  • the upper level agent 210 performs prediction several steps ahead (at a set time) based on traffic information (traffic volume, time of day, day of the week, event, weather) for the area in charge (city, prefecture, country), and Provide information to 220.
  • traffic information traffic volume, time of day, day of the week, event, weather
  • area in charge city, prefecture, country
  • FIG. 7 schematically shows another example of the autonomous decentralized system 200.
  • the autonomous decentralized system 200 may further include a switch agent 250.
  • Switch agent 250 may control the amount of information flowing through communication network 100. For example, when message routing is controlled by upper level agent 210, intermediate agent 220, and lower level agent 230, switch agent 250 performs communication traffic control.
  • FIG. 8 schematically shows an example of the hardware configuration of a computer 1200 that implements the upper agent 210, intermediate agent 220, or lower agent 230.
  • the program installed on the computer 1200 causes the computer 1200 to function as one or more "parts" of the apparatus according to the present embodiment, or causes the computer 1200 to perform operations associated with the apparatus according to the present embodiment or the one or more "parts" of the apparatus according to the present embodiment.
  • Multiple units may be executed and/or the computer 1200 may execute a process or a stage of a process according to the present embodiments.
  • Such programs may be executed by CPU 1212 to cause computer 1200 to perform certain operations associated with some or all of the blocks in the flowcharts and block diagrams described herein.
  • a computer 1200 includes a CPU 1212, a RAM 1214, and a graphics controller 1216, which are interconnected by a host controller 1210.
  • the computer 1200 also includes input/output units such as a communication interface 1222, a storage device 1224, a DVD drive 1226, and an IC card drive, which are connected to the host controller 1210 via an input/output controller 1220.
  • DVD drive 1226 may be a DVD-ROM drive, a DVD-RAM drive, or the like.
  • Storage device 1224 may be a hard disk drive, solid state drive, or the like.
  • Computer 1200 also includes legacy input/output units, such as ROM 1230 and a keyboard, which are connected to input/output controller 1220 via input/output chips 1240.
  • the CPU 1212 operates according to programs stored in the ROM 1230 and RAM 1214, thereby controlling each unit.
  • Graphics controller 1216 obtains image data generated by CPU 1212, such as in a frame buffer provided in RAM 1214 or itself, and causes the image data to be displayed on display device 1218.
  • the communication interface 1222 communicates with other electronic devices via the network.
  • Storage device 1224 stores programs and data used by CPU 1212 within computer 1200.
  • the DVD drive 1226 reads a program or data from a DVD-ROM 1227 or the like and provides it to the storage device 1224.
  • the IC card drive reads programs and data from and/or writes programs and data to the IC card.
  • ROM 1230 stores therein programs such as a boot program executed by computer 1200 upon activation and/or programs dependent on the computer 1200 hardware.
  • I/O chip 1240 may also connect various I/O units to I/O controller 1220 via USB ports, parallel ports, serial ports, keyboard ports, mouse ports, etc.
  • the program is provided by a computer readable storage medium such as a DVD-ROM 1227 or an IC card.
  • the program is read from a computer-readable storage medium, installed in storage device 1224, RAM 1214, or ROM 1230, which are also examples of computer-readable storage media, and executed by CPU 1212.
  • the information processing described in these programs is read by the computer 1200 and provides coordination between the programs and the various types of hardware resources described above.
  • An apparatus or method may be configured to implement the operation or processing of information according to the use of computer 1200.
  • the CPU 1212 executes a communication program loaded into the RAM 1214 and sends communication processing to the communication interface 1222 based on the processing written in the communication program. You may give orders.
  • the communication interface 1222 reads transmission data stored in a transmission buffer area provided in a recording medium such as a RAM 1214, a storage device 1224, a DVD-ROM 1227, or an IC card under the control of the CPU 1212, and transmits the read transmission data. Data is transmitted to the network, or received data received from the network is written to a reception buffer area provided on the recording medium.
  • the CPU 1212 causes the RAM 1214 to read all or a necessary part of a file or database stored in an external recording medium such as a storage device 1224, a DVD drive 1226 (DVD-ROM 1227), or an IC card. Various types of processing may be performed on the data. CPU 1212 may then write the processed data back to an external storage medium.
  • an external recording medium such as a storage device 1224, a DVD drive 1226 (DVD-ROM 1227), or an IC card.
  • Various types of processing may be performed on the data.
  • CPU 1212 may then write the processed data back to an external storage medium.
  • CPU 1212 performs various types of operations, information processing, conditional determination, conditional branching, unconditional branching, and information retrieval on data read from RAM 1214 as described elsewhere in this disclosure and specified by the program's instruction sequence. Various types of processing may be performed, including /substitutions, etc., and the results are written back to RAM 1214. Further, the CPU 1212 may search for information in a file in a recording medium, a database, or the like.
  • the CPU 1212 selects the first entry from among the plurality of entries. Search for an entry whose attribute value matches the specified condition, read the attribute value of the second attribute stored in the entry, and then set the attribute value to the first attribute that satisfies the predetermined condition. An attribute value of the associated second attribute may be obtained.
  • the programs or software modules described above may be stored in a computer-readable storage medium on or near computer 1200.
  • a storage medium such as a hard disk or RAM provided in a server system connected to a dedicated communication network or the Internet can be used as a computer-readable storage medium, thereby allowing the program to be transferred to the computer 1200 via the network. provide.
  • Blocks in the flowcharts and block diagrams of the present embodiments may represent a stage of a process in which an operation is performed or a "section" of a device responsible for performing the operation.
  • Certain steps and units may be provided with dedicated circuitry, programmable circuitry provided with computer readable instructions stored on a computer readable storage medium, and/or provided with computer readable instructions stored on a computer readable storage medium. May be implemented by a processor.
  • Dedicated circuitry may include digital and/or analog hardware circuits, and may include integrated circuits (ICs) and/or discrete circuits.
  • Programmable circuits can perform AND, OR, EXCLUSIVE OR, NAND, NOR, and other logical operations, such as field programmable gate arrays (FPGAs), programmable logic arrays (PLAs), etc. , flip-flops, registers, and memory elements.
  • FPGAs field programmable gate arrays
  • PLAs programmable logic arrays
  • flip-flops registers, and memory elements.
  • a computer-readable storage medium may include any tangible device capable of storing instructions for execution by a suitable device such that a computer-readable storage medium with instructions stored therein may be illustrated in a flowchart or block diagram.
  • a product will be provided that includes instructions that can be executed to create a means for performing specified operations.
  • Examples of computer-readable storage media may include electronic storage media, magnetic storage media, optical storage media, electromagnetic storage media, semiconductor storage media, and the like. More specific examples of computer readable storage media include floppy disks, diskettes, hard disks, random access memory (RAM), read only memory (ROM), erasable programmable read only memory (EPROM or flash memory).
  • EEPROM Electrically Erasable Programmable Read Only Memory
  • SRAM Static Random Access Memory
  • CD-ROM Compact Disc Read Only Memory
  • DVD Digital Versatile Disk
  • Blu-ray Disc Memory Stick
  • integrated circuit cards and the like.
  • Computer-readable instructions may include assembler instructions, instruction set architecture (ISA) instructions, machine instructions, machine-dependent instructions, microcode, firmware instructions, state configuration data, or instructions such as Smalltalk®, JAVA®, C++, etc. any source code or object code written in any combination of one or more programming languages, including object-oriented programming languages such as may include.
  • ISA instruction set architecture
  • the computer-readable instructions are for producing means for a processor of a general purpose computer, special purpose computer, or other programmable data processing device, or programmable circuit to perform the operations specified in the flowchart or block diagrams.
  • a general purpose computer, special purpose computer, or other programmable data processor locally or over a local area network (LAN), wide area network (WAN), such as the Internet, to execute the computer readable instructions. It may be provided in a processor or programmable circuit of the device. Examples of processors include computer processors, processing units, microprocessors, digital signal processors, controllers, microcontrollers, and the like.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Computer And Data Communications (AREA)

Abstract

ネットワークに配置された、第１階層の第１階層エージェント及び前記第１階層よりも下位の第２階層の複数の第２階層エージェントを備え、前記複数の第２階層エージェントのそれぞれは、収集した情報を用いて、他の第２階層エージェントと協調して学習を実行し、学習結果を用いて生成した情報を前記第１階層エージェントに送信し、前記第１階層エージェントは、前記複数の第２階層エージェントから受信した情報を用いて学習を実行する、システムを提供する。

Description

システム
　本発明は、システムに関する。
　特許文献１には、マルチエージェントの強化学習について記載されている。
　［先行技術文献］
　［特許文献］
　［特許文献１］特開２００４－２２７２０８号公報
一般的開示
　本発明の第１の態様によれば、システムが提供される。前記システムは、ネットワークに配置された、第１階層の第１階層エージェント及び前記第１階層よりも下位の第２階層の複数の第２階層エージェントを備えてよい。前記複数の第２階層エージェントのそれぞれは、収集した情報を用いて、他の第２階層エージェントと協調して学習を実行し、学習結果を用いて生成した情報を前記第１階層エージェントに送信してよい。前記第１階層エージェントは、前記複数の第２階層エージェントから受信した情報を用いて学習を実行してよい。前記システムは、前記第２階層よりも下位の第３階層の複数の第３階層エージェントを更に備えてよい。前記複数の第３階層エージェントのそれぞれは、収集した情報を用いて、他の第３階層エージェントと協調して学習を実行し、学習結果を用いて生成した情報を前記複数の第２階層エージェントの少なくともいずれかに送信してよい。前記複数の第３階層エージェントのそれぞれは、情報を収集する第３情報収集部と、前記第３情報収集部によって収集された情報を用いて、他の複数の第３階層エージェントと協調して学習を実行する第３学習実行部と、前記第３学習実行部による学習結果を用いて生成した情報を前記複数の第２階層エージェントの少なくともいずれかに送信する第３情報送信部とを有してよい。前記複数の第２階層エージェントのそれぞれは、複数の前記第３階層エージェントから情報を収集する第２情報収集部と、前記第２情報収集部によって収集された情報を用いて、他の複数の第２階層エージェントと協調して学習を実行する第２学習実行部と、前記第２学習実行部による学習結果を用いて生成した情報を前記第１階層エージェントに送信する第２情報送信部とを有してよい。前記第１階層エージェントは、複数の前記第２階層エージェントから情報を収集する第１情報収集部と、前記第１情報収集部によって収集された情報を用いて学習を実行する第１学習実行部とを有してよい。前記第１階層エージェントは、階層型ネットワークの第１ＮＷ階層に配置されてよく、前記複数の第２階層エージェントは、前記階層型ネットワークの前記第１ＮＷ階層よりも下位の第２ＮＷ階層に配置されてよく、前記複数の第３階層エージェントは、前記階層型ネットワークの前記第２ＮＷ階層よりも下位の第３ＮＷ階層に配置されてよい。前記階層型ネットワークは、クラウドネットワークであってよく、前記第１ＮＷ階層は、クラウドコンピューティングにより構成されてよく、前記第２ＮＷ階層は、複数のフォグコンピューティングにより構成されてよく、前記第３ＮＷ階層は、複数のエッジコンピューティングにより構成されてよい。前記階層型ネットワークは、クラウドネットワークであってよく、前記第１ＮＷ階層は、クラウドコンピューティングにより構成されてよく、前記第２ＮＷ階層は、複数のフォグコンピューティングにより構成されてよく、前記第３ＮＷ階層は、複数のエッジコンピューティングにより構成されてよく、前記第３情報収集部は、複数のＩｏＴ（Ｉｎｔｅｒｎｅｔ　ｏｆ　Ｔｈｉｎｇ）デバイスから移動体通信によって情報を収集してよく、前記第３情報送信部は、前記第３学習実行部による学習結果を用いて、前記第３情報収集部が収集した情報から選択した情報、又は、前記学習結果を用いて生成した情報を前記複数の第２階層エージェントの少なくともいずれかに送信してよく、前記第２情報収集部は、前記第３情報送信部によって送信された情報を収集してよく、前記第２情報送信部は、前記第２学習実行部による学習結果を用いて、前記第２情報収集部が収集した情報から選択した情報、又は、前記学習結果を用いて生成した情報を前記第１階層エージェントに送信してよい。
　前記システムにおいて、前記複数の第３階層エージェントのそれぞれは、前記第３学習実行部による学習結果を用いて、前記第３情報収集部が収集した情報に対して処理を実行する第３処理実行部を有してよい。前記第３処理実行部は、前記第３情報収集部が収集した複数の情報を用いて、前記複数の第２階層エージェントの少なくともいずれかに送信する情報を生成してよい。前記第３処理実行部は、前記第３学習実行部による学習結果を用いて、前記第３情報収集部が収集した複数の情報から選択した情報を含む送信情報を生成してよい。前記第３処理実行部は、前記第３学習実行部による学習結果を用いて、前記第３情報収集部が収集した複数の情報をまとめたサマリ情報を生成してよい。前記第３情報送信部は、前記第３処理実行部によって生成された情報を前記複数の第２階層エージェントの少なくともいずれかに送信してよい。前記システムにおいて、前記複数の第２階層エージェントのそれぞれは、前記第２学習実行部による学習結果を用いて、前記第２情報収集部が収集した情報に対して処理を実行する第２処理実行部を有してよい。前記第２処理実行部は、前記第２情報収集部が収集した複数の情報を用いて、前記第１階層エージェントに送信する情報を生成してよい。前記第２処理実行部は、前記第２学習実行部による学習結果を用いて、前記第２情報収集部が収集した複数の情報から選択した情報を含む送信情報を生成してよい。前記第２処理実行部は、前記第２学習実行部による学習結果を用いて、前記第２情報収集部が収集した複数の情報をまとめたサマリ情報を生成してよい。前記第２情報送信部は、前記第２処理実行部によって生成された情報を前記第１階層エージェントに送信してよい。前記システムにおいて、前記第１階層エージェントは、前記第１学習実行部による学習結果を用いて、前記第１情報収集部が収集した情報に対して処理を実行する第１処理実行部を有してよい。前記第１処理実行部は、前記第１学習実行部による学習結果を用いて、前記システムが適用されたネットワークの全体を安定させることを目的とした処理を実行してよい。前記第１処理実行部は、前記第１情報収集部が収集した情報を解析した結果に基づいて、前記複数の第２階層エージェントの少なくともいずれか、又は前記複数の第３階層エージェントの少なくともいずれかに対する指示情報を生成してもよい。前記第１処理実行部は、前記複数の第３階層エージェントの少なくともいずれかに対して、ＩｏＴデバイスから収集した情報のうちの前記複数の第２階層エージェントの少なくともいずれかに送信する情報を指示する指示情報を生成してよい。前記第１処理実行部は、前記複数の第２階層エージェントの少なくともいずれかに対して、前記複数の第２階層エージェントの少なくともいずれかから収集した情報の処理内容を指示する指示情報を生成してよい。前記第１処理実行部は、前記第１情報収集部が収集した情報を解析した結果に基づいて、前記複数の第３階層エージェントの少なくともいずれかに送信する学習用情報を生成してもよい。前記第１処理実行部は、前記第１情報収集部が収集した情報を解析した結果に基づいて、前記複数の第２階層エージェントの少なくともいずれかに送信する学習用情報を生成してもよい。前記第１処理実行部は、前記第１情報収集部が収集した情報の傾向の変化に合わせて設定した報酬を含む学習用情報を生成してよい。
　前記システムが、複数のＩｏＴデバイスによって送信される情報の解析を一つの目的としている場合、前記複数の第３階層エージェントは、よりリアルタイム性を求められる解析を実行し、前記第１階層エージェントは、ある程度長い期間の傾向を解析し、前記複数の第２階層エージェントは、その間に相当する解析を実行してよい。前記システムが、ある地域における事故の発生状況を管理することを目的とした場合に、前記複数の第３階層エージェントが、当該地域に配置された複数のＩｏＴデバイスから画像データ及び物体検知データを収集し、地理的に近接するサブエリアを担当する複数の第３階層エージェントが、情報を共有しながら、事故の発生を検出するための学習を実行し、第３階層エージェントは、学習結果を用いて、事故の発生を検出し、複数の第２階層エージェントが、サブエリアのグループに対して割り当てられ、グループのサブエリアのＩｏＴデバイスから情報を収集する第３階層エージェントから情報を収集し、複数の第２階層エージェントは、互いに協調することによって、事故の発生を予測するための学習を実行し、第２階層エージェントは、学習結果を用いて事故の発生を予測し、第１階層エージェントは、複数の第２階層エージェントによる予測結果によって、全体的な情報の制御を行うための学習を実行してよい。第１階層エージェントは、事故の発生が予測されるサブエリアについて、収集する情報量を増やしたり、情報の種類を増やしたりし、それ以外のサブエリアについて、収集する情報量を減らしたり、情報の種類を減らしたりする制御を行ってよい。
　例えば、前記システムが、クラウドネットワークにおける、ＩｏＴデバイスによって取得された情報を通知するメッセージのルーティングを円滑に実施することを一つの目的としている場合、前記第３階層エージェントは、メッセージのルーティングを実施してよい。前記第３階層エージェントは、他の前記第３階層エージェントと協調して、パブリッシャーからのメッセージについて、Ｔｏｐｉｃ、Ｔｏ（Ｃｏｐｙを含む）、及び分割を制御するような学習を実行してよい。前記第３階層エージェントは、学習結果を用いて、他の前記第３階層エージェントと協調して、パブリッシャーからのメッセージが、適切なサブスクライバーに到達するようにＴｏｐｉｃの生成、Ｔｏの決定、メッセージの複製、メッセージの分割などを制御してよい。前記第２階層エージェントは、例えば、前記第３階層エージェントから収集する情報によって、前記第３階層エージェントによるルーティングを監視し、ルーティングに発生した問題を解消する処理を実行できるような学習を実行してよい。前記第２階層エージェントは、宛先不明の同じＴｏのメッセージが存在する場合に、メッセージをバッファリングし、バッファリングの量が閾値を超えた場合に、バッファリングしているメッセージの一部をネットワークに放ち、その結果、再度戻ってきた場合には、届くようになるまでか、一定時間、バッファリングをし、メッセージが届き始めたら、バッファリングしているメッセージのうち、同じＴｏのメッセージについて送信を開始してよい。前記第１階層エージェントは、前記第２階層エージェントから収集する情報によって、ネットワークにおける問題点を検出するための学習を実行してよい。前記第１階層エージェントは、学習結果を用いて、ネットワークの問題点を検出した場合に、検出結果をネットワークのオペレータに通知したり、ネットワークの構成を変更する指示を出力したりしてよい。
　例えば、前記システムが、自動運転に関する制御を実施することを一つの目的としている場合、複数の第３階層エージェントのそれぞれは、複数に区切られた地域毎に、その地域内に位置する車両に搭載されたＩｏＴデバイス、信号機等に搭載されたＩｏＴデバイス、及び道路等に設置されたＩｏＴデバイスから、情報を収集してよい。前記第３階層エージェントは、車両の位置情報、車両のカメラや、街頭のカメラによって撮像された画像、道路のセンサによって検知された車両検知情報や人検知情報、車両のセンサ等によって検知された車両間距離、地域における天候情報、車両のナビゲーション情報、及び車両の走行速度の少なくともいずれかを収集してよい。前記第３階層エージェントは、あるエリアを担当することになり、ある車両が当該エリアに入ったときから、当該車両に搭載されているＩｏＴデバイスからの情報を収集し、当該車両が当該エリアを出るときに、当該車両が入るエリアを担当する前記第３階層エージェントに、情報の収集を引き継いでよい。前記第３階層下位エージェントは、他の前記第３階層エージェントと情報を共有して、車間距離が閾値より短くなっていることや、車両が人等と衝突するような危険の検知を実行してよい。前記第３階層エージェントは、危険を検知した場合に、対象となる車両に対して、危険検知情報を送信してよい。前記第２階層エージェントは、前記第３階層エージェントに、何の情報を通信するかを指示してよい。前記第２階層エージェントは、過去に前記第３階層エージェントから収集した情報（曜日、時間等）に基づいて、重要情報（人が多い、車が多い等）を分析（学習）し、収集の優先度が高い情報を判定可能にしてよい。前記第２階層エージェントは、期間毎に、優先度の高い情報を収集できるように、前記第３階層エージェントに指示を出してよい。前記第２階層エージェントは、他の前記第２階層エージェントと協調して学習することによって、優先度の高い情報を高い精度で特定可能になってよい。前記第２階層エージェントは、学習の結果、平日の朝は、車検知結果の優先度を高くして情報が収集できるように指示し、休日の昼は、人検知結果の優先度を高くして情報が収集できるように指示するようになってよい。前記第１階層エージェントは、より広い範囲の解析を実行してよい。前記第１階層エージェントは、担当エリア（市、県、国単位の交通情報（交通量、時刻、曜日、イベント、天候）から、数ステップ先の（設定した時刻の）予測を実行し、前記第２階層エージェントに情報を提供してよい。
　なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
自律分散システムの適用対象であるネットワーク１００の一例を概略的に示す。 ネットワーク１００の一例であるクラウドネットワーク３００の一例を概略的に示す。 自律分散システム２００の一例を概略的に示す。 下位エージェント２３０の機能構成の一例を概略的に示す。 中間エージェント２２０の機能構成の一例を概略的に示す。 上位エージェント２１０の機能構成の一例を概略的に示す。 自律分散システム２００の他の一例を概略的に示す。 上位エージェント２１０、中間エージェント２２０、又は下位エージェント２３０を実装するコンピュータ１２００のハードウェア構成の一例を概略的に示す。
　マルチエージェントシステムの一つである自律分散システムが知られている。自律分散システムでは、複数のエージェントのそれぞれが、独自に自律的に学習し、協調行動を獲得することを目的としている。各エージェントが全く同じ状態（構造やパラメータ）をｈｏｍｏｇｅｎｉｏｕｓといい、ｈｏｍｏｇｅｎｉｏｕｓから、それぞれ異なる状態（Ｈｅｔｅｒｏｇｅｎｉｏｕｓ）になることを機能分化という。自律分散システムの適用例として、Ｔａｒｇｅｔと複数のＨｕｎｔｅｒが存在し、複数のＨｕｎｔｅｒがＴａｒｇｅｔの捕まえ方を学習する、すなわち、複数のＨｕｎｔｅｒエージェントが、自身の役割をそれぞれ学習し、協調してＴａｒｇｅｔを捕まえる追跡問題のような例がある。自律分散システムでは、同じ性能のエージェント群（ｈｏｍｏ）が、学習をすることで機能分化し、それぞれが役割を持つようになる（ｈｅｔｅｒｏ）。例えば、追跡問題では、まっすぐに追いかけるエージェントと、回り込むエージェントに分かれてくる。このような技術を用いることによって、例えば、同じアルゴリズムで、自律的に、環境に適応した学習を行ったり、マルチエージェントで、自律的に分散して学習したりすることができる。本実施形態では、自律分散システムを、ネットワークに適用する。
　以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
　図１は、自律分散システムの適用対象である通信ネットワーク１００の一例を概略的に示す。通信ネットワーク１００は、階層型のネットワークである。通信ネットワーク１００は、上位コンピューティング１１０と、複数の中間コンピューティング１２０と、複数の下位コンピューティング１３０とによって構成される。
　上位コンピューティング１１０によって、第１ＮＷ（ＮｅｔＷｏｒｋ）階層が構成され、複数の中間コンピューティング１２０によって、第１ＮＷ階層よりも下位の第２ＮＷ階層が構成され、複数の下位コンピューティング１３０によって、第２ＮＷ階層よりも下位の第３ＮＷ階層が構成される。
　自律分散システムの適用対象である通信ネットワーク１００は、階層構造を備えていればどのような通信ネットワークであってもよい。例えば、通信ネットワーク１００は、クラウドネットワークである。
　図２は、通信ネットワーク１００の一例であるクラウドネットワーク３００の一例を概略的に示す。クラウドネットワーク３００は、クラウドコンピューティング３１０と、複数のフォグコンピューティング３２０と、複数のエッジコンピューティング３３０とによって構成される。
　クラウドコンピューティング３１０は、上位コンピューティング１１０の一例であってよい。フォグコンピューティング３２０は、中間コンピューティング１２０の一例であってよい。エッジコンピューティング３３０は、下位コンピューティング１３０の一例であってよい。
　クラウドネットワーク３００において、第１ＮＷ階層は、クラウドコンピューティング３１０によって構成され、第２ＮＷ階層は、複数のフォグコンピューティング３２０によって構成され、第３ＮＷ階層は、複数のエッジコンピューティング３３０によって構成される。
　複数のエッジコンピューティング３３０のそれぞれは、移動通信システムを介して、１又は複数のＩｏＴデバイス４００と通信する。複数のＩｏＴデバイス４００のそれぞれは、無線基地局及びＷｉ－Ｆｉ（登録商標）アクセスポイント等を介して、複数のエッジコンピューティング３３０の少なくともいずれかに対して情報を送信してよい。
　ＩｏＴデバイス４００は、何らかの情報を取得して送信可能であれば、どのようなデバイスであってもよい。ＩｏＴデバイス４００は、例えば、各種センサを備える。ＩｏＴデバイス４００が送信する情報の例として、画像データ（静止画像、動画像）、音データ、赤外線データ、位置データ、物体検知データ、距離データ、天候データ、温度データ、及び湿度データ等が挙げられるが、ほんの一例であり、どのような情報であってもよい。
　当該移動通信システムは、例えば、５Ｇ（５ｔｈ　Ｇｅｎｅｒａｔｉｏｎ）通信システムである。当該移動通信システムは、ＬＴＥ（Ｌｏｎｇ　Ｔｅｒｍ　Ｅｖｏｌｕｔｉｏｎ）通信システムであってもよい。当該移動通信システムは、３Ｇ（３ｒｄ　Ｇｅｎｅｒａｔｉｏｎ）通信システムであってもよい。当該移動通信システムは、６Ｇ（６ｔｈ　Ｇｅｎｅｒａｔｉｏｎ）通信システム以降の移動通信システムであってもよい。
　図３は、自律分散システム２００の一例を概略的に示す。自律分散システム２００は、階層構造を有する複数のエージェントによって構成される。図３に示す例において、自律分散システム２００は、上位エージェント２１０、複数の中間エージェント２２０、及び複数の下位エージェント２３０を備える。
　自律分散システム２００は、通信ネットワーク１００に適用される。例えば、上位エージェント２１０が、上位コンピューティング１１０に配置され、複数の中間エージェント２２０のそれぞれが、複数の中間コンピューティング１２０のそれぞれに配置され、複数の下位エージェント２３０のそれぞれが、複数の下位コンピューティング１３０のそれぞれに配置される。１つの中間コンピューティング１２０に対して複数の中間エージェント２２０が配置されてもよい。１つの下位コンピューティング１３０に複数の下位エージェント２３０が配置されてもよい。
　図２では、自律分散システム２００が３階層によって構成される場合を例示しているが、これに限らない。自律分散システム２００は、２階層であってもよく、４階層以上であってもよい。自律分散システム２００が２階層である場合、自律分散システム２００は、上位エージェント２１０と、複数の下位エージェント２３０とを備えてよい。この例において、上位エージェント２１０は、第１階層の第１階層エージェントの例であってよく、下位エージェント２３０は、第２階層の複数の第２階層エージェントの一例であってよい。この場合、例えば、上位エージェント２１０が上位コンピューティング１１０に配置され、複数の下位エージェント２３０のそれぞれが、複数の下位コンピューティング１３０のそれぞれに配置される。また、例えば、上位エージェント２１０が、複数の中間コンピューティング１２０のいずれかに配置され、複数の下位エージェント２３０が、複数の下位コンピューティング１３０のそれぞれに配置される。なお、この場合、通信ネットワーク１００は、複数の中間コンピューティング１２０を備えずに、２階層により構成されてもよい。
　自律分散システム２００は、例えば、クラウドネットワーク３００に適用される。例えば、上位エージェント２１０が、クラウドコンピューティング３１０に配置され、複数の中間エージェント２２０のそれぞれが、複数のフォグコンピューティング３２０のそれぞれに配置され、複数の下位エージェント２３０のそれぞれが、複数のエッジコンピューティング３３０のそれぞれに配置される。１つのフォグコンピューティング３２０に対して複数の中間エージェント２２０が配置されてもよい。１つのエッジコンピューティング３３０に複数の下位エージェント２３０が配置されてもよい。
　自律分散システム２００が２階層である場合、例えば、上位エージェント２１０がクラウドコンピューティング３１０に配置され、複数の下位エージェント２３０のそれぞれが、複数のエッジコンピューティング３３０のそれぞれに配置される。また、例えば、上位エージェント２１０が、複数のフォグコンピューティング３２０のいずれかに配置され、複数の下位エージェント２３０が、複数のエッジコンピューティング３３０のそれぞれに配置される。なお、この場合、クラウドネットワーク３００は、複数のフォグコンピューティング３２０を備えずに、２階層により構成されてもよい。
　下位エージェント２３０は、情報を収集する。下位エージェント２３０は、例えば、ＩｏＴデバイス４００によって送信された情報を収集する。下位エージェント２３０は、ＩｏＴデバイス４００から移動体通信によって情報を収集してよい。下位エージェント２３０は、ＩｏＴデバイス４００以外の任意のデバイスによって送信された情報を収集してもよい。下位エージェント２３０は、ＩｏＴデバイス４００以外の任意のデバイスから移動体通信によって情報を収集してよい。
　下位エージェント２３０は、収集した情報を用いて、他の下位エージェント２３０と協調して学習を実行する。下位エージェント２３０は、予め登録された報酬に従って、学習を実行してよい。下位エージェント２３０は、予め登録された知識に従って、学習を実行してよい。下位エージェント２３０は、学習結果を用いて各種処理を実行してよい。例えば、下位エージェント２３０は、学習結果を用いて、収集した複数の情報のうち、中間エージェント２２０に送信する情報を選択して、中間エージェント２２０に送信する。例えば、下位エージェント２３０は、学習結果を用いて、収集した複数の情報をまとめたサマリ情報を生成して、中間エージェント２２０に送信する。
　例えば、複数のＩｏＴデバイス４００によって送信される多量の情報のうち、有用な情報のみを上位階層に送信することを目的とした場合に、下位エージェント２３０がＩｏＴデバイス４００から収集して中間エージェント２２０又は上位エージェント２１０に送信する情報の有用度が、報酬として登録される。複数の下位エージェント２３０のそれぞれは、他の下位エージェント２３０と協調しながら、それぞれ自律的に報酬を最大化するように学習を進める。複数の下位エージェント２３０は、異なる１又は複数のＩｏＴデバイス４００から情報を収集しており、それぞれ異なる基準で、収集情報から上位階層に送信する情報を選択したり、収集情報から上位階層に送信するサマリ情報を生成したりするようになり、全体的に有用度の高い情報のみが上位階層に伝わるようにシステムが構築され得る。
　下位エージェント２３０は、比較的リアルタイム性の高い処理を実行してよい。例えば、下位エージェント２３０は、１分及び３分等の予め定められた時間毎に、１又は複数のＩｏＴデバイス４００から収集する情報に対して、学習結果を用いて、選択処理を行ったり、サマリ情報の生成処理を行ったりして、情報を上位階層に送信する。これにより、上位階層に送信する情報をリアルタイムに調整することが可能となる。例えば、昼間は画像が、夜は赤外線データが多い情報を扱うエッジコンピューティング３３０に配置された複数の下位エージェント２３０の場合、多くの下位エージェント２３０が、昼は画像を担当し、夜は赤外線データを担当するようになる。このように、下位エージェント２３０は動的に環境に適応することが可能であるため、例えば、収集対象のＩｏＴデバイス４００を変更したり、収集対象のＩｏＴデバイス４００が収集する情報の種類が変わったりした場合であっても、適応可能である。このように、下位エージェント２３０は、処理をリアルタイムに実行してよいが、時間遅れで統計情報を送信したり、サマリ情報を送信したりしてもよい。下位エージェント２３０は、意図的にディレイを入れることが可能であってもよい。
　中間エージェント２２０は、情報を収集する。中間エージェント２２０は、下位エージェント２３０から情報を収集してよい。中間エージェント２２０は、例えば、下位エージェント２３０がＩｏＴデバイス４００から収集した情報を、下位エージェント２３０から収集する。中間エージェント２２０は、例えば、下位エージェント２３０がＩｏＴデバイス４００から収集した複数の情報のうち、下位エージェント２３０によって選択された情報を下位エージェント２３０から収集する。中間エージェント２２０は、例えば、下位エージェント２３０がＩｏＴデバイス４００から収集した複数の情報をまとめたサマリ情報を、下位エージェント２３０から収集する。
　中間エージェント２２０は、収集した情報を用いて、他の中間エージェント２２０と協調して学習を実行する。中間エージェント２２０は、学習結果を用いて各種処理を実行してよい。例えば、中間エージェント２２０は、学習結果を用いて、収集した複数の情報のうち、中間エージェント２２０に送信する情報を選択して、上位エージェント２１０に送信する。例えば、中間エージェント２２０は、学習結果を用いて、収集した複数の情報をまとめたサマリ情報を生成して、上位エージェント２１０に送信する。
　中間エージェント２２０は、下位エージェント２３０と比較してリアルタイム性の低い処理を実行してよい。例えば、中間エージェント２２０は、１時間及び１日等の予め定められた期間毎に、１又は複数の下位エージェント２３０から収集する情報を用いた処理を実行する。中間エージェント２２０は、例えば、予め定められた期間の情報を用いた学習を実行する。中間エージェント２２０は、他の中間エージェント２２０と協調して、複数の下位エージェント２３０から上位階層に送信される情報の量を調整したり、複数の中間エージェント２２０から上位エージェント２１０に対して送信する情報の量を調整したりしてもよい。中間エージェント２２０は、自律分散システム２００におけるロバスト性を担保するような学習や処理を実行してもよい。中間エージェント２２０は、自律分散システム２００におけるＳｐｉｎａｌ　Ｃｏｒｄの役割を担ってもよい。中間エージェント２２０は、下位エージェント２３０から情報を受信した場合に、上位エージェント２１０に対して当該情報や当該情報に基づいて生成した情報を送信するか、下位エージェント２３０に対して応答したり指示を送信したりするかを判定してもよい。
　上位エージェント２１０は、情報を収集する。上位エージェント２１０は、中間エージェント２２０から情報を収集してよい。上位エージェント２１０は、例えば、中間エージェント２２０から下位エージェント２３０から収集した情報を、下位エージェント２３０から収集する。上位エージェント２１０は、例えば、中間エージェント２２０が下位エージェント２３０から収集した複数の情報のうち、中間エージェント２２０によって選択された情報を中間エージェント２２０から収集する。上位エージェント２１０は、例えば、中間エージェント２２０が下位エージェント２３０から収集した複数の情報をまとめたサマリ情報を、中間エージェント２２０から収集する。上位エージェント２１０は、下位エージェント２３０から情報を収集してもよい。
　上位エージェント２１０は、収集した情報を用いた処理を実行する。上位エージェント２１０は、例えば、収集した情報を用いた学習を実行する。上位エージェント２１０は、例えば、学習結果を用いて各種処理を実行する。
　上位エージェント２１０は、中間エージェント２２０と比較してリアルタイム性の低い処理を実行してよい。例えば、上位エージェント２１０は、１週間、１カ月、及び１年等の予め定められた期間毎に、収集した情報を用いた処理を実行する。上位エージェント２１０は、例えば、予め定められた期間の情報を用いた学習を実行する。
　上位エージェント２１０は、自律分散システム２００の全体を安定させることを目的とした処理を実行してもよい。例えば、上位エージェント２１０は、収集した情報に基づいて、通信ネットワーク１００やクラウドネットワーク３００の全体の通信負荷の要因分析等を実行してよい。上位エージェント２１０は、収集した情報の内容や、情報の収集状況によって、ネットワークにおける通信負荷が高まっている位置を特定して、通信負荷を低減するように、例えば、ＩｏＴデバイス４００、下位エージェント２３０、中間エージェント２２０によって送信される情報の量を調整したり、伝搬経路を調整したりしてよい。
　いわゆるクラウドネットワークにおいて取り扱われる情報の量は非常に増加している。今後、５Ｇ移動通信システムの普及がより進み、ＩｏＴデバイスの数が増加することによって、情報量はさらに増加することが想定される。このような情報量の増加に対して、ネットワークの通信機能の向上や、ネットワーク機器の性能の向上が、常套手段としての対応策となるが、それのみでは対応しきれない可能性がある。それに対して、本実施形態に係る自律分散システム２００をネットワークに適用することによって、処理を階層化することができる。自律分散システム２００によれば、例えば、下位エージェント２３０によってリアルタイム性の高い処理を実行しつつ、有用な情報に絞って上位階層に伝達し、中間エージェント２２０によって、厳選された情報を用いた、もう少し広いスパンの情報処理を行いつつ、情報をさらに絞り、上位エージェント２１０において、更に厳選された情報を用いた、更に広いスパンの情報処理を行ったり、ネットワーク全体の安定化が図られたりするので、大量の情報を適切に取り扱える環境の構築に貢献することができる。
　図４は、下位エージェント２３０の機能構成の一例を概略的に示す。下位エージェント２３０は、記憶部２３１、登録部２３２、情報収集部２３３、学習実行部２３４、処理実行部２３５、及び情報送信部２３６を備える。
　登録部２３２は、各種登録を実行する。登録部２３２は、例えば、下位エージェント２３０が学習に用いる学習用情報を登録する。登録部２３２は、登録した学習用情報を記憶部２３１に記憶する。学習用情報は、報酬を含んでよい。学習用情報は、知識を含んでよい。登録部２３２は、例えば、自律分散システム２００のオペレータ等による入力を受け付けることによって、学習用情報を登録する。登録部２３２は、例えば、上位エージェント２１０から受信した学習用情報を登録する。登録部２３２は、例えば、中間エージェント２２０から受信した学習用情報を登録する。登録部２３２は、第３登録部の一例であってよい。
　情報収集部２３３は、情報を収集する。情報収集部２３３は、任意のデバイスによって送信された情報を収集してよい。情報収集部２３３は、例えば、ＩｏＴデバイス４００によって送信された情報を収集する。情報収集部２３３は、ＩｏＴデバイス４００から移動体通信によって情報を収集してよい。情報収集部２３３は、収集した情報を記憶部２３１に記憶する。情報収集部２３３は、第３情報収集部の一例であってよい。
　学習実行部２３４は、情報収集部２３３が収集した情報を用いて、学習を実行する。学習実行部２３４は、情報収集部２３３が収集した情報を用いて、他の下位エージェント２３０と協調して学習を実行してよい。
　学習実行部２３４は、学習結果を記憶部２３１に記憶する。学習結果は、学習実行部２３４が学習によって生成したモデルを含んでよい。学習結果は、学習実行部２３４が学習によって生成したニューラルネットワークを含んでよい。学習実行部２３４は、第３学習実行部の一例であってよい。
　学習実行部２３４は、任意の学習方法を用いてよい。例えば、学習実行部２３４は、まず、シミュレーションによる事前学習（Ｐｒｅ－ｔｒａｉｎｉｎｇ）を実行し、情報収集部２３３が収集する情報によって、モデル及びニューラルネットワーク等を更新する。事前学習には、過去に情報収集部２３３が収集した実データを用いてよい。事前学習には、シンセティックデータを用いてもよい。学習にトライアンドエラーが許されない環境である場合、強化学習ではなく、ルールベースで学習を行い、そのパラメータのみを学習する方法が有効である。学習方法は、ＡＮＮ（Ａｒｔｉｆｉｃｉａｌ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ）、ＤＮＮ（Ｄｅｅｐ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ）、ヒューリスティクス等であってもよい。
　処理実行部２３５は、各種処理を実行する。処理実行部２３５は、学習実行部２３４による学習結果を用いて、情報収集部２３３が収集した情報に対して処理を実行してよい。処理実行部２３５は、情報収集部２３３が収集した複数の情報を用いて、中間エージェント２２０に送信する情報を生成してよい。
　例えば、処理実行部２３５は、学習実行部２３４による学習結果を用いて、情報収集部２３３が収集した複数の情報から選択した情報を含む送信情報を生成する。例えば、処理実行部２３５は、学習実行部２３４による学習結果を用いて、情報収集部２３３が収集した複数の情報をまとめたサマリ情報を生成する。処理実行部２３５は、第３処理実行部の一例であってよい。
　情報送信部２３６は、情報を送信する。例えば、情報送信部２３６は、情報収集部２３３によって収集された情報を中間エージェント２２０に送信する。例えば、情報送信部２３６は、処理実行部２３５によって生成された情報を中間エージェント２２０に送信する。情報送信部２３６は、第３情報送信部の一例であってよい。
　図５は、中間エージェント２２０の機能構成の一例を概略的に示す。中間エージェント２２０は、記憶部２２１、登録部２２２、情報収集部２２３、学習実行部２２４、処理実行部２２５、及び情報送信部２２６を備える。
　登録部２２２は、各種登録を実行する。登録部２２２は、例えば、中間エージェント２２０が学習に用いる学習用情報を登録する。登録部２２２は、登録した学習用情報を記憶部２２１に記憶する。学習用情報は、報酬を含んでよい。学習用情報は、知識を含んでよい。登録部２２２は、例えば、自律分散システム２００のオペレータ等による入力を受け付けることによって、学習用情報を登録する。登録部２２２は、例えば、上位エージェント２１０から受信した学習用情報を登録する。登録部２２２は、第２登録部の一例であってよい。
　情報収集部２２３は、情報を収集する。情報収集部２２３は、下位エージェント２３０から情報を収集してよい。情報収集部２２３は、例えば、下位エージェント２３０の情報送信部２３６が送信した情報を収集する。情報収集部２２３は、収集した情報を記憶部２２１に記憶する。情報収集部２２３は、第２情報収集部の一例であってよい。
　学習実行部２２４は、情報収集部２２３が収集した情報を用いて、学習を実行する。学習実行部２２４は、情報収集部２２３が収集した情報を用いて、他の中間エージェント２２０と協調して学習を実行してよい。
　学習実行部２２４は、学習結果を記憶部２２１に記憶する。学習結果は、学習実行部２２４が学習によって生成したモデルを含んでよい。学習結果は、学習実行部２２４が学習によって生成したニューラルネットワークを含んでよい。学習実行部２２４は、第２学習実行部の一例であってよい。
　学習実行部２２４は、任意の学習方法を用いてよい。例えば、学習実行部２２４は、まず、シミュレーションによる事前学習を実行し、情報収集部２２３が収集する情報によって、モデル及びニューラルネットワーク等を更新する。事前学習には、過去に情報収集部２２３が収集した実データを用いてよい。事前学習には、シンセティックデータを用いてもよい。学習にトライアンドエラーが許されない環境である場合、強化学習ではなく、ルールベースで学習を行い、そのパラメータのみを学習する方法が有効である。学習方法は、ＡＮＮ、ＤＮＮ、ヒューリスティクス等であってもよい。
　処理実行部２２５は、各種処理を実行する。処理実行部２２５は、学習実行部２２４による学習結果を用いて、情報収集部２２３が収集した情報に対して処理を実行してよい。処理実行部２２５は、情報収集部２２３が収集した複数の情報を用いて、上位エージェント２１０に送信する情報を生成してよい。
　例えば、処理実行部２２５は、学習実行部２２４による学習結果を用いて、情報収集部２２３が収集した複数の情報から選択した情報を含む送信情報を生成する。例えば、処理実行部２２５は、学習実行部２２４による学習結果を用いて、情報収集部２２３が収集した複数の情報をまとめたサマリ情報を生成する。処理実行部２２５は、第２処理実行部の一例であってよい。
　情報送信部２２６は、情報を送信する。例えば、情報送信部２２６は、情報収集部２２３によって収集された情報を上位エージェント２１０に送信する。例えば、情報送信部２２６は、処理実行部２２５によって生成された情報を上位エージェント２１０に送信する。情報送信部２２６は、第２情報送信部の一例であってよい。
　図６は、上位エージェント２１０の機能構成の一例を概略的に示す。上位エージェント２１０は、記憶部２１１、登録部２１２、情報収集部２１３、学習実行部２１４、処理実行部２１５、及び情報送信部２１６を備える。
　登録部２１２は、各種登録を実行する。登録部２１２は、例えば、上位エージェント２１０が学習に用いる学習用情報を登録する。登録部２１２は、登録した学習用情報を記憶部２１１に記憶する。学習用情報は、報酬を含んでよい。学習用情報は、知識を含んでよい。登録部２１２は、例えば、自律分散システム２００のオペレータ等による入力を受け付けることによって、学習用情報を登録する。登録部２１２は、第１登録部の一例であってよい。
　情報収集部２１３は、情報を収集する。情報収集部２１３は、中間エージェント２２０から情報を収集してよい。情報収集部２１３は、例えば、中間エージェント２２０の情報送信部２２６が送信した情報を収集する。情報収集部２１３は、収集した情報を記憶部２１１に記憶する。情報収集部２１３は、第１情報収集部の一例であってよい。
　学習実行部２１４は、情報収集部２１３が収集した情報を用いて、学習を実行する。学習実行部２１４は、第１学習実行部の一例であってよい。学習実行部２１４は、情報収集部２１３が収集した情報を用いて、複数の中間エージェント２２０と協調して学習を実行してもよい。学習実行部２１４は、情報収集部２１３が収集した情報を用いて、複数の下位エージェント２３０と協調して学習を実行してもよい。学習実行部２１４は、情報収集部２１３が収集した情報を用いて、複数の中間エージェント２２０及び複数の下位エージェント２３０と協調して学習を実行してもよい。
　学習実行部２１４は、学習結果を記憶部２１１に記憶する。学習結果は、学習実行部２１４が学習によって生成したモデルを含んでよい。学習結果は、学習実行部２１４が学習によって生成したニューラルネットワークを含んでよい。学習実行部２１４は、第１学習実行部の一例であってよい。
　学習実行部２１４は、任意の学習方法を用いてよい。例えば、学習実行部２１４は、まず、シミュレーションによる事前学習を実行し、情報収集部２１３が収集する情報によって、モデル及びニューラルネットワーク等を更新する。事前学習には、過去に情報収集部２１３が収集した実データを用いてよい。事前学習には、シンセティックデータを用いてもよい。学習にトライアンドエラーが許されない環境である場合、強化学習ではなく、ルールベースで学習を行い、そのパラメータのみを学習する方法が有効である。学習方法は、ＡＮＮ、ＤＮＮ、ヒューリスティクス等であってもよい。
　処理実行部２１５は、各種処理を実行する。処理実行部２１５は、第１処理実行部の一例であってよい。処理実行部２１５は、学習実行部２１４による学習結果を用いて、情報収集部２１３が収集した情報に対して処理を実行してよい。処理実行部２１５は、学習実行部２１４による学習結果を用いて、自律分散システム２００が適用されたネットワークの全体を安定させることを目的とした処理を実行してよい。
　処理実行部２１５は、情報収集部２１３が収集した情報を解析した結果に基づいて、中間エージェント２２０又は下位エージェント２３０に対する指示情報を生成してもよい。処理実行部２１５は、例えば、下位エージェント２３０に対して、ＩｏＴデバイス４００から収集した情報のうちの中間エージェント２２０に送信する情報を指示する指示情報を生成する。処理実行部２１５は、例えば、中間エージェント２２０に対して、中間エージェント２２０から収集した情報の処理内容を指示する指示情報を生成する。
　処理実行部２１５は、情報収集部２１３が収集した情報を解析した結果に基づいて、下位エージェント２３０に送信する学習用情報を生成してもよい。処理実行部２１５は、情報収集部２１３が収集した情報を解析した結果に基づいて、中間エージェント２２０に送信する学習用情報を生成してもよい。例えば処理実行部２１５は、情報収集部２１３が収集した情報の傾向の変化に合わせて設定した報酬を含む学習用情報を生成する。
　情報送信部２１６は、情報を送信する。例えば、情報送信部２１６は、処理実行部２１５によって生成された指示情報を下位エージェント２３０に送信する。例えば、情報送信部２１６は、処理実行部２１５によって生成された指示情報を中間エージェント２２０に送信する。
　例えば、情報送信部２１６は、処理実行部２１５によって生成された学習用情報を下位エージェント２３０に送信する。例えば、情報送信部２１６は、処理実行部２１５によって生成された学習用情報を中間エージェント２２０に送信する。
　例えば、自律分散システム２００が、複数のＩｏＴデバイス４００によって送信される情報の解析を一つの目的としている場合、下位エージェント２３０は、よりリアルタイム性を求められる解析を実行し、上位エージェント２１０は、ある程度長い期間の傾向を解析し、中間エージェント２２０は、その間に相当する解析を実行する。
　具体例として、ある地域における事故の発生状況を管理することを目的とした場合に、複数の下位エージェント２３０が、当該地域に配置された複数のＩｏＴデバイス４００から画像データや物体検知データ等を収集する。例えば、当該地域が複数のサブエリアに分けられ、複数の下位エージェント２３０のそれぞれが、複数のサブエリアのそれぞれに配置されているＩｏＴデバイス４００から情報を収集する。そして、地理的に近接するサブエリアを担当する複数の下位エージェント２３０が、情報を共有しながら、事故の発生を検出するための学習を実行する。下位エージェント２３０は、学習結果を用いて、事故の発生を検出してよい。また、複数の中間エージェント２２０が、サブエリアのグループに対して割り当てられ、グループのサブエリアのＩｏＴデバイス４００から情報を収集する下位エージェント２３０から情報を収集する。例えば、複数の中間エージェント２２０は、互いに協調することによって、事故の発生を予測するための学習を実行する。中間エージェント２２０は、学習結果を用いて事故の発生を予測してよい。上位エージェント２１０は、例えば、複数の中間エージェント２２０による予測結果によって、全体的な情報の制御を行うための学習を実行する。具体例として、上位エージェント２１０は、事故の発生が予測されるサブエリアについて、収集する情報量を増やしたり、情報の種類を増やしたりし、それ以外のサブエリアについて、収集する情報量を減らしたり、情報の種類を減らしたりする制御を行う。
　例えば、自律分散システム２００が、クラウドネットワーク３００における、ＩｏＴデバイス４００によって取得された情報を通知するメッセージのルーティングを円滑に実施することを一つの目的としている場合、下位エージェント２３０は、メッセージのルーティングを実施する。下位エージェント２３０は、他の下位エージェント２３０と協調して、パブリッシャーからのメッセージについて、Ｔｏｐｉｃ、Ｔｏ（Ｃｏｐｙを含む）、及び分割を制御するような学習を実行する。下位エージェント２３０は、学習結果を用いて、他の下位エージェント２３０と協調して、パブリッシャーからのメッセージが、適切なサブスクライバーに到達するようにＴｏｐｉｃの生成、Ｔｏの決定、メッセージの複製、メッセージの分割などを制御する。
　中間エージェント２２０は、例えば、下位エージェント２３０から収集する情報によって、下位エージェント２３０によるルーティングを監視し、ルーティングに発生した問題を解消する処理を実行できるような学習を実行する。例えば、中間エージェント２２０は、宛先不明の同じＴｏのメッセージが存在する場合に、メッセージをバッファリングし、バッファリングの量が閾値を超えた場合に、バッファリングしているメッセージの一部をネットワークに放つ。その結果、再度戻ってきた場合には、届くようになるまでか、一定時間、バッファリングをする。そして、メッセージが届き始めたら、バッファリングしているメッセージのうち、同じＴｏのメッセージについて送信を開始する。
　上位エージェント２１０は、例えば、中間エージェント２２０から収集する情報によって、ネットワークにおける問題点を検出するための学習を実行する。そして、上位エージェント２１０は、学習結果を用いて、ネットワークの問題点を検出した場合に、検出結果をネットワークのオペレータ等に通知したり、ネットワークの構成を変更する指示を出力したりする。
　例えば、自律分散システム２００が、自動運転に関する制御を実施することを一つの目的としている場合、複数の下位エージェント２３０のそれぞれは、複数に区切られた地域毎に、その地域内に位置する車両に搭載されたＩｏＴデバイス４００、信号機等に搭載されたＩｏＴデバイス４００、及び道路等に設置されたＩｏＴデバイス４００等から、情報を収集する。具体例として、下位エージェント２３０は、車両の位置情報、車両のカメラや、街頭のカメラによって撮像された画像、道路のセンサによって検知された車両検知情報や人検知情報、車両のセンサ等によって検知された車両間距離、地域における天候情報、車両のナビゲーション情報、及び車両の走行速度等を収集する。この場合、下位エージェント２３０は、あるエリアを担当することになり、ある車両が当該エリアに入ったときから、当該車両に搭載されているＩｏＴデバイス４００からの情報を収集し、当該車両が当該エリアを出るときに、当該車両が入るエリアを担当する下位エージェント２３０に、情報の収集を引き継ぐ。
　下位エージェント２３０は、他の下位エージェント２３０と情報を共有して、車間距離が閾値より短くなっていることや、車両が人等と衝突するような危険の検知を実行する。下位エージェント２３０は、危険を検知した場合に、対象となる車両に対して、危険検知情報を送信する。車両は、当該危険検知情報を受信したことに応じて、運転者に警告したり、走行を停止したりする。
　中間エージェント２２０は、例えば、下位エージェント２３０に、何の情報を通信するかを指示する。中間エージェント２２０は、例えば、過去に下位エージェント２３０から収集した情報（曜日、時間等）に基づいて、重要情報（人が多い、車が多い等）を分析（学習）し、収集の優先度が高い情報を判定可能にする。そして、中間エージェント２２０は、期間毎に、優先度の高い情報を収集できるように、下位エージェント２３０に指示を出す。中間エージェント２２０は、他の中間エージェント２２０と協調して学習することによって、優先度の高い情報を高い精度で特定可能になる。具体例として、中間エージェント２２０は、学習の結果、平日の朝は、車検知結果の優先度を高くして情報が収集できるように指示し、休日の昼は、人検知結果の優先度を高くして情報が収集できるように指示するようになる。
　上位エージェント２１０は、例えば、より広い範囲の解析を実行する。上位エージェント２１０は、例えば、担当エリア（市、県、国単位の交通情報（交通量、時刻、曜日、イベント、天候）から、数ステップ先の（設定した時刻の）予測を実行し、中間エージェント２２０に情報を提供する。
　図７は、自律分散システム２００の他の一例を概略的に示す。自律分散システム２００は、スイッチエージェント２５０を更に備えてよい。スイッチエージェント２５０は、通信ネットワーク１００を流れる情報量を制御してよい。例えば、上位エージェント２１０、中間エージェント２２０及び下位エージェント２３０によって、メッセージのルーティングが制御される場合において、スイッチエージェント２５０は、通信トラフィックの制御を実行する。
　図８は、上位エージェント２１０、中間エージェント２２０、又は下位エージェント２３０を実装するコンピュータ１２００のハードウェア構成の一例を概略的に示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００を、本実施形態に係る装置の１又は複数の「部」として機能させ、又はコンピュータ１２００に、本実施形態に係る装置に関連付けられるオペレーション又は当該１又は複数の「部」を実行させることができ、及び／又はコンピュータ１２００に、本実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつか又はすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。
　本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、ＲＡＭ１２１４、及びグラフィックコントローラ１２１６を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、記憶装置１２２４、ＤＶＤドライブ１２２６、及びＩＣカードドライブのような入出力ユニットを含み、それらは入出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。ＤＶＤドライブ１２２６は、ＤＶＤ－ＲＯＭドライブ及びＤＶＤ－ＲＡＭドライブ等であってよい。記憶装置１２２４は、ハードディスクドライブ及びソリッドステートドライブ等であってよい。コンピュータ１２００はまた、ＲＯＭ１２３０及びキーボードのようなレガシの入出力ユニットを含み、それらは入出力チップ１２４０を介して入出力コントローラ１２２０に接続されている。
　ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ１２１６は、ＲＡＭ１２１４内に提供されるフレームバッファ等又はそれ自体の中に、ＣＰＵ１２１２によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス１２１８上に表示されるようにする。
　通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。記憶装置１２２４は、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納する。ＤＶＤドライブ１２２６は、プログラム又はデータをＤＶＤ－ＲＯＭ１２２７等から読み取り、記憶装置１２２４に提供する。ＩＣカードドライブは、プログラム及びデータをＩＣカードから読み取り、及び／又はプログラム及びデータをＩＣカードに書き込む。
　ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／又はコンピュータ１２００のハードウェアに依存するプログラムを格納する。入出力チップ１２４０はまた、様々な入出力ユニットをＵＳＢポート、パラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ１２２０に接続してよい。
　プログラムは、ＤＶＤ－ＲＯＭ１２２７又はＩＣカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもある記憶装置１２２４、ＲＡＭ１２１４、又はＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ１２００の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。
　例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、記憶装置１２２４、ＤＶＤ－ＲＯＭ１２２７、又はＩＣカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
　また、ＣＰＵ１２１２は、記憶装置１２２４、ＤＶＤドライブ１２２６（ＤＶＤ－ＲＯＭ１２２７）、ＩＣカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。
　様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、当該複数のエントリの中から、第１の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。
　上で説明したプログラム又はソフトウエアモジュールは、コンピュータ１２００上又はコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。
　本実施形態におけるフローチャート及びブロック図におけるブロックは、オペレーションが実行されるプロセスの段階又はオペレーションを実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、専用回路、コンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、及び／又はコンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタル及び／又はアナログハードウェア回路を含んでよく、集積回路（ＩＣ）及び／又はディスクリート回路を含んでよい。プログラマブル回路は、例えば、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、及びプログラマブルロジックアレイ（ＰＬＡ）等のような、論理積、論理和、排他的論理和、否定論理積、否定論理和、及び他の論理演算、フリップフロップ、レジスタ、並びにメモリエレメントを含む、再構成可能なハードウェア回路を含んでよい。
　コンピュータ可読記憶媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読記憶媒体は、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読記憶媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読記憶媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭ又はフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ－ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク、メモリスティック、集積回路カード等が含まれてよい。
　コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又はＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語又は同様のプログラミング言語のような従来の手続型プログラミング言語を含む、１又は複数のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードのいずれかを含んでよい。
　コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路が、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を生成するために当該コンピュータ可読命令を実行すべく、ローカルに又はローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路に提供されてよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
　以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。
　請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
１００　ネットワーク、１１０　上位コンピューティング、１２０　中間コンピューティング、１３０　下位コンピューティング、２００　自律分散システム、２１０　上位エージェント、２１１　記憶部、２１２　登録部、２１３　情報収集部、２１４　学習実行部、２１５　処理実行部、２１６　情報送信部、２２０　中間エージェント、２２１　記憶部、２２２　登録部、２２３　情報収集部、２２４　学習実行部、２２５　処理実行部、２２６　情報送信部、２３０　下位エージェント、２３１　記憶部、２３２　登録部、２３３　情報収集部、２３４　学習実行部、２３５　処理実行部、２３６　情報送信部、２５０　スイッチエージェント、３００　クラウドネットワーク、３１０　クラウドコンピューティング、３２０　フォグコンピューティング、３３０　エッジコンピューティング、４００　ＩｏＴデバイス、１２００　コンピュータ、１２１０　ホストコントローラ、１２１２　ＣＰＵ、１２１４　ＲＡＭ、１２１６　グラフィックコントローラ、１２１８　ディスプレイデバイス、１２２０　入出力コントローラ、１２２２　通信インタフェース、１２２４　記憶装置、１２２６　ＤＶＤドライブ、１２２７　ＤＶＤ－ＲＯＭ、１２３０　ＲＯＭ、１２４０　入出力チップ

Claims (6)

  1. 　ネットワークに配置された、第１階層の第１階層エージェント及び前記第１階層よりも下位の第２階層の複数の第２階層エージェント
    　を備え、
    　前記複数の第２階層エージェントのそれぞれは、収集した情報を用いて、他の第２階層エージェントと協調して学習を実行し、学習結果を用いて生成した情報を前記第１階層エージェントに送信し、
    　前記第１階層エージェントは、前記複数の第２階層エージェントから受信した情報を用いて学習を実行する、
    　システム。
  2. 　前記第２階層よりも下位の第３階層の複数の第３階層エージェント
    　を更に備え、
    　前記複数の第３階層エージェントのそれぞれは、収集した情報を用いて、他の第３階層エージェントと協調して学習を実行し、学習結果を用いて生成した情報を前記複数の第２階層エージェントの少なくともいずれかに送信する、請求項１に記載のシステム。
  3. 　前記複数の第３階層エージェントのそれぞれは、
    　情報を収集する第３情報収集部と、
    　前記第３情報収集部によって収集された情報を用いて、他の複数の第３階層エージェントと協調して学習を実行する第３学習実行部と、
    　前記第３学習実行部による学習結果を用いて生成した情報を前記複数の第２階層エージェントの少なくともいずれかに送信する第３情報送信部と
    　を有し、
    　前記複数の第２階層エージェントのそれぞれは、
    　複数の前記第３階層エージェントから情報を収集する第２情報収集部と、
    　前記第２情報収集部によって収集された情報を用いて、他の複数の第２階層エージェントと協調して学習を実行する第２学習実行部と、
    　前記第２学習実行部による学習結果を用いて生成した情報を前記第１階層エージェントに送信する第２情報送信部と
    　を有し、
    　前記第１階層エージェントは、
    　複数の前記第２階層エージェントから情報を収集する第１情報収集部と、
    　前記第１情報収集部によって収集された情報を用いて学習を実行する第１学習実行部と
    　を有する、請求項２に記載のシステム。
  4. 　前記第１階層エージェントは、階層型ネットワークの第１ＮＷ階層に配置され、
    　前記複数の第２階層エージェントは、前記階層型ネットワークの前記第１ＮＷ階層よりも下位の第２ＮＷ階層に配置され、
    　前記複数の第３階層エージェントは、前記階層型ネットワークの前記第２ＮＷ階層よりも下位の第３ＮＷ階層に配置される、請求項３に記載のシステム。
  5. 　前記階層型ネットワークは、クラウドネットワークであり、
    　前記第１ＮＷ階層は、クラウドコンピューティングにより構成され、
    　前記第２ＮＷ階層は、複数のフォグコンピューティングにより構成され、
    　前記第３ＮＷ階層は、複数のエッジコンピューティングにより構成される、請求項４に記載のシステム。
  6. 　前記階層型ネットワークは、クラウドネットワークであり、
    　前記第１ＮＷ階層は、クラウドコンピューティングにより構成され、
    　前記第２ＮＷ階層は、複数のフォグコンピューティングにより構成され、
    　前記第３ＮＷ階層は、複数のエッジコンピューティングにより構成され
    　前記第３情報収集部は、複数のＩｏＴデバイスから移動体通信によって情報を収集し、
    　前記第３情報送信部は、前記第３学習実行部による学習結果を用いて、前記第３情報収集部が収集した情報から選択した情報、又は、前記学習結果を用いて生成した情報を前記複数の第２階層エージェントの少なくともいずれかに送信し、
    　前記第２情報収集部は、前記第３情報送信部によって送信された情報を収集し、
    　前記第２情報送信部は、前記第２学習実行部による学習結果を用いて、前記第２情報収集部が収集した情報から選択した情報、又は、前記学習結果を用いて生成した情報を前記第１階層エージェントに送信する、請求項４に記載のシステム。
PCT/JP2023/014300 2022-04-14 2023-04-06 システム Ceased WO2023199846A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202380033774.1A CN119096254A (zh) 2022-04-14 2023-04-06 系统
EP23788265.9A EP4502879B1 (en) 2022-04-14 2023-04-06 System
US18/911,251 US20250036921A1 (en) 2022-04-14 2024-10-10 System

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022066766A JP7392027B2 (ja) 2022-04-14 2022-04-14 システム
JP2022-066766 2022-04-14

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/911,251 Continuation US20250036921A1 (en) 2022-04-14 2024-10-10 System

Publications (1)

Publication Number Publication Date
WO2023199846A1 true WO2023199846A1 (ja) 2023-10-19

Family

ID=88329680

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/014300 Ceased WO2023199846A1 (ja) 2022-04-14 2023-04-06 システム

Country Status (5)

Country Link
US (1) US20250036921A1 (ja)
EP (1) EP4502879B1 (ja)
JP (1) JP7392027B2 (ja)
CN (1) CN119096254A (ja)
WO (1) WO2023199846A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2025176449A (ja) * 2024-05-21 2025-12-04 三浦工業株式会社 環境情報収集システム
JP7672632B1 (ja) * 2025-02-10 2025-05-08 久利寿 帝都 ネットワーク化システムおよび情報処理方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004227208A (ja) 2003-01-22 2004-08-12 Matsushita Electric Ind Co Ltd ユーザ適応型行動決定装置および行動決定方法
JP2021140825A (ja) * 2014-12-22 2021-09-16 インテル コーポレイション ホリスティックグローバルなパフォーマンス及び電力管理

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105610944B (zh) * 2015-12-29 2019-03-05 北京物联远信息技术有限公司 一种面向物联网的雾计算架构
CN111709542A (zh) * 2020-06-12 2020-09-25 浪潮集团有限公司 一种基于雾计算环境的车辆预测诊断方法
WO2022212079A1 (en) * 2021-04-01 2022-10-06 University Of South Florida Deep reinforcement learning for adaptive network slicing in 5g for intelligent vehicular systems and smart cities
CN113465920B (zh) * 2021-06-08 2022-04-22 西安交通大学 云、雾、边缘端协同的轴承状态监测与管理方法及系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004227208A (ja) 2003-01-22 2004-08-12 Matsushita Electric Ind Co Ltd ユーザ適応型行動決定装置および行動決定方法
JP2021140825A (ja) * 2014-12-22 2021-09-16 インテル コーポレイション ホリスティックグローバルなパフォーマンス及び電力管理

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ALEXANDER SASHA VEZHNEVETS; SIMON OSINDERO; TOM SCHAUL; NICOLAS HEESS; MAX JADERBERG; DAVID SILVER; KORAY KAVUKCUOGLU: "FeUdal Networks for Hierarchical Reinforcement Learning", ARXIV.ORG, 3 March 2017 (2017-03-03), XP080754067 *
See also references of EP4502879A4

Also Published As

Publication number Publication date
EP4502879A4 (en) 2025-07-09
EP4502879B1 (en) 2026-02-04
EP4502879A1 (en) 2025-02-05
CN119096254A (zh) 2024-12-06
JP2023157091A (ja) 2023-10-26
EP4502879C0 (en) 2026-02-04
JP7392027B2 (ja) 2023-12-05
US20250036921A1 (en) 2025-01-30

Similar Documents

Publication Publication Date Title
CN112400192B (zh) 多模态深度交通信号控制的方法和系统
JP6738932B2 (ja) シミュレーションプラットフォームに配置された、機械学習モデルを訓練するためのシステム及び方法
US11181913B2 (en) Autonomous vehicle fleet model training and testing
US11548518B2 (en) Subjective route comfort modeling and prediction
Alsrehin et al. Intelligent transportation and control systems using data mining and machine learning techniques: A comprehensive study
JP7542085B2 (ja) 離脱予測とトリアージ支援のためのシステムと方法
JP6722280B2 (ja) 自律走行車の交通予測における予測軌跡の評価フレームワーク
US11398150B2 (en) Navigation analysis for a multi-lane roadway
JP7068260B2 (ja) データ処理を優先順位付けするシステム及び方法
US20250036921A1 (en) System
EP3035314A1 (en) A traffic data fusion system and the related method for providing a traffic state for a network of roads
CN112629550B (zh) 一种预测障碍物轨迹以及模型训练的方法及装置
Louati et al. Multi-agent deep neural networks coupled with LQF-MWM algorithm for traffic control and emergency vehicles guidance
JP2019192234A (ja) 複数のキューを利用したオブジェクト追跡
Ikiriwatte et al. Traffic density estimation and traffic control using convolutional neural network
CN112783619A (zh) 一种任务调度方法、装置和自动驾驶系统
Louati A hybridization of deep learning techniques to predict and control traffic disturbances
CN115158323A (zh) 车辆的行驶路况预测方法和车辆
Mahmoud et al. The future of digital twins for autonomous systems: analysis and opportunities
US20240095151A1 (en) Optimized test selection
Tzortzoglou et al. Teaching cars to drive
US20220348232A1 (en) Fleet-level av simulation system and method
US12135632B2 (en) Control loop for scaling agents in a cluster
KR20220101535A (ko) 딥러닝 기반 온-디바이스 실시간 교통제어 시스템
CN110807912A (zh) 一种道路行车速度预测方法、终端设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23788265

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 202380033774.1

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 2023788265

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2023788265

Country of ref document: EP

Effective date: 20241101

WWE Wipo information: entry into national phase

Ref document number: 202417087480

Country of ref document: IN

NENP Non-entry into the national phase

Ref country code: DE

WWG Wipo information: grant in national office

Ref document number: 2023788265

Country of ref document: EP