WO2022158255A1 - 情報処理装置、および移動装置、並びに情報処理システム - Google Patents

情報処理装置、および移動装置、並びに情報処理システム Download PDF

Info

Publication number
WO2022158255A1
WO2022158255A1 PCT/JP2021/048264 JP2021048264W WO2022158255A1 WO 2022158255 A1 WO2022158255 A1 WO 2022158255A1 JP 2021048264 W JP2021048264 W JP 2021048264W WO 2022158255 A1 WO2022158255 A1 WO 2022158255A1
Authority
WO
WIPO (PCT)
Prior art keywords
area
stage
map
data
potential map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2021/048264
Other languages
English (en)
French (fr)
Inventor
直之 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Priority to JP2022577067A priority Critical patent/JP7823590B2/ja
Priority to CN202180090687.0A priority patent/CN116783565A/zh
Priority to US18/260,619 priority patent/US20240053169A1/en
Publication of WO2022158255A1 publication Critical patent/WO2022158255A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20—Instruments for performing navigational calculations
    • G01C21/206—Instruments for performing navigational calculations specially adapted for indoor navigation
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804—Creation or updating of map data
    • G01C21/3833—Creation or updating of map data characterised by the source of data
    • G01C21/3837—Data obtained from a single source
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/005—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions

Definitions

  • the present disclosure relates to information processing devices, mobile devices, and information processing systems. More specifically, in a configuration where a performance such as a performer's song performed on the stage is filmed with a camera attached to a moving device (automatic traveling robot) that moves on the stage, it collides with an object such as a performer or a speaker on the stage.
  • the present invention relates to an information processing device, a moving device, and an information processing system that generate a map that sets a route that does not interfere with the line of sight of spectators, and controls movement according to the map.
  • the camera When performing such image capturing, the camera is mounted on a moving device (cart) such as an automatic traveling robot, moves to various positions on the stage, and captures images from various angles.
  • a moving device such as an automatic traveling robot
  • Patent Document 1 Japanese Unexamined Patent Application Publication No. 2020-087061
  • Patent Document 2 Patent No. 5160322
  • Patent Document 1 discloses an unmanned mobile body that monitors a person so as not to interfere with the person to be monitored. Specifically, it is a configuration in which a region in which a moving object is difficult to be sensed by the sensory organs of a person to be monitored is determined, and monitoring is performed from the determined region.
  • Patent Document 2 discloses a robot device that follows a certain object, and even if an obstacle enters between the object to be followed and the robot and the robot is about to lose sight of the object to be followed, the robot continues the following process.
  • An enabling configuration is disclosed.
  • Patent Document 1 selects an area to be monitored that is difficult for a human to perceive, and monitors from the selected position. , each merely disclosing a configuration for achieving a particular purpose.
  • Patent Documents 1 and 2 do not disclose a control configuration for determining the optimum route for moving the camera in consideration of such various situations.
  • the present disclosure has been made, for example, in view of the above problems, and it is possible to optimize the camera according to various situations such as the movement position of the performer performing on the stage, the position of the equipment on the stage, and the line of sight of the audience.
  • the present invention provides an information processing device, a mobile device, and an information processing system that determine a suitable position and travel route and control the movement of a mobile device (camera).
  • a first aspect of the present disclosure includes: having a data processing unit that generates a potential map that defines a travel allowable area of an image capturing robot that moves on a stage and captures an image;
  • the data processing unit Acquiring at least one of action schedule data of the performer on the stage and arrangement schedule data of the object on the stage, and determining a probability of collision with the performer or the object on the stage based on the acquired data.
  • An information processing device that generates a potential map that defines a permissible travel area below a value.
  • a second aspect of the present disclosure is A map generated based on at least one of action schedule data of a performer on the stage and arrangement schedule data of an object on the stage, wherein the probability of collision with the performer or object on the stage is a specified threshold value.
  • a storage unit that stores travel route information generated based on a potential map that defines the following permissible travel regions, or at least one of a communication unit that acquires the travel route information from an external device, The mobile device executes travel processing according to either the travel route information acquired from the storage unit or the travel route information acquired via the communication unit.
  • a third aspect of the present disclosure is An information processing system having an image capturing robot and a server
  • the image capturing robot is an image capturing robot that moves on a stage to capture an image
  • the server is a data processing unit that generates a potential map that defines an allowable travel area of the imaging robot;
  • the data processing unit Acquiring at least one of action schedule data of the performer on the stage and arrangement schedule data of the object on the stage, and determining a probability of collision with the performer or the object on the stage based on the acquired data.
  • the imaging robot is An information processing system that travels along a travel route determined based on the potential map generated by the server.
  • a system is a logical collective configuration of a plurality of devices, and the devices of each configuration are not limited to being in the same housing.
  • a map for determining a safe running route that does not collide with performers and objects on the stage is generated, and the imaging robot is caused to travel along the route determined based on the map. becomes possible.
  • a potential map is generated that defines an allowable travel area for an image capturing robot that moves on a stage to capture images.
  • the data processing unit acquires the action schedule data of the performer on the stage, the arrangement schedule data of the object, and the lighting control schedule data on the stage, and based on the acquired data, an area that does not collide with the performer or the object and is not conspicuous due to lighting. is defined as the permissible travel area.
  • the robot travel route is determined and the robot travels.
  • the robot travel route is determined and the robot travels.
  • FIG. 2 is a diagram illustrating an overview of a live stage and an overview of processing of the present disclosure
  • FIG. FIG. 2 is a diagram illustrating an overview of a live stage and an overview of processing of the present disclosure
  • FIG. FIG. 2 is a diagram illustrating an overview of a live stage and an overview of processing of the present disclosure
  • FIG. It is a figure explaining the structure and process of the information processing apparatus of this indication. It is a figure explaining the structure and process of the information processing system of this indication.
  • FIG. 4 is a diagram illustrating an example of a performer-based potential map generated by an individual potential map generation unit
  • FIG. 4 is a diagram illustrating an example of a lighting base potential map generated by an individual potential map generation unit
  • FIG. 4 is a diagram illustrating an example of an object-based potential map generated by an individual potential map generation unit;
  • FIG. 4 is a diagram illustrating an example of a pre-generated potential map generated by a potential map synthesizing unit; It is a figure explaining the structure and process of the information processing apparatus of this indication.
  • FIG. 4 is a diagram illustrating an example of an imaging robot travel route determined based on a pre-generated potential map;
  • FIG. 10 is a diagram showing a flowchart describing a performer-based potential map generation processing sequence executed by the information processing apparatus of the present disclosure;
  • FIG. 10 is a diagram showing a flowchart describing a lighting-based potential map generation processing sequence executed by the information processing apparatus of the present disclosure;
  • FIG. 10 is a diagram showing a flowchart describing a lighting-based potential map generation processing sequence executed by the information processing apparatus of the present disclosure
  • FIG. 4 is a diagram showing a flowchart describing an object-based potential map generation processing sequence executed by the information processing apparatus of the present disclosure
  • FIG. 5 is a diagram showing a flowchart describing a pre-generated potential map generation processing sequence executed by the information processing apparatus of the present disclosure
  • FIG. 4 is a diagram describing an example of a simulation image generated by the information processing apparatus of the present disclosure
  • FIG. 11 is a diagram illustrating processing in a second embodiment of the present disclosure
  • FIG. FIG. 11 is a diagram illustrating processing in a second embodiment of the present disclosure
  • FIG. 10 is a diagram illustrating a configuration example and processing of an information processing apparatus according to a second embodiment of the present disclosure
  • FIG. 10 is a diagram illustrating an example of a priority spectator & TV camera base potential map generated by an information processing apparatus according to a second embodiment of the present disclosure
  • FIG. 4 is a diagram showing a flowchart describing a processing sequence for generating a priority spectator & TV camera base potential map executed by the information processing apparatus of the present disclosure
  • FIG. 12 is a diagram showing a flowchart describing a pre-generated potential map generation processing sequence executed by the information processing apparatus according to the second embodiment of the present disclosure
  • FIG. 11 is a diagram illustrating a configuration example and processing of an information processing apparatus according to a third embodiment of the present disclosure
  • FIG. 11 is a diagram illustrating the configuration and processing of an information processing system according to Example 3 of the present disclosure
  • FIG. 11 is a diagram illustrating an example of a potential map generated by an information processing apparatus according to Example 3 of the present disclosure
  • FIG. 11 is a diagram illustrating an example of a potential map generated by an information processing apparatus according to Example 3 of the present disclosure
  • FIG. 12 is a diagram illustrating a flowchart describing a real-time data reflection potential map generation processing sequence executed by an information processing apparatus according to a third embodiment of the present disclosure
  • FIG. 12 is a diagram illustrating a flowchart describing a real-time data reflection potential map generation processing sequence executed by an information processing apparatus according to a third embodiment of the present disclosure
  • It is a figure explaining the hardware structural example of the information processing apparatus of this indication.
  • FIG. 1 is a diagram showing an example of a performance such as a live music performance on a stage.
  • the example shown in FIG. 1 is an example in which a performer 20 who is a duo of idol singers is performing live music on the stage 10 .
  • a large number of spectators 30 are in front of the stage 10 and are watching the performance of the performers 20 .
  • the image capturing robot 50 shown in FIG. 1 is a mobile device on which a camera is mounted, that is, a running robot, and moves around the stage to capture the performance of the performer 20 from various angles.
  • the image capturing robot 50 is an automatic traveling robot (moving device) such as a trolley equipped with a camera, and captures images from various angles while traveling on the stage, for example, following a predetermined running route.
  • moving device such as a trolley equipped with a camera
  • the image capturing robot 50 needs to select a safe running route and move so as not to collide with the performers moving around on the stage and equipment such as microphones and speakers installed on the stage. In addition, it is also required to move so as not to interfere with the line of sight of the audience in front of the stage and surroundings.
  • speakers 12, monitors 13, and various decorative objects 14 are placed on a stage 10 where live performances are actually performed, and lighting 11 is also applied to performers 20 and the like.
  • the performer 20 moves around the stage as the live performance progresses, and the position, brightness, and color of the lighting 11 change according to this movement. Also, the decoration objects 14 are replaced one after another according to the progress of the live performance.
  • the stage state shown in FIG. 2 is a scene at time t1 during a live performance.
  • the stage state at a certain time t2 after that for example, as shown in FIG. 3, the position of the performer 20 is changed, and the position, brightness, and color of the illumination 11 are also changed.
  • the decoration object 14 is also replaced.
  • the position of the performer 20 on the stage, the position, brightness and color of the lighting 11, the position of the decoration object, etc. are sequentially changed according to the time period during which the live performance is performed.
  • the image capturing robot 50 needs to run so as not to collide with the performer 20, the decoration object 14 on the stage, the speaker 12, and other objects arranged thereon.
  • the present disclosure determines the optimal camera position and travel route according to various situations such as the movement position of the performer performing on the stage, the position of the equipment on the stage, the lighting, the line of sight of the audience, etc. camera). Details of the configuration and processing of the present disclosure will be described below.
  • FIG. 4 is a diagram illustrating a configuration example of the information processing apparatus 100 according to the first embodiment of the present disclosure.
  • the information processing apparatus 100 may be configured inside the moving apparatus running on the stage shown in FIGS.
  • a device that is independent of the image capturing robot 50 may be used.
  • FIG. 5 shows a configuration example of an information processing system in which the information processing apparatus having the configuration shown in FIG. 4 is independent of the image capturing robot 50 .
  • an information processing system 180 is constructed in which an information processing device (server) 100, a live venue information acquisition device 60, an image capturing robot 50 in the live venue, etc. are connected via a communication network. do.
  • the information processing apparatus (server) 100 has the configuration shown in FIG.
  • the live venue information acquisition device 60 is composed of a camera that captures images of the live venue, a microphone that acquires audio information of the live venue, an illuminance meter that detects lighting conditions, a color analysis device, etc., and acquires information such as the acquired image. , to the information processing apparatus (server) 100 via the communication network.
  • the information processing device (server) 100 performs processing for generating a map (potential map) for determining the running route of the image capturing robot 50 in the live venue, determining the running route using the map, and determining the determined running route. Accordingly, processing for generating travel control information for the image capturing robot 50 and the like are performed.
  • the information processing device (server) 100 further transmits the generated travel control information to the image capturing robot 50 via the communication network.
  • the image capturing robot 50 runs on the stage according to the running control information received from the information processing device (server) 100 . For example, it is possible to perform processing using such an information processing system.
  • the information processing device 100 has a storage unit 110 , an individual potential map generation unit 120 , a potential map synthesis unit 130 and a travel route generation unit 160 .
  • the information processing apparatus 100 may be configured inside the moving apparatus that runs on the stage shown in FIGS. It may be a device independent of the image capturing robot 50, such as a device capable of communicating with the image capturing robot 50, like the information processing device (server) 100 shown.
  • the storage unit 110 stores the following three data.
  • A. performer action schedule data 111 B. stage lighting control schedule data 112
  • these three scheduled data are data that are prepared in advance and stored in the storage unit 110 before the start of the live performance. That is, it is schedule data prepared in advance according to a program such as a live progress table prepared before the start of the live performance.
  • the information processing apparatus 100 uses these schedule data to generate a map (potential map) for setting a safe travel route that does not cause the image capturing robot 50 to collide with objects such as performers and speakers.
  • a map potential map
  • the image capturing robot 50 is caused to travel according to a safe travel route selected using the generated potential map.
  • the performer action schedule data 111 is time-series position data of performers moving around on stage during a live performance. That is, it is time-series position data of the performer from the start to the end of the live (performance).
  • the stage lighting control schedule data 112 is time-series data of lighting control information including lighting setting information such as the lighting position, brightness, and color of the lighting from the start to the end of the live (performance).
  • the on-stage object placement schedule data 113 is time-series data of on-stage object placement position information including the placement positions of on-stage objects from the start to the end of a live performance (performance).
  • the on-stage objects include speakers, monitors, decorative objects, and the like placed on the stage.
  • All of these three types of data are time-series scheduled data from the start to the end of a live performance (performance). In other words, for example, if it is a one-hour live, A. performer action schedule data 111, B. stage lighting control schedule data 112, C. On-stage object placement schedule data 113, These three types of time-series schedule data for one hour are recorded in the storage unit 110 .
  • the data stored in the storage unit 110 is used in the individual potential map generation unit 120.
  • FIG. The individual potential map generating section 120 generates the following three types of individual potential maps by using the three types of time-series data A, B, and C individually.
  • map a performer base potential map
  • map b lighting base potential map
  • map c object-based potential map
  • the potential map is a map that defines a travel prohibited area, a travel caution area, and a travel permitted area for the image capturing robot 50 described with reference to FIGS. All of the above three types of maps a to c are time-series maps.
  • Map b lighting base potential map shows each area (no driving area, caution driving area, permitted driving area) according to the lighting conditions (lighting position, brightness, color, etc.) from the start to the end of the live (performance).
  • Map c Object-based potential map is a time series map that dynamically changes each area (no driving area, caution driving area, permitted driving area) according to the object placement position from the start to the end of the live (performance) is.
  • the individual potential map generation unit 120 executes each process of steps S11 to S13 shown in the figure. i.e.
  • steps S11 to S13 can be executed as parallel processing. These processes will be sequentially described below.
  • Performer Base Potential Map is a time series map that dynamically changes each area (no driving area, caution driving area, permitted driving area) according to the position of the performer from the start to the end of the live (performance).
  • FIG. 6 shows an example of a performer base potential map at four timings (t1 to t4).
  • the map (t1) in the upper left of FIG. 6 is an example of the "performer base potential map" at time t1.
  • the potential map is a map generated before the actual start of the live performance, and the position of the performer is the expected position of the performer estimated according to the live program such as the live progress chart.
  • the action schedule data indicating the position of the performer from the start to the end of the live (performance) is stored in A. It is generated and recorded in advance as performer action schedule data 111 .
  • Performer Base Potential Map is a map in which different colors are assigned for each area according to the area (driving prohibited area, cautionary driving area, permitted driving area) determined according to the distance from the performer's position as shown below. is.
  • a close-range position of the performer position is set to red as a travel-prohibited area.
  • the mid-distance position of the performer position is set to yellow as a driving caution area.
  • the long-distance position of the performer's position is set to blue as the travel-permissible region.
  • the map (t2) in the upper right of FIG. 6 is an example of the "performer's base potential map" at time t2 after a certain period of time has elapsed from time t1.
  • the two actors are moving to different positions than at time t1.
  • the setting of these three areas ie, the travel prohibited area (red), the travel caution area (yellow), and the travel permitted area (blue), also changes.
  • the map (t3) in the lower left of FIG. 6 is an example of the "performer's base potential map" at time t3 after a certain period of time has elapsed from time t2.
  • the two actors are moving to positions different from those at times t1 and t2.
  • the setting of these three areas ie, the travel prohibited area (red), the travel caution area (yellow), and the travel permitted area (blue), also changes.
  • the map (t4) in the lower right of FIG. 6 is an example of the "performer's base potential map" at time t4 after a certain period of time has elapsed from time t3.
  • the two performers are moving to positions different from those at times t1-t3.
  • the setting of these three areas ie, the travel prohibited area (red), the travel caution area (yellow), and the travel permitted area (blue), also changes.
  • the "Performer Base Potential Map” dynamically changes each area (driving prohibited area, cautionary driving area, permitted driving area) according to the position of the performer from the start time to the end time of the live (performance). This is a time series map.
  • the action schedule data indicating the position of the performer from the start to the end of the live (performance) is stored in A. It is generated and recorded in advance as performer action schedule data 111 .
  • the individual potential map generation unit 120 stores the A.
  • Generate a ⁇ performer-based potential map''.
  • the "Lighting Base Potential Map” is used for each area (no-driving area, caution-not-driving area, This is a time-series map in which the allowable area) is dynamically changed, and is a time-series map in which the following three areas (b1 to b3) are set.
  • No-travel area (red) Area conspicuous due to lighting conditions (bright area or lighting area with a different color than the image capturing robot) b3.
  • Permissible travel area (blue) Inconspicuous area due to lighting conditions (dark area or lighting area with the same color as the image capturing robot) b2.
  • Driving caution area (yellow) intermediate area between b1 and b3
  • FIG. 7 shows an example of illumination base potential maps at four timings (t1 to t4).
  • the map (t1) in the upper left of FIG. 7 is an example of the "illumination base potential map" at time t1.
  • This map (t1) is an example of a map in a state where the illumination is dark overall at the start of a live performance, for example.
  • the map (t2) in the upper right of FIG. 7 is an example of the "illumination base potential map" at time t2 after a certain period of time has elapsed from time t1.
  • the illumination state (illumination position, brightness, color, etc.) is set to a state different from that at time t1.
  • the setting of these three areas ie, no-travel area (red), caution-driving area (yellow), and permissible-travel area (blue), also changes.
  • Lighting Base Potential Map is based on areas (no-driving areas, caution-driving areas, permissible driving areas) determined according to lighting conditions (lighting position, brightness, color, etc.) as shown below.
  • a map with different colors That is, areas that are conspicuous due to lighting conditions (bright areas or illumination areas with a color different from that of the image capturing robot) are set to red as travel-prohibited areas. Areas that are inconspicuous due to the lighting conditions (dark areas and illumination areas of the same color as the image capturing robot) are set to blue as travel-permissible areas. An intermediate area between the travel-prohibited area and the travel-allowed area is set in yellow as a travel caution area.
  • the map (t3) in the lower left of FIG. 7 is an example of the "illumination base potential map" at time t3 after a certain period of time has elapsed from time t2.
  • the lighting conditions (illumination position, brightness, color, etc.) are different from those at times t1 and t2.
  • the setting of these three areas ie, no-travel area (red), caution-driving area (yellow), and permissible-travel area (blue), also changes.
  • the map (t4) in the lower right of FIG. 7 is an example of the "illumination base potential map" at time t4 after a certain period of time has elapsed from time t3.
  • the lighting conditions (illumination position, brightness, color, etc.) are set to a state different from that at times t1 to t3.
  • the setting of these three areas ie, no-travel area (red), caution-driving area (yellow), and permissible-travel area (blue), also changes.
  • the "Lighting Base Potential Map” can be used for each area (no driving area, caution driving area, etc.) according to changes in the lighting conditions (lighting position, brightness, color, etc.) from the start time to the end time of the live (performance). It is a time-series map in which the area, driving allowable area) is dynamically changed.
  • transition schedule data of lighting conditions (lighting position, brightness, color, etc.) from the start to the end of a live performance (performance) are stored in B. It is generated and recorded in advance as stage lighting control schedule data 112 .
  • the individual potential map generation unit 120 stores the B.
  • Generate map b “illumination base potential map”.
  • Objects are objects placed on the stage, such as speakers, monitors, and decorative objects.
  • FIG. 8 shows examples of object-based potential maps at four timings (t1 to t4).
  • the map (t1) in the upper left of FIG. 8 is an example of the "object-based potential map" at time t1. Speakers, monitors, decorative objects, and the like are placed on the stage, and some of these are moved or replaced as the live progresses.
  • the "object-based potential map” has different colors for each area according to the area (no-driving area, cautionary driving area, permitted driving area) determined according to the distance from the object placement position as shown below. is a map.
  • the close distance position of the object arrangement position is set to red as a travel prohibited area.
  • a middle-distance position of the object arrangement position is set to yellow as a driving caution area.
  • the long-distance position of the object placement position is set to blue as the travel permissible region.
  • the map (t2) on the upper right of FIG. 8 is an example of the "object-based potential map" at time t2 after a certain period of time has elapsed from time t1.
  • the object on the stage has been moved or replaced to a different position than at time t1.
  • the setting of these three areas ie, the travel prohibited area (red), the travel caution area (yellow), and the travel permitted area (blue), also changes.
  • the map (t3) in the lower left of FIG. 8 is an example of the "object-based potential map" at time t3 after a certain period of time has elapsed from time t2.
  • the object on the stage has been moved or replaced to a position different from that at times t1 and t2.
  • the setting of these three areas ie, the travel prohibited area (red), the travel caution area (yellow), and the travel permitted area (blue), also changes.
  • the map (t4) in the lower right of FIG. 8 is an example of the "object-based potential map" at time t4 after a certain period of time has elapsed from time t3.
  • the object on the stage has moved or been replaced to a position different from that at times t1-t3.
  • the setting of these three areas ie, the travel prohibited area (red), the travel caution area (yellow), and the travel permitted area (blue), also changes.
  • the "object-based potential map” moves each area (no driving area, caution driving area, permitted driving area) according to the position of objects on the stage from the start time to the end time of the live (performance). It is a time-series map that changes dynamically.
  • on-stage object placement schedule data indicating the placement positions of objects from the start to the end of a live (performance) is stored in the C.I. It is generated and recorded in advance as on-stage object placement schedule data 113 .
  • the individual potential map generation unit 120 stores the C.I.
  • the on-stage object placement schedule data 113 is acquired, the acquired data is referenced, and each area (no-driving area, caution-driving area, permissible-driving area) is dynamically changed from the start to the end of the live (performance).
  • Generate a series map c “object-based potential map”.
  • map a performer base potential map
  • map b lighting base potential map
  • map c object-based potential map
  • the potential map synthesizing unit 130 generates a pre-generated potential map 150 by synthesizing the three individual potential maps generated by the individual potential map generating unit 120 .
  • the pre-generated potential map 150 is also a time-series map in which each region (driving prohibited region, cautionary driving region, permitted driving region) is dynamically changed from the start to the end of the live (performance).
  • FIG. 1 A specific example of the pre-generated potential map 150 generated by the potential map synthesizing unit 130 is shown in FIG.
  • FIG. 9 shows an example of pre-generated potential maps 150 at four timings (t1 to t4) similar to the individual potential maps described with reference to FIGS. 6 to 8.
  • FIG. 9 shows an example of pre-generated potential maps 150 at four timings (t1 to t4) similar to the individual potential maps described with reference to FIGS. 6 to 8.
  • the pre-generated potential maps for the four timings (t1 to t4) shown in FIG. 9 are respectively generated by synthesizing the individual potential maps for the same four timings (t1 to t4) shown in FIGS. 6 to 8 for each timing. It is a map that
  • the map (t1) in the upper left of FIG. 9 is the “pre-generated potential map” at time t1.
  • This "pre-generated potential map” at time t1 is a performer base potential map at time t1 shown in FIG. 6 (t1); an illumination base potential map at time t1 shown in FIG. 7 (t1); Object-based potential map at time t1 shown in FIG. 8 (t1), This map is obtained by synthesizing these three individual potential maps at the same timing (t1).
  • a specific synthesizing process sequence will be described later, but for example, the synthesizing process is performed by the following process.
  • Such quantification is performed, the numerical values of each region of each individual potential map are added, and a pre-generated potential map as a composite map is generated based on the addition result.
  • an area with an additional value of 10 or more is a driving prohibited area
  • an area with an additional value of 5 or more and less than 10 is a driving caution area
  • an area with an additional value of less than 5 is a driving permitted area.
  • the "pre-generated potential map" shown in FIG. 9 (t1) is a performer base potential map at time t1 shown in FIG. 6 (t1); an illumination base potential map at time t1 shown in FIG. 7 (t1); Object-based potential map at time t1 shown in FIG. 8 (t1), A map generated by digitizing and adding each area (driving prohibition area, caution driving area, driving allowable area) of the individual potential map at the same timing (t1), and performing area division based on the above added value. be.
  • Pre-generated potential map considers all of the performer's position, lighting conditions (lighting position, brightness, color), and object placement position, and determines the driving prohibited area, driving caution area, and driving permitted area. This is a map in which the following different colors are assigned for each area.
  • the no-travel area is set in red.
  • the driving caution area is set to yellow.
  • the permissible travel area is set in blue.
  • the map (t2) in the upper right of FIG. 9 is an example of a composite map at time t2 after a certain period of time has elapsed from time t1, that is, a "previously generated potential map.”
  • the performer's position, lighting conditions (lighting position, brightness, color), and object placement positions are set differently from those at time t1.
  • the "pre-generated potential map" at time t2 is a performer base potential map at time t2 shown in FIG. 6 (t2); an illumination base potential map at time t2 shown in FIG. 7 (t2); Object-based potential map at time t2 shown in FIG. 8 (t2), This map is generated by quantifying and adding the respective regions (driving prohibited region, cautionary driving region, and permitted driving region) of these three individual potential maps at the same timing (t2), and performing region division based on the added value.
  • the map (t3) in the lower left of FIG. 9 is an example of a synthesized map at time t3 after a certain period of time has elapsed from time t2, that is, a "previously generated potential map.”
  • the performer's position, lighting conditions (lighting position, brightness, color), and object placement positions are set differently from those at times t1 and t2.
  • the "pre-generated potential map" at time t3 is a performer base potential map at time t3 shown in FIG. 6 (t3); an illumination base potential map at time t3 shown in FIG. 7 (t3); Object-based potential map at time t3 shown in FIG. 8 (t3), This map is generated by quantifying and adding the respective regions (driving prohibited region, cautionary driving region, and permitted driving region) of these three individual potential maps at the same timing (t3), and performing region division based on the added value.
  • the map (t4) in the lower right of FIG. 9 is an example of a composite map at time t4 after a certain period of time has elapsed from time t3, that is, a "previously generated potential map.”
  • the performer's position, lighting conditions (lighting position, brightness, color), and object placement positions are set differently from those at times t1 to t3.
  • the "pre-generated potential map" at time t4 is a performer base potential map at time t4 shown in FIG. 6 (t4); an illumination base potential map at time t4 shown in FIG. 7 (t4); Object-based potential map at time t4 shown in FIG. 8 (t4), This map is generated by quantifying and adding the respective regions (driving prohibited region, cautionary driving region, and permitted driving region) of these three individual potential maps at the same timing (t4), and performing region division based on the added value.
  • the potential map synthesizing unit 130 digitizes and adds each region (driving prohibited region, cautionary driving region, permissible driving region) of a plurality of individual potential maps at the same timing, performs region segmentation based on the added value, and generates in advance. Generate a potential map 150 .
  • the pre-generated potential map 150 generated by the potential map synthesizing section 130 is provided to the driving route generating section 160, and the driving route generating section 160 generates a map from the start to the end of the live (performance) based on the pre-generated potential map 150.
  • a travel route of the image capturing robot 50 is determined.
  • the travel route generating unit 160 receives the pre-generated potential map 150 generated by the potential map synthesizing unit 130, and the image capturing robot 50 performs live (performance) from start to finish.
  • Running route information 165 is generated in which a route for selecting and running an area that is not conspicuous due to illumination is selected without colliding with objects on the stage or on the stage.
  • the travel route generator 160 for example, creates a travel route that travels only in the permissible travel area in the pre-generated potential map 150.
  • the generated travel route is provided to the travel control unit 170 that controls travel of the image capturing robot 50 , and the travel control unit 170 causes the image capturing robot 50 to travel according to the generated travel route information 165 .
  • the traveling control unit 170 may be configured as an information processing device within the image capturing robot 50 or may be configured as an information processing device capable of communicating with a robot outside the image capturing robot 50 .
  • the image capturing robot 50 can be placed on the performer or on the stage from the start to the end of the live (performance). It is possible to select and run an area that is not conspicuous due to illumination without colliding with objects.
  • FIG. 11 shows an example of the travel route of the image capturing robot 50 from time (t3) to (t4).
  • the travel route of the image capturing robot 50 from time (t3) to (t4) shown in FIG. is.
  • the performer and objects on the stage will be affected from the start to the end of the live (performance). It is possible to select and run an area that is not conspicuous by lighting without colliding.
  • FIG. 12 Sequence for generating map a "performer base potential map”
  • Fig. 13 to Fig. 14 Sequence for generating map b "illumination base potential map”
  • Fig. 15 Map c "object base potential map” ” generation sequence
  • FIG. 16 is a processing sequence for generating a "previously generated potential map", which is a synthetic map, executed by the potential map synthesizing unit 130 of the information processing apparatus 100 shown in FIG.
  • the processing according to the flow described below can be executed, for example, according to a program stored in the storage unit of the information processing device, under the control of a control unit having a program execution function such as a CPU. is executed in Details of the processing of the flow shown in FIG. 14 will be sequentially described below.
  • step S11 executed by the individual potential map generation unit 120 described above with reference to FIG. Equivalent to detailed sequence.
  • map a base potential of the performer, which is a time-series map in which each area (no-driving area, caution-not-driving area, permitted-driving area) is dynamically changed according to the position of the performer from the start to the end of the live performance. 4 is a detailed sequence of map generation processing;
  • This is, for example, performer action schedule data generated based on a preset live program, that is, "A. performer action schedule data 111" stored in the storage unit 110 of the information processing apparatus 100 shown in FIG. Executed as a process to get from
  • Step S102 the data processing unit of the information processing device 100 selects one performer P to be analyzed.
  • step S103 the data processing unit of the information processing apparatus 100 acquires time-series behavior data of the analysis target performer P from the start to the end of the live performance.
  • This process also includes, for example, performer action schedule data generated based on a preset live program, that is, “A. ” is executed as a process to obtain from
  • Step S104 the data processing unit of the information processing apparatus 100 generates a potential map based on the time-series action data of the performer P to be analyzed from the start to the end of the live performance.
  • the close distance position of the position of the performer P is set to red as a travel prohibition area.
  • the medium-distance position of the position of the performer P is set to yellow as a driving caution area.
  • the long-distance position of the position of the performer P is set in blue as the travel-permissible region.
  • step S105 the data processing unit of the information processing device 100 determines the presence or absence of an analysis-unprocessed performer. That is, it is determined whether or not generation of all performer base potential maps for the number of performers na acquired in step S101 has been completed.
  • step S105 If there is an unprocessed performer, the determination in step S105 is Yes. In this case, the processing of step S102 and subsequent steps is executed for the unprocessed performers. On the other hand, if there is no unprocessed performer, that is, if it is determined that generation of all performer base potential maps for the number of performers na obtained in step S101 has been completed, the determination in step S105 is No. In this case, the process proceeds to step S106.
  • Step S106 When the generation of all actor-based potential maps is completed, the data processing unit of the information processing apparatus 100 executes the processing from step S106 onwards.
  • step S107 the data processing unit of the information processing apparatus 100 adds the numerical values corresponding to the regions of the potential maps of all the performers 1 to na for each region to calculate the added value corresponding to the regions.
  • Step S108 the data processing unit of the information processing apparatus 100 resets the area divisions based on the added values corresponding to the areas of the potential maps of all the performers 1 to na.
  • step S109 the data processing unit of the information processing apparatus 100 outputs the potential map whose area segmentation has been reset in step S108 to the potential map synthesizing unit 130 as a "performer base potential map.”
  • map a is a time-series map in which each area (driving prohibited area, cautionary driving area, permitted driving area) is dynamically changed according to the performer's position from the start to the end of the live (performance). A base potential map is generated.
  • step S12 executed by the individual potential map generator 120 described above with reference to FIG. It corresponds to the detailed sequence of generation processing.
  • a map b which is a series map, is a detailed sequence of processing for generating an illumination base potential map.
  • This processing is performed, for example, by the lighting control schedule data generated based on a preset live program, that is, the “B. 112”.
  • Step S122 the data processing unit of the information processing device 100 selects one illumination position segmented region Q to be analyzed.
  • step S123 the data processing unit of the information processing apparatus 100 acquires time-series lighting brightness information from the start to the end of the live performance of one lighting position segmented region Q selected as an analysis target.
  • step S124 the data processing unit of the information processing device 100 generates a potential map based on the time-series lighting brightness data from the start to the end of the live performance of one lighting position segmented region Q selected as an analysis target. .
  • the following area setting and color setting are performed.
  • the brightness of the illumination position segmented region Q is equal to or higher than the specified threshold value Thd1, it is set to red as a travel-prohibited region.
  • the brightness of the lighting position segmented region Q is within the range of the prescribed threshold values Thd1 and Thd2, it is set to yellow as the driving caution region. If the brightness of the illumination position segmented region Q is equal to or less than the specified threshold value Thd2, it is set to blue as the travel-permissible region.
  • an illumination brightness base potential map corresponding to one illumination position segmented area Q is generated.
  • step S125 the data processing unit of the information processing apparatus 100 determines whether or not there is an unanalyzed illumination position segmented area. In other words, it is determined whether or not the generation of the lighting brightness base potential maps for all of the number of lighting position segmented regions nb obtained in step S121 has been completed.
  • step S125 If there is an unprocessed illumination position segmented area, the determination in step S125 is Yes. In this case, the processing from step S122 onward is executed for the unprocessed illumination position segmented regions. On the other hand, if there is no unprocessed illumination position segmented region, that is, if it is determined that the illumination brightness base potential map generation for all the illumination position segmented regions nb acquired in step S121 has been completed, the determination in step S125 is No. In this case, the process proceeds to step S126.
  • Step S126 When the generation of all lighting brightness base potential maps is completed, the data processing unit of the information processing device 100 executes the processing from step S126 onward.
  • step S126 one illumination position segmented area Q to be analyzed is selected.
  • step S127 the data processing unit of the information processing apparatus 100 acquires time-series lighting color information from the start to the end of the live performance of one lighting position segmented region Q selected as an analysis target.
  • Step S128 the data processing unit of the information processing device 100 generates a potential map based on the time-series illumination light color data from the start to the end of the live performance of one illumination position segmented region Q selected as an analysis target. .
  • the following area setting and color setting are performed.
  • red is set as the travel prohibition area.
  • the illumination light color of the illumination position segmented area Q is a color different from that of the image capturing robot, if it is not a similar color, it is set to yellow as a travel caution area.
  • blue is set as the travel permitted area.
  • an illumination color base potential map corresponding to one illumination position segmented area Q is generated.
  • step S129 the data processing unit of the information processing device 100 determines whether or not there is an unanalyzed illumination position segmented area. That is, it is determined whether or not all the lighting color base potential maps for the lighting position segmented region number nb obtained in step S121 have been generated.
  • step S129 If there is an unprocessed illumination position segmented area, the determination in step S129 is Yes. In this case, the processing from step S126 onward is executed for the unprocessed illumination position segmented regions. On the other hand, if there is no unprocessed illumination position segmented region, that is, if it is determined that the illumination color base potential map generation for all the illumination position segmented regions nb acquired in step S121 is completed, the determination in step S129 is No. becomes. In this case, the process proceeds to step S131.
  • Step S131 When the generation of all lighting color base potential maps is completed, the data processing unit of the information processing device 100 executes the processing from step S131 onward.
  • Step S132 the data processing unit of the information processing apparatus 100 adds the numerical values corresponding to the set areas of the illumination brightness base potential map and the illumination color base potential map for each area, Calculate the value.
  • the map is time-series data, ie, run for all stage positions on the map at all times.
  • Step S133 the data processing unit of the information processing apparatus 100 resets the area divisions based on the added values corresponding to the areas of the illumination brightness base potential map and the illumination color base potential map.
  • Step S134 the data processing unit of the information processing apparatus 100 outputs the potential map whose area division has been reset in step S133 to the potential map synthesizing unit 130 as an "illumination base potential map.”
  • map b illumination base potential map generation processing executed by the individual potential map generation unit 120 .
  • each area no driving area, caution driving area, permitted driving area
  • a map b illumination base potential map, which is a time-series map, is generated.
  • processing according to the flowchart shown in FIG. 15 is the processing of step S13 executed by the individual potential map generation unit 120 described above with reference to FIG. Equivalent to detailed sequence.
  • Objects are objects placed on the stage, such as speakers, monitors, and decorative objects.
  • This is, for example, stage object placement schedule data generated based on a preset live program, that is, "C.
  • Stage object placement schedule data stored in the storage unit 110 of the information processing apparatus 100 shown in FIG. It is executed as a process of acquiring from the schedule data 113.
  • Step S152 the data processing unit of the information processing device 100 selects one object Ob to be analyzed.
  • Step S153 the data processing unit of the information processing apparatus 100 acquires time-series arrangement data from the start to the end of the live performance of the object Ob to be analyzed.
  • This process is also performed, for example, on-stage object placement schedule data generated based on a preset live program, that is, "C. on-stage object arrangement data" stored in the storage unit 110 of the information processing apparatus 100 shown in FIG. It is executed as a process of acquiring from the arrangement schedule data 113.
  • Step S154 the data processing unit of the information processing device 100 generates a potential map based on the time-series arrangement data from the start to the end of the live performance of the object Ob to be analyzed.
  • the short distance position of the arrangement position of the object Ob is set to red as a travel prohibited area.
  • the middle distance position of the arrangement position of the object Ob is set to yellow as a driving caution area.
  • the long-distance position of the arrangement position of the object Ob is set to blue as the travel-permissible region.
  • step S155 the data processing unit of the information processing apparatus 100 determines whether or not there is an analysis-unprocessed object. That is, it is determined whether generation of all object-based potential maps for the number of objects nc acquired in step S151 has been completed.
  • step S155 If there is an unprocessed object, the determination in step S155 is Yes. In this case, the processing of step S152 and subsequent steps is executed for the unprocessed object. On the other hand, if there are no unprocessed objects, that is, if it is determined that generation of all object-based potential maps for the number of objects nc acquired in step S151 has been completed, the determination in step S155 is No. In this case, the process proceeds to step S156.
  • Step S156 When the generation of all object-based potential maps is completed, the data processing unit of the information processing device 100 executes the processes from step S156 onward.
  • step S157 the data processing unit of the information processing apparatus 100 adds the numerical values corresponding to the regions of the potential maps of all the objects 1 to nc for each region to calculate the added value corresponding to the regions.
  • Step S158 the data processing unit of the information processing apparatus 100 resets the area divisions based on the added values corresponding to the areas of the potential maps of all the objects 1 to nc.
  • Step S159 the data processing unit of the information processing apparatus 100 outputs the potential map whose area division has been reset in step S158 to the potential map synthesizing unit 130 as an "object-based potential map.”
  • map c object-based potential map generation processing executed by the individual potential map generation unit 120 .
  • the map c which is a time-series map in which each area (driving prohibition area, caution driving area, driving permitted area) is dynamically changed according to the object arrangement position from the start to the end of the live (performance). An object-based potential map is generated.
  • the flowchart shown in FIG. 16 is a sequence of generating a pre-generated potential map executed by the potential map synthesizing unit 130 .
  • processing of each step of the flow shown in FIG. 16 will be described in order.
  • step S174 the data processing unit of the information processing apparatus 100 generates the potential map with the area segmentation reset in step S173 as a synthesized map, that is, a "previously generated potential map.”
  • the pre-generated potential map 150 generated by the potential map synthesizing section 130 is provided to the driving route generating section 160, and the driving route generating section 160 generates a map from the start to the end of the live (performance) based on the pre-generated potential map 150.
  • a travel route of the image capturing robot 50 is determined.
  • the travel route generating unit 160 receives the pre-generated potential map 150 generated by the potential map synthesizing unit 130, and the image capturing robot 50 performs live (performance).
  • Running route information 165 is generated in which a route for selecting and running an area that is not conspicuous by illumination without colliding with performers or objects on the stage from the start to the end of is set. For example, a travel route that travels only in the permissible travel area in the pregenerated potential map 150 is generated.
  • the generated travel route is provided to the travel control unit 170 that controls travel of the image capturing robot 50 , and the travel control unit 170 causes the image capturing robot 50 to travel according to the generated travel route information 165 .
  • the image capturing robot 50 can be placed on the performer and on the stage from the start to the end of the live (performance). It is possible to select and run an area that is not conspicuous due to illumination without colliding with objects.
  • the travel route of the image capturing robot 50 generated using the pre-generated potential map 150 can be displayed as a simulation image on the display unit of the information processing device 100, for example.
  • the data processing unit of the information processing device 100 displays the planned travel route of the image capturing robot 50 from the start to the end of the live performance based on the travel route information 165 generated using the generated pre-generated potential map 150. Generate simulation data for A specific display example of this simulation data is shown in FIG.
  • FIG. 17 shows an example of display data indicating the running positions of the image capturing robot 50 at time t3 and time t4, as a display example of simulation data.
  • a user such as a robot control operator can confirm the travel route generated using the generated pre-generated potential map 150 .
  • map a performer base potential map
  • map b lighting base potential map
  • map c object-based potential map
  • the generated pre-generated potential map is used to determine the traveling route of the image capturing robot 50. It was a configuration that determined the For example, it is configured to perform processing for selecting a travel-permissible region in the pre-generated potential map and determining a travel route for the image capturing robot 50 .
  • a fourth individual potential map is created in consideration of the line of sight of the spectators and the line of sight of the television camera on the side of the spectator seats. This is an embodiment for generating a pre-generated potential map that also considers the 4 individual potential maps.
  • the image capturing robot 50 shown in FIG. 18 is a mobile device on which a camera is mounted, that is, a traveling robot, similar to the image capturing robot 50 shown in FIG. Shoot from an angle.
  • the image capturing robot 50 may enter between the performer 20 and the audience 30 or TV camera 31 on the audience seat side.
  • FIG. 19 shows an example of a live venue where the processing of the second embodiment is performed. As shown in FIG. 19, on a stage 10 where a live performance is actually performed, a speaker 12, a monitor 13, and various decoration objects 14 are placed.
  • the performer 20 moves around the stage as the live performance progresses, and the position, brightness, and color of the lighting 11 change according to this movement.
  • the decoration object 14 is also changed in various ways.
  • FIG. 19 there are many spectators 30 on the side of the audience seats, and a TV camera 31 is also arranged to photograph the live performance of the performer 20 .
  • a potential map is generated in consideration of the viewpoint positions of some of the spectators 30, that is, the priority spectators 35 shown in the figure and the viewpoint positions of the TV camera 31.
  • a potential map is generated in consideration of the viewpoint positions of all spectators, a potential map is generated in which the entire stage is set as a travel-prohibited area, and there is almost no travel-permissible area for the image capturing robot 50. Processing considering the viewpoint position of the priority spectator 35 is performed.
  • the priority spectator 35 shown in the drawing is, for example, a seat reserved as a seat for related persons, and a reserved seat already reserved as a reserved seat for an important audience.
  • a potential map is generated in consideration of the viewpoint position of the priority spectator 35 and the viewpoint position of the TV camera 31 . Details of the second embodiment will be described with reference to FIG. 20 and subsequent drawings.
  • FIG. 20 is a diagram illustrating a configuration example of the information processing apparatus 100b according to the second embodiment of the present disclosure.
  • the information processing device 100b may be configured inside the mobile device running on the stage shown in FIGS. or an independent device from the image capturing robot 50.
  • FIG. 20 is a diagram illustrating a configuration example of the information processing apparatus 100b according to the second embodiment of the present disclosure.
  • the information processing device 100b may be configured inside the mobile device running on the stage shown in FIGS. or an independent device from the image capturing robot 50.
  • the information processing device 100 b has a storage section 110 , an individual potential map generation section 120 , a potential map synthesis section 130 and a travel route generation section 160 .
  • These basic configurations are the same as those of the information processing apparatus 100 previously described with reference to FIG.
  • the information processing device 100b shown in FIG. 20 may also be configured inside the moving device traveling on the stage shown in FIGS. 5, it may be a device independent of the image capturing robot 50, such as a device (server) capable of communicating with the image capturing robot 50.
  • a device server
  • the storage unit 110 stores the following four data.
  • A. performer action schedule data 111 B. stage lighting control schedule data 112
  • C. On-stage object placement schedule data 113 D. Priority spectators, TV camera viewpoint position data 114,
  • these four scheduled data are data that are prepared in advance and stored in the storage unit 110 before the start of the live performance. That is, it is schedule data prepared in advance according to a program such as a live progress table prepared before the start of the live performance.
  • Data A to C are the same data as the data described with reference to FIG. 4 in the first embodiment. i.e. A.
  • the performer action schedule data 111 is time-series position data of performers moving around on stage during a live performance. That is, it is time-series position data of the performer from the start to the end of the live (performance).
  • the stage lighting control schedule data 112 is time-series data of lighting control information including lighting setting information such as the lighting position, brightness, and color of the lighting from the start to the end of the live (performance).
  • the on-stage object placement schedule data 113 is time-series data of on-stage object placement position information including the placement positions of on-stage objects from the start to the end of a live performance (performance).
  • the on-stage objects include speakers, monitors, decorative objects, and the like placed on the stage.
  • Example 2 in addition to these data A to C, D. Priority spectators, TV camera viewpoint position data 114, This data D is stored in the storage unit 110 .
  • the priority spectator/TV camera viewpoint position data 114 is the viewpoint position data of the priority spectator on the spectator seat side from the start to the end of the live (performance) and the viewpoint position data of the TV camera.
  • the priority spectator and TV camera viewpoint position data 114 are chronological data that dynamically change with the passage of time. However, when the viewpoint position of the priority audience and the viewpoint position of the TV camera are at the same position from the start to the end of the live (performance), D.
  • the priority spectator and TV camera viewpoint position data 114 can be one fixed data.
  • the data A to D stored in the storage unit 110 are used in the individual potential map generation unit 120.
  • FIG. The individual potential map generation unit 120 uses the four types of data A, B, C, and D individually to generate the following four types of individual potential maps.
  • map a performer base potential map
  • map b lighting base potential map
  • map c object-based potential map
  • map d priority spectator, TV camera viewpoint position base potential map,
  • Maps a to c are the individual potential maps previously described in the first embodiment.
  • Map b lighting base potential map shows each area (no driving area, caution driving area, permitted driving area) according to the lighting conditions (lighting position, brightness, color, etc.) from the start to the end of the live (performance). This is a dynamically changed time series map.
  • Map c Object-based potential map is a time series map that dynamically changes each area (no driving area, caution driving area, permitted driving area) according to the object placement position from the start to the end of the live (performance) is.
  • Map d priority spectator, TV camera viewpoint position base
  • the potential map is a map in which each area (driving prohibited area, caution caution area, permitted driving area) is set according to the priority spectator on the spectator seat side and TV camera viewpoint position. be.
  • this map changes the setting area (running prohibited area) with the passage of time.
  • driving caution area, driving permissible area) becomes time-series data that dynamically changes.
  • the viewpoint position of the priority spectators and the viewpoint position of the TV camera are at the same position from the start to the end of the live performance (performance), the set areas (no driving area, caution driving area, permitted driving area) will move. It becomes one map that does not change dynamically.
  • the individual potential map generator 120 generates the following four maps in steps S11 to S14 shown in FIG. i.e.
  • step S14 the individual potential map generation unit 120 generates a moving image from a short-distance position to a long-distance position on a straight line connecting the priority audience viewpoint position and the TV camera viewpoint position to the stage center position.
  • Generate a map d priority spectator, TV camera viewpoint position base potential map divided into prohibited area (red), driving caution area (yellow), and driving permitted area (blue).
  • the individual potential map generator 120 generates the following four individual potential maps.
  • map a performer base potential map
  • map b lighting base potential map
  • map c object-based potential map
  • map d priority spectator, TV camera viewpoint position base potential map
  • the potential map synthesizing unit 130 performs synthesizing processing of the four individual potential maps generated by the individual potential map generating unit 120 to generate pre-generated potential maps b, 150b.
  • the pre-generated potential maps b, 150b are also time-series maps in which each region (driving prohibited region, cautionary driving region, permitted driving region) is dynamically changed from the start to the end of the live (performance).
  • the “pre-generated potential map b” generated in the second embodiment takes into consideration all of the performer position, lighting conditions (lighting position, brightness, color), object placement position, and the priority audience viewpoint and TV camera viewpoint.
  • This is a map in which a driving prohibited area, a driving caution area, and a driving permitted area are determined by using the map, and the following different colors are assigned for each determined area.
  • the no-travel area is set in red.
  • the driving caution area is set to yellow.
  • the permissible travel area is set in blue.
  • the pre-generated potential map b, 150b generated by the potential map synthesizing unit 130 is provided to the driving route generating unit 160, and the driving route generating unit 160 starts the live (performance) based on the pre-generated potential map b, 150b.
  • a running route of the image capturing robot 50 from 1 to 1 is determined.
  • the running route generating unit 160 receives the pre-generated potential maps b and 150b generated by the potential map synthesizing unit 130, and the image capturing robot 50 collides with performers and objects on the stage from the start to the end of the live (performance). Also, the driving route information 165 is generated in which a route for driving is set by selecting an area that is not conspicuous due to lighting and an area that does not interfere with the line of sight of the priority spectators 35 or the photographing of the TV camera 31. .
  • the travel route generation unit 160 for example, generates a travel route that travels only in the permissible travel area in the pre-generated potential map b, 150b.
  • the generated travel route is provided to the travel control unit 170 that controls travel of the image capturing robot 50 , and the travel control unit 170 causes the image capturing robot 50 to travel according to the generated travel route information 165 .
  • the image capturing robot 50 can be used as a live (performance) map. From the start to the end of , select and run an area that does not collide with performers or objects on the stage, does not stand out due to lighting, and does not interfere with the line of sight of the priority audience 35 or the shooting of the TV camera 31. becomes possible.
  • Step S202 the data processing unit of the information processing apparatus 100 selects one priority spectator viewpoint or TV camera viewpoint S to be analyzed.
  • step S203 the data processing unit of the information processing apparatus 100 acquires time-series position data from the start of the live performance to the end of the priority audience viewpoint or the TV camera viewpoint S to be analyzed.
  • This processing is also performed, for example, based on the priority spectator viewpoint and TV camera viewpoint position data generated based on a preset live program, that is, the "D. Priority audience, TV camera viewpoint position data 114”.
  • the time-series position data from the live start to the end of the priority audience viewpoint or the TV camera viewpoint S may be data that dynamically changes with the passage of time, or one fixed data that does not change. Sometimes.
  • Step S204 the data processing unit of the information processing apparatus 100 generates a potential map based on the position data from the live start to the end of the priority audience viewpoint or TV camera viewpoint S selected as the analysis target.
  • each area (travel prohibition area, travel caution area, travel permission area) is set according to the map as described above with reference to FIG. Generate a map.
  • a priority spectator/TV camera viewpoint base potential map corresponding to one priority spectator viewpoint or TV camera viewpoint S to be analyzed is generated.
  • step S205 the data processing unit of the information processing apparatus 100 determines whether or not there is a priority spectator viewpoint or a TV camera viewpoint that has not been analyzed yet. That is, it is determined whether or not generation of the priority spectator/TV camera viewpoint base potential map for all the priority spectators and the TV camera viewpoint number nd acquired in step S201 is completed.
  • step S205 If there is an unprocessed priority audience viewpoint or TV camera viewpoint, the determination in step S205 is Yes. In this case, the processing from step S202 onward is executed for the unprocessed priority spectator viewpoint or TV camera viewpoint. On the other hand, if there are no unprocessed priority spectator viewpoints or TV camera viewpoints, that is, generation of the priority spectator and TV camera viewpoint base potential map for all of the priority spectator and TV camera viewpoints nd acquired in step S201 is completed. If so, the determination in step S205 is No. In this case, the process proceeds to step S206.
  • Step S206 When the generation of the base potential maps for all priority spectators and TV camera viewpoints is completed, the data processing unit of the information processing apparatus 100 executes the processing from step S206 onwards.
  • step S207 the data processing unit of the information processing apparatus 100 adds the numerical values corresponding to the regions of the potential maps of all the priority spectator viewpoints or the TV camera viewpoints 1 to nd for each region, Calculate the added value.
  • the total number of priority spectator and TV camera viewpoints is 3, and individual priority spectator and TV camera viewpoint base potential maps (m1 to m3) corresponding to the three priority spectator viewpoints or TV camera viewpoints are generated.
  • Such addition processing is performed for all maps. Note that when the map is time-series data, all stage positions of the map at all times are executed.
  • step S208 the data processing unit of the information processing apparatus 100 resets the area divisions based on the added values corresponding to the areas of the potential maps of all the priority spectator viewpoints or the TV camera viewpoints 1 to nd.
  • step S209 the data processing unit of the information processing apparatus 100 outputs the potential map whose area segmentation has been reset in step S208 to the potential map synthesizing unit 130 as a "priority spectator, TV camera viewpoint base potential map".
  • the flowchart shown in FIG. 23 is the sequence of generating the pre-generated potential map b executed by the potential map synthesizing unit 130 .
  • processing of each step of the flow shown in FIG. 23 will be described in order.
  • Such addition processing is performed for all maps.
  • the map is time-series data, ie, run for all stage positions on the map at all times.
  • step S224 the data processing unit of the information processing apparatus 100 generates the potential map with the area segmentation reset in step S223 as a synthesized map, ie, "previously generated potential map b".
  • the pre-generated potential maps b and 150b generated by the potential map synthesizing section 130 are provided to the driving route generating section 160, and the driving route generating section 160 performs live (performance) from the start to the end based on the pre-generated potential map 150. Determine the travel route of the image capturing robot 50 up to .
  • the travel route generating unit 160 receives the pre-generated potential maps b and 150b generated by the potential map synthesizing unit 130, and the image capturing robot 50 performs live ( (Performance) from start to finish without colliding with performers or objects on stage, select areas that will not be conspicuous due to lighting, and will not obstruct the view of the priority audience or TV cameras.
  • the travel route information 165 that sets the route to be taken is generated. For example, a travel route that travels only in the permissible travel area in the pregenerated potential map 150 is generated.
  • the generated travel route is provided to the travel control unit 170 that controls travel of the image capturing robot 50 , and the travel control unit 170 causes the image capturing robot 50 to travel according to the generated travel route information 165 .
  • the image capturing robot 50 can be placed on the performer or on the stage from the start to the end of the live (performance). It is possible to select and run an area that does not collide with an object, is not conspicuous due to illumination, and does not obstruct the view of priority spectators or TV cameras.
  • Example 3 Regarding an example of generating a real-time data reflection potential map using information during live performance
  • Example 3 an example of generating a real-time data reflection potential map using information during live performance will be described.
  • data that can be acquired before a live performance on the stage is started that is, data stored in the storage unit 110 of the information processing apparatus 100 shown in FIGS.
  • a potential map was generated using the following data.
  • Each of the above data A to D used in the first and second embodiments is generated on the premise that the performer acts according to the live program, lighting control is performed, and objects are arranged. data. However, when a live performance actually starts, the performer's movement, lighting control, and the like may be performed differently from the original live program.
  • Embodiment 3 described below is intended to prevent such a situation, and is an embodiment in which a potential map is generated by acquiring real-time data during an actual live performance, i.e., when performers are performing. be.
  • FIG. 24 shows a configuration example of the information processing apparatus 200 of the third embodiment.
  • the information processing device 200 includes a real-time stage information acquisition unit 201, a real-time spectator seat information acquisition unit 202, a real-time net information acquisition unit 203, a real-time stage information analysis unit 204, a storage unit 205, and a pre-generated potential map correction unit. It has a unit 206 , a real-time attention area analysis unit 207 , and a real-time data reflection potential map generation unit 208 .
  • the information processing apparatus 200 shown in FIG. 24 may be configured, for example, inside the moving apparatus running on the stage shown in FIGS.
  • a device independent of the image capturing robot 50 such as a device that can communicate with the image capturing robot 50, may be used.
  • FIG. 25 shows a configuration example of an information processing system in which the information processing apparatus having the configuration shown in FIG. 24 is independent of the image capturing robot 50 .
  • an information processing device (server) 200 a live venue information acquisition device 60, an image capturing robot 50 in the live venue, and an SNS server 290 are connected via a communication network.
  • Build system 280 a communication network.
  • the information processing apparatus (server) 100 has the configuration shown in FIG.
  • the live venue information acquisition device 60 is composed of a camera that captures images of the live venue, a microphone that acquires audio information of the live venue, an illuminance meter that detects lighting conditions, a color analysis device, etc., and acquires information such as the acquired image. , to the information processing apparatus (server) 200 via the communication network.
  • the information processing device (server) 200 analyzes information received from the live venue information acquisition device 60 and information acquired from the SNS server 290, and determines the travel route of the image capturing robot 50 in the live venue. A map (potential map) generation process, a travel route determination process using the map, and a travel control information generation process for the image capturing robot 50 according to the determined travel route are performed.
  • the SNS server 290 is a server that collects comment information such as tweets of users browsing the live on the Internet.
  • the information processing device (server) 200 analyzes the information acquired from the SNS server 290 and analyzes the attention area of the user who is watching the live performance via the net.
  • the information processing device (server) 200 further transmits the generated travel control information to the image capturing robot 50 via the communication network.
  • the image capturing robot 50 runs on the stage according to the running control information received from the information processing device (server) 100 . For example, it is possible to perform processing using such an information processing system.
  • the real-time stage information acquisition unit 201 is configured by, for example, a camera, an illuminance meter, and the like, and acquires in real time information about an actual live performance, that is, a stage where a performer is performing.
  • the real-time stage information acquisition unit 201 acquires the following information as real-time data, as shown in the drawing. performer position 211, lighting conditions 212; on-stage object position 213; image capturing robot position 214;
  • the illumination state includes information on the position of the illuminated stage, the brightness of the illumination, and the color of the illumination.
  • the real-time stage information acquisition unit 201 continuously acquires the performer position 211, the lighting state 212, the on-stage object position 213, the image capturing robot position 214, and each of these information as real-time data during the live performance period. is output to the real-time stage information analysis unit 204 .
  • the real-time stage information analysis unit 204 acquires the performer position 211, the lighting state 212, the on-stage object position 213, and the image capturing robot position 214 input from the real-time stage information acquisition unit 201, and information stored in the storage unit 205 in advance. Compare schedule data 231 based on the live program currently in use and the pre-generated potential map 150 generated according to Example 1 or Example 2 above.
  • the schedule data 231 based on the live program stored in the storage unit 205 is the same data as the following information described above with reference to FIGS. 4 and 20.
  • the real-time stage information analysis unit 204 acquires the performer position 211, the lighting state 212, the on-stage object position 213, and the image capturing robot position 214 input from the real-time stage information acquisition unit 201, and information stored in the storage unit 205 in advance.
  • the schedule data 231 based on the live program that is currently running is compared to confirm whether or not there is a difference.
  • the image capturing robot 50 runs along the running route set using the pre-generated potential map 150 generated according to the first or second embodiment, it does not collide with the performer or the object. , and can be driven without being conspicuous by lighting.
  • the image capturing robot 50 when the image capturing robot 50 is run along the running route set using the pre-generated potential map 150 generated according to the first or second embodiment, it will come into contact with the performer or the object. There is a possibility that the driving may be conspicuous due to lighting.
  • the real-time stage information analysis unit 204 acquires the performer position 211, the lighting state 212, the on-stage object position 213, and the image capturing robot position 214 input from the real-time stage information acquisition unit 201, and information stored in the storage unit 205 in advance. If a difference is detected in the schedule data 231 based on the live program that is currently running, furthermore, whether there is any problem in driving the driving route according to the pre-generated potential map 150 generated according to the first or second embodiment. determine whether
  • the pre-potential map correction unit 206 When a correction request for the pre-generated potential map is input from the real-time stage information analysis unit 204, the pre-potential map correction unit 206 reduces the possibility of contact with performers and objects and the possibility of conspicuous running due to lighting. , modify the pre-generated potential map 150 .
  • a pre-potential map correction unit 206 corrects the pre-generated potential map 150 to generate a real-time stage information reflecting potential map.
  • the real-time stage information reflection potential map reflects the real-time performer position 211, the lighting state 212, the on-stage object position 213, and the image capturing robot position 214 acquired by the real-time stage information acquisition unit 201, and each area (running prohibited area, running It is a map in which a caution area and a driving allowable area) are set.
  • FIG. 26 shows the following two potential maps.
  • Pre-generated potential map (2) Real-time stage information reflection potential map
  • the pre-generated potential map is the pre-generated potential map 150 generated according to the first or second embodiment, and is a potential map stored in the storage unit 205 of the information processing apparatus 200 shown in FIG. be.
  • the real-time stage information reflecting potential map is a map generated by the pre-potential map correction unit 206 correcting the pre-generated potential map 150 . That is, each area (no-run area, caution-run area, permitted-run area) reflects the real-time performer position 211, lighting state 212, on-stage object position 213, and image capturing robot position 214 acquired by the real-time stage information acquisition unit 201. ) is reconfigured.
  • a pre-potential map correction unit 206 corrects the pre-generated potential map using real-time stage information to generate a real-time stage information-reflecting potential map.
  • the real-time stage information reflecting potential map generated by the pre-potential map correction unit 206 is a map generated by reflecting the performer's position, lighting state, and object position in real time, and is a map in which the following area setting is performed, for example.
  • Allowable travel area (blue) area far from real-time performer position and object position, and determined to be the least conspicuous based on real-time lighting conditions
  • No-running area (red) area close to real-time performer position and object position, and determined to be conspicuous based on real-time lighting conditions
  • Caution driving area (yellow) Intermediate area between the allowable driving area (blue) and the prohibited driving area (red),
  • the real-time stage information reflecting potential map generated by the pre-potential map correcting unit 206 is output to the real-time data reflecting potential map generating unit 208 .
  • the real-time audience seat information acquisition unit 202 is specifically composed of, for example, a camera, and acquires in real time the information of the audience seats in front of the stage where the performers are performing.
  • the real-time spectator seat information acquisition unit 202 acquires the following information as real-time data, as shown in the figure. Audience line of sight direction 215, Audience seat side TV camera shooting direction 216,
  • the audience viewpoint position 215 is the line-of-sight direction of the audience in front of the stage where the live performance is being performed.
  • the audience seat side TV camera shooting direction 216 is the shooting direction of the TV camera in front of the stage where the live performance is being performed.
  • the real-time net information acquisition unit 203 has a communication unit connected to a communication network such as the Internet, and acquires so-called SNS information 217 such as tweets of many live viewers on the net.
  • the obtained SNS information 217 is input to the real-time attention area analysis unit 207 .
  • the real-time attention area analysis unit 207 analyzes the audience line-of-sight direction 215 input from the real-time audience seat information acquisition unit 202, the audience seat side TV camera shooting direction 216, and the SNS information 217 input from the real-time net information acquisition unit 203. , which part of the stage the audience is looking at, which part of the stage is captured by the TV camera, and which part of the stage the live viewers on the Internet pay attention to.
  • Real-time attention area analysis section 207 estimates the current attention area on the stage based on these analysis results, and outputs the estimated area to real-time data reflection potential map generation section 208 as real-time attention area information 221 shown in the figure. .
  • the real-time data reflecting potential map generation unit 208 receives the following data. (1) “Real-time stage information reflecting potential map” generated by the prior potential map correction unit 206 (2) Real-time attention area information 221 generated by the real-time attention area analysis unit 207 The real-time data reflecting potential map generation unit 208 receives each of these data and generates a real-time data reflecting potential map 230 based on these input data.
  • the real-time data reflecting potential map generation unit 208 sequentially executes the following processes 1 and 2.
  • Process 1 Based on the real-time region-of-interest information 221 generated by the real-time region-of-interest analysis unit 207, a real-time region-of-interest-reflecting potential map that reflects the real-time region of interest is generated.
  • a "real-time stage information reflection potential map" in which each area (travel prohibited area, caution caution area, allowable travel area) is set by reflecting the performer position 211, the lighting state 212, the on-stage object position 213, and the image capturing robot position 214. , the real-time attention area reflecting potential maps generated in process 1 are combined to generate a real-time data reflecting potential map 230 .
  • FIG. 27 shows the following three potential maps.
  • the real-time attention area reflected potential map is a map generated by the above (process 1) executed by the real-time data reflected potential map generation unit 208, and the real-time attention area information 221 generated by the real-time attention area analysis unit 207 is a potential map generated by reflecting the real-time region of interest based on.
  • the real-time region-of-interest-reflecting potential map is a map generated by reflecting real-time audience, TV camera, and net information, and is a map in which the following region settings are made.
  • Permissible driving area (blue) Non-attention area with the lowest attention based on real-time spectators, TV cameras, and net information
  • No-driving areas (red) attention areas with the highest degree of attention based on real-time spectators, TV cameras, and internet information
  • Caution driving area (yellow) Intermediate area between the allowable driving area (blue) and the prohibited driving area (red)
  • the (4) real-time data reflection potential map 230 shown in FIG. 27 is shown in FIG. (2) Real-time stage information reflecting potential map (3) Real-time attention area reflecting potential map This map is generated by synthesizing two potential maps.
  • the real-time data reflection potential map 230 generated by the real-time data reflection potential map generation unit 208 is a map generated by reflecting real-time information on the stage, real-time audience seat information, and real-time net information.
  • the real-time data reflection potential map 230 generated by the real-time data reflection potential map generation unit 208 is a map generated by reflecting all real-time performer positions, lighting conditions, object positions, audience, TV cameras, and net information. area is set.
  • Permissible travel area (blue) The most inconspicuous non-attention area based on real-time performer position, lighting condition, object position, audience, TV camera, net information
  • No-running area (red) most conspicuous area of interest based on real-time performer position, lighting conditions, object position, audience, TV camera, and internet information
  • Caution driving area (yellow) Intermediate area between the allowable driving area (blue) and the prohibited driving area (red)
  • the real-time data reflecting potential map 230 generated by the real-time data reflecting potential map generating unit 208 is provided to the running route generating unit 240, and the running route generating unit 240 determines the running of the imaging robot 50 based on the real-time data reflecting potential map 230. determine the route.
  • the travel route generation unit 240 inputs the real-time data reflection potential map 230, and the image capturing robot 50 does not collide with performers or objects on the stage, does not stand out due to lighting, and furthermore, travels to the audience and TV.
  • Driving route information is generated in which a route for selecting and driving an area other than the attention area of the viewer on the camera and the Internet is set.
  • the travel route generation unit 240 can set the travel route as described above, for example, by generating a travel route that travels only in the permissible travel area in the real-time data reflecting potential map 230 .
  • the generated travel route is provided to the travel control unit that performs travel control of the image capturing robot 50, and the travel control unit causes the image capturing robot 50 to travel according to the generated travel route information.
  • the image capturing robot 50 is caused to travel according to the travel route information generated using the real-time data reflection potential map 230 generated in the third embodiment, thereby performing a live performance of the image capturing robot 50.
  • Step S301 First, in step S301, the information processing apparatus 200 acquires real-time stage information (performer position, lighting state, on-stage object position, image capturing robot position).
  • This processing is processing executed by the real-time stage information acquisition unit 201 of the information processing apparatus 200 shown in FIG.
  • the real-time stage information acquisition unit 201 is configured by, for example, a camera, an illuminance meter, etc., and acquires the performer's position, the performer's position, the performer's position, the information of the stage where the performer's performance is performed, as real-time stage information. Information on lighting conditions, object positions on the stage, and image capturing robot positions is acquired.
  • Step S302 the information processing apparatus 200 modifies the previously generated potential map based on the real-time stage information acquired in step S301 to generate a potential map reflecting real-time stage information.
  • step S302 is processing executed by the prior potential map correction unit 206 of the information processing apparatus 200 shown in FIG.
  • step S301 the real-time stage information analysis unit 204 of the information processing apparatus 200 shown in FIG. position, illumination state, object position on the stage, image capturing robot position) and schedule data 231 based on the live program stored in advance in the storage unit 205, and the running route according to the pre-generated potential map 150 Analyze the problems of running.
  • step S302 is a subsequent process, and when a request for correction of the pre-generated potential map is input from the real-time stage information analysis unit 204, the pre-potential map correction unit 206 receives a request for correction of the pre-generated potential map from the real-time stage information analysis unit 204.
  • the pre-generated potential map 150 is modified to generate a real-time stage information reflecting potential map so as to reduce the possibility of conspicuous running due to .
  • the real-time stage information reflecting potential map generated by the pre-potential map correction unit 206 is a map generated by reflecting the performer's position, lighting state, and object position in real time.
  • Allowable travel area (blue) area far from real-time performer position and object position, and determined to be the least conspicuous based on real-time lighting conditions;
  • No-running area (red) area close to real-time performer position and object position, and determined to be conspicuous based on real-time lighting conditions;
  • Caution driving area (yellow) Intermediate area between the allowable driving area (blue) and the prohibited driving area (red),
  • step S303 the information processing apparatus 200 acquires real-time spectator seat information and real-time net information.
  • the real-time spectator seat information acquisition unit 202 acquires each of the following information as real-time data, as described above with reference to FIG. Audience line of sight direction 215, Audience seat side TV camera shooting direction 216, Also, the real-time net information acquisition unit 203 acquires so-called SNS information 217 such as tweets of impressions of many live viewers on the Internet, and inputs the acquired SNS information 217 to the real-time attention area analysis unit 207 .
  • SNS information 217 such as tweets of impressions of many live viewers on the Internet
  • Step S304 the information processing apparatus 200 analyzes the real-time attention area based on the real-time spectator seat information and the real-time net information acquired in step S303.
  • This process is executed by the real-time attention area analysis unit 207 of the information processing apparatus 200 shown in FIG.
  • the real-time attention area analysis unit 207 analyzes the audience line-of-sight direction 215 input from the real-time audience seat information acquisition unit 202, the audience seat side TV camera shooting direction 216, and the SNS information 217 input from the real-time net information acquisition unit 203. , which part of the stage the audience is looking at, which part of the stage the TV camera is shooting, and which part of the stage the live viewers on the Internet are paying attention to.
  • Real-time attention area analysis section 207 estimates the current attention area on the stage based on these analysis results, and outputs the estimated area to real-time data reflection potential map generation section 208 as real-time attention area information 221 shown in FIG. do.
  • Step S305 the information processing apparatus 200 generates a "real-time attention area reflecting potential map" reflecting the real-time attention area analyzed based on the real-time spectator seat information and the real-time net information.
  • This process is executed by the real-time data reflecting potential map generation unit 208 of the information processing apparatus 200 shown in FIG.
  • the real-time data reflection potential map generation unit 208 generates a "real-time attention area reflection potential map" that reflects real-time attention areas analyzed based on real-time spectator seat information and real-time net information.
  • the real-time region-of-interest-reflecting potential map is a map generated by reflecting real-time audience, TV camera, and net information, and is a map in which the following region settings are made.
  • Permissible driving area (blue) Non-attention area with the lowest attention based on real-time spectators, TV cameras, and net information
  • No-driving areas (red) attention areas with the highest degree of attention based on real-time spectators, TV cameras, and internet information
  • Caution driving area (yellow) Intermediate area between the allowable driving area (blue) and the prohibited driving area (red)
  • step S306 the information processing apparatus 200 quantifies the "real-time stage information reflecting potential map", the “real-time attention area reflecting potential map”, and the set areas of each map.
  • step S307 the information processing apparatus 200 adds the "real-time stage information reflecting potential map", the "real-time attention area reflecting potential map”, and the numerical values corresponding to the regions of each map to each region. Calculate the added value of
  • This process is also a process executed by the real-time data reflection potential map generation unit 208 of the information processing apparatus 200 shown in FIG.
  • step S308 the data processing unit of the information processing apparatus 200 resets the area division based on the added value corresponding to the area calculated in step S307.
  • This process is also a process executed by the real-time data reflection potential map generation unit 208 of the information processing apparatus 200 shown in FIG.
  • step S309 the data processing unit of the information processing apparatus 200 outputs the potential map with the area segmentation reset in step S308 as a "real-time data reflected potential map.”
  • This process is also a process executed by the real-time data reflection potential map generation unit 208 of the information processing apparatus 200 shown in FIG.
  • steps S301 and S302 of the flowchart shown in FIG. 28 the following processes are performed. Acquisition processing of real-time stage information (performer position, lighting state, on-stage object position, image capturing robot position) by the real-time stage information acquisition unit 201 of the information processing device 200 shown in FIG. Real-time stage information reflecting potential map generation processing is performed by correcting the potential map.
  • real-time stage information performer position, lighting state, on-stage object position, image capturing robot position
  • step S309 the real-time data reflection potential map 230 is generated. Based on this, the travel route of the image capturing robot 50 is determined and travel control is performed.
  • the flowchart shown in FIG. 29 is a flow that can be executed by replacing the processing of steps S301 to S302 of the flow shown in FIG. Hereinafter, processing of each step of the flow shown in FIG. 29 will be described in order.
  • Step S321 First, in step S321, the information processing apparatus 200 shown in FIG. 24 determines whether it is time to acquire real-time stage information.
  • This process is executed by the real-time stage information acquisition unit 201 of the information processing apparatus 200 shown in FIG. 24 or by the control unit that controls the real-time stage information acquisition unit 201 .
  • the acquisition timing of the real-time stage information is defined in advance such that the real-time stage information is acquired at regular intervals, such as every 10 seconds.
  • step S321 it is determined whether or not it is time to acquire real-time stage information according to this rule. If it is determined that it is time to acquire real-time stage information, the process proceeds to step S322.
  • Step S322 When it is determined in step S321 that it is time to acquire real-time stage information, the information processing apparatus 200 acquires real-time stage information (performer position, lighting state, on-stage object position, image capturing robot position) in step S322. .
  • the real-time stage information acquisition unit 201 is configured by, for example, a camera, an illuminance meter, etc., and acquires the performer's position, the performer's position, the performer's position, the information of the stage where the performer's performance is performed, as real-time stage information. Information on lighting conditions, object positions on the stage, and image capturing robot positions is acquired.
  • Step S323 the information processing apparatus 200 determines whether or not it is time for the image capturing robot to finish running.
  • Information about the travel end time of the image capturing robot is stored in advance in the storage unit 205 of the information processing apparatus 200 . For example, it is recorded in association with the scheduled travel route of the image capturing robot.
  • the information processing apparatus 200 refers to this recorded information and determines whether or not the current time is the end time of the image capturing robot running.
  • step S324 If the current time is the running end time of the image capturing robot, the process ends. On the other hand, if the current time is not the running end time of the image capturing robot, the process proceeds to step S324.
  • Step S324 If it is determined in step S323 that it is not the travel end time of the image capturing robot, the information processing apparatus 200 determines in step S324 whether it is the travel route change permissible time of the image capturing robot.
  • Information as to whether or not it is the travel route change permissible time for the image capturing robot is stored in advance in the storage unit 205 of the information processing apparatus 200 . For example, it is recorded in association with the scheduled travel route of the image capturing robot.
  • the information processing apparatus 200 refers to this recorded information and determines whether or not the current time is the travel route change permissible time for the image capturing robot.
  • step S325 If the current time is not the travel route change permissible time for the image capturing robot, the process returns to step S321 without proceeding to step S325, and repeats the processes of steps S321 to S324. Only when it is determined that the current time is within the allowable travel route change time for the image capturing robot, the process proceeds to step S325.
  • Step S325) If it is determined in step S324 that the current time is within the allowable travel route change time for the image capturing robot, the process of step S325 is executed.
  • step S325 the information processing apparatus 200 combines the real-time stage information acquired in step S321 (the position of the performer, the lighting state, the position of the object on the stage, the position of the image capturing robot) with the previously generated potential map. comparison processing.
  • step S325 is a process executed by the real-time stage information analysis unit 204 of the information processing device 200 shown in FIG.
  • Step S326 the information processing apparatus 200 converts the travel route of the image capturing robot based on the pre-generated potential map into the real-time stage information (performer position, lighting state, on-stage object position, image capturing robot position) acquired in step S321. It is determined whether or not the setting is to pass through the dangerous area estimated from the position).
  • step S326 is also a process executed by the real-time stage information analysis unit 204 of the information processing apparatus 200 shown in FIG.
  • a real-time stage information analysis unit 204 analyzes real-time stage information (performer position, lighting state, object position on stage, image capturing robot position) input from the real-time stage information acquisition unit 201 and a live program stored in the storage unit 205 in advance. and the risk of the travel route according to the pre-generated potential map 150.
  • step S321 If it is determined that there is no danger, that is, if the image capturing robot 50 runs along the running route set using the pre-generated potential map 150, there is a possibility that the robot will come into contact with a performer or an object, and the running will be conspicuous due to lighting. If it is determined that there is no possibility of being caught, the process returns to step S321 without proceeding to step S327, and the processes from step S321 onward are repeated.
  • step S327 when it is determined that there is a danger, that is, when the image capturing robot 50 is caused to travel along the travel route set using the pre-generated potential map 150, there is a possibility that the robot 50 may come into contact with the performer or an object, or the travel may be conspicuous due to lighting. is likely to be performed, the process proceeds to step S327.
  • Step S327) If it is determined in step S326 that the travel route set using the pre-generated potential map 150 has a risk of colliding with the performer, the information processing device executes the processing of step S327.
  • step S327 the information processing apparatus 200 modifies the pre-generated potential map 150 stored in the storage unit 205 to generate a real-time stage information reflecting potential map.
  • step S327 is a process executed by the pre-generated potential map correction unit 206 of the information processing apparatus 200 shown in FIG.
  • a pre-potential map correction unit 206 corrects the pre-generated potential map 150 so as to reduce the possibility of contact with performers and objects and the possibility of conspicuous running due to lighting, and generates a potential map reflecting real-time stage information. do.
  • the real-time stage information reflecting potential map generated by the pre-potential map correction unit 206 is a map generated by reflecting the performer's position, lighting state, and object position in real time.
  • Allowable travel area (blue) area far from real-time performer position and object position, and determined to be the least conspicuous based on real-time lighting conditions;
  • No-running area (red) area close to real-time performer position and object position, and determined to be conspicuous based on real-time lighting conditions;
  • Caution driving area (yellow) Intermediate area between the allowable driving area (blue) and the prohibited driving area (red),
  • step S303 onward of the flow shown in FIG. 28 is executed. That is, the processes of steps S303 to S309 are executed, and finally in step S309, the real-time data reflection potential map 230 is generated. A travel route is determined and travel control is performed.
  • FIG. 30 includes the information processing apparatus 100 described with reference to FIG. 4, the information processing apparatus 100b described with reference to FIG. 20, and the information processing apparatus 200 described with reference to FIG. It is an example of the hardware configuration of.
  • the hardware configuration shown in FIG. 30 will be described.
  • a CPU (Central Processing Unit) 301 functions as a data processing section that executes various processes according to programs stored in a ROM (Read Only Memory) 302 or a storage section 308 . For example, the process according to the sequence described in the above embodiment is executed.
  • a RAM (Random Access Memory) 303 stores programs and data executed by the CPU 301 . These CPU 301 , ROM 302 and RAM 303 are interconnected by a bus 304 .
  • the CPU 301 is connected to an input/output interface 305 via a bus 304.
  • the input/output interface 305 includes an input unit 306 including various sensors, a camera, a switch, a keyboard, a mouse, a microphone, and the like, and an output unit 307 including a display, a speaker, and the like. is connected.
  • a storage unit 308 connected to the input/output interface 305 consists of, for example, a hard disk, and stores programs executed by the CPU 301 and various data.
  • a communication unit 309 functions as a transmission/reception unit for data communication via a network such as the Internet or a local area network, and communicates with an external device.
  • a drive 310 connected to the input/output interface 305 drives a removable medium 311 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory such as a memory card to record or read data.
  • a removable medium 311 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory such as a memory card to record or read data.
  • the technique disclosed in this specification can take the following configurations. (1) having a data processing unit that generates a potential map that defines an allowable travel area of an image capturing robot that moves on a stage and captures images; The data processing unit Acquiring at least one of the action schedule data of the performer on the stage and the arrangement schedule data of the object on the stage, and determining the probability of collision with the performer or the object on the stage based on the acquired data. An information processing device that generates a potential map that defines a permissible travel area below a value.
  • the data processing unit Acquiring time-series data of action schedule data of the performer on the stage or arrangement schedule data of the object on the stage, and based on the obtained data, the probability of collision with the performer or the object on the stage is equal to or less than a prescribed threshold.
  • the information processing device which generates time-series data of a potential map that defines a permissible travel area of .
  • the data processing unit Acquisition of scheduled data for brightness control of illumination on the stage, and based on the acquired data, an area other than an area where the brightness of the illumination illuminated on the stage is equal to or higher than a predetermined threshold value is defined as an allowable travel area.
  • the information processing apparatus according to any one of (1) to (3), which generates a defined potential map.
  • the data processing unit Color control schedule data for lighting on the stage is acquired, and based on the acquired data, a potential map is generated in which an area other than an area where the illumination on the stage has a predetermined color value is defined as an allowable travel area.
  • the information processing apparatus according to any one of (1) to (4).
  • the data processing unit a permissible travel area in which the probability of collision with performers or objects on the stage is below a specified threshold;
  • the information processing apparatus according to any one of (1) to (5), which generates a potential map defining a travel-prohibited area, which is an area closer to the performer or object on the stage than the allowable travel area.
  • the data processing unit The information processing apparatus according to (6), which generates a potential map defining a travel caution area at an intermediate position between the allowable travel area and the prohibited travel area.
  • the data processing unit (a) a performer-based potential map that defines a permissible travel region in which the possibility of collision with the performer on the stage is equal to or less than a specified threshold value, based on the action schedule data of the performer on the stage; (b) an object-based potential map that defines a permissible travel region in which the possibility of collision with an object on the stage is equal to or less than a predetermined threshold value, based on the arrangement plan data of the object on the stage; (c) Based on the lighting control schedule data on the stage, a region other than the region where the lighting state value calculated based on the lighting irradiated on the stage is equal to or greater than a predetermined threshold value is defined as the travel-permissible region.
  • the pre-generated potential map is Areas other than areas where the possibility of collision with performers and objects on the stage is below a specified threshold and where the lighting condition value calculated based on lighting is above a predetermined threshold is defined as an allowable travel area.
  • the data processing unit In the process of synthesizing the three types of individual potential maps (a) to (c), For each of the permissible driving region, the cautionary driving region, and the prohibited driving region defined in each of the three types of individual potential maps (a) to (c) above, quantification processing is performed on a region-by-region basis. An added value is calculated by adding the numerical values of each potential map, and based on the calculated added value, the travel-permissible region, the caution-driving region, and the travel-prohibited region are reset to generate the pre-generated potential map.
  • the information processing device according to (8) or (9).
  • the data processing unit At least one of viewpoint position data of a spectator seat side viewing the stage and viewpoint position data of a camera is acquired, and based on the acquired data, the viewpoint position of the spectator or the camera is moved from the center of the stage.
  • the information processing apparatus according to any one of (1) to (10), wherein a potential map is generated that defines a position far from a line connecting positions as an allowable travel area.
  • the data processing unit (a) a performer-based potential map that defines a permissible travel region in which the possibility of collision with the performer on the stage is equal to or less than a specified threshold value, based on the action schedule data of the performer on the stage; (b) an object-based potential map that defines a permissible travel region in which the possibility of collision with an object on the stage is equal to or less than a predetermined threshold value, based on the arrangement plan data of the object on the stage; (c) Based on the lighting control schedule data on the stage, a region other than the region where the lighting state value calculated based on the lighting irradiated on the stage is equal to or greater than a predetermined threshold value is defined as the travel-permissible region.
  • the data processing unit Acquiring real-time data of at least one of behavior data of the performer and arrangement data of objects on the stage as real-time data during performance by the performer on the stage;
  • the information processing apparatus according to any one of (1) to (12), which generates a real-time data reflection potential map that defines a travel permissible region in which the possibility of collision with the above performer or object is equal to or less than a predetermined threshold value.
  • the data processing unit As real-time data during a performance by said performer on said stage, Acquire at least one data of the line-of-sight direction of the audience on the side of the audience seat looking at the stage and the shooting direction of the camera, analyze the attention area based on the acquired data, and set the area other than the attention area as the allowable travel area.
  • the information processing device As real-time data during a performance by said performer on said stage, Acquire at least one data of the line-of-sight direction of the audience on the side of the audience seat looking at the stage and the shooting direction of the camera, analyze the attention area based on the acquired data, and set the area other than the attention area as the allowable travel area.
  • the information processing device 13, which generates a defined real-time data reflection potential map.
  • the data processing unit further Acquire user comments while browsing the performance of the performer on the stage via the Internet, analyze the attention area of the Internet browsing user based on the obtained comments, and define the area other than the attention area as the allowable driving area.
  • the data processing unit The information processing apparatus according to any one of (1) to (15), which generates a route along which the imaging robot travels based on the potential map.
  • the data processing unit The information processing apparatus according to (16), which generates a travel route in which the image capturing robot is set to travel within the permissible travel region defined in the potential map.
  • the data processing unit The information processing apparatus according to any one of (1) to (17), which generates simulation data for displaying a travel route of the imaging robot generated based on the potential map on a display unit.
  • a storage unit that stores travel route information generated based on a potential map that defines an allowable travel area below a threshold; or at least one of a communication unit that acquires the travel route information from an external device, A mobile device that executes travel processing according to either the travel route information acquired from the storage unit or the travel route information acquired via the communication unit.
  • An information processing system having an image capturing robot and a server
  • the image capturing robot is an image capturing robot that moves on a stage to capture an image
  • the server is a data processing unit that generates a potential map that defines an allowable travel area of the imaging robot;
  • the data processing unit Acquiring at least one of action schedule data of the performer on the stage and arrangement schedule data of the object on the stage, and determining a probability of collision with the performer or the object on the stage based on the acquired data.
  • the imaging robot is An information processing system that travels along a travel route determined based on the potential map generated by the server.
  • the series of processes described in the specification can be executed by hardware, software, or a composite configuration of both.
  • a program recording the processing sequence is installed in the memory of a computer built into dedicated hardware and executed, or the program is loaded into a general-purpose computer capable of executing various processing. It can be installed and run.
  • the program can be pre-recorded on a recording medium.
  • the program can be received via a network such as a LAN (Local Area Network) or the Internet and installed in a recording medium such as an internal hard disk.
  • a system is a logical collective configuration of a plurality of devices, and the devices of each configuration are not limited to being in the same housing.
  • a map for determining a safe driving route that does not collide with performers and objects on the stage is generated, and the route is determined based on the map. It is possible to run the image capturing robot according to. Specifically, for example, a potential map is generated that defines an allowable travel area for an image capturing robot that moves on a stage to capture images.
  • the data processing unit acquires the action schedule data of the performer on the stage, the arrangement schedule data of the object, and the lighting control schedule data on the stage, and based on the acquired data, an area that does not collide with the performer or the object and is not conspicuous due to lighting. is defined as the permissible travel area.
  • the robot travel route is determined and the robot travels.

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Traffic Control Systems (AREA)

Abstract

ステージ上の演者やオブジェクトに衝突することのない安全な走行ルートを決定するマップを生成し、マップに基づいて決定するルートに従って画像撮影ロボットを走行させる。ステージ上を移動して画像撮影を行う画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成する。データ処理部は、ステージ上の演者の行動予定データやオブジェクトの配置予定データ、ステージ上の照明制御予定データを取得し、取得データに基づいて演者やオブジェクトに衝突せず、かつ照明によって目立たない領域を走行許容領域として規定したポテンシャルマップを生成する。さらに、生成マップに基づいてロボットの走行ルートを決定してロボットを走行させる。

Description

情報処理装置、および移動装置、並びに情報処理システム
 本開示は、情報処理装置、および移動装置、並びに情報処理システムに関する。さらに詳細にはステージ上で行われる演者の歌などのパフォーマンスを、ステージ上を移動する移動装置(自動走行ロボット)に装着したカメラで撮影する構成において、演者やステージ上のスピーカ等のオブジェクトに衝突することなく、また観客の視線の邪魔にならないルートを設定したマップの生成や、マップに従った移動制御を行う情報処理装置、および移動装置、並びに情報処理システムに関する。
 音楽ライブなど、ステージ上で行われる様々なパフォーマンスを行う場合、ステージ上で行われているパフォーマンスの画像を同じステージ上を走行する移動カメラで撮影する処理が行なわれる場合がある。
 このような画像撮影を行う場合、カメラは例えば自動走行ロボットのような移動装置(台車)に装着されてステージ上の様々な位置に移動して、様々な角度からの画像を撮影する。この場合、カメラはステージ上を動き回る演者や、ステージ上に設置されたマイクやスピーカ等の機材と衝突しないような走行ルートを選択して移動する必要がある。
 また、ステージ前方や周囲の観客の視線の邪魔にならないような移動を行なうことも求められる。
 なお、ロボット等の移動装置の移動制御を開示した従来技術として、例えば特許文献1(特開2020-087061号公報)や、特許文献2(特許第5160322号公報)等がある。
 特許文献1は、監視対象となる人の邪魔にならないように、人の監視を行う無人移動体を開示している。具体的には、監視対象となる人の感覚器によって移動体が感知されにくい領域を決定して、その決定領域から監視を行う構成である。
 また、特許文献2は、ある対象を追随するロボット装置を開示しており、追随対象とロボットの間に障害物が侵入して、ロボットが追随対象を見失いそうになった場合でも追随処理を継続可能とする構成について開示している。
 上記特許文献1は、監視対象となる人の感知しにくい領域を選択して、その選択位置から監視する構成、上記特許文献2は、ロボットと追随対象間に障害物が出現した場合の追随継続のための構成を開示しており、各々、特定の目的を実現するための構成を開示しているのみである。
 これに対して、ステージ上を移動する演者を、同じステージ上を移動するカメラで撮影する場合、演者の移動位置やステージ上の機材位置、さらに観客の視線等、様々な状況に応じてカメラの位置を決定することが必要となる。
 上記特許文献1,2は、このような様々な状況を考慮してカメラを移動する最適経路を決定する制御構成については開示していない。
特開2020-087061号公報 特許第5160322号公報
 本開示は、例えば、上記問題点に鑑みてなされたものであり、ステージ上でパフォーマンスを行う演者の移動位置やステージ上の機材位置、さらに観客の視線等、様々な状況に応じてカメラの最適な位置や走行ルートを決定して移動装置(カメラ)の移動制御を行う情報処理装置、および移動装置、並びに情報処理システムを提供するものである。
 本開示の第1の側面は、
 ステージ上を移動して画像撮影を行う画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成するデータ処理部を有し、
 前記データ処理部は、
 前記ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータを取得し、取得データに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップを生成する情報処理装置にある。
 さらに、本開示の第2の側面は、
 ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータに基づいて生成されるマップであり、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップに基づいて生成される走行ルート情報を格納した記憶部、
 または前記走行ルート情報を外部装置から取得する通信部の少なくともいずれかを有し、
 前記記憶部から取得した前記走行ルート情報、または前記通信部を介して取得した前記走行ルート情報のいずれかに従った走行処理を実行する移動装置にある。
 さらに、本開示の第3の側面は、
 画像撮影ロボットと、サーバを有する情報処理システムであり、
 前記画像撮影ロボットは、ステージ上を移動して画像撮影を行う画像撮影ロボットであり、
 前記サーバは、
 前記画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成するデータ処理部を有し、
 前記データ処理部は、
 前記ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータを取得し、取得データに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップを生成し、
 前記画像撮影ロボットは、
 前記サーバの生成した前記ポテンシャルマップに基づいて決定される走行ルートに従って走行する情報処理システムにある。
 本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
 本開示の一実施例の構成によれば、ステージ上の演者やオブジェクトに衝突することのない安全な走行ルートを決定するマップを生成し、マップに基づいて決定するルートに従って画像撮影ロボットを走行させることが可能となる。
 具体的には、例えば、ステージ上を移動して画像撮影を行う画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成する。データ処理部は、ステージ上の演者の行動予定データやオブジェクトの配置予定データ、ステージ上の照明制御予定データを取得し、取得データに基づいて演者やオブジェクトに衝突せず、かつ照明によって目立たない領域を走行許容領域として規定したポテンシャルマップを生成する。さらに、生成マップに基づいてロボットの走行ルートを決定してロボットを走行させる。
 本構成により、ステージ上の演者やオブジェクトに衝突することのない安全な走行ルートを決定するマップを生成し、マップに基づいて決定するルートに従って画像撮影ロボットを走行させることが可能となる。
 なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
ライブステージの概要と本開示の処理の概要について説明する図である。 ライブステージの概要と本開示の処理の概要について説明する図である。 ライブステージの概要と本開示の処理の概要について説明する図である。 本開示の情報処理装置の構成と処理について説明する図である。 本開示の情報処理システムの構成と処理について説明する図である。 個別ポテンシャルマップ生成部が生成する演者ベースポテンシャルマップの一例について説明する図である。 個別ポテンシャルマップ生成部が生成する照明ベースポテンシャルマップの一例について説明する図である。 個別ポテンシャルマップ生成部が生成するオブジェクトベースポテンシャルマップの一例について説明する図である。 ポテンシャルマップ合成部が生成する事前生成ポテンシャルマップの一例について説明する図である。 本開示の情報処理装置の構成と処理について説明する図である。 事前生成ポテンシャルマップに基づいて決定される画像撮影ロボット走行ルートの一例について説明する図である。 本開示の情報処理装置が実行する演者ベースポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の情報処理装置が実行する照明ベースポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の情報処理装置が実行する照明ベースポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の情報処理装置が実行するオブジェクトベースポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の情報処理装置が実行する事前生成ポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の情報処理装置が生成するシミュレーション画像の例について説明する図である。 本開示の実施例2の処理について説明する図である。 本開示の実施例2の処理について説明する図である。 本開示の実施例2の情報処理装置の構成例と処理について説明する図である。 本開示の実施例2の情報処理装置が生成する優先観客&TVカメラベースポテンシャルマップの一例について説明する図である。 本開示の情報処理装置が実行する優先観客&TVカメラベースベースポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の実施例2の情報処理装置が実行する事前生成ポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の実施例3の情報処理装置の構成例と処理について説明する図である。 本開示の実施例3の情報処理システムの構成と処理について説明する図である。 本開示の実施例3の情報処理装置において生成するポテンシャルマップの例について説明する図である。 本開示の実施例3の情報処理装置において生成するポテンシャルマップの例について説明する図である。 本開示の実施例3の情報処理装置が実行するリアルタイムデータ反映ポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の実施例3の情報処理装置が実行するリアルタイムデータ反映ポテンシャルマップの生成処理シーケンスについて説明するフローチャートを示す図である。 本開示の情報処理装置のハードウェア構成例について説明する図である。
 以下、図面を参照しながら本開示の情報処理装置、および移動装置、並びに情報処理システムの詳細について説明する。なお、説明は以下の項目に従って行なう。
 1.本開示の処理の概要について
 2.(実施例1)本開示の実施例1の情報処理装置の構成と処理の詳細について
 3.本開示の実施例1の情報処理装置が実行する処理のシーケンスについて
 3-(1)マップa「演者ベースポテンシャルマップ」の生成シーケンスについて
 3-(2)マップb「照明ベースポテンシャルマップ」の生成シーケンスについて
 3-(3)マップc「オブジェクトベースポテンシャルマップ」の生成シーケンスについて
 3-(4)個別ポテンシャルマップを合成した事前生成ポテンシャルマップの生成シーケンスについて
 4.(実施例2)観客の視線や、観客席側のテレビカメラの視線を考慮したマップ作成を行う情報処理装置の構成と処理の詳細について
 5.(実施例3)ライブ実行中の情報を利用したリアルタイムデータ反映ポテンシャルマップを生成する実施例について
 6.各装置のハードウェア構成例について
 7.本開示の構成のまとめ
  [1.本開示の処理の概要について]
 まず、図1以下を参照して、本開示の処理の概要について説明する。
 図1は、ステージの上で行われる音楽ライブなどのパフォーマンスの一例を示す図である。図1に示す例は、2人組のアイドル歌手である演者20がステージ10上で音楽ライブを行っている例である。
 ステージ10の前には多数の観客30がおり、演者20のパフォーマンスを見ている。
 このように音楽ライブなど、ステージ上で様々なパフォーマンスが行われる場合、同じステージ上を走行する移動カメラでパフォーマンスの画像を撮影する処理が行なわれる場合がある。
 図1に示す画像撮影ロボット50は、カメラを乗せた移動装置、すなわち走行ロボットであり、ステージ上を動き回って演者20のパフォーマンスを様々な角度から撮影する。
 画像撮影ロボット50は、カメラを装着した台車等の自動走行ロボット(移動装置)であり、例えば予め定められた走行ルートに従って、ステージ上を走行しながら様々な角度からの画像を撮影する。
 画像撮影ロボット50は、ステージ上を動き回る演者や、ステージ上に設置されたマイクやスピーカ等の機材と衝突しないように安全な走行ルートを選択して移動する必要がある。
 また、ステージ前方や周囲の観客の視線の邪魔にならないような移動を行なうことも求められる。
 図2に示すように、実際にライブが行われるステージ10には、スピーカ12やモニタ13、さらに様々な装飾オブジェクト14が置かれ、また、演者20等に対して照明11も照射される。
 演者20は、ライブの進行に併せて、ステージ上を動き回り、この動きに応じて照明11の位置や明るさや色も変化する。また装飾オブジェクト14もライブ進行に併せて、次々と入れ替えられる。
 例えば図2に示すステージ状態はライブのある時間t1における一場面である。その後のある時間t2のステージ状態では、例えば図3に示すように演者20の位置が異なり、また照明11の位置や明るさや色も変更される。さらに装飾オブジェクト14も置き換えられる。
 このようにライブ等のパフォーマンスが行われる時間帯に応じてステージ上の演者20の位置、照明11の位置や明るさや色、装飾オブジェクトの位置などは逐次、変更される。
 このようなライブの実行期間中、画像撮影ロボット50は、演者20やステージ上の装飾オブジェクト14やスピーカ12等の配置物に衝突しないように走行させる必要がある。
 また、観客30の視線の邪魔にならないようなルートを選択して走行させることも重要となる。このための1つの手法として、例えば明るい照明の照射領域以外の暗い領域を選択して走行させるといった制御が有効である。
 本開示は、ステージ上でパフォーマンスを行う演者の移動位置やステージ上の機材位置、さらに照明、観客の視線等、様々な状況に応じてカメラの最適な位置や走行ルートを決定して移動装置(カメラ)の移動制御を行うものである。
 以下、本開示の構成と処理の詳細について説明する。
  [2.(実施例1)本開示の実施例1の情報処理装置の構成と処理の詳細について]
 以下、本開示の実施例1の情報処理装置の構成と処理の詳細について説明する。
 図4は、本開示の実施例1の情報処理装置100の構成例を示す図である。
 なお、この情報処理装置100は、図1~3に示すステージ上を走行する移動装置、すなわち、カメラを搭載した画像撮影ロボット50の内部に構成してもよいし、画像撮影ロボット50と通信可能な装置等、画像撮影ロボット50と独立した装置としてもよい。
 図4に示す構成を持つ情報処理装置を画像撮影ロボット50と独立した装置とした場合の情報処理システムの一構成例を図5に示す。
 例えば、図5に示すように、情報処理装置(サーバ)100と、ライブ会場情報取得装置60と、ライブ会場内の画像撮影ロボット50等を、通信ネットワークを介して接続した情報処理システム180を構築する。
 情報処理装置(サーバ)100は、図4に示す構成を有する。
 ライブ会場情報取得装置60は、ライブ会場の画像を撮影するカメラ、ライブ会場の音声情報を取得するマイク、照明状態を検出する照度計、色解析装置等によって構成され、取得した画像等の情報を、通信ネットワークを介して情報処理装置(サーバ)100に送信する。
 情報処理装置(サーバ)100は、ライブ会場内の画像撮影ロボット50の走行ルートを決定するためのマップ(ポテンシャルマップ)の生成処理や、マップを利用した走行ルート決定処理、さらに決定した走行ルートに従った画像撮影ロボット50の走行制御情報の生成処理等を行なう。
 情報処理装置(サーバ)100は、さらに、生成した走行制御情報を、通信ネットワークを介して画像撮影ロボット50に送信する。
 画像撮影ロボット50は、情報処理装置(サーバ)100から受信する走行制御情報に従ってステージ上を走行する。
 例えばこのような情報処理システムを利用した処理を行うことが可能である。
 以下、図4に示す情報処理装置100の構成と処理について説明する。
 図4に示すように、情報処理装置100は、記憶部110、個別ポテンシャルマップ生成部120、ポテンンシャルマップ合成部130、走行ルート生成部160を有する。なお、前述したように、情報処理装置100は、図1~3に示すステージ上を走行する移動装置、すなわち、カメラを搭載した画像撮影ロボット50の内部に構成してもよいし、図5に示す情報処理装置(サーバ)100のように、画像撮影ロボット50と通信可能な装置等、画像撮影ロボット50と独立した装置としてもよい。
 記憶部110には以下の3つのデータが格納されている。
 A.演者行動予定データ111、
 B.ステージ照明制御予定データ112、
 C.ステージ上オブジェクト配置予定データ113、
 なお、これら3つの予定データは、ライブ開始前に予め準備され記憶部110に格納されるデータである。すなわち、ライブ開始前に準備されたライブ進行表などのプログラムに従って予め準備された予定データである。
 情報処理装置100は、これらの予定データを利用して、画像撮影ロボット50を演者やスピーカ等のオブジェクトに衝突させない安全な走行ルートを設定するためのマップ(ポテンシャルマップ)を生成する。実際のライブの実行時には生成したポテンシャルマップを利用して選択される安全な走行ルートに従って画像撮影ロボット50を走行させる。
 記憶部110に格納されたデータの詳細について説明する。
 A.演者行動予定データ111は、ステージ上を動き回る演者のライブ期間中の時系列位置データである。すなわちライブ(パフォーマンス)の開始から終了までの演者の時系列位置データである。
 B.ステージ照明制御予定データ112は、ライブ(パフォーマンス)の開始から終了までの照明の照明位置、明るさ、色等の照明設定情報を含む照明制御情報の時系列データである。
 C.ステージ上オブジェクト配置予定データ113は、ライブ(パフォーマンス)の開始から終了までのステージ上オブジェクトの配置位置を含むステージ上オブジェクト配置位置情報の時系列データである。
 なお、ステージ上オブジェクトには、ステージ上に配置されるスピーカやモニタ、装飾オブジェクト等が含まれる。
 これら3種類のデータは、いずれもライブ(パフォーマンス)の開始から終了までの時系列予定データである。すなわち、例えば1時間のライブであれば、
 A.演者行動予定データ111、
 B.ステージ照明制御予定データ112、
 C.ステージ上オブジェクト配置予定データ113、
 これらの3種類の1時間分の時系列予定データが記憶部110に記録される。
 この記憶部110の格納データは、個別ポテンシャルマップ生成部120において利用される。
 個別ポテンシャルマップ生成部120は、上記A,B,Cの3種類の時系列データを個別に利用して、以下の3種類の個別のポテンシャルマップを生成する。
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ、
 なお、ポテンシャルマップとは、図1~3を参照して説明した画像撮影ロボット50の走行禁止領域と、走行注意領域と、走行許容領域を規定したマップである。
 上記3種類のマップa~cは、いずれも時系列マップである。
 例えば、マップa=演者ベースポテンシャルマップは、ライブ(パフォーマンス)の開始から終了までの演者位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 マップb=照明ベースポテンシャルマップは、ライブ(パフォーマンス)の開始から終了までの照明状態(照明位置、明るさ、色等)に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 マップc=オブジェクトベースポテンシャルマップは、ライブ(パフォーマンス)の開始から終了までのオブジェクト配置位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 図4に示すように、個別ポテンシャルマップ生成部120は、図に示すステップS11~S13の各処理を実行する。
 すなわち、
 ステップS11において、マップa=演者ベースポテンシャルマップを生成する。
 ステップS12において、マップb=照明ベースポテンシャルマップを生成する。
 ステップS13において、マップc=オブジェクトベースポテンシャルマップを生成する。
 なお、これらステップS11~S13の処理は、並列処理として実行可能である。
 以下、これらの処理について、順次、説明する。
  (ステップS11)
 個別ポテンシャルマップ生成部120は、ステップS11において、マップa=「演者ベースポテンシャルマップ」を生成する。
 「演者ベースポテンシャルマップ」は、上述のように、ライブ(パフォーマンス)の開始から終了までの演者位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させたマップであり、以下のような3つの領域(a1~a3)を設定した時系列マップである。
 a1.走行禁止領域(赤色)=演者位置の近距離位置
 a2.走行注意領域(黄色)=演者位置の中距離位置
 a3.走行許容領域(青色)=演者位置の遠距離位置
 具体的には、例えば、
 a1.走行禁止領域(赤色)=演者に対する衝突可能性が予め規定した第1しきい値Tha1以上の領域
 a2.走行注意領域(黄色)=演者に対する衝突可能性が予め規定した第1しきい値Tha1~第2しきい値Tha2の範囲にある領域
 a3.走行許容領域(青色)=演者に対する衝突可能性が予め規定した第2しきい値Tha2以下の領域
 例えば、これらの領域区分がなされたマップである。
 図6を参照してマップa=演者ベースポテンシャルマップの具体例について説明する。
 「演者ベースポテンシャルマップ」は、ライブ(パフォーマンス)の開始から終了までの演者位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであり、図6には、4つのタイミング(t1~t4)の演者ベースポテンシャルマップの例を示している。
 図6左上のマップ(t1)は、時間t1の「演者ベースポテンシャルマップ」の例である。
 ステージ上には、先に図1~図3を参照して説明したと同様、2人の演者がいる。
 なお、前述したように、ポテンシャルマップは、実際のライブ開始前に生成されるマップであり、演者の位置等はライブ進行表等のライブプログラムに従って推定される演者の予定位置である。ライブ(パフォーマンス)の開始から終了までの演者の位置を示す行動予定データは、記憶部110のA.演者行動予定データ111として予め生成され記録されている。
 「演者ベースポテンシャルマップ」は、以下のように演者位置からの距離に応じて決定される領域(走行禁止領域、走行注意領域、走行許容領域)に応じて領域単位の異なる色が配色されたマップである。
 演者位置の近距離位置は、走行禁止領域として赤色に設定される。
 演者位置の中距離位置は、走行注意領域として黄色に設定される。
 演者位置の遠距離位置は、走行許容領域として青色に設定される。
 図6右上のマップ(t2)は、時間t1から一定時間経過した時間t2の「演者ベースポテンシャルマップ」の例である。
 時間t2では、2人の演者は時間t1とは異なる位置に移動している。この演者の移動に伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 図6左下のマップ(t3)は、さらに時間t2から一定時間経過した時間t3の「演者ベースポテンシャルマップ」の例である。
 時間t3では、2人の演者は時間t1,t2とは異なる位置に移動している。この演者の移動に伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 図6右下のマップ(t4)は、さらに時間t3から一定時間経過した時間t4の「演者ベースポテンシャルマップ」の例である。
 時間t4では、2人の演者は時間t1~t3とは異なる位置に移動している。この演者の移動に伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 このように、「演者ベースポテンシャルマップ」は、ライブ(パフォーマンス)の開始時間から終了時間までの演者位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 個別ポテンシャルマップ生成部120は、ステップS11において、このような、マップa=「演者ベースポテンシャルマップ」を生成する。
 なお、ライブ(パフォーマンス)の開始から終了までの演者の位置を示す行動予定データは、記憶部110のA.演者行動予定データ111として予め生成され記録されている。
 個別ポテンシャルマップ生成部120は、ステップS11において、記憶部110のA.演者行動予定データ111を取得し、取得データを参照して、ライブ(パフォーマンス)の開始から終了まで各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップa=「演者ベースポテンシャルマップ」を生成する。
  (ステップS12)
 さらに、個別ポテンシャルマップ生成部120は、ステップS12において、マップb=「照明ベースポテンシャルマップ」を生成する。
 「照明ベースポテンシャルマップ」は、上述のように、ライブ(パフォーマンス)の開始から終了までの照明状態(照明位置、明るさ、色等)に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであり、以下のような3つの領域(b1~b3)を設定した時系列マップである。
 b1.走行禁止領域(赤色)=照明状態に起因して目立つ領域(明るい領域や、画像撮影ロボットと異なる色の照明領域)
 b3.走行許容領域(青色)=照明状態に起因して目立たない領域(暗い領域や、画像撮影ロボットと同系色の照明領域)
 b2.走行注意領域(黄色)=b1とb3の中間領域
 具体的には、例えば、
 b1.走行禁止領域(赤色)=照明状態(照明位置、明るさ、色等)に基づいて算出される照明状態値が予め規定した第1しきい値Thb1以上の領域(=目立つ領域(明るい領域や、画像撮影ロボットと異なる色の照明領域))
 b3.走行許容領域(青色)=照明状態(照明位置、明るさ、色等)に基づいて算出される照明状態値が予め規定した第2しきい値Thb2未満の領域(=目立たない領域(暗い領域や、画像撮影ロボットと同系色の照明領域))
 b2.走行注意領域(黄色)=b1とb3の中間領域
 例えば、これらの領域区分がなされたマップである。
 図7を参照してマップb=照明ベースポテンシャルマップの具体例について説明する。
 「照明ベースポテンシャルマップ」は、ライブ(パフォーマンス)の開始から終了までの照明状態(照明位置、明るさ、色等)に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであり、図7には、4つのタイミング(t1~t4)の照明ベースポテンシャルマップの例を示している。
 図7左上のマップ(t1)は、時間t1の「照明ベースポテンシャルマップ」の例である。
 このマップ(t1)は、例えばライブ開始時において照明が全体的に暗い状態におけるマップの例である。
 この場合、ステージ全体が暗く設定されているため、ステージ全体が走行許容領域(青色)=照明状態に起因して目立たない領域(暗い領域や、画像撮影ロボットと同系色の照明領域)として設定される。
 図7右上のマップ(t2)は、時間t1から一定時間経過した時間t2の「照明ベースポテンシャルマップ」の例である。
 時間t2では、照明状態(照明位置、明るさ、色等)が時間t1とは異なる状態に設定されている。この照明状態(照明位置、明るさ、色等)の変化に伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 「照明ベースポテンシャルマップ」は、以下のように照明状態(照明位置、明るさ、色等)に応じて決定される領域(走行禁止領域、走行注意領域、走行許容領域)に応じて領域単位の異なる色が配色されたマップである。
 すなわち、照明状態に起因して目立つ領域(明るい領域や、画像撮影ロボットと異なる色の照明領域)は、走行禁止領域として赤色に設定される。
 照明状態に起因して目立たない領域(暗い領域や、画像撮影ロボットと同系色の照明領域)は、走行許容領域として青色に設定される。
 上記走行禁止領域と走行許容領域の中間領域は、走行注意領域として黄色に設定される。
 このように、時間t2では、照明状態(照明位置、明るさ、色等)の変化に伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定が変化する。
 図7左下のマップ(t3)は、さらに時間t2から一定時間経過した時間t3の「照明ベースポテンシャルマップ」の例である。
 時間t3では、照明状態(照明位置、明るさ、色等)は時間t1,t2とは異なる状態となる。この照明状態(照明位置、明るさ、色等)の変化に伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 図7右下のマップ(t4)は、さらに時間t3から一定時間経過した時間t4の「照明ベースポテンシャルマップ」の例である。
 時間t4でも、照明状態(照明位置、明るさ、色等)は時間t1~t3とは異なる状態に設定される。この照明状態(照明位置、明るさ、色等)の変化に伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 このように、「照明ベースポテンシャルマップ」は、ライブ(パフォーマンス)の開始時間から終了時間までの照明状態(照明位置、明るさ、色等)の変化に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 個別ポテンシャルマップ生成部120は、ステップS12において、このようなマップb=「照明ベースポテンシャルマップ」を生成する。なお、このップb=「照明ベースポテンシャルマップ」
 なお、ライブ(パフォーマンス)の開始から終了までの照明状態(照明位置、明るさ、色等)の遷移予定データは、記憶部110のB.ステージ照明制御予定データ112として予め生成され記録されている。
 個別ポテンシャルマップ生成部120は、ステップS12において、記憶部110のB.ステージ照明制御予定データ112を取得し、取得データを参照して、ライブ(パフォーマンス)の開始から終了まで各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップb=「照明ベースポテンシャルマップ」を生成する。
  (ステップS13)
 個別ポテンシャルマップ生成部120は、ステップS13において、マップc=「オブジェクトベースポテンシャルマップ」を生成する。
 「オブジェクトベースポテンシャルマップ」は、上述のように、ライブ(パフォーマンス)の開始から終了までのステージ上のオブジェクト配置位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させたマップであり、以下のような3つの領域(c1~c3)を設定した時系列マップである。
 c1.走行禁止領域(赤色)=オブジェクト配置位置の近距離位置
 c2.走行注意領域(黄色)=オブジェクト配置位置の中距離位置
 c3.走行許容領域(青色)=オブジェクト配置位置の遠距離位置
 具体的には、例えば、
 c1.走行禁止領域(赤色)=オブジェクトに対する衝突可能性が予め規定した第1しきい値Thc1以上の領域
 c2.走行注意領域(黄色)=オブジェクトに対する衝突可能性が予め規定した第1しきい値Thc1~第2しきい値Thc2の範囲にある領域
 c3.走行許容領域(青色)=オブジェクトに対する衝突可能性が予め規定した第2しきい値Thc2以下の領域
 例えば、これらの領域区分がなされたマップである。
 なお、オブジェクトとは、ステージ上に配置されるオブジェクトであり、スピーカやモニタ、装飾オブジェクト等である。
 図8を参照してマップc=オブジェクトベースポテンシャルマップの具体例について説明する。
 「オブジェクトベースポテンシャルマップ」は、ライブ(パフォーマンス)の開始から終了までのオブジェクト配置位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであり、図8には、4つのタイミング(t1~t4)のオブジェクトベースポテンシャルマップの例を示している。
 図8左上のマップ(t1)は、時間t1の「オブジェクトベースポテンシャルマップ」の例である。
 ステージ上には、スピーカやモニタ、装飾オブジェクト等が配置され、これらの一部はライブ進行に伴って移動や置き換えなどが行われる。
 「オブジェクトベースポテンシャルマップ」は、以下のようにオブジェクト配置位置からの距離に応じて決定される領域(走行禁止領域、走行注意領域、走行許容領域)に応じて領域単位の異なる色が配色されたマップである。
 オブジェクト配置位置の近距離位置は、走行禁止領域として赤色に設定される。
 オブジェクト配置位置の中距離位置は、走行注意領域として黄色に設定される。
 オブジェクト配置位置の遠距離位置は、走行許容領域として青色に設定される。
 図8右上のマップ(t2)は、時間t1から一定時間経過した時間t2の「オブジェクトベースポテンシャルマップ」の例である。
 時間t2では、ステージ上のオブジェクトは時間t1とは異なる位置に移動、または置き換えられている。このオブジェクトの移動や置き換えに伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 図8左下のマップ(t3)は、さらに時間t2から一定時間経過した時間t3の「オブジェクトベースポテンシャルマップ」の例である。
 時間t3では、ステージ上のオブジェクトは時間t1,t2とは異なる位置に移動、または置き換えられている。このオブジェクトの移動や置き換えに伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 図8右下のマップ(t4)は、さらに時間t3から一定時間経過した時間t4の「オブジェクトベースポテンシャルマップ」の例である。
 時間t4では、ステージ上のオブジェクトは時間t1~t3とは異なる位置に移動、または置き換えられている。このオブジェクトの移動や置き換えに伴い、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)、これら3つの領域の設定も変化する。
 このように、「オブジェクトベースポテンシャルマップ」は、ライブ(パフォーマンス)の開始時間から終了時間までのステージ上のオブジェクト配置位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 個別ポテンシャルマップ生成部120は、ステップS13において、このような、マップc=「オブジェクトベースポテンシャルマップ」を生成する。
 なお、ライブ(パフォーマンス)の開始から終了までのオブジェクトの配置位置を示すステージ上オブジェクト配置予定データは、記憶部110のC.ステージ上オブジェクト配置予定データ113として予め生成され記録されている。
 個別ポテンシャルマップ生成部120は、ステップS13において、記憶部110のC.ステージ上オブジェクト配置予定データ113を取得し、取得データを参照して、ライブ(パフォーマンス)の開始から終了まで各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップc=「オブジェクトベースポテンシャルマップ」を生成する。
 上述したように、図4に示す個別ポテンシャルマップ生成部120は、ステップS11~S13において、以下の3つのマップを生成する。すなわち、
 ステップS11において、マップa=演者ベースポテンシャルマップを生成する。
 ステップS12において、マップb=照明ベースポテンシャルマップを生成する。
 ステップS13において、マップc=オブジェクトベースポテンシャルマップを生成する。
 個別ポテンシャルマップ生成部120が生成したこれら3つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ、
 これらの3つのマップは、ポテンシャルマップ合成部130に入力される。
 ポテンシャルマップ合成部130は、個別ポテンシャルマップ生成部120が生成した3つの個別ポテンシャルマップの合成処理を実行して、事前生成ポテンシャルマップ150を生成する。
 なお、事前生成ポテンシャルマップ150もライブ(パフォーマンス)の開始から終了まで各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 ポテンシャルマップ合成部130が生成する事前生成ポテンシャルマップ150は、個別ポテンシャルマップ生成部120が生成した3つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 これら3つの時系列データの全てを反映した合成データとして生成される。
 ポテンシャルマップ合成部130が生成する事前生成ポテンシャルマップ150の具体例を図9に示す。
 図9には、図6~図8を参照して説明した個別ポテンシャルマップと同様の4つのタイミング(t1~t4)の事前生成ポテンシャルマップ150の例を示している。
 図9に示す4つのタイミング(t1~t4)の事前生成ポテンシャルマップは、それぞれ、図6~図8に示す4つの同じタイミング(t1~t4)の個別ポテンシャルマップを各タイミング単位で合成して生成したマップである。
 図9左上のマップ(t1)は、時間t1の「事前生成ポテンシャルマップ」である。
 この時間t1の「事前生成ポテンシャルマップ」は、
 図6(t1)に示す時間t1の演者ベースポテンシャルマップと、
 図7(t1)に示す時間t1の照明ベースポテンシャルマップと、
 図8(t1)に示す時間t1のオブジェクトベースポテンシャルマップ、
 これら3つの同一タイミング(t1)の個別ポテンシャルマップを合成したマップである。
 ステージ上には、図6(t1)と同じ位置に2人の演者がおり、スピーカやモニタ、装飾オブジェクト等のオブジェクトが図8(t1)と同様の位置に配置されている。照明は図7(t1)と同様、ステージ全体が暗い設定である。
 具体的な合成処理のシーケンスについては後述するが、例えば、以下のような処理によって合成処理を行う。
 各個別ポテンシャルマップの領域(走行禁止領域、走行注意領域、走行許容領域)を数値化する。
 例えば、
 走行禁止領域=10、
 走行注意領域=5、
 走行許容領域=0
 このような数値化を行い、各個別ポテンシャルマップの各領域の数値を加算し、加算結果に基づいて、合成マップとしての事前生成ポテンシャルマップを生成する。
 例えば加算値が10以上の領域は走行禁止領域、加算値が5以上10未満の領域は走行注意領域、加算値が5未満の領域は走行許容領域とする設定とした合成マップ、すなわち事前生成ポテンシャルマップを生成する。
 図9(t1)に示す「事前生成ポテンシャルマップ」は、
 図6(t1)に示す時間t1の演者ベースポテンシャルマップと、
 図7(t1)に示す時間t1の照明ベースポテンシャルマップと、
 図8(t1)に示す時間t1のオブジェクトベースポテンシャルマップ、
 これら3つの同一タイミング(t1)の個別ポテンシャルマップの各領域(走行禁止領域、走行注意領域、走行許容領域)を数値化して加算し、上記の加算値に基づく領域区分を行って生成したマップである。
 「事前生成ポテンシャルマップ」は、演者位置、照明状態(照明位置、明るさ、色)、オブジェクト配置位置の全てを考慮して走行禁止領域、走行注意領域、走行許容領域が決定され、決定された領域単位で以下の異なる色が配色されたマップである。
 走行禁止領域は、赤色に設定される。
 走行注意領域は、黄色に設定される。
 走行許容領域は、青色に設定される。
 図9右上のマップ(t2)は、時間t1から一定時間経過した時間t2の合成マップ、すなわち「事前生成ポテンシャルマップ」の例である。
 時間t2では、演者位置、照明状態(照明位置、明るさ、色)、オブジェクト配置位置が時間t1とは異なる設定となる。
 この時間t2の「事前生成ポテンシャルマップ」は、
 図6(t2)に示す時間t2の演者ベースポテンシャルマップと、
 図7(t2)に示す時間t2の照明ベースポテンシャルマップと、
 図8(t2)に示す時間t2のオブジェクトベースポテンシャルマップ、
 これら3つの同一タイミング(t2)の個別ポテンシャルマップの各領域(走行禁止領域、走行注意領域、走行許容領域)を数値化して加算し、加算値に基づく領域区分を行って生成したマップである。
 図9左下のマップ(t3)は、時間t2から、さらに一定時間経過した時間t3の合成マップ、すなわち「事前生成ポテンシャルマップ」の例である。
 時間t3では、演者位置、照明状態(照明位置、明るさ、色)、オブジェクト配置位置が時間t1,t2とは異なる設定となる。
 この時間t3の「事前生成ポテンシャルマップ」は、
 図6(t3)に示す時間t3の演者ベースポテンシャルマップと、
 図7(t3)に示す時間t3の照明ベースポテンシャルマップと、
 図8(t3)に示す時間t3のオブジェクトベースポテンシャルマップ、
 これら3つの同一タイミング(t3)の個別ポテンシャルマップの各領域(走行禁止領域、走行注意領域、走行許容領域)を数値化して加算し、加算値に基づく領域区分を行って生成したマップである。
 図9右下のマップ(t4)は、時間t3から、さらに一定時間経過した時間t4の合成マップ、すなわち「事前生成ポテンシャルマップ」の例である。
 時間t4では、演者位置、照明状態(照明位置、明るさ、色)、オブジェクト配置位置が時間t1~t3とは異なる設定となる。
 この時間t4の「事前生成ポテンシャルマップ」は、
 図6(t4)に示す時間t4の演者ベースポテンシャルマップと、
 図7(t4)に示す時間t4の照明ベースポテンシャルマップと、
 図8(t4)に示す時間t4のオブジェクトベースポテンシャルマップ、
 これら3つの同一タイミング(t4)の個別ポテンシャルマップの各領域(走行禁止領域、走行注意領域、走行許容領域)を数値化して加算し、加算値に基づく領域区分を行って生成したマップである。
 このように、ポテンシャルマップ合成部130は、個別ポテンシャルマップ生成部120が生成した3つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 これらの個別ポテンシャルマップの合成処理を実行して、事前生成ポテンシャルマップ150を生成する。
 ポテンシャルマップ合成部130は、同一タイミングの複数の個別ポテンシャルマップの各領域(走行禁止領域、走行注意領域、走行許容領域)を数値化して加算し、加算値に基づく領域区分を行って、事前生成ポテンシャルマップ150を生成する。
 ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップ150は、走行ルート生成部160に提供され、走行ルート生成部160が、事前生成ポテンシャルマップ150に基づいて、ライブ(パフォーマンス)の開始から終了までの画像撮影ロボット50の走行ルートを決定する。
 すなわち、走行ルート生成部160は、図10に示すように、ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップ150を入力して、画像撮影ロボット50が、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域を選択して走行するためのルートを設定した走行ルート情報165を生成する。
 走行ルート生成部160は、例えば、事前生成ポテンシャルマップ150内の走行許容領域のみを走行するような走行ルートを生成する。
 生成した走行ルートは、画像撮影ロボット50の走行制御を行う走行制御部170に提供され、走行制御部170は、生成された走行ルート情報165に従って、画像撮影ロボット50を走行させる。
 なお、走行制御部170は、画像撮影ロボット50内の情報処理装置に構成してもよいし、画像撮影ロボット50外のロボットと通信可能な情報処理装置に構成してもよい。
 このように、事前生成ポテンシャルマップ150を利用して生成した走行ルート情報165に従って画像撮影ロボット50を走行させることで、画像撮影ロボット50を、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域を選択して走行させることが可能となる。
 図11を参照して、事前生成ポテンシャルマップ150を利用して生成した走行ルート情報165の一例について説明する。
 図11には、時間(t3)~(t4)の画像撮影ロボット50の走行ルートの例を示している。
 図11に示す時間(t3)~(t4)の画像撮影ロボット50の走行ルートは、ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップ150内の走行許容領域のみを走行するように設定した走行ルートである。
 このように事前生成ポテンシャルマップ150内の走行許容領域のみを走行するように設定した走行ルートに従って画像撮影ロボット50を走行させれば、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域を選択して走行させることが可能となる。
  [3.本開示の実施例1の情報処理装置が実行する処理のシーケンスについて]
 次に、本開示の実施例1の情報処理装置が実行する処理のシーケンスについて説明する。
 図12以下に示すフローチャートは、先に図4を参照して説明した本開示の情報処理装置100が実行する処理のシーケンスを説明するフローチャートである。
 図12~図15に示すフローチャートは、情報処理装置100の個別ポテンシャルマップ生成部120が実行する処理のシーケンスであり、以下の3種類の個別ポテンシャルマップの生成シーケンスに相当する。
 (1)図12=マップa「演者ベースポテンシャルマップ」の生成シーケンス
 (2)図13~図14=マップb「照明ベースポテンシャルマップ」の生成シーケンス
 (3)図15=マップc「オブジェクトベースポテンシャルマップ」の生成シーケンス
 また、図16に示すフローチャートは、図4に示す情報処理装置100のポテンシャルマップ合成部130が実行する合成マップである「事前生成ポテンシャルマップ」の生成処理シーケンスである。
 なお、以下において説明するフローに従った処理は、例えば、情報処理装置の記憶部に格納されたプログラムに従って実行することが可能であり、例えばCPU等のプログラム実行機能を持つ制御部の制御の下で実行される。以下、図14に示すフローの処理の詳細について順次、説明する。
  [3-(1)マップa「演者ベースポテンシャルマップ」の生成シーケンスについて]
 まず、図12に示すフローチャートを参照して、情報処理装置100の個別ポテンシャルマップ生成部120が実行するマップa「演者ベースポテンシャルマップ」の生成シーケンスについて説明する。
 なお、この図12に示すフローチャートに従った処理は、先に図4を参照して説明した個別ポテンシャルマップ生成部120が実行するステップS11の処理であるマップa=演者ベースポテンシャルマップの生成処理の詳細シーケンスに相当する。
 すなわち、ライブ(パフォーマンス)の開始から終了までの演者位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであるマップa=演者ベースポテンシャルマップの生成処理の詳細シーケンスである。
 以下、図12に示すフローの各ステップの処理について、順次、説明する。
  (ステップS101)
 まず、情報処理装置100のデータ処理部(個別ポテンシャルマップ生成部120)は、ステップS101において、演者ベースポテンシャルマップの生成対象とするライブのライブ実行期間中の演者数=naを取得する。
 これは、例えば、予め設定されたライブプログラムに基づいて生成された演者行動予定データ、すなわち、図4に示す情報処理装置100の記憶部110内に格納された「A.演者行動予定データ111」から取得する処理として実行される。
  (ステップS102)
 次に、情報処理装置100のデータ処理部は、ステップS102において、解析対象とする1人の演者Pを選択する。
  (ステップS103)
 次に、情報処理装置100のデータ処理部は、ステップS103において、解析対象演者Pのライブ開始から終了までの時系列行動データを取得する。
 この処理も、例えば、予め設定されたライブプログラムに基づいて生成された演者行動予定データ、すなわち、図4に示す情報処理装置100の記憶部110内に格納された「A.演者行動予定データ111」から取得する処理として実行される。
  (ステップS104)
 次に、情報処理装置100のデータ処理部は、ステップS104において、解析対象演者Pのライブ開始~終了までの時系列行動データに基づくポテンシャルマップを生成する。
 これは、先に図4、図6を参照して説明した処理に従って実行される処理であり、ライブ開始~終了までの各時間における解析対象演者Pの位置からの距離に応じて3つの領域(走行禁止領域、走行注意領域、走行許容領域)を決定し、決定領域に応じて領域単位の異なる色を配色する処理として実行される。
 具体的には、以下のような領域設定と色設定を行う。
 演者Pの位置の近距離位置は、走行禁止領域として赤色に設定する。
 演者Pの位置の中距離位置は、走行注意領域として黄色に設定する。
 演者Pの位置の遠距離位置は、走行許容領域として青色に設定する。
 この処理によって、1人の解析対象演者Pに対応する演者ベースポテンシャルマップが生成されることになる。
  (ステップS105)
 次に、情報処理装置100のデータ処理部は、ステップS105において、解析未処理演者の有無を判定する。
 すなわち、ステップS101で取得された演者数naの全ての演者ベースポテンシャルマップ生成が完了したか否かを判定する。
 未処理の演者がある場合は、ステップS105の判定はYesとなる。この場合は、未処理の演者に対するステップS102以下の処理を実行する。
 一方、未処理の演者がない場合、すなわち、ステップS101で取得された演者数naの全ての演者ベースポテンシャルマップの生成が完了したと判定した場合は、ステップS105の判定はNoとなる。この場合は、ステップS106に進む。
  (ステップS106)
 全ての演者ベースポテンシャルマップの生成が完了すると、情報処理装置100のデータ処理部は、ステップS106以下の処理を実行する。
 まず、ステップS106において、全ての演者1~naに対応する個別演者対応のna個のポテンシャルマップ各々の設定領域を数値化する。例えば、
 走行禁止領域=10、
 走行注意領域=5、
 走行許容領域=0
 このような領域単位の数値化を行う。
  (ステップS107)
 次に、情報処理装置100のデータ処理部は、ステップS107において、全ての演者1~naのポテンシャルマップの領域対応の数値を、各領域ごとに加算して、領域対応の加算値を算出する。
 例えば演者数=3で、3つの演者対応の個別演者ベースポテンシャルマップ(m1~m3)が生成されており、ある時間txのあるステージ位置(x1,y1)の領域設定が以下のような設定であったとする。
 マップm1の数値=5(走行注意領域)
 マップm2の数値=5(走行注意領域)
 マップm3の数値=0(走行許容領域)
 この場合、加算値は、5+5+0=10となる。
 このような加算処理を全てのマップについて実行する。なお、マップは時系列データであり、すなわち全ての時間のマップの全てのステージ位置について実行する。
  (ステップS108)
 次に、情報処理装置100のデータ処理部は、ステップS108において、全ての演者1~naのポテンシャルマップの領域対応の加算値に基づいて領域区分を再設定する。
 例えば、以下のようなルールで領域の再設定を実行する。
 加算値が10点以上=走行禁止領域、
 加算値が5点以上=走行注意領域、
 加算値が5点未満=走行許容領域、
 例えば上記ルールに従って領域の再設定を行う。
  (ステップS109)
 次に、情報処理装置100のデータ処理部は、ステップS109において、ステップS108で領域区分を再設定したポテンシャルマップを「演者ベースポテンシャルマップ」として、ポテンシャルマップ合成部130に出力する。
 以上が、個別ポテンシャルマップ生成部120が実行するマップa=演者ベースポテンシャルマップの生成処理の詳細シーケンスである。
 この処理によって、ライブ(パフォーマンス)の開始から終了までの演者位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであるマップa=演者ベースポテンシャルマップが生成される。
  [3-(2)マップb「照明ベースポテンシャルマップ」の生成シーケンスについて]
 次に、図13~図14に示すフローチャートを参照して、情報処理装置100の個別ポテンシャルマップ生成部120が実行するマップb「照明ベースポテンシャルマップ」の生成シーケンスについて説明する。
 なお、この図13~図14に示すフローチャートに従った処理は、先に図4を参照して説明した個別ポテンシャルマップ生成部120が実行するステップS12の処理であるマップb=照明ベースポテンシャルマップの生成処理の詳細シーケンスに相当する。
 すなわち、ライブ(パフォーマンス)の開始から終了までの照明状態(照明位置、明るさ、色等)に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであるマップb=照明ベースポテンシャルマップの生成処理の詳細シーケンスである。
 以下、図13~図14に示すフローの各ステップの処理について、順次、説明する。
  (ステップS121)
 まず、情報処理装置100のデータ処理部(個別ポテンシャルマップ生成部120)は、ステップS121において、照明ベースポテンシャルマップの生成対象とするライブのライブ実行期間中の照明位置区分領域数=nbを取得する。
 この処理は、例えば、予め設定されたライブプログラムに基づいて生成された照明制御予定データ、すなわち、図4に示す情報処理装置100の記憶部110内に格納された「B.ステージ照明制御予定データ112」から取得する処理として実行される。
  (ステップS122)
 次に、情報処理装置100のデータ処理部は、ステップS122において、解析対象とする1つの照明位置区分領域Qを選択する。
  (ステップS123)
 次に、情報処理装置100のデータ処理部は、ステップS123において、解析対象として選択した1つの照明位置区分領域Qのライブ開始から終了までの時系列の照明の明るさ情報を取得する。
 これも、例えば、予め設定されたライブプログラムに基づいて生成された照明制御予定データ、すなわち、図4に示す情報処理装置100の記憶部110内に格納された「B.ステージ照明制御予定データ112」から取得する処理として実行される。
  (ステップS124)
 次に、情報処理装置100のデータ処理部は、ステップS124において、解析対象として選択した1つの照明位置区分領域Qのライブ開始~終了までの時系列の照明明るさデータに基づくポテンシャルマップを生成する。
 これは、先に図4、図7を参照して説明した処理に従って実行される処理であり、ライブ開始~終了までの各時間における照明位置区分領域Qの明るさに応じて3つの領域(走行禁止領域、走行注意領域、走行許容領域)を決定し、決定領域に応じて領域単位の異なる色を配色する処理として実行される。
 具体的には、以下のような領域設定と色設定を行う。
 照明位置区分領域Qの明るさが規定しきい値Thd1以上の明るさである場合は、走行禁止領域として赤色に設定する。
 照明位置区分領域Qの明るさが規定しきい値Thd1~Thd2の範囲にある場合は、走行注意領域として黄色に設定する。
 照明位置区分領域Qの明るさが規定しきい値Thd2以下の明るさである場合は、走行許容領域として青色に設定する。
 この処理によって、1つの照明位置区分領域Qに対応する照明明るさベースポテンシャルマップが生成されることになる。
  (ステップS125)
 次に、情報処理装置100のデータ処理部は、ステップS125において、解析未処理の照明位置区分領域の有無を判定する。
 すなわち、ステップS121で取得された照明位置区分領域数nbの全ての照明明るさベースポテンシャルマップ生成が完了したか否かを判定する。
 未処理の照明位置区分領域がある場合は、ステップS125の判定はYesとなる。この場合は、未処理の照明位置区分領域に対するステップS122以下の処理を実行する。
 一方、未処理の照明位置区分領域がない場合、すなわち、ステップS121で取得された照明位置区分領域nbの全ての照明明るさベースポテンシャルマップ生成が完了したと判定した場合は、ステップS125の判定はNoとなる。この場合は、ステップS126に進む。
  (ステップS126)
 全ての照明明るさベースポテンシャルマップの生成が完了すると、情報処理装置100のデータ処理部は、ステップS126以下の処理を実行する。
 まず、ステップS126において、解析対象とする1つの照明位置区分領域Qを選択する。
  (ステップS127)
 次に、情報処理装置100のデータ処理部は、ステップS127において、解析対象として選択した1つの照明位置区分領域Qのライブ開始から終了までの時系列の照明の色情報を取得する。
 これも、例えば、予め設定されたライブプログラムに基づいて生成された照明制御予定データ、すなわち、図4に示す情報処理装置100の記憶部110内に格納された「B.ステージ照明制御予定データ112」から取得する処理として実行される。
  (ステップS128)
 次に、情報処理装置100のデータ処理部は、ステップS128において、解析対象として選択した1つの照明位置区分領域Qのライブ開始~終了までの時系列の照明光色データに基づくポテンシャルマップを生成する。
 これは、先に図4、図7を参照して説明した処理に従って実行される処理であり、ライブ開始~終了までの各時間における照明位置区分領域Qの照明光色に応じて3つの領域(走行禁止領域、走行注意領域、走行許容領域)を決定し、決定領域に応じて領域単位の異なる色を配色する処理として実行される。
 具体的には、以下のような領域設定と色設定を行う。
 照明位置区分領域Qの照明光色が画像撮影ロボットと異なる色である場合は、走行禁止領域として赤色に設定する。
 照明位置区分領域Qの照明光色が画像撮影ロボットと異なる色でも、類似する色でない場合は、走行注意領域として黄色に設定する。
 照明位置区分領域Qの照明光色が画像撮影ロボットと類似する色である場合は、走行許容領域として青色に設定する。
 この処理によって、1つの照明位置区分領域Qに対応する照明色ベースポテンシャルマップが生成されることになる。
  (ステップS129)
 次に、情報処理装置100のデータ処理部は、ステップS129において、解析未処理の照明位置区分領域の有無を判定する。
 すなわち、ステップS121で取得された照明位置区分領域数nbの全ての照明色ベースポテンシャルマップ生成が完了したか否かを判定する。
 未処理の照明位置区分領域がある場合は、ステップS129の判定はYesとなる。この場合は、未処理の照明位置区分領域に対するステップS126以下の処理を実行する。
 一方、未処理の照明位置区分領域がない場合、すなわち、ステップS121で取得された照明位置区分領域nbの全ての照明色ベースポテンシャルマップ生成が完了したと判定した場合は、ステップS129の判定はNoとなる。この場合は、ステップS131に進む。
  (ステップS131)
 全ての照明色ベースポテンシャルマップの生成が完了すると、情報処理装置100のデータ処理部は、ステップS131以下の処理を実行する。
 情報処理装置100のデータ処理部は、ステップS131において、照明明るさベースポテンシャルマップと、照明色ベースポテンシャルマップの設定領域を数値化する。例えば、
 走行禁止領域=10、
 走行注意領域=5、
 走行許容領域=0
 このような領域単位の数値化を行う。
  (ステップS132)
 次に、情報処理装置100のデータ処理部は、ステップS132において、照明明るさベースポテンシャルマップと、照明色ベースポテンシャルマップの設定領域対応の数値を、各領域ごとに加算して、領域対応の加算値を算出する。
 例えばある時間txのあるステージ位置(x1,y1)の領域設定が以下のような設定であったとする。
 照明明るさベースポテンシャルマップm1の数値=5(走行注意領域)
 照明色ベースポテンシャルマップm2の数値=0(走行許容領域)
 この場合、加算値は、5+0=5となる。
 このような加算処理を全てのマップについて実行する。なお、マップは時系列データであり、すなわち全ての時間のマップの全てのステージ位置について実行する。
  (ステップS133)
 次に、情報処理装置100のデータ処理部は、ステップS133において、照明明るさベースポテンシャルマップと、照明色ベースポテンシャルマップの領域対応の加算値に基づいて領域区分を再設定する。
 例えば、以下のようなルールで領域の再設定を実行する。
 加算値が10点以上=走行禁止領域、
 加算値が5点以上=走行注意領域、
 加算値が5点未満=走行許容領域、
 例えば上記ルールに従って領域の再設定を行う。
  (ステップS134)
 次に、情報処理装置100のデータ処理部は、ステップS134において、ステップS133で領域区分を再設定したポテンシャルマップを「照明ベースポテンシャルマップ」として、ポテンシャルマップ合成部130に出力する。
 以上が、個別ポテンシャルマップ生成部120が実行するマップb=照明ベースポテンシャルマップの生成処理の詳細シーケンスである。
 この処理によって、ライブ(パフォーマンス)の開始から終了までの照明状態(照明位置、明るさ、色等)に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであるマップb=照明ベースポテンシャルマップが生成される。
  [3-(3)マップc「オブジェクトベースポテンシャルマップ」の生成シーケンスについて]
 まず、図15に示すフローチャートを参照して、情報処理装置100の個別ポテンシャルマップ生成部120が実行するマップc「オブジェクトベースポテンシャルマップ」の生成シーケンスについて説明する。
 なお、この図15に示すフローチャートに従った処理は、先に図4を参照して説明した個別ポテンシャルマップ生成部120が実行するステップS13の処理であるマップc=オブジェクトベースポテンシャルマップの生成処理の詳細シーケンスに相当する。
 すなわち、ライブ(パフォーマンス)の開始から終了までのステージ上のオブジェクトの配置位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであるマップc=オブジェクトベースポテンシャルマップの生成処理の詳細シーケンスである。
 なお、オブジェクトとは、ステージ上に配置されるオブジェクトであり、スピーカやモニタ、装飾オブジェクト等である。
 以下、図15に示すフローの各ステップの処理について、順次、説明する。
  (ステップS151)
 まず、情報処理装置100のデータ処理部(個別ポテンシャルマップ生成部120)は、ステップS151において、オブジェクトベースポテンシャルマップの生成対象とするライブのライブ実行期間中のオブジェクト数=ncを取得する。
 これは、例えば、予め設定されたライブプログラムに基づいて生成されたステージ上オブジェクト配置予定データ、すなわち、図4に示す情報処理装置100の記憶部110内に格納された「C.ステージ上オブジェクト配置予定データ113」から取得する処理として実行される。
  (ステップS152)
 次に、情報処理装置100のデータ処理部は、ステップS152において、解析対象とする1つのオブジェクトObを選択する。
  (ステップS153)
 次に、情報処理装置100のデータ処理部は、ステップS153において、解析対象オブジェクトObのライブ開始から終了までの時系列配置データを取得する。
 この処理も、例えば、予め設定されたライブプログラムに基づいて生成されたステージ上オブジェクト配置予定データ、すなわち、図4に示す情報処理装置100の記憶部110内に格納された「C.ステージ上オブジェクト配置予定データ113」から取得する処理として実行される。
  (ステップS154)
 次に、情報処理装置100のデータ処理部は、ステップS154において、解析対象オブジェクトObのライブ開始~終了までの時系列配置データに基づくポテンシャルマップを生成する。
 これは、先に図4、図8を参照して説明した処理に従って実行される処理であり、ライブ開始~終了までの各時間における解析対象オブジェクトObの配置位置からの距離に応じて3つの領域(走行禁止領域、走行注意領域、走行許容領域)を決定し、決定領域に応じて領域単位の異なる色を配色する処理として実行される。
 具体的には、以下のような領域設定と色設定を行う。
 オブジェクトObの配置位置の近距離位置は、走行禁止領域として赤色に設定する。
 オブジェクトObの配置位置の中距離位置は、走行注意領域として黄色に設定する。
 オブジェクトObの配置位置の遠距離位置は、走行許容領域として青色に設定する。
 この処理によって、1つの解析対象オブジェクトObに対応するオブジェクトベースポテンシャルマップが生成されることになる。
  (ステップS155)
 次に、情報処理装置100のデータ処理部は、ステップS155において、解析未処理オブジェクトの有無を判定する。
 すなわち、ステップS151で取得されたオブジェクト数ncの全てのオブジェクトベースポテンシャルマップ生成が完了したか否かを判定する。
 未処理のオブジェクトがある場合は、ステップS155の判定はYesとなる。この場合は、未処理のオブジェクトに対するステップS152以下の処理を実行する。
 一方、未処理のオブジェクトがない場合、すなわち、ステップS151で取得されたオブジェクト数ncの全てのオブジェクトベースポテンシャルマップの生成が完了したと判定した場合は、ステップS155の判定はNoとなる。この場合は、ステップS156に進む。
  (ステップS156)
 全てのオブジェクトベースポテンシャルマップの生成が完了すると、情報処理装置100のデータ処理部は、ステップS156以下の処理を実行する。
 まず、ステップS156において、全てのオブジェクト1~ncに対応する個別オブジェクト対応のnc個のポテンシャルマップ各々の設定領域を数値化する。例えば、
 走行禁止領域=10、
 走行注意領域=5、
 走行許容領域=0
 このような領域単位の数値化を行う。
  (ステップS157)
 次に、情報処理装置100のデータ処理部は、ステップS157において、全てのオブジェクト1~ncのポテンシャルマップの領域対応の数値を、各領域ごとに加算して、領域対応の加算値を算出する。
 例えばオブジェクト数=3で、3つのオブジェクト対応の個別オブジェクトベースポテンシャルマップ(m1~m3)が生成されており、ある時間txのあるステージ位置(x1,y1)の領域設定が以下のような設定であったとする。
 マップm1の数値=5(走行注意領域)
 マップm2の数値=5(走行注意領域)
 マップm3の数値=0(走行許容領域)
 この場合、加算値は、5+5+0=10となる。
 このような加算処理を全てのマップについて実行する。なお、マップは時系列データであり、すなわち全ての時間のマップの全てのステージ位置について実行する。
  (ステップS158)
 次に、情報処理装置100のデータ処理部は、ステップS158において、全てのオブジェクト1~ncのポテンシャルマップの領域対応の加算値に基づいて領域区分を再設定する。
 例えば、以下のようなルールで領域の再設定を実行する。
 加算値が10点以上=走行禁止領域、
 加算値が5点以上=走行注意領域、
 加算値が5点未満=走行許容領域、
 例えば上記ルールに従って領域の再設定を行う。
  (ステップS159)
 次に、情報処理装置100のデータ処理部は、ステップS159において、ステップS158で領域区分を再設定したポテンシャルマップを「オブジェクトベースポテンシャルマップ」として、ポテンシャルマップ合成部130に出力する。
 以上が、個別ポテンシャルマップ生成部120が実行するマップc=オブジェクトベースポテンシャルマップの生成処理の詳細シーケンスである。
 この処理によって、ライブ(パフォーマンス)の開始から終了までのオブジェクト配置位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップであるマップc=オブジェクトベースポテンシャルマップが生成される。
  [3-(4)個別ポテンシャルマップを合成した事前生成ポテンシャルマップの生成シーケンスについて]
 次に、図16に示すフローチャートを参照して、情報処理装置100のポテンシャルマップ合成部130が実行する事前生成ポテンシャルマップの生成シーケンスについて説明する。
 先に図4を参照して説明したように、ポテンシャルマップ合成部130は、個別ポテンシャルマップ生成部120が生成した3つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 これら3つのポテンシャルマップを合成して、これら3つのポテンシャルマップの時系列データの全てを反映した合成データである事前生成ポテンシャルマップを生成する。
 図16に示すフローチャートは、ポテンシャルマップ合成部130が実行する事前生成ポテンシャルマップの生成シーケンスである。以下、図16に示すフローの各ステップの処理について、順次、説明する。
  (ステップS171)
 まず、図4に示す情報処理装置100のデータ処理部(ポテンシャルマップ合成部130)はステップS171において、個別ポテンシャルマップ生成部120が生成した3つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 これら3つのポテンシャルマップ各々の設定領域を数値化する。例えば、
 走行禁止領域=10、
 走行注意領域=5、
 走行許容領域=0
 このような領域単位の数値化を行う。
  (ステップS172)
 次に、情報処理装置100のデータ処理部は、ステップS172において、3つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 これら3つのポテンシャルマップ各々の設定領域対応の数値を、各領域ごとに加算して、領域対応の加算値を算出する。
 例えばある時間txのあるステージ位置(x1,y1)の領域設定が以下のような設定であったとする。
 マップa=演者ベースポテンシャルマップの数値=5(走行注意領域)
 マップb=照明ベースポテンシャルマップの数値=0(走行許容領域)
 マップc=オブジェクトベースポテンシャルマップの数値=5(走行注意領域)
 この場合、加算値は、5+0+5=10となる。
 このような加算処理を全てのマップについて実行する。なお、マップは時系列データであり、すなわち全ての時間のマップの全てのステージ位置について実行する。
  (ステップS173)
 次に、情報処理装置100のデータ処理部は、ステップS173において、3つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 これら3つのポテンシャルマップの領域対応の加算値に基づいて領域区分を再設定する。
 例えば、以下のようなルールで領域の再設定を実行する。
 加算値が10点以上=走行禁止領域、
 加算値が5点以上=走行注意領域、
 加算値が5点未満=走行許容領域、
 例えば上記ルールに従って領域の再設定を行う。
  (ステップS174)
 次に、情報処理装置100のデータ処理部は、ステップS174において、ステップS173で領域区分を再設定したポテンシャルマップを合成マップ、すなわち「事前生成ポテンシャルマップ」として生成する。
 以上が、ポテンシャルマップ合成部130が実行する事前生成ポテンシャルマップ150の生成処理の詳細シーケンスである。
 このように、ポテンシャルマップ合成部130は、個別ポテンシャルマップ生成部120が生成した3つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 これらの個別ポテンシャルマップの合成処理を実行して、事前生成ポテンシャルマップ150を生成する。
 ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップ150は、走行ルート生成部160に提供され、走行ルート生成部160が、事前生成ポテンシャルマップ150に基づいて、ライブ(パフォーマンス)の開始から終了までの画像撮影ロボット50の走行ルートを決定する。
 すなわち、先に図10を参照して説明したように、走行ルート生成部160は、ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップ150を入力して、画像撮影ロボット50が、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域を選択して走行するためのルートを設定した走行ルート情報165を生成する。
 例えば、事前生成ポテンシャルマップ150内の走行許容領域のみを走行するような走行ルートを生成する。
 生成した走行ルートは、画像撮影ロボット50の走行制御を行う走行制御部170に提供され、走行制御部170は、生成された走行ルート情報165に従って、画像撮影ロボット50を走行させる。
 このように、事前生成ポテンシャルマップ150を利用して生成した走行ルート情報165に従って画像撮影ロボット50を走行させることで、画像撮影ロボット50を、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域を選択して走行させることが可能となる。
 なお、事前生成ポテンシャルマップ150を利用して生成される、画像撮影ロボット50の走行ルートは、例えば情報処理装置100の表示部にシミュレーション画像として表示することが可能である。
 情報処理装置100のデータ処理部は、生成した事前生成ポテンシャルマップ150を利用して生成した走行ルート情報165に基づいて、ライブの開始から終了までの画像撮影ロボット50の走行予定ルートを表示するためのシミュレーションデータを生成する。このシミュレーションデータの具体的な表示例を図17に示す。
 ロボット制御オペレータ等のユーザは、図17に示すように、スライダを左右に移動させる操作を行うことで、ライブの開始(ts)から終了(te)まで各時間の画像撮影ロボット50の走行位置を確認することができる。
 図17には、シミュレーションデータの表示例として、時間t3と、時間t4の画像撮影ロボット50の走行位置を示す表示データの例を示している。
 ロボット制御オペレータ等のユーザは、このシミュレーションデータを参照することで、生成した事前生成ポテンシャルマップ150を利用して生成した走行ルートを確認することが可能となる。
  [4.(実施例2)観客の視線や、観客席側のテレビカメラの視線を考慮したマップ作成を行う情報処理装置の構成と処理の詳細について]
 次に、本開示の実施例2として、観客の視線や、観客席側のテレビカメラの視線を考慮したマップ作成を行う情報処理装置の構成と処理の詳細について説明する。
 上述した実施例1では、画像撮影ロボット50の走行ルートを決定するためのポテンシャルマップを生成する際に、以下の3つの個別マップを生成し、利用する構成であった。
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ、
 上述した実施例1では、上記3つの個別ポテンシャルマップを個別に生成した後、これらを合成して事前生成ポテンシャルマップを生成し、生成した事前生成ポテンシャルマップを利用して画像撮影ロボット50の走行ルートを決定する構成であった。
 例えば、事前生成ポテンシャルマップ内の走行許容領域を選択して画像撮影ロボット50の走行ルートを決定する処理を行う構成であった。
 以下において説明する実施例2は、上述の実施例1の処理に追加して、さらに観客の視線や、観客席側のテレビカメラの視線を考慮した第4の個別ポテンシャルマップを作成し、この第4の個別ポテンシャルマップも考慮した事前生成ポテンシャルマップを生成する実施例である。
 図18を参照して本実施例2において考慮する観客の視線や、観客席側のテレビカメラの視線について説明する。
 図18に示す画像撮影ロボット50は、先に説明した図1に示す画像撮影ロボット50と同様、カメラを乗せた移動装置、すなわち走行ロボットであり、ステージ上を動き回って演者20のパフォーマンスを様々な角度から撮影する。
 しかし、図18に示すように、画像撮影ロボット50は、例えば演者20を前方から撮影する場合、観客席側の観客30やTVカメラ31と演者20の間に入ってしまう場合がある。
 このような状態では、観客30が演者20の方向に視線を向けても、画像撮影ロボット50が視界に入り、演者20が見づらくなるという問題が発生する。
 観客席側のTVカメラ31も同様であり、TVカメラ31が演者20を撮影しようとして演者の方向に撮影方向(視線)を向けても、画像撮影ロボット50が撮影画像内に入り、演者20の撮影の邪魔になるという問題が発生する。
 以下の実施例2は、このような問題を解決する実施例である。
 本実施例2の処理を行うライブ会場の例を図19に示す。
 図19に示すように、実際にライブが行われるステージ10には、スピーカ12やモニタ13、さらに様々な装飾オブジェクト14が置かれ、また、演者20に対しては照明11も照射される。
 演者20は、ライブの進行に併せて、ステージ上を動き回り、この動きに応じて照明11の位置や明るさや色も変化する。また装飾オブジェクト14も様々に入れ替えられることになる。
 また、図19に示すように、観客席側には多くの観客30がおり、TVカメラ31も配置され、演者20のライブの模様を撮影している。
 本実施例2では、観客30の一部の観客、すなわち図に示す優先観客35の視点位置と、TVカメラ31の視点位置を考慮したポテンシャルマップの生成を行う。
 観客全ての視点位置を考慮したポテンシャルマップを生成すると、ステージ全体が走行禁止領域に設定されたポテンシャルマップが生成されてしまい、画像撮影ロボット50の走行許容領域がほとんどなくなってしまうため、一部の優先観客35の視点位置を考慮した処理を行う。
 図に示す優先観客35は、例えば、関係者席として確保された席であり、重要客の指定席として確保済みの指定席である。
 本実施例2では、前述の実施例1の処理に加えて、この優先観客35の視点位置と、TVカメラ31の視点位置を考慮したポテンシャルマップの生成を行う。
 図20以下を参照して、本実施例2の詳細について説明する。
 図20は、本開示の実施例2の情報処理装置100bの構成例を示す図である。
 なお、この情報処理装置100bは、図1~3に示すステージ上を走行する移動装置、すなわち、カメラを搭載した画像撮影ロボット50の内部に構成してもよいし、画像撮影ロボット50と通信可能な装置、あるいは画像撮影ロボット50と独立した装置としてもよい。
 図20に示す情報処理装置100bの構成について説明する。
 図20に示すように、情報処理装置100bは、記憶部110、個別ポテンシャルマップ生成部120、ポテンンシャルマップ合成部130、走行ルート生成部160を有する。
 これらの基本構成は、先に図4を参照して説明した情報処理装置100と同じである。
 なお、この図20に示す情報処理装置100bも、図1~3に示すステージ上を走行する移動装置、すなわち、カメラを搭載した画像撮影ロボット50の内部に構成してもよいし、先に図5を参照して説明したように画像撮影ロボット50と通信可能な装置(サーバ)等、画像撮影ロボット50と独立した装置としてもよい。
 記憶部110には以下の4つのデータが格納されている。
 A.演者行動予定データ111、
 B.ステージ照明制御予定データ112、
 C.ステージ上オブジェクト配置予定データ113、
 D.優先観客、TVカメラ視点位置データ114、
 なお、これら4つの予定データは、ライブ開始前に予め準備され記憶部110に格納されるデータである。すなわち、ライブ開始前に準備されたライブ進行表などのプログラムに従って予め準備された予定データである。
 データA~Cは、先の実施例1において図4を参照して説明したデータと同じデータである。すなわち、
 A.演者行動予定データ111は、ステージ上を動き回る演者のライブ期間中の時系列位置データである。すなわちライブ(パフォーマンス)の開始から終了までの演者の時系列位置データである。
 B.ステージ照明制御予定データ112は、ライブ(パフォーマンス)の開始から終了までの照明の照明位置、明るさ、色等の照明設定情報を含む照明制御情報の時系列データである。
 C.ステージ上オブジェクト配置予定データ113は、ライブ(パフォーマンス)の開始から終了までのステージ上オブジェクトの配置位置を含むステージ上オブジェクト配置位置情報の時系列データである。
 なお、ステージ上オブジェクトには、ステージ上に配置されるスピーカやモニタ、装飾オブジェクト等が含まれる。
 本実施例2では、これらのデータA~Cに加え、
 D.優先観客、TVカメラ視点位置データ114、
 このデータDが記憶部110に格納される。
 D.優先観客、TVカメラ視点位置データ114は、ライブ(パフォーマンス)の開始から終了までの観客席側の優先観客の視点位置と、TVカメラの視点位置データである。
 なお、優先観客の視点位置と、TVカメラの視点位置が、ライブ(パフォーマンス)の開始から終了まで、様々な位置に変化する場合には、D.優先観客、TVカメラ視点位置データ114は時間経過に伴い、動的に変化する時系列データとなる。
 しかし、優先観客の視点位置と、TVカメラの視点位置が、ライブ(パフォーマンス)の開始から終了まで同じ位置にある場合には、D.優先観客、TVカメラ視点位置データ114は1つの固定データとすることが可能である。
 この記憶部110の格納データA~Dは、個別ポテンシャルマップ生成部120において利用される。
 個別ポテンシャルマップ生成部120は、上記A,B,C,Dの4種類のデータを個別に利用して、以下の4種類の個別のポテンシャルマップを生成する。
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ、
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ、
 マップa~cは、先に実施例1において説明した個別ポテンシャルマップである。
 マップa=演者ベースポテンシャルマップは、ライブ(パフォーマンス)の開始から終了までの演者位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 マップb=照明ベースポテンシャルマップは、ライブ(パフォーマンス)の開始から終了までの照明状態(照明位置、明るさ、色等)に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 マップc=オブジェクトベースポテンシャルマップは、ライブ(パフォーマンス)の開始から終了までのオブジェクト配置位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップは、観客席側の優先観客、TVカメラ視点位置に応じて、各領域(走行禁止領域、走行注意領域、走行許容領域)を設定したマップである。
 なお、このマップは、優先観客の視点位置と、TVカメラの視点位置が、ライブ(パフォーマンス)の開始から終了まで、様々な位置に変化する場合には、時間経過に伴い設定領域(走行禁止領域、走行注意領域、走行許容領域)が動的に変化する時系列データとなる。
 しかし、優先観客の視点位置と、TVカメラの視点位置が、ライブ(パフォーマンス)の開始から終了まで同じ位置にある場合には、設定領域(走行禁止領域、走行注意領域、走行許容領域)が動的に変化しない1つのマップとなる。
 本実施例2では、個別ポテンシャルマップ生成部120は、図20に示すステップS11~S14において、以下の4つのマップを生成する。すなわち、
 ステップS11において、マップa=演者ベースポテンシャルマップを生成する。
 ステップS12において、マップb=照明ベースポテンシャルマップを生成する。
 ステップS13において、マップc=オブジェクトベースポテンシャルマップを生成する。
 ステップS14において、マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップを生成する。
 個別ポテンシャルマップ生成部120は、図20に示すように、ステップS14において、優先観客視点位置、およびTVカメラの視点位置からステージ中央位置を結ぶ直線ラインの近距離位置から遠距離位置までを、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)に区分した
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ
 を生成する。
 図21に個別ポテンシャルマップ生成部120が生成する「マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ」の具体例を示す。
 「マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ」は、観客席側の優先観客、TVカメラ視点位置に応じて、各領域(走行禁止領域、走行注意領域、走行許容領域)を設定したマップである。
 図21に示すように、優先観客視点、およびTVカメラ視点~ステージ中央を結ぶ直線ラインの近距離位置から遠距離位置までを、走行禁止領域(赤)、走行注意領域(黄)、走行許容領域(青)に区分したマップとして生成される。
 なお、前述したように、この「マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ」の設定領域(走行禁止領域、走行注意領域、走行許容領域)は動的に変化する時系列マップとする場合と、設定領域が変化しない1つの固定マップとなる場合の両ケースがある。
 このように、個別ポテンシャルマップ生成部120は、以下の4つの個別ポテンシャルマップを生成する。
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ、
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ、
 個別ポテンシャルマップ生成部120が生成したこれら4つの個別ポテンシャルマップは、ポテンシャルマップ合成部130に入力される。
 ポテンシャルマップ合成部130は、個別ポテンシャルマップ生成部120が生成した4つの個別ポテンシャルマップの合成処理を実行して、事前生成ポテンシャルマップb,150bを生成する。
 なお、事前生成ポテンシャルマップb,150bもライブ(パフォーマンス)の開始から終了まで各領域(走行禁止領域、走行注意領域、走行許容領域)を動的に変化させた時系列マップである。
 本実施例2において生成される「事前生成ポテンシャルマップb」は、演者位置、照明状態(照明位置、明るさ、色)、オブジェクト配置位置、さらに、優先観客視点とTVカメラ視点の全てを考慮して走行禁止領域、走行注意領域、走行許容領域が決定され、決定された領域単位で以下の異なる色が配色されたマップである。
 走行禁止領域は、赤色に設定される。
 走行注意領域は、黄色に設定される。
 走行許容領域は、青色に設定される。
 ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップb,150bは、走行ルート生成部160に提供され、走行ルート生成部160が、事前生成ポテンシャルマップb,150bに基づいて、ライブ(パフォーマンス)の開始から終了までの画像撮影ロボット50の走行ルートを決定する。
 走行ルート生成部160は、ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップb,150bを入力して、画像撮影ロボット50が、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域、さらに優先観客35の視線やTVカメラ31の撮影の邪魔にならない領域を選択して走行するためのルートを設定した走行ルート情報165を生成する。
 走行ルート生成部160は、例えば、事前生成ポテンシャルマップb,150b内の走行許容領域のみを走行するような走行ルートを生成する。
 生成した走行ルートは、画像撮影ロボット50の走行制御を行う走行制御部170に提供され、走行制御部170は、生成された走行ルート情報165に従って、画像撮影ロボット50を走行させる。
 このように、本実施例2において生成される事前生成ポテンシャルマップb,150bを利用して生成した走行ルート情報165に従って画像撮影ロボット50を走行させることで、画像撮影ロボット50を、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域、さらに優先観客35の視線やTVカメラ31の撮影の邪魔にならない領域を選択して走行させることが可能となる。
 次に、図22に示すフローを参照して、情報処理装置100の個別ポテンシャルマップ生成部120が実行するマップd「優先観客、TVカメラ視点位置ベースポテンシャルマップ」の生成シーケンスについて説明する。
 なお、この図22に示すフローチャートに従った処理は、先に図20を参照して説明した個別ポテンシャルマップ生成部120が実行するステップS14の処理の詳細シーケンスに相当する。
 すなわち、ライブ(パフォーマンス)の開始から終了までの優先観客やTVカメラの視点位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)を設定したマップの生成処理の詳細シーケンスである。
 以下、図22に示すフローの各ステップの処理について、順次、説明する。
  (ステップS201)
 まず、情報処理装置100のデータ処理部(個別ポテンシャルマップ生成部120)は、ステップS201において、優先観客、TVカメラ視点ベースポテンシャルマップの生成対象とするライブのライブ実行期間中の優先観客とTVカメラの視点数=ndを取得する。
 これは、例えば、予め設定されたライブプログラムに基づいて生成された優先観客、TVカメラの視点位置データ、すなわち、図20に示す情報処理装置100の記憶部110内に格納された「D.優先観客、TVカメラ視点視点位置データ114」から取得する処理として実行される。
  (ステップS202)
 次に、情報処理装置100のデータ処理部は、ステップS202において、解析対象とする1つの優先観客視点またはTVカメラ視点Sを選択する。
  (ステップS203)
 次に、情報処理装置100のデータ処理部は、ステップS203において、解析対象となる優先観客視点またはTVカメラ視点Sのライブ開始から終了までの時系列位置データを取得する。
 この処理も、例えば、予め設定されたライブプログラムに基づいて生成された優先観客視点、TVカメラ視点位置データ、すなわち、図4に示す情報処理装置100の記憶部110内に格納された「D.優先観客、TVカメラ視点視点位置データ114」から取得する処理として実行される。
 なお、前述したように、優先観客視点またはTVカメラ視点Sのライブ開始から終了までの時系列位置データは時間経過に伴い動的に変化するデータである場合と、変化しない1つの固定データである場合がある。
  (ステップS204)
 次に、情報処理装置100のデータ処理部は、ステップS204において、解析対象として選択した優先観客視点またはTVカメラ視点Sのライブ開始~終了までの位置データに基づくポテンシャルマップを生成する。
 例えば先に図21を参照して説明したようなマップ、すなわち、観客席側の優先観客、TVカメラ視点位置に応じて、各領域(走行禁止領域、走行注意領域、走行許容領域)を設定したマップを生成する。
 なお、前述したように、この「マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ」の設定領域(走行禁止領域、走行注意領域、走行許容領域)は動的に変化する時系列マップとする場合と、設定領域が変化しない1つの固定マップとなる場合の両ケースがある。
 この処理によって、解析対象とした1つの優先観客視点またはTVカメラ視点Sに対応する優先観客、TVカメラ視点ベースポテンシャルマップが生成されることになる。
  (ステップS205)
 次に、情報処理装置100のデータ処理部は、ステップS205において、解析未処理の優先観客視点またはTVカメラ視点の有無を判定する。
 すなわち、ステップS201で取得された優先観客とTVカメラの視点数ndの全ての優先観客、TVカメラ視点ベースポテンシャルマップ生成が完了したか否かを判定する。
 未処理の優先観客視点またはTVカメラ視点がある場合は、ステップS205の判定はYesとなる。この場合は、未処理の優先観客視点またはTVカメラ視点に対するステップS202以下の処理を実行する。
 一方、未処理の優先観客視点またはTVカメラ視点がない場合、すなわち、ステップS201で取得された優先観客とTVカメラの視点数ndの全ての優先観客、TVカメラ視点ベースポテンシャルマップの生成が完了したと判定した場合は、ステップS205の判定はNoとなる。この場合は、ステップS206に進む。
  (ステップS206)
 全ての優先観客、TVカメラ視点ベースポテンシャルマップの生成が完了すると、情報処理装置100のデータ処理部は、ステップS206以下の処理を実行する。
 まず、ステップS206において、全ての優先観客視点またはTVカメラ視点1~ndに対応する個別優先観客視点またはTVカメラ視点対応のnd個のポテンシャルマップ各々の設定領域を数値化する。例えば、
 走行禁止領域=10、
 走行注意領域=5、
 走行許容領域=0
 このような領域単位の数値化を行う。
  (ステップS207)
 次に、情報処理装置100のデータ処理部は、ステップS207において、全ての優先観客視点またはTVカメラ視点1~ndのポテンシャルマップの領域対応の数値を、各領域ごとに加算して、領域対応の加算値を算出する。
 例えば優先観客とTVカメラの視点の総数=3で、3つの優先観客視点またはTVカメラ視点対応の個別の優先観客、TVカメラ視点ベースポテンシャルマップ(m1~m3)が生成されており、ある時間txのあるステージ位置(x1,y1)の領域設定が以下のような設定であったとする。
 マップm1の数値=5(走行注意領域)
 マップm2の数値=5(走行注意領域)
 マップm3の数値=0(走行許容領域)
 この場合、加算値は、5+5+0=10となる。
 このような加算処理を全てのマップについて実行する。なお、マップが時系列データである場合は、全ての時間のマップの全てのステージ位置について実行する。
  (ステップS208)
 次に、情報処理装置100のデータ処理部は、ステップS208において、全ての優先観客視点またはTVカメラ視点1~ndのポテンシャルマップの領域対応の加算値に基づいて領域区分を再設定する。
 例えば、以下のようなルールで領域の再設定を実行する。
 加算値が10点以上=走行禁止領域、
 加算値が5点以上=走行注意領域、
 加算値が5点未満=走行許容領域、
 例えば上記ルールに従って領域の再設定を行う。
  (ステップS209)
 次に、情報処理装置100のデータ処理部は、ステップS209において、ステップS208で領域区分を再設定したポテンシャルマップを「優先観客、TVカメラ視点ベースポテンシャルマップ」として、ポテンシャルマップ合成部130に出力する。
 以上が、個別ポテンシャルマップ生成部120が実行するマップa=優先観客、TVカメラ視点ベースポテンシャルマップの生成処理の詳細シーケンスである。
 この処理によって、ライブ(パフォーマンス)の開始から終了までの優先観客視点またはTVカメラ視点位置に応じて各領域(走行禁止領域、走行注意領域、走行許容領域)が動的に変化する時系列マップ、あるいは動的変化のないマップであるマップa=優先観客、TVカメラ視点ベースポテンシャルマップが生成される。
 次に、図23に示すフローチャートを参照して、情報処理装置100のポテンシャルマップ合成部130が実行する事前生成ポテンシャルマップの生成シーケンスについて説明する。
 先に図20を参照して説明したように、ポテンシャルマップ合成部130は、個別ポテンシャルマップ生成部120が生成した4つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ、
 これら4つのポテンシャルマップを合成して、これら4つのポテンシャルマップの全てを反映した合成データである事前生成ポテンシャルマップbを生成する。
 図23に示すフローチャートは、ポテンシャルマップ合成部130が実行する事前生成ポテンシャルマップbの生成シーケンスである。以下、図23に示すフローの各ステップの処理について、順次、説明する。
  (ステップS221)
 まず、図20に示す情報処理装置100のデータ処理部(ポテンシャルマップ合成部130)はステップS221において、個別ポテンシャルマップ生成部120が生成した4つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ、
 これら4つのポテンシャルマップ各々の設定領域を数値化する。例えば、
 走行禁止領域=10、
 走行注意領域=5、
 走行許容領域=0
 このような領域単位の数値化を行う。
  (ステップS222)
 次に、情報処理装置100のデータ処理部は、ステップS222において、4つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ、
 これら4つのポテンシャルマップ各々の設定領域対応の数値を、各領域ごとに加算して、領域対応の加算値を算出する。
 例えばある時間txのあるステージ位置(x1,y1)の領域設定が以下のような設定であったとする。
 マップa=演者ベースポテンシャルマップの数値=5(走行注意領域)
 マップb=照明ベースポテンシャルマップの数値=0(走行許容領域)
 マップc=オブジェクトベースポテンシャルマップの数値=5(走行注意領域)
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ=5(走行注意領域)、
 この場合、加算値は、5+0+5+5=15となる。
 このような加算処理を全てのマップについて実行する。なお、マップは時系列データであり、すなわち全ての時間のマップの全てのステージ位置について実行する。
  (ステップS223)
 次に、情報処理装置100のデータ処理部は、ステップS223において、4つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ
 これら4つのポテンシャルマップの領域対応の加算値に基づいて領域区分を再設定する。
 例えば、以下のようなルールで領域の再設定を実行する。
 加算値が10点以上=走行禁止領域、
 加算値が5点以上=走行注意領域、
 加算値が5点未満=走行許容領域、
 例えば上記ルールに従って領域の再設定を行う。
  (ステップS224)
 次に、情報処理装置100のデータ処理部は、ステップS224において、ステップS223で領域区分を再設定したポテンシャルマップを合成マップ、すなわち「事前生成ポテンシャルマップb」として生成する。
 以上が、ポテンシャルマップ合成部130が実行する事前生成ポテンシャルマップb,150bの生成処理の詳細シーケンスである。
 このように、ポテンシャルマップ合成部130は、個別ポテンシャルマップ生成部120が生成した4つの個別ポテンシャルマップ、すなわち、
 マップa=演者ベースポテンシャルマップ、
 マップb=照明ベースポテンシャルマップ、
 マップc=オブジェクトベースポテンシャルマップ
 マップd=優先観客、TVカメラ視点位置ベースポテンシャルマップ
 これらの個別ポテンシャルマップの合成処理を実行して、事前生成ポテンシャルマップb,150bを生成する。
 ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップb,150bは、走行ルート生成部160に提供され、走行ルート生成部160が、事前生成ポテンシャルマップ150に基づいて、ライブ(パフォーマンス)の開始から終了までの画像撮影ロボット50の走行ルートを決定する。
 すなわち、先に図10を参照して説明したように、走行ルート生成部160は、ポテンシャルマップ合成部130が生成した事前生成ポテンシャルマップb,150bを入力して、画像撮影ロボット50が、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域、さらに、優先観客やTVカメラの視野を邪魔することのない領域を選択して走行するルートを設定した走行ルート情報165を生成する。
 例えば、事前生成ポテンシャルマップ150内の走行許容領域のみを走行するような走行ルートを生成する。
 生成した走行ルートは、画像撮影ロボット50の走行制御を行う走行制御部170に提供され、走行制御部170は、生成された走行ルート情報165に従って、画像撮影ロボット50を走行させる。
 このように、事前生成ポテンシャルマップ150を利用して生成した走行ルート情報165に従って画像撮影ロボット50を走行させることで、画像撮影ロボット50を、ライブ(パフォーマンス)の開始から終了まで演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域であり、かつ優先観客やTVカメラの視野を邪魔することのない領域を選択して走行させることが可能となる。
  [5.(実施例3)ライブ実行中の情報を利用したリアルタイムデータ反映ポテンシャルマップを生成する実施例について]
 次に、実施例3として、ライブ実行中の情報を利用したリアルタイムデータ反映ポテンシャルマップを生成する実施例について説明する。
 上述した実施例1、実施例2は、ステージ上でのライブが開始される前の段階で取得可能なデータ、すなわち、図4や図20に示す情報処理装置100の記憶部110に格納された以下のデータを利用してポテンシャルマップを生成していた。
 A.演者行動予定データ111、
 B.ステージ照明制御予定データ112、
 C.ステージ上オブジェクト配置予定データ113、
 D.優先観客、TVカメラ視点位置データ114、
 この実施例1、実施例2において利用した上記のA~Dの各データは、例えばライブのプログラム通りに演者が行動し、照明制御が行われ、オブジェクトの配置が行われることを前提として生成されたデータである。
 しかし、実際にライブが開始されると、当初のライブプログラムとは異なる演者の動きや照明制御などが行われることがある。
 このような場合に、上述の実施例1,2に基づいて生成した事前生成ポテンシャルマップを利用して画像撮影ロボット50を走行させると、演者に接触してしまうといった事態が発生する可能性がある。
 以下に説明する実施例3は、このような事態を防止するものであり、実際のライブ、すなわち演者のパフォーマンスが行われている時間のリアルタイムデータを取得して、ポテンシャルマップを生成する実施例である。
 本実施例3の情報処理装置200の構成例を図24に示す。
 図24に示すように情報処理装置200は、リアルタイムステージ情報取得部201、リアルタイム観客席情報取得部202、リアルタイムネット情報取得部203、リアルタイムステージ情報解析部204、記憶部205、事前生成ポテンシャルマップ修正部206、リアルタイム注目領域解析部207、リアルタイムデータ反映ポテンシャルマップ生成部208を有する。
 なお、図24に示す情報処理装置200は、例えば図1~3に示すステージ上を走行する移動装置、すなわち、カメラを搭載した画像撮影ロボット50の内部に構成してもよいし、画像撮影ロボット50と通信可能な装置等、画像撮影ロボット50と独立した装置としてもよい。
 図24に示す構成を持つ情報処理装置を画像撮影ロボット50と独立した装置とした場合の情報処理システムの一構成例を図25に示す。
 例えば、図25に示すように、情報処理装置(サーバ)200と、ライブ会場情報取得装置60と、ライブ会場内の画像撮影ロボット50、さらにSNSサーバ290を、通信ネットワークを介して接続した情報処理システム280を構築する。
 情報処理装置(サーバ)100は、図4に示す構成を有する。
 ライブ会場情報取得装置60は、ライブ会場の画像を撮影するカメラ、ライブ会場の音声情報を取得するマイク、照明状態を検出する照度計、色解析装置等によって構成され、取得した画像等の情報を、通信ネットワークを介して情報処理装置(サーバ)200に送信する。
 情報処理装置(サーバ)200は、ライブ会場情報取得装置60からの受信情報や、SNSサーバ290から取得される情報を解析して、ライブ会場内の画像撮影ロボット50の走行ルートを決定するためのマップ(ポテンシャルマップ)の生成処理や、マップを利用した走行ルート決定処理、さらに決定した走行ルートに従った画像撮影ロボット50の走行制御情報の生成処理等を行なう。
 なお、SNSサーバ290は、ライブをネット閲覧しているユーザのつぶやきなどのコメント情報を収集するサーバである。情報処理装置(サーバ)200は、SNSサーバ290から取得する情報を解析してネットを介してライブを鑑賞しているユーザの注目領域などを解析する。
 情報処理装置(サーバ)200は、さらに、生成した走行制御情報を、通信ネットワークを介して画像撮影ロボット50に送信する。
 画像撮影ロボット50は、情報処理装置(サーバ)100から受信する走行制御情報に従ってステージ上を走行する。
 例えばこのような情報処理システムを利用した処理を行うことが可能である。
 以下、図24に示す情報処理装置100の構成と処理について説明する。
 リアルタイムステージ情報取得部201は、具体的には、例えばカメラや照度計等によって構成され、実際のライブ、すなわち演者によるパフォーマンスが行われているステージの情報をリアルタイムで取得する。
 リアルタイムステージ情報取得部201は、図に示すように、以下の各情報をリアルタイムデータとして取得する。
 演者位置211、
 照明状態212、
 ステージ上オブジェクト位置213、
 画像撮影ロボット位置214、
 なお、照明状態には、照明の照射されたステージの位置、照明の明るさ、照明の色の各情報が含まれる。
 リアルタイムステージ情報取得部201は、演者位置211、照明状態212、ステージ上オブジェクト位置213、画像撮影ロボット位置214、これらの各情報をライブ実行期間中、継続的にリアルタイムデータとして取得し、取得したデータをリアルタイムステージ情報解析部204に出力する。
 リアルタイムステージ情報解析部204は、リアルタイムステージ情報取得部201から入力する演者位置211、照明状態212、ステージ上オブジェクト位置213、画像撮影ロボット位置214、これらの各情報と、予め記憶部205に格納されているライブプログラムに基づく予定データ231や、先の実施例1,または実施例2に従って生成された事前生成ポテンシャルマップ150を比較する。
 記憶部205に格納されているライブプログラムに基づく予定データ231とは、先に図4、図20を参照して説明した以下の各情報と同様のデータである。
 A.演者行動予定データ111、
 B.ステージ照明制御予定データ112、
 C.ステージ上オブジェクト配置予定データ113、
 これらの各データは、ライブ開始前に、ライブ予定プログラムに基づいて予め生成されたデータである。
 リアルタイムステージ情報解析部204は、リアルタイムステージ情報取得部201から入力する演者位置211、照明状態212、ステージ上オブジェクト位置213、画像撮影ロボット位置214、これらの各情報と、予め記憶部205に格納されているライブプログラムに基づく予定データ231を比較して、差分がないか否かを確認する。
 差分がなければ、先の実施例1,または実施例2に従って生成された事前生成ポテンシャルマップ150を利用して設定した走行ルートに従って画像撮影ロボット50を走行させても、演者やオブジェクトに衝突せず、また照明によって目立つことなく走行させることができる。
 しかし、差分が存在すると、先の実施例1,または実施例2に従って生成された事前生成ポテンシャルマップ150を利用して設定した走行ルートに従って画像撮影ロボット50を走行させると、演者やオブジェクトに接触する可能性や、照明によって目立つ走行が行われる可能性がある。
 リアルタイムステージ情報解析部204は、リアルタイムステージ情報取得部201から入力する演者位置211、照明状態212、ステージ上オブジェクト位置213、画像撮影ロボット位置214、これらの各情報と、予め記憶部205に格納されているライブプログラムに基づく予定データ231に差分を検出した場合、さらに、先の実施例1,または実施例2に従って生成された事前生成ポテンシャルマップ150に従った走行ルートの走行に問題がないか否かを判定する。
 問題があると判定した場合、すなわち、事前生成ポテンシャルマップ150を利用して設定した走行ルートに従って画像撮影ロボット50を走行させると、演者やオブジェクトに接触する可能性や、照明によって目立つ走行が行われる可能性があると判定した場合は、事前ポテンシャルマップ修正部206に対して、事前生成ポテンシャルマップ150の修正要求を出力する。
 事前ポテンシャルマップ修正部206は、リアルタイムステージ情報解析部204から事前生成ポテンシャルマップの修正要求を入力した場合、演者やオブジェクトに対する接触可能性や、照明によって目立つ走行が行われる可能性を低減させるように、事前生成ポテンシャルマップ150を修正する。
 事前ポテンシャルマップ修正部206は、事前生成ポテンシャルマップ150を修正して、リアルタイムステージ情報反映ポテンシャルマップを生成する。
 リアルタイムステージ情報反映ポテンシャルマップは、リアルタイムステージ情報取得部201が取得したリアルタイムの演者位置211、照明状態212、ステージ上オブジェクト位置213、画像撮影ロボット位置214を反映して各領域(走行禁止領域、走行注意領域、走行許容領域)を設定したマップである。
 事前ポテンシャルマップ修正部206が実行する「リアルタイムステージ情報反映ポテンシャルマップ」の生成処理の具体例について、図26を参照して説明する。
 図26には、以下の2つのポテンシャルマップを示している。
 (1)事前生成ポテンシャルマップ
 (2)リアルタイムステージ情報反映ポテンシャルマップ
 (1)事前生成ポテンシャルマップは、先の実施例1,または実施例2に従って生成された事前生成ポテンシャルマップ150であり、図24に示す情報処理装置200の記憶部205に格納されたポテンシャルマップである。
 (2)リアルタイムステージ情報反映ポテンシャルマップは、事前ポテンシャルマップ修正部206が事前生成ポテンシャルマップ150を修正して生成するマップである。すなわち、リアルタイムステージ情報取得部201が取得したリアルタイムの演者位置211、照明状態212、ステージ上オブジェクト位置213、画像撮影ロボット位置214を反映して各領域(走行禁止領域、走行注意領域、走行許容領域)を再設定したマップである。
 図26の(1),(2)を比較すると、例えば演者位置については、(1)の演者位置と、(2)の演者位置がやや異なり、(2)の演者位置が右側に少しずれている。
 このように、実際のライブでは、予定と異なる状態が発生する。
 事前ポテンシャルマップ修正部206は、リアルタイムのステージ情報を用いて、事前生成ポテンシャルマップを修正してリアルタイムステージ情報反映ポテンシャルマップを生成する。
 事前ポテンシャルマップ修正部206が生成するリアルタイムステージ情報反映ポテンシャルマップは、リアルタイムの演者位置、照明状態、オブジェクト位置を反映して生成されるマップであり、例えば以下の領域設定がなされるマップとなる。
 走行許容領域(青)=リアルタイムの演者位置、オブジェクト位置から遠い領域で、かつリアルタイムの照明状態に基づいて最も目立たないと判定される領域、
 走行禁止領域(赤)=リアルタイムの演者位置、オブジェクト位置に近い領域で、かつリアルタイムの照明状態に基づいて目立つと判定される領域、
 走行注意領域(黄)=上記走行許容領域(青)と走行禁止領域(赤)の中間領域、
 事前ポテンシャルマップ修正部206が生成したリアルタイムステージ情報反映ポテンシャルマップは、リアルタイムデータ反映ポテンシャルマップ生成部208に出力される。
 リアルタイム観客席情報取得部202は、具体的には、例えばカメラ等によって構成され、実際のライブ、すなわち演者によるパフォーマンスが行われているステージ前の観客席の情報をリアルタイムで取得する。
 リアルタイム観客席情報取得部202は、図に示すように、以下の各情報をリアルタイムデータとして取得する。
 観客視線方向215、
 観客席側TVカメラ撮影方向216、
 観客視点位置215は、ライブが実行されているステージ前の観客の視線方向である。観客席側TVカメラ撮影方向216は、ライブが実行されているステージ前のTVカメラの撮影方向である。
 リアルタイム観客席情報取得部202が取得したこれらのリアルタイム情報は、リアルタイム注目領域解析部207に入力される。
 さらに、リアルタイムネット情報取得部203は、例えばインターネット等の通信網に接続された通信部を有し、ネット上の多くのライブ閲覧者の感想等のつぶやきなど、いわゆるSNS情報217を取得し、取得したSNS情報217をリアルタイム注目領域解析部207に入力する。
 リアルタイム注目領域解析部207は、リアルタイム観客席情報取得部202から入力する観客視線方向215と、観客席側TVカメラ撮影方向216、さらに、リアルタイムネット情報取得部203から入力するSNS情報217を解析し、観客がステージのどこを見ているか、またTVカメラがステージのどこを撮影しているか、またネット上のライブ閲覧者がステージのどこに注目しているかを解析する。
 リアルタイム注目領域解析部207は、これらの解析結果に基づいて、ステージ上における現在の注目領域を推定し、推定領域を図に示すリアルタイム注目領域情報221としてリアルタイムデータ反映ポテンシャルマップ生成部208に出力する。
 リアルタイムデータ反映ポテンシャルマップ生成部208は、以下の各データを入力する。
 (1)事前ポテンシャルマップ修正部206の生成した「リアルタイムステージ情報反映ポテンシャルマップ」
 (2)リアルタイム注目領域解析部207が生成したリアルタイム注目領域情報221
 リアルタイムデータ反映ポテンシャルマップ生成部208は、これらの各データを入力して、これらの入力データに基づいてリアルタイムデータ反映ポテンシャルマップ230を生成する。
 リアルタイムデータ反映ポテンシャルマップ生成部208は、以下の処理1,2を、順次、実行する。
 (処理1)リアルタイム注目領域解析部207が生成したリアルタイム注目領域情報221に基づいて、リアルタイム注目領域を反映したリアルタイム注目領域反映ポテンシャルマップを生成
 (処理2)事前ポテンシャルマップ修正部206が、リアルタイムの演者位置211、照明状態212、ステージ上オブジェクト位置213、画像撮影ロボット位置214を反映して各領域(走行禁止領域、走行注意領域、走行許容領域)を設定した「リアルタイムステージ情報反映ポテンシャルマップ」と、処理1で生成したリアルタイム注目領域反映ポテンシャルマップを合成して、リアルタイムデータ反映ポテンシャルマップ230を生成する。
 これらの(処理1)、(処理2)の具体例について、図27を参照して説明する。
 図27には以下の3つのポテンシャルマップを示している。
 (2)リアルタイムステージ情報反映ポテンシャルマップ
 (3)リアルタイム注目領域反映ポテンシャルマップ
 (4)リアルタイムデータ反映ポテンシャルマップ230
 (2)リアルタイムステージ情報反映ポテンシャルマップは、先に図26を参照して説明したマップであり、事前ポテンシャルマップ修正部206がリアルタイムステージ情報を利用して生成した「リアルタイムステージ情報反映ポテンシャルマップ」である。
 (3)リアルタイム注目領域反映ポテンシャルマップは、リアルタイムデータ反映ポテンシャルマップ生成部208が実行する上記の(処理1)によって生成するマップであり、リアルタイム注目領域解析部207が生成したリアルタイム注目領域情報221に基づいて、リアルタイム注目領域を反映して生成したポテンシャルマップである。
 リアルタイム注目領域反映ポテンシャルマップは、リアルタイムの観客、TVカメラ、ネット情報を反映して生成されるマップであり、以下の領域設定がなされるマップとなる。
 走行許容領域(青)=リアルタイムの観客、TVカメラ、ネット情報に基づいて最も注目度が低い非注目領域、
 走行禁止領域(赤)=リアルタイムの観客、TVカメラ、ネット情報に基づいて最も注目度が高い注目領域、
 走行注意領域(黄)=上記走行許容領域(青)と走行禁止領域(赤)の中間領域、
 図27に示す(4)リアルタイムデータ反映ポテンシャルマップ230は、図27に示す、
 (2)リアルタイムステージ情報反映ポテンシャルマップ
 (3)リアルタイム注目領域反映ポテンシャルマップ
 これに2つのポテンシャルマップの合成処理によって生成されるマップである。
 このマップ合成処理は、「(2)リアルタイムステージ情報反映ポテンシャルマップ」と、「(3)リアルタイム注目領域反映ポテンシャルマップ」、各マップの設定領域を数値化し、数値を領域ごとに加算し、加算結果に基づいて領域(走行禁止領域、走行注意領域、走行許容領域)の再設定を行って生成する。
 なお、このマップ合成処理に基づく「(4)リアルタイムデータ反映ポテンシャルマップ230」の生成シーケンスの詳細例については、後段でフローチャートを参照して説明する。
 リアルタイムデータ反映ポテンシャルマップ生成部208が生成するリアルタイムデータ反映ポテンシャルマップ230は、リアルタイムのステージ上の情報、リアルタイムの観客席情報、さらに、リアルタイムのネット情報を反映して生成されるマップである。
 リアルタイムデータ反映ポテンシャルマップ生成部208が生成するリアルタイムデータ反映ポテンシャルマップ230は、リアルタイムの演者位置、照明状態、オブジェクト位置、観客、TVカメラ、ネット情報を全て反映して生成されるマップであり、以下の領域設定がなされるマップとなる。
 走行許容領域(青)=リアルタイムの演者位置、照明状態、オブジェクト位置、観客、TVカメラ、ネット情報に基づいて最も目立たない非注目領域、
 走行禁止領域(赤)=リアルタイムの演者位置、照明状態、オブジェクト位置、観客、TVカメラ、ネット情報に基づいて最も目立つ注目領域、
 走行注意領域(黄)=上記走行許容領域(青)と走行禁止領域(赤)の中間領域、
 リアルタイムデータ反映ポテンシャルマップ生成部208が生成したリアルタイムデータ反映ポテンシャルマップ230は、走行ルート生成部240に提供され、走行ルート生成部240が、リアルタイムデータ反映ポテンシャルマップ230に基づいて画像撮影ロボット50の走行ルートを決定する。
 走行ルート生成部240は、リアルタイムデータ反映ポテンシャルマップ230を入力して、画像撮影ロボット50が、演者やステージ上のオブジェクトに衝突することなく、また、照明によって目立つことのない領域、さらに観客やTVカメラ、ネットでの閲覧者の注目領域以外の領域を選択して走行するためのルートを設定した走行ルート情報を生成する。
 走行ルート生成部240は、例えば、リアルタイムデータ反映ポテンシャルマップ230内の走行許容領域のみを走行するような走行ルートを生成することで、上記のような走行ルートを設定することが可能となる。
 生成した走行ルートは、画像撮影ロボット50の走行制御を行う走行制御部に提供され、走行制御部は、生成された走行ルート情報に従って、画像撮影ロボット50を走行させる。
 このように、本実施例3において生成されるリアルタイムデータ反映ポテンシャルマップ230を利用して生成した走行ルート情報に従って画像撮影ロボット50を走行させることで、画像撮影ロボット50を、ライブ(パフォーマンス)を行っているステージ上のリアルタイムの演者位置やオブジェクト位置に衝突することなく、また、照明によって目立つことのない領域、さらに観客やTVカメラ、ネットでの閲覧者の注目領域以外の領域を選択して走行させることが可能となる。
 次に、図28に示すフローを参照して、本実施例3の情報処理装置200の実行するリアルタイムデータ反映ポテンシャルマップの生成処理シーケンスについて説明する。
 以下、図28に示すフローの各ステップの処理について、順次、説明する。
  (ステップS301)
 まず、情報処理装置200は、ステップS301において、リアルタイムステージ情報(演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置)を取得する。
 この処理は、図24に示す情報処理装置200のリアルタイムステージ情報取得部201が実行する処理である。
 リアルタイムステージ情報取得部201は、具体的には、例えばカメラや照度計等によって構成され、実際のライブ、すなわち演者によるパフォーマンスが行われているステージの情報、すなわち、リアルタイムステージ情報として、演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置、これらの各情報を取得する。
  (ステップS302)
 次に、情報処理装置200は、ステップS302において、先に生成済みの事前生成ポテンシャルマップを、ステップS301で取得したリアルタイムステージ情報に基づいて修正して、リアルタイムステージ情報反映ポテンシャルマップを生成する。
 このステップS302の処理は、図24に示す情報処理装置200の事前ポテンシャルマップ修正部206が実行する処理である。
 図28に示すフローでは省略しているが、ステップS301の処理の後、図24に示す情報処理装置200のリアルタイムステージ情報解析部204は、リアルタイムステージ情報取得部201から入力するリアルタイムステージ情報(演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置)と、予め記憶部205に格納されているライブプログラムに基づく予定データ231との差分の解析、および事前生成ポテンシャルマップ150に従った走行ルートの走行の問題点を解析する。
 問題があると判定した場合、すなわち、事前生成ポテンシャルマップ150を利用して設定した走行ルートに従って画像撮影ロボット50を走行させると、演者やオブジェクトに接触する可能性や、照明によって目立つ走行が行われる可能性があると判定した場合は、事前ポテンシャルマップ修正部206に対して、事前生成ポテンシャルマップ150の修正要求を出力する。
 ステップS302の処理は、この後の処理であり、事前ポテンシャルマップ修正部206は、リアルタイムステージ情報解析部204から事前生成ポテンシャルマップの修正要求を入力した場合、演者やオブジェクトに対する接触可能性や、照明によって目立つ走行が行われる可能性を低減させるように、事前生成ポテンシャルマップ150を修正して、リアルタイムステージ情報反映ポテンシャルマップを生成する。
 事前ポテンシャルマップ修正部206が生成するリアルタイムステージ情報反映ポテンシャルマップは、リアルタイムの演者位置、照明状態、オブジェクト位置を反映して生成されるマップであり、例えば以下の領域設定がなされるマップとなる。
 走行許容領域(青)=リアルタイムの演者位置、オブジェクト位置から遠い領域で、かつリアルタイムの照明状態に基づいて最も目立たないと判定される領域、
 走行禁止領域(赤)=リアルタイムの演者位置、オブジェクト位置に近い領域で、かつリアルタイムの照明状態に基づいて目立つと判定される領域、
 走行注意領域(黄)=上記走行許容領域(青)と走行禁止領域(赤)の中間領域、
  (ステップS303)
 次に、情報処理装置200は、ステップS303において、リアルタイム観客席情報、およびリアルタイムネット情報を取得する。
 これらの処理は、図24に示す情報処理装置200のリアルタイム観客席情報取得部202と、リアルタイムネット情報取得部203の実行する処理である。
 リアルタイム観客席情報取得部202は、先に図24を参照して説明したように、以下の各情報をリアルタイムデータとして取得する。
 観客視線方向215、
 観客席側TVカメラ撮影方向216、
 また、リアルタイムネット情報取得部203は、例えばインターネット上の多くのライブ閲覧者の感想等のつぶやきなど、いわゆるSNS情報217を取得し、取得したSNS情報217をリアルタイム注目領域解析部207に入力する。
  (ステップS304)
 次に、情報処理装置200は、ステップS304において、ステップS303で取得したリアルタイム観客席情報、およびリアルタイムネット情報に基づいてリアルタイム注目領域を解析する。
 この処理は、図24に示す情報処理装置200のリアルタイム注目領域解析部207が実行する処理である。
 リアルタイム注目領域解析部207は、リアルタイム観客席情報取得部202から入力する観客視線方向215と、観客席側TVカメラ撮影方向216、さらに、リアルタイムネット情報取得部203から入力するSNS情報217を解析し、観客がステージのどこを見ているか、またTVカメラがステージのどこを撮影しているか、またネット上のライブ閲覧者がステージのどこに注目しているかを解析する。
 リアルタイム注目領域解析部207は、これらの解析結果に基づいて、ステージ上における現在の注目領域を推定し、推定領域を図24に示すリアルタイム注目領域情報221としてリアルタイムデータ反映ポテンシャルマップ生成部208に出力する。
  (ステップS305)
 次に、情報処理装置200は、ステップS305において、リアルタイム観客席情報、およびリアルタイムネット情報に基づいて解析したリアルタイム注目領域を反映した「リアルタイム注目領域反映ポテンシャルマップ」を生成する。
 この処理は、図24に示す情報処理装置200のリアルタイムデータ反映ポテンシャルマップ生成部208が実行する処理である。
 リアルタイムデータ反映ポテンシャルマップ生成部208は、リアルタイムの観客席情報、さらに、リアルタイムのネット情報に基づいて解析したリアルタイム注目領域を反映した「リアルタイム注目領域反映ポテンシャルマップ」を生成する。
 リアルタイム注目領域反映ポテンシャルマップは、リアルタイムの観客、TVカメラ、ネット情報を反映して生成されるマップであり、以下の領域設定がなされるマップとなる。
 走行許容領域(青)=リアルタイムの観客、TVカメラ、ネット情報に基づいて最も注目度が低い非注目領域、
 走行禁止領域(赤)=リアルタイムの観客、TVカメラ、ネット情報に基づいて最も注目度が高い注目領域、
 走行注意領域(黄)=上記走行許容領域(青)と走行禁止領域(赤)の中間領域、
  (ステップS306)
 次に、情報処理装置200は、ステップS306において、「リアルタイムステージ情報反映ポテンシャルマップ」と、「リアルタイム注目領域反映ポテンシャルマップ」、各マップの設定領域を数値化する。
 この処理も、図24に示す情報処理装置200のリアルタイムデータ反映ポテンシャルマップ生成部208が実行する処理である。
 例えば、
 走行禁止領域=10、
 走行注意領域=5、
 走行許容領域=0
 このような領域単位の数値化を行う。
  (ステップS307)
 次に、情報処理装置200は、ステップS307において、「リアルタイムステージ情報反映ポテンシャルマップ」と、「リアルタイム注目領域反映ポテンシャルマップ」、各マップの領域対応の数値を各領域ごとに加算して、領域対応の加算値を算出する。
 この処理も、図24に示す情報処理装置200のリアルタイムデータ反映ポテンシャルマップ生成部208が実行する処理である。
 例えば、「リアルタイムステージ情報反映ポテンシャルマップ」と、「リアルタイム注目領域反映ポテンシャルマップ」の同一のステージ位置(x1,y1)の領域設定が以下のような設定であったとする。
 リアルタイムステージ情報反映ポテンシャルマップの数値=5(走行注意領域)
 リアルタイム注目領域反映ポテンシャルマップの数値=5(走行注意領域)
 この場合、加算値は、5+5=10となる。
 このような加算処理を全てのマップ内のステージ領域について実行する。
  (ステップS308)
 次に、情報処理装置200のデータ処理部は、ステップS308において、ステップS307で算出した領域対応の加算値に基づいて領域区分を再設定する。
 この処理も、図24に示す情報処理装置200のリアルタイムデータ反映ポテンシャルマップ生成部208が実行する処理である。
 情報処理装置200のリアルタイムデータ反映ポテンシャルマップ生成部208は、例えば、以下のようなルールで領域の再設定を実行する。
 加算値が10点以上=走行禁止領域、
 加算値が5点以上=走行注意領域、
 加算値が5点未満=走行許容領域、
 例えば上記ルールに従って領域の再設定を行う。
  (ステップS309)
 次に、情報処理装置200のデータ処理部は、ステップS309において、ステップS308で領域区分を再設定したポテンシャルマップを「リアルタイムデータ反映ポテンシャルマップ」として出力する。
 この処理も、図24に示す情報処理装置200のリアルタイムデータ反映ポテンシャルマップ生成部208が実行する処理である。
 以上が、図24に示す実施例3の情報処理装置200が実行するリアルタイムデータ反映ポテンシャルマップの生成処理の詳細シーケンスである。
 図24に示す実施例3の情報処理装置200が生成するリアルタイムデータ反映ポテンシャルマップ230を利用して生成した走行ルート情報に従って画像撮影ロボット50を走行させることで、画像撮影ロボット50を、ライブ(パフォーマンス)を行っているステージ上のリアルタイムの演者位置やオブジェクト位置に衝突することなく、また、照明によって目立つことのない領域、さらに観客やTVカメラ、ネットでの閲覧者の注目領域以外の領域を選択して走行させることが可能となる。
 なお、図28に示すフローチャートのステップS301~S302では、以下の処理が行われる。
 図24に示す情報処理装置200のリアルタイムステージ情報取得部201によるリアルタイムステージ情報(演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置)の取得処理と、事前ポテンシャルマップ修正部206による事前生成ポテンシャルマップの修正によるリアルタイムステージ情報反映ポテンシャルマップ生成処理が行われている。
 このステップS301~S302の処理の後、ステップS303~S309の処理が実行されて、最終的にステップS309において、リアルタイムデータ反映ポテンシャルマップ230の生成が行われ、生成されたリアルタイムデータ反映ポテンシャルマップ230に基づいて、画像撮影ロボット50の走行ルートが決定され走行制御がなされることになる。
 しかし、ライブの実行期間中に、画像撮影ロボット50の走行ルートがいつでも変更できるとは限らない。変更してもよい期間(=走行ルート変更許容期間)と変更できない期間(=走行ルート変更非許容期間)がある。
 従って、ステップS301~S302におけるリアルタイムステージ情報反映ポテンシャルマップ生成処理は、画像撮影ロボット50の走行ルート変更許容期間においてのみ実行する構成とすることが好ましい。
 図28に示すフローのステップS301~S302におけるリアルタイムステージ情報反映ポテンシャルマップ生成処理を、画像撮影ロボット50の走行ルート変更許容期間においてのみ実行する設定とした処理シーケンスについて図29に示すフローチャートを参照して説明する。
 図29に示すフローチャートは、図28に示すフローのステップS301~S302の処理に置き換えて実行することを可能としたフローである。
 以下、図29に示すフローの各ステップの処理について、順次、説明する。
  (ステップS321)
 まず、図24に示す情報処理装置200は、ステップS321において、リアルタイムステージ情報の取得タイミングか否かを判定する。
 この処理は、図24に示す情報処理装置200のリアルタイムステージ情報取得部201、またはリアルタイムステージ情報取得部201の制御を行う制御部が実行する。
 リアルタイムステージ情報の取得タイミングは、例えば10秒ごと等、一定期間ごとに取得するように予めタイミングが規定されている。
 ステップS321では、この規定に従ってリアルタイムステージ情報の取得タイミングか否かを判定する。
 リアルタイムステージ情報の取得タイミングであると判定されるとステップS322に進む。
  (ステップS322)
 ステップS321においてリアルタイムステージ情報の取得タイミングであると判定されると、情報処理装置200は、ステップS322において、リアルタイムステージ情報(演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置)を取得する。
 この処理は、図24に示す情報処理装置200のリアルタイムステージ情報取得部201が実行する。
 リアルタイムステージ情報取得部201は、具体的には、例えばカメラや照度計等によって構成され、実際のライブ、すなわち演者によるパフォーマンスが行われているステージの情報、すなわち、リアルタイムステージ情報として、演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置、これらの各情報を取得する。
  (ステップS323)
 次に、情報処理装置200は、ステップS323において、画像撮影ロボットの走行終了時間か否かを判定する。
 画像撮影ロボットの走行終了時間の情報は、情報処理装置200の記憶部205内に予め格納されている。例えば画像撮影ロボットの走行予定ルートに対応付けて記録されている。
 情報処理装置200は、この記録情報を参照して、現時点が画像撮影ロボットの走行終了時間か否かを判定する。
 現時点が画像撮影ロボットの走行終了時間の場合は、処理を終了する。
 一方、現時点が画像撮影ロボットの走行終了時間でない場合は、ステップS324に進む。
  (ステップS324)
 ステップS323において、画像撮影ロボットの走行終了時間でないと判定された場合、情報処理装置200は、ステップS324において、画像撮影ロボットの走行ルート変更許容時間であるか否かを判定する。
 画像撮影ロボットの走行ルート変更許容時間であるか否かの情報は、情報処理装置200の記憶部205内に予め格納されている。例えば画像撮影ロボットの走行予定ルートに対応付けて記録されている。
 情報処理装置200は、この記録情報を参照して、現時点が画像撮影ロボットの走行ルート変更許容時間か否かを判定する。
 現時点が画像撮影ロボットの走行ルート変更許容時間でない場合は、ステップS325に進まず、ステップS321に戻り、ステップS321~S324の処理を繰り返す。
 現時点が画像撮影ロボットの走行ルート変更許容時間であると判定された場合に限り、ステップS325に進む。
  (ステップS325)
 ステップS324において、現時点が画像撮影ロボットの走行ルート変更許容時間であると判定された場合、ステップS325の処理を実行する。
 この場合、情報処理装置200は、ステップS325において、ステップS321で取得したリアルタイムステージ情報(演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置)と、先に生成済みの事前生成ポテンシャルマップとの比較処理を実行する。
 このステップS325の処理は、図24に示す情報処理装置200のリアルタイムステージ情報解析部204が実行する処理である。
  (ステップS326)
 次に、情報処理装置200は、ステップS326において、事前生成ポテンシャルマップに基づく画像撮影ロボットの走行ルートが、ステップS321で取得したリアルタイムステージ情報(演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置)から推定される危険領域を通過する設定であるか否かを判定する。
 このステップS326の処理も、図24に示す情報処理装置200のリアルタイムステージ情報解析部204が実行する処理である。
 リアルタイムステージ情報解析部204は、リアルタイムステージ情報取得部201から入力するリアルタイムステージ情報(演者位置、照明状態、ステージ上オブジェクト位置、画像撮影ロボット位置)と、予め記憶部205に格納されているライブプログラムに基づく予定データ231との差分の解析、および事前生成ポテンシャルマップ150に従った走行ルートの危険性を解析する。
 危険性がないと判定した場合、すなわち、事前生成ポテンシャルマップ150を利用して設定した走行ルートに従って画像撮影ロボット50を走行させると、演者やオブジェクトに接触する可能性や、照明によって目立つ走行が行われる可能性がないと判定した場合は、ステップS327に進むことなく、ステップS321に戻り、ステップS321以下の処理を繰り返す。
 一方、危険性があると判定した場合、すなわち、事前生成ポテンシャルマップ150を利用して設定した走行ルートに従って画像撮影ロボット50を走行させると、演者やオブジェクトに接触する可能性や、照明によって目立つ走行が行われる可能性があると判定した場合は、ステップS327に進む。
  (ステップS327)
 ステップS326において、事前生成ポテンシャルマップ150を利用して設定した走行ルートが、演者に接触する等の危険性があると判定した場合、情報処理装置は、ステップS327の処理を実行する。
 この場合、情報処理装置200は、ステップS327において、記憶部205に格納された事前生成ポテンシャルマップ150の修正を行い、リアルタイムステージ情報反映ポテンシャルマップを生成する。
 このステップS327の処理は、図24に示す情報処理装置200の事前生成ポテンシャルマップ修正部206が実行する処理である。
 事前ポテンシャルマップ修正部206は、演者やオブジェクトに対する接触可能性や、照明によって目立つ走行が行われる可能性を低減させるように、事前生成ポテンシャルマップ150を修正して、リアルタイムステージ情報反映ポテンシャルマップを生成する。
 事前ポテンシャルマップ修正部206が生成するリアルタイムステージ情報反映ポテンシャルマップは、リアルタイムの演者位置、照明状態、オブジェクト位置を反映して生成されるマップであり、例えば以下の領域設定がなされるマップとなる。
 走行許容領域(青)=リアルタイムの演者位置、オブジェクト位置から遠い領域で、かつリアルタイムの照明状態に基づいて最も目立たないと判定される領域、
 走行禁止領域(赤)=リアルタイムの演者位置、オブジェクト位置に近い領域で、かつリアルタイムの照明状態に基づいて目立つと判定される領域、
 走行注意領域(黄)=上記走行許容領域(青)と走行禁止領域(赤)の中間領域、
 この図29に示すステップS321~S327の処理の後、図28に示すフローのステップS303以下の処理を実行する。
 すなわち、ステップS303~S309の処理が実行されて、最終的にステップS309において、リアルタイムデータ反映ポテンシャルマップ230の生成が行われ、生成されたリアルタイムデータ反映ポテンシャルマップ230に基づいて、画像撮影ロボット50の走行ルートが決定され走行制御がなされることになる。
 この図29のフローチャートに示すステップS321~S327の処理を図28に示すステップS301~S302の処理に代えて実行することで、リアルタイムステージ情報反映ポテンシャルマップ生成処理を、画像撮影ロボット50の走行ルート変更許容期間においてのみ実行することが可能となる。
  [6.情報処理装置のハードウェア構成例について]
 次に、上述した実施例に従った処理を実行する情報処理装置のハードウェア構成例について、図30を参照して説明する。
 図30に示すハードウェアは、先に図4を参照して説明した情報処理装置100や、図20を参照して説明した情報処理装置100b、さらに図24を参照して説明した情報処理装置200のハードウェア構成の一例である。
 図30に示すハードウェア構成について説明する。
 CPU(Central Processing Unit)301は、ROM(Read Only Memory)302、または記憶部308に記憶されているプログラムに従って各種の処理を実行するデータ処理部として機能する。例えば、上述した実施例において説明したシーケンスに従った処理を実行する。RAM(Random Access Memory)303には、CPU301が実行するプログラムやデータなどが記憶される。これらのCPU301、ROM302、およびRAM303は、バス304により相互に接続されている。
 CPU301はバス304を介して入出力インタフェース305に接続され、入出力インタフェース305には、各種センサ、カメラ、スイッチ、キーボード、マウス、マイクロホンなどよりなる入力部306、ディスプレイ、スピーカなどよりなる出力部307が接続されている。
 入出力インタフェース305に接続されている記憶部308は、例えばハードディスク等からなり、CPU301が実行するプログラムや各種のデータを記憶する。通信部309は、インターネットやローカルエリアネットワークなどのネットワークを介したデータ通信の送受信部として機能し、外部の装置と通信する。
 入出力インタフェース305に接続されているドライブ310は、磁気ディスク、光ディスク、光磁気ディスク、あるいはメモリカード等の半導体メモリなどのリムーバブルメディア311を駆動し、データの記録あるいは読み取りを実行する。
  [7.本開示の構成のまとめ]
 以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
 なお、本明細書において開示した技術は、以下のような構成をとることができる。
 (1) ステージ上を移動して画像撮影を行う画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成するデータ処理部を有し、
 前記データ処理部は、
 前記ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータを取得し、取得データに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップを生成する情報処理装置。
 (2) 前記データ処理部は、
 前記ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの時系列データを取得し、取得データに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップの時系列データを生成する(1)に記載の情報処理装置。
 (3) 前記データ処理部は、
 前記ステージ上の照明制御予定データを取得し、取得データに基づいて、ステージ上に照射される照明に基づいて算出される照明状態値が予め規定したしきい値以上の領域以外の領域を走行許容領域として規定したポテンシャルマップを生成する(1)または(2)に記載の情報処理装置。
 (4) 前記データ処理部は、
 前記ステージ上の照明の明るさ制御予定データを取得し、取得データに基づいて、ステージ上に照射される照明の明るさが予め規定したしきい値以上の領域以外の領域を、走行許容領域として規定したポテンシャルマップを生成する(1)~(3)いずれかに記載の情報処理装置。
 (5) 前記データ処理部は、
 前記ステージ上の照明の色制御予定データを取得し、取得データに基づいて、ステージ上に照射される照明が所定の色値の領域以外の領域を、走行許容領域として規定したポテンシャルマップを生成する(1)~(4)いずれかに記載の情報処理装置。
 (6) 前記データ処理部は、
 ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域と、
 前記走行許容領域よりステージ上の演者またはオブジェクトに近い領域である走行禁止領域を規定したポテンシャルマップを生成する(1)~(5)いずれかに記載の情報処理装置。
 (7) 前記データ処理部は、
 前記走行許容領域と、前記走行禁止領域の中間位置に走行注意領域を規定したポテンシャルマップを生成する(6)に記載の情報処理装置。
 (8) 前記データ処理部は、
 (a)前記ステージ上の演者の行動予定データに基づいて、ステージ上の演者に対する衝突可能性が規定しきい値以下の走行許容領域を規定した演者ベースポテンシャルマップ、
 (b)前記ステージ上のオブジェクトの配置予定データに基づいて、ステージ上のオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したオブジェクトベースポテンシャルマップ、
 (c)前記ステージ上の照明制御予定データに基づいて、ステージ上に照射される照明に基づいて算出される照明状態値が予め規定したしきい値以上の領域以外の領域を走行許容領域として規定した照明ベースポテンシャルマップ、
 上記(a)~(c)の3種類の個別ポテンシャルマップを生成し、
 さらに上記(a)~(c)の3種類の個別ポテンシャルマップを合成して事前生成ポテンシャルマップを生成する(1)~(7)いずれかに記載の情報処理装置。
 (9) 前記事前生成ポテンシャルマップは、
 ステージ上の演者、およびオブジェクトに対する衝突可能性が規定しきい値以下の領域であり、かつ照明に基づいて算出される照明状態値が予め規定したしきい値以上の領域以外の領域を走行許容領域として規定した(8)に記載の情報処理装置。
 (10) 前記データ処理部は、
 前記(a)~(c)の3種類の個別ポテンシャルマップの合成処理において、
 前記(a)~(c)の3種類の個別ポテンシャルマップ各々に規定された走行許容領域、走行注意領域、および走行禁止領域の各々について領域単位の数値化処理を行い、数値化処理後の個別ポテンシャルマップ各々の数値を加算した加算値を算出し、算出加算値に基づいて走行許容領域、走行注意領域、および走行禁止領域の領域再設定を実行して、前記事前生成ポテンシャルマップを生成する(8)または(9)に記載の情報処理装置。
 (11) 前記データ処理部は、
 前記ステージを見る観客席側の観客の視点位置データ、およびカメラの視点位置データの少なくともいずれかの視点位置データを取得し、取得データに基づいて、前記観客または前記カメラの視点位置から前記ステージ中央位置を結ぶラインから遠い位置を走行許容領域として規定したポテンシャルマップを生成する(1)~(10)いずれかに記載の情報処理装置。
 (12) 前記データ処理部は、
 (a)前記ステージ上の演者の行動予定データに基づいて、ステージ上の演者に対する衝突可能性が規定しきい値以下の走行許容領域を規定した演者ベースポテンシャルマップ、
 (b)前記ステージ上のオブジェクトの配置予定データに基づいて、ステージ上のオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したオブジェクトベースポテンシャルマップ、
 (c)前記ステージ上の照明制御予定データに基づいて、ステージ上に照射される照明に基づいて算出される照明状態値が予め規定したしきい値以上の領域以外の領域を走行許容領域として規定した照明ベースポテンシャルマップ、
 (d)前記ステージを見る観客席側の観客の視点位置予定データ、およびカメラの視点位置予定データの少なくともいずれかの視点位置予定データに基づいて、前記観客または前記カメラの視点予定位置から前記ステージ中央位置を結ぶラインから遠い位置を走行許容領域として規定した観客&カメラベースポテンシャルマップ、
 上記(a)~(d)の4種類の個別ポテンシャルマップを生成し、
 さらに上記(a)~(d)の4種類の個別ポテンシャルマップを合成して事前生成ポテンシャルマップを生成する(1)~(11)いずれかに記載の情報処理装置。
 (13) 前記データ処理部は、
 前記ステージ上の前記演者によるパフォーマンス実行中のリアルタイムデータとして、前記演者の行動データ、または前記ステージ上のオブジェクトの配置データの少なくともいずれかのリアルタイムデータを取得し、取得したリアルタイムデータに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したリアルタイムデータ反映ポテンシャルマップを生成する(1)~(12)いずれかに記載の情報処理装置。
 (14) 前記データ処理部は、
 前記ステージ上の前記演者によるパフォーマンス実行中のリアルタイムデータとして、
 前記ステージを見る観客席側の観客の視線方向、およびカメラの撮影方向の少なくともいずれかのデータを取得し、取得したデータに基づいて注目領域を解析し、注目領域以外の領域を走行許容領域として規定したリアルタイムデータ反映ポテンシャルマップを生成する(13)に記載の情報処理装置。
 (15) 前記データ処理部は、さらに、
 前記ステージ上の前記演者によるパフォーマンスを、ネットを介して閲覧中のユーザコメントを取得して、取得コメントに基づいてネット閲覧ユーザの注目領域を解析し、注目領域以外の領域を走行許容領域として規定したリアルタイムデータ反映ポテンシャルマップを生成する(13)または(14)に記載の情報処理装置。
 (16) 前記データ処理部は、
 前記ポテンシャルマップに基づいて、前記画像撮影ロボットを走行させるルートを生成する(1)~(15)いずれかに記載の情報処理装置。
 (17) 前記データ処理部は、
 前記ポテンシャルマップ内に規定された走行許容領域内を、前記画像撮影ロボットを走行させる設定とした走行ルートを生成する(16)に記載の情報処理装置。
 (18) 前記データ処理部は、
 前記ポテンシャルマップに基づいて生成した前記画像撮影ロボットの走行ルートを表示部に表示するためのシミュレーションデータを生成する(1)~(17)いずれかに記載の情報処理装置。
 (19) ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータに基づいて生成されるマップであり、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップに基づいて生成される走行ルート情報を格納した記憶部、
 または前記走行ルート情報を外部装置から取得する通信部の少なくともいずれかを有し、
 前記記憶部から取得した前記走行ルート情報、または前記通信部を介して取得した前記走行ルート情報のいずれかに従った走行処理を実行する移動装置。
 (20) 画像撮影ロボットと、サーバを有する情報処理システムであり、
 前記画像撮影ロボットは、ステージ上を移動して画像撮影を行う画像撮影ロボットであり、
 前記サーバは、
 前記画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成するデータ処理部を有し、
 前記データ処理部は、
 前記ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータを取得し、取得データに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップを生成し、
 前記画像撮影ロボットは、
 前記サーバの生成した前記ポテンシャルマップに基づいて決定される走行ルートに従って走行する情報処理システム。
 また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
 なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
 以上、説明したように、本開示の一実施例の構成によれば、ステージ上の演者やオブジェクトに衝突することのない安全な走行ルートを決定するマップを生成し、マップに基づいて決定するルートに従って画像撮影ロボットを走行させることが可能となる。
 具体的には、例えば、ステージ上を移動して画像撮影を行う画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成する。データ処理部は、ステージ上の演者の行動予定データやオブジェクトの配置予定データ、ステージ上の照明制御予定データを取得し、取得データに基づいて演者やオブジェクトに衝突せず、かつ照明によって目立たない領域を走行許容領域として規定したポテンシャルマップを生成する。さらに、生成マップに基づいてロボットの走行ルートを決定してロボットを走行させる。
 本構成により、ステージ上の演者やオブジェクトに衝突することのない安全な走行ルートを決定するマップを生成し、マップに基づいて決定するルートに従って画像撮影ロボットを走行させることが可能となる。
  10 ステージ
  11 照明
  12 スピーカ
  13 モニタ
  14 装飾オブジェクト
  20 演者
  30 観客
  31 TVカメラ
  35 優先観客
  50 画像撮影ロボット
 100 情報処理装置
 110 記憶部
 111 演者行動予定データ
 112 ステージ照明制御予定データ
 113 ステージ上オブジェクト配置予定データ
 114 優先観客、TVカメラ視点位置データ
 120 個別ポテンシャルマップ生成部
 130 ポテンシャルマップ合成部
 150 事前生成ポテンシャルマップ
 160 走行ルート決定部
 165 走行ルート情報
 170 走行制御部
 180 情報処理システム
 200 情報処理装置
 201 リアルタイムステージ情報取得部
 202 リアルタイム観客席情報取得部
 203 リアルタイムネット情報取得部
 204 リアルタイムステージ情報解析部
 205 記憶部
 206 事前生成ポテンシャルマップ修正部
 207 リアルタイム注目領域解析部
 208 リアルタイムデータ反映ポテンシャルマップ生成部
 240 走行ルート生成部
 280 情報処理システム
 290 SNSサーバ
 301 CPU
 302 ROM
 303 RAM
 304 バス
 305 入出力インタフェース
 306 入力部
 307 出力部
 308 記憶部
 309 通信部
 310 ドライブ
 311 リムーバブルメディア

Claims (20)

  1.  ステージ上を移動して画像撮影を行う画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成するデータ処理部を有し、
     前記データ処理部は、
     前記ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータを取得し、取得データに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップを生成する情報処理装置。
  2.  前記データ処理部は、
     前記ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの時系列データを取得し、取得データに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップの時系列データを生成する請求項1に記載の情報処理装置。
  3.  前記データ処理部は、
     前記ステージ上の照明制御予定データを取得し、取得データに基づいて、ステージ上に照射される照明に基づいて算出される照明状態値が予め規定したしきい値以上の領域以外の領域を走行許容領域として規定したポテンシャルマップを生成する請求項1に記載の情報処理装置。
  4.  前記データ処理部は、
     前記ステージ上の照明の明るさ制御予定データを取得し、取得データに基づいて、ステージ上に照射される照明の明るさが予め規定したしきい値以上の領域以外の領域を、走行許容領域として規定したポテンシャルマップを生成する請求項1に記載の情報処理装置。
  5.  前記データ処理部は、
     前記ステージ上の照明の色制御予定データを取得し、取得データに基づいて、ステージ上に照射される照明が所定の色値の領域以外の領域を、走行許容領域として規定したポテンシャルマップを生成する請求項1に記載の情報処理装置。
  6.  前記データ処理部は、
     ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域と、
     前記走行許容領域よりステージ上の演者またはオブジェクトに近い領域である走行禁止領域を規定したポテンシャルマップを生成する請求項1に記載の情報処理装置。
  7.  前記データ処理部は、
     前記走行許容領域と、前記走行禁止領域の中間位置に走行注意領域を規定したポテンシャルマップを生成する請求項6に記載の情報処理装置。
  8.  前記データ処理部は、
     (a)前記ステージ上の演者の行動予定データに基づいて、ステージ上の演者に対する衝突可能性が規定しきい値以下の走行許容領域を規定した演者ベースポテンシャルマップ、
     (b)前記ステージ上のオブジェクトの配置予定データに基づいて、ステージ上のオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したオブジェクトベースポテンシャルマップ、
     (c)前記ステージ上の照明制御予定データに基づいて、ステージ上に照射される照明に基づいて算出される照明状態値が予め規定したしきい値以上の領域以外の領域を走行許容領域として規定した照明ベースポテンシャルマップ、
     上記(a)~(c)の3種類の個別ポテンシャルマップを生成し、
     さらに上記(a)~(c)の3種類の個別ポテンシャルマップを合成して事前生成ポテンシャルマップを生成する請求項1に記載の情報処理装置。
  9.  前記事前生成ポテンシャルマップは、
     ステージ上の演者、およびオブジェクトに対する衝突可能性が規定しきい値以下の領域であり、かつ照明に基づいて算出される照明状態値が予め規定したしきい値以上の領域以外の領域を走行許容領域として規定した請求項8に記載の情報処理装置。
  10.  前記データ処理部は、
     前記(a)~(c)の3種類の個別ポテンシャルマップの合成処理において、
     前記(a)~(c)の3種類の個別ポテンシャルマップ各々に規定された走行許容領域、走行注意領域、および走行禁止領域の各々について領域単位の数値化処理を行い、数値化処理後の個別ポテンシャルマップ各々の数値を加算した加算値を算出し、算出加算値に基づいて走行許容領域、走行注意領域、および走行禁止領域の領域再設定を実行して、前記事前生成ポテンシャルマップを生成する請求項8に記載の情報処理装置。
  11.  前記データ処理部は、
     前記ステージを見る観客席側の観客の視点位置データ、およびカメラの視点位置データの少なくともいずれかの視点位置データを取得し、取得データに基づいて、前記観客または前記カメラの視点位置から前記ステージ中央位置を結ぶラインから遠い位置を走行許容領域として規定したポテンシャルマップを生成する請求項1に記載の情報処理装置。
  12.  前記データ処理部は、
     (a)前記ステージ上の演者の行動予定データに基づいて、ステージ上の演者に対する衝突可能性が規定しきい値以下の走行許容領域を規定した演者ベースポテンシャルマップ、
     (b)前記ステージ上のオブジェクトの配置予定データに基づいて、ステージ上のオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したオブジェクトベースポテンシャルマップ、
     (c)前記ステージ上の照明制御予定データに基づいて、ステージ上に照射される照明に基づいて算出される照明状態値が予め規定したしきい値以上の領域以外の領域を走行許容領域として規定した照明ベースポテンシャルマップ、
     (d)前記ステージを見る観客席側の観客の視点位置予定データ、およびカメラの視点位置予定データの少なくともいずれかの視点位置予定データに基づいて、前記観客または前記カメラの視点予定位置から前記ステージ中央位置を結ぶラインから遠い位置を走行許容領域として規定した観客&カメラベースポテンシャルマップ、
     上記(a)~(d)の4種類の個別ポテンシャルマップを生成し、
     さらに上記(a)~(d)の4種類の個別ポテンシャルマップを合成して事前生成ポテンシャルマップを生成する請求項1に記載の情報処理装置。
  13.  前記データ処理部は、
     前記ステージ上の前記演者によるパフォーマンス実行中のリアルタイムデータとして、前記演者の行動データ、または前記ステージ上のオブジェクトの配置データの少なくともいずれかのリアルタイムデータを取得し、取得したリアルタイムデータに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したリアルタイムデータ反映ポテンシャルマップを生成する請求項1に記載の情報処理装置。
  14.  前記データ処理部は、
     前記ステージ上の前記演者によるパフォーマンス実行中のリアルタイムデータとして、
     前記ステージを見る観客席側の観客の視線方向、およびカメラの撮影方向の少なくともいずれかのデータを取得し、取得したデータに基づいて注目領域を解析し、注目領域以外の領域を走行許容領域として規定したリアルタイムデータ反映ポテンシャルマップを生成する請求項13に記載の情報処理装置。
  15.  前記データ処理部は、さらに、
     前記ステージ上の前記演者によるパフォーマンスを、ネットを介して閲覧中のユーザコメントを取得して、取得コメントに基づいてネット閲覧ユーザの注目領域を解析し、注目領域以外の領域を走行許容領域として規定したリアルタイムデータ反映ポテンシャルマップを生成する請求項13に記載の情報処理装置。
  16.  前記データ処理部は、
     前記ポテンシャルマップに基づいて、前記画像撮影ロボットを走行させるルートを生成する請求項1に記載の情報処理装置。
  17.  前記データ処理部は、
     前記ポテンシャルマップ内に規定された走行許容領域内を、前記画像撮影ロボットを走行させる設定とした走行ルートを生成する請求項16に記載の情報処理装置。
  18.  前記データ処理部は、
     前記ポテンシャルマップに基づいて生成した前記画像撮影ロボットの走行ルートを表示部に表示するためのシミュレーションデータを生成する請求項1に記載の情報処理装置。
  19.  ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータに基づいて生成されるマップであり、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップに基づいて生成される走行ルート情報を格納した記憶部、
     または前記走行ルート情報を外部装置から取得する通信部の少なくともいずれかを有し、
     前記記憶部から取得した前記走行ルート情報、または前記通信部を介して取得した前記走行ルート情報のいずれかに従った走行処理を実行する移動装置。
  20.  画像撮影ロボットと、サーバを有する情報処理システムであり、
     前記画像撮影ロボットは、ステージ上を移動して画像撮影を行う画像撮影ロボットであり、
     前記サーバは、
     前記画像撮影ロボットの走行許容領域を規定したポテンシャルマップを生成するデータ処理部を有し、
     前記データ処理部は、
     前記ステージ上の演者の行動予定データ、または前記ステージ上のオブジェクトの配置予定データの少なくともいずれかのデータを取得し、取得データに基づいて、ステージ上の演者またはオブジェクトに対する衝突可能性が規定しきい値以下の走行許容領域を規定したポテンシャルマップを生成し、
     前記画像撮影ロボットは、
     前記サーバの生成した前記ポテンシャルマップに基づいて決定される走行ルートに従って走行する情報処理システム。
PCT/JP2021/048264 2021-01-21 2021-12-24 情報処理装置、および移動装置、並びに情報処理システム Ceased WO2022158255A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2022577067A JP7823590B2 (ja) 2021-01-21 2021-12-24 情報処理装置、および移動装置、並びに情報処理システム
CN202180090687.0A CN116783565A (zh) 2021-01-21 2021-12-24 信息处理装置、移动装置和信息处理系统
US18/260,619 US20240053169A1 (en) 2021-01-21 2021-12-24 Information processing device, mobile device, and information processing system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021-008183 2021-01-21
JP2021008183 2021-01-21

Publications (1)

Publication Number Publication Date
WO2022158255A1 true WO2022158255A1 (ja) 2022-07-28

Family

ID=82548452

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/048264 Ceased WO2022158255A1 (ja) 2021-01-21 2021-12-24 情報処理装置、および移動装置、並びに情報処理システム

Country Status (4)

Country Link
US (1) US20240053169A1 (ja)
JP (1) JP7823590B2 (ja)
CN (1) CN116783565A (ja)
WO (1) WO2022158255A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011528627A (ja) * 2008-07-22 2011-11-24 ロボティクス テクノロジー リーダーズ ゲーエムベーハー マニュピレータアームを運搬するエアクッションプラットフォーム及び移動可能ロボット
JP2011253302A (ja) * 2010-06-01 2011-12-15 Toyota Motor Corp 車両用危険度算出装置
JP2020150297A (ja) * 2019-03-11 2020-09-17 池上通信機株式会社 リモートカメラシステム、コントロールシステム、映像出力方法、バーチャルカメラワークシステム、及びプログラム
WO2021230073A1 (ja) * 2020-05-13 2021-11-18 ソニーグループ株式会社 情報処理装置、情報処理方法、及び表示装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3879848B2 (ja) * 2003-03-14 2007-02-14 松下電工株式会社 自律移動装置
DK2952993T3 (en) * 2014-06-05 2018-07-30 Softbank Robotics Europe PROCEDURE FOR MAKING A CARD OF LIKELIHOOD FOR ONE OF THE ABSENCE OR EXISTENCE OF BARRIERS FOR AN AUTONOMOUS ROBOT
US10081106B2 (en) * 2015-11-24 2018-09-25 X Development Llc Safety system for integrated human/robotic environments
CN109417477B (zh) * 2016-01-05 2021-12-21 卡耐基梅隆大学 用于自动化车辆的安全架构
US10788836B2 (en) * 2016-02-29 2020-09-29 AI Incorporated Obstacle recognition method for autonomous robots
CN107993551A (zh) * 2017-12-25 2018-05-04 华南理工大学广州学院 一种追踪光源点机器人的实验装置
WO2020008755A1 (ja) * 2018-07-06 2020-01-09 ソニー株式会社 情報処理装置、情報処理システム、行動計画方法及びプログラム
CN110717454B (zh) * 2019-10-10 2022-03-11 北京北特圣迪科技发展有限公司 一种舞台环境下的轮式机器人障碍检测方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011528627A (ja) * 2008-07-22 2011-11-24 ロボティクス テクノロジー リーダーズ ゲーエムベーハー マニュピレータアームを運搬するエアクッションプラットフォーム及び移動可能ロボット
JP2011253302A (ja) * 2010-06-01 2011-12-15 Toyota Motor Corp 車両用危険度算出装置
JP2020150297A (ja) * 2019-03-11 2020-09-17 池上通信機株式会社 リモートカメラシステム、コントロールシステム、映像出力方法、バーチャルカメラワークシステム、及びプログラム
WO2021230073A1 (ja) * 2020-05-13 2021-11-18 ソニーグループ株式会社 情報処理装置、情報処理方法、及び表示装置

Also Published As

Publication number Publication date
JP7823590B2 (ja) 2026-03-04
JPWO2022158255A1 (ja) 2022-07-28
US20240053169A1 (en) 2024-02-15
CN116783565A (zh) 2023-09-19

Similar Documents

Publication Publication Date Title
US11412108B1 (en) Object recognition techniques
JP5972966B2 (ja) 投影された参照パターンによるオブジェクト追跡
US10262230B1 (en) Object detection and identification
US9980040B2 (en) Active speaker location detection
US10339386B2 (en) Unusual event detection in wide-angle video (based on moving object trajectories)
US9485556B1 (en) Speaker array for sound imaging
JP6622894B2 (ja) 多因子画像特徴登録及び追尾のための方法、回路、装置、システム、及び、関連するコンピュータで実行可能なコード
US9201499B1 (en) Object tracking in a 3-dimensional environment
US9137511B1 (en) 3D modeling with depth camera and surface normals
KR101566543B1 (ko) 공간 정보 증강을 이용하는 상호 인터랙션을 위한 방법 및 시스템
JP3619455B2 (ja) 自動カメラ選択システムのための方法および装置
RU2729601C1 (ru) Способ и система для визуализации объекта на виртуальном виде
US20160280136A1 (en) Active-tracking vehicular-based systems and methods for generating adaptive image
US9756277B2 (en) System for filming a video movie
US9682482B2 (en) Autonomous moving device and control method of autonomous moving device
US9268520B1 (en) Altering content projection
CN107439002B (zh) 深度成像
CA2794057A1 (en) Effortless navigation across cameras and cooperative control of cameras
JP2015520470A (ja) データベース生成及び更新に深度ベースのトラッキングを用いた顔認識自己学習
US20170201723A1 (en) Method of providing object image based on object tracking
US9482779B2 (en) Device and methods for detecting a camera
JP5667846B2 (ja) 対象物画像判定装置
US20200322539A1 (en) Imaging system, imaging method, and not-transitory recording medium
JP2009246917A (ja) 映像表示装置及び映像処理装置
JP2012155595A (ja) 対象物画像判定装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21921356

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022577067

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 18260619

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 202180090687.0

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21921356

Country of ref document: EP

Kind code of ref document: A1