WO2022030383A1 - 情報処理装置および画像表示方法 - Google Patents

情報処理装置および画像表示方法 Download PDF

Info

Publication number
WO2022030383A1
WO2022030383A1 PCT/JP2021/028337 JP2021028337W WO2022030383A1 WO 2022030383 A1 WO2022030383 A1 WO 2022030383A1 JP 2021028337 W JP2021028337 W JP 2021028337W WO 2022030383 A1 WO2022030383 A1 WO 2022030383A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
information processing
image data
processing device
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2021/028337
Other languages
English (en)
French (fr)
Inventor
翔威 米富
雅則 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Priority to US18/006,764 priority Critical patent/US12330059B2/en
Priority to CN202180047757.4A priority patent/CN115777094A/zh
Priority to KR1020237002129A priority patent/KR102812546B1/ko
Priority to EP21852842.0A priority patent/EP4194066A4/en
Publication of WO2022030383A1 publication Critical patent/WO2022030383A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/52Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/53Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/31Communication aspects specific to video games, e.g. between several handheld game devices at close range
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/34Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers using peer-to-peer connections
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/355Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/53Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game
    • A63F13/533Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game for prompting the player, e.g. by displaying a game menu
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70Game security or game management aspects
    • A63F13/77Game security or game management aspects involving data related to game devices or game servers, e.g. configuration data, software version or amount of memory
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00Two-dimensional [2D] image generation
    • G06T11/60Creating or editing images; Combining images with text
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/30Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device
    • A63F2300/303Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device for displaying additional data, e.g. simulating a Head Up Display

Definitions

  • the present invention relates to a technique for displaying an image.
  • Patent Document 1 discloses a technique of connecting a user's terminal device to a game device at the user's home via the Internet and logging in to the game device from a remote location.
  • the terminal device transmits the user's operation information to the game device
  • the game device reflects the operation information in the progress of the game to generate image data and audio data.
  • the game device streams the generated image data and audio data to the terminal device, so that the user can play the game while being away from the game device. This play mode is called "remote play”.
  • the remote play mechanism for example, when a user is returning home, he / she can operate the game device at his / her home to access the game device at home and play the game installed at the game device at home. That is, the user can play the game in the remote play mode without having to install the game on the game device at his / her home.
  • the layout of the system screen such as the home screen provided by both game devices is the same. Therefore, it is difficult for the user to determine whether the displayed system screen is provided by the game device at home or the game device at home. Therefore, it is preferable to devise a device for the user to recognize which game device provides the displayed screen.
  • the information processing apparatus of one aspect of the present disclosure is an information processing apparatus operated by a user, and is a communication processing unit that is communicably connected to another information processing apparatus via a network.
  • An acquisition unit that acquires the first image data from another information processing device, a display processing unit that displays the first image corresponding to the first image data acquired by the acquisition unit, and the first image are displayed.
  • it includes a reception unit that receives operation information of the input device for operating the information processing device, and an image generation unit that generates second image data corresponding to the operation information received by the reception unit.
  • the display processing unit reduces the first image, and superimposes and displays the second image corresponding to the second image data on the reduced first image.
  • Another aspect of the present disclosure is a method of displaying an image in an information processing apparatus, wherein the first image data is acquired from another information processing apparatus communicably connected via a network, and the first image.
  • a step of displaying the first image corresponding to the data a step of receiving the operation information of the input device for operating the information processing device when the first image is displayed, and the second image corresponding to the operation information. It has a step of generating data, a step of reducing the first image, and a step of superimposing a second image corresponding to the second image data on the reduced first image.
  • FIG. 1 It is a figure which shows the example of the home screen of the user provided by the 2nd information processing apparatus. It is a figure which shows the example of the home screen which is being enlarged. It is a figure which shows the example of the home screen displayed in the whole display screen. It is a figure which shows the state which moved the icon string on the home screen. It is a figure which shows the example of the game screen which is remote-played by a user. It is a figure which shows the example of the screen when a user operates a predetermined operation member.
  • An example of the system screen provided by the first information processing apparatus is shown.
  • An example of the system screen provided by the first information processing apparatus is shown.
  • An example of the system screen provided by the second information processing apparatus is shown.
  • FIG. 1 shows an aspect of the information processing system of the embodiment.
  • the management server 5 provides a network service related to a game to a user.
  • the management server 5 manages account information for identifying the user, and the user signs in to the network service provided by the management server 5 using the account information.
  • signing in to a network service may be referred to as signing in to the management server 5.
  • Account information may consist of an email address and password.
  • the account information is authenticated by the management server 5 and the user can sign in to the management server 5.
  • logging in to the information processing device means that the user can use the functions of the information processing device
  • signing in to the management server 5 means that the user can use the network service. It means that
  • the user can save the save data of the game in the management server 5 and register the award items (trophy) acquired during the game play in the management server 5.
  • the user can also perform "remote play” in which the user logs in to an information processing device at a remote location and plays a game.
  • the information processing system 1 shown in FIG. 1 exemplifies the usage mode when the user is returning home.
  • the first information processing device 10a is installed in the user's home
  • the second information processing device 10b is installed in the user's home.
  • the remote play mechanism the user can access the second information processing device 10b from the first information processing device 10a of the parents' home to the home and play the game installed in the second information processing device 10b.
  • the connection source first information processing device 10a and the connection destination second information processing device 10b may be connected by P2P communication via a network 3 such as the Internet.
  • the first information processing device 10a is wirelessly or wiredly connected to the input device 6 operated by the user. In the normal play mode, when the first information processing device 10a receives the operation information from the input device 6, it is reflected in the processing of the system software and the application software, and the processing result is output from the output device 4a.
  • the first information processing device 10a is a game device that executes an application such as a game
  • the input device 6 is a game controller, and supplies user's operation information to the first information processing device 10a.
  • the auxiliary storage device 2a is a large-capacity storage device such as an HDD (hard disk drive) or SSD (solid state drive), may be a built-in storage device, or is a first information processing device 10a by USB (Universal Serial Bus) or the like. It may be an external storage device connected to.
  • the output device 4a may be a television having a display for outputting an image and a speaker for outputting audio.
  • the output device 4a may be connected to the first information processing device 10a with a wired cable, or may be wirelessly connected.
  • the access point (hereinafter referred to as “AP”) 8a has the functions of a wireless access point and a router, and the first information processing device 10a connects to the AP 8a via wireless or wired and connects to the external network 3. do.
  • the camera 7a is a stereo camera and images the space around the output device 4a.
  • the second information processing device 10b is installed at the user's home.
  • the second information processing device 10b is connected to peripheral devices such as an auxiliary storage device 2b, an output device 4b, a camera 7b and an AP8b via wireless or wired.
  • the connection of the second information processing device 10b and the peripheral device at the user's home may be the same as the connection of the first information processing device 10a and the peripheral device at the user's home.
  • the second information processing device 10b is a game device of the same type as the first information processing device 10a, and hereinafter, when the first information processing device 10a and the second information processing device 10b are not particularly distinguished, they are simply It may also be called "information processing device 10".
  • FIG. 2 shows the hardware configuration of the information processing apparatus 10.
  • the information processing device 10 includes a main power button 20, a power ON LED 21, a standby LED 22, a system controller 24, a clock 26, a device controller 30, a media drive 32, a USB module 34, a flash memory 36, a wireless communication module 38, and wired communication. It is configured with a module 40, a subsystem 50 and a main system 60.
  • the main system 60 includes a main CPU (Central Processing Unit), a memory and a memory controller as a main storage device, a GPU (Graphics Processing Unit), and the like.
  • the GPU is mainly used for arithmetic processing of a game program. These functions may be configured as a system-on-chip and may be formed on one chip.
  • the main CPU has a function of executing a game program recorded in the auxiliary storage device 2 or the ROM medium 44.
  • the subsystem 50 includes a sub CPU, a memory as a main storage device, a memory controller, and the like, does not have a GPU, and does not have a function of executing a game program.
  • the number of circuit gates of the sub CPU is smaller than the number of circuit gates of the main CPU, and the operating power consumption of the sub CPU is smaller than the operating power consumption of the main CPU.
  • the main power button 20 is an input unit for inputting operations from the user, and is provided on the front surface of the housing of the information processing apparatus 10 to turn on or off the power supply to the main system 60 of the information processing apparatus 10. Manipulated for.
  • the power ON LED 21 lights up when the main power button 20 is turned on, and the standby LED 22 lights up when the main power button 20 is turned off.
  • the system controller 24 detects that the user presses the main power button 20.
  • the system controller 24 acquires the pressing operation as an "on instruction", while the main power is on when the main power is on.
  • the button 20 is pressed, the system controller 24 acquires the pressing operation as an "off instruction”.
  • the clock 26 is a real-time clock that generates current date and time information and supplies it to the system controller 24, the subsystem 50, and the main system 60.
  • the device controller 30 is configured as an LSI (Large-Scale Integrated Circuit) that executes information transfer between devices like a south bridge. As shown in the figure, devices such as a system controller 24, a media drive 32, a USB module 34, a flash memory 36, a wireless communication module 38, a wired communication module 40, a subsystem 50, and a main system 60 are connected to the device controller 30. Ru.
  • the device controller 30 absorbs the difference in electrical characteristics and the difference in data transfer speed of each device, and controls the timing of data transfer.
  • the media drive 32 is a drive device that mounts and drives application software such as games and a ROM medium 44 that records license information, and reads programs, data, and the like from the ROM medium 44.
  • the ROM medium 44 may be a read-only recording medium such as an optical disk, a magneto-optical disk, or a Blu-ray disc.
  • the USB module 34 is a module that connects to an external device with a USB cable.
  • the USB module 34 may be connected to the auxiliary storage device 2 and the camera 7 with a USB cable.
  • the flash memory 36 is an auxiliary storage device that constitutes an internal storage.
  • the wireless communication module 38 is a communication protocol such as a Bluetooth (registered trademark) protocol or an IEEE 802.11 protocol, and wirelessly communicates with, for example, an input device 6.
  • the wired communication module 40 communicates with an external device by wire and connects to the network 3 via the AP8.
  • the user first logs in to the first information processing device 10a of the parents' house and signs in to the management server 5. Then, the user executes an application for performing remote play (hereinafter referred to as "remote application”), accesses the second information processing device 10b, and logs in to the second information processing device 10b.
  • remote application an application for performing remote play
  • FIG. 3 shows a functional block of the first information processing apparatus 10a.
  • the first information processing device 10a includes a reception unit 100a, a login processing unit 102a, a system image generation unit 104a, an application execution unit 106a, an application image generation unit 108a, an acquisition unit 110a, a display processing unit 112a, and a communication processing unit 114a.
  • the communication processing unit 114a shows the functions of the wireless communication module 38 and the wired communication module 40 shown in FIG.
  • each element described as a functional block that performs various processes can be composed of a circuit block, a memory, and other LSIs in terms of hardware, and is loaded into the memory in terms of software. It is realized by a program or the like. Therefore, it is understood by those skilled in the art that these functional blocks can be realized in various forms by hardware only, software only, or a combination thereof, and the present invention is not limited to any of them.
  • the login processing unit 102a When the first information processing device 10a is started, the login processing unit 102a generates a login screen and displays it on the output device 4a. On the login screen, a list of information about the user who has registered the account information in the first information processing apparatus 10a is displayed. When the user selects his / her own user information, the reception unit 100a accepts the user information selection operation, and the login processing unit 102a permits the user to log in. When a login passcode is set, the login processing unit 102a authenticates the passcode and then permits the user to log in. When the user logs in to the first information processing device 10a, the account information registered in the first information processing device 10a is authenticated by the management server 5, and the user signs in to the management server 5.
  • FIG. 4 shows an example of a user's home screen provided by the first information processing apparatus 10a.
  • the system image generation unit 104a When the user logs in to the first information processing device 10a, the system image generation unit 104a generates home image data for the user, and the display processing unit 112a displays the home image on the output device 4a.
  • the system image generation unit 104a is realized by system software and has a function of generating system image data for presenting a menu item or the like to a user.
  • Home image data is a type of system image data.
  • the remote application icon 152 is an icon for executing the remote application.
  • FIG. 5 shows a state in which the icon row is moved on the home screen.
  • a start button 154 for launching the remote app is displayed.
  • the application execution unit 106a starts the remote application.
  • FIG. 6 shows an example of a screen for selecting a remote play connection destination.
  • the application image generation unit 108a generates a selection image of the connection destination, and the display processing unit 112a displays the selection image of the connection destination on the output device 4a.
  • two information processing devices "Second house's Console” and "Bedroom's Console" are displayed as connection destination options, but the number of options may be one or three or more. good.
  • the console name can be freely named by the user.
  • the "Second house's Console” is an information processing device installed in the user's second house
  • the "Bedroom's Console” is the second information processing device 10b installed in the user's home.
  • the user operates the input device 6 to move the selection frame 156, and in this example, selects the "Bedroom's Console" installed at home and performs the determination operation.
  • the communication processing unit 114a transmits a connection request to the second information processing device 10b.
  • the main power supply of the second information processing apparatus 10b is in the off state, the main system 60 of the second information processing apparatus 10b is started based on the connection request.
  • the first information processing device 10a and the second information processing device 10b are connected to each other by P2P communication via the network 3 to form an environment in which remote play can be performed.
  • FIG. 7 shows a functional block of the second information processing apparatus 10b.
  • the second information processing device 10b includes a reception unit 100b, a login processing unit 102b, a system image generation unit 104b, an application execution unit 106b, an application image generation unit 108b, and a communication processing unit 114b.
  • the communication processing unit 114b shows the functions of the wireless communication module 38 and the wired communication module 40 shown in FIG.
  • each element described as a functional block that performs various processes can be composed of a circuit block, a memory, and other LSIs in terms of hardware, and is loaded into the memory in terms of software. It is realized by a program or the like. Therefore, it is understood by those skilled in the art that these functional blocks can be realized in various forms by hardware only, software only, or a combination thereof, and the present invention is not limited to any of them.
  • the second information processing device 10b may be a game device of the same type as the first information processing device 10a, so that the second information processing device 10b and the first information processing device 10a are the same user with respect to the user. Provides an interface.
  • FIG. 8 shows an example of a screen displayed when establishing a connection between the first information processing device 10a and the second information processing device 10b.
  • the display processing unit 112a displays the message “Connecting to your Bedroom's console” indicating that the connection is currently being established, and sets a reduced area 160 smaller than the display area of the entire screen as a part of the display screen. indicate.
  • the reduced area 160 is displayed in a manner different from that of the screen background so that the user can recognize the existence of the reduced area 160.
  • the remote application transmits a user login request from the communication processing unit 114a to the second information processing device 10b.
  • the communication processing unit 114b receives the user's login request from the first information processing device 10a.
  • the reception unit 100b receives the login request received by the communication processing unit 114b and delivers it to the login processing unit 102b, and the login processing unit 102b permits the user to log in.
  • the system image generation unit 104b When the user logs in to the second information processing device 10b, the system image generation unit 104b generates home image data for the user, and the communication processing unit 114b creates a home in the first information processing device 10a. Send image data.
  • the communication processing unit 114a provides the received home image data to the acquisition unit 110a, and the acquisition unit 110a acquires the home image data.
  • the display processing unit 112a displays the home image corresponding to the acquired home image data on the output device 4a.
  • FIG. 9 shows an example of a user's home screen provided by the second information processing apparatus 10b.
  • the display processing unit 112a displays the home image in the reduced area 160.
  • This reduced area 160 is an area set in the center of the display screen during connection establishment, and when the acquisition unit 110a acquires the home image data from the second information processing device 10b, the display processing unit 112a reduces the home image. It is displayed on the output device 4a in this state.
  • the display processing unit 112a adds and displays information indicating that the home image data is generated by the second information processing device 10b to the home image.
  • the display processing unit 112a adds and displays the outer frame 170 to the home image generated by the second information processing apparatus 10b as the information.
  • the outer frame 170 may be represented by one color, but may be represented by multiple colors. In any case, the outer frame 170 is added to inform the user that the image is generated by an information processing device different from the first information processing device 10a that is directly operated, and is a color different from the background color. It is preferably expressed by.
  • the display processing unit 112a may display the console information 172 of the second information processing device 10b to be connected as information indicating that the home image data is generated by the second information processing device 10b.
  • the console information 172 is a console name given by the user to the second information processing device 10b, and the user sees the console information 172 to generate home image data in the second information processing device 10b. I can recognize that.
  • the display processing unit 112a performs a display effect of enlarging the home image displayed in the reduced area 160 over the entire display screen.
  • FIG. 10 shows an example of a home screen being enlarged.
  • the display processing unit 112a may magnify and display the home image at a predetermined speed.
  • FIG. 11 shows an example of a home screen displayed on the entire display screen. Even after the entire surface is displayed, the display processing unit 112a continues to display the outer frame 170. As a result, the user can recognize that the displayed home image is provided by the second information processing apparatus 10b.
  • the display processing unit 112a may limit the display of the console information 172 to a predetermined time. Since the console information 172 is included in the image, it is expected to be an obstacle when it is always displayed. Therefore, the display processing unit 112a displays the console information 172 for a predetermined time after the display of the home image is started. For example, the display processing unit 112a may limit the display time of the console information 172 within the range of 3 to 5 seconds.
  • the operation information of the user's input device 6 is basically provided to the second information processing device 10b. Only the operation information of the predetermined operation member of the input device 6 is provided to the first information processing device 10a.
  • the reception unit 100a receives the user's operation information transmitted from the input device 6 and provides it to the communication processing unit 114a, and the communication processing unit 114a transfers the operation information to the second information processing device 10b. Send.
  • the reception unit 100b provides the operation information to the system image generation unit 104b.
  • the system image generation unit 104b When the user operates the horizontal key of the input device 6, the system image generation unit 104b generates home image data in which the icon string moves in the horizontal direction, and the communication processing unit 114b generates the home image data.
  • the home image data is transmitted to the first information processing device 10a.
  • the communication processing unit 114a provides the received home image data to the acquisition unit 110a, and the acquisition unit 110a acquires the home image data.
  • the display processing unit 112a displays the home image corresponding to the acquired home image data on the output device 4a.
  • FIG. 12 shows a state in which the icon row is moved on the home screen.
  • the application execution unit 106b starts the game of the game title “Combat field”, and the application image generation unit 108b Generate game image data.
  • the application image generation unit 108b includes a GPU (Graphics Processing Unit) that executes rendering processing and the like, and receives an arithmetic processing result in the virtual space by the application execution unit 106b from a viewpoint position (virtual camera) in the virtual space. Generate game image data.
  • the application voice generation unit (not shown) generates game voice data, but the description of the game voice data will be omitted below.
  • the communication processing unit 114b stream-transmits the game image data to the first information processing device 10a.
  • the acquisition unit 110a acquires the game image data
  • the display processing unit 112a displays the game image corresponding to the game image data on the output device 4a.
  • FIG. 13 shows an example of a game screen that is remotely played by the user.
  • the user is playing the "Combat field" executed by the second information processing device 10b
  • the display processing unit 112a is a game corresponding to the game image data transmitted from the second information processing device 10b. Display the image.
  • the display processing unit 112a does not add information indicating that the game image data is generated by the second information processing device 10b to the game image.
  • the outer frame 170 and the console information 172 are not added to the game image, so that the user can play the game without worrying about the outer frame 170 and the console information 172.
  • the operation information of the input device 6 is basically transmitted to the second information processing device 10b for processing.
  • a function for operating the first information processing device 10a is assigned to a part of the operation members of the input device 6, and the user can operate the operation member during remote play to obtain the first operation member.
  • the system image of the information processing apparatus 10a can be displayed.
  • FIG. 14 shows an example of a screen when a user operates a predetermined operating member during game play. While the remote application is being executed, a function for the user to operate the first information processing device 10a is assigned to a part of the operation members of the input device 6, and the reception unit 100a receives the operation information of the operation member. When it is received, it is supplied to the system image generation unit 104a. The system image generation unit 104a generates system image data corresponding to the operation information received by the reception unit 100a, and the display processing unit 112a displays the system images 180 and 182 corresponding to the system image data on the output device 4a.
  • the system images 180 and 182 are GUIs (graphical user interfaces) for notifying information about an active application in the first information processing apparatus 10a and information presumed to have a high priority for the user.
  • the system image generation unit 104a generates a card-shaped GUI in which a part of information is described for each information unit.
  • the system image 180 is a GUI related to the remote play being executed
  • the system image 182 is a GUI related to the music that the user is interested in.
  • the system image generation unit 104a may generate three or more system image data.
  • the display processing unit 112a reduces the game image displayed on the entire surface, and displays the system images 180 and 182 superimposed on the reduced game image. In this way, when the display processing unit 112a displays the system images 180 and 182 while the game image is being displayed, the game image is reduced and displayed, and the background image is used as the background image so that the user can use the system images 180 and 182. Is easy to recognize that is an image generated by the first information processing apparatus 10a. Further, the display processing unit 112a reduces the game image to the same size as the reduction area 160, so that the user can easily recognize that the reduced game image is an image generated by the second information processing device 10b. ..
  • the display processing unit 112a adds an outer frame 170 to the game image to be reduced and displayed.
  • the user can further easily recognize that the reduced displayed game image is generated by the second information processing apparatus 10b.
  • the system images 180 and 182 are in an active state in which the user can operate the system images 180 and 182 in the front display state, and the operation information of the input device 6 is processed by the first information processing device 10a.
  • the system image generation unit 104a When the user makes a determination operation with "Bedroom's Console" selected in the system image 180, the system image generation unit 104a generates system image data for operating the second information processing device 10b by remote play. , The display processing unit 112a displays the system image corresponding to the system image data on the output device 4a.
  • FIG. 15 shows an example of a system screen provided by the first information processing apparatus 10a.
  • the system image 184 is generated on the first information processing apparatus 10a side, and is displayed in front of the reduced game image.
  • the item "Home" is selected.
  • the communication processing unit 114a transmits a home image data generation request to the second information processing device 10b.
  • the system image generation unit 104b generates the home image data for the user, and the communication processing unit 114b receives the first information processing.
  • the generated home image data is transmitted to the device 10a.
  • the communication processing unit 114a provides the received home image data to the acquisition unit 110a, and the acquisition unit 110a acquires the home image data.
  • the display processing unit 112a displays the home image corresponding to the acquired home image data on the output device 4a. At this time, as shown in FIG. 9, the display processing unit 112a displays the home image in the reduced area 160, gradually enlarges it (see FIG. 10), and finally displays it on the entire surface (see FIG. 11). Carry out the production.
  • FIG. 16 shows an example of a system screen provided by the first information processing apparatus 10a.
  • the item of "Control Center” is selected.
  • the communication processing unit 114a transmits a system image data generation request to the second information processing device 10b.
  • the system image generation unit 104b generates the system image data for the user, and the communication processing unit 114b receives the first information processing.
  • the generated system image data is transmitted to the device 10a.
  • the system image data is GUI (graphical user interface) data for notifying information about an active application in the second information processing apparatus 10b and information presumed to have a high priority for the user.
  • FIG. 17 shows an example of a system screen provided by the second information processing apparatus 10b.
  • the communication processing unit 114a provides the system image data received from the second information processing device 10b to the acquisition unit 110a, and the acquisition unit 110a acquires the system image data.
  • the display processing unit 112a displays the system images 186, 188, 190, and 192 corresponding to the acquired system image data on the output device 4a.
  • the display processing unit 112a displays the system images 186, 188, 190, and 192 in the reduced area 160, gradually enlarges the images, and finally performs a display effect of displaying the entire surface. do.
  • the display processing unit 112a displays the outer frame 170 and the console information 172 as information indicating that the system image data is generated by the second information processing device 10b.
  • the console information 172 may be displayed only for a predetermined time.
  • the system images 186, 188, 190, and 192 are GUIs (graphical user interfaces) for notifying information about an active application in the second information processing apparatus 10b and information that is presumed to have a high priority for the user.
  • the system image generation unit 104b generates a card-shaped GUI in which a part of information is described for each information unit.
  • the system image 186 is a GUI related to the running game title “Combat field”
  • the system image 188 is a GUI related to a message from a friend
  • the system image 190 is a GUI related to a new game in which the user is interested
  • the system image 192 is a GUI related to a new game.
  • GUI for online friends. When the user selects any GUI, detailed information about the GUI may be presented.
  • This disclosure can be used for technology for displaying images.
  • 1 Information processing system, 4a ... Output device, 6 ... Input device, 10a ... First information processing device, 10b ... Second information processing device, 100a, 100b ... Reception unit , 102a, 102b ... Login processing unit, 104a, 104b ... System image generation unit, 106a, 106b ... Application execution unit, 108a, 108b ... Application image generation unit, 110a ... Acquisition unit, 112a ... Display processing unit, 114a, 114b ... Communication processing unit.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • General Business, Economics & Management (AREA)
  • Child & Adolescent Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Computer Security & Cryptography (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

取得部110aは、別の情報処理装置から、第1画像データを取得する。表示処理部112aは、取得部110aが取得した第1画像データに対応する第1画像を表示する。受付部100aは、第1画像が表示されているときに、第1情報処理装置10aを操作するための入力装置の操作情報を受け付ける。システム画像生成部104aは、受付部100aが受け付けた操作情報に対応する第2画像データを生成する。表示処理部112aは、第1画像を縮小し、縮小した第1画像に、第2画像データに対応する第2画像を重ねて表示する。

Description

情報処理装置および画像表示方法
 本発明は、画像を表示する技術に関する。
 特許文献1は、ユーザの端末装置を、ユーザの自宅にあるゲーム装置にインターネット経由で接続して、遠隔地からゲーム装置にログインする技術を開示する。端末装置がゲーム装置にユーザの操作情報を送信すると、ゲーム装置は操作情報をゲーム進行に反映して画像データおよび音声データを生成する。ゲーム装置は、生成した画像データおよび音声データを端末装置にストリーミング送信することで、ユーザは、ゲーム装置から離れた場所にいながらゲームをプレイできる。このプレイモードは「リモートプレイ」と呼ばれている。
国際公開第2013/111247号
 リモートプレイの仕組みを利用すると、たとえばユーザが実家に帰省しているとき、実家のゲーム装置を操作して、自宅のゲーム装置にアクセスし、自宅のゲーム装置にインストールしているゲームをプレイできる。つまりユーザは、実家のゲーム装置に当該ゲームをインストールする必要なく、リモートプレイモードで当該ゲームをプレイできる。
 実家のゲーム装置と自宅のゲーム装置とが同種のゲーム装置である場合、両ゲーム装置が提供するホーム画面などのシステム画面のレイアウトは同じものとなる。そのためユーザは、表示されているシステム画面が、自宅のゲーム装置により提供されているのか、または実家のゲーム装置により提供されているのか判断しづらい。そこで表示されている画面がいずれのゲーム装置により提供されているかユーザに認識させるための工夫を施すことが好ましい。
 そこで本開示は、リモートプレイの実施中に、表示されている画面が接続元装置または接続先装置のいずれにより提供されているか認識させるための技術を提供することを目的とする。
 上記課題を解決するために、本開示のある態様の情報処理装置は、ユーザによって操作される情報処理装置であって、別の情報処理装置とネットワークを介して通信可能に接続する通信処理部と、別の情報処理装置から、第1画像データを取得する取得部と、取得部が取得した第1画像データに対応する第1画像を表示する表示処理部と、第1画像が表示されているときに、情報処理装置を操作するための入力装置の操作情報を受け付ける受付部と、受付部が受け付けた操作情報に対応する第2画像データを生成する画像生成部と、を備える。表示処理部は、第1画像を縮小し、縮小した第1画像に、第2画像データに対応する第2画像を重ねて表示する。
 本開示の別の態様は、情報処理装置において画像を表示する方法であって、ネットワークを介して通信可能に接続する別の情報処理装置から、第1画像データを取得するステップと、第1画像データに対応する第1画像を表示するステップと、第1画像が表示されているときに、情報処理装置を操作するための入力装置の操作情報を受け付けるステップと、操作情報に対応する第2画像データを生成するステップと、第1画像を縮小し、縮小した第1画像に、第2画像データに対応する第2画像を重ねて表示するステップと、を有する。
 なお、以上の構成要素の任意の組合せ、本開示の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本開示の態様として有効である。
実施例の情報処理システムの一態様を示す図である。 情報処理装置のハードウェア構成を示す図である。 第1情報処理装置の機能ブロックを示す図である。 第1情報処理装置が提供するユーザのホーム画面の例を示す図である。 ホーム画面においてアイコン列を動かした状態を示す図である。 リモートプレイの接続先を選択する画面の例を示す図である。 第2情報処理装置の機能ブロックを示す図である。 第1情報処理装置と第2情報処理装置との間で接続を確立する際に表示される画面の例を示す図である。 第2情報処理装置が提供するユーザのホーム画面の例を示す図である。 拡大中のホーム画面の例を示す図である。 表示画面の全体に表示したホーム画面の例を示す図である。 ホーム画面においてアイコン列を動かした状態を示す図である。 ユーザによりリモートプレイされているゲーム画面の例を示す図である。 ユーザが所定の操作部材を操作したときの画面の例を示す図である。 第1情報処理装置が提供するシステム画面の例を示す。 第1情報処理装置が提供するシステム画面の例を示す。 第2情報処理装置が提供するシステム画面の例を示す。
 図1は、実施例の情報処理システムの一態様を示す。情報処理システム1において管理サーバ5は、ゲームに関するネットワークサービスをユーザに提供する。管理サーバ5はユーザを識別するためのアカウント情報を管理しており、ユーザはアカウント情報を用いて、管理サーバ5が提供するネットワークサービスにサインインする。なお以下では、ネットワークサービスにサインインすることを、管理サーバ5にサインインする、と呼ぶこともある。
 アカウント情報は、メールアドレスおよびパスワードで構成されてよい。ユーザは、自身のアカウント情報を保持する情報処理装置にログインすると、アカウント情報が管理サーバ5により認証されて、管理サーバ5にサインインできる。ここで情報処理装置にログインすることは、ユーザが、その情報処理装置の機能を利用可能となることを意味し、ユーザが管理サーバ5にサインインすることは、ユーザが、ネットワークサービスを利用可能となることを意味する。
 ユーザは管理サーバ5にサインインすることで、ゲームのセーブデータを管理サーバ5に保存し、ゲームプレイ中に獲得した表彰品(トロフィ)を管理サーバ5に登録できる。またユーザは管理サーバ5にサインインすることで、遠隔地にある情報処理装置にログインしてゲームをプレイする「リモートプレイ」も実施できる。
 図1に示す情報処理システム1は、ユーザが実家に里帰りしているときの利用態様を例示する。第1情報処理装置10aは、ユーザの実家に設置されており、第2情報処理装置10bは、ユーザの自宅に設置されている。リモートプレイの仕組みを利用すると、ユーザは、実家の第1情報処理装置10aから自宅に第2情報処理装置10bにアクセスして、第2情報処理装置10bにインストールされているゲームをプレイできる。リモートプレイ中、接続元の第1情報処理装置10aと接続先の第2情報処理装置10bとは、インターネットなどのネットワーク3を介してP2P通信で接続してよい。
 第1情報処理装置10aは、ユーザが操作する入力装置6と無線または有線で接続する。通常のプレイモードにおいて、第1情報処理装置10aは入力装置6から操作情報を受け付けるとシステムソフトウェアやアプリケーションソフトウェアの処理に反映し、出力装置4aから処理結果を出力させる。実施例において第1情報処理装置10aはゲーム等のアプリケーションを実行するゲーム装置であり、入力装置6はゲームコントローラであって、第1情報処理装置10aに対してユーザの操作情報を供給する。
 補助記憶装置2aはHDD(ハードディスクドライブ)やSSD(ソリッドステートドライブ)などの大容量記憶装置であり、内蔵型記憶装置であってよく、またUSB(Universal Serial Bus)などによって第1情報処理装置10aと接続する外部記憶装置であってもよい。出力装置4aは画像を出力するディスプレイおよび音声を出力するスピーカを有するテレビであってよい。出力装置4aは、第1情報処理装置10aに有線ケーブルで接続されてよく、無線接続されてもよい。
 アクセスポイント(以下、「AP」とよぶ)8aは、無線アクセスポイントおよびルータの機能を有し、第1情報処理装置10aは、無線または有線経由でAP8aに接続して、外部のネットワーク3に接続する。カメラ7aはステレオカメラであって、出力装置4a周辺の空間を撮像する。
 上記したように第2情報処理装置10bは、ユーザの自宅に設置される。第2情報処理装置10bは、周辺機器である補助記憶装置2b、出力装置4b、カメラ7bおよびAP8bと無線または有線経由で接続する。ユーザの自宅における第2情報処理装置10bおよび周辺機器の接続は、ユーザの実家における第1情報処理装置10aおよび周辺機器の接続と同じであってよい。実施例において第2情報処理装置10bは、第1情報処理装置10aと同種のゲーム装置であり、以下、第1情報処理装置10aと第2情報処理装置10bとを特に区別しない場合には、単に「情報処理装置10」と呼ぶこともある。
 図2は、情報処理装置10のハードウェア構成を示す。情報処理装置10は、メイン電源ボタン20、電源ON用LED21、スタンバイ用LED22、システムコントローラ24、クロック26、デバイスコントローラ30、メディアドライブ32、USBモジュール34、フラッシュメモリ36、無線通信モジュール38、有線通信モジュール40、サブシステム50およびメインシステム60を有して構成される。
 メインシステム60は、メインCPU(Central Processing Unit)、主記憶装置であるメモリおよびメモリコントローラ、GPU(Graphics Processing Unit)などを備える。GPUはゲームプログラムの演算処理に主として利用される。これらの機能はシステムオンチップとして構成されて、1つのチップ上に形成されてよい。メインCPUは補助記憶装置2またはROM媒体44に記録されたゲームプログラムを実行する機能をもつ。
 サブシステム50は、サブCPU、主記憶装置であるメモリおよびメモリコントローラなどを備え、GPUを備えず、ゲームプログラムを実行する機能をもたない。サブCPUの回路ゲート数は、メインCPUの回路ゲート数よりも少なく、サブCPUの動作消費電力は、メインCPUの動作消費電力よりも少ない。
 メイン電源ボタン20は、ユーザからの操作入力が行われる入力部であって、情報処理装置10の筐体の前面に設けられ、情報処理装置10のメインシステム60への電源供給をオンまたはオフするために操作される。電源ON用LED21は、メイン電源ボタン20がオンされたときに点灯し、スタンバイ用LED22は、メイン電源ボタン20がオフされたときに点灯する。
 システムコントローラ24は、ユーザによるメイン電源ボタン20の押下を検出する。メイン電源がオフ状態にあるときにメイン電源ボタン20が押下されると、システムコントローラ24は、その押下操作を「オン指示」として取得し、一方で、メイン電源がオン状態にあるときにメイン電源ボタン20が押下されると、システムコントローラ24は、その押下操作を「オフ指示」として取得する。
 クロック26はリアルタイムクロックであって、現在の日時情報を生成し、システムコントローラ24やサブシステム50およびメインシステム60に供給する。デバイスコントローラ30は、サウスブリッジのようにデバイス間の情報の受け渡しを実行するLSI(Large-Scale Integrated Circuit)として構成される。図示のように、デバイスコントローラ30には、システムコントローラ24、メディアドライブ32、USBモジュール34、フラッシュメモリ36、無線通信モジュール38、有線通信モジュール40、サブシステム50およびメインシステム60などのデバイスが接続される。デバイスコントローラ30は、それぞれのデバイスの電気特性の違いやデータ転送速度の差を吸収し、データ転送のタイミングを制御する。
 メディアドライブ32は、ゲームなどのアプリケーションソフトウェア、およびライセンス情報を記録したROM媒体44を装着して駆動し、ROM媒体44からプログラムやデータなどを読み出すドライブ装置である。ROM媒体44は、光ディスクや光磁気ディスク、ブルーレイディスクなどの読出専用の記録メディアであってよい。
 USBモジュール34は、外部機器とUSBケーブルで接続するモジュールである。USBモジュール34は補助記憶装置2およびカメラ7とUSBケーブルで接続してもよい。フラッシュメモリ36は、内部ストレージを構成する補助記憶装置である。無線通信モジュール38は、Bluetooth(登録商標)プロトコルやIEEE802.11プロトコルなどの通信プロトコルで、たとえば入力装置6と無線通信する。有線通信モジュール40は、外部機器と有線通信し、AP8を介してネットワーク3に接続する。
 実施例では、まずユーザが実家の第1情報処理装置10aにログインして、管理サーバ5にサインインする。それからユーザは、リモートプレイを実施するためのアプリケーション(以下、「リモートアプリ」と呼ぶ)を実行して、第2情報処理装置10bにアクセスして、第2情報処理装置10bにログインする。
 図3は、第1情報処理装置10aの機能ブロックを示す。第1情報処理装置10aは、受付部100a、ログイン処理部102a、システム画像生成部104a、アプリケーション実行部106a、アプリケーション画像生成部108a、取得部110a、表示処理部112aおよび通信処理部114aを備える。通信処理部114aは、図2に示す無線通信モジュール38および有線通信モジュール40の機能を示す。
 図3において、さまざまな処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、回路ブロック、メモリ、その他のLSIで構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
 第1情報処理装置10aが起動されると、ログイン処理部102aがログイン画面を生成して、出力装置4aに表示する。ログイン画面には、第1情報処理装置10aにアカウント情報を登録しているユーザに関する情報がリスト表示される。ユーザが自分のユーザ情報を選択すると、受付部100aがユーザ情報の選択操作を受け付けて、ログイン処理部102aがユーザのログインを許可する。ログイン用のパスコードが設定されている場合、ログイン処理部102aは、パスコードの認証を行った上で、ユーザのログインを許可する。ユーザが第1情報処理装置10aにログインすると、第1情報処理装置10aに登録されているアカウント情報が管理サーバ5により認証されて、ユーザは管理サーバ5にサインインする。
 図4は、第1情報処理装置10aが提供するユーザのホーム画面の例を示す。ユーザが第1情報処理装置10aにログインすると、システム画像生成部104aは、当該ユーザ用のホーム画像データを生成し、表示処理部112aがホーム画像を出力装置4aに表示する。システム画像生成部104aは、システムソフトウェアにより実現され、ユーザに対してメニュー項目などを提示するためのシステム画像データを生成する機能をもつ。ホーム画像データは、システム画像データの一種である。
 ホーム画面には、ユーザが実施できるゲームやアプリケーションなどのコンテンツアイコンが並べて配置される。ユーザは入力装置6の方向キーを操作して、アイコン列を横方向に動かし、実行したいコンテンツアイコンを選択エリア150に配置する。図4に示すホーム画面で、リモートアプリアイコン152は、リモートアプリを実行するためのアイコンである。
 図5は、ホーム画面においてアイコン列を動かした状態を示す。ユーザがリモートアプリアイコン152を選択エリア150に配置すると、リモートアプリを起動するためのスタートボタン154が表示される。ユーザがスタートボタン154を操作すると、アプリケーション実行部106aが、リモートアプリを起動する。
 図6は、リモートプレイの接続先を選択する画面の例を示す。アプリケーション画像生成部108aが接続先の選択画像を生成し、表示処理部112aが接続先の選択画像を出力装置4aに表示する。図6に示す例では、“Second house's Console”と“Bedroom's Console”の2つの情報処理装置が接続先の選択肢として表示されているが、選択肢の数は、1つ又は3つ以上であってもよい。コンソール名は、ユーザが自由に名付けることができる。ここで“Second house's Console”は、ユーザのセカンドハウスに設置した情報処理装置であり、“Bedroom's Console”は、ユーザの自宅に設置した第2情報処理装置10bである。ユーザは入力装置6を操作して、選択枠156を動かし、この例では自宅に設置した“Bedroom's Console”を選択して、決定操作を行う。
 受付部100aが、接続先を“Bedroom's Console”とする決定操作を受け付けると、通信処理部114aが、第2情報処理装置10bに接続要求を送信する。このとき第2情報処理装置10bのメイン電源がオフ状態にあれば、接続要求に基づいて第2情報処理装置10bのメインシステム60が起動される。第1情報処理装置10aと第2情報処理装置10bとはネットワーク3を介してP2P通信で互いに接続され、リモートプレイを実施可能な環境を形成する。
 図7は、第2情報処理装置10bの機能ブロックを示す。第2情報処理装置10bは、受付部100b、ログイン処理部102b、システム画像生成部104b、アプリケーション実行部106b、アプリケーション画像生成部108bおよび通信処理部114bを備える。通信処理部114bは、図2に示す無線通信モジュール38および有線通信モジュール40の機能を示す。
 図7において、さまざまな処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、回路ブロック、メモリ、その他のLSIで構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。実施例において第2情報処理装置10bは、第1情報処理装置10aと同種のゲーム装置であってよく、したがって第2情報処理装置10bおよび第1情報処理装置10aは、ユーザに対して同一のユーザインタフェースを提供する。
 図8は、第1情報処理装置10aと第2情報処理装置10bとの間で接続を確立する際に表示される画面の例を示す。表示処理部112aは、現在接続確立中であることを示すメッセージ“Connecting to your Bedroom's console”を表示するとともに、表示画面の一部に、画面全体の表示領域よりも小さい縮小領域160を設定して表示する。縮小領域160は、画面背景とは異なる態様で表示されて、ユーザが縮小領域160の存在を認識できるようにする。
 通信処理部114aと通信処理部114bとがネットワーク3を介してP2P通信可能に接続すると、リモートアプリは、通信処理部114aから、第2情報処理装置10bに、ユーザのログイン要求を送信する。
 第2情報処理装置10bにおいて、通信処理部114bは、第1情報処理装置10aから、ユーザのログイン要求を受信する。受付部100bは、通信処理部114bで受信したログイン要求を受け付け、ログイン処理部102bに受け渡し、ログイン処理部102bはユーザのログインを許可する。ユーザが第2情報処理装置10bにログインしたことで、システム画像生成部104bは、当該ユーザ用のホーム画像データを生成し、通信処理部114bが、第1情報処理装置10aに、生成されたホーム画像データを送信する。
 第1情報処理装置10aにおいて、通信処理部114aは、受信したホーム画像データを取得部110aに提供し、取得部110aがホーム画像データを取得する。表示処理部112aは、取得したホーム画像データに対応するホーム画像を出力装置4aに表示する。
 図9は、第2情報処理装置10bが提供するユーザのホーム画面の例を示す。ユーザが第2情報処理装置10bにログインすると、表示処理部112aが、縮小領域160にホーム画像を表示する。この縮小領域160は、接続確立中に、表示画面中央に設定された領域であり、取得部110aがホーム画像データを第2情報処理装置10bから取得すると、表示処理部112aが、ホーム画像を縮小した状態で出力装置4aに表示する。
 表示処理部112aは、ホーム画像データが第2情報処理装置10bで生成されていることを示す情報を、ホーム画像に付加して表示する。表示処理部112aは、当該情報として、第2情報処理装置10bで生成されたホーム画像に、外枠170を付加して表示する。外枠170は、一色で表現されてよいが、多色で表現されてもよい。いずれにしても外枠170は、ユーザに、直接操作している第1情報処理装置10aとは異なる情報処理装置で生成された画像であることを知らせるために付加され、背景色とは異なる色で表現されることが好ましい。
 また表示処理部112aは、ホーム画像データが第2情報処理装置10bで生成されていることを示す情報として、接続先となる第2情報処理装置10bのコンソール情報172を表示してもよい。この例でコンソール情報172は、当該第2情報処理装置10bにユーザがつけたコンソール名であり、ユーザはコンソール情報172を見ることで、ホーム画像データが第2情報処理装置10bで生成されていることを認識できる。
 表示処理部112aは、縮小領域160に表示したホーム画像を、表示画面の全体に拡大する表示演出を実施する。
 図10は、拡大中のホーム画面の例を示す。表示処理部112aは、所定の速度でホーム画像を拡大表示してよい。
 図11は、表示画面の全体に表示したホーム画面の例を示す。全面表示した後も、表示処理部112aは、外枠170を表示し続ける。これによりユーザは、表示されているホーム画像が、第2情報処理装置10bにより提供されていることを認識できる。
 一方で表示処理部112aは、コンソール情報172の表示を所定時間に限ってよい。コンソール情報172は画像内に入り込むため、常時表示する場合には、邪魔になることが予測される。そこで表示処理部112aは、ホーム画像の表示開始後の所定時間だけコンソール情報172を表示する。たとえば表示処理部112aは、コンソール情報172の表示時間を、3~5秒の範囲内で制限してよい。
 ホーム画像が全面表示された時点で、ユーザの入力装置6の操作情報は、基本的に第2情報処理装置10bに対して提供されるようになる。なお入力装置6の所定の操作部材の操作情報に限っては、第1情報処理装置10aに対して提供される。
 第2情報処理装置10bから提供されるホーム画面には、補助記憶装置2bにインストールされたゲームやアプリケーションなどのコンテンツアイコンが並べて配置される。ホーム画面の表示中、受付部100aは、入力装置6から送信されるユーザの操作情報を受け付けると、通信処理部114aに提供し、通信処理部114aは、操作情報を第2情報処理装置10bに送信する。第2情報処理装置10bにおいて、通信処理部114bが操作情報を受信すると、受付部100bが操作情報をシステム画像生成部104bに提供する。
 図11に示すホーム画面において、ユーザが入力装置6の横方向キーを操作すると、システム画像生成部104bは、アイコン列が横方向に動くホーム画像データを生成し、通信処理部114bは、生成されたホーム画像データを第1情報処理装置10aに送信する。第1情報処理装置10aにおいて、通信処理部114aは、受信したホーム画像データを取得部110aに提供し、取得部110aがホーム画像データを取得する。表示処理部112aは、取得したホーム画像データに対応するホーム画像を出力装置4aに表示する。
 図12は、ホーム画面においてアイコン列を動かした状態を示す。ユーザがゲームアイコン174を選択エリア150に配置し、入力装置6の所定の実行ボタンを操作すると、アプリケーション実行部106bが、ゲームタイトル“Combat field”のゲームを起動し、アプリケーション画像生成部108bが、ゲーム画像データを生成する。アプリケーション画像生成部108bは、レンダリング処理などを実行するGPU(Graphics Processing Unit)を含み、アプリケーション実行部106bによる仮想空間内の演算処理結果を受けて、仮想空間内の視点位置(仮想カメラ)からのゲーム画像データを生成する。なお同時にアプリケーション音声生成部(図示せず)がゲーム音声データを生成するが、以下においてゲーム音声データについての説明は省略する。
 通信処理部114bは、ゲーム画像データを第1情報処理装置10aにストリーミング送信する。第1情報処理装置10aにおいて取得部110aがゲーム画像データを取得し、表示処理部112aが、ゲーム画像データに対応するゲーム画像を出力装置4aに表示する。
 図13は、ユーザによりリモートプレイされているゲーム画面の例を示す。この例でユーザは、第2情報処理装置10bで実行されている“Combat field”をプレイしており、表示処理部112aは、第2情報処理装置10bから送信されるゲーム画像データに対応するゲーム画像を表示する。なお表示処理部112aは、ゲーム画像を表示する際、ゲーム画像データが第2情報処理装置10bで生成されていることを示す情報をゲーム画像に付加しない。図13に示すように、ゲーム画像には外枠170やコンソール情報172が付加されておらず、そのためユーザは、外枠170やコンソール情報172を気にすることなく、ゲームをプレイできる。
 上記したように、リモートプレイ中、入力装置6の操作情報は、基本的に第2情報処理装置10bに送信されて処理される。しかしながら入力装置6の一部の操作部材には、第1情報処理装置10aを操作するための機能が割り当てられており、ユーザは、リモートプレイ中に、当該操作部材を操作することで、第1情報処理装置10aのシステム画像を表示させることができる。
 図14は、ゲームプレイ中に、ユーザが所定の操作部材を操作したときの画面の例を示す。リモートアプリの実行中、入力装置6の一部の操作部材には、ユーザが第1情報処理装置10aを操作するための機能が割り当てられており、受付部100aは、当該操作部材の操作情報を受け付けると、システム画像生成部104aに供給する。システム画像生成部104aは、受付部100aが受け付けた操作情報に対応するシステム画像データを生成し、表示処理部112aが、システム画像データに対応するシステム画像180、182を出力装置4aに表示する。
 システム画像180、182は、第1情報処理装置10aにおいてアクティブなアプリケーションに関する情報や、ユーザにとって優先度が高いと推測される情報を通知するためのGUI(グラフィカルユーザインタフェース)である。システム画像生成部104aは、情報単位ごとに、情報の一部を記載したカード状GUIを生成する。ここでシステム画像180は、実行中のリモートプレイに関するGUIであり、システム画像182は、ユーザが興味のある音楽に関するGUIである。なおシステム画像生成部104aは、3つ以上のシステム画像データを生成してもよい。
 表示処理部112aは、全面表示していたゲーム画像を縮小し、縮小したゲーム画像に、システム画像180、182を重ねて表示する。このように表示処理部112aは、ゲーム画像の表示中にシステム画像180、182を表示する際には、ゲーム画像を縮小表示するとともに、背景画像とすることで、ユーザは、システム画像180、182が第1情報処理装置10aで生成された画像であることを認識しやすくなる。また表示処理部112aが、ゲーム画像を縮小領域160と同じサイズに縮小することで、ユーザは、縮小されたゲーム画像が第2情報処理装置10bで生成された画像であることを認識しやすくなる。
 このとき表示処理部112aは、縮小表示するゲーム画像に外枠170を付加する。縮小したゲーム画像に外枠170を付加することで、ユーザは、縮小表示されたゲーム画像が第2情報処理装置10bで生成されていることを、さらに認識しやすくなる。システム画像180、182は、前面表示された状態で、ユーザが操作可能なアクティブ状態となり、入力装置6の操作情報は、第1情報処理装置10aにより処理される。
 システム画像180において“Bedroom's Console”が選択された状態で、ユーザが決定操作をすると、システム画像生成部104aが、リモートプレイにより第2情報処理装置10bを操作するためのシステム画像データを生成して、表示処理部112aが、システム画像データに対応するシステム画像を出力装置4aに表示する。
 図15は、第1情報処理装置10aが提供するシステム画面の例を示す。システム画像184は、第1情報処理装置10a側で生成されており、縮小表示されたゲーム画像に対して前面に表示される。図15に示すシステム画像184では、“Home”の項目が選択された状態にある。
 システム画像184において、ユーザが“Home”を選択して決定操作すると、通信処理部114aが、第2情報処理装置10bに、ホーム画像データの生成要求を送信する。第2情報処理装置10bにおいて、受付部100bがホーム画像データの生成要求を受け付けると、システム画像生成部104bが、当該ユーザ用のホーム画像データを生成し、通信処理部114bが、第1情報処理装置10aに、生成されたホーム画像データを送信する。
 第1情報処理装置10aにおいて、通信処理部114aは、受信したホーム画像データを取得部110aに提供し、取得部110aがホーム画像データを取得する。表示処理部112aは、取得したホーム画像データに対応するホーム画像を出力装置4aに表示する。このとき表示処理部112aは、図9に示すように、縮小領域160にホーム画像を表示した後、徐々に拡大して(図10参照)、最終的には全面表示する(図11参照)表示演出を実施する。
 図16は、第1情報処理装置10aが提供するシステム画面の例を示す。図16に示すシステム画像184では、“Control Center”の項目が選択された状態にある。システム画像184において、ユーザが“Control Center”を選択して決定操作すると、通信処理部114aが、第2情報処理装置10bに、システム画像データの生成要求を送信する。第2情報処理装置10bにおいて、受付部100bがシステム画像データの生成要求を受け付けると、システム画像生成部104bが、当該ユーザ用のシステム画像データを生成し、通信処理部114bが、第1情報処理装置10aに、生成されたシステム画像データを送信する。システム画像データは、第2情報処理装置10bにおいてアクティブなアプリケーションに関する情報や、ユーザにとって優先度が高いと推測される情報を通知するためのGUI(グラフィカルユーザインタフェース)データである。
 図17は、第2情報処理装置10bが提供するシステム画面の例を示す。第1情報処理装置10aにおいて、通信処理部114aは、第2情報処理装置10bから受信したシステム画像データを取得部110aに提供し、取得部110aがシステム画像データを取得する。表示処理部112aは、取得したシステム画像データに対応するシステム画像186、188、190、192を出力装置4aに表示する。このとき表示処理部112aは、図9に示すように、縮小領域160にシステム画像186、188、190、192を表示した後、徐々に拡大して、最終的には全面表示する表示演出を実施する。
 このとき表示処理部112aは、システム画像データが第2情報処理装置10bで生成されていることを示す情報として、外枠170およびコンソール情報172を表示する。なおコンソール情報172については、所定時間だけ表示すればよい。
 システム画像186、188、190、192は、第2情報処理装置10bにおいてアクティブなアプリケーションに関する情報や、ユーザにとって優先度が高いと推測される情報を通知するためのGUI(グラフィカルユーザインタフェース)である。システム画像生成部104bは、情報単位ごとに、情報の一部を記載したカード状GUIを生成する。ここでシステム画像186は、実行中のゲームタイトル“Combat field”に関するGUI、システム画像188は、フレンドからのメッセージに関するGUI、システム画像190は、ユーザが興味のある新しいゲームに関するGUI、システム画像192は、オンラインのフレンドに関するGUIである。ユーザは、いずれかのGUIを選択すると、当該GUIに関する詳細な情報が提示されてよい。
 以上、本開示を実施例をもとに説明した。この実施例は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本開示の範囲にあることは当業者に理解されるところである。
 本開示は、画像を表示する技術に利用できる。
1・・・情報処理システム、4a・・・出力装置、6・・・入力装置、10a・・・第1情報処理装置、10b・・・第2情報処理装置、100a,100b・・・受付部、102a,102b・・・ログイン処理部、104a,104b・・・システム画像生成部、106a,106b・・・アプリケーション実行部、108a,108b・・・アプリケーション画像生成部、110a・・・取得部、112a・・・表示処理部、114a,114b・・・通信処理部。

Claims (6)

  1.  ユーザによって操作される情報処理装置であって、
     別の情報処理装置とネットワークを介して通信可能に接続する通信処理部と、
     前記別の情報処理装置から、第1画像データを取得する取得部と、
     前記取得部が取得した第1画像データに対応する第1画像を表示する表示処理部と、
     第1画像が表示されているときに、前記情報処理装置を操作するための入力装置の操作情報を受け付ける受付部と、
     前記受付部が受け付けた操作情報に対応する第2画像データを生成する画像生成部と、を備え、
     前記表示処理部は、第1画像を縮小し、縮小した第1画像に、第2画像データに対応する第2画像を重ねて表示する、
     ことを特徴とする情報処理装置。
  2.  前記表示処理部は、第1画像データが前記別の情報処理装置で生成されていることを示す情報を、第1画像に付加して表示する、
     ことを特徴とする請求項1に記載の情報処理装置。
  3.  前記表示処理部は、前記情報として、第1画像に外枠を付加して表示する、
     ことを特徴とする請求項2に記載の情報処理装置。
  4.  前記通信処理部が、前記別の情報処理装置との間で接続を確立する際、前記表示処理部は、表示画面の一部に縮小領域を設定し、接続が確立した後、当該縮小領域に第1画像を表示して、当該第1画像を、表示画面の全体に拡大する表示演出を実施する、
     ことを特徴とする請求項1から3のいずれかに記載の情報処理装置。
  5.  情報処理装置において画像を表示する方法であって、
     ネットワークを介して通信可能に接続する別の情報処理装置から、第1画像データを取得するステップと、
     第1画像データに対応する第1画像を表示するステップと、
     第1画像が表示されているときに、前記情報処理装置を操作するための入力装置の操作情報を受け付けるステップと、
     操作情報に対応する第2画像データを生成するステップと、
     第1画像を縮小し、縮小した第1画像に、第2画像データに対応する第2画像を重ねて表示するステップと、
     を有することを特徴とする画像表示方法。
  6.  コンピュータに、
     ネットワークを介して通信可能に接続する情報処理装置から、第1画像データを取得する機能と、
     第1画像データに対応する第1画像を表示する機能と、
     第1画像が表示されているときに、前記コンピュータを操作するための入力装置の操作情報を受け付ける機能と、
     操作情報に対応する第2画像データを生成する機能と、
     第1画像を縮小し、縮小した第1画像に、第2画像データに対応する第2画像を重ねて表示する機能と、
     を実現させるためのプログラム。
PCT/JP2021/028337 2020-08-07 2021-07-30 情報処理装置および画像表示方法 Ceased WO2022030383A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US18/006,764 US12330059B2 (en) 2020-08-07 2021-07-30 Information processing device and image display method
CN202180047757.4A CN115777094A (zh) 2020-08-07 2021-07-30 信息处理设备和图像显示方法
KR1020237002129A KR102812546B1 (ko) 2020-08-07 2021-07-30 정보 처리 장치 및 화상 표시 방법
EP21852842.0A EP4194066A4 (en) 2020-08-07 2021-07-30 INFORMATION PROCESSING DEVICE AND IMAGE DISPLAY METHOD

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020135174A JP7390992B2 (ja) 2020-08-07 2020-08-07 情報処理装置および画像表示方法
JP2020-135174 2020-08-07

Publications (1)

Publication Number Publication Date
WO2022030383A1 true WO2022030383A1 (ja) 2022-02-10

Family

ID=80118004

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/028337 Ceased WO2022030383A1 (ja) 2020-08-07 2021-07-30 情報処理装置および画像表示方法

Country Status (6)

Country Link
US (1) US12330059B2 (ja)
EP (1) EP4194066A4 (ja)
JP (1) JP7390992B2 (ja)
KR (1) KR102812546B1 (ja)
CN (1) CN115777094A (ja)
WO (1) WO2022030383A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7568388B2 (ja) * 2019-06-06 2024-10-16 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像表示方法
USD1103199S1 (en) * 2020-10-05 2025-11-25 Sony Interactive Entertainment Inc. Display screen with animated graphical user interface
CA202359S (en) * 2020-10-05 2023-09-07 Sony Interactive Entertainment Inc Display screen with animated graphical user interface
USD1103200S1 (en) * 2020-10-05 2025-11-25 Sony Interactive Entertainment Inc. Display screen with animated graphical user interface
USD1103201S1 (en) 2020-10-05 2025-11-25 Sony Interactive Entertainment Inc. Display screen with animated graphical user interface
EP4726521A1 (en) 2023-06-09 2026-04-15 Sony Interactive Entertainment Inc. Terminal device and game image display method
USD1117329S1 (en) * 2023-08-04 2026-03-10 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016083225A (ja) * 2014-10-27 2016-05-19 株式会社ソニー・コンピュータエンタテインメント 情報処理装置
JP2020093109A (ja) * 2012-01-24 2020-06-18 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置およびユーザをアプリケーションに参加させる方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9032465B2 (en) * 2002-12-10 2015-05-12 Ol2, Inc. Method for multicasting views of real-time streaming interactive video
US8713474B2 (en) 2010-10-05 2014-04-29 Citrix Systems, Inc. Providing user interfaces and window previews for hosted applications
US9155960B2 (en) * 2013-01-11 2015-10-13 Chris Argiro Video-game console for allied touchscreen devices
JP6153450B2 (ja) * 2013-10-30 2017-06-28 株式会社ソニー・インタラクティブエンタテインメント 情報処理システムおよび情報処理装置
EP3092621B1 (en) * 2014-01-09 2025-05-07 Square Enix Holdings Co., Ltd. Video gaming device with remote rendering capability
US9795871B2 (en) * 2014-04-15 2017-10-24 Microsoft Technology Licensing, Llc Positioning a camera video overlay on gameplay video
CN104615327B (zh) * 2014-12-24 2017-12-22 广州酷狗计算机科技有限公司 用于游戏过程中的窗口显示方法及装置
US9968856B1 (en) * 2016-11-15 2018-05-15 Genvid Technologies, Inc. Systems and methods of video game streaming with interactive overlay and additional data
JP7123554B2 (ja) * 2017-12-25 2022-08-23 グリー株式会社 ゲーム装置、制御方法及び制御プログラム
US20190282895A1 (en) * 2018-03-13 2019-09-19 Microsoft Technology Licensing, Llc Control sharing for interactive experience
US20200090453A1 (en) * 2018-09-19 2020-03-19 Igt Pairing augmented reality devices with electronic gaming machines

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020093109A (ja) * 2012-01-24 2020-06-18 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置およびユーザをアプリケーションに参加させる方法
JP2016083225A (ja) * 2014-10-27 2016-05-19 株式会社ソニー・コンピュータエンタテインメント 情報処理装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ANOYNMOUS: "Is remote gaming on a mobile notebook like the VivoBook E203NA-464G stable?", 1 October 2017 (2017-10-01), XP055893752, Retrieved from the Internet <URL:https://morimorigameblogg.blogspot.com/2017/10/vivobook-e203na-464gps4.html> *
See also references of EP4194066A4 *

Also Published As

Publication number Publication date
KR20230028426A (ko) 2023-02-28
JP7390992B2 (ja) 2023-12-04
EP4194066A1 (en) 2023-06-14
US12330059B2 (en) 2025-06-17
JP2022030870A (ja) 2022-02-18
US20230277928A1 (en) 2023-09-07
CN115777094A (zh) 2023-03-10
KR102812546B1 (ko) 2025-05-27
EP4194066A4 (en) 2024-09-11

Similar Documents

Publication Publication Date Title
JP7390992B2 (ja) 情報処理装置および画像表示方法
JP6782173B2 (ja) 情報処理装置および音声データ通信管理方法
JP2014092991A (ja) 情報処理装置および入力装置
JP7145120B2 (ja) 情報処理装置、情報処理システムおよび承認画面生成方法
JP6240627B2 (ja) 情報処理装置および画面生成方法
EP3981483B1 (en) Information processing device and image display method
WO2020246377A1 (ja) 情報処理装置および画像表示方法
JP7071550B2 (ja) 情報処理装置
JP7108048B2 (ja) 情報処理装置および画面生成方法
JP7091289B2 (ja) 情報処理装置および入力装置
JP6495976B2 (ja) 情報処理装置および情報表示制御方法
JP2016174911A (ja) 入力装置
JP7248484B2 (ja) 情報処理装置、情報処理システムおよびアプリケーション画面表示方法
WO2021010279A1 (ja) 情報処理装置およびログイン許可方法
WO2021054234A1 (ja) 情報処理装置およびサーバ
WO2025253532A1 (ja) 情報処理装置
JP2018029974A (ja) 入力装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21852842

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20237002129

Country of ref document: KR

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021852842

Country of ref document: EP

Effective date: 20230307

WWG Wipo information: grant in national office

Ref document number: 18006764

Country of ref document: US