WO2022139475A1 - 카메라를 구비하는 전자 장치 및 그 방법 - Google Patents

카메라를 구비하는 전자 장치 및 그 방법 Download PDF

Info

Publication number
WO2022139475A1
WO2022139475A1 PCT/KR2021/019640 KR2021019640W WO2022139475A1 WO 2022139475 A1 WO2022139475 A1 WO 2022139475A1 KR 2021019640 W KR2021019640 W KR 2021019640W WO 2022139475 A1 WO2022139475 A1 WO 2022139475A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
processor
information
electronic device
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/KR2021/019640
Other languages
English (en)
French (fr)
Inventor
임광용
이경흠
곽성신
김성오
신대규
이다솜
이상훈
이서영
최대웅
최지환
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to EP21844605.2A priority Critical patent/EP4047923A4/en
Priority to US17/571,048 priority patent/US11930281B2/en
Publication of WO2022139475A1 publication Critical patent/WO2022139475A1/ko
Anticipated expiration legal-status Critical
Priority to US18/598,501 priority patent/US12316982B2/en
Priority to US19/217,710 priority patent/US20250287113A1/en
Ceased legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/20—Image enhancement or restoration using local operators
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/90—Dynamic range modification of images or parts thereof
    • G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/02—Constructional features of telephone sets
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules

Definitions

  • an electronic device having a camera and a method therefor for example, an electronic device for controlling a camera to acquire a plurality of images and generating a plurality of image content based thereon, and a method therefor is about
  • the electronic device may provide a camera-related function in addition to a communication function such as a voice call, message transmission/reception, and/or wireless Internet.
  • a communication function such as a voice call, message transmission/reception, and/or wireless Internet.
  • An electronic device having a camera may acquire image data including a still picture and/or a moving picture by using the camera. Also, when the electronic device provides an image editing function, image content may be generated based on the acquired image data through the editing function.
  • a user of an electronic device having a camera may directly obtain image data through a plurality of inputs, and may generate image content through a plurality of inputs. If the user wants to create various image contents, the user has to repeat this process a number of times. Also, it is impossible to acquire various types of image contents for the same viewpoint with one electronic device.
  • Various embodiments disclosed in this document are for acquiring an image according to a photographing mode based on a single user input related to photographing in an electronic device having a camera, and generating various types of image contents.
  • An electronic device includes a camera module, a sensor module, at least one processor operatively connected to the camera module and the sensor module, and a memory operatively connected to the at least one processor and, when executed, the processor controls the camera module according to the shooting mode of the camera module determined based on at least one of illuminance sensed through the sensor module and scene information sensed through the camera module to obtain a plurality of first images having a first attribute and at least one second image having a second attribute for a specified time, and when an event is detected from the plurality of first images, information about the event section is extracted, , selects and buffers at least one third image from the at least one second image according to the shooting mode, and generates at least one first content based on information about the event section of the plurality of first images to select at least one fourth image by performing evaluation on at least a portion of the at least one third image, and to generate at least one second content based on the selected at least one fourth image can
  • the camera determined based on at least one of illuminance sensed through the sensor module and scene information sensed through the camera module
  • Selecting at least one fourth image by performing an operation of generating at least one first content based on the information, and evaluating at least a portion of the at least one third image, and selecting the at least one fourth image and generating at least one second content based on the .
  • an electronic device having a camera may generate various types of image contents based on a single user input related to photographing.
  • an electronic device having a camera may automatically determine a photographing mode and acquire various images through the camera according to the photographing mode.
  • an electronic device having a camera may selectively select and acquire various images according to a photographing mode, and generate various types of image content through an image post-processing process.
  • an electronic device having a camera automatically determines a photographing mode, selects and buffers various images obtained according to the photographing mode, and analyzes and selects the buffered image according to the photographing mode to obtain various types of images You can create content.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments of the present disclosure
  • FIG. 2 is a block diagram of a camera module according to various embodiments.
  • FIG. 3 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 4 is a flowchart illustrating a method of generating various image content by an electronic device according to various embodiments of the present disclosure
  • FIG. 5 is a flowchart illustrating various image data acquisition operations according to a photographing mode according to various embodiments of the present disclosure
  • FIG. 6 is a flowchart illustrating an operation of generating moving image content according to various embodiments of the present disclosure
  • FIG. 7 is a flowchart illustrating an operation of generating still image content according to various embodiments of the present disclosure
  • FIG. 8 is a flowchart illustrating an image selection operation according to a burst shot mode according to various embodiments of the present disclosure
  • FIG. 9 is a flowchart illustrating an esthetic evaluation operation according to various embodiments of the present disclosure.
  • FIG. 10 is a flowchart illustrating a redundancy evaluation operation according to various embodiments.
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with at least one of the electronic device 104 and the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199
  • the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input module 150 , a sound output module 155 , a display module 160 , an audio module 170 , and a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or an antenna module 197 may be included.
  • at least one of these components eg, the connection terminal 178
  • may be omitted or one or more other components may be added to the electronic device 101 .
  • some of these components are integrated into one component (eg, display module 160 ). can be
  • the processor 120 for example, executes software (eg, a program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120 . It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be stored in the volatile memory 132 , and may process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • software eg, a program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
  • the volatile memory 132 may be stored in the volatile memory 132 , and may process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • the processor 120 is the main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • the main processor 121 e.g, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit
  • NPU neural processing unit
  • an image signal processor e.g., a sensor hub processor, or a communication processor.
  • the main processor 121 e.g, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit
  • NPU neural processing unit
  • an image signal processor e.g., a sensor hub processor, or a communication processor.
  • the main processor 121 e.g, a central processing unit or an application processor
  • a secondary processor 123
  • the auxiliary processor 123 is, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the co-processor 123 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190. have.
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • Artificial intelligence models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself on which the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but in the above example not limited
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the above example.
  • the artificial intelligence model may include, in addition to, or alternatively, a software structure in addition to the hardware structure.
  • the memory 130 may store various data used by at least one component of the electronic device 101 (eg, the processor 120 or the sensor module 176 ).
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input module 150 may receive a command or data to be used in a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • the receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
  • the display module 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display module 160 may include, for example, a control circuit for controlling a display, a hologram device, or a projector and a corresponding device.
  • the display module 160 may include a touch sensor configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input module 150 , or an external electronic device (eg, a sound output module 155 ) connected directly or wirelessly with the electronic device 101 . A sound may be output through the electronic device 102 (eg, a speaker or headphones).
  • an external electronic device eg, a sound output module 155
  • a sound may be output through the electronic device 102 (eg, a speaker or headphones).
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more designated protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication performance through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a LAN (local area network) communication module, or a power line communication module).
  • GNSS global navigation satellite system
  • a corresponding communication module among these communication modules is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a first network 198 eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network 199 eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a telecommunication network
  • the wireless communication module 192 uses the subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • the electronic device 101 may be identified or authenticated.
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, a new radio access technology (NR).
  • NR access technology includes high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency) -latency communications)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low-latency
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • a high frequency band eg, mmWave band
  • the wireless communication module 192 includes various technologies for securing performance in a high-frequency band, for example, beamforming, massive multiple-input and multiple-output (MIMO), all-dimensional multiplexing. It may support technologies such as full dimensional MIMO (FD-MIMO), an array antenna, analog beam-forming, or a large scale antenna.
  • the wireless communication module 192 may support various requirements specified in the electronic device 101 , an external electronic device (eg, the electronic device 104 ), or a network system (eg, the second network 199 ).
  • the wireless communication module 192 may include a peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency for realizing URLLC ( Example: downlink (DL) and uplink (UL) each 0.5 ms or less, or round trip 1 ms or less).
  • a peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module comprises a printed circuit board, an RFIC disposed on or adjacent to a first side (eg, bottom side) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, an array antenna) disposed on or adjacent to a second side (eg, top or side) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or a part of operations executed in the electronic device 101 may be executed in one or more external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an Internet of things (IoT) device.
  • Server 108 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 104 or the server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to an intelligent service (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology. .
  • the electronic device may have various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a wearable device e.g., a smart bracelet
  • a home appliance device e.g., a home appliance
  • first”, “second”, or “first” or “second” may simply be used to distinguish the component from other components in question, and may refer to components in other aspects (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • one or more instructions stored in a storage medium may be implemented as software (eg, the program 140) including
  • a processor eg, processor 120
  • a device eg, electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not include a signal (eg, electromagnetic wave), and this term is used in cases where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be provided as included in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play StoreTM) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly between smartphones (eg: smartphones) and online.
  • a part of the computer program product may be temporarily stored or temporarily created in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component (eg, module or program) of the above-described components may include a singular or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. have.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, or omitted. or one or more other operations may be added.
  • the camera module 180 includes a lens assembly 210 , a flash 220 , an image sensor 230 , an image stabilizer 240 , a memory 250 (eg, a buffer memory), or an image signal processor. (260).
  • the lens assembly 210 may collect light emitted from a subject, which is an image to be captured.
  • the lens assembly 210 may include one or more lenses.
  • the camera module 180 may include a plurality of lens assemblies 210 . In this case, the camera module 180 may form, for example, a dual camera, a 360 degree camera, or a spherical camera.
  • Some of the plurality of lens assemblies 210 may have the same lens properties (eg, angle of view, focal length, auto focus, f number, or optical zoom), or at least one lens assembly may be a different lens assembly. It may have one or more lens properties different from the lens properties of .
  • the lens assembly 210 may include, for example, a wide-angle lens or a telephoto lens.
  • the flash 220 may emit light used to enhance light emitted or reflected from the subject.
  • the flash 220 may include one or more light emitting diodes (eg, a red-green-blue (RGB) LED, a white LED, an infrared LED, or an ultraviolet LED), or a xenon lamp.
  • the image sensor 230 may acquire an image corresponding to the subject by converting light emitted or reflected from the subject and transmitted through the lens assembly 210 into an electrical signal.
  • the image sensor 230 is, for example, one image sensor selected from among image sensors having different properties, such as an RGB sensor, a black and white (BW) sensor, an IR sensor, or a UV sensor, the same It may include a plurality of image sensors having properties, or a plurality of image sensors having different properties.
  • Each image sensor included in the image sensor 230 may be implemented using, for example, a charged coupled device (CCD) sensor or a complementary metal oxide semiconductor (CMOS) sensor.
  • CCD charged coupled device
  • CMOS complementary metal oxide semiconductor
  • the image stabilizer 240 moves at least one lens or the image sensor 230 included in the lens assembly 210 in a specific direction or Operation characteristics of the image sensor 230 may be controlled (eg, read-out timing may be adjusted, etc.). This makes it possible to compensate for at least some of the negative effects of the movement on the image being taken.
  • the image stabilizer 240 is, according to an embodiment, the image stabilizer 240 is a gyro sensor (not shown) or an acceleration sensor (not shown) disposed inside or outside the camera module 180 . can be used to detect such a movement of the camera module 180 or the electronic device 101 .
  • the image stabilizer 240 may be implemented as, for example, an optical image stabilizer.
  • the memory 250 may temporarily store at least a portion of the image acquired through the image sensor 230 for the next image processing operation. For example, when image acquisition is delayed according to the shutter or a plurality of images are acquired at high speed, the acquired original image (eg, Bayer-patterned image or high-resolution image) is stored in the memory 250 and , a copy image corresponding thereto (eg, a low-resolution image) may be previewed through the display module 160 .
  • the acquired original image eg, Bayer-patterned image or high-resolution image
  • a copy image corresponding thereto eg, a low-resolution image
  • the memory 250 may be configured as at least a part of the memory 130 or as a separate memory operated independently of the memory 130 .
  • the image signal processor 260 may perform one or more image processing on an image acquired through the image sensor 230 or an image stored in the memory 250 .
  • the one or more image processes may include, for example, depth map generation, 3D modeling, panorama generation, feature point extraction, image synthesis, or image compensation (eg, noise reduction, resolution adjustment, brightness adjustment, blurring ( blurring, sharpening, or softening.
  • the image signal processor 260 may include at least one of the components included in the camera module 180 (eg, an image sensor). 230), for example, exposure time control, readout timing control, etc.
  • the image processed by the image signal processor 260 is stored back in the memory 250 for further processing.
  • the image signal processor 260 may be configured as at least a part of the processor 120 or as a separate processor operated independently of the processor 120.
  • the image signal processor 260 may be configured as the processor 120 and a separate processor, the at least one image processed by the image signal processor 260 may be displayed through the display module 160 as it is by the processor 120 or after additional image processing.
  • the electronic device 101 may include a plurality of camera modules 180 each having different properties or functions.
  • at least one of the plurality of camera modules 180 may be a wide-angle camera, and at least the other may be a telephoto camera.
  • at least one of the plurality of camera modules 180 may be a front camera, and at least the other may be a rear camera.
  • FIG. 3 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 300 (eg, the electronic device 101 of FIG. 1 ) includes an image sensor (eg, the image sensor 230 of FIG. 2 ) and a memory (eg, the memory 250 of FIG. 2 ). ), an image signal processor (eg, image signal processor 260 of FIG. 2 ), a sensor module (eg, sensor module 176 of FIG. 1 ), and/or a processor (eg, processor 120 of FIG. 1 ). can do.
  • the components of the electronic device 300 of FIG. 3 exemplify components necessary for description of various embodiments, but are not limited thereto.
  • the electronic device 300 may include a plurality of image sensors 230 .
  • the electronic device 300 may include a plurality of camera modules (eg, the camera module 180 of FIG. 1 ).
  • the electronic device 300 may further include one or more components (eg, the display module 160 or the input module 150) among the components of the electronic device 101 of FIG. 1 .
  • the components of the electronic device 300 may perform the same or at least some of the same functions as the same components (eg, the processor 120 and/or the sensor module 176 ) described with reference to FIG. 1 or FIG. 2 . , and repeated descriptions below may be omitted.
  • the processor 120 is an application processor (eg, the main processor 121 of FIG. 1 ) and/or an image signal processor (eg, the auxiliary processor 123 of FIG. 1 ) that can be operated independently or together with the application processor (eg, the auxiliary processor 123 of FIG. 1 ) may include
  • the image signal processor 260 may be implemented separately from or as a part of the main processor 121 .
  • the image signal processor 260 may be configured as at least a part of the processor 120 or a separate processor operated independently of the processor 120 .
  • a plurality of first images of the first attribute and a second image different from the first attribute through the image sensor 230 for a specified time At least one second image of two properties may be acquired.
  • the acquired first image and the second image may include original image data (eg, raw data 231 ).
  • the second image since the first image and the second image are generated based on image information acquired through the image sensor 230 for a specified time, the second image has the same time information as at least a part of the first image (eg, time stamp) may be included.
  • the first image is a plurality of preview images (eg, moving pictures) acquired at a first period (periodically) for a specified time, and has a first property (eg, a resolution relatively smaller than that of the second image).
  • the first attribute may correspond to the first image resolution).
  • the first period may be a period corresponding to a rate of 24 frames per second (frame per second (fps)) or higher (eg, 30 fps or 60 fps).
  • the first image may be acquired periodically at a rate corresponding to 24 frames per second (24 fps) or more.
  • the second image is at least one captured image (eg, a still image) acquired for a specified time, and may include a second attribute having a relatively higher resolution than that of the first image.
  • the second attribute may correspond to a second image resolution, and the second image resolution may be higher than the first image resolution.
  • the second image may be acquired when focus is achieved based on focus information on an external object (eg, subject) according to an auto-focus (AF) function, but is not limited thereto.
  • the second image may be acquired at a specified period according to the shooting mode.
  • the second image may be acquired based on a first shooting mode (eg, a continuous shooting mode or a burst shot) or a second shooting mode (eg, a normal shooting mode).
  • a first shooting mode eg, a continuous shooting mode or a burst shot
  • a second shooting mode eg, a normal shooting mode
  • the continuous shooting mode may include a method of generating a plurality of captured images by continuously capturing a plurality of images at a designated time point through the image sensor 230 .
  • the second image may be acquired with a second period different from the first period for a specified time.
  • the second period may be relatively longer than the first period.
  • the second period may be a period corresponding to 10 frames per second (10 fps).
  • the second image may be acquired periodically at a rate corresponding to 10 frames per second (10 fps).
  • the general shooting mode may include a method of generating a captured image by capturing an image at a specified time point through the image sensor 230 .
  • the second image may be acquired in a third period that is relatively longer than the second period.
  • the third period may be a period corresponding to 3 frames per second (3 fps).
  • the second image may be acquired periodically at a rate corresponding to 3 frames per second (3 fps).
  • the designated time may include a designated time interval for acquiring the first image and/or the second image to generate various types of image content.
  • the specified time may be set within a time longer than a minimum time and shorter than a maximum time supported by the electronic device 101 to acquire a plurality of images including the first image and/or the second image.
  • the designated time may be selected or set by a user input.
  • the processor 120 may acquire illuminance information through the sensor module 176 (eg, an illuminance sensor) and/or the camera module 180 .
  • the illuminance information may include a level of brightness (eg, measured in lux or exposure value (EV) units) of a place where the electronic device 101 is currently located.
  • a level of brightness eg, measured in lux or exposure value (EV) units
  • the processor 120 may acquire scene information (eg, a scene category or a scene property) for an image to be acquired through the image sensor 230 .
  • the scene information may include information indicating that the place where the electronic device 101 is currently located is outdoors (eg, a landscape including the sky, a mountain, or a forest), or information indicating that it is indoors (eg, an indoor environment such as furniture or a ceiling). and/or external object information (eg, including a movable subject such as a person or an animal).
  • the processor 120 may acquire scene information through a preview screen before image acquisition.
  • the processor 120 determines that the location information on the place where the electronic device 101 is currently located, obtained through the sensor module 176 (eg, global positioning system (GPS)), is outdoors or indoors. As information for determination, it may be used as a supplement or substitute for the above-described scene information.
  • GPS global positioning system
  • the processor 120 may determine a shooting mode based on the obtained scene information and/or illuminance information. For example, in case of high illumination (eg, 2000 lux or more or 1800 EV or more) according to the illuminance information, the shooting mode may be determined as the continuous shooting mode. For example, in low light (eg, 800 lux or less or 1000 EV or less) according to the illuminance information, the shooting mode may be determined as the normal shooting mode. For example, the shooting mode may be determined as the continuous shooting mode when outdoors according to scene information. For example, even when outdoors according to scene information, the shooting mode may be determined as a general shooting mode in low light (eg, 800 lux or less or 1000 EV or less) according to the illuminance information.
  • high illumination eg, 2000 lux or more or 1800 EV or more
  • the shooting mode may be determined as the continuous shooting mode.
  • the shooting mode may be determined as the normal shooting mode.
  • the shooting mode may be determined as the continuous shooting mode when outdoors according to scene information.
  • the shooting mode when it is outdoors according to scene information and includes a movable external object (eg, a person or an animal), the shooting mode may be determined as the continuous shooting mode.
  • the shooting mode is a continuous shooting mode when it is in high light (2000 lux or more or 1800 EV or more).
  • the processor 120 controls the camera module 180 according to the determined shooting mode, and through the image sensor 230, a plurality of first images of the first attribute according to a first period for a specified time. may be obtained, and at least one second image having a second property different from the first property may be obtained according to the second period or the third period.
  • the first image and the second image may be original image data (eg, raw data 231 ).
  • the first shooting mode eg, continuous shooting mode
  • at least one second image may be acquired according to the second cycle
  • the second shooting mode eg, normal shooting mode
  • the processor 120 controls the image signal processor 260 (eg, the pre-processing module 261 ) according to the determined shooting mode to output a plurality of second images (eg: At least one third image may be selected from the raw data), and the selected third image may be temporarily buffered 252 in the volatile memory 251 of the memory 250 .
  • the components of the memory 250 may be disposed in the camera module 180 separately from an external memory (eg, the memory 130 of FIG. 1 ).
  • the volatile memory 251 of the memory 250 may be disposed in the camera module 180 .
  • at least some of the elements stored in the non-volatile memory 254 of the memory 250 may be stored in the memory 130 .
  • the first application 255 , the second application 256 , and/or the content map 257 among the nonvolatile memories 254 of the memory 250 may be stored in the memory 130 .
  • the processor 120 is obtained by the image sensor 230 in the first shooting mode (eg, continuous shooting mode) through the image signal processor 260 (eg, the pre-processing module 261) and outputs it Selecting at least one third image (eg, image 258 or video 259 ) from a plurality of second images being 252), for example, the image signal processor 260 (eg, the pre-processing module 261) analyzes similarities between image frames for a plurality of acquired second images to obtain at least one third image.
  • the image signal processor 260 eg, the pre-processing module 261 analyzes similarities between image frames for a plurality of acquired second images to obtain at least one third image.
  • the image signal processor 260 calculates image hash values for a plurality of second images, and analyzes the similarity between front and rear image frames based on this and analyzes the similarity Frames that are high (eg greater than or equal to a predefined, calculated or otherwise set value for similarity) may be excluded and the extracted at least one third image may be buffered.
  • the processor 120 is obtained by the image sensor 230 in the second photographing mode (eg, a general photographing mode) through the image signal processor 260 (eg, the pre-processing module 261) and outputs it At least one third image may be selected from a plurality of second images to be used, and the selected third image may be temporarily buffered 252 in the volatile memory 251 of the memory 250 .
  • the image signal processor 260 eg, the pre-processing module 261
  • the image signal processor 260 detects the image focus (eg, blur detect) for a plurality of acquired second images, and the quality is poor (eg, the focus is not achieved)
  • the image focus eg, blur detect
  • the extracted at least one third image may be buffered.
  • the processor 120 detects motion information from a plurality of first images through the image signal processor 260 (eg, the preprocessing module 261), and an event is generated based on the detected motion information. If it is determined to do so, event section information can be obtained.
  • an event may include a change or movement occurring in an image, such as movement of an object in a plurality of first images.
  • the event section information may include information about a section of the time when the event occurred.
  • the processor 120 may temporarily buffer the event period information 253 in the volatile memory 251 of the memory 250 .
  • the event section information may include information about a time section during which an event is detected as occurring.
  • the motion information may include motion information (eg, speed) calculated by tracking the movement of at least one object in the image (eg, object tracking).
  • motion information estimates the movement of an object based on a change in a feature point such as a specified pattern in an image, for example, a change in shooting time, a change in brightness, or a change in a background (eg, the surrounding environment) (eg, optical flow). ) can be calculated by
  • whether an event occurs may be determined based on a change in motion information. For example, it may be determined that the event has occurred when the motion information increases and then decreases. For example, it may be determined that the event has occurred when the motion information increases by more than a specified threshold value.
  • the event section information may include time information, scene information, section length information, and/or speed information (ie, at least one of these types of information) for a section in which the event occurred.
  • the event section information may include time information at a time point at which the motion information increases and a time point at which the motion information decreases.
  • the event section information may include scene information (eg, a scene category or a scene property) including information about an object and/or movement that moved in the event section (eg, a person jumps).
  • the event section information may include time information at a time point at which the motion information increases above a specified threshold value and at a time point at which the motion information decreases below the specified threshold value.
  • the event section information may include section length information from a point in time when motion information is increased to a point in time when motion information is decreased.
  • the event section information may include speed information such as an average speed and/or a maximum speed of motion information within a section in which the event occurs.
  • the processor 120 loads the first application 255 stored in the non-volatile memory 254 of the memory 250 , and uses the loaded first application 255 in the shooting mode as described above. Determination, acquiring the first image and the second image based on the shooting mode for a specified period, selecting and buffering the third image from the second image according to the shooting mode, and/or acquiring event section information from the first image may be performed .
  • the processor 120 loads the second application 256 stored in the non-volatile memory 254 of the memory 250 , and first images to be described later by the loaded second application 256 . and/or generating the first content and the second content based on the third images.
  • the processor 120 controls the image signal processor 260 (eg, the post-processing module 262 ) to temporarily buffer event period information 253 in the volatile memory 251 of the memory 250 . Accordingly, first content may be generated based on the plurality of first images, and second content may be generated from the third image 252 temporarily buffered in the volatile memory 251 of the memory 250 .
  • the processor 120 controls the image signal processor 260 (eg, the post-processing module 262 ) to temporarily buffer event period information 253 in the volatile memory 251 of the memory 250 . Accordingly, first content may be generated based on the plurality of first images.
  • the processor 120 may generate the first content by applying an image effect to at least some of the plurality of first images based on the event section information through the image signal processor 260 .
  • the processor 120 may select a video type to be generated from the first image based on scene information (eg, scene category or scene attribute) and/or event section information of the plurality of first images.
  • a scene category may include a place, an object, an animal, a solo picture, a group picture of a person, a car, a landscape, or a text.
  • a scene attribute can be a subtype of a scene category, such as an indoor or outdoor place, a cat or dog, an animal, a type of object, a baby, a woman, or a face, a landscape, a tree, a mountain, a beach, and a sky. , sunrise, city, or sunset).
  • the processor 120 may generate at least one moving picture based on the plurality of first images.
  • the processor 120 may generate a first video in which a plurality of first images are continuously reproduced in the entire or event section.
  • the processor 120 may generate a second video in which a plurality of first images are played at a relatively faster speed than the first video in the event section. have.
  • the processor 120 may generate a third video in which a plurality of first images are played at a relatively slower speed than the first video in the event section. have.
  • the processor 120 increases the number of frames per second during the event section from a plurality of first images and/or decreases the speed It is possible to generate a fourth video (eg, dynamic video) in which the speed of the event section is adjusted like slow motion.
  • the processor 120 arranges at least one selected fourth image among the third images and a part of the first image corresponding to the event section in order based on time information (eg, time stamp), so that the fourth image and the At the time of conversion between the first images, for example, a fifth video (eg, highlight video) that can summarize and represent the contents and/or progress of the entire event by adding a transition effect may be generated.
  • a fifth video eg, highlight video
  • the processor 120 may generate a sixth video in which a plurality of first images are sequentially reproduced and then played in reverse order in the event section.
  • the processor 120 may generate a seventh video in which a plurality of first images are reproduced in reverse order in the event section.
  • the processor 120 may change the color and brightness of the background to generate an eighth video expressing the passage of time during the day and night.
  • an image effect applicable to the first image based on the scene information is configured as a content map 257 and stored in a memory (eg, the memory 130 of FIG. 1 or the memory 250 of FIG. 2 or 3 ). It can be saved in advance.
  • the processor 120 may temporarily buffer the third image 252 in the volatile memory 251 of the memory 250 via the image signal processor 260 (eg, the post-processing module 262 ).
  • the second content may be generated by selecting at least one fourth image from , and applying an image effect based on scene information (eg, a scene category or a scene attribute).
  • the processor 120 analyzes the temporarily buffered third image 252 through the image signal processor 260 (eg, the post-processing module 262 ), and based on the analyzed third image, At least one fourth image may be selected.
  • the image signal processor 260 eg, the post-processing module 262
  • the processor 120 may select at least one fourth image as at least one candidate image for generating a still image from among the temporarily buffered third images.
  • the candidate image may include at least one image quality of the third image, brightness information of the third image, color information of the third image, a composition of an external object (eg, subject) included in the third image, or the third image. may be selected based on at least one of face recognition information detected in .
  • the image quality is based on focus information (eg, blur) of an external object included in the third image, noise information included in the third image, or contrast information of the third image can be set.
  • the processor 120 may exclude similar images from among the at least one candidate image.
  • the similarity may be determined by comparing a predefined or calculated value corresponding to focus, noise, or contrast, and the like, focus information, noise information, or contrast information of the second image.
  • the processor 120 may generate second content by applying an image effect based on scene information to at least one fourth image selected through the image signal processor 260 .
  • an image effect applicable to the fourth image based on the scene information may be configured as, for example, a content map 257 in a memory (eg, the memory 130 of FIG. 1 or the memory 250 of FIG. 2 or 3 ). )) can be saved in advance.
  • the processor 120 may generate at least one still image based on the selected at least one fourth image. For example, the processor 120 may select an image effect to be applied to at least one fourth image selected as a candidate image. For example, the processor 120 determines whether to apply an image effect to the fourth image and/or to apply an image effect to the fourth image based on scene information (eg, a scene category or a scene attribute) of the at least one fourth image. You can choose an image effect. For example, the image effect may be applied through a series of operations of changing at least one of color, transparency, style, contrast, or saturation of the fourth image.
  • scene information eg, a scene category or a scene attribute
  • the electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 3 ) includes a camera module 180 , a sensor module 176 , the camera module 180 , and the sensor at least one processor (eg, processor 120 of FIG. 1 or image signal processor 260 of FIG. 2 ) operatively coupled to module 176 and operatively coupled to said at least one processor 120 or 260 It may include a memory (eg, the memory 130 of FIG. 1 or the memory 250 of FIG. 2 or 3 ).
  • a memory eg, the memory 130 of FIG. 1 or the memory 250 of FIG. 2 or 3 .
  • the illuminance sensed by the processor 120 or 260 through the sensor module 176 and scene information detected through the camera module 180 when executed, the illuminance sensed by the processor 120 or 260 through the sensor module 176 and scene information detected through the camera module 180 .
  • Controlling the camera module 180 according to the shooting mode of the camera module 180 determined based on at least one of a plurality of first images having a first attribute and at least one second image having a second attribute for a specified time 2 images are acquired, and when an event is detected from the plurality of first images, information on an event section is extracted, and at least one third image is selected from the at least one second image according to the shooting mode and buffered and generating at least one first content based on the information on the event section of the plurality of first images, and evaluating at least a portion of the at least one third image to obtain at least one fourth image may be set to select and generate at least one second content based on the selected at least one fourth image.
  • the processor 120 or 260 acquires the first image in a first period for the specified time period, and acquires the second image in a second period in the first photographing mode according to the determined photographing mode is set to acquire the second image in a third period in a second shooting mode, wherein the second period is relatively longer than the first period, and the third period is set to be relatively longer than the second period can
  • the processor 120 or 260 may be configured to select the at least one third image based on the similarity between image frames with respect to the at least one second image in the first shooting mode.
  • the processor 120 or 260 may be set to select the at least one third image based on the image quality of the at least one second image in the second photographing mode.
  • the processor 120 or 260 selects at least one fifth image by performing analysis on the at least one third image in the first shooting mode, and the at least one second image It may be configured to select the at least one fourth image by performing the evaluation on the 5 images.
  • the analysis includes at least one of blur detection, blink detection, expression based filer, or affine similarity for the third image. can be set to
  • the processor 120 or 260 is configured to select one of color, transparency, style, contrast, or saturation for at least some elements in the at least one fourth image based on the scene information of the at least one fourth image. It may be set to generate the at least one second content through at least one of applying an image effect that changes at least one, correcting image quality, changing a composition, or generating a collage.
  • the processor 120 or 260 may be configured to obtain motion information from the plurality of first images, and to extract the event section information based on a change in the motion information.
  • the event section information may include at least one of time information, scene information, length information, and speed information about the event.
  • the processor 120 or 260 selectively changes at least one of a section length, a playback speed, a playback order, or an image effect based on the scene information based on the event section information to change the plurality of second 1 It may be set to generate a moving picture in which at least a part of the image is continuously reproduced.
  • FIG. 4 is a flowchart illustrating a method of generating various image content by an electronic device according to various embodiments of the present disclosure.
  • the order of operations in FIG. 4 is an example, and each operation may be performed simultaneously or in a different order, or at least one operation may be repeated or omitted.
  • a processor eg, the processor 120 of FIG. 1 or the image signal processor 260 of FIG. 2 ) of the electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 2 ) ) in operation 401, a plurality of first images and at least one A second image may be acquired.
  • the camera module eg, the camera module 180 of FIG. 1 ) based on the shooting mode determined based on the illumination information and/or the scene information ) to acquire a plurality of first images and at least one second image through the image sensor.
  • the processor 120 or 260 may determine the shooting mode as one of a first shooting mode (eg, a continuous shooting mode) or a second shooting mode (eg, a normal shooting mode) based on the illuminance information and/or the scene information.
  • a first shooting mode eg, a continuous shooting mode
  • a second shooting mode eg, a normal shooting mode
  • the illuminance information may be acquired through a sensor module (eg, the sensor module 176 of FIG. 1 ) (eg, an illuminance sensor).
  • the scene information may be extracted from an image acquired through an image sensor.
  • the processor 120 or 260 controls the camera module according to the determined shooting mode, through the image sensor for a specified time, a plurality of first images of the first attribute and at least one of a second attribute different from the first attribute.
  • a second image may be acquired.
  • the acquired first image and the second image may include original image data (eg, raw data).
  • the first image is a plurality of preview images (eg, moving pictures) acquired in a first period for a specified time, and may include a first property having a relatively smaller resolution than that of the second image.
  • the second image is at least one captured image (eg, a still image) acquired for a specified time, and may include a second attribute having a relatively higher resolution than that of the first image.
  • the second image may be acquired at a second period different from the first period for a specified time.
  • the second period may be relatively longer than the first period.
  • the second photographing mode eg, the normal photographing mode
  • the second image may be acquired with a third period relatively longer than the second period for a specified time.
  • the specified time for performing the operation of acquiring a plurality of images including the first image and/or the second image is set within a time longer than the minimum time supported by the electronic device 101 or 300 and shorter than the maximum time can be
  • the designated time may be selected or set by a user input.
  • the processor 120 or 260 obtains event section information from a plurality of first images output from the image sensor according to the determined shooting mode, and obtains at least one third image from the plurality of second images. You can select an image for temporary buffering.
  • the processor 120 or 260 detects motion information from a plurality of first images, and when it is determined that an event has occurred based on the detected motion information, obtains event section information, and a volatile memory (eg, Temporary buffering 252 may be performed in the volatile memory 251 of FIG. 2 .
  • a volatile memory eg, Temporary buffering 252 may be performed in the volatile memory 251 of FIG. 2 .
  • the motion information may include motion information (eg, speed) calculated by tracking the motion of at least one object in the image.
  • motion information estimates the movement of an object based on a change in a feature point such as a specified pattern in an image, for example, a change in shooting time, a change in brightness, or a change in a background (eg, the surrounding environment) (eg, optical flow). ) can be calculated by
  • whether an event occurs may be determined based on a change in motion information. For example, it may be determined that the event has occurred when the motion information increases and then decreases. For example, it may be determined that the event has occurred when the motion information increases by more than a specified threshold value.
  • the event section information may include time information, scene information, and length and/or speed of the section in which the event occurs.
  • the event section information may include time information at a time point at which the motion information increases and a time point at which the motion information decreases.
  • the event section information may include scene information (eg, a scene category or a scene property) including information about an object and/or motion that moved in the event section (eg, a person jumps).
  • the event section information may include time information at a time point at which the motion information increases above a specified threshold value and at a time point at which the motion information decreases below the specified threshold value.
  • the event section information may include a section length from a point in time when the motion information is increased to a point in time when the motion information is decreased.
  • the event section information may include an average speed and/or a maximum speed of motion information within a section in which the event occurs.
  • the processor 120 or 260 selects at least one third image based on a shooting mode determined from a plurality of second images output from the image sensor, and temporarily buffers the selected third image in a volatile memory of the memory ( 252) can be done.
  • the processor 120 or 260 may select at least one third image by analyzing similarities between image frames with respect to a plurality of second images obtained according to the first capturing mode. For example, the similarity between the frames of the plurality of second images may be analyzed based on the image hash value of each frame, and the processor 120 or 260 determines a frame with high similarity among the frames of the second image output from the image sensor. may be excluded, and the remaining at least one third image may be temporarily buffered by transmitting the third image to the volatile memory.
  • the processor 120 or 260 may select at least one third image by analyzing image quality of a plurality of second images acquired according to the second capturing mode. For example, the processor 120 or 260 detects the image focus (eg, blur detect) for the plurality of obtained second images to exclude images with poor quality due to out of focus, and removes the remaining at least one third image. Transfers to volatile memory can be temporarily buffered.
  • image focus eg, blur detect
  • the processor 120 or 260 loads a first application stored in the memory (eg, the first application 255 of FIG. 2 ), and uses the loaded first application in operations 401 and 403 described above. can be performed.
  • the processor 120 or 260 loads a second application (eg, the second application 256 of FIG. 2 ) stored in the memory, and operations 405 and 407 described later by the loaded second application. can be performed.
  • a second application eg, the second application 256 of FIG. 2
  • the processor 120 or 260 generates first content based on a plurality of first images according to the temporarily buffered event section information in operation 405 , and in operation 407 , the temporarily buffered third image Second content may be generated based on .
  • the processor 120 or 260 may generate the first content by applying an image effect to at least some of the plurality of first images based on event section information temporarily buffered in the volatile memory. For example, the processor 120 or 260 extracts frames of a corresponding section from among a plurality of first images according to time information and/or length information of the event section information, and scene information (eg, scene category) of the corresponding event section information Alternatively, an image effect to be applied to the frames of the extracted first image may be selected and applied based on the scene property), and at least one moving picture may be generated.
  • the generated first content is a first video in which a plurality of first images are continuously reproduced in the entire or event section, and a first video in which a plurality of first images are reproduced at a relatively faster speed than the first video in the event section.
  • 2 video a third video in which a plurality of first images are played at a relatively slower speed than the first video in the event section, the number of frames per second during the event section from a plurality of first images and/or speed reduction in the event section
  • Time information eg, time stamp
  • the fifth videos e.g. highlight video
  • the fifth videos that can be arranged in order based on the sequence and can summarize the contents and/or progress of the entire event by adding a transition effect, for example, at the time of transition between the fourth image and the first image It may include at least one.
  • the processor 120 or 260 selects at least one fourth image from the third image temporarily buffered in the volatile memory and applies an image effect based on scene information (eg, scene category or scene attribute) to the second content can create
  • scene information eg, scene category or scene attribute
  • the processor 120 or 260 may select at least one fourth image based on information on the temporarily buffered third image.
  • the processor 120 or 260 is based on at least one of image quality, brightness information, color information, a composition of an external object (eg, subject) included in the third image, or face recognition information detected from the third image.
  • at least one fourth image may be selected.
  • the image quality is based on focus information (eg, blur) of an external object included in the third image, noise information included in the third image, or contrast information of the third image can be set.
  • an image effect to be applied to the at least one fourth image may be applied through a series of operations of changing at least one of color, transparency, style, contrast, or saturation of the fourth image.
  • FIG. 5 is a flowchart illustrating various image data acquisition operations according to a photographing mode according to various embodiments of the present disclosure; According to various embodiments, the operations of FIG. 5 are performed by a processor (eg, the processor 120 of FIG. 1 or the electronic device 300 of FIG. 2 ) of the electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 2 ). may be performed by the image signal processor 260 .
  • the processor 120 or 260 loads a first application (eg, the first application 255 of FIG. 2 ) stored in the memory (eg, the memory 250 of FIG. 2 ), and provides the loaded first application.
  • the operations of FIG. 5 may be performed by
  • the processor 120 or 260 may determine a photographing mode based on illuminance information and/or scene information.
  • the processor 120 or 260 when the processor 120 or 260 receives a user input for acquiring image content, it controls a camera module (eg, the camera module 180 of FIG. 1 ) based on illuminance information and/or scene information to obtain an image. It is possible to determine a shooting mode for obtaining .
  • a camera module eg, the camera module 180 of FIG. 1
  • the processor 120 or 260 may determine the shooting mode as one of a first shooting mode (eg, a continuous shooting mode) or a second shooting mode (eg, a normal shooting mode) based on the illuminance information and/or the scene information.
  • a first shooting mode eg, a continuous shooting mode
  • a second shooting mode eg, a normal shooting mode
  • the illuminance information may be acquired through a sensor module (eg, the sensor module 176 of FIG. 1 ) (eg, an illuminance sensor).
  • the illuminance information may include a brightness level (eg, measured in lux or exposure value (EV) units) of a place where the electronic device 101 or 300 is currently located.
  • a sensor module eg, the sensor module 176 of FIG. 1
  • EV exposure value
  • the scene information may be extracted from an image obtained through an image sensor (eg, the image sensor 230 of FIG. 2 ).
  • the scene information may include a scene category or scene attribute.
  • the scene information may include information indicating that the current electronic device 101 or 300 is located outdoors or indoors and/or external object information.
  • the location information obtained through a sensor module eg, global positioning system (GPS)
  • GPS global positioning system
  • the processor 120 or 260 may determine the photographing mode as the first photographing mode when it is determined that the outdoor or high illuminance is based on the obtained illuminance information or scene information. For example, according to the scene information, even when outdoors, in low light, the shooting mode may be determined as the second shooting mode. For example, when it is outdoors according to scene information and includes a movable external object, the first shooting mode may be determined. For example, according to the scene information, it is outdoors and includes a movable external object, and in the case of high illumination, it may be determined as the first shooting mode.
  • the processor 120 or 260 controls the camera module according to the determined shooting mode, and for a specified time, the first attribute is A plurality of first images and at least one second image of the second attribute may be acquired.
  • the first image is a plurality of preview images acquired in a first period for a specified time, and may include a first attribute having a relatively smaller resolution than that of the second image.
  • the second image is at least one captured image acquired for a specified time, and may include a second attribute having a relatively higher resolution than that of the first image.
  • the processor 120 or 260 may acquire the second image in a second period different from the first period for a specified time in the first photographing mode.
  • the second period may be relatively longer than the first period.
  • the processor 120 or 260 may acquire the second image in a third period relatively longer than the second period for a specified time in the second photographing mode.
  • the processor 120 or 260 proceeds and processes each of the plurality of first images and at least one second image output from the image sensor according to the determined shooting mode as separate operations. can do.
  • the processor 120 or 260 detects motion information from a plurality of first images output from the image sensor, and obtains event section information based on the detected motion information to obtain the memory ( Temporary buffering 252 may be performed in a volatile memory (eg, the volatile memory 251 of FIG. 2 ) of the 250 .
  • the motion information may include motion information (eg, speed) calculated by tracking the motion of at least one object in the image. For example, whether an event occurs may be determined based on a change in motion information.
  • motion information eg, speed
  • the event section information may include time information, scene information, and length and/or speed of the section in which the event occurs.
  • the time information for the event section may include the time of the starting point and the end point of the event section determined based on the motion information.
  • the scene information may include a scene category and/or scene attribute, such as information about an object and/or motion that moved in the event section.
  • the length of the event period may include the length of time or the number of frames from the frame at the start of the event period to the frame at the end of the event period.
  • the speed of the event section may include an average speed and/or a maximum speed of motion information in the section where the event occurs.
  • the processor 120 or 260 selects at least one third image from a plurality of second images output from the image sensor in operation 509 and stores the selected third image in the volatile memory ( Temporary buffering 252 may be performed in 251 .
  • the processor 120 or 260 may select at least one third image by analyzing similarities between image frames with respect to a plurality of second images obtained according to the first capturing mode. For example, the similarity between frames of the plurality of second images may be analyzed based on the image hash value of each frame. For example, the processor 120 or 260 may select at least one third image by analyzing image quality (eg, focus detection (blur detect)) for a plurality of second images acquired according to the second shooting mode. .
  • image quality eg, focus detection (blur detect)
  • the processor 120 or 260 may determine whether to end the photographing by checking whether the specified time has expired or whether a photographing end input is received from the user. For example, the processor 120 or 260 may continuously perform operations 503 to 509 until the photographing is finished.
  • FIG. 6 is a flowchart illustrating an operation of generating moving image content according to various embodiments of the present disclosure
  • the operations of FIG. 6 are performed by a processor (eg, the processor 120 of FIG. 1 or the electronic device 300 of FIG. 2 ) of the electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 2 ). may be performed by the image signal processor 260 .
  • the processor 120 or 260 loads a second application (eg, the second application 256 of FIG. 2 ) stored in the memory (eg, the memory 250 of FIG. 2 ), and provides the loaded second application.
  • the operations of FIG. 6 may be performed by
  • the processor 120 or 260 may determine whether an event exists from the event period information temporarily buffered in the memory in operation 601, and if there is an event, analyze the event period information in operation 603 . For example, based on the time of the start and end points of the event section and the length of the event section, the frame position at which the event starts and the frame position at which the event ends can be identified from the event section information. For example, an image effect to be applied to image frames in the event section may be determined by checking a scene category, a scene property, and/or a speed of the event section of the event section.
  • the processor 120 or 260 may generate first content based on a plurality of first images based on event section information in operation 605 .
  • the processor 120 or 260 may generate a video (eg, output) from the first image based on the scene information (eg, scene category and/or scene property) of the plurality of first images and/or the speed of the event section. You can select the type of video).
  • the processor 120 or 260 may selectively change at least one of a section length, a playback speed, a playback order, or an image effect based on scene information based on the event section information to select at least one of the plurality of first images. It is possible to create a video in which parts are played continuously.
  • the first content may be generated by applying a content map as shown in Table 1 below to a plurality of first images based on event section information.
  • Table 1 may indicate that the corresponding output video is generated using the plurality of first images of the corresponding scene attribute.
  • x may indicate that the corresponding output video is not generated using the plurality of first images of the corresponding scene attribute.
  • only FF may indicate that a fast forward video is generated using a plurality of first images of a corresponding scene attribute.
  • “intro” may indicate that an intro video is generated using a plurality of first images of a corresponding scene attribute.
  • scene category scene type output video Original front or rear dynamic/fastforward highlight boomerang reverse relighting indoor indoor stage o only FF o x o x clothing clothing, shoes o only FF o x x x object food, drink, flower o o o (intro only) x x x pet animal, cat, dog o o o o x x vehicle vehicle o o o x o x landscape mountain, beach, sky, waterfall, waterside, scenery, sunset, sunrise, snow, city, nightview o only FF o x x o portrait o o o o x x people o o o o x x text o only FF o x x x default o o o o o x x x
  • scene category referring to the content map, includes indoor, clothing, object, pet, portrait, people, and car. (vehicle), landscape (landscape), or may include text (text).
  • a scene type can be defined as a subtype of a scene category (e.g., the place is indoor or outdoor, the animal is a cat or dog, the type of object, the subject is a baby, woman, or face, the landscape is a tree, a mountain , beach, sky, sunrise, city, or sunset).
  • the generated first content may include a first moving picture (eg, original) in which a plurality of first images are continuously reproduced in the event section.
  • the generated first content may include a second video (eg, fastforward) in which a plurality of first images are reproduced at a relatively faster speed than the first video in the event section.
  • the generated first content may include a third video (eg, slow video) in which a plurality of first images are reproduced at a relatively slower speed than the first video in the event section.
  • the speed of the event section is slowed by increasing the number of frames per second and/or reducing the speed during the event section from a plurality of first images.
  • a fourth video eg, dynamic video
  • the generated first content includes at least one fourth image selected from among the third images and a part of the first image corresponding to the event section in order based on time information (eg, time stamp) to obtain the fourth image.
  • the transition time between the image and the first image may include, for example, a fifth video (eg, highlight video) capable of summarizing the contents and/or progress of the entire event by adding a transition effect.
  • the first content may include a sixth video (eg, boomerang) in which a plurality of first images are sequentially reproduced and then played in reverse order in the event section.
  • the first content may include a seventh video (eg, reverse) in which a plurality of first images are reproduced in reverse order in the event section.
  • the first content includes an eighth video (eg, relighting) that expresses the passage of time between day and night by changing the color and brightness of the background when a plurality of first images include landscape photos in the event section.
  • an image effect applicable to the first image based on the scene information is configured as a content map as described above and stored in a memory (eg, the memory 130 of FIG. 1 or the memory 250 of FIG. 2 or 3 ) can be stored in advance.
  • the processor 120 or 260 may generate first content based on the plurality of first images in operation 607 .
  • the first content may include a moving picture in which a plurality of first images are continuously reproduced.
  • the first content may be generated by applying the content map shown in Table 1 above to a plurality of first images.
  • FIG. 7 is a flowchart illustrating an operation of generating still image content according to various embodiments of the present disclosure
  • the operations of FIG. 7 are performed by a processor (eg, the processor 120 of FIG. 1 or the electronic device 300 of FIG. 2 ) of the electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 2 ). may be performed by the image signal processor 260 .
  • the processor 120 or 260 loads a second application (eg, the second application 256 of FIG. 2 ) stored in the memory (eg, the memory 250 of FIG. 2 ), and provides the loaded second application.
  • the operations of FIG. 7 may be performed by
  • the processor 120 or 260 may sequentially output the third image temporarily buffered in the volatile memory in operation 701 .
  • the processor 120 or 260 determines whether the shooting mode is the first shooting mode (eg, burst shot) in operation 703, and if not the first shooting mode, proceeds to operation 707 to evaluate the aesthetics
  • a redundancy evaluation may be performed, and a fourth image may be selected from the third image in operation 711 according to the evaluation result.
  • the order of operations 707 and 709 is an example and is not limited thereto, and the order may be changed, or at least a portion may be simultaneously performed, or a portion may be omitted.
  • the process proceeds to operation 705, image analysis is performed on the temporarily buffered third image, and at least one fifth image may be selected, In operation 707 and operation 709, the fifth image may be evaluated for aesthetics and redundancy, and a fourth image may be selected from among the fifth images in operation 711 according to the evaluation result.
  • image analysis is performed on the temporarily buffered third image, and at least one fifth image may be selected
  • the fifth image may be evaluated for aesthetics and redundancy
  • a fourth image may be selected from among the fifth images in operation 711 according to the evaluation result.
  • a plurality of second images are acquired, the number of images can be reduced through the above-described third image selection operation, and image quality is further analyzed through a fifth image selection operation to generate second content It is possible to effectively reduce the number of images to be evaluated in the candidate image selection operation for
  • the image analysis of the third image performed in operation 705 may include, for example, blur detection, blink detection, expression based filtering, and/or similarity based filtering ( affine similarity).
  • operation 705 may include an operation of rapidly analyzing third images acquired in the continuous shooting mode to select images of appropriate quality.
  • FIG. 8 is a flowchart illustrating an image selection operation according to a burst shot mode according to various embodiments of the present disclosure; FIG. 8 may be a flowchart for explaining in more detail a fifth image selection operation of operation 705 of FIG. 7 according to the first photographing mode according to various embodiments of the present disclosure.
  • the order of each operation in FIG. 8 is an example and is not limited thereto, and the order may be changed, some may be performed simultaneously, or some may be omitted. For example, at least one of operations 801, 803, 805, and 807 may be performed simultaneously or in a different order.
  • the operation of FIG. 8 may be performed by, for example, an artificial intelligence program learned based on image training data.
  • the processor 120 or 260 loads an artificial intelligence program (eg, the program 140 of FIG. 1 ) stored in a memory (eg, the memory 130 of FIG. 1 ), and is illustrated by the loaded artificial intelligence program. 8 may be performed.
  • the processor 120 or 260 may perform high-level blur detection in operation 801 .
  • the processor 120 or 260 may detect whether an image is blurred according to focus information of an object included in the third image, and exclude an image with a blurred focus from selection.
  • the processor 120 or 260 may determine whether to exclude the image based on a result of comparing the focus information with a predefined or calculated value.
  • the processor 120 or 260 may perform blink detection in operation 803 .
  • the processor 120 or 260 may perform face detection or landmark detection of an object included in the third image (eg, extracting feature points from eyebrows, eyes, nose, lips and/or jaw lines). to detect the eyes, and depending on whether the eyes are closed, images with closed eyes can be excluded from selection.
  • face detection or landmark detection of an object included in the third image eg, extracting feature points from eyebrows, eyes, nose, lips and/or jaw lines.
  • the processor 120 or 260 may perform expression-based filtering in operation 805 .
  • the processor 120 or 260 obtains an expression score from an object included in the third image through face recognition, feature point detection, or head detection (eg, detecting feature points in a region from the tip of the head to the neck).
  • images with low expression scores eg, distorted expressions
  • the processor 120 or 260 may determine whether to exclude the image based on a result of comparing the calculated expression score with a predefined or calculated value. For example, if the calculated facial expression score is lower than the predefined score, the image having the low facial expression score may be excluded from selection.
  • the processor 120 or 260 may perform similarity-based filtering in operation 807 .
  • the processor 120 or 260 compares the similarity of the edge-based shape extracted from the image between the image frames included in the third image, so that the image frame with high structural similarity (eg, movement for a certain period of time) Images acquired in the missing section) can be excluded from the selection.
  • the processor 120 or 260 may determine whether to exclude the image based on a result of comparing the edge-based shape similarity extracted from the image with a predefined or calculated value. For example, according to the result, if the edge-based shape similarity extracted from the image is higher than a predefined score, the image having a high structural similarity may be excluded from selection.
  • the processor 120 or 260 may perform aesthetic evaluation on the fifth image or the third image in operation 707 .
  • the processor 120 or 260 may perform esthetic evaluation on the fifth image selected in operation 705 from the third image acquired according to the first photographing mode.
  • the processor 120 or 260 may perform aesthetic evaluation on the third image obtained according to the second photographing mode.
  • 9 is a flowchart illustrating an esthetic evaluation or analysis operation according to various embodiments of the present disclosure; 9 may be a flowchart for describing in more detail an esthetic evaluation operation in operation 707 according to various embodiments of the present disclosure.
  • the order of each operation in FIG. 9 is an example and is not limited thereto, and the order may be changed, some may be simultaneously performed, or some may be omitted.
  • the operation of FIG. 9 may be performed by, for example, an artificial intelligence program learned based on image training data.
  • the processor 120 or 260 loads an artificial intelligence program (eg, the program 140 of FIG. 1 ) stored in a memory (eg, the memory 130 of FIG. 1 ), and is illustrated by the loaded artificial intelligence program. 9 may be performed.
  • an artificial intelligence program eg, the program 140 of FIG. 1
  • a memory eg, the memory 130 of FIG. 1
  • the processor 120 or 260 may perform composition evaluation in operation 901 .
  • the processor 120 or 260 may calculate a composition score based on the composition of objects included in the image.
  • the processor 120 or 260 may perform a clarity evaluation in operation 903 .
  • the processor 120 or 260 may calculate a clarity score based on brightness, noise, or contrast of the image.
  • the processor 120 or 260 may perform an emotion evaluation in operation 905 .
  • the processor 120 or 260 may recognize a face of an object included in an image, detect eyebrows, eyes, nose, and/or a mouth therefrom, and calculate an expression score based thereon.
  • the processor 120 or 260 may perform colorfulness evaluation in operation 907 .
  • the processor 120 or 260 may extract color information from an image and calculate a color score based on the diversity of colors.
  • the processor 120 or 260 may perform an exposure evaluation in operation 909 .
  • the processor 120 or 260 may calculate a saturation score based on exposure information of the image.
  • the processor 120 or 260 may perform redundancy evaluation on the fifth image or the third image in operation 709 .
  • the processor 120 or 260 may perform redundancy evaluation on the fifth image selected in operation 705 from the third image obtained according to the first photographing mode.
  • the processor 120 or 260 may perform redundancy evaluation on the third image obtained according to the second photographing mode.
  • the processor 120 or 260 may exclude similar images from selection according to the redundancy evaluation in operation 709 .
  • the redundancy evaluation may be performed together with the esthetic evaluation, or only one of the redundancy evaluation or the esthetic evaluation may be performed.
  • 10 is a flowchart illustrating a redundancy evaluation operation according to various embodiments. 10 may be a flowchart for describing in more detail the redundancy evaluation operation of operation 709 according to various embodiments of the present disclosure.
  • the order of each operation in FIG. 10 is an example and is not limited thereto, and the order may be changed, some may be performed simultaneously, or some may be omitted.
  • the operation of FIG. 10 may be performed by, for example, an artificial intelligence program learned based on image training data.
  • the processor 120 or 260 loads an artificial intelligence program (eg, the program 140 of FIG. 1 ) stored in a memory (eg, the memory 130 of FIG. 1 ), and is illustrated by the loaded artificial intelligence program. 10 operations may be performed.
  • the processor 120 or 260 may calculate and compare hash values from image frames to perform similarity evaluation based on the hash values. For example, images with similar hash values may be excluded from selection.
  • the processor 120 or 260 may evaluate the similarity through analysis of estimating age (gender age extraction (GAE)) from the image. For example, the processor 120 or 260 may calculate an expression score based on the GAE method to compare the similarity of the images.
  • GAE gender age extraction
  • the processor 120 or 260 may evaluate the similarity through semantic analysis based on color information from the image. For example, similar images may be excluded from selection by calculating a color score based on the color information of the image and comparing the similarity of the images based on this.
  • the processor 120 or 260 may extract an edge from the image in operation 1007 and analyze the similarity by comparing the shape of the edge. For example, images having similar shapes of edges between image frames may be excluded from selection.
  • the processor 120 or 260 determines the candidate for generating the second content based on the evaluation of the esthetic in operation 707 and/or the evaluation of redundancy in operation 709 for the fifth image or the third image.
  • a fourth image may be selected as the image.
  • the processor 120 or 260 may select a plurality of fourth images.
  • the processor 120 or 260 may generate second content based on the selected fourth image in operation 713 .
  • the processor 120 or 260 may generate at least one still image as the second content based on scene information (eg, a scene category and/or a scene attribute) of the selected at least one fourth image. For example, the processor 120 or 260 may select an image effect to be applied in response to a scene category and/or a scene attribute of the selected at least one fourth image.
  • scene information eg, a scene category and/or a scene attribute
  • the processor 120 or 260 may select an image effect to be applied in response to a scene category and/or a scene attribute of the selected at least one fourth image.
  • the processor 120 or 260 may generate the second content by applying a content map as shown in Table 2 below to the selected at least one fourth image.
  • Table 2 may indicate that the corresponding output video is generated or not generated using the plurality of first images of the corresponding scene attribute, respectively.
  • “BM1” to “BM5” may indicate examples of five images included in the at least one fourth image.
  • a scene category may include a place, a clothing, an object, an animal, a car, a landscape, a solo photo, a group photo of a person, or text.
  • a scene attribute can be a subtype of a scene category, such as an indoor or outdoor place, a cat or dog, an animal, a type of object, a baby, a woman, or a face, a landscape, a tree, a mountain, a beach, and a sky. , sunrise, city, or sunset).
  • the highest score image (eg BM1) and/or lower score image according to the evaluation result For (eg BM2 and/or BM3) original and/or automatic image enhancement (eg auto enhance) images can be provided.
  • the original image may be provided for one or more of the at least one fourth image (eg, BM1, BM2, BM3, BM4 and/or BM5).
  • an image to which an image effect based on a content map is applied may be provided to at least one of the selected at least one fourth image (eg, BM1, BM2, BM3, BM4, and/or BM5).
  • the image effect is based on the scene information of the original image, automatic image quality correction (eg auto enhance), and changing the composition by capturing a portion of the image from the original image to the recommended composition (eg smart crop) , image effects based on scene information (e.g. various photo filter effects (AI filters) through a series of actions that change at least one of color, transparency, style, contrast, or saturation); for portraits, changing the color or focus of the background (e.g. Bokeh/color picker), creating a collage of small photos captured from multiple images, creating a black and white image (e.g. B/W), or an image with a very large aspect ratio (e.g. B/W) e.g. ultra wide).
  • AI filters photo filter effects
  • An image effect applicable based on the above-described scene information is configured as a content map as described for example in Table 2, for example, in a memory (eg, the memory 130 of FIG. 1 or the memory 250 of FIG. 2 or 3 ). )) can be saved in advance.
  • At least one processor operatively connected to the camera module and the sensor module;
  • An electronic device comprising a; memory operatively coupled to the at least one processor is provided;
  • the memory when executed, the processor
  • Item 2 In Item 1, the first setting may be different from the second setting.
  • the first setting corresponds to a first resolution (at which the at least one first image was obtained), and the second setting corresponds to a first resolution (at which the at least one second image was obtained). ) corresponding to the second resolution, and the second resolution may be higher than the first resolution.
  • the second image may be obtained by controlling the camera module according to the determined shooting mode of the camera module.
  • the shooting mode may be determined based on luminance detected through the camera module or sensor of the electronic device and scene information detected through the camera module or other sensor of the electronic device.
  • the at least one third image may be selected from the at least one second image based on the photographing mode.
  • Item 7 In any one of Items 1 to 6, the plurality of first images and the at least one second image may be acquired for a specified time.
  • Item 8 In Item 7 citing items 4 to 6 (directly or indirectly), the processor is configured to: acquire the first image in a first period during the specified time period, and in the first photographing mode according to the determined photographing mode It is set to periodically acquire the second image in a second period, or to acquire the second image in a third period in a second photographing mode according to the determined photographing mode, wherein the second period is relatively longer than the first period , the third period may be set to be relatively longer than the second period.
  • the first period is a first number of frames per second (fps)
  • the second period is a second number of frames per second (fps)
  • the third period is a third number of frames per second (fps) fps
  • the first number may be greater than the second number
  • the second number may be greater than the third number
  • the first photographing mode may be a continuous photographing mode
  • the second photographing mode may be a general photographing mode different from the first photographing mode
  • Item 10 In item 8 or 9, a plurality of second images is obtained, and the processor is configured to: The third image may be selected or the third image may be selected based on image quality of the plurality of second images in the second shooting mode.
  • the processor selects at least one fifth image by analyzing the at least one third image, and evaluates the at least one fifth image to obtain the at least one fifth image.
  • One fourth image may be selected.
  • the analysis may include at least one of blur detection, blink detection, expression-based filtering, and similarity-based filtering for the third image.
  • the evaluation includes: composition evaluation (eg, a composition score calculated based on the composition of an object included in an image (eg, a fifth image among the at least one fifth image)); Clarity score (e.g. calculated based on the brightness, noise or contrast of an image); / or an expression score (calculated based on detection of a mouth), a color score (e.g., calculated based on the color diversity by extracting color information from an image), (e.g., calculated based on exposure information of the image) saturation) exposure score, hash value evaluation calculated by comparing similarity based on a hash value calculated by calculating and comparing the hash value of the at least one fifth image, and estimating age from the image (GAE (gender age extraction) ), age similarity evaluation evaluated through analysis, similarity evaluation evaluated through semantic analysis based on color information from the image, and similarity evaluation evaluated by extracting an edge from an image and comparing the shape of the edge.
  • composition evaluation eg, a composition score calculated based on the composition of an object
  • Item 14 The method according to any one of the preceding items, wherein the processor is configured to determine a color, transparency, style, contrast, or saturation for at least some elements in the at least one fourth image based on scene information of the at least one fourth image.
  • the at least one second content may be generated through at least one of applying an image effect that changes at least one of these, correcting the image quality, changing the composition, or generating a collage.
  • the processor may obtain motion information from the plurality of first images, and extract the event section information based on a change in the motion information.
  • the section information may include at least one of time information, scene information, length information, and speed information about the event.
  • the processor selectively changes at least one of a section length, a playback speed, a playback order, or an image effect based on the scene information based on the event section information to select at least one of the plurality of first images.
  • a video part of which is continuously reproduced may be generated as the at least one content.
  • the processor is configured to generate at least one still image as the at least one second content based on the scene information.
  • Item 19 The method according to item 18, wherein the scene information includes a scene category and/or a scene attribute, and the processor is configured to generate the at least one still image, the processor selected based on the scene category and/or the scene attribute. An image effect applied to one or more of the at least one fourth image may be selected.
  • the scene category may include a place, an object, an animal, a solo photo, a group photo of a person, a car, a landscape, or a text
  • the scene attribute is a sub-type of the scene category (eg, the place is indoors).
  • the animal is a cat or dog
  • the type of object, the poisoned object is a baby, a woman, or a face
  • the landscape is a tree, a mountain, a beach, the sky, a sunrise, a city, or a sunset).
  • the image effect changes the composition by automatically correcting image quality (eg, auto enhance), capturing a partial area of the image with a recommended composition from the original image, based on the scene information of the original image.
  • image effects based on scene information e.g. various photo filter effects (AI filter) through a series of actions that change at least one of color, transparency, style, contrast or saturation
  • for portraits Change the color or focus of the background (e.g. Bokeh/color picker), create a collage of small photos captured from multiple images, create a black and white image (e.g. B/W), or have the aspect ratio change to portrait This may include serving relatively very large images (eg ultra wide).
  • Item 22 A method corresponding to the operation and characteristics of the electronic device described in Items 1 to 21 may be provided.

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)

Abstract

본 문서에 개시된 다양한 실시예에 따른 전자 장치는, 카메라 모듈, 센서 모듈, 상기 카메라 모듈 및 상기 센서 모듈과 작동적으로 연결된 적어도 하나의 프로세서, 및 상기 적어도 하나의 프로세서와 작동적으로 연결된 메모리를 포함할 수 있다. 상기 메모리는, 실행시, 상기 프로세서가 상기 센서 모듈을 통해 감지된 조도 및 상기 카메라 모듈을 통해 감지된 장면 정보 중 적어도 하나를 기반으로 결정된 상기 카메라 모듈의 촬영 모드에 따라 상기 카메라 모듈을 제어하여 지정된 시간 동안 제1 속성을 갖는 다수 개의 제1 이미지와 제2 속성을 갖는 적어도 하나의 제2 이미지를 획득하도록 하고, 상기 다수의 제1 이미지로부터 이벤트가 검출되면 이벤트 구간에 대한 정보를 추출하고, 상기 적어도 하나의 제2 이미지로부터 상기 촬영 모드에 따라 적어도 하나의 제3 이미지를 선택하여 버퍼링하고, 상기 다수의 제1 이미지의 상기 이벤트 구간에 대한 정보에 기반하여 적어도 하나의 제1 콘텐트를 생성하고, 상기 적어도 하나의 제3 이미지 중 적어도 일부에 대한 평가를 수행하여 적어도 하나의 제4 이미지를 선택하고, 선택된 상기 적어도 하나의 제4 이미지에 기반하여 적어도 하나의 제2 콘텐트를 생성하도록 설정될 수 있다.

Description

카메라를 구비하는 전자 장치 및 그 방법
본 문서에 개시된 다양한 실시예들은, 카메라를 구비하는 전자 장치 및 그 방법에 관한 것으로, 예를 들어 카메라를 제어하여 다수의 이미지를 획득하고 이에 기반하여 다수의 이미지 콘텐트를 생성하는 전자 장치 및 그 방법에 관한 것이다.
기술의 발전과 함께 전자 장치는 다양한 기능을 제공할 수 있도록 진화하고 있다. 예를 들면, 전자 장치는 음성 통화, 메시지 송수신 및/또는 무선 인터넷과 같은 통신 기능 외에도 카메라 관련 기능을 제공할 수 있다.
카메라(예: 이미지 센서)를 구비하는 전자 장치는 카메라를 이용하여 정지 영상(still picture) 및/또는 동영상(moving picture)을 포함하는 이미지 데이터(image data)를 획득할 수 있다. 또한 전자 장치가 이미지 편집 기능을 제공하는 경우, 편집 기능을 통해, 획득된 이미지 데이터에 기초하여 이미지 콘텐트를 생성할 수 있다.
카메라를 구비하는 전자 장치의 사용자는 다수의 입력을 통해 직접 이미지 데이터를 획득하고, 다수의 입력을 통해 이미지 콘텐트를 생성할 수 있다. 다양한 이미지 콘텐트를 생성하고자 하는 경우 사용자는 이러한 과정을 다수회 반복하여야 한다. 또한, 하나의 전자 장치로는 동일한 시점에 대한 다양한 형태의 이미지 콘텐트들을 획득할 수 없다.
본 문서에 개시된 다양한 실시예들은 카메라를 구비하는 전자 장치에서 촬영과 관련된 한번의 사용자 입력에 기반하여 촬영 모드에 따라 이미지를 획득하고 다양한 형태의 이미지 콘텐트들을 생성하기 위한 것이다.
본 문서에 개시된 다양한 실시 예에 따른 전자 장치는, 카메라 모듈, 센서 모듈, 상기 카메라 모듈 및 상기 센서 모듈과 작동적으로 연결된 적어도 하나의 프로세서, 및 상기 적어도 하나의 프로세서와 작동적으로 연결된 메모리를 포함하고, 상기 메모리는, 실행시, 상기 프로세서가 상기 센서 모듈을 통해 감지된 조도 및 상기 카메라 모듈을 통해 감지된 장면 정보 중 적어도 하나를 기반으로 결정된 상기 카메라 모듈의 촬영 모드에 따라 상기 카메라 모듈을 제어하여 지정된 시간 동안 제1 속성을 갖는 다수 개의 제1 이미지와 제2 속성을 갖는 적어도 하나의 제2 이미지를 획득하도록 하고, 상기 다수의 제1 이미지로부터 이벤트가 검출되면 이벤트 구간에 대한 정보를 추출하고, 상기 적어도 하나의 제2 이미지로부터 상기 촬영 모드에 따라 적어도 하나의 제3 이미지를 선택하여 버퍼링하고, 상기 다수의 제1 이미지의 상기 이벤트 구간에 대한 정보에 기반하여 적어도 하나의 제1 콘텐트를 생성하고, 상기 적어도 하나의 제3 이미지 중 적어도 일부에 대한 평가를 수행하여 적어도 하나의 제4 이미지를 선택하고, 선택된 상기 적어도 하나의 제4 이미지에 기반하여 적어도 하나의 제2 콘텐트를 생성하도록 설정될 수 있다.
본 문서에 개시된 다양한 실시 예에 따른 센서 모듈과 카메라 모듈을 구비하는 전자 장치의 방법은, 상기 센서 모듈을 통해 감지된 조도 및 상기 카메라 모듈을 통해 감지된 장면 정보 중 적어도 하나를 기반으로 결정된 상기 카메라 모듈의 촬영 모드에 따라 상기 카메라 모듈을 제어하여 지정된 시간 동안 제1 속성을 갖는 다수 개의 제1 이미지와 제2 속성을 갖는 적어도 하나의 제2 이미지를 획득하는 동작, 상기 다수의 제1 이미지로부터 이벤트가 검출되면 이벤트 구간에 대한 정보를 추출하고, 상기 적어도 하나의 제2 이미지로부터 상기 촬영 모드에 따라 적어도 하나의 제3 이미지를 선택하여 버퍼링하는 동작, 상기 다수의 제1 이미지의 상기 이벤트 구간에 대한 정보에 기반하여 적어도 하나의 제1 콘텐트를 생성하는 동작, 및 상기 적어도 하나의 제3 이미지 중 적어도 일부에 대한 평가를 수행하여 적어도 하나의 제4 이미지를 선택하고, 선택된 상기 적어도 하나의 제4 이미지에 기반하여 적어도 하나의 제2 콘텐트를 생성하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 카메라를 구비하는 전자 장치에서 촬영과 관련된 한번의 사용자 입력에 기반하여 다양한 형태의 이미지 콘텐트들을 생성할 수 있다.
다양한 실시예들에 따르면, 카메라를 구비하는 전자 장치에서 촬영 모드를 자동으로 결정하고 촬영 모드에 따라 카메라를 통해 다양한 이미지를 획득할 수 있다.
다양한 실시예들에 따르면, 카메라를 구비하는 전자 장치에서 촬영 모드에 따라 다양한 이미지를 선별적으로 선택하여 획득하고, 이미지 후처리 과정을 통해 다양한 형태의 이미지 콘텐트를 생성할 수 있다.
다양한 실시예들에 따르면, 카메라를 구비하는 전자 장치에서 촬영 모드를 자동으로 결정하고 촬영 모드에 따라 획득된 다양한 이미지를 선별하여 버퍼링하고 버퍼링된 이미지를 촬영 모드에 따라 분석 및 선택하여 다양한 형태의 이미지 콘텐트를 생성할 수 있다.
도면의 설명과 관련하여, 동일 또는 유사한 구성 요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시예들에 따른 카메라 모듈의 블록도이다.
도 3은 다양한 실시예에 따른 전자 장치의 블록도이다.
도 4는 다양한 실시예에 따른 전자 장치의 다양한 이미지 콘텐트 생성 방법을 설명하기 위한 흐름도이다.
도 5는 다양한 실시예에 따른 촬영 모드에 따른 다양한 이미지 데이터 획득 동작을 설명하기 위한 흐름도이다.
도 6은 다양한 실시예에 따른 동영상 이미지 콘텐트 생성 동작을 설명하기 위한 흐름도이다.
도 7은 다양한 실시예에 따른 정지 영상 이미지 콘텐트 생성 동작을 설명하기 위한 흐름도이다.
도 8은 다양한 실시예에 따른 버스트 샷 모드에 따른 이미지 선택 동작을 설명하기 위한 흐름도이다.
도 9는 다양한 실시예에 따른 심미성 평가 동작을 설명하기 위한 흐름도이다.
도 10은 다양한 실시예에 따른 중복성 평가 동작을 설명하기 위한 흐름도이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다. .
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는, 다양한 실시예들에 따른, 카메라 모듈(180)을 예시하는 블럭도(200)이다. 도 2를 참조하면, 카메라 모듈(180)은 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(260)를 포함할 수 있다. 렌즈 어셈블리(210)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(180)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(210)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(220)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일실시예에 따르면, 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(230)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(210)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일실시예에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(240)는 카메라 모듈(180) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 이미지 센서(230)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 일실시예에 따르면, 이미지 스태빌라이저(240)은 카메라 모듈(180)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(180) 또는 전자 장치(101)의 그런 움직임을 감지할 수 있다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(250)는 이미지 센서(230)을 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 디스플레이 모듈(160)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 일실시예에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는 이미지 센서(230)을 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(180)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장 되거나 카메라 모듈(180)의 외부 구성 요소(예: 메모리(130), 디스플레이 모듈(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 제공될 수 있다. 일실시예에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(260)이 프로세서(120)과 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 적어도 하나의 이미지는 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 디스플레이 모듈(160)를 통해 표시될 수 있다.
일실시예에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(180)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
도 3은 다양한 실시예에 따른 전자 장치의 블록도이다.
다양한 실시예에 따르면, 전자 장치(300)(예: 도 1의 전자 장치(101))는 이미지 센서(예: 도 2의 이미지 센서(230)), 메모리(예: 도 2의 메모리(250)), 이미지 시그널 프로세서(예: 도 2의 이미지 시그널 프로세서(260)), 센서 모듈(예: 도 1의 센서 모듈(176)) 및/또는 프로세서(예: 도 1의 프로세서(120))를 포함할 수 있다. 예를 들면 도 3의 전자 장치(300)의 구성 요소는 다양한 실시예들에 대한 설명을 위해 필요한 구성 요소들을 예시한 것으로서, 이에 한정되지 않는다. 예를 들면 전자 장치(300)는 복수의 이미지 센서(230)를 포함할 수 있다. 예를 들면 전자 장치(300)는 복수의 카메라 모듈(예: 도 1의 카메라 모듈(180))을 포함할 수 있다. 예를 들면 전자 장치(300)는 도 1의 전자 장치(101)의 구성 요소 중 하나 또는 그 이상의 구성 요소(예: 디스플레이 모듈(160) 또는 입력 모듈(150))를 더 포함할 수 있다. 예를 들어 전자 장치(300)의 구성 요소는 도 1 또는 도 2를 참조하여 설명한 동일한 구성 요소(예: 프로세서(120) 및/또는 센서 모듈(176))와 동일하거나 적어도 일부 동일한 기능을 수행할 수 있으며, 이하 중복되는 설명은 생략할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 어플리케이션 프로세서(예: 도 1의 메인 프로세서(121)) 및/또는 이와는 독립적으로 또는 함께 운영 가능한 이미지 시그널 프로세서(예: 도 1의 보조 프로세서(123))를 포함할 수 있다. 예를 들면 이미지 시그널 프로세서(260)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다. 예를 들면 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 콘텐트의 획득을 위한 사용자 입력을 수신한 경우, 지정된 시간 동안 이미지 센서(230)를 통해 제1 속성의 다수의 제1 이미지와 제1 속성과 다른 제2 속성의 적어도 하나의 제2 이미지를 획득할 수 있다. 예를 들면 획득한 제1 이미지와 제2 이미지는 원본 이미지 데이터(예: raw data(231))를 포함할 수 있다. 예를 들면, 제1 이미지 및 제2 이미지는 지정된 시간 동안 이미지 센서(230)를 통해 획득한 영상 정보에 기반하여 생성되므로, 제2 이미지는 제1 이미지의 적어도 일부와 동일한 시간 정보(예: time stamp)를 포함할 수 있다.
예를 들면, 제1 이미지는 지정된 시간 동안 제1 주기로 (주기적으로) 획득되는 다수의 프리뷰 이미지(예: 동영상)로, 제2 이미지 보다 상대적으로 작은 해상도(resolution)를 갖는 제1 속성(예를 들면 제1 속성은 제1 이미지 해상도에 대응할 수 있음)을 포함할 수 있다. 예를 들면 제1 주기는 초당 24 프레임 속도(24fps (frame per second)) 또는 그 이상의 속도(예: 30fps 또는 60fps)에 대응하는 주기일 수 있다. 예를 들면 제1 이미지는 초당 24 프레임 (24fps) 또는 그 이상에 대응하는 속도(rate)로 주기적으로 획득될 수 있다.
예를 들면, 제2 이미지는 지정된 시간 동안 획득되는 적어도 하나의 캡쳐 이미지(예: 정지 영상)로, 제1 이미지 보다 상대적으로 높은 해상도를 갖는 제2 속성을 포함할 수 있다. 예를 들면 제2 속성은 제2 이미지 해상도에 대응할 수 있으며, 제2 이미지 해상도는 제1 이미지 해상도에 비해 높을 수 있다. 예를 들면 제2 이미지는 자동 초점(AF: auto-focus) 기능에 따라 외부 객체(예: 피사체)에 대한 초점 정보에 기반하여 초점이 맞춰진 경우에 획득될 수 있으나 이에 한정되지는 않는다. 예를 들면 제2 이미지는 촬영 모드에 따라 지정된 주기로 획득될 수 있다.
다양한 실시예에 따르면, 제2 이미지는 제1 촬영 모드(예: 연속 촬영 모드 또는 버스트 샷(burst shot)) 또는 제2 촬영 모드(예: 일반 촬영 모드)에 기반하여 획득될 수 있다.
예를 들어, 연속 촬영 모드는 이미지 센서(230)를 통해 지정된 시점에 다수의 이미지를 연속적으로 캡쳐하여 다수의 캡쳐 이미지를 생성하는 방식을 포함할 수 있다. 예를 들어, 연속 촬영 모드에서 제2 이미지는, 지정된 시간 동안, 제1 주기와 상이한 제2 주기로 획득될 수 있다. 예를 들면, 제2 주기는 제1 주기보다 상대적으로 길 수 있다. 예를 들면 제2 주기는 초당 10 프레임 속도(10fps)에 대응하는 주기일 수 있다. 예를 들면, 제2 이미지는 초당 10 프레임 (10fps)에 대응하는 속도(rate)로 주기적으로 획득될 수 있다.
예를 들어, 일반 촬영 모드는 이미지 센서(230)를 통해 지정된 시점에 이미지를 캡쳐하여 캡쳐 이미지를 생성하는 방식을 포함할 수 있다. 예를 들면 일반 촬영 모드에서, 제2 이미지는 제2 주기 보다 상대적으로 긴 제3 주기로 획득될 수 있다. 예를 들면 제3 주기는 초당 3 프레임 속도(3fps)에 대응하는 주기일 수 있다. 예를 들면, 제2 이미지는 초당 3 프레임 (3fps)에 대응하는 속도(rate)로 주기적으로 획득될 수 있다.
다양한 실시예들에 따르면, 지정된 시간은, 다양한 형태의 이미지 콘텐트를 생성하기 위해 제1 이미지 및/또는 제2 이미지를 획득하기 위한 지정된 시간 간격을 포함할 수 있다. 예를 들면 지정된 시간은, 제1 이미지 및/또는 제2 이미지를 포함하는 다수의 이미지를 획득하기 위해 전자 장치(101)에 의해 지원되는 최소 시간 보다 길고 최대 시간 보다 짧은 시간 이내로 설정될 수 있다. 예를 들어, 지정된 시간은 사용자 입력에 의해 선택되거나 설정될 수 있다.
다양한 실시예들에 따르면, 프로세서(120)는 센서 모듈(176)(예: 조도 센서) 및/또는 카메라 모듈(180)을 통해 조도 정보를 획득할 수 있다. 예를 들면 조도 정보는 현재 전자 장치(101)가 위치하는 장소의 밝기 정도(예: lux 또는 EV (exposure value) 단위로 측정)를 포함할 수 있다.
다양한 실시예들에 따르면, 프로세서(120)는 이미지 센서(230)를 통해 획득하고자 하는 이미지에 대한 장면(scene) 정보(예: 장면 카테고리 또는 장면 속성)를 획득할 수 있다. 예를 들면 장면 정보는 현재 전자 장치(101)가 위치하는 장소가 실외임을 나타내는 정보(예: 하늘, 산 또는 숲을 포함하는 풍경), 실내임을 나타내는 정보(예: 가구 또는 천장과 같은 실내 환경) 및/또는 외부 객체 정보(예: 사람 또는 동물과 같은 움직일 수 있는 피사체 포함)를 포함할 수 있다. 예를 들면 프로세서(120)는 이미지 획득 이전 프리뷰 화면을 통해 장면 정보를 획득할 수 있다.
다양한 실시예들에 따르면, 프로세서(120)는 센서 모듈(176)(예: GPS (global positioning system))을 통해 획득한 현재 전자 장치(101)가 위치하는 장소에 대한 위치 정보를 실외 또는 실내임을 판단하기 위한 정보로서, 상술한 장면 정보에 대해 보충적으로 또는 대체하여 사용할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 획득된 장면 정보 및/또는 조도 정보에 기반하여 촬영 모드를 결정할 수 있다. 예를 들면 조도 정보에 따라 고조도(예: 2000 lux 이상 또는 1800 EV 이상)인 경우 촬영 모드를 연속 촬영 모드로 결정할 수 있다. 예를 들면 조도 정보에 따라 저조도(예: 800 lux 이하 또는 1000 EV 이하)인 경우 촬영 모드를 일반 촬영 모드로 결정할 수 있다. 예를 들면 장면 정보에 따라 실외인 경우 촬영 모드를 연속 촬영 모드로 결정할 수 있다. 예를 들면 장면 정보에 따라 실외인 경우라도 조도 정보에 따라 저조도(예: 800 lux 이하 또는 1000 EV 이하)인 경우 촬영 모드를 일반 촬영 모드로 결정할 수 있다. 예를 들면 장면 정보에 따라 실외이고 움직일 수 있는 외부 객체(예: 사람 또는 동물)를 포함하는 경우 촬영 모드를 연속 촬영 모드로 결정할 수 있다. 예를 들면 장면 정보에 따라 실외이고 움직일 수 있는 외부 객체(예: 사람 또는 동물)를 포함하고, 조도 정보에 따라 고조도(2000 lux 이상 또는 1800 EV 이상)인 경우 촬영 모드를 연속 촬영 모드로 결정할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 결정된 촬영 모드에 따라 카메라 모듈(180)을 제어하여, 이미지 센서(230)를 통해, 지정된 시간 동안 제1 주기에 따라 제1 속성의 다수의 제1 이미지를 획득하고, 제2 주기 또는 제3 주기에 따라 제1 속성과 다른 제2 속성의 적어도 하나의 제2 이미지를 획득할 수 있다. 예를 들면 제1 이미지와 제2 이미지는 원본 이미지 데이터(예: raw data(231))일 수 있다. 예를 들면 제1 촬영 모드(예: 연속 촬영 모드)의 경우 제2 주기에 따라 적어도 하나의 제2 이미지를 획득할 수 있으며 제2 촬영 모드(예: 일반 촬영 모드)의 경우 제3 주기에 따라 적어도 하나의 제2 이미지를 획득할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 결정된 촬영 모드에 따라 이미지 시그널 프로세서(260)(예: 전처리 모듈(261))를 제어하여 이미지 센서(230)로부터 출력되는 다수의 제2 이미지(예: raw data)로부터 적어도 하나의 제3 이미지를 선택하고, 선택된 제3 이미지를 메모리(250)의 휘발성 메모리(251)에 임시 버퍼링(252)할 수 있다. 예를 들면 메모리(250)의 구성 요소 중 적어도 일부는, 외부 메모리(예: 도 1의 메모리(130))와는 별개로 카메라 모듈(180)에 배치될 수 있다. 예를 들어 메모리(250)의 휘발성 메모리(251)는 카메라 모듈(180)에 배치될 수 있다. 예를 들어 메모리(250)의 비휘발성 메모리(254)에 저장된 요소 중 적어도 일부는 메모리(130)에 저장될 수 있다. 예를 들어 메모리(250)의 비휘발성 메모리(254) 중 제1 어플리케이션(255), 제2 어플리케이션(256) 및/또는 콘텐츠 맵(257)은 메모리(130)에 저장될 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)(예: 전처리 모듈(261))를 통해 제1 촬영 모드(예: 연속 촬영 모드)에서 이미지 센서(230)에 의해 획득되어 출력되는 다수의 제2 이미지로부터 적어도 하나의 제3 이미지(예를 들면, 이미지(258) 또는 비디오(259)를 선택하고, 선택된 제3 이미지를 메모리(250)의 휘발성 메모리(251)에 임시 버퍼링(252)할 수 있다. 예를 들면 이미지 시그널 프로세서(260)(예: 전처리 모듈(261))는 획득된 다수의 제2 이미지에 대해 이미지 프레임 간의 유사성을 분석하여 적어도 하나의 제3 이미지를 획득할 수 있다. 예를 들면 이미지 시그널 프로세서(260)(예: 전처리 모듈(261))는 다수의 제2 이미지에 대해 이미지 해쉬값을 산출하고 이에 기반하여 전후 연속하는 이미지 프레임간 유사성을 분석하여, 유사성이 높은(예를 들면 유사성에 대한 기정의된, 계산된 또는 다른 방식으로 설정된 값보다 크거나 동일한) 프레임들을 배제하고, 추출된 적어도 하나의 제3 이미지를 버퍼링할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)(예: 전처리 모듈(261))를 통해 제2 촬영 모드(예: 일반 촬영 모드)에서 이미지 센서(230)에 의해 획득되어 출력되는 다수의 제2 이미지로부터 적어도 하나의 제3 이미지를 선택하고, 선택된 제3 이미지를 메모리(250)의 휘발성 메모리(251)에 임시 버퍼링(252)할 수 있다. 예를 들면 이미지 시그널 프로세서(260)(예: 전처리 모듈(261))는 획득된 다수의 제2 이미지에 대해 이미지 품질을 분석하여 적어도 하나의 제3 이미지를 획득할 수 있다. 예를 들면 이미지 시그널 프로세서(260)(예: 전처리 모듈(261))는 획득된 다수의 제2 이미지에 대해 이미지 초점을 검출(예: blur detect)하여 초점이 맞지 않아 품질이 떨어지는 (예를 들면 초점에 대해 기정의된, 계산된 또는 다른 방식으로 설정된 값보다 작거나 동일한 초점을 갖는; 또는 블러의 양이, 블러에 대해 기정의된, 계산된 또는 다른 방식으로 설정된 값보다 많거나 동일한) 이미지를 배제하고, 추출된 적어도 하나의 제3 이미지를 버퍼링할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)(예: 전처리 모듈(261))를 통해 다수의 제1 이미지로부터 모션 정보를 검출하고, 검출된 모션 정보에 기반하여 이벤트가 발생하는 것으로 판단되면, 이벤트 구간 정보를 획득할 수 있다. 예를 들면 이벤트는 다수의 제1 이미지 내의 객체의 움직임과 같은 이미지에서 발생하는 변화 또는 움직임을 포함할 수 있다. 예를 들면, 이벤트 구간 정보는 이벤트가 발생한 시간의 구간에 대한 정보를 포함할 수 있다. 프로세서(120)는 메모리(250)의 휘발성 메모리(251)에 이벤트 구간 정보 (253)를 임시 버퍼링할 수 있다. 예를 들면 이벤트 구간 정보는 이벤트가 발생한 것으로 검출되는 동안의 시간 구간에 대한 정보를 포함할 수 있다.
예를 들면 모션 정보는 이미지 내의 적어도 하나의 객체의 움직임을 추적(예: object tracking)하여 산출되는 움직임 정보(예: 속도)를 포함할 수 있다. 예를 들면 모션 정보는 이미지 내의 지정된 패턴과 같은 특징점의 변화, 예를 들면 촬영 시점의 변화, 밝기의 변화 또는 배경(예: 주변 환경)의 변화에 기반하여 객체의 움직임을 추정(예: optical flow)함으로써 산출할 수 있다.
예를 들면 이벤트가 발생하는지 여부는 모션 정보의 변화에 기반하여 판단할 수 있다. 예를 들면 이벤트는 모션 정보가 증가한 이후 감소하면 발생한 것으로 판단할 수 있다. 예를 들면 이벤트는 모션 정보가 지정된 문턱값 이상으로 증가하면 발생한 것으로 판단할 수 있다.
예를 들면 이벤트 구간 정보는 이벤트가 발생한 구간에 대한 시간 정보, 장면 정보, 구간의 길이 정보 및/또는 속도 정보(즉, 이러한 유형의 정보 중 적어도 하나)를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 모션 정보가 증가한 시점과 감소한 시점의 시간 정보를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 이벤트 구간에서 움직인 객체 및/또는 움직임에 대한 정보를 포함하는 장면 정보(예: 장면 카테고리 또는 장면 속성) (예: 사람이 점프)를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 모션 정보가 지정된 문턱값 이상으로 증가한 시점과 지정된 문턱값 이하로 감소한 시점의 시간 정보를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 모션 정보가 증가한 시점부터 감소한 시점까지의 구간 길이 정보를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 이벤트가 발생한 구간 내의 모션 정보의 평균 속도 및/또는 최고 속도와 같은 속도 정보를 포함할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 메모리(250)의 비휘발성 메모리(254)에 저장된 제1 어플리케이션(255)을 로딩하고, 로딩된 제1 어플리케이션(255)에 의해 상술한 바와 같은 촬영 모드 결정, 지정된 기간 동안 제1 이미지 및 촬영 모드 기반 제2 이미지 획득, 촬영 모드에 따라 제2 이미지로부터 제3 이미지 선택 및 버퍼링, 및/또는 제1 이미지로부터 이벤트 구간 정보 획득 동작을 수행하도록 할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 메모리(250)의 비휘발성 메모리(254)에 저장된 제2 어플리케이션(256)을 로딩하고, 로딩된 제2 어플리케이션(256)에 의해 후술하는 제1 이미지들 및/또는 제3 이미지들에 기반하여 제1 콘텐트 및 제2 콘텐트를 생성하는 동작을 수행하도록 할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)(예: 후처리 모듈(262))를 제어하여 메모리(250)의 휘발성 메모리(251)에 임시 버퍼링된 이벤트 구간 정보(253)에 따라 다수의 제1 이미지를 기반으로 제1 콘텐트를 생성하고, 메모리(250)의 휘발성 메모리(251)에 임시 버퍼링된 제3 이미지(252)로부터 제2 콘텐트를 생성할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)(예: 후처리 모듈(262))를 제어하여 메모리(250)의 휘발성 메모리(251)에 임시 버퍼링된 이벤트 구간 정보(253)에 따라 다수의 제1 이미지를 기반으로 제1 콘텐트를 생성할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)를 통해 이벤트 구간 정보를 기반으로 다수의 제1 이미지 중 적어도 일부에 대해 이미지 효과를 적용하여 제1 콘텐트를 생성할 수 있다. 예를 들어, 프로세서(120)는 다수의 제1 이미지의 장면 정보(예: 장면 카테고리 또는 장면 속성) 및/또는 이벤트 구간 정보에 기반하여 제1 이미지로부터 생성할 동영상의 유형을 선택할 수 있다.
예를 들어 장면 카테고리는 장소, 객체, 동물, 독사진, 인물 단체 사진, 자동차, 풍경, 또는 텍스트를 포함할 수 있다. 예를 들면 장면 속성은, 장면 카테고리의 세부 유형(예: 장소가 실내 또는 실외, 동물이 고양이 또는 개, 객체의 종류, 독사진 대상이 아기, 여성, 또는 얼굴, 풍경이 나무, 산, 해변, 하늘, 해돋이, 도시, 또는 노을)을 포함할 수 있다.
예를 들면 프로세서(120)는 다수의 제1 이미지에 기반하여 적어도 하나의 동영상을 생성할 수 있다. 예를 들어, 프로세서(120)는 전체 또는 이벤트 구간에서 다수의 제1 이미지가 연속적으로 재생되는 제1 동영상을 생성할 수 있다. 예를 들어, 프로세서(120)는 이벤트 구간의 움직임 속도가 빠르거나 구간의 길이가 짧은 경우 이벤트 구간에서 다수의 제1 이미지가 제1 동영상 보다 상대적으로 빠른 속도로 재생되는 제2 동영상을 생성할 수 있다. 예를 들어, 프로세서(120)는 이벤트 구간의 움직임 속도가 느리거나 구간의 길이가 긴 경우 이벤트 구간에서 다수의 제1 이미지가 제1 동영상 보다 상대적으로 느린 속도로 재생되는 제3 동영상을 생성할 수 있다. 예를 들어 프로세서(120)는 이벤트 구간의 움직임 속도가 빠르거나 구간의 길이가 짧은 경우(예: 골프샷 또는 야구 스윙), 다수의 제1 이미지로부터 이벤트 구간 동안 초당 프레임 개수 증가 및/또는 속도 감소를 통해 이벤트 구간의 속도를 슬로우 모션과 같이 조정한 제4 동영상(예: dynamic video)을 생성할 수 있다. 예를 들면 프로세서(120)는 제3 이미지 중 선택된 적어도 하나의 제4 이미지와 이벤트 구간에 해당하는 제1 이미지 중 일부를 시간 정보(예: time stamp)를 기반으로 순서대로 배치하여 제4 이미지와 제1 이미지 간의 변환 시점에는 예를 들면 전환 효과를 가미하여 전체 이벤트의 내용 및/또는 진행 과정을 요약하여 나타낼 수 있는 제5 동영상(예: highlight video)을 생성할 수 있다. 예를 들면 프로세서(120)는 이벤트 구간에서 다수의 제1 이미지가 순서대로 재생되고 이어서 역순으로 재생되는 제6 동영상을 생성할 수 있다. 예를 들면 프로세서(120)는 이벤트 구간에서 다수의 제1 이미지가 역순으로 재생되는 제7 동영상을 생성할 수 있다. 예를 들면 프로세서(120)는 이벤트 구간에서 다수의 제1 이미지가 풍경 사진을 포함하는 경우, 배경의 색상과 밝기를 변화시켜 낮과 밤의 시간의 흐름을 표현하는 제8 동영상을 생성할 수 있다. 예를 들면 장면 정보에 기반하여 제1 이미지에 대해 적용 가능한 이미지 효과는 콘텐츠 맵(257)으로 구성되어 메모리(예: 도 1의 메모리(130) 또는 도 2 또는 도 3의 메모리(250))에 미리 저장될 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)(예: 후처리 모듈(262))를 통해, 메모리(250)의 휘발성 메모리(251)에 임시 버퍼링된 제3 이미지(252)로부터 적어도 하나의 제4 이미지를 선택하고 장면 정보(예: 장면 카테고리 또는 장면 속성)에 기반한 이미지 효과를 적용하여 제2 콘텐트를 생성할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)(예: 후처리 모듈(262))를 통해, 임시 버퍼링된 제3 이미지(252)를 분석하고 분석된 제3 이미지에 기반하여 적어도 하나의 제4 이미지를 선택할 수 있다.
예를 들어, 프로세서(120)는 임시 버퍼링된 제3 이미지 중 정지 영상을 생성하기 위한 적어도 하나의 후보 이미지로서 적어도 하나의 제4 이미지를 선택할 수 있다. 예를 들어, 후보 이미지는 적어도 하나의 제3 이미지의 영상 품질, 제3 이미지의 밝기 정보, 제3 이미지의 색상 정보, 제3 이미지에 포함되는 외부 객체(예: 피사체)의 구도 또는 제3 이미지에서 검출한 얼굴 인식 정보 중 적어도 하나에 기반하여 선택될 수 있다. 예를 들어, 영상 품질은 제3 이미지에 포함되는 외부 객체의 초점 정보(예: 블러(blur)), 제3 이미지에 포함되는 잡음(noise) 정보 또는 제3 이미지의 대비(contrast) 정보에 기반하여 설정될 수 있다. 예를 들어, 프로세서(120)는 적어도 하나의 후보 이미지 중 유사한 이미지를 배제할 수 있다. 예를 들면, 유사성은, 초점, 노이즈 또는 컨트라스트 등에 대응하는 기정의된 또는 계산된 값과, 제2 이미지의 초점 정보, 노이즈 정보, 또는 컨트라스트 정보 등을 비교하여 결정될 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 이미지 시그널 프로세서(260)를 통해 선택된 적어도 하나의 제4 이미지에 대해 장면 정보에 기반한 이미지 효과를 적용하여 제2 콘텐트를 생성할 수 있다. 예를 들면 장면 정보에 기반하여 제4 이미지에 대해 적용 가능한 이미지 효과는 예를들면 콘텐츠 맵(257)으로 구성되어 메모리(예: 도 1의 메모리(130) 또는 도 2 또는 도 3의 메모리(250))에 미리 저장될 수 있다.
일 실시예에 따르면, 프로세서(120)는 선택된 적어도 하나의 제4 이미지에 기반하여 적어도 하나의 정지 영상을 생성할 수 있다. 예를 들어, 프로세서(120)는 후보 이미지로서 선택된 적어도 하나의 제4 이미지에 대해 적용할 이미지 효과를 선택할 수 있다. 예를 들어, 프로세서(120)는 적어도 하나의 제4 이미지의 장면 정보(예: 장면 카테고리 또는 장면 속성)에 기반하여 제4 이미지에 대해 이미지 효과를 적용할지 여부 및/또는 제4 이미지에 적용할 이미지 효과를 선택할 수 있다. 예를 들어, 이미지 효과는 제4 이미지의 색상, 투명도, 스타일, 명암 또는 채도 중 적어도 하나를 변화시키는 일련의 동작을 통해 적용될 수 있다.
다양한 실시예에 따르면 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(300))는 카메라 모듈(180), 센서 모듈(176), 상기 카메라 모듈(180) 및 상기 센서 모듈(176)과 작동적으로 연결된 적어도 하나의 프로세서(예: 도 1의 프로세서(120) 또는 도 2의 이미지 시그널 프로세서(260)) 및 상기 적어도 하나의 프로세서(120 또는 260)와 작동적으로 연결된 메모리(예: 도 1의 메모리(130) 또는 도 2 또는 도 3의 메모리(250))를 포함할 수 있다.
다양한 실시예에 따르면, 상기 메모리(130 또는 250)는, 실행시, 상기 프로세서(120 또는 260)가 상기 센서 모듈(176)을 통해 감지된 조도 및 상기 카메라 모듈(180)을 통해 감지된 장면 정보 중 적어도 하나를 기반으로 결정된 상기 카메라 모듈(180)의 촬영 모드에 따라 상기 카메라 모듈(180)을 제어하여 지정된 시간 동안 제1 속성을 갖는 다수 개의 제1 이미지와 제2 속성을 갖는 적어도 하나의 제2 이미지를 획득하도록 하고, 상기 다수의 제1 이미지로부터 이벤트가 검출되면 이벤트 구간에 대한 정보를 추출하고, 상기 적어도 하나의 제2 이미지로부터 상기 촬영 모드에 따라 적어도 하나의 제3 이미지를 선택하여 버퍼링하고, 상기 다수의 제1 이미지의 상기 이벤트 구간에 대한 정보에 기반하여 적어도 하나의 제1 콘텐트를 생성하고, 상기 적어도 하나의 제3 이미지 중 적어도 일부에 대한 평가를 수행하여 적어도 하나의 제4 이미지를 선택하고, 선택된 상기 적어도 하나의 제4 이미지에 기반하여 적어도 하나의 제2 콘텐트를 생성하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 프로세서(120 또는 260)는, 상기 지정된 시간 동안, 상기 제1 이미지를 제1 주기로 획득하고, 상기 결정된 촬영 모드에 따라 제1 촬영 모드에서 상기 제2 이미지를 제2 주기로 획득하며, 제2 촬영 모드에서 상기 제2 이미지를 제3 주기로 획득하도록 설정되며, 상기 제2 주기는 상기 제1 주기 보다 상대적으로 길고, 상기 제3 주기는 상기 제2 주기 보다 상대적으로 길게 설정될 수 있다.
다양한 실시예에 따르면, 상기 프로세서(120 또는 260)는, 상기 제1 촬영 모드에서 상기 적어도 하나의 제2 이미지에대해 이미지 프레임들 간의 유사성에 기반하여 상기 적어도 하나의 제3 이미지를 선택하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 프로세서(120 또는 260)는, 상기 제2 촬영 모드에서 상기 적어도 하나의 제2 이미지의 이미지 품질에 기초하여 상기 적어도 하나의 제3 이미지를 선택하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 프로세서(120 또는 260)는, 상기 제1 촬영 모드에서, 상기 적어도 하나의 제3 이미지에 대한 분석을 수행하여 적어도 하나의 제5 이미지를 선택하고, 상기 적어도 하나의 제5 이미지에 대해 상기 평가를 수행하여 상기 적어도 하나의 제4 이미지를 선택하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 분석은 상기 제3 이미지에 대한 블러 검출(blur detection), 블링크 검출(blink detection), 표정 기반 필터링(expression based filer) 또는 유사도 기반 필터링(affine similarity) 중 적어도 하나를 포함하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 프로세서(120 또는 260)는 상기 적어도 하나의 제4 이미지의 장면 정보에 기반하여 상기 적어도 하나의 제4 이미지 내의 적어도 일부 요소에 대해 색상, 투명도, 스타일, 명암 또는 채도 중 적어도 하나를 변화시키는 이미지 효과 적용, 화질 보정, 구도 변화, 또는 콜라쥬 생성 중 적어도 하나를 통해 상기 적어도 하나의 제2 콘텐트를 생성하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 프로세서(120 또는 260)는 상기 다수의 제1 이미지로부터 모션 정보를 획득하고, 상기 모션 정보의 변화에 기반하여 상기 이벤트 구간 정보를 추출하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 이벤트 구간 정보는 상기 이벤트에 대한 시간 정보, 장면 정보, 길이 정보, 또는 속도 정보 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 프로세서(120 또는 260)는 상기 이벤트 구간 정보에 기초하여, 구간 길이, 재생 속도, 재생 순서 또는 상기 장면 정보에 기반한 이미지 효과 중 적어도 하나를 선택적으로 변경하여 상기 다수의 제1 이미지 중 적어도 일부가 연속적으로 재생되는 동영상을 생성하도록 설정될 수 있다.
도 4는 다양한 실시예에 따른 전자 장치의 다양한 이미지 콘텐트 생성 방법을 설명하기 위한 흐름도이다. 도 4에서 동작의 순서는 예시로서, 각 동작은 동시에 수행되거나 순서를 바꾸어 수행되거나 적어도 하나의 동작이 반복되거나 생략될 수도 있다.
다양한 실시예에 따르면, 전자 장치(예: 도 1의 전자 장치(101) 또는 도 2의 전자 장치(300))의 프로세서(예: 도 1의 프로세서(120) 또는 도 2의 이미지 시그널 프로세서(260))는 동작 401에서 조도 정보 및/또는 장면 정보에 기반하여 결정된 촬영모드를 기반으로 지정된 시간 동안 이미지 센서(예: 도 2의 이미지 센서(230))를 통해 다수의 제1 이미지 및 적어도 하나의 제2 이미지를 획득할 수 있다.
예를 들면, 프로세서(120 또는 260)는 이미지 콘텐트의 획득을 위한 사용자 입력을 수신하면 조도 정보 및/또는 장면 정보에 기반하여 결정된 촬영 모드를 기반으로 카메라 모듈(예: 도 1의 카메라 모듈(180))을 제어하여 이미지 센서를 통해 다수의 제1 이미지 및 적어도 하나의 제2 이미지를 획득하도록 할 수 있다.
예를 들면, 프로세서(120 또는 260)는 조도 정보 및/또는 장면 정보에 기반하여 촬영 모드를 제1 촬영 모드(예: 연속 촬영 모드) 또는 제2 촬영 모드(예: 일반 촬영 모드) 중 하나로 결정할 수 있다. 예를 들면 조도 정보는 센서 모듈(예: 도 1의 센서 모듈(176))(예: 조도 센서)을 통해 획득될 수 있다. 예를 들면 장면 정보는 이미지 센서를 통해 획득되는 이미지로부터 추출될 수 있다.
예를 들면 프로세서(120 또는 260)는 결정된 촬영 모드에 따라 카메라 모듈을 제어하여, 지정된 시간 동안 이미지 센서를 통해 제1 속성의 다수의 제1 이미지와 제1 속성과 다른 제2 속성의 적어도 하나의 제2 이미지를 획득할 수 있다.
예를 들면 획득한 제1 이미지와 제2 이미지는 원본 이미지 데이터(예: raw data)를 포함할 수 있다. 예를 들면, 제1 이미지는 지정된 시간 동안 제1 주기로 획득되는 다수의 프리뷰 이미지(예: 동영상)로, 제2 이미지 보다 상대적으로 작은 해상도(resolution)를 갖는 제1 속성을 포함할 수 있다. 예를 들면, 제2 이미지는 지정된 시간 동안 획득되는 적어도 하나의 캡쳐 이미지(예: 정지 영상)로, 제1 이미지 보다 상대적으로 높은 해상도를 갖는 제2 속성을 포함할 수 있다.
예를 들면 제1 촬영 모드(예: 연속 촬영 모드)에서 제2 이미지는, 지정된 시간 동안, 제1 주기와 상이한 제2 주기로 획득될 수 있다. 예를 들면, 제2 주기는 제1 주기보다 상대적으로 길 수 있다. 예를 들어, 제2 촬영 모드(예: 일반 촬영 모드)에서 제2 이미지는, 지정된 시간 동안, 제2 주기 보다 상대적으로 긴 제3 주기로 획득될 수 있다.
예를 들면 제1 이미지 및/또는 제2 이미지를 포함하는 다수의 이미지를 획득하는 동작을 수행하는 지정된 시간은 전자 장치(101 또는 300)에 의해 지원되는 최소 시간 보다 길고 최대 시간 보다 짧은 시간 이내로 설정될 수 있다. 예를 들어, 지정된 시간은 사용자 입력에 의해 선택되거나 설정될 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 403에서, 결정된 촬영 모드에 따라 이미지 센서로부터 출력되는 다수의 제1 이미지로부터 이벤트 구간 정보를 획득하고 다수의 제2 이미지로부터 적어도 하나의 제3 이미지를 선택하여 임시 버퍼링할 수 있다.
예를 들면 프로세서(120 또는 260)는 다수의 제1 이미지로부터 모션 정보를 검출하고, 검출된 모션 정보에 기반하여 이벤트가 발생하는 것으로 판단되면, 이벤트 구간 정보를 획득하고 메모리의 휘발성 메모리(예: 도 2의 휘발성 메모리(251))에 임시 버퍼링(252)할 수 있다.
예를 들면 모션 정보는 이미지 내의 적어도 하나의 객체의 움직임을 추적하여 산출되는 움직임 정보(예: 속도)를 포함할 수 있다. 예를 들면 모션 정보는 이미지 내의 지정된 패턴과 같은 특징점의 변화, 예를 들면 촬영 시점의 변화, 밝기의 변화 또는 배경(예: 주변 환경)의 변화에 기반하여 객체의 움직임을 추정(예: optical flow)함으로써 산출할 수 있다.
예를 들면 이벤트가 발생하는지 여부는 모션 정보의 변화에 기반하여 판단할 수 있다. 예를 들면 이벤트는 모션 정보가 증가한 이후 감소하면 발생한 것으로 판단할 수 있다. 예를 들면 이벤트는 모션 정보가 지정된 문턱값 이상으로 증가하면 발생한 것으로 판단할 수 있다.
예를 들면 이벤트 구간 정보는 이벤트가 발생한 구간에 대한 시간 정보, 장면 정보, 구간의 길이 및/또는 속도를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 모션 정보가 증가한 시점과 감소한 시점의 시간 정보를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 이벤트 구간에서 움직인 객체 및/또는 움직임에 대한 정보를 포함하는 장면 정보(예: 장면 카테고리 또는 장면 속성)(예: 사람이 점프)를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 모션 정보가 지정된 문턱값 이상으로 증가한 시점과 지정된 문턱값 이하로 감소한 시점의 시간 정보를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 모션 정보가 증가한 시점부터 감소한 시점까지의 구간 길이를 포함할 수 있다. 예를 들면 이벤트 구간 정보는 이벤트가 발생한 구간 내의 모션 정보의 평균 속도 및/또는 최고 속도를 포함할 수 있다.
예를 들면 프로세서(120 또는 260)는 이미지 센서로부터 출력되는 다수의 제2 이미지로부터 결정된 촬영 모드에 기반하여 적어도 하나의 제3 이미지를 선택하고, 선택된 제3 이미지를 메모리의 휘발성 메모리에 임시 버퍼링(252)할 수 있다.
예를 들면 프로세서(120 또는 260)는 제1 촬영 모드에 따라 획득된 다수의 제2 이미지에 대해 이미지 프레임 간의 유사성을 분석하여 적어도 하나의 제3 이미지를 선택할 수 있다. 예를 들면 다수의 제2 이미지의 프레임 간의 유사성은 각 프레임의 이미지 해쉬값을 기반으로 분석될 수 있으며, 프로세서(120 또는 260)는 이미지 센서로부터 출력되는 제2 이미지의 프레임들 중 유사성이 높은 프레임들을 배제하고, 나머지 적어도 하나의 제3 이미지를 휘발성 메모리로 전송하여 임시 버퍼링할 수 있다.
예를 들면 프로세서(120 또는 260)는 제2 촬영 모드에 따라 획득된 다수의 제2 이미지에 대해 이미지 품질을 분석하여 적어도 하나의 제3 이미지를 선택할 수 있다. 예를 들면 프로세서(120 또는 260)는 획득된 다수의 제2 이미지에 대해 이미지 초점을 검출(예: blur detect)하여 초점이 맞지 않아 품질이 떨어지는 이미지를 배제하고, 나머지 적어도 하나의 제3 이미지를 휘발성 메모리로 전송하여 임시 버퍼링할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 메모리에 저장된 제1 어플리케이션(예: 도 2의 제1 어플리케이션(255))을 로딩하고, 로딩된 제1 어플리케이션에 의해 상술한 동작 401 및 동작 403을 수행할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 메모리에 저장된 제2 어플리케이션(예: 도 2의 제2 어플리케이션(256))을 로딩하고, 로딩된 제2 어플리케이션에 의해 후술하는 동작 405 및 동작 407을 수행할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 405에서, 임시 버퍼링된 이벤트 구간 정보에 따라 다수의 제1 이미지를 기반으로 제1 콘텐트를 생성하고, 동작 407에서, 임시 버퍼링된 제3 이미지를 기반으로 제2 콘텐트를 생성할 수 있다.
예를 들면, 프로세서(120 또는 260)는 휘발성 메모리에 임시 버퍼링된 이벤트 구간 정보에 기초하여 다수의 제1 이미지 중 적어도 일부에 대해 이미지 효과를 적용하여 제1 콘텐트를 생성할 수 있다. 예를 들어, 프로세서(120 또는 260)는 이벤트 구간 정보의 시간 정보 및/또는 길이 정보에 따라 다수의 제1 이미지 중 해당 구간의 프레임들을 추출하고, 해당 이벤트 구간 정보의 장면 정보(예: 장면 카테고리 또는 장면 속성)에 기반하여 추출된 제1 이미지의 프레임들에 대해 적용할 이미지 효과를 선택하여 적용하고 적어도 하나의 동영상을 생성할 수 있다. 예를 들어, 생성되는 제1 콘텐트는 전체 또는 이벤트 구간에서 다수의 제1 이미지가 연속적으로 재생되는 제1 동영상, 이벤트 구간에서 다수의 제1 이미지가 제1 동영상 보다 상대적으로 빠른 속도로 재생되는 제2 동영상, 이벤트 구간에서 다수의 제1 이미지가 제1 동영상 보다 상대적으로 느린 속도로 재생되는 제3 동영상, 다수의 제1 이미지로부터 이벤트 구간 동안 초당 프레임 개수 증가 및/또는 속도 감소를 통해 이벤트 구간의 속도를 슬로우 모션과 같이 조정한 제4 동영상(예: dynamic video), 제3 이미지 중 선택된 적어도 하나의 제4 이미지와 이벤트 구간에 해당하는 제1 이미지 중 일부를 시간 정보(예: time stamp)를 기반으로 순서대로 배치하여 제4 이미지와 제1 이미지 간의 변환 시점에는 예를 들면 전환 효과를 가미하여 전체 이벤트의 내용 및/또는 진행 과정을 요약하여 나타낼 수 있는 제5 동영상(예: highlight video) 중 적어도 하나를 포함할 수 있다.
예를 들면 프로세서(120 또는 260)는 휘발성 메모리에 임시 버퍼링된 제3 이미지로부터 적어도 하나의 제4 이미지를 선택하고 장면 정보(예: 장면 카테고리 또는 장면 속성)에 기반한 이미지 효과를 적용하여 제2 콘텐트를 생성할 수 있다.
예를 들어, 프로세서(120 또는 260)는 임시 버퍼링된 제3 이미지의 정보에 기반하여 적어도 하나의 제4 이미지를 선택할 수 있다. 예를 들면, 프로세서(120 또는 260)은 영상 품질, 밝기 정보, 색상 정보, 제3 이미지에 포함되는 외부 객체(예: 피사체)의 구도 또는 제3 이미지에서 검출한 얼굴 인식 정보 중 적어도 하나에 기반하여 적어도 하나의 제4 이미지를 선택할 수 있다. 예를 들어, 영상 품질은 제3 이미지에 포함되는 외부 객체의 초점 정보(예: 블러(blur)), 제3 이미지에 포함되는 잡음(noise) 정보 또는 제3 이미지의 대비(contrast) 정보에 기반하여 설정될 수 있다.
예를 들면, 적어도 하나의 제4 이미지에 대해 적용할 이미지 효과는 제4 이미지의 색상, 투명도, 스타일, 명암 또는 채도 중 적어도 하나를 변화시키는 일련의 동작을 통해 적용될 수 있다.
도 5는 다양한 실시예에 따른 촬영 모드에 따른 다양한 이미지 데이터 획득 동작을 설명하기 위한 흐름도이다. 다양한 실시예에 따르면, 도 5의 동작들은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 2의 전자 장치(300))의 프로세서(예: 도 1의 프로세서(120) 또는 도 2의 이미지 시그널 프로세서(260))에 의해 수행될 수 있다. 예를 들면 프로세서(120 또는 260)는 메모리(예: 도 2의 메모리(250))에 저장된 제1 어플리케이션(예: 도 2의 제1 어플리케이션(255))을 로딩하고, 로딩된 제1 어플리케이션에 의해 도 5의 동작들을 수행할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 501에서, 조도 정보 및/또는 장면 정보에 기반하여 촬영모드를 결정할 수 있다.
예를 들면, 프로세서(120 또는 260)는 이미지 콘텐트의 획득을 위한 사용자 입력을 수신하면 조도 정보 및/또는 장면 정보에 기반하여 카메라 모듈(예: 도 1의 카메라 모듈(180))을 제어하여 이미지를 획득하기 위한 촬영 모드를 결정할 수 있다.
예를 들면, 프로세서(120 또는 260)는 조도 정보 및/또는 장면 정보에 기반하여 촬영 모드를 제1 촬영 모드(예: 연속 촬영 모드) 또는 제2 촬영 모드(예: 일반 촬영 모드) 중 하나로 결정할 수 있다.
예를 들면 조도 정보는 센서 모듈(예: 도 1의 센서 모듈(176))(예: 조도 센서)을 통해 획득될 수 있다. 예를 들면 조도 정보는 현재 전자 장치(101 또는 300)가 위치하는 장소의 밝기 정도(예: lux 또는 EV (exposure value) 단위로 측정)를 포함할 수 있다.
예를 들면 장면 정보는 이미지 센서(예: 도 2의 이미지 센서(230))를 통해 획득되는 이미지로부터 추출될 수 있다. 예를 들면 장면 정보는 장면 카테고리 또는 장면 속성을 포함할 수 있다. 예를 들면 장면 정보는 현재 전자 장치(101 또는 300)가 위치하는 장소가 실외 또는 실내임을 나타내는 정보 및/또는 외부 객체 정보를 포함할 수 있다. 예를 들면 센서 모듈(예: GPS (global positioning system))을 통해 획득한 현재 전자 장치(101 또는 300)가 위치하는 장소에 대한 위치 정보를 실외 또는 실내임을 판단하기 위한 정보로서, 보충적으로 또는 대체하여 사용할 수 있다.
예를 들면 프로세서(120 또는 260)는 획득된 조도 정보 또는 장면 정보에 기반하여 실외이거나 고조도인 것으로 판단되는 경우 촬영 모드를 제1 촬영 모드로 결정할 수 있다. 예를 들면 장면 정보에 따라 실외인 경우라도 저조도인 경우 촬영 모드를 제2 촬영 모드로 결정할 수 있다. 예를 들면 장면 정보에 따라 실외이고 움직일 수 있는 외부 객체를 포함하는 경우 제1 촬영 모드로 결정할 수 있다. 예를 들면 장면 정보에 따라 실외이고 움직일 수 있는 외부 객체를 포함하고, 고조도인 경우 제1 촬영 모드로 결정할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 503에서, 결정된 촬영 모드에 따라 카메라 모듈을 제어하여, 지정된 시간 동안 이미지 센서(예: 도 2의 이미지 센서(230))를 통해 제1 속성의 다수의 제1 이미지 및 제2 속성의 적어도 하나의 제2 이미지를 획득할 수 있다. 예를 들면 제1 이미지는 지정된 시간 동안 제1 주기로 획득되는 다수의 프리뷰 이미지로, 제2 이미지 보다 상대적으로 작은 해상도(resolution)를 갖는 제1 속성을 포함할 수 있다. 예를 들면, 제2 이미지는 지정된 시간 동안 획득되는 적어도 하나의 캡쳐 이미지로, 제1 이미지 보다 상대적으로 높은 해상도를 갖는 제2 속성을 포함할 수 있다.
예를 들면 프로세서(120 또는 260)는 제1 촬영 모드에서, 지정된 시간 동안 제1 주기와 상이한 제2 주기로 제2 이미지를 획득하도록 할 수 있다. 예를 들면, 제2 주기는 제1 주기보다 상대적으로 길 수 있다. 예를 들어, 프로세서(120 또는 260)는 제2 촬영 모드에서, 지정된 시간 동안 제2 주기 보다 상대적으로 긴 제3 주기로 제2 이미지를 획득하도록 할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 505에서, 결정된 촬영 모드에 따라 이미지 센서로부터 출력되는 다수의 제1 이미지와 적어도 하나의 제2 이미지에 대해 각각 별도의 동작으로 진행하여 처리되도록 할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는, 동작 507에서, 이미지 센서로부터 출력되는 다수의 제1 이미지로부터 모션 정보를 검출하고, 검출된 모션 정보에 기반하여 이벤트 구간 정보를 획득하여 메모리(250)의 휘발성 메모리(예: 도 2의 휘발성 메모리(251))에 임시 버퍼링(252)할 수 있다.
예를 들면 모션 정보는 이미지 내의 적어도 하나의 객체의 움직임을 추적하여 산출되는 움직임 정보(예: 속도)를 포함할 수 있다. 예를 들면 이벤트가 발생하는지 여부는 모션 정보의 변화에 기반하여 판단할 수 있다.
예를 들면 이벤트 구간 정보는 이벤트가 발생한 구간에 대한 시간 정보, 장면 정보, 구간의 길이 및/또는 속도를 포함할 수 있다. 예를 들면 이벤트 구간에 대한 시간 정보는 모션 정보에 기초하여 결정되는 이벤트 구간의 시점과 종점의 시간을 포함할 수 있다. 예를 들면 장면 정보는 이벤트 구간에서 움직인 객체 및/또는 움직임에 대한 정보와 같은 장면 카테고리 및/또는 장면 속성을 포함할 수 있다. 예를 들면 이벤트 구간의 길이는 이벤트 구간의 시점의 프레임부터 종점의 프레임까지의 시간 길이 또는 프레임 개수를 포함할 수 있다. 예를 들면 이벤트 구간의 속도는 이벤트가 발생한 구간의 모션 정보의 평균 속도 및/또는 최고 속도를 포함할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 509에서 이미지 센서로부터 출력되는 다수의 제2 이미지로부터 적어도 하나의 제3 이미지를 선택하고, 선택된 제3 이미지를 메모리(250)의 휘발성 메모리(251)에 임시 버퍼링(252)할 수 있다.
예를 들면 프로세서(120 또는 260)는 제1 촬영 모드에 따라 획득된 다수의 제2 이미지에 대해 이미지 프레임 간의 유사성을 분석하여 적어도 하나의 제3 이미지를 선택할 수 있다. 예를 들면 다수의 제2 이미지의 프레임 간의 유사성은 각 프레임의 이미지 해쉬값을 기반으로 분석될 수 있다. 예를 들면 프로세서(120 또는 260)는 제2 촬영 모드에 따라 획득된 다수의 제2 이미지에 대해 이미지 품질(예: 초점 검출(blur detect))을 분석하여 적어도 하나의 제3 이미지를 선택할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 511에서, 지정된 시간이 종료되었는지 또는 사용자로부터 촬영 종료 입력이 수신되었는지 확인하여 촬영을 종료할 것인지 여부를 결정할 수 있다. 예를 들면 프로세서(120 또는 260)는 촬영이 종료될 때까지 동작 503 내지 동작 509를 연속적으로 수행할 수 있다.
도 6은 다양한 실시예에 따른 동영상 이미지 콘텐트 생성 동작을 설명하기 위한 흐름도이다.
다양한 실시예에 따르면, 도 6의 동작들은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 2의 전자 장치(300))의 프로세서(예: 도 1의 프로세서(120) 또는 도 2의 이미지 시그널 프로세서(260))에 의해 수행될 수 있다. 예를 들면 프로세서(120 또는 260)는 메모리(예: 도 2의 메모리(250))에 저장된 제2 어플리케이션(예: 도 2의 제2 어플리케이션(256))을 로딩하고, 로딩된 제2 어플리케이션에 의해 도 6의 동작들을 수행할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 601에서, 메모리에 임시 버퍼링된 이벤트 구간 정보로부터 이벤트가 존재하는지 확인하고, 이벤트가 존재하는 경우, 동작 603에서 이벤트 구간 정보를 분석할 수 있다. 예를 들면 이벤트 구간 정보로부터 이벤트 구간의 시점과 종점의 시간과 이벤트 구간의 길이에 기초하여 이벤트가 시작되는 프레임 위치와 종료되는 프레임 위치를 확인할 수 있다. 예를 들면 이벤트 구간의 장면 카테고리, 장면 속성 및/또는 이벤트 구간의 속도를 확인하여 이벤트 구간의 이미지 프레임들에 대해 적용할 이미지 효과를 결정할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 605에서 이벤트 구간 정보에 기초하여 다수의 제1 이미지를 기반으로 제1 콘텐트를 생성할 수 있다. 예를 들면 프로세서(120 또는 260)는 다수의 제1 이미지의 장면 정보(예: 장면 카테고리 및/또는 장면 속성) 및/또는 이벤트 구간의 속도에 기반하여 제1 이미지로부터 생성할 동영상(예: 출력 비디오)의 유형을 선택할 수 있다. 예를 들어 프로세서(120 또는 260)는, 상기 이벤트 구간 정보에 기초하여, 구간 길이, 재생 속도, 재생 순서 또는 장면 정보에 기반한 이미지 효과 중 적어도 하나를 선택적으로 변경하여 상기 다수의 제1 이미지 중 적어도 일부가 연속적으로 재생되는 동영상을 생성할 수 있다.
예를 들면 제1 콘텐트는 이벤트 구간 정보에 기초하여 다수의 제1 이미지에 대해 다음의 표 1과 같은 콘텐츠 맵을 적용하여 생성될 수 있다. 표 1에서, “o”는 해당 장면 속성의 복수의 제1 이미지를 사용하여 해당 출력 비디오가 생성됨을 나타낼 수 있다. “x”는 해당 장면 속성의 복수의 제1 이미지를 사용하여 해당 출력 비디오가 생성되지 않음을 나타낼 수 있다. “only FF”는 해당 장면 속성의 복수의 제1 이미지를 사용하여 빠른 속도의 비디오(fast forward video)가 생성됨을 나타낼 수 있다. “intro”는 해당 장면 속성의 복수의 제1 이미지를 사용하여 도입부에 해당 하는 비디오(intro video)가 생성됨을 나타낼 수 있다.
scene category scene type 출력 비디오
Original (front or rear) dynamic/fastforward highlight boomerang reverse relighting
indoor indoor, stage o only FF o x o x
clothing clothing, shoe o only FF o x x x
object food, drink, flower o o o (intro only) x x x
pet animal, cat, dog o o o o x x
vehicle vehicle o o o x o x
landscape mountain, beach, sky, waterfall, waterside, scenery, sunset, sunrise, snow, city, nightview o only FF o x x o
portrait o o o o x x
people o o o o x x
text o only FF o x x x
default o o o o x x
예를 들어 장면 카테고리(scene category)는, 콘텐츠 맵을 참조하면, 장소(indoor), 의복(clothing), 객체(object), 동물(pet), 독사진(portrait), 인물 단체 사진(people), 자동차(vehicle), 풍경(landscape), 또는 텍스트(text)를 포함할 수 있다. 예를 들면 장면 속성(scene type)은, 장면 카테고리의 세부 유형(예: 장소가 실내 또는 실외, 동물이 고양이 또는 개, 객체의 종류, 독사진 대상이 아기, 여성, 또는 얼굴, 풍경이 나무, 산, 해변, 하늘, 해돋이, 도시, 또는 노을)을 포함할 수 있다.
예를 들어, 생성되는 제1 콘텐트는 이벤트 구간에서 다수의 제1 이미지가 연속적으로 재생되는 제1 동영상(예: original)을 포함할 수 있다. 예를 들어, 생성되는 제1 콘텐트는 이벤트 구간에서 다수의 제1 이미지가 제1 동영상 보다 상대적으로 빠른 속도로 재생되는 제2 동영상(예: fastforward)을 포함할 수 있다. 예를 들어, 생성되는 제1 콘텐트는 이벤트 구간에서 다수의 제1 이미지가 제1 동영상 보다 상대적으로 느린 속도로 재생되는 제3 동영상(예: slow video)을 포함할 수 있다. 예를 들어, 생성되는 제1 콘텐트는 이벤트 구간의 속도가 빠르거나 구간의 길이가 짧은 경우, 다수의 제1 이미지로부터 이벤트 구간 동안 초당 프레임 개수 증가 및/또는 속도 감소를 통해 이벤트 구간의 속도를 슬로우 모션과 같이 조정한 제4 동영상(예: dynamic video)을 포함할 수 있다. 예를 들어, 생성되는 제1 콘텐트는 제3 이미지 중 선택된 적어도 하나의 제4 이미지와 이벤트 구간에 해당하는 제1 이미지 중 일부를 시간 정보(예: time stamp)를 기반으로 순서대로 배치하여 제4 이미지와 제1 이미지 간의 변환 시점에는 예를 들면 전환 효과를 가미하여 전체 이벤트의 내용 및/또는 진행 과정을 요약하여 나타낼 수 있는 제5 동영상(예: highlight video)을 포함할 수 있다. 예를 들면 제1 콘텐트는 이벤트 구간에서 다수의 제1 이미지가 순서대로 재생되고 이어서 역순으로 재생되는 제6 동영상(예: boomerang)을 포함할 수 있다. 예를 들면 제1 콘텐트는 이벤트 구간에서 다수의 제1 이미지가 역순으로 재생되는 제7 동영상(예: reverse)을 포함할 수 있다. 예를 들면 제1 콘텐트는 이벤트 구간에서 다수의 제1 이미지가 풍경 사진을 포함하는 경우, 배경의 색상과 밝기를 변화시켜 낮과 밤의 시간의 흐름을 표현하는 제8 동영상(예: relighting)을 포함할 수 있다. 예를 들면 장면 정보에 기반하여 제1 이미지에 대해 적용 가능한 이미지 효과는 상술한 바와 같은 콘텐츠 맵으로 구성되어 메모리(예: 도 1의 메모리(130) 또는 도 2 또는 도 3의 메모리(250))에 미리 저장될 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 이벤트 구간이 존재하지 않는 경우 동작 607에서, 다수의 제1 이미지를 기반으로 제1 콘텐트를 생성할 수 있다. 예를 들면 제1 콘텐트는 다수의 제1 이미지가 연속적을 재생되는 동영상을 포함할 수 있다. 예를 들면 제1 콘텐트는 다수의 제1 이미지에 상술한 표 1과 같은 콘텐츠 맵을 적용하여 생성될 수 있다.
도 7은 다양한 실시예에 따른 정지 영상 이미지 콘텐트 생성 동작을 설명하기 위한 흐름도이다.
다양한 실시예에 따르면, 도 7의 동작들은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 2의 전자 장치(300))의 프로세서(예: 도 1의 프로세서(120) 또는 도 2의 이미지 시그널 프로세서(260))에 의해 수행될 수 있다. 예를 들면 프로세서(120 또는 260)는 메모리(예: 도 2의 메모리(250))에 저장된 제2 어플리케이션(예: 도 2의 제2 어플리케이션(256))을 로딩하고, 로딩된 제2 어플리케이션에 의해 도 7의 동작들을 수행할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 701에서 휘발성 메모리에 임시 버퍼링된 제3 이미지를 순서대로 출력할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 703에서 촬영 모드가 제1 촬영 모드(예: 버스트 샷)인지 확인하고, 제1 촬영 모드가 아닌 경우, 동작 707로 진행하여 심미성 평가를 수행하고, 동작 709에서 중복성 평가를 수행하고, 평가 결과에 따라 동작 711에서 제3 이미지로부터 제4 이미지를 선택할 수 있다. 예를 들면 동작 707과 동작 709의 순서는 예시로서 이에 한정되지 않으며 순서가 변경되거나 적어도 일부가 동시에 수행되거나 일부가 생략될 수도 있다.
다양한 실시예에 따르면, 동작 703에서 촬영 모드가 제1 촬영 모드인 경우, 동작 705로 진행하여, 임시 버퍼링된 제3 이미지에 대한 이미지 분석을 수행하고 적어도 하나의 제5 이미지를 선택할 수 있으며, 선택된 제5 이미지에 대해 동작 707 및 동작 709로 진행하여, 심미성 평가 및 중복성 평가를 수행하고, 평가 결과에 따라 동작 711에서 제5 이미지 중에서 제4 이미지를 선택할 수 있다. 예를 들면 제1 촬영 모드에서는 다수의 제2 이미지가 획득되며 전술한 제3 이미지 선택 동작을 통해 이미지 개수를 줄일 수 있으며, 추가로 제5 이미지 선택 동작을 통해 이미지 품질을 분석하여 제2 콘텐트 생성을 위한 후보 이미지 선택 동작에서 평가 대상 이미지의 개수를 효과적으로 줄일 수 있다.
다양한 실시예에 따르면 동작 705에서 수행하는 제3 이미지에 대한 이미지 분석은 예를 들면 블러 검출(blur detection), 블링크 검출(blink detection), 표정 기반 필터링(expression based filer) 및/또는 유사도 기반 필터링(affine similarity)을 포함할 수 있다. 예를 들면 동작 705는 연속 촬영 모드로 획득된 제3 이미지들을 빠르게 분석하여 적절한 품질의 이미지들을 선택하는 동작을 포함할 수 있다.
도 8은 다양한 실시예에 따른 버스트 샷 모드에 따른 이미지 선택 동작을 설명하기 위한 흐름도이다. 도 8은 다양한 실시예에 따른 제1 촬영 모드에 따른 도 7의 동작 705의 제5 이미지 선택 동작을 보다 상세히 설명하기 위한 흐름도일 수 있다. 도 8의 각 동작의 순서는 예시로서 이에 한정되지 않으며 순서는 변경되거나 일부가 동시에 수행되거나 일부가 생략될 수 있다. 예를 들면 동작 801, 803, 805 및 807 중 적어도 하나의 동작이 동시에 또는 다른 순서로 수행될 수 있다. 도 8의 동작은 예를 들면 이미지 트레이닝 데이터를 기반으로 학습된 인공 지능 프로그램에 의해 수행될 수 있다. 예를 들면 프로세서(120 또는 260)는 메모리(예: 도 1의 메모리(130))에 저장된 인공 지능 프로그램(예: 도 1의 프로그램(140))을 로딩하고, 로딩된 인공 지능 프로그램에 의해 도 8의 동작들을 수행할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 801에서 고수준의 블러 검출을 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 제3 이미지에 포함된 객체의 초점 정보에 따라 이미지 흐림 여부를 검출하고, 초점이 흐린 이미지를 선택에서 배제할 수 있다. 예를 들면 프로세서(120 또는 260)는 초점 정보를 기정의된 또는 계산된 값과 비교한 결과에 기초하여 이미지를 배제할 것인지 결정할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 803에서 블링크 검출을 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 제3 이미지에 포함된 객체의 얼굴 인식(face detection) 또는 특징점 검출(landmark detection)(예: 눈썹, 눈, 코, 입술 및/또는 턱선으로부터 특징점을 추출)을 통해 눈을 검출하고 눈을 감았는지 여부에 따라 눈을 감은 이미지를 선택에서 배제할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 805에서 표정 기반 필터링을 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 제3 이미지에 포함된 객체로부터 얼굴 인식, 특징점 검출 또는 머리 영역 검출(head detection)(예: 머리 끝으로부터 목까지 영역의 특징점들을 검출)을 통해 표정 점수를 산출하여, 표정 점수가 낮은 이미지(예: 일그러진 표정)를 선택에서 배제할 수 있다. 예를 들면, 프로세서(120 또는 260)는 산출된 표정 점수를 기정의된 또는 계산된 값과 비교한 결과에 기초하여 이미지를 배제할 것인지 결정할 수 있다. 예를 들면 산출된 표정 점수가 기정의된 점수 보다 낮으면, 낮은 표정 점수를 갖는 해당 이미지는 선택에서 배제될 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 807에서 유사도 기반 필터링을 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 제3 이미지에 포함된 이미지 프레임들 간에 이미지로부터 추출된 에지 기반의 형태(shape)의 유사도를 비교하여 구조적으로 유사도가 높은 이미지 프레임(예: 일정 시간 움직임이 없는 구간에 획득된 이미지)을 선택에서 배제할 수 있다. 예를 들면, 프로세서(120 또는 260)는 이미지로부터 추출된 에지 기반의 형태 유사도를 기정의된 또는 계산된 값과 비교한 결과에 기초하여 이미지를 배제할 것인지 결정할 수 있다. 예를 들면 결과에 따라, 이미지로부터 추출된 에지 기반의 형태 유사도가 기정의된 점수 보다 높으면, 높은 구조적 유사도를 갖는 해당 이미지는 선택에서 배제될 수 있다.
도 7을 다시 참조하면, 프로세서(120 또는 260)는 동작 707에서 제5 이미지 또는 제3 이미지에 대해 심미성 평가를 수행할 수 있다. 예를 들어 프로세서(120 또는 260)는 제1 촬영 모드에 따라 획득된 제3 이미지로부터 동작 705에서 선택된 제5 이미지에 대해 심미성 평가를 수행할 수 있다. 예를 들어 프로세서(120 또는 260)는 제2 촬영 모드에 따라 획득된 제3 이미지에 대해 심미성 평가를 수행할 수 있다.
도 9는 다양한 실시예에 따른 심미성 평가 또는 분석 동작을 설명하기 위한 흐름도이다. 도 9는 다양한 실시예에 따른 동작 707의 심미성 평가 동작을 보다 상세히설명하기 위한 흐름도일 수 있다. 도 9의 각 동작의 순서는 예시로서 이에 한정되지 않으며 순서는 변경되거나 일부가 동시에 수행되거나 일부가 생략될 수 있다. 도 9의 동작은 예를 들면 이미지 트레이닝 데이터를 기반으로 학습된 인공 지능 프로그램에 의해 수행될 수 있다. 예를 들면 프로세서(120 또는 260)는 메모리(예: 도 1의 메모리(130))에 저장된 인공 지능 프로그램(예: 도 1의 프로그램(140))을 로딩하고, 로딩된 인공 지능 프로그램에 의해 도 9의 동작들을 수행할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 901에서, 컴포지션(composition) 평가를 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 이미지에 포함된 객체들의 구도에 기반하여 컴포지션 점수를 산출할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 903에서, 클라리티(clarity) 평가를 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 이미지의 밝기, 잡음(noise) 또는 대비(contrast)에 기반하여 클라리티 점수를 산출할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 905에서, 이모션(emotion) 평가를 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 이미지에 포함된 객체의 얼굴을 인식하여 이로부터 눈썹, 눈, 코 및/또는 입을 검출하고 이를 기반으로 표정 점수를 산출할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 907에서 색감(colorfulness) 평가를 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 이미지로부터 색상 정보를 추출하고 색상의 다채로움에 기반하여 색감 점수를 산출할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 909에서 노출(exposure) 평가를 수행할 수 있다. 예를 들면 프로세서(120 또는 260)는 이미지의 노출 정보에 기반하여 포화도 점수를 산출할 수 있다.
도 7을 다시 참조하면, 프로세서(120 또는 260)는 동작 709에서 제5 이미지 또는 제3 이미지에 대해 중복성 평가를 수행할 수 있다. 예를 들어 프로세서(120 또는 260)는 제1 촬영 모드에 따라 획득된 제3 이미지로부터 동작 705에서 선택된 제5 이미지에 대해 중복성 평가를 수행할 수 있다. 예를 들어 프로세서(120 또는 260)는 제2 촬영 모드에 따라 획득된 제3 이미지에 대해 중복성 평가를 수행할 수 있다. 예를 들어 프로세서(120 또는 260)는 동작 709의 중복성 평가에 따라 유사한 이미지를 선택에서 배제할 수 있다. 중복성 평가를 심미성 평가와 함께 수행하거나, 중복성 평가 또는 심미성 평가 중 하나 만을 수행할 수도 있다.
도 10은 다양한 실시예에 따른 중복성 평가 동작을 설명하기 위한 흐름도이다. 도 10은 다양한 실시예에 따른 동작 709의 중복성 평가 동작을 보다 상세히 설명하기 위한 흐름도일 수 있다. 도 10의 각 동작의 순서는 예시로서 이에 한정되지 않으며 순서는 변경되거나 일부가 동시에 수행되거나 일부가 생략될 수 있다. 도 10의 동작은 예를 들면 이미지 트레이닝 데이터를 기반으로 학습된 인공 지능 프로그램에 의해 수행될 수 있다. 예를 들면 프로세서(120 또는 260)는 메모리(예: 도 1의 메모리(130))에 저장된 인공 지능 프로그램(예: 도 1의 프로그램(140))을 로딩하고, 로딩된 인공 지능 프로그램에 의해 도 10의 동작들을 수행할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 1001에서, 이미지 프레임들로부터 해쉬값을 산출하여 비교함으로써 해쉬값을 기반으로 유사성 평가를 수행할 수 있다. 예를 들면 해쉬값이 유사한 이미지를 선택에서 배제할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 1003에서, 이미지로부터 나이를 추정(GAE (gender age extraction))하는 분석을 통해 유사성을 평가할 수 있다. 예를 들면 프로세서(120 또는 260)는 GAE 방식에 기초하여 표정 점수를 산출하여 이미지들의 유사성을 비교할 수 있다.
다양한 실시예에 따르면, 프로세서(120 또는 260)는 동작 1005에서, 이미지로부터 색상 정보를 기반으로 시멘틱(semantic) 분석을 통해 유사성을 평가할 수 있다. 예를 들면 이미지의 색상 정보에 기초하여 색상 점수를 산출하고 이를 기반으로 이미지들의 유사성을 비교하여 유사한 이미지들은 선택에서 배제할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 1007에서 이미지로부터 에지를 추출하고 에지의 형태를 비교하여 유사도를 분석할 수 있다. 예를 들면 이미지 프레임 간의 에지의 형태가 유사한 이미지들은 선택에서 배제할 수 있다.
도 7을 다시 참조하면, 프로세서(120 또는 260)는 동작 711에서 제5 이미지 또는 제3 이미지에 대한 동작 707의 심미성 평가 및/또는 동작 709의 중복성 평가에 기초하여 제2 콘텐트를 생성하기 위한 후보 이미지로서 제4 이미지를 선택할 수 있다. 예를 들면 프로세서(120 또는 260)는 복수의 제4 이미지를 선택할 수 있다.
다양한 실시예에 따르면 프로세서(120 또는 260)는 동작 713에서, 선택된 제4 이미지에 기반하여 제2 콘텐트를 생성할 수 있다.
예를 들면, 프로세서(120 또는 260)는 선택된 적어도 하나의 제4 이미지의 장면 정보(예: 장면 카테고리 및/또는 장면 속성)에 기반하여 적어도 하나의 정지 영상을 제2 콘텐트로서 생성할 수 있다. 예를 들어, 프로세서(120 또는 260)는 선택된 적어도 하나의 제4 이미지의 장면 카테고리 및/또는 장면 속성에 대응하여 적용할 이미지 효과를 선택할 수 있다.
예를 들면 프로세서(120 또는 260)는 선택된 적어도 하나의 제4 이미지에 대해 다음의 표 2와 같은 콘텐츠 맵을 적용하여 제2 콘텐트를 생성할 수 있다. 표 2에서, “o” 및 “x”는 각각 해당 장면 속성의 복수의 제1 이미지를 사용하여 해당 출력 비디오가 생성됨 또는 생성되지 않음을 각각 나타낼 수 있다. “BM1” 내지 “BM5”는 적어도 하나의 제4 이미지에 포함되는 5개의 이미지들의 예를 나타낼 수 있다.
scene category scene type 출력 이미지
original+auto enhance original smart
crop		 AI filter Bokeh/colcor picker collage B/W ultra wide
indoor indoor, stage BM1, BM2 BM3, BM4, BM5 o o x x o x
clothing clothing, shoe BM1 BM2, BM3 o o x x x x
object food, drink, flower BM1 BM2, BM3 o x x o x x
pet animal, cat, dog BM1, BM2 BM3, BM4, BM5 o o x o x x
vehicle vehicle BM1 BM2, BM3 o x x x x x
landscape mountain, beach, sky, waterfall, waterside, scenery, sunset, sunrise, snow, city, nightview BM1, BM2 BM3, BM4, BM5 x o x x o o(밝은 야외만)
portrait BM1, BM2, BM3 BM4, BM5 o o o o o x
people BM1, BM2 BM3, BM4 o o x o o o(밝은 야외만)
text x BM1, BM2, BM3 x x x x x x
default BM1, BM2 BM3, BM4, BM5 o o x x o x
예를 들어 장면 카테고리는 장소, 의복, 객체, 동물, 자동차, 풍경, 독사진, 인물 단체 사진, 또는 텍스트를 포함할 수 있다. 예를 들면 장면 속성은, 장면 카테고리의 세부 유형(예: 장소가 실내 또는 실외, 동물이 고양이 또는 개, 객체의 종류, 독사진 대상이 아기, 여성, 또는 얼굴, 풍경이 나무, 산, 해변, 하늘, 해돋이, 도시, 또는 노을)을 포함할 수 있다.
예를 들어 표 2의 콘텐츠 맵에 기반하여, 제4 이미지(예: BM1, BM2, BM3, BM4 및/또는 BM5) 중 평가 결과에 따라 최고 점수 이미지(예: BM1) 및/또는 그 이하 점수 이미지(예: BM2 및/또는 BM3)에 대해 원본 및/또는 자동 화질 보정(예: auto enhance) 이미지를 제공할 수 있다. 예를 들어 콘텐츠 맵에 기반하여, 적어도 하나의 제4 이미지(예: BM1, BM2, BM3, BM4 및/또는 BM5) 중 하나 이상에 대해 원본 이미지를 제공할 수 있다. 예를 들어 선택된 적어도 하나의 제4 이미지(예: BM1, BM2, BM3, BM4 및/또는 BM5) 중 적어도 하나에 대해서는 콘텐츠 맵에 기반한 이미지 효과를 적용한 이미지를 제공할 수 있다. 예를 들어, 이미지 효과는 원본 이미지(original)의 장면 정보에 기반하여, 자동 화질 보정(예: auto enhance), 원본 이미지로부터 추천 구도로 이미지의 일부 영역을 캡쳐하여 구도를 변화(예: smart crop), 장면 정보에 기초한 이미지 효과(예: 색상, 투명도, 스타일, 명암 또는 채도 중 적어도 하나를 변화시키는 일련의 동작을 통한 다양한 사진 필터 효과(AI filter)), 인물 사진의 경우 배경의 색상 또는 포커스 변화(예: Bokeh/color picker), 다수의 이미지로부터 캡쳐된 작은 사진들로 구성된 콜라쥬(collage) 생성, 흑백 이미지(예: B/W) 생성, 또는 가로 비율이 세로에 비해 상대적으로 매우 큰 이미지(예: ultra wide) 제공을 포함할 수 있다.
상술한 장면 정보에 기반하여 적용 가능한 이미지 효과는 예를 들면 표 2의 예를 들어 설명한 바와 같은 콘텐츠 맵으로 구성되어 메모리(예: 도 1의 메모리(130) 또는 도 2 또는 도 3의 메모리(250))에 미리 저장될 수 있다.
다양한 실시예들은 다음의 연속되는 숫자로 표시된 예들에 의해 더 개시될 수 있다.
문항 1. 카메라 모듈;
센서 모듈;
상기 카메라 모듈 및 상기 센서 모듈과 작동적으로 연결된 적어도 하나의 프로세서; 및
상기 적어도 하나의 프로세서와 작동적으로 연결된 메모리;를 포함하는 전자 장치가 제공되며,
상기 메모리는, 실행시, 상기 프로세서가
상기 센서 모듈을 통해 감지된 조도 및 상기 카메라 모듈을 통해 감지된 장면 정보 중 적어도 하나를 기반으로 결정된 상기 카메라 모듈의 촬영 모드에 따라 상기 카메라 모듈을 제어하여 지정된 시간 동안 제1 속성을 갖는 다수 개의 제1 이미지와 제2 속성을 갖는 적어도 하나의 제2 이미지를 획득하도록 하고,
상기 다수의 제1 이미지로부터, 이벤트가 검출되는 동안 획득된 구간에 대한 정보를 추출하고 상기 구간에 대한 정보에 기초하여 적어도 하나의 제1 컨텐트를 생성하는 동작, 및 적어도 하나의 제2 이미지로부터 적어도 하나의 제3 이미지를 선택하고 상기 적어도 하나의 제3 이미지 중 적어도 일부에 대한 평가를 수행하여 적어도 하나의 제4 이미지를 선택하고, 선택된 상기 적어도 하나의 제4 이미지에 기반하여 적어도 하나의 제2 콘텐트를 생성하는 동작 중 적어도 하나의 동작을 수행하도록 설정될 수 있다.
문항 2. 문항 1에서, 상기 제1 설정은 상기 제2 설정과 상이할 수 있다.
문항 3. 문항 1 또는 문항 2에서, 상기 제1 설정은 (상기 적어도 하나의 제1 이미지가 획득된) 제1 해상도에 대응하고, 상기 제2 설정은 (상기 적어도 하나의 제2 이미지가 획득된) 제2 해상도에 대응하고, 상기 제2 해상도는 상기 제1 해상도 보다 높을 수 있다.
문항 4. 문항 1 내지 문항 3 중 어느 하나에서, 상기 제2 이미지는 상기 카메라 모듈의 결정된 촬영 모드에 따라 상기 카메라 모듈을 제어하여 획득될 수 있다.
문항 5. 문항 4에서, 상기 촬영 모드는 상기 전자 장치의 상기 카메라 모듈 또는 센서를 통해 검출된 휘도 및 상기 전자 장치의 상기 카메라 모듈 또는 다른 센서를 통해 검출된 장면 정보에 기초하여 결정될 수 있다.
문항 6. 문항 4 또는 5에서, 상기 적어도 하나의 제3 이미지는 상기 촬영 모드에 기초하여 상기 적어도 하나의 제2 이미지로부터 선택될 수 있다.
문항 7. 문항 1 내지 6 중 어느 한 문항에서, 상기 복수의 제1 이미지 및 상기 적어도 하나의 제2 이미지는 지정된 시간 동안 획득될 수 있다.
문항 8. 문항 4 내지 6을 (직접 또는 간접) 인용하는 문항 7에서, 상기 프로세서는, 상기 지정된 시간 동안, 상기 제1 이미지를 제1 주기로 획득하고, 상기 결정된 촬영 모드에 따라 제1 촬영 모드에서 상기 제2 이미지를 제2 주기로 주기적으로 획득하거나, 상기 결정된 촬영 모드에 따라 제2 촬영 모드에서 상기 제2 이미지를 제3 주기로 획득하도록 설정되며, 상기 제2 주기는 상기 제1 주기 보다 상대적으로 길고, 상기 제3 주기는 상기 제2 주기 보다 상대적으로 길게 설정될 수 있다. (예를 들면, 상기 제1 주기는 제1 개수의 초당 프레임 개수(fps), 상기 제2 주기는 제2 개수의 초당 프레임 개수(fps), 상기 제3 주기는 제3 개수의 초당 프레임 개수(fps)이고, 상기 제1 개수는 상기 제2 개수보다 크고, 상기 제2 개수는 상기 제3 개수보다 클 수 있다.)
문항 9. 문항 8에서, 상기 제1 촬영 모드는, 연속 촬영 모드이고, 상기 제2 촬영 모드는 상기 제1 촬영 모드와는 다른 일반 촬영 모드일 수 있다.
문항 10. 문항 8 또는 9에서, 복수의 제2 이미지가 획득되고, 상기 프로세서는, 상기 제1 촬영 모드에서 상기 복수의 제2 이미지들에 대한 이미지 프레임들 간의 유사도에 기초하여 상기 적어도 하나의 제3 이미지를 선택하거나 상기 제2 촬영 모드에서 상기 복수의 제2 이미지들의 이미지 품질에 기초하여 상기 제3 이미지를 선택할 수 있다.
문항 11. 문항 1 내지 문항 10 중 임의의 문항에서, 상기 프로세서는 ㅈ상기 적어도 하나의 제3 이미지를 분석하여 적어도 하나의 제5 이미지를 선택하고, 상기 적어도 하나의 제5 이미지를 평가하여 상기 적어도 하나의 제4 이미지를 선택할 수 있다.
문항 12. 문항 11에서, 상기 분석은 상기 제3 이미지에 대한 블러 검출, 블링크 검출, 표정 기반 필터링, 유사도 기반 필터링 중 적어도 하나를 포함할 수 있다.
문항 13. 문항 11 또는 12에서, 상기 평가는, 컴포지션 평가 (예를 들면 이미지(예: 상기 적어도 하나의 제5 이미지 중 제5 이미지)에 포함된 객체의 구도에 기반하여 산출되는 컴포지션 점수), (예를 들어, 이미지의 밝기, 잡음(noise) 또는 대비(contrast)에 기반하여 산출되는) 클라리티 점수, (예를 들면 이미지에 포함된 객체의 얼굴을 인식하여 이로부터 눈썹, 눈, 코 및/또는 입을 검출하고 이를 기반으로 산출된) 표정 점수, (예를 들면 이미지로부터 색상 정보를 추출하고 색상의 다채로움에 기반하여 산출된) 색감 점수, (예를 들면 이미지의 노출 정보에 기반하여 산출되는 포화도) 노출 점수, 상기 적어도 하나의 제5 이미지의 해쉬값을 산출하여 비교함으로써 산출되는 해쉬값을 기반으로 유사성을 비교하여 산출되는 해쉬값 평가, 이미지로부터 나이를 추정(GAE (gender age extraction))하는 분석을 통해 평가되는 나이 유사성 평가, 이미지로부터 색상 정보를 기반으로 시멘틱(semantic) 분석을 통해 평가되는 유사성 평가, 이미지로부터 에지를 추출하고 에지의 형태를 비교하여 평가되는 유사도 평가 중 적어도 하나를 포함할 수 있다.
문항 14. 선행하는 문항 중 임의의 문항에서, 상기 프로세서는 상기 적어도 하나의 제4 이미지의 장면 정보에 기반하여 상기 적어도 하나의 제4 이미지 내의 적어도 일부 요소에 대해 색상, 투명도, 스타일, 명암 또는 채도 중 적어도 하나를 변화시키는 이미지 효과 적용, 화질 보정, 구도 변화, 또는 콜라쥬 생성 중 적어도 하나를 통해 상기 적어도 하나의 제2 콘텐트를 생성할 수 있다.
문항 15. 선행하는 문항 중 임의의 문항에서, 상기 프로세서는 상기 다수의 제1 이미지로부터 모션 정보를 획득하고, 상기 모션 정보의 변화에 기반하여 상기 이벤트 구간 정보를 추출할 수 있다.
문항 16. 문항 15에서, 상기 구간 정보는 상기 이벤트에 대한 시간 정보, 장면 정보, 길이 정보, 또는 속도 정보 중 적어도 하나를 포함할 수 있다.
문항 17. 문항 16에서, 상기 프로세서는 상기 이벤트 구간 정보에 기초하여, 구간 길이, 재생 속도, 재생 순서 또는 상기 장면 정보에 기반한 이미지 효과 중 적어도 하나를 선택적으로 변경하여 상기 다수의 제1 이미지 중 적어도 일부가 연속적으로 재생되는 동영상 상기 적어도 하나의 컨텐트로서 생성할 수 있다.
문항 18. 문항 5 또는 문항 6, 또는 문항 5를 인용하는 문항 7 내지 17 중 임의의 문항에서, 상기 프로세서는 상기 장면 정보에 기초하여 적어도 하나의 정지 영상을 상기 적어도 하나의 제2 컨텐트로서 생성할 수 있다.
문항 19. 문항 18에서, 상기 장면 정보는, 장면 카테고리 및/또는 장면 속성을 포함하고, 상기 적어도 하나의 정지 영상을 생성하기 위해 상기 프로세서는 상기 장면 카테고리 및/또는 상기 장면 속성에 기초하여 상기 선택된 적어도 하나의 제4 이미지 중 하나 이상에 적용되는 이미지 효과를 선택할 수 있다.
문항 20. 문항 19에서, 장면 카테고리는 장소, 객체, 동물, 독사진, 인물 단체 사진, 자동차, 풍경, 또는 텍스트를 포함할 수 있고, 상기 장면 속성은, 장면 카테고리의 세부 유형(예: 장소가 실내 또는 실외, 동물이 고양이 또는 개, 객체의 종류, 독사진 대상이 아기, 여성, 또는 얼굴, 풍경이 나무, 산, 해변, 하늘, 해돋이, 도시, 또는 노을)을 포함할 수 있다.
문항 21. 문항 19 또는 20에서, 상기 이미지 효과는 원본 이미지(original)의 장면 정보에 기반하여, 자동 화질 보정(예: auto enhance), 원본 이미지로부터 추천 구도로 이미지의 일부 영역을 캡쳐하여 구도를 변화(예: smart crop), 장면 정보에 기초한 이미지 효과(예: 색상, 투명도, 스타일, 명암 또는 채도 중 적어도 하나를 변화시키는 일련의 동작을 통한 다양한 사진 필터 효과(AI filter)), 인물 사진의 경우 배경의 색상 또는 포커스 변화(예: Bokeh/color picker), 다수의 이미지로부터 캡쳐된 작은 사진들로 구성된 콜라쥬(collage) 생성, 흑백 이미지(예: B/W) 생성, 또는 가로 비율이 세로에 비해 상대적으로 매우 큰 이미지(예: ultra wide) 제공을 포함할 수 있다.
문항 22. 문항 1 내지 21에 기재된 전자 장치의 동작 및 특징에 대응하는 방법이 제공될 수 있다.
본 문서에 개시된 실시 예들은 기술 내용을 쉽게 설명하고 이해를 돕기 위한 예로서 제시한 것일 뿐이며, 본 문서에 개시된 기술의 범위를 한정하고자 하는 것은 아니다. 따라서 본 문서에 개시된 기술의 범위는 여기에 개시된 실시 예들 이외에도 본 문서에 개시된 다양한 실시 예의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태를 포함되는 것으로 해석되어야 한다.

Claims (11)

  1. 전자 장치에 있어서,
    카메라 모듈;
    센서 모듈;
    상기 카메라 모듈 및 상기 센서 모듈과 작동적으로 연결된 적어도 하나의 프로세서; 및
    상기 적어도 하나의 프로세서와 작동적으로 연결된 메모리;를 포함하고,
    상기 메모리는, 실행시, 상기 프로세서가
    상기 센서 모듈을 통해 감지된 조도 및 상기 카메라 모듈을 통해 감지된 장면 정보 중 적어도 하나를 기반으로 결정된 상기 카메라 모듈의 촬영 모드에 따라 상기 카메라 모듈을 제어하여 지정된 시간 동안 제1 속성을 갖는 다수 개의 제1 이미지와 제2 속성을 갖는 적어도 하나의 제2 이미지를 획득하도록 하고,
    상기 다수의 제1 이미지로부터 이벤트가 검출되면 이벤트 구간에 대한 정보를 추출하고, 상기 적어도 하나의 제2 이미지로부터 상기 촬영 모드에 따라 적어도 하나의 제3 이미지를 선택하여 버퍼링하고,
    상기 다수의 제1 이미지의 상기 이벤트 구간에 대한 정보에 기반하여 적어도 하나의 제1 콘텐트를 생성하고,
    상기 적어도 하나의 제3 이미지 중 적어도 일부에 대한 평가를 수행하여 적어도 하나의 제4 이미지를 선택하고, 선택된 상기 적어도 하나의 제4 이미지에 기반하여 적어도 하나의 제2 콘텐트를 생성하도록 설정된,
    전자 장치.
  2. 제1항에 있어서,
    상기 프로세서는, 상기 지정된 시간 동안, 상기 제1 이미지를 제1 주기로 획득하고, 상기 결정된 촬영 모드에 따라 제1 촬영 모드에서 상기 제2 이미지를 제2 주기로 획득하며, 제2 촬영 모드에서 상기 제2 이미지를 제3 주기로 획득하도록 설정되며,
    상기 제2 주기는 상기 제1 주기 보다 상대적으로 길고, 상기 제3 주기는 상기 제2 주기 보다 상대적으로 길게 설정된 전자 장치.
  3. 제2항에 있어서,
    상기 프로세서는, 상기 제1 촬영 모드에서 상기 적어도 하나의 제2 이미지에 대해 이미지 프레임들 간의 유사성에 기반하여 상기 적어도 하나의 제3 이미지를 선택하도록 설정된 전자 장치.
  4. 제2항에 있어서,
    상기 프로세서는, 상기 제2 촬영 모드에서 상기 적어도 하나의 제2 이미지의 이미지 품질에 기초하여 상기 적어도 하나의 제3 이미지를 선택하도록 설정된 전자 장치.
  5. 제2항에 있어서,
    상기 프로세서는, 상기 제1 촬영 모드에서, 상기 적어도 하나의 제3 이미지에 대한 분석을 수행하여 적어도 하나의 제5 이미지를 선택하고, 상기 적어도 하나의 제5 이미지에 대해 상기 평가를 수행하여 상기 적어도 하나의 제4 이미지를 선택하도록 설정된 전자 장치.
  6. 제5항에 있어서,
    상기 분석은 상기 제3 이미지에 대한 블러 검출(blur detection), 블링크 검출(blink detection), 표정 기반 필터링(expression based filer) 또는 유사도 기반 필터링(affine similarity) 중 적어도 하나를 포함하도록 설정된 전자 장치.
  7. 제1항에 있어서,
    상기 프로세서는 상기 적어도 하나의 제4 이미지의 장면 정보에 기반하여 상기 적어도 하나의 제4 이미지 내의 적어도 일부 요소에 대해 색상, 투명도, 스타일, 명암 또는 채도 중 적어도 하나를 변화시키는 이미지 효과 적용, 화질 보정, 구도 변화, 또는 콜라쥬 생성 중 적어도 하나를 통해 상기 적어도 하나의 제2 콘텐트를 생성하도록 설정된 전자 장치.
  8. 제1항에 있어서,
    상기 프로세서는 상기 다수의 제1 이미지로부터 모션 정보를 획득하고, 상기 모션 정보의 변화에 기반하여 상기 이벤트 구간 정보를 추출하도록 설정된 전자 장치.
  9. 제8항에 있어서,
    상기 이벤트 구간 정보는 상기 이벤트에 대한 시간 정보, 장면 정보, 길이 정보, 또는 속도 정보 중 적어도 하나를 포함하는 전자 장치.
  10. 제9항에 있어서,
    상기 프로세서는 상기 이벤트 구간 정보에 기초하여, 구간 길이, 재생 속도, 재생 순서 또는 상기 장면 정보에 기반한 이미지 효과 중 적어도 하나를 선택적으로 변경하여 상기 다수의 제1 이미지 중 적어도 일부가 연속적으로 재생되는 동영상을 생성하도록 설정된 전자 장치.
  11. 제1항 내지 제10항 중 어느 한 항에 기재된 전자 장치에 의해 수행되는 방법.
PCT/KR2021/019640 2020-12-22 2021-12-22 카메라를 구비하는 전자 장치 및 그 방법 Ceased WO2022139475A1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP21844605.2A EP4047923A4 (en) 2020-12-22 2021-12-22 ELECTRONIC DEVICE INCLUDING A CAMERA AND METHODS THEREOF
US17/571,048 US11930281B2 (en) 2020-12-22 2022-01-07 Electronic device with camera and method thereof
US18/598,501 US12316982B2 (en) 2020-12-22 2024-03-07 Electronic device with camera and method thereof
US19/217,710 US20250287113A1 (en) 2020-12-22 2025-05-23 Electronic device with camera and method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2020-0180859 2020-12-22
KR1020200180859A KR20220090054A (ko) 2020-12-22 2020-12-22 카메라를 구비하는 전자 장치 및 그 방법

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/571,048 Continuation US11930281B2 (en) 2020-12-22 2022-01-07 Electronic device with camera and method thereof

Publications (1)

Publication Number Publication Date
WO2022139475A1 true WO2022139475A1 (ko) 2022-06-30

Family

ID=81579524

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/019640 Ceased WO2022139475A1 (ko) 2020-12-22 2021-12-22 카메라를 구비하는 전자 장치 및 그 방법

Country Status (2)

Country Link
KR (1) KR20220090054A (ko)
WO (1) WO2022139475A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080106668A (ko) * 2007-06-04 2008-12-09 삼성전자주식회사 휴대단말기의 영상 촬영 방법
JP2016052013A (ja) * 2014-08-29 2016-04-11 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2017041797A (ja) * 2015-08-20 2017-02-23 キヤノン株式会社 撮像装置、その制御方法及びプログラム
KR20170097414A (ko) * 2016-02-18 2017-08-28 삼성전자주식회사 전자 장치 및 그의 동작 방법
JP2019186791A (ja) * 2018-04-12 2019-10-24 シャープ株式会社 撮像装置、撮像装置の制御方法、および制御プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080106668A (ko) * 2007-06-04 2008-12-09 삼성전자주식회사 휴대단말기의 영상 촬영 방법
JP2016052013A (ja) * 2014-08-29 2016-04-11 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2017041797A (ja) * 2015-08-20 2017-02-23 キヤノン株式会社 撮像装置、その制御方法及びプログラム
KR20170097414A (ko) * 2016-02-18 2017-08-28 삼성전자주식회사 전자 장치 및 그의 동작 방법
JP2019186791A (ja) * 2018-04-12 2019-10-24 シャープ株式会社 撮像装置、撮像装置の制御方法、および制御プログラム

Also Published As

Publication number Publication date
KR20220090054A (ko) 2022-06-29

Similar Documents

Publication Publication Date Title
WO2020032464A1 (en) Method for processing image based on scene recognition of image and electronic device therefor
WO2021086040A1 (en) Method for providing preview and electronic device for displaying preview
WO2022203447A1 (ko) 이미지 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022030838A1 (ko) 프리뷰 이미지를 제어하는 전자 장치 및 방법
WO2023075335A1 (ko) 복수의 렌즈들을 구비하는 전자 장치 및 그 제어 방법
WO2022092706A1 (ko) 복수의 카메라를 이용한 사진 촬영 방법 및 그 장치
WO2022102972A1 (ko) 이미지 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022149654A1 (ko) 흔들림 보정을 수행하는 전자 장치 및 그 동작 방법
WO2022031050A1 (ko) 이미지를 생성하는 전자 장치 및 방법
WO2021256709A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2021162396A1 (ko) 복수의 콘텐츠를 생성하는 방법 및 그 전자 장치
WO2023132629A1 (ko) 카메라를 포함하는 전자 장치 및 움직이는 물체를 촬영하는 동영상 생성 방법
WO2022191585A1 (ko) 전자 장치의 촬영 방법 및 그 전자 장치
WO2023033333A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 그 동작 방법
WO2022260252A1 (ko) 카메라 모듈을 포함하는 전자 장치 및 그 전자 장치의 동작 방법
WO2023058878A1 (ko) 이미지 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022139475A1 (ko) 카메라를 구비하는 전자 장치 및 그 방법
WO2023146286A1 (ko) 이미지의 화질을 개선하기 위한 전자 장치 및 방법
WO2023146236A1 (ko) 카메라 모듈을 포함하는 전자 장치
WO2022103050A1 (ko) 복수의 이미지 센서들을 포함하는 전자 장치 및 그 동작 방법
WO2022092607A1 (ko) 이미지 센서를 포함하는 전자 장치 및 그 동작 방법
WO2021251631A1 (ko) 초점 조절 기능을 포함하는 전자 장치 및 방법
WO2025154936A1 (ko) 이미지를 처리하는 방법 및 그 전자 장치
WO2024053824A1 (ko) 이미지를 제공하는 전자 장치 및 그의 동작 방법
WO2024076101A1 (ko) 인공지능 기반의 영상 처리 방법 및 이를 지원하는 전자 장치

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2021844605

Country of ref document: EP

Effective date: 20220127

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21844605

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE