WO2025058253A1 - 이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체 - Google Patents

이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체 Download PDF

Info

Publication number
WO2025058253A1
WO2025058253A1 PCT/KR2024/011822 KR2024011822W WO2025058253A1 WO 2025058253 A1 WO2025058253 A1 WO 2025058253A1 KR 2024011822 W KR2024011822 W KR 2024011822W WO 2025058253 A1 WO2025058253 A1 WO 2025058253A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
electronic device
data
raw data
buffer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
PCT/KR2024/011822
Other languages
English (en)
French (fr)
Inventor
유희준
신민수
최원정
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020230136257A external-priority patent/KR20250038103A/ko
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to EP24865695.1A priority Critical patent/EP4697210A4/en
Priority to CN202480039002.3A priority patent/CN121336205A/zh
Priority to US18/802,774 priority patent/US20250087018A1/en
Publication of WO2025058253A1 publication Critical patent/WO2025058253A1/ko
Anticipated expiration legal-status Critical
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31—User authentication
    • G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/52—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems during program execution, e.g. stack integrity ; Preventing unwanted data erasure; Buffer overflow
    • G06F21/53—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems during program execution, e.g. stack integrity ; Preventing unwanted data erasure; Buffer overflow by executing in a restricted environment, e.g. sandbox or secure virtual machine
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/60—Memory management
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H—ELECTRICITY
    • H05—ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05B—ELECTRIC HEATING; ELECTRIC LIGHT SOURCES NOT OTHERWISE PROVIDED FOR; CIRCUIT ARRANGEMENTS FOR ELECTRIC LIGHT SOURCES, IN GENERAL
    • H05B47/00—Circuit arrangements for operating light sources in general, i.e. where the type of light source is not relevant
    • H05B47/10—Controlling the light source
    • H05B47/155—Coordinated control of two or more light sources

Definitions

  • the present disclosure relates to an electronic device including an image sensor according to one embodiment, a method of operating the same, and a recording medium.
  • Biometric authentication refers to a technology that uses physical and behavioral characteristics of a person to identify them and grant access to specific systems or data. Unlike traditional authentication methods (e.g., PIN, pattern, password), which require complex settings for enhanced security and are difficult to remember, biometric authentication does not require separate memory and is very convenient for users if it has reliable recognition performance. Due to these advantages, biometric authentication is widely used in many systems that require user authentication, such as bank ATMs and mobile devices. PIN, pattern, and password methods can be easily changed to new PIN, pattern, and passwords if the settings are leaked externally, but biometric data (e.g., face, iris, fingerprint, vein) used in biometric authentication cannot be changed once leaked externally and the damage can be permanent. For this reason, it is very important to safely protect biometric data used in biometric authentication.
  • biometric data e.g., face, iris, fingerprint, vein
  • Electronic devices may include user interfaces that provide augmented reality (AR), virtual reality (VR), mixed reality (MR), and extended reality (XR) experiences.
  • AR augmented reality
  • VR virtual reality
  • MR mixed reality
  • XR extended reality
  • Biometric authentication using a camera can perform authentication by receiving biometric data (e.g. face, iris, fingerprint, vein) from the camera and applying a biometric authentication algorithm.
  • biometric data e.g. face, iris, fingerprint, vein
  • Embodiments of the present disclosure can provide an electronic device capable of performing operations in a secure area (e.g., biometric authentication operations) and operations in a non-secure area through the same camera.
  • a secure area e.g., biometric authentication operations
  • a non-secure area e.g., biometric authentication operations
  • an electronic device may include an image sensor, an image preprocessor including circuitry, a memory storing instructions, and at least one processor including a processing circuit.
  • the instructions when individually and/or collectively executed by the at least one processor, may cause the electronic device to acquire raw data including biometric data using the image sensor.
  • the instructions when individually and/or collectively executed by the at least one processor, may cause the electronic device to store the raw data as first image data in a first buffer.
  • the instructions, when individually and/or collectively executed by the at least one processor may cause the electronic device to store second image data generated by applying a change operation to the raw data using the image preprocessor in a second buffer.
  • the instructions when individually and/or collectively executed by at least one processor, may cause the electronic device to transfer the first image data stored in the first buffer to a first application belonging to a secure area, and to apply a first algorithm for biometric authentication to the first image data.
  • the instructions when individually and/or collectively executed by at least one processor, may cause the electronic device to transfer the second image data stored in the second buffer to a second application belonging to a non-secure area, and to apply a second algorithm, distinct from the first algorithm, to the second image data.
  • a method of operating an electronic device may include an operation of acquiring raw data including biometric data by using an image sensor of the electronic device.
  • the method may include an operation of storing the raw data as first image data in a first buffer.
  • the method may include an operation of storing second image data generated by applying a change operation to the raw data in a second buffer.
  • the method may include an operation of transferring the first image data stored in the first buffer to a first application belonging to a secure area, and applying a first algorithm for biometric authentication to the first image data.
  • the method may include an operation of transferring the second image data stored in the second buffer to a second application belonging to a non-secure area, and applying a second algorithm distinct from the first algorithm to the second image data.
  • a computer readable recording medium having stored thereon instructions that, when individually and/or collectively executed by at least one processor of an electronic device, cause the electronic device to perform at least one operation, wherein the at least one operation may include: acquiring raw data including biometric data using an image sensor of the electronic device.
  • the at least one operation may include: storing the raw data as first image data in a first buffer.
  • the at least one operation may include: storing second image data generated by applying a change operation to the raw data in a second buffer.
  • the at least one operation may include: transmitting the first image data stored in the first buffer to a first application belonging to a secure area, and applying a first algorithm for biometric authentication to the first image data.
  • the at least one operation may include transmitting the second image data stored in the second buffer to a second application belonging to the non-secure area, and applying a second algorithm distinct from the first algorithm to the second image data.
  • FIG. 1 is a block diagram of an electronic device within a network environment, according to one embodiment.
  • FIG. 2A is a block diagram illustrating a camera module according to one embodiment.
  • FIG. 2b is a block diagram of an electronic device according to one embodiment.
  • FIG. 2c is a block diagram of an electronic device according to one embodiment.
  • FIG. 5 is a flowchart of a method of operating an electronic device according to one embodiment.
  • FIG. 8 is a diagram illustrating the operation of an electronic device according to one embodiment.
  • FIG. 9 is a flowchart of a method of operating an electronic device according to one embodiment.
  • FIG. 10A is a drawing illustrating an electronic device according to one embodiment.
  • FIG. 10b is a drawing illustrating an electronic device according to one embodiment.
  • FIG. 10c is a drawing illustrating an electronic device according to one embodiment.
  • FIG. 11A is a diagram illustrating a light emitter and an image sensor of an electronic device according to one embodiment.
  • FIG. 11b is a diagram illustrating a light emitter and an image sensor of an electronic device according to one embodiment.
  • FIG. 12 is a drawing illustrating the operation of an electronic device according to one embodiment.
  • FIG. 13A is a diagram illustrating the operation of an electronic device according to one embodiment.
  • FIG. 13b is a diagram illustrating the operation of an electronic device according to one embodiment.
  • FIG. 14 is a drawing illustrating the operation of an electronic device according to one embodiment.
  • FIG. 15 is a flowchart of a method of operating an electronic device according to one embodiment.
  • FIG. 16 is a flowchart of a method of operating an electronic device according to one embodiment.
  • FIG. 1 is a block diagram of an electronic device (101) within a network environment (100), according to one embodiment.
  • an electronic device (101) may communicate with an electronic device (102) via a first network (198) (e.g., a short-range wireless communication network), or may communicate with at least one of an electronic device (104) or a server (108) via a second network (199) (e.g., a long-range wireless communication network).
  • the electronic device (101) may communicate with the electronic device (104) via the server (108).
  • the electronic device (101) may include a processor (120), a memory (130), an input module (150), an audio output module (155), a display module (160), an audio module (170), a sensor module (176), an interface (177), a connection terminal (178), a haptic module (179), a camera module (180), a power management module (188), a battery (189), a communication module (190), a subscriber identification module (196), or an antenna module (197).
  • the electronic device (101) may omit at least one of these components (e.g., the connection terminal (178)), or may have one or more other components added.
  • some of these components e.g., the sensor module (176), the camera module (180), or the antenna module (197) may be integrated into one component (e.g., the display module (160)).
  • the processor (120) may include various processing circuits and/or multiple processors.
  • processor as used herein, including in the claims, may include various processing circuits including at least one processor, one or more of which may be configured to perform various functions described herein, individually and/or collectively, in a distributed manner.
  • processor when “processor,” “at least one processor,” and “one or more processors” are described as being configured to perform various functions, these terms may encompass, for example, without limitation, a situation where one processor performs some of the recited functions and other processor(s) perform other of the recited functions, and a situation where a single processor performs all of the recited functions.
  • the at least one processor may include a combination of processors that perform various of the recited/disclosed functions, for example, in a distributed manner.
  • the at least one processor may execute program instructions to achieve or perform various functions.
  • the processor (120) may control at least one other component (e.g., a hardware or software component) of the electronic device (101) connected to the processor (120) by executing, for example, software (e.g., a program (140)), and may perform various data processing or calculations.
  • software e.g., a program (140)
  • the processor (120) may store a command or data received from another component (e.g., a sensor module (176) or a communication module (190)) in a volatile memory (132), process the command or data stored in the volatile memory (132), and store result data in a nonvolatile memory (134).
  • the processor (120) may include a main processor (121) (e.g., a central processing unit or an application processor) or a secondary processor (123) (e.g., a graphic processing unit, a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor) that may operate independently or together therewith.
  • main processor (121) e.g., a central processing unit or an application processor
  • a secondary processor (123) e.g., a graphic processing unit, a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor
  • the secondary processor (123) may be configured to use lower power than the main processor (121) or to be specialized for a given function.
  • the secondary processor (123) may be implemented separately from the main processor (121) or as a part thereof.
  • the auxiliary processor (123) may control at least a portion of functions or states associated with at least one of the components of the electronic device (101) (e.g., the display module (160), the sensor module (176), or the communication module (190)), for example, on behalf of the main processor (121) while the main processor (121) is in an inactive (e.g., sleep) state, or together with the main processor (121) while the main processor (121) is in an active (e.g., application execution) state.
  • the auxiliary processor (123) e.g., an image signal processor or a communication processor
  • the auxiliary processor (123) may include a hardware structure specialized for processing artificial intelligence models.
  • the artificial intelligence models may be generated through machine learning. Such learning may be performed, for example, in the electronic device (101) itself on which the artificial intelligence model is executed, or may be performed through a separate server (e.g., server (108)).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but is not limited to the examples described above.
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • the artificial neural network may be one of a deep neural network (DNN), a convolutional neural network (CNN), a recurrent neural network (RNN), a restricted Boltzmann machine (RBM), a deep belief network (DBN), a bidirectional recurrent deep neural network (BRDNN), deep Q-networks, or a combination of two or more of the above, but is not limited to the examples described above.
  • the artificial intelligence model may additionally or alternatively include a software structure.
  • the memory (130) can store various data used by at least one component (e.g., processor (120) or sensor module (176)) of the electronic device (101).
  • the data can include, for example, software (e.g., program (140)) and input data or output data for commands related thereto.
  • the memory (130) can include volatile memory (132) or nonvolatile memory (134).
  • the program (140) may be stored as software in memory (130) and may include, for example, an operating system (142), middleware (144), or an application (146).
  • the input module (150) can receive commands or data to be used in a component of the electronic device (101) (e.g., a processor (120)) from an external source (e.g., a user) of the electronic device (101).
  • the input module (150) can include, for example, a microphone, a mouse, a keyboard, a key (e.g., a button), or a digital pen (e.g., a stylus pen).
  • the audio output module (155) can output an audio signal to the outside of the electronic device (101).
  • the audio output module (155) can include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive an incoming call. According to one embodiment, the receiver can be implemented separately from the speaker or as a part thereof.
  • the display module (160) can visually provide information to an external party (e.g., a user) of the electronic device (101).
  • the display module (160) can include, for example, a display, a holographic device, or a projector and a control circuit for controlling the device.
  • the display module (160) can include a touch sensor configured to detect a touch, or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the audio module (170) can convert sound into an electrical signal, or vice versa, convert an electrical signal into sound. According to one embodiment, the audio module (170) can obtain sound through an input module (150), or output sound through an audio output module (155), or an external electronic device (e.g., an electronic device (102)) (e.g., a speaker or a headphone) directly or wirelessly connected to the electronic device (101).
  • an electronic device e.g., an electronic device (102)
  • a speaker or a headphone directly or wirelessly connected to the electronic device (101).
  • the sensor module (176) can detect an operating state (e.g., power or temperature) of the electronic device (101) or an external environmental state (e.g., user state) and generate an electrical signal or data value corresponding to the detected state.
  • the sensor module (176) can include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface (177) may support one or more designated protocols that may be used to directly or wirelessly connect the electronic device (101) with an external electronic device (e.g., the electronic device (102)).
  • the interface (177) may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • connection terminal (178) may include a connector through which the electronic device (101) may be physically connected to an external electronic device (e.g., the electronic device (102)).
  • the connection terminal (178) may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (e.g., a headphone connector).
  • the haptic module (179) can convert an electrical signal into a mechanical stimulus (e.g., vibration or movement) or an electrical stimulus that a user can perceive through a tactile or kinesthetic sense.
  • the haptic module (179) can include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module (180) can capture still images and moving images.
  • the camera module (180) can include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module (188) can manage power supplied to the electronic device (101).
  • the power management module (188) can be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery (189) can power at least one component of the electronic device (101).
  • the battery (189) can include, for example, a non-rechargeable primary battery, a rechargeable secondary battery, or a fuel cell.
  • the communication module (190) may support establishment of a direct (e.g., wired) communication channel or a wireless communication channel between the electronic device (101) and an external electronic device (e.g., the electronic device (102), the electronic device (104), or the server (108)), and performance of communication through the established communication channel.
  • the communication module (190) may operate independently from the processor (120) (e.g., the application processor) and may include one or more communication processors that support direct (e.g., wired) communication or wireless communication.
  • the communication module (190) may include a wireless communication module (192) (e.g., a cellular communication module, a short-range wireless communication module, or a GNSS (global navigation satellite system) communication module) or a wired communication module (194) (e.g., a local area network (LAN) communication module or a power line communication module).
  • a wireless communication module (192) e.g., a cellular communication module, a short-range wireless communication module, or a GNSS (global navigation satellite system) communication module
  • a wired communication module (194) e.g., a local area network (LAN) communication module or a power line communication module.
  • a corresponding communication module may communicate with an external electronic device (104) via a first network (198) (e.g., a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network (199) (e.g., a long-range communication network such as a legacy cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., a LAN or WAN)).
  • a first network (198) e.g., a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network (199) e.g., a long-range communication network such as a legacy cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., a LAN or WAN)
  • a computer network e.g.,
  • the wireless communication module (192) may use subscriber information (e.g., an international mobile subscriber identity (IMSI)) stored in the subscriber identification module (196) to identify or authenticate the electronic device (101) within a communication network such as the first network (198) or the second network (199).
  • subscriber information e.g., an international mobile subscriber identity (IMSI)
  • IMSI international mobile subscriber identity
  • the wireless communication module (192) can support a 5G network and next-generation communication technology after a 4G network, for example, NR access technology (new radio access technology).
  • the NR access technology can support high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), terminal power minimization and connection of multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency communications)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low-latency communications
  • the wireless communication module (192) can support, for example, a high-frequency band (e.g., mmWave band) to achieve a high data transmission rate.
  • a high-frequency band e.g., mmWave band
  • the wireless communication module (192) may support various technologies for securing performance in a high-frequency band, such as beamforming, massive multiple-input and multiple-output (MIMO), full dimensional MIMO (FD-MIMO), array antenna, analog beam-forming, or large scale antenna.
  • the wireless communication module (192) may support various requirements specified in an electronic device (101), an external electronic device (e.g., an electronic device (104)), or a network system (e.g., a second network (199)).
  • the wireless communication module (192) can support a peak data rate (e.g., 20 Gbps or more) for realizing 1eMBB, a loss coverage (e.g., 164 dB or less) for realizing mMTC, or a U-plane latency (e.g., 0.5 ms or less for downlink (DL) and uplink (UL) each, or 1 ms or less for round trip) for realizing URLLC.
  • a peak data rate e.g., 20 Gbps or more
  • a loss coverage e.g., 164 dB or less
  • U-plane latency e.g., 0.5 ms or less for downlink (DL) and uplink (UL) each, or 1 ms or less for round trip
  • the antenna module (197) can transmit or receive signals or power to or from the outside (e.g., an external electronic device).
  • the antenna module (197) can include an antenna including a radiator formed of a conductor or a conductive pattern formed on a substrate (e.g., a PCB).
  • the antenna module (197) can include a plurality of antennas (e.g., an array antenna).
  • at least one antenna suitable for a communication method used in a communication network, such as the first network (198) or the second network (199) can be selected from the plurality of antennas by, for example, the communication module (190).
  • a signal or power can be transmitted or received between the communication module (190) and the external electronic device through the selected at least one antenna.
  • another component e.g., a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • the antenna module (197) may form a mmWave antenna module.
  • the mmWave antenna module may include a printed circuit board, an RFIC positioned on or adjacent a first side (e.g., a bottom side) of the printed circuit board and capable of supporting a designated high-frequency band (e.g., a mmWave band), and a plurality of antennas (e.g., an array antenna) positioned on or adjacent a second side (e.g., a top side or a side) of the printed circuit board and capable of transmitting or receiving signals in the designated high-frequency band.
  • a first side e.g., a bottom side
  • a plurality of antennas e.g., an array antenna
  • At least some of the above components may be connected to each other and exchange signals (e.g., commands or data) with each other via a communication method between peripheral devices (e.g., a bus, a general purpose input and output (GPIO), a serial peripheral interface (SPI), or a mobile industry processor interface (MIPI)).
  • peripheral devices e.g., a bus, a general purpose input and output (GPIO), a serial peripheral interface (SPI), or a mobile industry processor interface (MIPI)).
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • commands or data may be transmitted or received between the electronic device (101) and an external electronic device (104) via a server (108) connected to a second network (199).
  • Each of the external electronic devices (102, or 104) may be the same or a different type of device as the electronic device (101).
  • all or part of the operations executed in the electronic device (101) may be executed in one or more of the external electronic devices (102, 104, or 108). For example, when the electronic device (101) is to perform a certain function or service automatically or in response to a request from a user or another device, the electronic device (101) may, instead of or in addition to executing the function or service itself, request one or more external electronic devices to perform at least a part of the function or service.
  • One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit the result of the execution to the electronic device (101).
  • the electronic device (101) may provide the result, as is or additionally processed, as at least a part of a response to the request.
  • cloud computing, distributed computing, mobile edge computing (MEC), or client-server computing technology may be used, for example.
  • the electronic device (101) may provide an ultra-low latency service by using distributed computing or mobile edge computing, for example.
  • the external electronic device (104) may include an IoT (Internet of Things) device.
  • the server (108) may be an intelligent server using machine learning and/or a neural network.
  • the external electronic device (104) or the server (108) may be included in the second network (199).
  • the electronic device (101) can be applied to intelligent services (e.g., smart home, smart city, smart car, or healthcare) based on 5G communication technology and IoT-related technology.
  • FIG. 2A is a block diagram (200) illustrating a camera module (180) according to one embodiment.
  • the camera module (180) may include a lens assembly (210) (e.g., including a lens), a flash (220), an image sensor (230), an image stabilizer (240) (e.g., including circuitry), a memory (250) (e.g., a buffer memory), and/or an image signal processor (260) (e.g., including image processing circuitry).
  • the lens assembly (210) may include at least one lens and may collect light emitted from a subject that is a target of image capturing.
  • the lens assembly (210) may include one or more lenses.
  • the camera module (180) may include a plurality of lens assemblies (210).
  • the camera module (180) may form, for example, a dual camera, a 360-degree camera, or a spherical camera.
  • Some of the plurality of lens assemblies (210) may have the same lens properties (e.g., angle of view, focal length, autofocus, f number, or optical zoom), or at least one lens assembly may have one or more lens properties that are different from the lens properties of the other lens assemblies.
  • the lens assembly (210) may include, for example, a wide-angle lens or a telephoto lens.
  • the flash (220) can emit light used to enhance light emitted or reflected from a subject.
  • the flash (220) can include one or more light-emitting diodes (e.g., red-green-blue (RGB) LEDs, white LEDs, infrared LEDs, or ultraviolet LEDs), or a xenon lamp.
  • the image sensor (230) can acquire an image corresponding to the subject by converting light emitted or reflected from the subject and transmitted through the lens assembly (210) into an electrical signal.
  • the image sensor (230) can include one image sensor selected from among image sensors having different properties, such as an RGB sensor, a black and white (BW) sensor, an IR sensor, or a UV sensor, a plurality of image sensors having the same property, or a plurality of image sensors having different properties.
  • Each image sensor included in the image sensor (230) may be implemented using, for example, a CCD (charged coupled device) sensor or a CMOS (complementary metal oxide semiconductor) sensor.
  • the image stabilizer (240) may include various circuits and may move at least one lens or image sensor (230) included in the lens assembly (210) in a specific direction or control the operating characteristics of the image sensor (230) (e.g., adjust the read-out timing) in response to the movement of the camera module (180) or the electronic device (101) including the same. This allows compensating for at least some of the negative effects of the movement on the image being captured.
  • the image stabilizer (240) may detect such movement of the camera module (180) or the electronic device (101) by using a gyro sensor (not shown) or an acceleration sensor (not shown) disposed inside or outside the camera module (180).
  • the image stabilizer (240) may be implemented as, for example, an optical image stabilizer.
  • the memory (250) can temporarily store at least a portion of an image acquired through the image sensor (230) for the next image processing task. For example, when image acquisition is delayed due to a shutter, or when a plurality of images are acquired at high speed, the acquired original image (e.g., a Bayer-patterned image or a high-resolution image) is stored in the memory (250), and a corresponding copy image (e.g., a low-resolution image) can be previewed through the display module (160). Thereafter, when a specified condition is satisfied (e.g., a user input or a system command), at least a portion of the original image stored in the memory (250) can be acquired and processed by, for example, an image signal processor (260). According to one embodiment, the memory (250) can be configured as at least a portion of the memory (130), or as a separate memory that operates independently therefrom.
  • a specified condition e.g., a user input or a system command
  • the image signal processor (260) may include various image processing circuits and may perform one or more image processing operations on an image acquired through an image sensor (230) or an image stored in a memory (250).
  • the one or more image processing operations may include, for example, depth map generation, 3D modeling, panorama generation, feature point extraction, image synthesis, or image compensation (e.g., noise reduction, resolution adjustment, brightness adjustment, blurring, sharpening, or softening).
  • the image signal processor (260) may perform control (e.g., exposure time control, or read-out timing control) on at least one of the components included in the camera module (180) (e.g., the image sensor (230)).
  • the image processed by the image signal processor (260) may be stored back in the memory (250) for further processing or provided to an external component of the camera module (180) (e.g., the memory (130), the display module (160), the electronic device (102), the electronic device (104), or the server (108)).
  • the image signal processor (260) may include at least one of the processors (120). It may be configured as a part of the image signal processor (260) or as a separate processor that operates independently of the processor (120). When the image signal processor (260) is configured as a separate processor from the processor (120), at least one image processed by the image signal processor (260) may be displayed through the display module (160) as is or after undergoing additional image processing by the processor (120).
  • the electronic device (101) may include a plurality of camera modules (180), each having different properties or functions.
  • at least one of the plurality of camera modules (180) may be a wide-angle camera, and at least another may be a telephoto camera.
  • at least one of the plurality of camera modules (180) may be a front camera, and at least another may be a rear camera.
  • FIG. 2b is a block diagram of an electronic device (101), according to one embodiment.
  • the electronic device (101) may include an image sensor (230), an image preprocessor (270) (e.g., including various circuits), a memory (130), and a processor (120) (e.g., including processing circuits).
  • an image sensor 230
  • an image preprocessor 270
  • a memory 130
  • a processor 120
  • the operation of the electronic device (101) may be controlled by the processor (120) of the electronic device (101) (e.g., the processor (120) of FIG. 1 and/or the image signal processor (260) of FIG. 2A).
  • the electronic device (101) performing a specific operation may be that the electronic device (101) or a component included in the electronic device (101) is controlled by the processor (120) of the electronic device (101).
  • the electronic device (101) may include one or more processors (120), and for the convenience of explanation, in the following, even when a plurality of processors (120) are implemented, the term “operation of the electronic device (101)” or “operation of the processor (120)” will be described.
  • the electronic device (101) may acquire raw data using the image sensor (230).
  • the “raw data” may be data acquired through the image sensor (230) (e.g., an image corresponding to a subject (200, 201)).
  • the subject (200, 201) may include a human face portion (200) and/or a human eye portion (201), but this is only an example.
  • the raw data acquired through the image sensor (230) may include biometric data (e.g., face, iris, fingerprint, vein).
  • the electronic device (101) may perform image processing (e.g., image preprocessing and/or change operation) on raw data using the image preprocessor (270).
  • the image preprocessor (270) may be a hardware module including various circuits that perform image processing (e.g., image preprocessing and/or change operation).
  • the image preprocessor (270) may receive raw data acquired through the image sensor (230).
  • the image preprocessor (270) may perform image preprocessing (e.g., 3A (auto focus, auto exposure, auto white balance)) and/or change operation on the raw data.
  • the change operation is an operation that changes (or modifies) the biometric data, and the change operation will be described later with reference to FIG. 3.
  • the electronic device (101) may store data (e.g., image data) on which image processing (e.g., image preprocessing and/or modification operations) has been performed by the image preprocessor (270) in the memory (130).
  • the image preprocessor (270) may transmit data (e.g., image data) on which image processing (e.g., image preprocessing and/or modification operations) has been performed to the memory (130).
  • the memory (130) may store data transmitted from the image preprocessor (270).
  • FIG. 2c is a block diagram of an electronic device (101), according to one embodiment.
  • the electronic device (101) may include a processor (120) (e.g., including a processing circuit), a camera module (180) (e.g., including a camera), a display (274) (e.g., at least one display included in the display module (160) of FIG. 1), a sensor (276) (e.g., at least one sensor included in the sensor module (176) of FIG. 1), a communication circuit (278) (e.g., at least one communication circuit included in the communication module (190) of FIG. 1), and a memory (130).
  • a processor 120
  • a camera module 180
  • a display e.g., at least one display included in the display module (160) of FIG. 1
  • a sensor e.g., at least one sensor included in the sensor module (176) of FIG. 1
  • a communication circuit (278) e.g., at least one communication circuit included in the communication module (190) of FIG. 1
  • a memory 130
  • the memory (130) may include an XR framework (280) and a hardware abstraction layer (299).
  • the XR framework (280) may be designed to leverage OpenXR standard-based rendering and input structures on the platform.
  • the hardware abstraction layer (299) may include an interface for hardware operations.
  • the XR framework (280) may include a compositing presentation manager (CPM) (281), a perception abstract layer (286), and a perception service (290).
  • CCM compositing presentation manager
  • a perception abstract layer (286)
  • a perception service 290
  • the recognition abstraction layer (286) may be an interface for the recognition service (290) and the CPM (281).
  • the recognition service (290) can estimate tracking data through the recognition solution(s) based on the acquired sensor data.
  • the recognition service (290) can include location tracking (291), spatial recognition (292), gesture tracking (293), eye tracking (294), face tracking (295), and other tracking (296) (e.g., tracking for other configurations).
  • the electronic device (101) can estimate the 6DoF (6 degrees of freedom) pose of the electronic device (101) (e.g., HMD (head mounted device)) using the recognition camera and IMU input through the location tracking (291) (e.g., HeT (head tracking)) of the recognition service (290).
  • the electronic device (101) can reconstruct the surrounding environment in 3D using the recognition camera input and 6DoF pose and ToF (time of flight) through the spatial recognition (292) (e.g., SU (scene understanding)) of the recognition service (290) and perform a plane recognition operation based on this.
  • the electronic device (101) can also additionally utilize the shooting camera input for the spatial recognition (292).
  • the electronic device (101) can track the user's hand pose and recognize the gesture using the recognition camera and ToF input through the gesture tracking (293) (e.g., HaT (hand tracking)) of the recognition service (290).
  • the electronic device (101) can estimate and track the user's eye movement (or pupil movement) using the ET camera and the IR (infrared) LED through the eye tracking (294) (e.g., ET (eye tracking)) of the recognition service (290).
  • the electronic device (101) can estimate and track the user's facial movement using a camera for FT and an IR LED through face tracking (295) (e.g., FT (face tracking)) of the recognition service (290).
  • the electronic device (101) can estimate and track the user's iris using an IR camera (e.g., an IR sensor included in the image sensor of FIG. 2) and an IR LED through other tracking (296) (e.g., iris tracking) of the recognition service (290).
  • the CPM (281) may include a runtime (282), a pass-through (283), an input manager (284), and a compositor (285).
  • the CPM (281) may compose a rendered virtual node based on data (e.g., tracking data) obtained from a perception abstraction layer (286) through the input manager (284) and a node obtained through the pass-through (283) (e.g., a pass-through library).
  • FIG. 3 is a drawing illustrating the operation of an electronic device (101) according to one embodiment.
  • the memory (130) of the electronic device (101) may include a first buffer (310) (e.g., a secure buffer) and a second buffer (320) (e.g., a non-secure buffer).
  • the first buffer (310) and the second buffer (320) may be areas that are dynamically allocated in the memory (130).
  • the first buffer (310) may be a buffer in which data including biometric data is stored.
  • the secure buffer (e.g., 310) may be a buffer accessible from a secure area (e.g., the first area of FIG. 8).
  • the secure area may be an area corresponding to a secure execution environment (e.g., a trusted execution environment (TEE)).
  • the electronic device (101) may include a secure processor.
  • the secure processor may correspond to a physically separate secure area.
  • the secure area may be an area corresponding to a secure processor including a secure memory or an embedded secure element (eSE).
  • the secure processor or eSE of the electronic device (101) may process data stored in the secure buffer (e.g., 310).
  • the second buffer (320) e.g., the non-secure buffer
  • the non-secure buffer (e.g., 320) may be a buffer accessible from a non-secure area (e.g., the second area of FIG. 8).
  • the non-secure area may be an area corresponding to a general execution environment (e.g., a rich execution environment (REE)).
  • a general execution environment e.g., a rich execution environment (REE)
  • the electronic device (101) may store data (e.g., image data) on which image processing (e.g., image preprocessing and/or a modification operation) is performed by the image preprocessor (270) in the first buffer (310) and/or the second buffer (320) of the memory (130).
  • data e.g., image data
  • image processing e.g., image preprocessing and/or a modification operation
  • an electronic device (101) may perform image processing (e.g., image preprocessing and/or modification operation) on raw data acquired through an image sensor (230) using an image preprocessor (270).
  • image processing e.g., image preprocessing and/or modification operation
  • the electronic device (101) may perform image preprocessing (e.g., P of FIG. 3) on raw data using the image preprocessor (270).
  • the image preprocessing may include, for example, 3A (auto focus, auto exposure, auto white balance).
  • the electronic device (101) may perform a change operation (e.g., C of FIG. 3) on raw data using the image preprocessor (270).
  • FIG. 3 illustrates an example of performing image preprocessing and then performing a change operation, but the electronic device (101) may perform the change operation directly on raw data acquired through the image sensor (230), or may perform the change operation on raw data on which image preprocessing has been performed, as shown in FIG. 3.
  • the “change operation” may be an operation of changing (or transforming) biometric data included in raw data (or raw data on which image preprocessing has been performed).
  • the change operation may be an operation of performing image processing on biometric data or raw data including biometric data (or raw data on which image preprocessing has been performed).
  • the electronic device (101) may perform image processing on all of the raw data including biometric data (or raw data on which image preprocessing has been performed).
  • the electronic device (101) may perform image processing on an area corresponding to the biometric data in raw data including biometric data (or raw data on which image preprocessing has been performed).
  • a change operation e.g., image processing performed on the biometric data or raw data including biometric data (or raw data on which image preprocessing has been performed)
  • flank processing may be blank processing for the entire area of the raw data (or raw data on which image preprocessing has been performed), or an area corresponding to the biometric data included in the raw data (or raw data on which image preprocessing has been performed).
  • Removal of biometric data may be an operation of removing an area corresponding to the biometric data included in the raw data (or raw data on which image preprocessing has been performed). When removal of biometric data is performed, an area other than an area corresponding to the biometric data may be identical to the original data (e.g., raw data (or raw data on which image preprocessing has been performed)).
  • “Blur processing” may be blur processing for the entire area of raw data (or raw data on which image preprocessing has been performed), or an area corresponding to biometric data included in the raw data (or raw data on which image preprocessing has been performed). For example, when blur processing is performed for an area corresponding to biometric data, an area other than an area corresponding to the biometric data may be identical to the original data (e.g., raw data (or raw data on which image preprocessing has been performed)).
  • “Hashing processing” may be hatching processing for the entire area of raw data (or raw data on which image preprocessing has been performed) or an area corresponding to biometric data included in the raw data (or raw data on which image preprocessing has been performed). For example, when hatching is performed on an area corresponding to biometric data, an area other than the area corresponding to biometric data may be identical to the original data (e.g., raw data (or raw data on which image preprocessing has been performed)).
  • the electronic device (101) may identify a location of biometric data in raw data (or raw data on which image preprocessing has been performed) and perform image processing (e.g., at least one of blanking, removal of biometric data, blurring, or hatching) on the location of the identified biometric data.
  • image processing e.g., at least one of blanking, removal of biometric data, blurring, or hatching
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) may store information on the location of biometric data to be included in the raw data in the memory (130) before the raw data is acquired.
  • the electronic device (101) can identify a location of biometric data in raw data (or raw data on which image preprocessing has been performed) based on information stored in the memory (130) (e.g., information on a location of biometric data to be included in the raw data).
  • the electronic device (101) can include a memory (130) in which information on a location of biometric data to be included in the raw data is stored.
  • the electronic device (101) can identify a location of biometric data at a first point in time based on first raw data or image data corresponding to the first raw data, and store information on the location of the identified biometric data in the memory (130).
  • the electronic device (101) can acquire second raw data at a second point in time after the first point in time, and identify a location of biometric data in the second raw data (or second raw data on which image preprocessing has been performed) based on information on a location of biometric data identified before the second point in time (e.g., at the first point in time).
  • the electronic device (101) may store first image data (311) (e.g., image data including biometric data (e.g., iris)) confirmed by performing image preprocessing (P) on raw data, in a first buffer (310) of the memory (130).
  • first image data e.g., image data including biometric data (e.g., iris)
  • second image data e.g., image data in which image processing is performed on an area corresponding to biometric data
  • C change operation
  • the second image data (325) stored in the second buffer (320) may be data in which a change operation is performed on raw data acquired through the image sensor (230), or may be data in which a change operation is performed on first image data (311) in which image preprocessing is performed on raw data.
  • Fig. 4 is a flowchart of an operating method of an electronic device (101) according to one embodiment. Fig. 4 can be explained with reference to the previously described embodiment.
  • At least some of the operations of Fig. 4 may be omitted.
  • the order of the operations of Fig. 4 may be changed. Operations other than the operations of Fig. 4 may be performed before, during, or after the operations of Fig. 4 are performed.
  • the electronic device (101) may obtain raw data by using the image sensor (230).
  • the raw data may be data obtained through the image sensor (230) (e.g., an image corresponding to a subject (200, 201)).
  • the electronic device (101) may perform image preprocessing (e.g., 3A) on the raw data of operation 401 by using the image preprocessor (270).
  • the electronic device (101) may confirm image data (e.g., 311 of FIG. 3) by performing image preprocessing (e.g., 3A) on the raw data of operation 401.
  • the electronic device (101) may store image data (e.g., 311 of FIG. 3) on which image preprocessing has been performed in a first buffer (310) (e.g., a secure buffer) of the memory (130).
  • a first buffer (310) e.g., a secure buffer
  • Fig. 5 is a flowchart of an operating method of an electronic device (101) according to one embodiment. Fig. 5 can be explained with reference to the previously described embodiment.
  • At least some of the operations of Fig. 5 may be omitted.
  • the order of the operations of Fig. 5 may be changed. Operations other than the operations of Fig. 5 may be performed before, during, or after performing the operations of Fig. 5.
  • the electronic device (101) may obtain raw data by using the image sensor (230).
  • the raw data may be data obtained through the image sensor (230) (e.g., an image corresponding to a subject (200, 201)).
  • the electronic device (101) e.g., processor (120)
  • the electronic device (101) may perform a change operation on the data on which image preprocessing was performed in operation 503, by using the image preprocessor (270).
  • the change operation may be an operation of performing image processing (e.g., at least one of blank processing, removal of biometric data, blur processing, or hatching processing) on the biometric data.
  • the electronic device (101) may confirm image data (e.g., 325 of FIG. 3) by performing the image preprocessing of operation 503 and the change operation of operation 505 on the raw data of operation 501.
  • the electronic device (101) may store image data (e.g., 325 of FIG. 3) on which image preprocessing and modification operations have been performed, in a second buffer (320) (e.g., non-secure buffer) of the memory (130).
  • image data e.g., 325 of FIG. 3
  • second buffer (320) e.g., non-secure buffer
  • Fig. 6 is a flowchart of an operating method of an electronic device (101) according to one embodiment. Fig. 6 can be explained with reference to the previously described embodiment.
  • At least some of the operations of Fig. 6 may be omitted.
  • the order of the operations of Fig. 6 may be changed. Operations other than the operations of Fig. 6 may be performed before, during, or after performing the operations of Fig. 6.
  • the electronic device (101) may obtain raw data by using the image sensor (230).
  • the raw data may be data obtained through the image sensor (230) (e.g., an image corresponding to a subject (200, 201)).
  • the electronic device (101) may perform image preprocessing on the raw data of operation 601 by using the image preprocessor (270) to confirm (or generate or process or obtain) the first image data (e.g., 311 of FIG. 3).
  • the electronic device (101) may perform a change operation on the first image data (e.g., 311 of FIG. 3) of operation 603 by using the image preprocessor (270) to confirm (or generate or process or obtain) the second image data (e.g., 325 of FIG. 3).
  • the electronic device (101) may store the first image data (e.g., 311 of FIG. 3) of operation 603 in the first buffer (310).
  • the electronic device (101) may store the first image data (e.g., 311 of FIG. 3) provided from the image preprocessor (270) in the first buffer (310).
  • the electronic device (101) may store the second image data (e.g., 325 of FIG. 3) of operation 605 in the second buffer (320).
  • the electronic device (101) may store the second image data (e.g., 325 of FIG. 3) provided from the image preprocessor (270) in the second buffer (320).
  • Fig. 7 is a flowchart of an operating method of an electronic device (101) according to one embodiment. Fig. 7 can be explained with reference to the previously described embodiment.
  • Fig. 7 At least some of the operations of Fig. 7 may be omitted. The order of the operations of Fig. 7 may be changed. Operations other than the operations of Fig. 7 may be performed before, during, or after performing the operations of Fig. 7.
  • an electronic device (101) may obtain raw data including biometric data.
  • the biometric data may include, but is not limited to, a face, an iris, a fingerprint, a vein, etc.
  • the electronic device (101) may perform image processing (e.g., at least one of blanking, removal of biometric data, blurring, or cross-hatching) on the raw data of operation 701.
  • the electronic device (101) may perform image processing (e.g., at least one of blanking, removal of biometric data, blurring, or cross-hatching) on the raw data including biometric data.
  • Image processing for the raw data including biometric data may be understood with reference to FIG. 3.
  • the electronic device (101) may perform image processing (e.g., at least one of blanking, removal of biometric data, blurring, or cross-hatching) before performing image preprocessing on the raw data.
  • the electronic device (101) may perform image preprocessing after performing image processing (e.g., at least one of blanking, removal of biometric data, blurring, or cross-hatching) on the raw data.
  • the electronic device (101) may perform image processing (e.g., at least one of blank processing, removal of biometric data, blur processing, or cross-hatching) after performing image preprocessing on the raw data.
  • the electronic device (101) may perform image processing (e.g., at least one of blank processing, removal of biometric data, blur processing, or cross-hatching) without performing image preprocessing on the raw data.
  • the electronic device (101) may store data on which the change operation (e.g., 703) of FIG. 7 is performed in a non-secure buffer (e.g., 320 of FIG. 3).
  • a non-secure buffer e.g., 320 of FIG. 3
  • FIG. 8 is a diagram illustrating the operation of an electronic device (101) according to one embodiment.
  • FIG. 9 is a flowchart of a method of operating an electronic device according to one embodiment. FIG. 8 and FIG. 9 can be described with reference to the previously described embodiment.
  • a secure area e.g., first area
  • a non-secure area e.g., second area
  • an application e.g., a first application (810) classified as a configuration belonging to a secure area (e.g., a first area) can access a first buffer (310) of a memory (130).
  • the first application (810) may be a binary operating in a secure area (e.g., an area corresponding to a TEE, or an area corresponding to a secure processor (or eSE)).
  • the secure area may be an area corresponding to a configuration(s) capable of handling data including biometric data.
  • a configuration belonging to the secure area may handle data including biometric data.
  • the data including biometric data may be data for which no change operation has been performed.
  • an application e.g., a second application (820) classified as a configuration belonging to a non-secure area (e.g., a second area) can access a second buffer (320) of a memory (130).
  • the second application (820) may be a binary operating in a non-secure area (e.g., a REE).
  • the non-secure area may be an area corresponding to a configuration(s) capable of handling data that does not include biometric data.
  • the configuration belonging to the non-secure area may handle data that does not include biometric data.
  • the data that does not include biometric data may be data that does not include biometric data from the beginning, or data that has undergone a change operation on original data (e.g., raw data or raw data on which image preprocessing has been performed).
  • the electronic device (101) may include a physically separate security processor (or eSE).
  • the security processor (or eSE) of the electronic device (101) may correspond to a secure area.
  • the security processor (or eSE) of the electronic device (101) may access a first buffer (310).
  • the security processor (or eSE) of the electronic device (101) may process data stored in the first buffer (310).
  • the security processor (or eSE) of the electronic device (101) may apply a biometric authentication algorithm (e.g., the first algorithm (811)) to the data stored in the first buffer (310).
  • a biometric authentication algorithm e.g., the first algorithm (811)
  • FIG. 9 the configuration of FIG. 8 and the previously described embodiment can be described in detail.
  • Fig. 9 At least some of the operations of Fig. 9 may be omitted. The order of the operations of Fig. 9 may be changed. Operations other than the operations of Fig. 9 may be performed before, during, or after performing the operations of Fig. 9.
  • the electronic device (101) may transmit (e.g., transfer) first image data (e.g., 311 of FIG. 3) (e.g., data including biometric data) stored in the first buffer (310) to the first application (810).
  • the first application (810) may obtain the first image data (e.g., 311 of FIG. 3) stored in the first buffer (310).
  • the first application (810) may be an application belonging to a secure area (e.g., the first area).
  • the first application (810) may be an application for biometric authentication.
  • the first application (810) may perform biometric authentication for a user of the electronic device (101) by applying a first algorithm (811) to the image data.
  • the electronic device (101) may transmit (e.g., transfer) second image data (e.g., 325 of FIG. 3) (e.g., data not including biometric data or data on which image processing for biometric data is performed) stored in the second buffer (320) to the second application (820).
  • the second application (820) may obtain the second image data (e.g., 325 of FIG. 3) stored in the second buffer (320).
  • the second application (820) may be an application belonging to a non-secure area (e.g., the second area).
  • the second application (820) may be an application unrelated to biometric authentication.
  • the second application (820) may be an application for camera image processing that does not require security.
  • the second application (820) can perform gaze tracking on a user of the electronic device (101) by applying the second algorithm (821) to the image data.
  • the second application (820) can perform image preview (e.g., image preview via a display (e.g., 160 of FIG. 1)) by applying the second algorithm (821) to the image data.
  • the second application (820) can perform video recording by applying the second algorithm (821) to the image data.
  • the operations that the second application (820) can perform are not limited to gaze tracking, image preview, or video recording.
  • At least a portion of the period during which operation 901 is performed may correspond to at least a portion of the period during which operation 903 is performed.
  • the electronic device (101) e.g., the processor (120)
  • operations 901 and 903 may be performed alternately.
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) e.g., the processor (120)
  • first image data e.g., 311 of FIG.
  • the electronic device (101) may apply a first algorithm (811) to first image data (e.g., 311 of FIG. 3) (e.g., data including biometric data) provided from a first buffer (310) by using a first application (810).
  • the first application (810) may be an application for biometric authentication.
  • the first algorithm (811) may be an algorithm for biometric authentication.
  • the electronic device (101) may perform biometric authentication for a user of the electronic device (101) by applying the first algorithm (811) (e.g., an algorithm for biometric authentication) to the first image data (e.g., 311 of FIG. 3) (e.g., data including biometric data).
  • the type of the first application (810) e.g., an application for biometric authentication
  • the type of the first algorithm (811) e.g., algorithm for biometric authentication
  • biometric authentication There is no limitation on the type of biometric authentication.
  • the electronic device (101) may apply a second algorithm (821) to second image data (e.g., 325 of FIG. 3) (e.g., data not including biometric data or data on which a change operation is performed on biometric data) provided from the second buffer (320) by using the second application (820).
  • the second application (820) may be an application for processing camera images that do not require security.
  • the second algorithm (821) may be an algorithm for processing camera images that do not require security.
  • the second algorithm (821) may be an algorithm for tracking a user's gaze.
  • the second algorithm (821) may be an algorithm for previewing an image.
  • the second algorithm (821) may be an algorithm for recording a video.
  • the electronic device (101) can perform gaze tracking for a user of the electronic device (101) by applying the second algorithm (821) to second image data (e.g., 325 of FIG. 3) (e.g., data that does not include biometric data or data on which a change operation is performed on biometric data).
  • the electronic device (101) can perform image preview by applying the second algorithm (821) to second image data (e.g., 325 of FIG. 3) (e.g., data that does not include biometric data or data on which a change operation is performed on biometric data).
  • the electronic device (101) can perform video recording by applying the second algorithm (821) to second image data (e.g., 325 of FIG. 3) (e.g., data that does not include biometric data or data on which a change operation is performed on biometric data).
  • second image data e.g., 325 of FIG. 3
  • the second application (820) There is no limitation on the type of the second application (820).
  • the type of the second algorithm (821) There is no limitation on the operations that the second application (820) can perform.
  • FIG. 10A is a drawing illustrating an electronic device (101) according to one embodiment.
  • FIG. 10B is a drawing illustrating an electronic device (101) according to one embodiment.
  • FIG. 10C is a drawing illustrating an electronic device (101) according to one embodiment.
  • FIGS. 10A and 10B are drawings showing the front and back of an electronic device (101) according to one embodiment.
  • camera modules (1011, 1012, 1013, 1014, 1015, 1016) and/or depth sensors (1017) for obtaining information related to the surrounding environment of the electronic device (101) may be arranged on a first surface (1010) of the housing.
  • the camera modules (1011, 1012) can acquire images related to the environment surrounding the electronic device.
  • the camera modules (1013, 1014, 1015, 1016) can acquire images while the electronic device is worn by a user.
  • the camera modules (1013, 1014, 1015, 1016) can be used for hand detection and tracking, and recognition of user gestures (e.g., hand movements).
  • the camera modules (1013, 1014, 1015, 1016) can be used for 3DoF, 6DoF head tracking, position (spatial, environmental) recognition, and/or movement recognition.
  • the camera modules (1011, 1012) can also be used for hand detection and tracking, and user gestures.
  • the depth sensor (1017) can be configured to transmit a signal and receive a signal reflected from a subject, and can be used for purposes such as time of flight (TOF) to determine the distance to an object.
  • TOF time of flight
  • the camera modules (1013, 1014, 1015, 1016) can determine the distance to an object.
  • a camera module (1025, 1026,) for facial recognition and/or a display (1021) (and/or a lens) may be arranged on the second side (1020) of the housing.
  • a face recognition camera module (1025, 1026) adjacent to the display may be used to recognize a user's face, or may recognize and/or track both eyes of the user.
  • the display (1021) (and/or lens) may be disposed on the second side (1020) of the electronic device (101).
  • the electronic device (101) may not include camera modules (1015, 1016) among the plurality of camera modules (1013, 1014, 1015, 1016).
  • the electronic device (101) may further include at least one of the configurations shown in FIG. 10C .
  • FIG. 10c is a perspective view illustrating the internal configuration of an electronic device according to one embodiment.
  • an electronic device (101) may include at least one of a light output module (1041) (e.g., including a light output circuit), a display member (1031) (e.g., including a waveguide), and a camera module (1050) (e.g., including a camera).
  • a light output module (1041) e.g., including a light output circuit
  • a display member (1031) e.g., including a waveguide
  • a camera module (1050) e.g., including a camera
  • the light output module (1041) may include a light source capable of outputting an image, and a lens that guides the image to the display member (1031).
  • the light output module (1041) may include at least one of a liquid crystal display (LCD), a digital mirror device (DMD), a liquid crystal on silicon (LCoS), an organic light emitting diode (OLED), or a micro light emitting diode (micro LED).
  • LCD liquid crystal display
  • DMD digital mirror device
  • LCDoS liquid crystal on silicon
  • OLED organic light emitting diode
  • micro LED micro light emitting diode
  • the display member (1031) may include an optical waveguide (e.g., a waveguide).
  • an output image of the optical output module (1041) incident on one end of the optical waveguide may be propagated inside the optical waveguide and provided to a user.
  • the optical waveguide may include at least one diffractive element (e.g., a diffractive optical element (DOE), a holographic optical element (HOE)) or at least one reflective element (e.g., a reflective mirror).
  • DOE diffractive optical element
  • HOE holographic optical element
  • the optical waveguide may guide an output image of the optical output module (1041) to a user's eye by using at least one diffractive element or reflective element.
  • the camera module (1050) (e.g., the camera module (180) of FIG. 1) can capture still images and/or moving images. In one embodiment, the camera module (1050) can be positioned within the lens frame and can be positioned around the display member (1031).
  • the first camera module (1051) can capture and/or recognize the trajectory of the user's eye (e.g., pupil, iris) or gaze. According to one embodiment, the first camera module (1051) can periodically or aperiodically transmit information related to the trajectory of the user's eye or gaze (e.g., trajectory information) to a processor (e.g., processor (120) of FIG. 1).
  • a processor e.g., processor (120) of FIG.
  • the second camera module (1053) can capture images of the outside.
  • the third camera module (1055) can be used for hand detection and tracking, and user gesture (e.g., hand movement) recognition.
  • the third camera module (1055) can be used for 3DoF (10 degrees of freedom), 6DoF head tracking, position (space, environment) recognition, and/or movement recognition.
  • the second camera module (1053) can also be used for hand detection and tracking, and user gesture recognition.
  • at least one of the first camera module (1051) to the third camera module (1055) can be replaced with a sensor module (e.g., a LiDAR sensor).
  • the sensor module can include at least one of a VCSEL (vertical cavity surface emitting laser), an infrared sensor, and/or a photodiode.
  • the electronic device (101) may include a voice input device (1062-1, 1062-2) and a voice output device (1063-1, 1063-2).
  • the electronic device (101) may have a form factor for being worn on a user's head.
  • the electronic device (101) may include a housing for being worn on a user's head.
  • the electronic device (101) may further include a strap for being secured on a body part of the user, and/or a wearing member.
  • the electronic device (101) may provide a user experience based on augmented reality, virtual reality, and/or mixed reality while being worn on the user's head.
  • the electronic device (101) may have a form factor that can be carried by a user (e.g., held in a user's hand).
  • the electronic device (101) may be a cell phone or a tablet.
  • the electronic device (101) may be a device placed in a specific space or attached to another device. There is no limitation on the implementation method of the electronic device (101).
  • FIG. 11A is a diagram illustrating a light emitter (1100) and an image sensor (230) of an electronic device (101) according to one embodiment.
  • FIG. 11B is a diagram illustrating a light emitter (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, and/or 1112) and an image sensor (230) of an electronic device (101) according to one embodiment.
  • FIG. 12 is a diagram illustrating an operation of an electronic device (101) according to one embodiment.
  • FIG. 13A is a diagram illustrating an operation of an electronic device (101) according to one embodiment.
  • FIG. 13B is a diagram illustrating an operation of an electronic device (101) according to one embodiment.
  • FIG. 11a, FIG. 11b, FIG. 12, FIG. 13a, and FIG. 13b can be explained with reference to the previously described embodiment.
  • the electronic device (101) may include a light emitter (1100) and an image sensor (230).
  • the light emitter (1100) may be the flash (220) of FIG. 2.
  • the light emitter (1100) may include an infrared light emitting diode (IR LED).
  • IR LED infrared light emitting diode
  • the light emitter (1100) of FIG. 11A may include a plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) of FIG. 11B.
  • the electronic device (101) may be implemented in a goggle, glasses, or headset type design (e.g., a form factor for being worn on a user's head). With this design, the electronic device (101) is less sensitive to external environmental factors such as light while being closely attached and fixed to the user's eye, and the image sensor (230) (e.g., an IR (infrared) camera) may be fixed and operated at the eye position.
  • the image sensor (230) e.g., an IR (infrared) camera
  • the electronic device (101) may include a plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) and a plurality of image sensors (230).
  • FIG. 11B is a diagram illustrating light emitters and image sensors corresponding to a user's left eye and right eye.
  • a plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) and a plurality of image sensors (230) corresponding to the user's left eye can be described.
  • the electronic device (101) may acquire raw data by using at least one of the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) and at least one of the plurality of image sensors (230).
  • the electronic device (101) may control at least one of the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to be turned on and control the remaining at least one to be turned off, depending on a period. This will be described later.
  • FIG. 12 may include raw data (1200) acquired through an image sensor (230).
  • a light emitter e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B
  • raw data (1200) may include biometric data (e.g., iris (1203)).
  • the raw data (1200) may include data about an eyebrow (1201), a pupil (1202), an iris (1203), and a sclera (1204).
  • the electronic device (101) may acquire the raw data (1200) after controlling at least one of a plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to be turned on.
  • a light source e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11b
  • a light source e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG.
  • FIG. 13A may include data (1300) on which image processing has been performed.
  • the electronic device (101) e.g., the processor (120)
  • biometric data e.g., an area corresponding to the iris (1203)
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) (e.g., the processor (120)) can determine the location of a designated area based on the characteristics of the electronic device (101) (e.g., the design of a goggle, glasses, or headset type).
  • the designated area may be an area corresponding to biometric data.
  • the electronic device (101) may be implemented as a design of a goggle, glasses, or headset type (e.g., a form factor for being worn on a user's head), and accordingly, the location of the area corresponding to biometric data in the raw data acquired from the electronic device (101) may be included in a designated range.
  • the distance and angle from a part of the user's body (e.g., an eyebrow, an eyeball, a pupil, an iris) to the electronic device (101) may be constant.
  • the raw data acquired by the electronic device (101) may include biometric data, and at this time, the biometric data may be included in a designated area (e.g., a designated range) of the raw data.
  • the electronic device (101) may store information about the location of the designated area based on the characteristics of the electronic device (101) (e.g., the design of goggles, glasses, or a headset type) in the memory (130).
  • the electronic device (101) may acquire the raw data while the electronic device (101) is worn on the user's head.
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) e.g., the processor (120)
  • image processing for an area corresponding to biometric data may include at least one of blanking, blurring, deletion of biometric data, or cross-hatching.
  • the electronic device (101) may identify a location of biometric data in raw data (or raw data on which image preprocessing has been performed) and perform image processing (e.g., at least one of blanking, removal of biometric data, blurring, or cross-hatching) on the location of the identified biometric data.
  • image processing e.g., at least one of blanking, removal of biometric data, blurring, or cross-hatching
  • the electronic device (101) e.g., the processor 120
  • the electronic device (101) may store information on the location of biometric data to be included in the raw data in the memory (130) before the raw data is acquired.
  • the electronic device (101) can identify a location of biometric data in raw data (or raw data on which image preprocessing has been performed) based on information stored in the memory (130) (e.g., information on a location of biometric data to be included in the raw data).
  • the electronic device (101) can include a memory (130) in which information on a location of biometric data to be included in the raw data is stored.
  • the electronic device (101) can identify a location of biometric data at a first point in time based on first raw data or image data corresponding to the first raw data, and store information on the location of the identified biometric data in the memory (130).
  • the electronic device (101) can acquire second raw data at a second point in time after the first point in time, and identify a location of biometric data in the second raw data (or second raw data on which image preprocessing has been performed) based on information on a location of biometric data identified before the second point in time (e.g., at the first point in time).
  • FIG. 13B may include data (1320) on which image processing has been performed.
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) may perform image processing (e.g., distortion or deletion) on the entire raw data (or raw data on which image preprocessing has been performed).
  • the image processing on the entire raw data (or raw data on which image preprocessing has been performed) may include at least one of blank processing, blur processing, or hatching processing.
  • FIG. 14 is a diagram illustrating the operation of an electronic device according to one embodiment.
  • FIG. 15 is a flowchart of a method of operating an electronic device according to one embodiment.
  • FIG. 16 is a flowchart of a method of operating an electronic device according to one embodiment.
  • FIG. 14, FIG. 15, and FIG. 16 can be described with reference to the previously described embodiment.
  • the "setting value” may include information about which of the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) is to be controlled to turn on, and/or information about the brightness (e.g., auto exposure gain) of the light emitters (e.g., light emitters) to be controlled to turn on among the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112).
  • the brightness e.g., auto exposure gain
  • the setting value may include information about the number, position, and/or brightness of the light emitters to be controlled to turn on.
  • the setting values may include first setting value(s) for biometric recognition (e.g., b0, b1, b2, bn of 1410 of FIG. 14) and second setting value(s) for camera image processing that does not require security (e.g., c of 1420 of FIG. 14).
  • 1410 of FIG. 14 may represent obtaining raw data based on the first setting value(s) for biometric recognition (e.g., b0, b1, b2, bn of 1410 of FIG. 14) during a period including t1, t3, and t5. 1420 of FIG.
  • the 14 may represent obtaining raw data based on the second setting value(s) for camera image processing that does not require security during a period including t2, t4, and t5.
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) can obtain raw data including biometric data by using the image sensor (230).
  • the electronic device (101) e.g., the processor (120)
  • can obtain raw data not including biometric data e.g., raw data with distorted biometric data
  • the first setting values for biometric recognition may be plural, and the next setting value for biometric recognition may be determined based on feedback for a previous setting value for biometric recognition.
  • b1 may be determined based on feedback for b0
  • b2 may be determined based on feedback for b1, and this operation may be repeated.
  • the first setting value for biometric recognition may be one, and the setting value for biometric recognition may not be changed.
  • the electronic device (101) when the embodiment of FIG. 14 is applied, the electronic device (101) may not perform a change operation on the biometric data.
  • the electronic device (101) may perform a change operation on the biometric data.
  • Fig. 15 can be explained with reference to Fig. 14 and the previously described embodiment.
  • Fig. 15 At least some of the operations of Fig. 15 may be omitted. The order of the operations of Fig. 15 may be changed. Operations other than the operations of Fig. 15 may be performed before, during, or after performing the operations of Fig. 15.
  • the electronic device (101) may obtain first raw data during a first period.
  • the electronic device (101) may obtain first raw data during a first period (t1) of FIG. 14.
  • the electronic device (101) may control first raw data among a plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to turn on based on a first setting value for biometric recognition (e.g., b0 among the first setting values of FIG. 14).
  • a first setting value for biometric recognition e.g., b0 among the first setting values of FIG. 14.
  • the first light emitters may include 1101, 1103, 1105, 1107, 1109, and 1111 of FIG. 11B, but there is no limitation on the selection criteria of the first light emitters.
  • the electronic device (101) may control the first light emitters among the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to be turned on based on the first setting value for biometric recognition (e.g., b0 among the first setting values of FIG. 14) during the first period (t1) of FIG. 14, and then acquire the first raw data using the image sensor (230).
  • the first setting value for biometric recognition e.g., b0 among the first setting values of FIG. 14
  • the electronic device (101) e.g., processor (120)
  • operation 1503 may be omitted.
  • the electronic device (101) may store the first raw data of operation 1501 or the data on which image preprocessing is performed of operation 1503 in the first buffer (310) of the memory (130).
  • the data stored in the first buffer (310) may include biometric data.
  • the electronic device (101) may perform biometric authentication based on the data including the biometric data stored in the first buffer (310).
  • the electronic device (101) may acquire second raw data during a second period.
  • the electronic device (101) may acquire second raw data during the second period (t2) of FIG. 14.
  • the electronic device (101) may control second raw data among the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to turn on based on a second setting value (e.g., c of FIG. 14) for camera image processing that does not require security during the second period (t2) of FIG. 14.
  • the second light emitters may include 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, and 1112 of FIG. 11b, but there is no limitation on the selection criteria of the second light emitters.
  • the number of first light emitters (e.g., 1101, 1103, 1105, 1107, 1109, and 1111 of FIG. 11B ) of operation 1501 may be less than the number of second light emitters (e.g., 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, and 1112 of FIG. 11B ) of operation 1507.
  • the number of light emitters controlled to be on in operation 1501 may be a number suitable for biometric authentication.
  • the number of light emitters controlled to be on in operation 1507 may be greater than the number of light emitters controlled to be on in operation 1501, and thus, raw data (e.g., second raw data) obtained in operation 1507 may be raw data with distorted biometric data.
  • the number of first light emitters in operation 1501 and the number of second light emitters in operation 1507 may be the same, and positions of at least some of the first light emitters in operation 1501 may be different from positions of at least some of the second light emitters in operation 1507.
  • the first light emitters in operation 1501 may be selected as light emitters arranged at positions suitable for biometric authentication.
  • the second light emitters in operation 1507 may be selected as light emitters arranged at designated positions such that data for biometric authentication may be distorted.
  • the first light emitters of operation 1501 and the second light emitters of operation 1507 are identical, and a brightness of at least one of the first light emitters of operation 1501 and a brightness of at least one of the second light emitters of operation 1507 can be different.
  • the brightness of at least one of the first light emitters of operation 1501 can be a brightness suitable for biometric authentication.
  • the brightness of at least one of the second light emitters of operation 1507 can be a designated brightness that allows data for biometric authentication to be distorted.
  • the embodiments with respect to the number, positions, and brightness of the light emitters described above can be applied interchangeably.
  • at least one of the number, positions, and brightness of the first light emitters of operation 1501 can be different from at least one of the number, positions, and brightness of the second light emitters of operation 1507.
  • the electronic device (101) may perform an image preprocessing and modification operation on the second raw data of operation 1507 by using the image preprocessor (270).
  • operation 1509 may be omitted.
  • the image preprocessing of operation 1509 may be performed and only the modification operation may be omitted.
  • both the image preprocessing and the modification operation of operation 1509 may be omitted.
  • the electronic device (101) may store the second raw data of operation 1507, or the data on which at least one of the image preprocessing or modification operations of operation 1509 is performed, in the second buffer (320) of the memory (130).
  • the data stored in the second buffer (320) may not include biometric data, or the data stored in the second buffer (320) may include distorted biometric data.
  • the electronic device (101) may perform camera image processing that does not require security based on the data stored in the second buffer (320).
  • FIG. 15 describes the first period and the second period, but this describes a part of the operation of the electronic device (101), and the operation of FIG. 15 can be repeatedly performed.
  • operations 1501 to 1505 are performed during the first period
  • operations 1507 to 1511 are performed during the second period after the first period
  • operations 1501 to 1505 are performed during the third period after the second period
  • operations 1507 to 1511 are performed during the fourth period after the third period, and these operations can be repeated.
  • Fig. 16 can be explained with reference to Fig. 14, Fig. 15 and the previously described embodiment.
  • At least some of the operations of Fig. 16 may be omitted.
  • the order of the operations of Fig. 16 may be changed. Operations other than the operations of Fig. 16 may be performed before, during, or after performing the operations of Fig. 16.
  • the electronic device (101) may control the first light emitters (e.g., at least some of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B) to be turned on during a first period.
  • the electronic device (101) may control the first light emitters among the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to turn on based on a setting value for biometric recognition (e.g., b0 of FIG. 14) during the first period (t1) of FIG. 14.
  • the first light emitters may include 1101, 1103, 1105, 1107, 1109, and 1111 of FIG. 11b, but there is no limitation on the selection criteria of the first light emitters.
  • the setting value of 1601 e.g., b0 in Fig. 14
  • the setting value of 1601 may be the default setting value for biometric authentication.
  • the electronic device (101) may control the first light emitters (e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B ) of operation 1601 to turn on, and then acquire first raw data using the image sensor (230).
  • the electronic device (101) e.g., the processor (120)
  • the first raw data of operation 1603 may include, for example, biometric data at a level for biometric authentication.
  • the setting values for biometric authentication may not be changed. If the setting values are not changed, the setting values of operation 1601 and operation 1609 may be the same.
  • the first raw data of operation 1603 may not include, for example, biometric data at a level for biometric authentication. Based on the fact that the first row data does not include biometric data at a level for biometric authentication, the setting values for biometric authentication (e.g., the number, positions, and/or brightness of light emitters controlled to be on) may be updated.
  • the electronic device (101) may update the setting values for biometric authentication (e.g., the number, positions, and/or brightness of light emitters controlled to be on).
  • the setting values for biometric authentication e.g., the number, positions, and/or brightness of light emitters controlled to be on.
  • the setting values of the 1601 operation and the setting values of the 1609 operation may be different.
  • the electronic device (101) can control the second light emitters (e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B) to be turned on during the second period.
  • the electronic device (101) may control the second light emitters among the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to turn on based on a setting value for camera image processing that does not require security (e.g., c in FIG. 14) during the second period (t2) in FIG. 14.
  • the second light emitters may include 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, and 1112 of FIG. 11b, but there is no limitation on the selection criteria of the second light emitters.
  • the setting value of the 1601 operation e.g., b0 of FIG. 14
  • the setting value of the 1605 operation may be different from the setting value of the 1605 operation (e.g., c of FIG. 14).
  • At least one of the number, positions, or brightness of the first light emitters of the 1601 operation may be different from at least one of the number, positions, or brightness of the second light emitters of the 1605 operation.
  • the number of second emitters in operation 1605 may be greater than the number of first emitters in operation 1601.
  • the electronic device (101) may control the second light emitters (e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B ) of operation 1605 to turn on, and then acquire second raw data using the image sensor (230).
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) may control the third light emitters (e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B) to be turned on during the third period.
  • the electronic device (101) may control third light emitters among the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to turn on based on a setting value for biometric recognition (e.g., b1 of FIG. 14) during the third period (t3) of FIG. 14.
  • the third light emitters may include 1102, 1104, 1106, 1108, 1110, and 1112 of FIG. 11b, but there is no limitation on the selection criteria of the third light emitters.
  • the setting value of operation 1609 may be the same as or different from the setting value of operation 1601.
  • the setting value of 1609 e.g., b1 in FIG. 14
  • the setting value of 1609 may be an updated setting value based on a basic setting value (e.g., b0 in FIG. 14).
  • at least one of the first light emitters of operation 1601 may be different from at least one of the third light emitters of operation 1609.
  • the setting value of 1609 (e.g., b1 in FIG. 14) may be the same as the basic setting value for biometric authentication (e.g., b0 in FIG. 14).
  • the first light emitters of operation 1601 can be the same as the third light emitters of operation 1609.
  • the electronic device (101) may control the third light emitters (e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B ) of operation 1609 to turn on, and then acquire third raw data using the image sensor (230).
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) can control the second light emitters (e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B) to be turned on during the fourth period.
  • the electronic device (101) may control the second light emitters among the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) to turn on based on a setting value for camera image processing that does not require security (e.g., c in FIG. 14) during the fourth period (t4) of FIG. 14.
  • the second light emitters of the 1613 operation may be identical to the second light emitters of the 1605 operation.
  • the electronic device (101) may acquire fourth raw data by using the image sensor (230) after controlling the second light emitters (e.g., at least one of 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 of FIG. 11B) of operation 1613 to turn on among the plurality of light emitters (1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112).
  • the electronic device (101) e.g., the processor (120)
  • the electronic device (101) may include an image sensor (230), an image preprocessor (270) including circuitry, a memory (130) storing instructions, and at least one processor (120) including a processing circuit.
  • the instructions when individually and/or collectively executed by the at least one processor (120), may cause the electronic device (101) to obtain raw data including biometric data using the image sensor (230).
  • the instructions when individually and/or collectively executed by the at least one processor (120), may cause the electronic device (101) to store the raw data as first image data in a first buffer (310).
  • the above instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to store second image data generated by applying a change operation to the raw data using the image preprocessor (270) in a second buffer (320).
  • the above instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to transfer the first image data stored in the first buffer (310) to a first application belonging to a secure area, and to apply a first algorithm for biometric authentication to the first image data.
  • the above instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to transfer the second image data stored in the second buffer (320) to a second application belonging to the non-secure area and to apply a second algorithm distinct from the first algorithm to the second image data.
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to transfer the second image data stored in the second buffer (320) to the second application during a period that at least partially overlaps the period during which the electronic device transfers the first image data stored in the first buffer (310) to the first application.
  • the change operation may include performing image processing on the raw data.
  • the image processing may include at least one of blank processing, blur processing, or hatching processing.
  • the image processing may include at least one of the blanking processing, the blur processing, or the hatching processing for the entire raw data.
  • the image processing may include at least one of the blank processing, the blur processing, or the hatching processing for an area corresponding to the biometric data included in the raw data.
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to acquire the raw data while the electronic device (101) is worn on the user's head.
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to identify, in the raw data, a location of a designated area based on a characteristic of the electronic device (101).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to perform the image processing on the area corresponding to the biometric data corresponding to the location of the designated area.
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to acquire first raw data of the raw data during a first period of time using the image sensor (230).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to store at least a portion of the first image data identified by performing the image preprocessing on the first raw data using the image preprocessor (270), in the first buffer (310).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to acquire second raw data of the raw data during a second period after the first period, using the image sensor (230).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to store at least a portion of the second image data, identified by performing the image preprocessing and the modification operation on the second raw data, using the image preprocessor (270), in the second buffer (320).
  • the electronic device (101) may include a plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the above instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to control, during the first period of time, to turn on first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the above instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to control, during the second period, to turn on second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the number of the first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) may be less than the number of the second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to control, during a third time period after the second time period, to turn on third light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • At least one of the third light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) may be different from at least one of the first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to acquire third raw data of the raw data during the third period using the image sensor (230).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to store at least a portion of the first image data identified by performing the image preprocessing on the third raw data using the image preprocessor (270), in the first buffer (310).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to control, during a fourth period following the third period, to turn on the second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to acquire fourth raw data of the raw data during the fourth period using the image sensor (230).
  • the instructions when individually and/or collectively executed by at least one processor (120), may cause the electronic device (101) to store at least a portion of the second image data, which is identified by performing the image preprocessing and the change operation on the fourth raw data using the image preprocessor (270), in the second buffer (320).
  • a method of operating an electronic device (101) may include an operation of acquiring raw data including biometric data by using an image sensor (230) of the electronic device (101).
  • the method may include an operation of storing the raw data as first image data in a first buffer (310).
  • the method may include an operation of storing second image data generated by applying a change operation to the raw data in a second buffer (320).
  • the method may include an operation of transferring the first image data stored in the first buffer (310) to a first application belonging to a secure area, and applying a first algorithm for biometric authentication to the first image data.
  • the method may include an operation of transferring the second image data stored in the second buffer (320) to a second application belonging to a non-secure area, and applying a second algorithm distinct from the first algorithm to the second image data.
  • the operation of transmitting the second image data to the second application may include transmitting the second image data stored in the second buffer (320) to the second application during a period that at least partially overlaps with the period during which the first image data stored in the first buffer (310) is transmitted to the first application.
  • the change operation may include performing image processing on the raw data.
  • the image processing may include at least one of blank processing, blur processing, or hatching processing.
  • the image processing may include at least one of the blanking processing, the blur processing, or the hatching processing for the entire raw data.
  • the image processing may include at least one of the blank processing, the blur processing, or the hatching processing for an area corresponding to the biometric data included in the raw data.
  • the operation of acquiring the raw data may include an operation of acquiring the raw data while the electronic device (101) is worn on the user's head.
  • the change operation may include an operation of confirming a location of a designated area based on a characteristic of the electronic device (101) in the raw data.
  • the change operation may include an operation of performing image processing on the area corresponding to the biometric data corresponding to the location of the designated area.
  • the operation of acquiring the raw data may include an operation of acquiring first raw data among the raw data during a first period by using the image sensor (230).
  • the operation of storing the first image data in the first buffer (310) may include an operation of storing at least a portion of the first image data confirmed by performing the image preprocessing on the first raw data in the first buffer (310).
  • the operation of acquiring the raw data may include an operation of acquiring second raw data among the raw data during a second period after the first period by using the image sensor (230).
  • the operation of storing the second image data in the second buffer (320) may include an operation of storing at least a portion of the second image data confirmed by performing the image preprocessing and the modification operation on the second raw data in the second buffer (320).
  • the method may include an operation of controlling, during the first period, turning on first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) of the electronic device (101).
  • the method may include an operation of turning on second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) during the second period.
  • the number of the first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) may be less than the number of the second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the method may include an operation of controlling third light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) to be turned on during a third period after the second period.
  • At least one of the third light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) may be different from at least one of the first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the method may include an operation of acquiring third raw data among the raw data during the third period using the image sensor (230).
  • the method may include an operation of storing at least a portion of the first image data, which is confirmed by performing the image preprocessing on the third raw data using the image preprocessor (270), in the first buffer (310).
  • the method may include an operation of controlling, among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112), to turn on the second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) during a fourth period after the third period.
  • the method may include an operation of acquiring, by using the image sensor (230), fourth raw data among the raw data.
  • the method may include an operation of storing at least a portion of the second image data, which is confirmed by performing the image preprocessing and the change operation on the fourth raw data using the image preprocessor (270), in the second buffer (320).
  • a computer readable recording medium storing instructions that, when individually and/or collectively executed by at least one processor (120) of an electronic device (101), cause the electronic device (101) to perform at least one operation, wherein the at least one operation may include an operation of acquiring raw data including biometric data by using an image sensor (230) of the electronic device (101).
  • the at least one operation may include an operation of storing the raw data as first image data in a first buffer (310).
  • the at least one operation may include an operation of storing second image data generated by applying a change operation to the raw data in a second buffer (320).
  • the at least one operation may include an operation of transmitting the first image data stored in the first buffer (310) to a first application belonging to a secure area, and applying a first algorithm for biometric authentication to the first image data.
  • the at least one operation may include an operation of transmitting the second image data stored in the second buffer (320) to a second application belonging to a non-secure area, and applying a second algorithm, which is different from the first algorithm, to the second image data.
  • the operation of transmitting the second image data to the second application may include transmitting the second image data stored in the second buffer (320) to the second application during a period that at least partially overlaps with the period during which the first image data stored in the first buffer (310) is transmitted to the first application.
  • the change operation may include performing image processing on the raw data.
  • the image processing may include at least one of blank processing, blur processing, or hatching processing.
  • the image processing may include at least one of the blanking processing, the blur processing, or the hatching processing for the entire raw data.
  • the image processing may include at least one of the blank processing, the blur processing, or the hatching processing for an area corresponding to the biometric data included in the raw data.
  • the operation of acquiring the raw data may include an operation of acquiring the raw data while the electronic device (101) is worn on the user's head.
  • the change operation may include an operation of confirming a location of a designated area based on a characteristic of the electronic device (101) in the raw data.
  • the change operation may include an operation of performing image processing on the area corresponding to the biometric data corresponding to the location of the designated area.
  • the operation of acquiring the raw data may include an operation of acquiring first raw data among the raw data during a first period by using the image sensor (230).
  • the operation of storing the first image data in the first buffer (310) may include an operation of storing at least a portion of the first image data confirmed by performing the image preprocessing on the first raw data in the first buffer (310).
  • the operation of acquiring the raw data may include an operation of acquiring second raw data among the raw data during a second period after the first period by using the image sensor (230).
  • the operation of storing the second image data in the second buffer (320) may include an operation of storing at least a portion of the second image data confirmed by performing the image preprocessing and the modification operation on the second raw data in the second buffer (320).
  • the at least one operation may include controlling, during the first period, the first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) of the electronic device (101) to turn on.
  • the at least one operation may include an operation of controlling, during the second period, turning on second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the number of the first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) may be less than the number of the second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the at least one operation may include controlling third light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) to turn on during a third period after the second period.
  • At least one of the third light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) may be different from at least one of the first light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112).
  • the at least one operation may include an operation of acquiring third raw data among the raw data during the third period using the image sensor (230).
  • the at least one operation may include an operation of storing at least a portion of the first image data, which is confirmed by performing the image preprocessing on the third raw data using the image preprocessor (270), in the first buffer (310).
  • the at least one operation may include controlling the second light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) among the plurality of light emitters (1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) to turn on during a fourth period after the third period.
  • the at least one operation may include an operation of acquiring fourth raw data among the raw data during the fourth period using the image sensor (230).
  • the at least one operation may include an operation of storing at least a portion of the second image data, which is confirmed by performing the image preprocessing and the change operation on the fourth raw data using the image preprocessor (270), in the second buffer (320).
  • Electronic devices may be devices of various forms.
  • the electronic devices may include, for example, portable communication devices (e.g., smartphones), computer devices, portable multimedia devices, portable medical devices, cameras, wearable devices, or home appliance devices.
  • portable communication devices e.g., smartphones
  • computer devices e.g., portable multimedia devices
  • portable medical devices e.g., cameras
  • wearable devices e.g., portable medical devices, cameras
  • home appliance devices e.g., portable communication devices, portable multimedia devices, portable medical devices, cameras, wearable devices, or home appliance devices.
  • Electronic devices according to embodiments of this document are not limited to the above-described devices.
  • first, second, or first or second may be used merely to distinguish one component from another, and do not limit the components in any other respect (e.g., importance or order).
  • a component e.g., a first
  • another component e.g., a second
  • functionally e.g., a third component
  • module used in various embodiments of this document may include a unit implemented in hardware, software or firmware, and may be used interchangeably with terms such as logic, logic block, component, or circuit, for example.
  • a module may be an integrally configured component or a minimum unit of the component or a part thereof that performs one or more functions.
  • a module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document may be implemented as software (e.g., a program) including one or more instructions stored in a storage medium that can be read by a machine (e.g., an electronic device).
  • a processor e.g., a controller
  • the one or more instructions may include code generated by a compiler or code that can be executed by an interpreter.
  • the machine-readable storage medium may be provided in the form of a non-transitory storage medium.
  • non-transitory only means that the storage medium is a tangible device and does not include a signal (e.g., an electromagnetic wave), and this term does not distinguish between cases where data is stored semi-permanently and cases where it is stored temporarily in the storage medium.
  • a signal e.g., an electromagnetic wave
  • the method according to various embodiments disclosed in the present document may be provided as included in a computer program product.
  • the computer program product may be traded between a seller and a buyer as a commodity.
  • the computer program product may be distributed in the form of a machine-readable storage medium (e.g., a compact disc read only memory (CD-ROM)), or may be distributed online (e.g., downloaded or uploaded) via an application store (e.g., Play StoreTM) or directly between two user devices (e.g., smart phones).
  • an application store e.g., Play StoreTM
  • at least a part of the computer program product may be at least temporarily stored or temporarily generated in a machine-readable storage medium, such as a memory of a manufacturer's server, a server of an application store, or an intermediary server.
  • each component e.g., a module or a program of the above-described components may include a single or multiple entities, and some of the multiple entities may be separately arranged in other components.
  • one or more of the components or operations of the above-described components may be omitted, or one or more other components or operations may be added.
  • the multiple components e.g., a module or a program
  • the integrated component may perform one or more functions of each of the multiple components identically or similarly to those performed by the corresponding component of the multiple components before the integration.
  • the operations performed by the module, program, or other component may be executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations may be executed in a different order, omitted, or one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Ophthalmology & Optometry (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

전자 장치는, 이미지 센서, 회로를 포함하는 이미지 전처리기, 인스트럭션들을 저장하는 메모리, 및 프로세싱 회로를 포함하는 프로세서를 포함할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가, 상기 이미지 센서를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가, 상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼에 저장하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가, 상기 이미지 전처리기를 이용하여 상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼에 저장하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 제 1 버퍼에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 전자 장치가, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 제 2 버퍼에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 전자 장치가, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하도록 야기할 수 있다. 그 외에도 다양한 실시 예들이 가능하다.

Description

이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체
본 개시는, 일 실시예에 따른 이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체에 관한 것이다.
생체 인증이란 인간의 신체적, 행동적 특성을 사용해 신원을 파악하고 특정 시스템이나 데이터에 대한 접근 권한을 부여하는 기술을 말한다. 전통적인 인증 방식(예: 핀 번호, 패턴, 비밀번호 방식)은 보안 강화를 위해 복잡한 설정 값이 요구되고, 설정 값을 기억하기 어렵다는 단점이 있는 것과 달리, 생체 인증은 따로 기억할 필요가 없으며 신뢰할 수 있는 인식 성능을 보유한다면 사용자가 사용하기에 매우 편리하다. 이러한 장점으로 인해 생체 인증은 은행 ATM, 모바일 디바이스와 같이 사용자 인증이 필요한 많은 시스템에서 널리 사용되고 있다. 핀 번호, 패턴, 비밀번호 방식은 설정 값의 외부 유출 시 쉽게 새로운 핀 번호, 패턴, 비밀번호로 변경이 가능하나, 생체 인증 시 사용되는 생체 데이터(예: 얼굴, 홍채, 지문, 정맥)는 한 번 외부로의 유출 시 변경이 불가하며 그 피해는 영구적일 수 있다. 이러한 이유로 생체 인증 시 사용되는 생체 데이터를 안전하게 보호하는 일은 매우 중요하다.
전자 장치는, AR(augment reality), VR(virtual reality), MR(mixed reality), 및 XR(extened reality) 경험을 제공하는 사용자 인터페이스를 포함할 수 있다.
상술한 정보는 본 개시에 대한 이해를 돕기 위한 목적으로 하는 배경 기술(related art)로 제공될 수 있다. 상술한 내용 중 어느 것도 본 개시와 관련된 종래 기술(prior art)로서 적용될 수 있는지에 대하여 어떠한 주장이나 결정이 제기되지 않는다.
카메라를 이용한 생체 인증 방식은 생체 데이터(예: 얼굴, 홍채, 지문, 정맥)를 카메라로부터 입력 받아 생체 인증 알고리즘을 적용하여 인증을 수행할 수 있다.
본 개시의 실시예들은, 동일한 카메라를 통해, 보안 영역의 동작(예: 생체 인증 동작)과, 비보안 영역의 동작을 수행할 수 있는 전자 장치를 제공할 수 있다.
일 실시예에 따라서, 전자 장치는, 이미지 센서, 회로를 포함하는 이미지 전처리기, 인스트럭션들을 저장하는 메모리, 및 프로세싱 회로를 포함하는 적어도 하나의 프로세서를 포함할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가, 상기 이미지 센서를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가, 상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼에 저장하도록 야기할 수 있다. 상기 인스트럭션들은, 상 적어도 하나의 기 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가, 상기 이미지 전처리기를 이용하여 상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼에 저장하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가, 상기 제 1 버퍼에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가, 상기 제 2 버퍼에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하도록 야기할 수 있다.
일 실시예에 따라서, 전자 장치의 동작 방법은, 상기 전자 장치의 이미지 센서를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼에 저장하는 동작을 포함할 수 있다. 상기 방법은, 상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼에 저장하는 동작을 포함할 수 있다. 상기 방법은, 상기 제 1 버퍼에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하는 동작을 포함할 수 있다. 상기 방법은, 상기 제 2 버퍼에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하는 동작을 포함할 수 있다.
일 실시예에 따라서, 전자 장치의 적어도 하나의 프로세서에 의하여 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치가 적어도 하나의 동작을 수행하도록 야기하는 명령들(instructions)이 저장된 컴퓨터 판독 가능한(computer readable) 기록 매체에 있어서, 상기 적어도 하나의 동작은, 상기 전자 장치의 이미지 센서를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼에 저장하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼에 저장하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 제 1 버퍼에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 제 2 버퍼에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하는 동작을 포함할 수 있다.
본 발명의 특정 실시예의 상기 및 기타 측면, 특징 및 이점은 첨부 도면과 함께 고려되는 다음의 상세한 설명으로부터 더욱 명백해질 것이다.
도 1은, 일 실시예에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2a는, 일 실시예에 따른, 카메라 모듈을 예시하는 블록도이다.
도 2b는, 일 실시예에 따른, 전자 장치의 블록도이다.
도 2c는, 일 실시예에 따른, 전자 장치의 블록도이다.
도 3은, 일 실시예에 따른, 전자 장치의 동작을 설명하는 도면이다.
도 4는, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다.
도 5는, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다.
도 6은, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다.
도 7은, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다.
도 8은, 일 실시예에 따른, 전자 장치의 동작을 설명하는 도면이다.
도 9는, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다.
도 10a는, 일 실시예에 따른, 전자 장치를 설명하는 도면이다.
도 10b는, 일 실시예에 따른, 전자 장치를 설명하는 도면이다.
도 10c는, 일 실시예에 따른, 전자 장치를 설명하는 도면이다.
도 11a는, 일 실시예에 따른, 전자 장치의 발광기(light emitter) 및 이미지 센서를 설명하는 도면이다.
도 11b는, 일 실시예에 따른, 전자 장치의 발광기 및 이미지 센서를 설명하는 도면이다.
도 12는, 일 실시예에 따른, 전자 장치의 동작을 설명하는 도면이다.
도 13a는, 일 실시예에 따른, 전자 장치의 동작을 설명하는 도면이다.
도 13b는, 일 실시예에 따른, 전자 장치의 동작을 설명하는 도면이다.
도 14는, 일 실시예에 따른, 전자 장치의 동작을 설명하는 도면이다.
도 15는, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다.
도 16은, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다.
도면을 참조하여 본 개시의 실시예들가 더욱 상세히 설명된다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 다양한 실시예들에 한정되지 않는다. 본 개시 및 도면들에서, 동일하거나 유사한 구성요소에 대해서는 동일하거나 유사한 참조 부호가 사용될 수 있다. 또한, 도면들 및 관련된 설명에서는, 잘 알려진 기능 및 구성에 대한 설명이 명확성과 간결성을 위해 생략될 수 있다.
도 1은, 일 실시예에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는 다양한 프로세싱 회로 및/또는 다중 프로세서를 포함할 수 있다. 예를 들어, 청구범위를 포함하여 본 문서에 사용된 용어 "프로세서"는 적어도 하나의 프로세서를 포함하는 다양한 프로세싱 회로를 포함할 수 있으며, 적어도 하나의 프로세서 중 하나 이상은 분산 방식으로 개별적으로 및/또는 집합적으로 여기에 설명된 다양한 기능을 수행하도록 구성될 수 있다. 본 명세서에 사용된 바와 같이, "프로세서", "적어도 하나의 프로세서" 및 "하나 이상의 프로세서"가 다양한 기능을 수행하도록 구성되는 것으로 설명되는 경우, 이러한 용어는 예를 들어 제한 없이 하나의 프로세서가 인용된 기능 중 일부를 수행하고 다른 프로세서(들)가 인용된 기능 중 다른 기능을 수행하는 상황, 및 단일 프로세서가 인용된 모든 기능을 수행하는 상황을 포괄할 수 있다. 추가적으로, 적어도 하나의 프로세서는 열거/개시된 다양한 기능을 예를 들어 분산 방식으로 수행하는 프로세서들의 조합을 포함할 수 있다. 적어도 하나의 프로세서는 다양한 기능을 달성하거나 수행하기 위해 프로그램 명령을 실행할 수 있다. 프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 1eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 일 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2a는, 일 실시예에 따른, 카메라 모듈(180)을 예시하는 블록도(200)이다.
도 2a를 참조하면, 카메라 모듈(180)은 (예를 들어, 렌즈를 포함하는) 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), (예를 들어, 회로를 포함하는) 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 및/또는 (예: 이미지 프로세싱 회로를 포함하는) 이미지 시그널 프로세서(260)를 포함할 수 있다. 렌즈 어셈블리(210)는, 적어도 하나의 렌즈를 포함할 수 있고, 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(180)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(210)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(220)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일실시예에 따르면, 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(230)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(210)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일실시예에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(240)는, 다양한 회로를 포함할 수 있고, 카메라 모듈(180) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 이미지 센서(230)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 일실시예에 따르면, 이미지 스태빌라이저(240)은 카메라 모듈(180)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(180) 또는 전자 장치(101)의 그런 움직임을 감지할 수 있다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(250)는 이미지 센서(230)을 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 디스플레이 모듈(160)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 일실시예에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는, 다양한 이미지 프로세싱 회로를 포함할 수 있고, 이미지 센서(230)을 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(180)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장 되거나 카메라 모듈(180)의 외부 구성 요소(예: 메모리(130), 디스플레이 모듈(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 제공될 수 있다. 일실시예에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(260)이 프로세서(120)과 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 적어도 하나의 이미지는 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 디스플레이 모듈(160)를 통해 표시될 수 있다.
일 실시예에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(180)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
도 2b는, 일 실시예에 따른, 전자 장치(101)의 블록도이다.
일 실시예에 따라, 전자 장치(101)는, 이미지 센서(230), (예를 들어, 다양한 회로를 포함하는) 이미지 전처리기(270), 메모리(130), 및 (예를 들어, 프로세싱 회로를 포함하는) 프로세서(120)를 포함할 수 있다.
일 실시예에 따른 전자 장치(101)의 동작은 전자 장치(101)의 프로세서(120)(예: 도 1의 프로세서(120) 및/또는 도 2a의 이미지 시그널 프로세서(260))에 의해 제어될 수 있다. 전자 장치(101)가 특정 동작을 수행하는 것은 전자 장치(101)의 프로세서(120)에 의해 전자 장치(101) 또는 전자 장치(101)에 포함되는 구성 요소가 제어되는 것일 수 있다. 전자 장치(101)는 하나 이상의 프로세서(120)를 포함할 수 있으며, 이하에서는 프로세서(120)가 복수 개로 구현되는 경우에도 설명의 편의를 위해 "전자 장치(101)의 동작" 또는 "프로세서(120)의 동작"으로 기재하도록 한다.
일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 센서(230)를 이용하여, 로(raw) 데이터를 획득할 수 있다. "로 데이터"는 이미지 센서(230)를 통해 획득되는 데이터(예: 피사체(200, 201)에 대응하는 이미지)일 수 있다. 도 2b에서 피사체(200, 201)는, 사람의 얼굴 부분(200) 및/또는 사람의 안구 부분(201)을 포함할 수 있으나, 이는 예시일 뿐이다. 예를 들어, 이미지 센서(230)를 통해 획득되는 로 데이터는 생체 데이터(예: 얼굴, 홍채, 지문, 정맥)를 포함할 수 있다.
일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)를 이용하여, 로 데이터에 이미지 처리(예: 이미지 전처리, 및/또는 변경 동작(change operation))를 수행할 수 있다. 이미지 전처리기(270)는, 이미지 처리(예: 이미지 전처리, 및/또는 변경 동작)를 수행하는 다양한 회로를 포함하는 하드웨어 모듈일 수 있다. 예를 들어, 이미지 전처리기(270)는, 이미지 센서(230)를 통해 획득된 로 데이터를 전달 받을 수 있다. 이미지 전처리기(270)는, 로 데이터에 이미지 전처리(예: 3A(auto focus, auto exposure, auto white balance)) 및/또는 변경 동작을 수행할 수 있다. 변경 동작은, 생체 데이터를 변경(또는 변형)하는 동작으로서, 변경 동작에 대해서는 도 3에서 후술하도록 한다.
일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)에 의해 이미지 처리(예: 이미지 전처리, 및/또는 변경 동작)가 수행된 데이터(예: 이미지 데이터)를 메모리(130)에 저장할 수 있다. 예를 들어, 이미지 전처리기(270)는, 이미지 처리(예: 이미지 전처리, 및/또는 변경 동작)가 수행된 데이터(예: 이미지 데이터)를 메모리(130)로 전달할 수 있다. 메모리(130)는, 이미지 전처리기(270)로부터 전달 받은 데이터를 저장할 수 있다.
도 2c는, 일 실시예에 따른, 전자 장치(101)의 블록도이다.
일 실시예에 따라, 전자 장치(101)는, (예를 들어, 프로세싱 회로를 포함하는) 프로세서(120), (예를 들어, 카메라를 포함하는) 카메라 모듈(180), 디스플레이(274)(예: 도 1의 디스플레이 모듈(160)에 포함되는 적어도 하나의 디스플레이), 센서(276)(예: 도 1의 센서 모듈(176)에 포함되는 적어도 하나의 센서), 통신 회로(278)(예: 도 1의 통신 모듈(190)에 포함되는 적어도 하나의 통신 회로), 및 메모리(130)를 포함할 수 있다.
일 실시예에 따라, 메모리(130)는, XR 프레임워크(280), 및 하드웨어 추상화 계층(299)를 포함할 수 있다. 예를 들어, XR 프레임워크(280)는, OpenXR 표준 기반 렌더링 및 입력 구조를 플랫폼에 활용하기 위해 설계될 수 있다. 예를 들어, 하드웨어 추상화 계층(299)은, 하드웨어 동작을 위한 인터페이를 포함할 수 있다.
일 실시예에 따라, XR 프레임워크(280)는, CPM(compositing presentation manager)(281), 인식 추상화 계층(perception abstract layer)(286), 및 인식 서비스(perception service)(290)를 포함할 수 있다.
일 실시예에 따라, 인식 추상화 계층(286)은, 인식 서비스(290)와 CPM(281)을 위한 인터페이스일 수 있다.
일 실시예에 따라, 인식 서비스(290)는, 획득한 센서 데이터에 기반하여 인식 솔루션(들)을 통해 트랙킹 데이터(tracking data)를 추정할 수 있다. 인식 서비스(290)는, 위치 추적(291), 공간 인식(292), 제스쳐 추적(293), 시선 추적(294), 얼굴 추적(295), 및 기타 추적(296)(예: 기타 구성에 대한 추적)을 포함할 수 있다. 예를 들어, 전자 장치(101)는, 인식 서비스(290)의 위치 추적(291)(예: HeT(head tracking))을 통해, 인식용 카메라와 IMU 입력을 이용해 전자 장치(101)(예: HMD(head mounted device))의 6DoF(6 degrees of freedom) 자세(pose)를 추정할 수 있다. 예를 들어, 전자 장치(101)는, 인식 서비스(290)의 공간 인식(292)(예: SU(scene understanding))을 통해, 인식용 카메라 입력과 6DoF 자세 및 ToF(time of flight)를 이용해 주변의 환경을 3D로 재구성하고 이를 기반으로 평면 인식 동작을 수행할 수 있다. 전자 장치(101)는, 공간 인식(292)을 위해, 부수적으로 촬영용 카메라 입력을 활용할 수도 있다. 예를 들어, 전자 장치(101)는, 인식 서비스(290)의 제스쳐 추적(293)(예: HaT(hand tracking))을 통해, 인식용 카메라 및 ToF 입력을 이용하여 사용자의 손 자세를 추적하고 및 제스쳐를 인식할 수 있다. 예를 들어, 전자 장치(101)는, 인식 서비스(290)의 시선 추적(294)(예: ET(eye tracking))을 통해, ET용 카메라와 IR(infrared) LED를 이용해 사용자의 눈 움직임(또는 동공의 움직임)을 추정하고 추적할 수 있다. 예를 들어, 전자 장치(101)는, 인식 서비스(290)의 얼굴 추적(295)(예: FT(face tracking))을 통해, FT용 카메라와 IR LED를 이용해 사용자의 얼굴 움직임을 추정하고 추적할 수 있다. 예를 들어, 전자 장치(101)는, 인식 서비스(290)의 기타 추적(296)(예: 홍채 추적)을 통해, IR 카메라(예: 도 2의 이미지 센서에 포함되는 IR 센서)와 IR LED를 이용해 사용자의 홍채를 추정하고 추적할 수 있다.
일 실시예에 따라, CPM(281)은, 런타임(282), 패스-스루(283), 입력 관리자(284), 및 컴포지터(285)를 포함할 수 있다. CPM(281)은, 입력 관리자(284)를 통해 인식 추상화 계층(286)으로부터 획득한 데이터(예: 트랙킹 데이터)를 바탕으로 렌더링 된 버츄얼 노드(virtual node)와 패스-스루(283)(예: pass-through library)를 통해 획득한 노드를 정합(composition)할 수 있다.
도 3은, 일 실시예에 따른, 전자 장치(101)의 동작을 설명하는 도면이다.
도 3을 참조하면, 일 실시예에 따라, 전자 장치(101)의 메모리(130)는, 제 1 버퍼(310)(예: 보안 버퍼) 및 제 2 버퍼(320)(예: 비보안 버퍼)를 포함할 수 있다. 예를 들어, 제 1 버퍼(310) 및 제 2 버퍼(320)는, 메모리(130)에서 동적으로 할당되는 영역일 수 있다.
일 실시예에 따라, 제 1 버퍼(310)(예: 보안 버퍼)는, 생체 데이터를 포함하는 데이터가 저장되는 버퍼일 수 있다. 보안 버퍼(예: 310)는, 보안 영역(secure area)(예: 도 8의 제 1 영역)에서 접근 가능한 버퍼일 수 있다. 예를 들어, 보안 영역은 보안 실행 환경(예: TEE(trusted execution environment))에 대응하는 영역일 수 있다. 일 실시예에 따라, 전자 장치(101)는, 보안 프로세서(secure processor)를 포함할 수 있다. 보안 프로세서는 물리적으로 구분되는 별도의 보안 영역에 대응될 수 있다. 예를 들어, 보안 영역은, 보안 메모리(secure memory)를 포함하는 보안 프로세서 또는 eSE(embedded secure element)에 대응하는 영역일 수 있다. 예를 들어, 전자 장치(101)의 보안 프로세서 또는 eSE는, 보안 버퍼(예: 310)에 저장된 데이터를 처리할 수 있다. 일 실시예에 따라, 제 2 버퍼(320)(예: 비보안 버퍼)는, 생체 데이터에 변경 동작이 수행된 데이터가 저장되는 버퍼일 수 있다. 비보안 버퍼(예: 320)는, 비보안 영역(non-secure area)(예: 도 8의 제 2 영역)에서 접근 가능한 버퍼일 수 있다. 비보안 영역은 일반 실행 환경(예: REE(rich execution environment))에 대응하는 영역일 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)에 의해 이미지 처리(예: 이미지 전처리, 및/또는 변경 동작)가 수행된 데이터(예: 이미지 데이터)를 메모리(130)의 제 1 버퍼(310) 및/또는 제 2 버퍼(320)에 저장할 수 있다.
도 3을 참조하면, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 센서(230)를 통해 획득된 로 데이터에, 이미지 전처리기(270)를 이용하여 이미지 처리(예: 이미지 전처리, 및/또는 변경 동작)를 수행할 수 있다.
예를 들어, 전자 장치(101)는, 이미지 전처리기(270)를 이용하여, 로 데이터에 이미지 전처리(예: 도 3의 P)를 수행할 수 있다. 이미지 전처리는, 예를 들어, 3A(auto focus, auto exposure, auto white balance)를 포함할 수 있다.
예를 들어, 전자 장치(101)는, 이미지 전처리기(270)를 이용하여, 로 데이터에 변경 동작(예: 도 3의 C)을 수행할 수 있다. 도 3에는, 이미지 전처리를 수행하고, 이어서 변경 동작을 수행하는 예시를 도시하였으나, 전자 장치(101)는, 이미지 센서(230)를 통해 획득된 로 데이터에 바로 변경 동작을 수행할 수도 있고, 도 3과 같이 이미지 전처리가 수행된 로 데이터에 변경 동작을 수행할 수도 있다. "변경 동작"은, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에 포함된 생체 데이터를 변경(또는 변형)하는 동작일 수 있다. 예를 들어, 변경 동작은, 생체 데이터 또는 생체 데이터를 포함하는 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에 이미지 처리를 수행하는 동작일 수 있다. 예를 들어, 전자 장치(101)는, 생체 데이터를 포함하는 로 데이터(또는 이미지 전처리가 수행된 로 데이터)의 전체에 대해 이미지 처리를 수행할 수 있다. 예를 들어, 전자 장치(101)는, 생체 데이터를 포함하는 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에서 생체 데이터에 대응하는 영역에 이미지 처리를 수행할 수 있다. 예를 들어, 변경 동작(예: 생체 데이터 또는 생체 데이터를 포함하는 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에 수행하는 이미지 처리)은, 블랭크(blank) 처리(예: 도 3의 321), 생체 데이터의 제거(예: 도 3의 322), 블러(blur) 처리(예: 도 3의 323), 또는 빗금 처리(예: 도 3의 324) 중 적어도 하나를 포함할 수 있다. "블랭크 처리"는, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)의 전체 영역, 또는 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에 포함된 생체 데이터에 대응하는 영역에 대한 블랭크 처리일 수 있다. "생체 데이터의 제거"는, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에 포함된 생체 데이터에 대응하는 영역을 제거하는 동작일 수 있다. 생체 데이터의 제거가 수행되면, 생체 데이터에 대응하는 영역 이외의 영역은, 원본 데이터(예: 로 데이터(또는 이미지 전처리가 수행된 로 데이터))와 동일할 수 있다. "블러 처리"는, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)의 전체 영역, 또는 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에 포함된 생체 데이터에 대응하는 영역에 대한 블러 처리일 수 있다. 예를 들어, 생체 데이터에 대응하는 영역에 대한 블러 처리가 수행되면, 생체 데이터에 대응하는 영역 이외의 영역은, 원본 데이터(예: 로 데이터(또는 이미지 전처리가 수행된 로 데이터))와 동일할 수 있다. "빗금 처리"는, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)의 전체 영역, 또는 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에 포함된 생체 데이터에 대응하는 영역에 대한 빗금 처리일 수 있다. 예를 들어, 생체 데이터에 대응하는 영역에 대한 빗금 처리가 수행되면, 생체 데이터에 대응하는 영역 이외의 영역은, 원본 데이터(예: 로 데이터(또는 이미지 전처리가 수행된 로 데이터))와 동일할 수 있다.
일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에서 생체 데이터의 위치를 확인하고, 확인된 생체 데이터의 위치에 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행할 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 메모리(130)에 저장된 정보(예: 생체 데이터의 위치에 대한 정보)에 기반하여, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에서 생체 데이터(예: 생체 데이터의 위치)를 확인할 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 로 데이터가 획득되기 전에, 로 데이터에 포함될 생체 데이터의 위치에 대한 정보를 메모리(130)에 저장할 수 있다. 전자 장치(101)는, 메모리(130)에 저장된 정보(예: 로 데이터에 포함될 생체 데이터의 위치에 대한 정보)에 기반하여, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에서 생체 데이터의 위치를 확인할 수 있다. 일 실시예에 따라, 전자 장치(101)는, 로 데이터에 포함될 생체 데이터의 위치에 대한 정보가 저장된 메모리(130)를 포함할 수 있다. 일 실시예에 따라, 전자 장치(101)는, 제 1 로 데이터 또는 제 1 로 데이터에 대응하는 이미지 데이터에 기반하여, 제 1 시점에 생체 데이터의 위치를 확인하고, 확인된 생체 데이터의 위치에 대한 정보를 메모리(130)에 저장할 수 있다. 전자 장치(101)는, 제 1 시점 이후의 제 2 시점에 제 2 로 데이터를 획득하고, 제 2 시점 이전(예: 제 1 시점)에 확인된 생체 데이터의 위치에 대한 정보에 기반하여, 제 2 로 데이터(또는 이미지 전처리가 수행된 제 2 로 데이터)에서 생체 데이터의 위치를 확인할 수 있다.
일 실시예에 따라, 도 3을 참조하면, 전자 장치(101)는, 로 데이터에 이미지 전처리(P)를 수행함으로써 확인되는 제 1 이미지 데이터(311)(예: 생체 데이터(예: 홍채)를 포함하는 이미지 데이터)를 메모리(130)의 제 1 버퍼(310)에 저장할 수 있다. 예를 들어, 도 3을 참조하면, 전자 장치(101)는, 로 데이터에 이미지 전처리(P) 및 변경 동작(C)을 수행함으로써 확인되는 제 2 이미지 데이터(325)(예: 생체 데이터에 대응하는 영역에 이미지 처리가 수행된 이미지 데이터)를 메모리(130)의 제 2 버퍼(320)에 저장할 수 있다. 제 2 버퍼(320)에 저장되는 제 2 이미지 데이터(325)는, 이미지 센서(230)를 통해 획득되는 로 데이터에 변경 동작이 수행된 데이터일 수도 있고, 로 데이터에 이미지 전처리가 수행된 제 1 이미지 데이터(311)에 변경 동작이 수행된 데이터일 수도 있다.
도 4는, 일 실시예에 따른, 전자 장치(101)의 동작 방법의 흐름도이다. 도 4는, 이전에 설명한 실시예를 참조하여 설명할 수 있다.
도 4의 동작 중 적어도 일부 동작은 생략될 수 있다. 도 4의 동작들의 동작 순서는 변경될 수 있다. 도 4의 동작들의 수행 전, 수행 도중, 또는 수행 후에 도 4의 동작들 이외의 동작이 수행될 수도 있다.
도 4를 참조하면, 401 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 센서(230)를 이용하여, 로 데이터를 획득할 수 있다. 로 데이터는 이미지 센서(230)를 통해 획득되는 데이터(예: 피사체(200, 201)에 대응하는 이미지)일 수 있다.
403 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)를 이용하여, 401 동작의 로 데이터에 이미지 전처리(예: 3A)를 수행할 수 있다. 전자 장치(101)는, 401 동작의 로 데이터에 이미지 전처리(예: 3A)를 수행함으로써, 이미지 데이터(예: 도 3의 311)를 확인할 수 있다.
405 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리가 수행된 이미지 데이터(예: 도 3의 311)를 메모리(130)의 제 1 버퍼(310)(예: 보안 버퍼)에 저장할 수 있다.
도 5는, 일 실시예에 따른, 전자 장치(101)의 동작 방법의 흐름도이다. 도 5는, 이전에 설명한 실시예을 참조하여 설명할 수 있다.
도 5의 동작 중 적어도 일부 동작은 생략될 수 있다. 도 5의 동작들의 동작 순서는 변경될 수 있다. 도 5의 동작들의 수행 전, 수행 도중, 또는 수행 후에 도 5의 동작들 이외의 동작이 수행될 수도 있다.
도 5를 참조하면, 501 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 센서(230)를 이용하여, 로 데이터를 획득할 수 있다. 로 데이터는 이미지 센서(230)를 통해 획득되는 데이터(예: 피사체(200, 201)에 대응하는 이미지)일 수 있다.
503 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)를 이용하여, 501 동작의 로 데이터에 이미지 전처리(예: 3A)를 수행할 수 있다.
505 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 503 동작에서 이미지 전처리가 수행된 데이터에, 이미지 전처리기(270)를 이용하여, 변경 동작을 수행할 수 있다. 변경 동작은, 생체 데이터에 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행하는 동작일 수 있다. 전자 장치(101)는, 501 동작의 로 데이터에, 503 동작의 이미지 전처리 및 505 동작의 변경 동작을 수행함으로써, 이미지 데이터(예: 도 3의 325)를 확인할 수 있다.
507 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리 및 변경 동작이 수행된 이미지 데이터(예: 도 3의 325)를 메모리(130)의 제 2 버퍼(320)(예: 비보안 버퍼)에 저장할 수 있다.
도 6은, 일 실시예에 따른, 전자 장치(101)의 동작 방법의 흐름도이다. 도 6은, 이전에 설명한 실시예을 참조하여 설명할 수 있다.
도 6의 동작 중 적어도 일부 동작은 생략될 수 있다. 도 6의 동작들의 동작 순서는 변경될 수 있다. 도 6의 동작들의 수행 전, 수행 도중, 또는 수행 후에 도 6의 동작들 이외의 동작이 수행될 수도 있다.
도 6을 참조하면, 601 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 센서(230)를 이용하여, 로 데이터를 획득할 수 있다. 로 데이터는 이미지 센서(230)를 통해 획득되는 데이터(예: 피사체(200, 201)에 대응하는 이미지)일 수 있다.
603 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)를 이용하여, 601 동작의 로 데이터에 이미지 전처리를 수행함으로써 제 1 이미지 데이터(예: 도 3의 311)를 확인(또는 생성 또는 가공 또는 획득)할 수 있다.
605 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)를 이용하여, 603 동작의 제 1 이미지 데이터(예: 도 3의 311)에 변경 동작을 수행함으로써 제 2 이미지 데이터(예: 도 3의 325)를 확인(또는 생성 또는 가공 또는 획득)할 수 있다.
607 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 603 동작의 제 1 이미지 데이터(예: 도 3의 311)를 제 1 버퍼(310)에 저장할 수 있다. 전자 장치(101)는, 이미지 전처리기(270)에서 제공되는 제 1 이미지 데이터(예: 도 3의 311)를 제 1 버퍼(310)에 저장할 수 있다.
609 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 605 동작의 제 2 이미지 데이터(예: 도 3의 325)를 제 2 버퍼(320)에 저장할 수 있다. 전자 장치(101)는, 이미지 전처리기(270)에서 제공되는 제 2 이미지 데이터(예: 도 3의 325)를 제 2 버퍼(320)에 저장할 수 있다.
도 7은, 일 실시예에 따른, 전자 장치(101)의 동작 방법의 흐름도이다. 도 7은, 이전에 설명한 실시예을 참조하여 설명할 수 있다.
도 7의 동작 중 적어도 일부 동작은 생략될 수 있다. 도 7의 동작들의 동작 순서는 변경될 수 있다. 도 7의 동작들의 수행 전, 수행 도중, 또는 수행 후에 도 7의 동작들 이외의 동작이 수행될 수도 있다.
도 7을 참조하면, 로 데이터에 대한 변경 동작을 이해할 수 있다.
도 7을 참조하면, 701 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 생체 데이터를 포함하는 로 데이터를 획득할 수 있다. 생체 데이터는, 예를 들어, 얼굴, 홍채, 지문, 정맥 등을 포함할 수 있으나, 이에 국한되지 않는다.
703 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 701 동작의 로 데이터에 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행할 수 있다. 전자 장치(101)는, 생체 데이터를 포함하는 로 데이터에 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행할 수 있다. 생체 데이터를 포함하는 로 데이터에 대한 이미지 처리는 도 3을 참조하여 이해할 수 있다. 예를 들어, 전자 장치(101)는, 로 데이터에 이미지 전처리를 수행하기 전에, 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행할 수 있다. 예를 들어, 전자 장치(101)는, 로 데이터에 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행한 이후, 이미지 전처리를 수행할 수도 있다. 예를 들어, 전자 장치(101)는, 로 데이터에 이미지 전처리를 수행한 이후, 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행할 수 있다. 예를 들어, 전자 장치(101)는, 로 데이터에 이미지 전처리를 수행하지 않고, 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행할 수 있다.
일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 도 7의 변경 동작(예: 703)이 수행된 데이터를 비보안 버퍼(예: 도 3의 320)에 저장할 수 있다.
도 8은, 일 실시예에 따른, 전자 장치(101)의 동작을 설명하는 도면이다. 도 9는, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다. 도 8 및 도 9는, 이전에 설명한 실시예을 참조하여 설명할 수 있다.
도 8을 참조하여, 보안 영역(예: 제 1 영역) 및 비보안 영역(예: 제 2 영역)을 이해할 수 있다.
도 8을 참조하면, 일 실시예에 따라, 메모리(130)의 제 1 버퍼(310)에는, 보안 영역(예: 제 1 영역)에 속하는 구성으로 분류되는 어플리케이션(예: 제 1 어플리케이션(810))이 접근할 수 있다. 예를 들어, 제 1 어플리케이션(810)은, 보안 영역(예: TEE에 대응하는 영역, 또는 보안 프로세서(또는 eSE)에 대응하는 영역)에서 동작하는 바이너리일 수 있다. 보안 영역은, 생체 데이터를 포함하는 데이터를 취급할 수 있는 구성(들)에 대응하는 영역일 수 있다. 보안 영역에 속하는 구성은 생체 데이터를 포함하는 데이터를 취급할 수 있다. 생체 데이터를 포함하는 데이터는, 변경 동작이 수행되지 않은 데이터일 수 있다.
도 8을 참조하면, 일 실시예에 따라, 메모리(130)의 제 2 버퍼(320)에는, 비보안 영역(예: 제 2 영역)에 속하는 구성으로 분류되는 어플리케이션(예: 제 2 어플리케이션(820))이 접근할 수 있다. 예를 들어, 제 2 어플리케이션(820)은, 비보안 영역(예: REE)에서 동작하는 바이너리일 수 있다. 비보안 영역은, 생체 데이터를 포함하지 않는 데이터를 취급할 수 있는 구성(들)에 대응하는 영역일 수 있다. 비보안 영역에 속하는 구성은 생체 데이터를 포함하지 않는 데이터를 취급할 수 있다. 생체 데이터를 포함하지 않는 데이터는, 최초부터 생체 데이터를 포함하지 않는 데이터 또는, 원본 데이터(예: 로 데이터 또는 이미지 전처리가 수행된 로 데이터)에 변경 동작이 수행된 데이터일 수 있다.
일 실시예에 따라, 전자 장치(101)는, 물리적으로 구분되는 별도의 보안 프로세서(또는 eSE)를 포함할 수 있다. 전자 장치(101)의 보안 프로세서(또는 eSE)는, 보안 영역에 대응할 수 있다. 전자 장치(101)의 보안 프로세서(또는 eSE)는, 제 1 버퍼(310)에 접근할 수 있다. 전자 장치(101)의 보안 프로세서(또는 eSE)는, 제 1 버퍼(310)에 저장된 데이터를 처리할 수 있다. 전자 장치(101)의 보안 프로세서(또는 eSE)는, 제 1 버퍼(310)에 저장된 데이터에 생체 인증 알고리즘(예: 제 1 알고리즘(811))을 적용할 수 있다.
도 9를 참조하여, 도 8 및 이전에 설명한 실시예의 구성을 상세히 설명할 수 있다.
도 9의 동작 중 적어도 일부 동작은 생략될 수 있다. 도 9의 동작들의 동작 순서는 변경될 수 있다. 도 9의 동작들의 수행 전, 수행 도중, 또는 수행 후에 도 9의 동작들 이외의 동작이 수행될 수도 있다.
도 9를 참조하면, 901 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 1 버퍼(310)에 저장된 제 1 이미지 데이터(예: 도 3의 311)(예: 생체 데이터를 포함하는 데이터)를 제 1 어플리케이션(810)에 전송(예: 전달)할 수 있다. 제 1 어플리케이션(810)은, 제 1 버퍼(310)에 저장된 제 1 이미지 데이터(예: 도 3의 311)를 획득할 수 있다. 제 1 어플리케이션(810)은 보안 영역(예: 제 1 영역)에 속하는 어플리케이션일 수 있다. 제 1 어플리케이션(810)은, 생체 인증을 위한 어플리케이션일 수 있다. 예를 들어, 제 1 어플리케이션(810)은, 이미지 데이터에 제 1 알고리즘(811)을 적용함으로써, 전자 장치(101)의 사용자에 대한 생체 인증을 수행할 수 있다.
903 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 2 버퍼(320)에 저장된 제 2 이미지 데이터(예: 도 3의 325)(예: 생체 데이터를 포함하지 않는 데이터 또는 생체 데이터에 대한 이미지 처리가 수행된 데이터)를 제 2 어플리케이션(820)에 전송(예: 전달)할 수 있다. 제 2 어플리케이션(820)은, 제 2 버퍼(320)에 저장된 제 2 이미지 데이터(예: 도 3의 325)를 획득할 수 있다. 제 2 어플리케이션(820)은 비보안 영역(예: 제 2 영역)에 속하는 어플리케이션일 수 있다. 제 2 어플리케이션(820)은, 생체 인증과 무관한 어플리케이션일 수 있다. 제 2 어플리케이션(820)은, 보안이 필요하지 않은 카메라 이미지 처리를 위한 어플리케이션일 수 있다. 예를 들어, 제 2 어플리케이션(820)은, 이미지 데이터에 제 2 알고리즘(821)을 적용함으로써, 전자 장치(101)의 사용자에 대한 시선 추적을 수행할 수 있다. 예를 들어, 제 2 어플리케이션(820)은, 이미지 데이터에 제 2 알고리즘(821)을 적용함으로써, 이미지 프리뷰(예: 디스플레이(예: 도 1의 160)를 통한 이미지 프리뷰)를 수행할 수 있다. 예를 들어, 제 2 어플리케이션(820)은, 이미지 데이터에 제 2 알고리즘(821)을 적용함으로써, 동영상 녹화를 수행할 수 있다. 제 2 어플리케이션(820)이 수행할 수 있는 동작은 시선 추적, 이미지 프리뷰, 또는 동영상 녹화로 한정되지 않는다.
일 실시예에 따라, 901 동작이 수행되는 기간의 적어도 일부는, 903 동작이 수행되는 기간의 적어도 일부에 대응할 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 제 1 버퍼(310)에 저장된 제 1 이미지 데이터(예: 도 3의 311)를 제 1 어플리케이션(810)에 전달하는 기간과 적어도 일부 겹치는 기간 동안, 제 2 버퍼(320)에 저장된 제 2 이미지 데이터(예: 도 3의 325)를 제 2 어플리케이션(820)에 전달할 수 있다.
일 실시예에 따라, 901 동작 및 903 동작은 번갈아 수행될 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 제 1 기간 동안 제 1 버퍼(310)에 저장된 제 1 이미지 데이터(예: 도 3의 311)를 제 1 어플리케이션(810)에 전달하고, 제 1 기간 이후의 제 2 기간 동안 제 2 버퍼(320)에 저장된 제 2 이미지 데이터(예: 도 3의 325)를 제 2 어플리케이션(820)에 전달할 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 제 1 기간 동안 제 1 버퍼(310)에 저장된 제 1 이미지 데이터(예: 도 3의 311)를 제 1 어플리케이션(810)에 전달하고, 제 1 기간 이후의 제 2 기간 동안 제 2 버퍼(320)에 저장된 제 2 이미지 데이터(예: 도 3의 325)를 제 2 어플리케이션(820)에 전달하고, 제 2 기간 이후의 제 3 기간 동안 제 1 버퍼(310)에 저장된 제 1 이미지 데이터(예: 도 3의 311)를 제 1 어플리케이션(810)에 전달하고, 제 3 기간 이후의 제 4 기간 동안 제 2 버퍼(320)에 저장된 제 2 이미지 데이터(예: 도 3의 325)를 제 2 어플리케이션(820)에 전달할 수 있다.
905 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 1 어플리케이션(810)을 이용하여, 제 1 버퍼(310)에서 제공되는 제 1 이미지 데이터(예: 도 3의 311)(예: 생체 데이터를 포함하는 데이터)에 제 1 알고리즘(811)을 적용할 수 있다. 제 1 어플리케이션(810)은, 생체 인증을 위한 어플리케이션일 수 있다. 제 1 알고리즘(811)은, 생체 인증을 위한 알고리즘일 수 있다. 전자 장치(101)는, 제 1 이미지 데이터(예: 도 3의 311)(예: 생체 데이터를 포함하는 데이터)에 제 1 알고리즘(811)(예: 생체 인증을 위한 알고리즘)을 적용함으로써, 전자 장치(101)의 사용자에 대한 생체 인증을 수행할 수 있다. 제 1 어플리케이션(810)(예: 생체 인증을 위한 어플리케이션)의 종류에는 제한이 없다. 제 1 알고리즘(811)(예: 생체 인증을 위한 알고리즘)의 종류에는 제한이 없다. 생체 인증의 종류에는 제한이 없다.
907 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 2 어플리케이션(820)을 이용하여, 제 2 버퍼(320)에서 제공되는 제 2 이미지 데이터(예: 도 3의 325)(예: 생체 데이터를 포함하지 않는 데이터 또는 생체 데이터에 변경 동작이 수행된 데이터)에 제 2 알고리즘(821)을 적용할 수 있다. 제 2 어플리케이션(820)은, 보안이 필요하지 않은 카메라 이미지 처리를 위한 어플리케이션일 수 있다. 제 2 알고리즘(821)은, 보안이 필요하지 않은 카메라 이미지 처리를 위한 알고리즘일 수 있다. 예를 들어, 제 2 알고리즘(821)은, 사용자의 시선 추적을 위한 알고리즘일 수 있다. 예를 들어, 제 2 알고리즘(821)은, 이미지 프리뷰를 위한 알고리즘일 수 있다. 예를 들어, 제 2 알고리즘(821)은, 동영상 녹화를 위한 알고리즘일 수 있다. 예를 들어, 전자 장치(101)는, 제 2 이미지 데이터(예: 도 3의 325)(예: 생체 데이터를 포함하지 않는 데이터 또는 생체 데이터에 변경 동작이 수행된 데이터)에 제 2 알고리즘(821)을 적용함으로써, 전자 장치(101)의 사용자에 대한 시선 추적을 수행할 수 있다. 예를 들어, 전자 장치(101)는, 제 2 이미지 데이터(예: 도 3의 325)(예: 생체 데이터를 포함하지 않는 데이터 또는 생체 데이터에 변경 동작이 수행된 데이터)에 제 2 알고리즘(821)을 적용함으로써, 이미지 프리뷰를 수행할 수 있다. 예를 들어, 전자 장치(101)는, 제 2 이미지 데이터(예: 도 3의 325)(예: 생체 데이터를 포함하지 않는 데이터 또는 생체 데이터에 변경 동작이 수행된 데이터)에 제 2 알고리즘(821)을 적용함으로써, 동영상 녹화를 수행할 수 있다. 제 2 어플리케이션(820)의 종류에는 제한이 없다. 제 2 알고리즘(821)의 종류에는 제한이 없다. 제 2 어플리케이션(820)이 수행할 수 있는 동작에는 제한이 없다.
도 10a는, 일 실시예에 따른, 전자 장치(101)를 설명하는 도면이다. 도 10b는, 일 실시예에 따른, 전자 장치(101)를 설명하는 도면이다. 도 10c는, 일 실시예에 따른, 전자 장치(101)를 설명하는 도면이다.
도 10a 및 도 10b는 일 실시 예에 따른 전자 장치(101)의 전면 및 후면을 나타내는 도면들이다.
도 10a 및 도 10b를 참조하면, 일 실시예에서, 하우징의 제 1 면(1010) 상에는 전자 장치(101)의 주변 환경과 관련된 정보를 획득하기 위한 카메라 모듈들(1011, 1012, 1013, 1014, 1015, 1016) 및/또는 뎁스 센서(1017) 가 배치될 수 있다.
일 실시예에서, 카메라 모듈들(1011, 1012)은, 전자 장치 주변 환경과 관련된 이미지를 획득할 수 있다.
일 실시예에서, 카메라 모듈들(1013, 1014, 1015, 1016)은, 전자 장치가 사용자에 의해 착용된 상태에서, 이미지를 획득할 수 있다. 카메라 모듈들(1013, 1014, 1015, 1016)은 핸드 검출과, 트래킹, 사용자의 제스처(예: 손동작) 인식을 위해 사용될 수 있다. 카메라 모듈들(1013, 1014, 1015, 1016)은 3DoF, 6DoF의 헤드 트래킹, 위치(공간, 환경) 인식 및/또는 이동 인식을 위하여 사용될 수 있다. 일 실시예에서, 핸드 검출과 트래킹, 사용자의 제스처 위하여 카메라 모듈들(1011, 1012)이 사용될 수도 있다.
일 실시예에서, 뎁스(depth) 센서(1017)는, 신호를 송신하고 피사체로부터 반사되는 신호를 수신하도록 구성될 수 있으며, TOF(time of flight)와 같이 물체와의 거리 확인을 위한 용도로 사용될 수 있다. 뎁스 센서(1017)를 대체하여 또는 추가적으로, 카메라 모듈들(1013, 1014, 1015, 1016)이 물체와의 거리를 확인할 수 있다.
일 실시예에 따라서, 하우징의 제 2 면(1020) 상에는 얼굴 인식용 카메라 모듈(1025, 1026,) 및/또는 디스플레이(1021)(및/또는 렌즈)가 배치될 수 있다.
일 실시예에서, 디스플레이에 인접한 얼굴 인식용 카메라 모듈(1025, 1026)은 사용자의 얼굴을 인식하기 위한 용도로 사용되거나, 사용자의 양 눈들을 인식 및/또는 트래킹할 수 있다.
일 실시예에서, 디스플레이(1021)(및/또는 렌즈)는, 전자 장치(101)의 제 2 면(1020)에 배치될 수 있다. 일 실시예에서, 전자 장치(101)는, 복수의 카메라 모듈들(1013, 1014, 1015, 1016) 중에서, 카메라 모듈들(1015, 1016)을 포함하지 않을 수 있다. 도 10a 및 도 10b에 도시하지는 않았지만, 전자 장치(101)는, 도 10c에 도시된 구성들 중 적어도 하나의 구성을 더 포함할 수 있다.
도 10c는, 일 실시 예에 따른, 전자 장치의 내부 구성을 설명하기 위한 사시도이다.
도 10c를 참조하면, 일 실시예에 따른 전자 장치(101)는, (예를 들어, 광 출력 회로를 포함하는) 광 출력 모듈(1041), (예를 들어, 도파관을 포함하는) 표시 부재(1031), 및 (예를 들어, 카메라를 포함하는) 카메라 모듈(1050) 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 광 출력 모듈(1041)은 영상을 출력할 수 있는 광원, 및 영상을 표시 부재(1031)로 가이드하는 렌즈를 포함할 수 있다. 일 실시예에 따르면, 광 출력 모듈(1041)은 액정 표시 장치(liquid crystal display, LCD), 디지털 미러 표시 장치(digital mirror device, DMD), 실리콘 액정 표시 장치(liquid crystal on silicon, LCoS), 유기 발광 다이오드(organic light emitting diode, OLED) 또는 마이크로 엘이디(micro light emitting diode, micro LED) 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 표시 부재(1031)는 광 도파로(예: 웨이브 가이드)를 포함할 수 있다. 일 실시예에 따르면, 광 도파로의 일단으로 입사된 광 출력 모듈(1041)의 출력된 영상은 광 도파로 내부에서 전파되어 사용자에게 제공될 수 있다. 일 실시예에 따르면 광 도파로는 적어도 하나의 회절 요소(예: DOE(diffractive optical element), HOE(holographic optical element)) 또는 반사 요소(예: 반사 거울) 중 적어도 하나를 포함할 수 있다. 예를 들어, 광 도파로는 적어도 하나의 회절 요소 또는 반사 요소를 이용하여 광 출력 모듈(1041)의 출력된 영상을 사용자의 눈으로 유도할 수 있다.
일 실시예에 따르면, 카메라 모듈(1050)(예: 도 1의 카메라 모듈(180))은 정지 영상 및/또는 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(1050)은 렌즈 프레임 내에 배치되고, 표시 부재(1031)의 주위에 배치될 수 있다.
일 실시예에 따르면, 제1 카메라 모듈(1051)은 사용자의 눈(예: 동공(pupil), 홍채(iris)) 또는 시선의 궤적을 촬영 및/또는 인식할 수 있다. 일 실시예에 따르면, 제1 카메라 모듈(1051)은, 사용자의 눈 또는 시선의 궤적과 관련된 정보(예: 궤적 정보)를 프로세서(예: 도 1의 프로세서(120))로 주기적으로 또는 비주기적으로 전송할 수 있다.
일 실시예에 따르면, 제2 카메라 모듈(1053)은 외부의 이미지를 촬영할 수 있다.
일 실시예에 따르면, 제3 카메라 모듈(1055)은 핸드(hand) 검출과 트래킹(tracking), 사용자의 제스쳐(예: 손동작) 인식을 위해 사용될 수 있다. 일 실시예에 따른 제3 카메라 모듈(1055)은, 3DoF(10 degrees of freedom), 6DoF의 헤드 트래킹(head tracking), 위치(공간, 환경) 인식 및/또는 이동 인식을 위해 사용될 수 있다. 일 실시예에 따른 핸드 검출과 트래킹, 사용자의 제스처 인식을 위해 제2 카메라 모듈(1053)이 사용될 수도 있다. 일 실시예에 따르면, 제1 카메라 모듈(1051) 내지 제3 카메라 모듈(1055) 중 적어도 하나는 센서 모듈(예: LiDAR 센서)로 대체될 수 있다. 예를 들면, 센서 모듈은, VCSEL(vertical cavity surface emitting laser), 적외선 센서, 및/또는 포토 다이오드(photodiode) 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 전자 장치(101)는 음성 입력 장치(1062-1, 1062-2) 및 음성 출력 장치(1063-1, 1063-2)을 포함할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치(101)는 사용자의 머리에 착용되기 위한 폼 팩터를 가질 수 있다. 예를 들어, 전자 장치(101)는, 사용자의 머리에 착용되기 위한 하우징을 포함할 수 있다. 전자 장치(101)는 사용자의 신체 부위 상에 고정되기 위한 스트랩, 및/또는 착용 부재를 더 포함할 수 있다. 예를 들어, 전자 장치(101)는, 상기 사용자의 머리에 착용된 상태 내에서, 증강 현실, 가상 현실, 및/또는 혼합 현실에 기반하는 사용자 경험을 제공할 수 있다.
일 실시예에 따른, 전자 장치(101)는, 사용자가 소지할 수 있는(예: 사용자의 손으로 잡을 수 있는) 폼 팩터를 가질 수 있다. 예를 들어, 전자 장치(101)는, 핸드폰, 또는 태블릿일 수 있다.
일 실시예에 따른, 전자 장치(101)는, 특정 공간에 배치되거나, 다른 장치에 부착되는 장치일 수 있다. 전자 장치(101)의 구현 방식에는 제한이 없다.
도 11a는, 일 실시예에 따른, 전자 장치(101)의 발광기(light emitter)(1100) 및 이미지 센서(230)를 설명하는 도면이다. 도 11b는, 일 실시예에 따른, 전자 장치(101)의 발광기(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 및/또는 1112) 및 이미지 센서(230)를 설명하는 도면이다. 도 12는, 일 실시예에 따른, 전자 장치(101)의 동작을 설명하는 도면이다. 도 13a는, 일 실시예에 따른, 전자 장치(101)의 동작을 설명하는 도면이다. 도 13b는, 일 실시예에 따른, 전자 장치(101)의 동작을 설명하는 도면이다. 도 11a, 도 11b, 도 12, 도 13a, 및 도 13b는, 이전에 설명한 실시예을 참조하여 설명할 수 있다.
도 11a를 참조하면, 일 실시예에 따라, 전자 장치(101)는, 발광기(1100) 및 이미지 센서(230)를 포함할 수 있다. 발광기(1100)는, 도 2의 플래쉬(220)일 수 있다. 발광기(1100)는, IR LED(infrared light emitting diode)를 포함할 수 있다. 발광기(1100)의 개수에는 제한이 없다. 예를 들어, 도 11a의 발광기(1100)는, 도 11b의 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112)을 포함할 수 있다.
도 11a 및 도 11b를 참조하면, 일 실시예에 따라, 전자 장치(101)는, 고글, 안경 또는 헤드셋 타입의 디자인(예: 사용자의 머리에 착용되기 위한 폼 팩터)으로 구현될 수 있다. 이러한 디자인에 의해 전자 장치(101)는, 사용자의 눈에 밀착 및 고정된 상태로 빛과 같은 외부 환경 요소에 덜 민감하며 이미지 센서(230)(예: IR(infrared) 카메라)가 눈 위치에 고정되어 동작될 수 있다.
도 11b를 참조하면, 일 실시예에 따라, 전자 장치(101)는, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 및 복수의 이미지 센서들(230)을 포함할 수 있다. 도 11b는, 사용자의 좌안 및 우안에 대응하는 발광기들 및 이미지 센서들을 도시하는 도면이다. 설명의 편의를 위하여, 도 11b를 참조하여, 사용자의 좌안에 대응하는 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 및 복수의 이미지 센서들(230)에 대해 설명할 수 있다. 이러한 설명은 사용자의 우안에 대응하는 발광기들 및 이미지 센서들에 대해서도 동일하게 적용될 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 적어도 하나 및 복수의 이미지 센서들(230) 중 적어도 하나를 이용하여, 로 데이터를 획득할 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 기간에 따라, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 적어도 하나를 온으로 제어하고, 나머지 적어도 하나를 오프로 제어할 수 있다. 이에 대해서는 후술하도록 한다.
도 12는, 이미지 센서(230)를 통해 획득된 로 데이터(1200)를 포함할 수 있다. 도 12를 참조하여, 이미지 센서(230)를 통해 획득된 로 데이터(1200)에서, 동공(1202) 및 홍채(1203)에 발광기(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)가 투영(1210)되어 보이는 현상을 이해할 수 있다. 예를 들어, 로 데이터(1200)는, 생체 데이터(예: 홍채(1203))를 포함할 수 있다. 로 데이터(1200)는, 눈썹(1201), 동공(1202), 홍채(1203), 및 공막(1204)에 대한 데이터를 포함할 수 있다. 전자 장치(101)는, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 적어도 하나를 온으로 제어한 이후, 로 데이터(1200)를 획득할 수 있다. 이때, 로 데이터(1200)에는, 광원(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)이 투영(1210)될 수 있다. 로 데이터(1200)에 광원(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)이 투영(1210)됨에 따라, 홍채(1203)에 대응하는 데이터가 왜곡될 수 있다. 반면, 눈꺼풀 및 눈썹에 대한 데이터를 필요로 하는 시선 추적 알고리즘(예: 도 8의 제 2 알고리즘(821))은 이러한 광원 투영(예: 1210)에 의한 왜곡에 대해 덜 민감할 수 있다. 이와 관련하여, 도 14 내지 도 16에서 상세히 설명하도록 한다.
일 실시예에 따라, 도 13a는, 이미지 처리가 수행된 데이터(1300)를 포함할 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 생체 데이터에 대응하는 영역(예: 홍채(1203)에 대응하는 영역)에 대한 이미지 처리를 수행할 수 있다. 예를 들어, 도 13a를 참조하면, 전자 장치(101)(예: 프로세서(120))는, 도 12의 로 데이터(1200)에서 동공(1202)(또는 홍채(1203))의 위치를 확인하고, 확인된 동공(1202)(또는 홍채(1203))의 위치에 기반하여, 홍채(1203)를 포함한 주변 데이터를 왜곡 또는 삭제(1310)할 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 전자 장치(101)의 특성(예: 고글, 안경 또는 헤드셋 타입의 디자인)에 기반한 지정 영역의 위치를 확인할 수 있다. 지정 영역은, 생체 데이터에 대응하는 영역일 수 있다. 예를 들어, 전자 장치(101)는, 고글, 안경 또는 헤드셋 타입의 디자인(예: 사용자의 머리에 착용되기 위한 폼 팩터)으로 구현될 수 있고, 이에 따라, 전자 장치(101)에서 획득되는 로 데이터에서 생체 데이터에 대응하는 영역의 위치가 지정된 범위에 포함될 수 있다. 예를 들어, 사용자가 전자 장치(101)를 착용한 상태에서는, 사용자의 신체의 일부(예: 눈썹, 안구, 동공, 홍채)에서 전자 장치(101)(예: 전자 장치(101)의 이미지 센서(230))까지의 거리 및 각도는 일정할 수 있다. 따라서, 전자 장치(101)에 의해 획득되는 로 데이터에는 생체 데이터가 포함될 수 있으며, 이때, 생체 데이터는, 로 데이터의 지정 영역(예: 지정된 범위)에 포함될 수 있다. 예를 들어, 전자 장치(101)는, 전자 장치(101)의 특성(예: 고글, 안경 또는 헤드셋 타입의 디자인)에 기반한 지정 영역의 위치에 대한 정보를, 메모리(130)에 저장할 수 있다. 예를 들어, 전자 장치(101)는, 전자 장치(101)가 사용자의 머리에 착용된 상태에서, 로 데이터를 획득할 수 있다. 전자 장치(101)(예: 프로세서(120))는, 획득한 로 데이터에서, 전자 장치(101)의 특성에 기반한 지정 영역의 위치를 생체 데이터에 대응하는 영역의 위치로서 확인할 수 있다. 전자 장치(101)(예: 프로세서(120))는, 지정 영역의 위치에 대응하는 생체 데이터에 대응하는 영역에 대해, 이미지 처리(예: 왜곡, 또는 삭제)를 수행할 수 있다. 예를 들어, 생체 데이터에 대응하는 영역에 대한 이미지 처리는, 블랭크 처리, 블러 처리, 생체 데이터의 삭제, 또는 빗금 처리 중 적어도 하나를 포함할 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에서 생체 데이터의 위치를 확인하고, 확인된 생체 데이터의 위치에 이미지 처리(예: 블랭크 처리, 생체 데이터의 제거, 블러 처리, 또는 빗금 처리 중 적어도 하나)를 수행할 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 메모리(130)에 저장된 정보(예: 생체 데이터의 위치에 대한 정보)에 기반하여, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에서 생체 데이터(예: 생체 데이터의 위치)를 확인할 수 있다. 예를 들어, 전자 장치(101)(예: 프로세서(120))는, 로 데이터가 획득되기 전에, 로 데이터에 포함될 생체 데이터의 위치에 대한 정보를 메모리(130)에 저장할 수 있다. 전자 장치(101)는, 메모리(130)에 저장된 정보(예: 로 데이터에 포함될 생체 데이터의 위치에 대한 정보)에 기반하여, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)에서 생체 데이터의 위치를 확인할 수 있다. 일 실시예에 따라, 전자 장치(101)는, 로 데이터에 포함될 생체 데이터의 위치에 대한 정보가 저장된 메모리(130)를 포함할 수 있다. 일 실시예에 따라, 전자 장치(101)는, 제 1 로 데이터 또는 제 1 로 데이터에 대응하는 이미지 데이터에 기반하여, 제 1 시점에 생체 데이터의 위치를 확인하고, 확인된 생체 데이터의 위치에 대한 정보를 메모리(130)에 저장할 수 있다. 전자 장치(101)는, 제 1 시점 이후의 제 2 시점에 제 2 로 데이터를 획득하고, 제 2 시점 이전(예: 제 1 시점)에 확인된 생체 데이터의 위치에 대한 정보에 기반하여, 제 2 로 데이터(또는 이미지 전처리가 수행된 제 2 로 데이터)에서 생체 데이터의 위치를 확인할 수 있다.
일 실시예에 따라, 도 13b는, 이미지 처리가 수행된 데이터(1320)를 포함할 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 원본 데이터(예: 로 데이터 또는 이미지 전처리가 수행된 로 데이터)에 대한 이미지 처리를 수행할 수 있다. 예를 들어, 전자 장치(101)는, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)의 전체에 대한 이미지 처리(예: 왜곡, 또는 삭제)를 수행할 수 있다. 예를 들어, 로 데이터(또는 이미지 전처리가 수행된 로 데이터)의 전체에 대한 이미지 처리는, 블랭크 처리, 블러 처리, 또는 빗금 처리 중 적어도 하나를 포함할 수 있다.
도 14는, 일 실시예에 따른, 전자 장치의 동작을 설명하는 도면이다. 도 15는, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다. 도 16은, 일 실시예에 따른, 전자 장치의 동작 방법의 흐름도이다. 도 14, 도 15, 및 도 16은, 이전에 설명한 실시예을 참조하여 설명할 수 있다.
도 14를 참조하면, 도 11의 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112)의 셋팅값을 이해할 수 있다. "셋팅값"은, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 어느 발광기(들)를 온으로 제어할지 여부에 대한 정보, 및/또는 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 온으로 제어되는 발광기(들)의 밝기(예: auto exposure gain)에 대한 정보를 포함할 수 있다. 예를 들어, 셋팅값은, 온으로 제어되는 발광기들의 개수, 위치, 및/또는 밝기에 대한 정보를 포함할 수 있다. 예를 들어, 셋팅값은, 생체 인식을 위한 제 1 셋팅값(들)(예: 도 14의 1410의 b0, b1, b2, bn), 및 보안이 필요하지 않은 카메라 이미지 처리를 위한 제 2 셋팅값(예: 도 14의 1420의 c)을 포함할 수 있다. 도 14의 1410은, t1, t3, t5를 포함하는 기간 동안, 생체 인식을 위한 제 1 셋팅값(들)(예: 예: 도 14의 1410의 b0, b1, b2, bn)에 기반하여, 로 데이터를 획득하는 것을 나타낼 수 있다. 도 14의 1420은, t2, t4, 수을 포함하는 기간 동안, 보안이 필요하지 않은 카메라 이미지 처리를 위한 제 2 셋팅값에 기반하여, 로 데이터를 획득하는 것을 나타낼 수 있다. 예를 들어, 생체 인식을 위한 제 1 셋팅값(들)에 기반하여, 전자 장치(101)(예: 프로세서(120))는, 이미지 센서(230)를 이용하여, 생체 데이터를 포함하는 로 데이터를 획득할 수 있다. 예를 들어, 보안이 필요하지 않은 카메라 이미지 처리를 위한 제 2 셋팅값에 기반하여, 전자 장치(101)(예: 프로세서(120))는, 이미지 센서(230)를 이용하여, 생체 데이터를 포함하지 않는 로 데이터(예: 생체 데이터가 왜곡된 로 데이터)를 획득할 수 있다. 일 실시예에 따라, 생체 인식을 위한 제 1 셋팅값들은, 복수 개로서, 생체 인식을 위한 이전 셋팅값에 대한 피드백에 기반하여 생체 인식을 위한 다음 셋팅값이 결정될 수 있다. 예를 들어, 도 14에서, b0에 대한 피드백에 기반하여 b1이 결정되고, b1에 대한 피드백에 기반하여 b2가 결정되고, 이러한 동작이 반복될 수 있다. 일 실시예에 따라, 생체 인식을 위한 제 1 셋팅값은, 하나로서, 생체 인식을 위한 셋팅값은 변경되지 않을 수도 있다. 일 실시예에 따라, 도 14의 실시예가 적용되는 경우, 전자 장치(101)는, 생체 데이터에 대한 변경 동작을 수행하지 않을 수 있다. 일 실시예에 따라, 도 14의 실시예가 적용되는 경우에도, 전자 장치(101)는, 생체 데이터에 대한 변경 동작을 수행할 수 있다.
도 15는, 도 14 및 이전에 설명한 실시예을 참조하여 설명할 수 있다.
도 15의 동작 중 적어도 일부 동작은 생략될 수 있다. 도 15의 동작들의 동작 순서는 변경될 수 있다. 도 15의 동작들의 수행 전, 수행 도중, 또는 수행 후에 도 15의 동작들 이외의 동작이 수행될 수도 있다.
도 15를 참조하면, 1501 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 1 기간 동안 제 1 로 데이터를 획득할 수 있다. 예를 들어, 전자 장치(101)는, 도 14의 제 1 기간(t1) 동안, 제 1 로 데이터를 획득할 수 있다. 전자 장치(101)는, 도 14의 제 1 기간(t1) 동안, 생체 인식을 위한 제 1 셋팅값(예: 도 14의 제 1 셋팅값들 중 b0)에 기반하여, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 제 1 발광기들을 온으로 제어할 수 있다. 예를 들어, 제 1 발광기들은, 도 11b의 1101, 1103, 1105, 1107, 1109, 및 1111을 포함할 수 있으나, 제 1 발광기들의 선택 기준에는 제한이 없다. 전자 장치(101)는, 도 14의 제 1 기간(t1) 동안, 생체 인식을 위한 제 1 셋팅값(예: 도 14의 제 1 셋팅값들 중 b0)에 기반하여, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 제 1 발광기들을 온으로 제어한 이후, 이미지 센서(230)를 이용하여 제 1 로 데이터를 획득할 수 있다.
1503 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)를 이용하여, 1501 동작의 제 1 로 데이터에 이미지 전처리를 수행할 수 있다. 일 실시예에 따라, 1503 동작은 생략될 수 있다.
1505 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 1501 동작의 제 1 로 데이터, 또는 1503 동작의 이미지 전처리가 수행된 데이터를, 메모리(130)의 제 1 버퍼(310)에 저장할 수 있다. 1505 동작에서, 제 1 버퍼(310)에 저장되는 데이터에는 생체 데이터가 포함될 수 있다. 이후, 전자 장치(101)는, 제 1 버퍼(310)에 저장된 생체 데이터를 포함하는 데이터에 기반하여, 생체 인증을 수행할 수 있다.
1507 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 2 기간 동안 제 2 로 데이터를 획득할 수 있다. 예를 들어, 전자 장치(101)는, 도 14의 제 2 기간(t2) 동안, 제 2 로 데이터를 획득할 수 있다. 전자 장치(101)는, 도 14의 제 2 기간(t2) 동안, 보안이 필요하지 않은 카메라 이미지 처리를 위한 제 2 셋팅값(예: 도 14의 c)에 기반하여, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 제 2 발광기들을 온으로 제어할 수 있다. 예를 들어, 제 2 발광기들은, 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 및 1112을 포함할 수 있으나, 제 2 발광기들의 선택 기준에는 제한이 없다.
일 실시예에 따라, 1501 동작의 제 1 발광기들(예: 도 11b의 1101, 1103, 1105, 1107, 1109, 및 1111)의 개수는 1507 동작의 제 2 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 및 1112)의 개수 보다 적을 수 있다. 예를 들어, 1501 동작에서 온으로 제어되는 발광기들의 개수는, 생체 인증에 적합한 개수일 수 있다. 1507 동작에서 온으로 제어되는 발광기들의 개수는, 1501 동작에서 온으로 제어되는 발광기들의 개수 보다 클 수 있고, 이에 따라, 1507 동작에서 획득되는 로 데이터(예: 제 2 로 데이터)는 생체 데이터가 왜곡된 로 데이터일 수 있다. 일 실시예에 따라, 1501 동작의 제 1 발광기들의 개수와 1507 동작의 제 2 발광기들의 개수는 동일하고, 1501 동작의 제 1 발광기들 중 적어도 일부의 위치와 1507 동작의 제 2 발광기들 중 적어도 일부의 위치가 상이할 수 있다. 예를 들어, 1501 동작의 제 1 발광기들은, 생체 인증에 적합한 위치에 배치된 발광기들로 선택될 수 있다. 1507 동작의 제 2 발광기들은, 생체 인증을 위한 데이터가 왜곡될 수 있도록, 지정된 위치에 배치된 발광기들로 선택될 수도 있다. 일 실시예에 따라, 1501 동작의 제 1 발광기들과 1507 동작의 제 2 발광기들은 동일하고, 1501 동작의 제 1 발광기들 중 적어도 하나의 밝기와 1507 동작의 제 2 발광기들 중 적어도 하나의 밝기는 상이할 수 있다. 예를 들어, 1501 동작의 제 1 발광기들 중 적어도 하나의 밝기는, 생체 인증에 적합한 밝기일 수 있다. 1507 동작의 제 2 발광기들 중 적어도 하나의 밝기는, 생체 인증을 위한 데이터가 왜곡될 수 있도록 하는 지정된 밝기일 수 있다. 전술한, 발광기들의 개수, 위치, 및 밝기에 대한 실시예는, 상호 교차하여 적용될 수 있다. 예를 들어, 1501 동작의 제 1 발광기들의 개수, 위치, 및 밝기 중 적어도 하나는, 1507 동작의 제 2 발광기들의 개수, 위치, 및 밝기 중 적어도 하나와 상이할 수 있다.
1509 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 이미지 전처리기(270)를 이용하여, 1507 동작의 제 2 로 데이터에 이미지 전처리 및 변경 동작을 수행할 수 있다. 일 실시예에 따라, 1509 동작은 생략될 수 있다. 예를 들어, 1509 동작의 이미지 전처리를 수행되고 변경 동작만 생략될 수 있다. 예를 들어, 1509 동작의 이미지 전처리 및 변경 동작이 모두 생략될 수도 있다.
1511 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 1507 동작의 제 2 로 데이터, 또는 1509 동작의 이미지 전처리 또는 변경 동작 중 적어도 하나가 수행된 데이터를, 메모리(130)의 제 2 버퍼(320)에 저장할 수 있다. 1511 동작에서, 제 2 버퍼(320)에 저장되는 데이터에는 생체 데이터가 포함되지 않거나, 제 2 버퍼(320)에 저장되는 데이터에는 왜곡된 생체 데이터가 포함될 수 있다. 이후, 전자 장치(101)는, 제 2 버퍼(320)에 저장된 데이터에 기반하여, 보안이 필요하지 않은 카메라 이미지 처리를 수행할 수 있다.
도 15는, 제 1 기간 및 제 2 기간에 대해서 설명하고 있으나, 이는 전자 장치(101)의 동작의 일부를 설명한 것으로서, 도 15의 동작은, 반복 수행될 수 있다. 예를 들어, 제 1 기간 동안에는 1501 동작 내지 1505 동작이 수행되고, 제 1 기간 이후의 제 2 기간 동안에는 1507 동작 내지 1511 동작이 수행되고, 제 2 기간 이후의 제 3 기간 동안에는 1501 동작 내지 1505 동작이 수행되고, 제 3 기간 이후의 제 4 기간 동안에는 1507 동작 내지 1511 동작이 수행되고, 이러한 동작이 반복될 수 있다.
도 16은, 도 14, 도 15 및 이전에 설명한 실시예을 참조하여 설명할 수 있다.
도 16의 동작 중 적어도 일부 동작은 생략될 수 있다. 도 16의 동작들의 동작 순서는 변경될 수 있다. 도 16의 동작들의 수행 전, 수행 도중, 또는 수행 후에 도 16의 동작들 이외의 동작이 수행될 수도 있다.
도 16을 참조하면, 1601 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 1 기간 동안 제 1 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 일부)을 온 상태로 제어할 수 있다. 예를 들어, 전자 장치(101)는, 도 14의 제 1 기간(t1) 동안, 생체 인식을 위한 셋팅값(예: 도 14의 b0)에 기반하여, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 제 1 발광기들을 온으로 제어할 수 있다. 예를 들어, 제 1 발광기들은, 도 11b의 1101, 1103, 1105, 1107, 1109, 및 1111을 포함할 수 있으나, 제 1 발광기들의 선택 기준에는 제한이 없다. 예를 들어, 1601의 셋팅값(예: 도 14의 b0)은 생체 인증을 위한 기본 셋팅값일 수 있다.
1603 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 1601 동작의 제 1 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)을 온으로 제어한 이후, 이미지 센서(230)를 이용하여 제 1 로 데이터를 획득할 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 1603 동작의 제 1 로 데이터에, 1505 동작, 또는 1503 동작 및 1505 동작을 수행할 수 있다. 1603 동작의 제 1 로 데이터는, 예를 들어, 생체 인증을 위한 수준의 생체 데이터를 포함할 수 있다. 제 1 로 데이터에 생체 인증을 위한 수준의 생체 데이터가 포함되는 것에 기반하여, 생체 인증을 위한 셋팅값(예: 온으로 제어되는 발광기들의 개수, 위치, 및/또는 밝기)은 변경되지 않을 수 있다. 셋팅값이 변경되지 않는 경우, 1601 동작의 셋팅값과 1609 동작의 셋팅값은 동일할 수 있다. 1603 동작의 제 1 로 데이터는, 예를 들어, 생체 인증을 위한 수준의 생체 데이터가 포함되지 않을 수 있다. 제 1 로 데이터에 생체 인증을 위한 수준의 생체 데이터가 포함되지 않는 것에 기반하여, 생체 인증을 위한 셋팅값(예: 온으로 제어되는 발광기들의 개수, 위치, 및/또는 밝기)은 업데이트 될 수 있다. 전자 장치(101)(예: 프로세서(120))는, 생체 인증을 위한 셋팅값(예: 온으로 제어되는 발광기들의 개수, 위치, 및/또는 밝기)을 업데이트 할 수 있다. 셋팅값이 업데이트 되는 경우, 1601 동작의 셋팅값과 1609 동작의 셋팅값은 상이할 수 있다.
1605 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 2 기간 동안 제 2 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)을 온 상태로 제어할 수 있다. 예를 들어, 전자 장치(101)는, 도 14의 제 2 기간(t2) 동안, 보안이 필요하지 않은 카메라 이미지 처리를 위한 셋팅값(예: 도 14의 c)에 기반하여, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 제 2 발광기들을 온으로 제어할 수 있다. 예를 들어, 제 2 발광기들은, 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 및 1112를 포함할 수 있으나, 제 2 발광기들의 선택 기준에는 제한이 없다. 1601 동작의 셋팅값(예: 도 14의 b0)은, 1605 동작의 셋팅값(예: 도 14의 c)과 상이할 수 있다. 1601 동작의 제 1 발광기들의 개수, 위치, 또는 밝기 중 적어도 하나는, 1605 동작의 제 2 발광기들의 개수, 위치, 또는 밝기 중 적어도 하나와 상이할 수 있다. 예를 들어, 1605 동작의 제 2 발광기들의 개수는, 1601 동작의 제 1 발광기들의 개수 보다 클 수 있다.
1607 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 1605 동작의 제 2 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)을 온으로 제어한 이후, 이미지 센서(230)를 이용하여 제 2 로 데이터를 획득할 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 1607 동작의 제 2 로 데이터에, 1511 동작, 또는 1509 동작 및 1511 동작을 수행할 수 있다.
1609 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 3 기간 동안 제 3 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)을 온 상태로 제어할 수 있다. 예를 들어, 전자 장치(101)는, 도 14의 제 3 기간(t3) 동안, 생체 인식을 위한 셋팅값(예: 도 14의 b1)에 기반하여, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 제 3 발광기들을 온으로 제어할 수 있다. 예를 들어, 제 3 발광기들은, 도 11b의 1102, 1104, 1106, 1108, 1110, 및 1112를 포함할 수 있으나, 제 3 발광기들의 선택 기준에는 제한이 없다. 1601 동작 및 1603 동작에서 전술한 바와 같이, 1609 동작의 셋팅값은 1601 동작의 셋팅값과 동일할 수도 있고, 상이할 수도 있다. 예를 들어, 1609의 셋팅값(예: 도 14의 b1)은 기본 셋팅값(예: 도 14의 b0)에 기반하여 업데이트 된 셋팅값일 수 있다. 1609 동작의 셋팅값과 1601 동작의 셋팅값이 상이한 것에 기반하여, 1601 동작의 제 1 발광기들 중 적어도 하나는, 1609 동작의 제 3 발광기들 중 적어도 하나와 상이할 수 있다. 예를 들어, 1609의 셋팅값(예: 도 14의 b1)은 생체 인증을 위한 기본 셋팅값(예: 도 14의 b0)과 동일할 수 있다. 1609 동작의 셋팅값과 1601 동작의 셋팅값이 동일한 것에 기반하여, 1601 동작의 제 1 발광기들은, 1609 동작의 제 3 발광기들과 동일할 수 있다.
1611 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 1609 동작의 제 3 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)을 온으로 제어한 이후, 이미지 센서(230)를 이용하여 제 3 로 데이터를 획득할 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 1611 동작의 제 3 로 데이터에, 1505 동작, 또는 1503 동작 및 1505 동작을 수행할 수 있다.
1613 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 제 4 기간 동안 제 2 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)을 온 상태로 제어할 수 있다. 예를 들어, 전자 장치(101)는, 도 14의 제 4 기간(t4) 동안, 보안이 필요하지 않은 카메라 이미지 처리를 위한 셋팅값(예: 도 14의 c)에 기반하여, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 제 2 발광기들을 온으로 제어할 수 있다. 1613 동작의 제 2 발광기들은, 1605 동작의 제 2 발광기들과 동일할 수 있다.
1615 동작에서, 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 복수의 발광기들(1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112) 중 1613 동작의 제 2 발광기들(예: 도 11b의 1101, 1102, 1103, 1104, 1105, 1106, 1107, 1108, 1109, 1110, 1111, 1112 중 적어도 하나)을 온으로 제어한 이후, 이미지 센서(230)를 이용하여 제 4 로 데이터를 획득할 수 있다. 일 실시예에 따라, 전자 장치(101)(예: 프로세서(120))는, 1615 동작의 제 4 로 데이터에, 1511 동작, 또는 1509 동작 및 1511 동작을 수행할 수 있다.
본 명세서에 기재된 실시 예들은, 적용 가능한 범위 내에서, 상호 교차하여 적용될 수 있음을 당업자는 이해할 수 있다. 예를 들어, 본 명세서에 기재된 일 실시 예의 적어도 일부 동작이 생략되어 적용될 수도 있고, 일 실시 예들의 적어도 일부 동작들이 연결되어 적용될 수도 있음을 당업자는 이해할 수 있다.
본 개시는 전술한 내용으로 제한되지 않으며, 언급되지 않은 다른 변형은 본 개시로부터 당업자에게 명백할 것이다..
본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
일 실시예에 따라서, 전자 장치(101)는, 이미지 센서(230), 회로를 포함하는 이미지 전처리기(270), 인스트럭션들을 저장하는 메모리(130), 및 프로세싱 회로를 포함하는 적어도 하나의 프로세서(120)를 포함할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 센서(230)를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼(310)에 저장하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 전처리기(270)를 이용하여 상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼(320)에 저장하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하도록 야기할 수 있다.
일 실시예에 따라서, 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 상기 제 1 어플리케이션에 전달하는 기간과 적어도 일부 겹치는 기간 동안, 상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 상기 제 2 어플리케이션에 전달하도록 야기할 수 있다.
일 실시예에 따라서, 상기 변경 동작은, 상기 로 데이터에 이미지 처리를 수행하는 동작을 포함할 수 있다. 상기 이미지 처리는, 블랭크 처리, 블러 처리, 또는 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 이미지 처리는, 상기 로 데이터 전체에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 이미지 처리는, 상기 로 데이터에 포함되는 상기 생체 데이터에 대응하는 영역에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 전자 장치(101)가 사용자의 머리에 착용된 상태에서, 상기 로 데이터를 획득하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 로 데이터에서, 상기 전자 장치(101)의 특성에 기반한 지정 영역의 위치를 확인하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 지정 영역의 상기 위치에 대응하는 상기 생체 데이터에 대응하는 상기 영역에 대해, 상기 이미지 처리를 수행하도록 야기할 수 있다.
일 실시예에 따라서, 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 센서(230)를 이용하여, 제 1 기간 동안 상기 로 데이터 중 제 1 로 데이터를 획득하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 전처리기(270)를 이용하여 상기 제 1 로 데이터에 상기 이미지 전처리를 수행함으로써 확인되는 상기 제 1 이미지 데이터의 적어도 일부를 상기 제 1 버퍼(310)에 저장하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 센서(230)를 이용하여, 상기 제 1 기간 이후의 제 2 기간 동안 상기 로 데이터 중 제 2 로 데이터를 획득하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 전처리기(270)를 이용하여 상기 제 2 로 데이터에 상기 이미지 전처리 및 상기 변경 동작을 수행함으로써 확인되는 상기 제 2 이미지 데이터의 적어도 일부를 상기 제 2 버퍼(320)에 저장하도록 야기할 수 있다.
일 실시예에 따라서, 전자 장치(101)는, 복수의 발광기(light emitter)들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 포함할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 제 1 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 제 2 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하도록 야기할 수 있다. 상기 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)의 개수는, 상기 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)의 개수 보다 적을 수 있다.
일 실시예에 따라서, 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 제 2 기간 이후의 제 3 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 3 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하도록 야기할 수 있다. 상기 제 3 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중 적어도 하나는 상기 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중 적어도 하나와 상이할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 센서(230)를 이용하여, 상기 제 3 기간 동안, 상기 로 데이터 중 제 3 로 데이터를 획득하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가,상기 이미지 전처리기(270)를 이용하여 상기 제 3 로 데이터에 상기 이미지 전처리를 수행함으로써 확인되는 상기 제 1 이미지 데이터의 적어도 일부를 상기 제 1 버퍼(310)에 저장하도록 야기할 수 있다.
일 실시예에 따라서, 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 제 3 기간 이후의 제 4 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 상기 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 센서(230)를 이용하여, 상기 제 4 기간 동안, 상기 로 데이터 중 제 4 로 데이터를 획득하도록 야기할 수 있다. 상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가, 상기 이미지 전처리기(270)를 이용하여 상기 제 4 로 데이터에 상기 이미지 전처리 및 상기 변경 동작(change operation)을 수행함으로써 확인되는 상기 제 2 이미지 데이터의 적어도 일부를 상기 제 2 버퍼(320)에 저장하도록 야기할 수 있다.
일 실시예에 따라서, 전자 장치(101)의 동작 방법은, 상기 전자 장치(101)의 이미지 센서(230)를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼(310)에 저장하는 동작을 포함할 수 있다. 상기 방법은, 상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼(320)에 저장하는 동작을 포함할 수 있다. 상기 방법은, 상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하는 동작을 포함할 수 있다. 상기 방법은, 상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 제 2 이미지 데이터를 상기 제 2 어플리케이션에 전달하는 동작은, 상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 상기 제 1 어플리케이션에 전달하는 기간과 적어도 일부 겹치는 기간 동안, 상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 상기 제 2 어플리케이션에 전달하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 변경 동작은, 상기 로 데이터에 이미지 처리를 수행하는 동작을 포함할 수 있다. 상기 이미지 처리는, 블랭크 처리, 블러 처리, 또는 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 이미지 처리는, 상기 로 데이터 전체에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 이미지 처리는, 상기 로 데이터에 포함되는 상기 생체 데이터에 대응하는 영역에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 로 데이터를 획득하는 동작은, 상기 전자 장치(101)가 사용자의 머리에 착용된 상태에서, 상기 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 변경 동작은, 상기 로 데이터에서, 상기 전자 장치(101)의 특성에 기반한 지정 영역의 위치를 확인하는 동작을 포함할 수 있다. 상기 변경 동작은, 상기 지정 영역의 상기 위치에 대응하는 상기 생체 데이터에 대응하는 상기 영역에 대해, 상기 이미지 처리를 수행하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 로 데이터를 획득하는 동작은, 상기 이미지 센서(230)를 이용하여, 제 1 기간 동안 상기 로 데이터 중 제 1 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 제 1 이미지 데이터를 상기 제 1 버퍼(310)에 저장하는 동작은, 상기 제 1 로 데이터에 상기 이미지 전처리를 수행함으로써 확인되는 상기 제 1 이미지 데이터의 적어도 일부를 상기 제 1 버퍼(310)에 저장하는 동작을 포함할 수 있다. 상기 로 데이터를 획득하는 동작은, 상기 이미지 센서(230)를 이용하여, 상기 제 1 기간 이후의 제 2 기간 동안 상기 로 데이터 중 제 2 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 제 2 이미지 데이터를 상기 제 2 버퍼(320)에 저장하는 동작은, 상기 제 2 로 데이터에 상기 이미지 전처리 및 상기 변경 동작을 수행함으로써 확인되는 상기 제 2 이미지 데이터의 적어도 일부를 상기 제 2 버퍼(320)에 저장하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 방법은, 상기 제 1 기간 동안, 상기 전자 장치(101)의 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하는 동작을 포함할 수 있다. 상기 방법은, 상기 제 2 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하는 동작을 포함할 수 있다. 상기 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)의 개수는, 상기 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)의 개수 보다 적을 수 있다.
일 실시예에 따라서, 상기 방법은, 상기 제 2 기간 이후의 제 3 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 3 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하는 동작을 포함할 수 있다. 상기 제 3 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중 적어도 하나는 상기 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중 적어도 하나와 상이할 수 있다. 상기 방법은, 상기 이미지 센서(230)를 이용하여, 상기 제 3 기간 동안, 상기 로 데이터 중 제 3 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 이미지 전처리기(270)를 이용하여 상기 제 3 로 데이터에 상기 이미지 전처리를 수행함으로써 확인되는 상기 제 1 이미지 데이터의 적어도 일부를 상기 제 1 버퍼(310)에 저장하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 방법은, 상기 제 3 기간 이후의 제 4 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 상기 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하는 동작을 포함할 수 있다. 상기 방법은, 상기 이미지 센서(230)를 이용하여, 상기 제 4 기간 동안, 상기 로 데이터 중 제 4 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 이미지 전처리기(270)를 이용하여 상기 제 4 로 데이터에 상기 이미지 전처리 및 상기 변경 동작(change operation)을 수행함으로써 확인되는 상기 제 2 이미지 데이터의 적어도 일부를 상기 제 2 버퍼(320)에 저장하는 동작을 포함할 수 있다.
일 실시예에 따라서, 전자 장치(101)의 적어도 하나의 프로세서(120)에 의하여 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가 적어도 하나의 동작을 수행하도록 야기하는 명령들(instructions)이 저장된 컴퓨터 판독 가능한(computer readable) 기록 매체에 있어서, 상기 적어도 하나의 동작은, 상기 전자 장치(101)의 이미지 센서(230)를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼(310)에 저장하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼(320)에 저장하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 제 2 이미지 데이터를 상기 제 2 어플리케이션에 전달하는 동작은, 상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 상기 제 1 어플리케이션에 전달하는 기간과 적어도 일부 겹치는 기간 동안, 상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 상기 제 2 어플리케이션에 전달하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 변경 동작은, 상기 로 데이터에 이미지 처리를 수행하는 동작을 포함할 수 있다. 상기 이미지 처리는, 블랭크 처리, 블러 처리, 또는 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 이미지 처리는, 상기 로 데이터 전체에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 이미지 처리는, 상기 로 데이터에 포함되는 상기 생체 데이터에 대응하는 영역에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라서, 상기 로 데이터를 획득하는 동작은, 상기 전자 장치(101)가 사용자의 머리에 착용된 상태에서, 상기 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 변경 동작은, 상기 로 데이터에서, 상기 전자 장치(101)의 특성에 기반한 지정 영역의 위치를 확인하는 동작을 포함할 수 있다. 상기 변경 동작은, 상기 지정 영역의 상기 위치에 대응하는 상기 생체 데이터에 대응하는 상기 영역에 대해, 상기 이미지 처리를 수행하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 로 데이터를 획득하는 동작은, 상기 이미지 센서(230)를 이용하여, 제 1 기간 동안 상기 로 데이터 중 제 1 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 제 1 이미지 데이터를 상기 제 1 버퍼(310)에 저장하는 동작은, 상기 제 1 로 데이터에 상기 이미지 전처리를 수행함으로써 확인되는 상기 제 1 이미지 데이터의 적어도 일부를 상기 제 1 버퍼(310)에 저장하는 동작을 포함할 수 있다. 상기 로 데이터를 획득하는 동작은, 상기 이미지 센서(230)를 이용하여, 상기 제 1 기간 이후의 제 2 기간 동안 상기 로 데이터 중 제 2 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 제 2 이미지 데이터를 상기 제 2 버퍼(320)에 저장하는 동작은, 상기 제 2 로 데이터에 상기 이미지 전처리 및 상기 변경 동작을 수행함으로써 확인되는 상기 제 2 이미지 데이터의 적어도 일부를 상기 제 2 버퍼(320)에 저장하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 적어도 하나의 동작은, 상기 제 1 기간 동안, 상기 전자 장치(101)의 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 제 2 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하는 동작을 포함할 수 있다. 상기 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)의 개수는, 상기 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)의 개수 보다 적을 수 있다.
일 실시예에 따라서, 상기 적어도 하나의 동작은, 상기 제 2 기간 이후의 제 3 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 3 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하는 동작을 포함할 수 있다. 상기 제 3 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중 적어도 하나는 상기 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중 적어도 하나와 상이할 수 있다. 상기 적어도 하나의 동작은, 상기 이미지 센서(230)를 이용하여, 상기 제 3 기간 동안, 상기 로 데이터 중 제 3 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 이미지 전처리기(270)를 이용하여 상기 제 3 로 데이터에 상기 이미지 전처리를 수행함으로써 확인되는 상기 제 1 이미지 데이터의 적어도 일부를 상기 제 1 버퍼(310)에 저장하는 동작을 포함할 수 있다.
일 실시예에 따라서, 상기 적어도 하나의 동작은, 상기 제 3 기간 이후의 제 4 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 상기 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 이미지 센서(230)를 이용하여, 상기 제 4 기간 동안, 상기 로 데이터 중 제 4 로 데이터를 획득하는 동작을 포함할 수 있다. 상기 적어도 하나의 동작은, 상기 이미지 전처리기(270)를 이용하여 상기 제 4 로 데이터에 상기 이미지 전처리 및 상기 변경 동작(change operation)을 수행함으로써 확인되는 상기 제 2 이미지 데이터의 적어도 일부를 상기 제 2 버퍼(320)에 저장하는 동작을 포함할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치) 의해 읽을 수 있는 저장 매체(storage medium)에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램)로서 구현될 수 있다. 예를 들면, 기기의 프로세서(예: 컨트롤러)는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체들을 포함할 수 있으며, 복수의 개체들 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
본 개시는 다양한 실시예를 참조하여 설명되고 개시되었지만, 다양한 실시예는 설명을 위한 것이지 제한하려는 것이 아니라는 것이 이해될 것이다. 첨부된 청구범위 및 그 등가물을 포함하여 본 개시의 의도 및 전체 범위를 벗어나지 않으면서 형태 및 세부사항의 다양한 변경이 이루어질 수 있다는 것이 당업자에 의해 추가로 이해될 것이다. 본 명세서에 기술된 임의의 실시예(들)는 본 명세서에 기술된 임의의 다른 실시예(들)와 함께 사용될 수 있다는 것도 이해될 것이다.

Claims (15)

  1. 전자 장치(101)에 있어서,
    이미지 센서(230);
    회로를 포함하는 이미지 전처리기(270);
    인스트럭션들을 저장하는 메모리(130); 및
    프로세싱 회로를 포함하는 적어도 하나의 프로세서(120)를 포함하고,
    상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가,
    상기 이미지 센서(230)를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하고,
    상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼(310)에 저장하고,
    상기 이미지 전처리기(270)를 이용하여 상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼(320)에 저장하고,
    상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하고,
    상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하도록 야기하는,
    전자 장치(101).
  2. 제 1 항에 있어서,
    상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가,
    상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 상기 제 1 어플리케이션에 전달하는 기간과 적어도 일부 겹치는 기간 동안, 상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 상기 제 2 어플리케이션에 전달하도록 야기하는,
    전자 장치(101).
  3. 제 1 항 또는 제 2 항에 있어서,
    상기 변경 동작은,
    상기 로 데이터에 이미지 처리를 수행하는 동작을 포함하고,
    상기 이미지 처리는, 블랭크 처리, 블러 처리, 또는 빗금 처리 중 적어도 하나를 포함하는,
    전자 장치(101).
  4. 제 1 항 내지 제 3 항 중 어느 하나의 항에 있어서,
    상기 이미지 처리는, 상기 로 데이터 전체에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함하는,
    전자 장치(101).
  5. 제 1 항 내지 제 4 항 중 어느 하나의 항에 있어서,
    상기 이미지 처리는, 상기 로 데이터에 포함되는 상기 생체 데이터에 대응하는 영역에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함하는,
    전자 장치(101).
  6. 제 1 항 내지 제 5 항 중 어느 하나의 항에 있어서,
    상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가,
    상기 전자 장치(101)가 사용자의 머리에 착용된 상태에서, 상기 로 데이터를 획득하고,
    상기 로 데이터에서, 상기 전자 장치(101)의 특성에 기반한 지정 영역의 위치를 확인하고,
    상기 지정 영역의 상기 위치에 대응하는 상기 생체 데이터에 대응하는 상기 영역에 대해, 상기 이미지 처리를 수행하도록 야기하는,
    전자 장치(101).
  7. 제 1 항 내지 제 6 항 중 어느 하나의 항에 있어서,
    상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가,
    상기 이미지 센서(230)를 이용하여, 제 1 기간 동안 상기 로 데이터 중 제 1 로 데이터를 획득하고,
    상기 이미지 전처리기(270)를 이용하여 상기 제 1 로 데이터에 상기 이미지 전처리를 수행함으로써 확인되는 상기 제 1 이미지 데이터의 적어도 일부를 상기 제 1 버퍼(310)에 저장하고,
    상기 이미지 센서(230)를 이용하여, 상기 제 1 기간 이후의 제 2 기간 동안 상기 로 데이터 중 제 2 로 데이터를 획득하고,
    상기 이미지 전처리기(270)를 이용하여 상기 제 2 로 데이터에 상기 이미지 전처리 및 상기 변경 동작을 수행함으로써 확인되는 상기 제 2 이미지 데이터의 적어도 일부를 상기 제 2 버퍼(320)에 저장하도록 야기하는,
    전자 장치(101).
  8. 제 1 항 내지 제 7 항 중 어느 하나의 항에 있어서,
    발광 회로를 포함하는 복수의 발광기(light emitter)들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 더 포함하고,
    상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가,
    상기 제 1 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하고,
    상기 제 2 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하도록 야기하고,
    상기 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)의 개수는, 상기 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)의 개수 보다 적은,
    전자 장치(101).
  9. 제 1 항 내지 제 8 항 중 어느 하나의 항에 있어서,
    상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가,
    상기 제 2 기간 이후의 제 3 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 제 3 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하고-상기 제 3 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중 적어도 하나는 상기 제 1 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중 적어도 하나와 상이함-,
    상기 이미지 센서(230)를 이용하여, 상기 제 3 기간 동안, 상기 로 데이터 중 제 3 로 데이터를 획득하고,
    상기 이미지 전처리기(270)를 이용하여 상기 제 3 로 데이터에 상기 이미지 전처리를 수행함으로써 확인되는 상기 제 1 이미지 데이터의 적어도 일부를 상기 제 1 버퍼(310)에 저장하도록 야기하는,
    전자 장치(101).
  10. 제 1 항 내지 제 9 항 중 어느 하나의 항에 있어서,
    상기 인스트럭션들은, 적어도 하나의 프로세서(120)에 의해 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가,
    상기 제 3 기간 이후의 제 4 기간 동안, 상기 복수의 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112) 중에서 상기 제 2 발광기들(1100; 1101; 1102; 1103; 1104; 1105; 1106; 1107; 1108; 1109; 1110; 1111; 1112)을 온으로 제어하고,
    상기 이미지 센서(230)를 이용하여, 상기 제 4 기간 동안, 상기 로 데이터 중 제 4 로 데이터를 획득하고,
    상기 이미지 전처리기(270)를 이용하여 상기 제 4 로 데이터에 상기 이미지 전처리 및 상기 변경 동작(change operation)을 수행함으로써 확인되는 상기 제 2 이미지 데이터의 적어도 일부를 상기 제 2 버퍼(320)에 저장하도록 야기하는,
    전자 장치(101).
  11. 전자 장치(101)의 동작 방법에 있어서,
    상기 전자 장치(101)의 이미지 센서(230)를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하는 동작과,
    상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼(310)에 저장하는 동작과,
    상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼(320)에 저장하는 동작과,
    상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하는 동작과,
    상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하는 동작을 포함하는,
    방법.
  12. 제 11 항에 있어서,
    상기 제 2 이미지 데이터를 상기 제 2 어플리케이션에 전달하는 동작은,
    상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 상기 제 1 어플리케이션에 전달하는 기간과 적어도 일부 겹치는 기간 동안, 상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 상기 제 2 어플리케이션에 전달하는 동작을 포함하는,
    방법.
  13. 제 11 항 또는 제 12 항에 있어서,
    상기 변경 동작은,
    상기 로 데이터에 이미지 처리를 수행하는 동작을 포함하고,
    상기 이미지 처리는, 블랭크 처리, 블러 처리, 또는 빗금 처리 중 적어도 하나를 포함하는,
    방법.
  14. 제 11 항 내지 제 13 항 중 어느 하나의 항에 있어서,
    상기 이미지 처리는, 상기 로 데이터 전체에 대한, 상기 블랭크 처리, 상기 블러 처리, 또는 상기 빗금 처리 중 적어도 하나를 포함하는,
    방법.
  15. 전자 장치(101)의 적어도 하나의 프로세서(120)에 의하여 개별적으로 및/또는 집합적으로 실행될 때, 상기 전자 장치(101)가 적어도 하나의 동작을 수행하도록 야기하는 명령들(instructions)을 저장하는 비일시적 컴퓨터 판독 가능한(computer readable) 기록 매체에 있어서, 상기 적어도 하나의 동작은:
    상기 전자 장치(101)의 이미지 센서(230)를 이용하여, 생체 데이터를 포함하는 로 데이터(raw data)를 획득하는 동작과,
    상기 로 데이터를 제 1 이미지 데이터로서 제 1 버퍼(310)에 저장하는 동작과,
    상기 로 데이터에 변경 동작(change operation)을 적용함으로써 생성되는 제 2 이미지 데이터를 제 2 버퍼(320)에 저장하는 동작과,
    상기 제 1 버퍼(310)에 저장된 상기 제 1 이미지 데이터를 보안 영역에 속하는 제 1 어플리케이션에 전달하고, 상기 제 1 이미지 데이터에 생체 인증을 위한 제 1 알고리즘을 적용하는 동작과,
    상기 제 2 버퍼(320)에 저장된 상기 제 2 이미지 데이터를 비보안 영역에 속하는 제 2 어플리케이션에 전달하고, 상기 제 2 이미지 데이터에 상기 제 1 알고리즘과 구별되는 제 2 알고리즘을 적용하는 동작을 포함하는,
    기록 매체.
PCT/KR2024/011822 2023-09-11 2024-08-08 이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체 Pending WO2025058253A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP24865695.1A EP4697210A4 (en) 2023-09-11 2024-08-08 ELECTRONIC DEVICE COMPRISING AN IMAGE SENSOR, ITS OPERATING METHOD AND RECORDING MEDIUM
CN202480039002.3A CN121336205A (zh) 2023-09-11 2024-08-08 包括图像传感器的电子装置、其操作方法及记录介质
US18/802,774 US20250087018A1 (en) 2023-09-11 2024-08-13 Electronic device including image sensor, method for operating the same, and recording medium

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2023-0120236 2023-09-11
KR20230120236 2023-09-11
KR1020230136257A KR20250038103A (ko) 2023-09-11 2023-10-12 이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체
KR10-2023-0136257 2023-10-12

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/802,774 Continuation US20250087018A1 (en) 2023-09-11 2024-08-13 Electronic device including image sensor, method for operating the same, and recording medium

Publications (1)

Publication Number Publication Date
WO2025058253A1 true WO2025058253A1 (ko) 2025-03-20

Family

ID=95021588

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2024/011822 Pending WO2025058253A1 (ko) 2023-09-11 2024-08-08 이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체

Country Status (1)

Country Link
WO (1) WO2025058253A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190026452A1 (en) * 2015-12-29 2019-01-24 Huawei Technologies Co., Ltd. Method for Associating Application Program with Biometric Feature, Apparatus, and Mobile Terminal
KR20190025841A (ko) * 2016-05-23 2019-03-12 인사이트 시스템즈 생물학적 특성을 검출하는 발광기 및 센서
KR20210107288A (ko) * 2020-02-24 2021-09-01 삼성전자주식회사 전자 장치 및 그 제어 방법
KR20220062595A (ko) * 2019-09-12 2022-05-17 아이덴티 인크. 사용자의 생체 특성을 갖는 사용자의 객체 이미지로부터 데이터를 획득하는 방법(A method for obtaining data from an image of an object of a user that has a biometric characteristic of the user)
KR20230040962A (ko) * 2019-01-28 2023-03-23 에어런딜 모바일 인코포레이티드 생체 인식 기술을 활용한 사용자 식별, 인증 및 암호화 장치 및 그의 동작 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190026452A1 (en) * 2015-12-29 2019-01-24 Huawei Technologies Co., Ltd. Method for Associating Application Program with Biometric Feature, Apparatus, and Mobile Terminal
KR20190025841A (ko) * 2016-05-23 2019-03-12 인사이트 시스템즈 생물학적 특성을 검출하는 발광기 및 센서
KR20230040962A (ko) * 2019-01-28 2023-03-23 에어런딜 모바일 인코포레이티드 생체 인식 기술을 활용한 사용자 식별, 인증 및 암호화 장치 및 그의 동작 방법
KR20220062595A (ko) * 2019-09-12 2022-05-17 아이덴티 인크. 사용자의 생체 특성을 갖는 사용자의 객체 이미지로부터 데이터를 획득하는 방법(A method for obtaining data from an image of an object of a user that has a biometric characteristic of the user)
KR20210107288A (ko) * 2020-02-24 2021-09-01 삼성전자주식회사 전자 장치 및 그 제어 방법

Similar Documents

Publication Publication Date Title
WO2023075335A1 (ko) 복수의 렌즈들을 구비하는 전자 장치 및 그 제어 방법
WO2022050599A1 (ko) 카메라의 신호 라인을 감소시킨 전자 장치
WO2023048466A1 (ko) 전자 장치 및 컨텐츠 표시 방법
WO2024101747A1 (ko) 카메라를 포함하는 웨어러블 전자 장치 및 이의 동작 방법
WO2025058253A1 (ko) 이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체
WO2024085493A1 (ko) 프리뷰 이미지를 표시하기 위한 전자 장치 및 방법
WO2023146236A1 (ko) 카메라 모듈을 포함하는 전자 장치
WO2023017986A1 (ko) 영상 데이터 및 오디오 데이터 출력 방법 및 전자 시스템
WO2026029601A1 (ko) 깊이 맵을 획득하는 웨어러블 전자 장치, 이의 동작 방법 및 기록 매체
WO2026029373A1 (ko) 이미지를 제공하는 방법, 이를 지원하는 전자 장치, 및 기록 매체
WO2023063520A1 (ko) 전자 장치 및 전자 장치에서 촬영 기능을 수행하는 방법
WO2026049576A1 (ko) 가상 객체를 표시하는 웨어러블 전자 장치, 이의 동작 방법, 및 기록 매체
WO2026029340A1 (ko) 온도에 따라 카메라의 초점을 제어하는 전자 장치 및 그 동작 방법
WO2025225848A1 (ko) 아이 캘리브레이션을 위한 웨어러블 장치, 방법, 및 비-일시적 컴퓨터 판독 가능 기록 매체
WO2026049223A1 (ko) 쓰리디 공간 내에서의 터치 입력을 위한 머리-착용 전자 장치, 방법, 및 비일시적 컴퓨터 판독 가능 저장 매체
WO2025014106A1 (ko) 카메라 모듈 및 이를 포함하는 전자 장치
WO2024025179A1 (ko) 생체 정보에 기반한 외부 표시 장치와의 연결 방법 및 전자 장치
WO2026023842A1 (ko) 비디오를 재구성하기 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독 가능 저장 매체
WO2025018665A1 (ko) 광의 휘도를 조정하는 웨어러블 전자 장치, 이의 동작 방법 및 기록 매체
WO2025155065A1 (ko) 확장 현실 이미지를 표시하는 웨어러블 전자 장치, 이의 동작 방법, 및 기록 매체
WO2024071903A1 (ko) 헤드 마운트 디스플레이 장치 및 그의 착용 상태 감지 방법
WO2025178476A1 (ko) 헤드 마운팅 장치 및 그의 동작 방법과, 비 일시적 저장 매체
WO2024039073A1 (ko) 이미지에 효과를 적용하는 전자 장치 및 그 제어 방법
WO2026049584A1 (ko) 피사체 촬영을 지원하는 hmd 장치
KR20250038103A (ko) 이미지 센서를 포함하는 전자 장치, 그 동작 방법과, 기록 매체

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 24865695

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2024865695

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

ENP Entry into the national phase

Ref document number: 2024865695

Country of ref document: EP

Effective date: 20251110

WWP Wipo information: published in national office

Ref document number: 2024865695

Country of ref document: EP