WO2022250403A1 - 전자 장치 및 그의 이미지 처리 방법 - Google Patents

전자 장치 및 그의 이미지 처리 방법 Download PDF

Info

Publication number
WO2022250403A1
WO2022250403A1 PCT/KR2022/007318 KR2022007318W WO2022250403A1 WO 2022250403 A1 WO2022250403 A1 WO 2022250403A1 KR 2022007318 W KR2022007318 W KR 2022007318W WO 2022250403 A1 WO2022250403 A1 WO 2022250403A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
oral cavity
region
target
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/KR2022/007318
Other languages
English (en)
French (fr)
Inventor
이동훈
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Medit Corp
Original Assignee
Medit Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Medit Corp filed Critical Medit Corp
Priority to US18/562,681 priority Critical patent/US20240242433A1/en
Priority to EP22811596.0A priority patent/EP4350705A4/en
Priority to CN202280037126.9A priority patent/CN117378013A/zh
Publication of WO2022250403A1 publication Critical patent/WO2022250403A1/ko
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three-dimensional [3D] modelling for computer graphics
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00039—Operational features of endoscopes provided with input arrangements for the user
    • A61B1/0004—Operational features of endoscopes provided with input arrangements for the user for electronic operation
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163—Optical arrangements
    • A61B1/00172—Optical arrangements with means for scanning
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163—Optical arrangements
    • A61B1/00194—Optical arrangements adapted for three-dimensional imaging
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/24—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the mouth, i.e. stomatoscopes, e.g. with tongue depressors; Instruments for opening or keeping open the mouth
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0004—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
    • A61B5/0013—Medical image data
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033—Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0088—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for oral or dental tissue
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/45—For evaluating or diagnosing the musculoskeletal system or teeth
    • A61B5/4538—Evaluating a particular part of the muscoloskeletal system or a particular medical condition
    • A61B5/4542—Evaluating the mouth, e.g. the jaw
    • A61B5/4547—Evaluating teeth
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813—Specially adapted to be attached to a specific body part
    • A61B5/6814—Head
    • A61B5/682—Mouth, e.g., oral cavity; tongue; Lips; Teeth
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C9/00—Impression cups, i.e. impression trays; Impression methods
    • A61C9/004—Means or methods for taking digitized impressions
    • A61C9/0046—Data acquisition means or methods
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C9/00—Impression cups, i.e. impression trays; Impression methods
    • A61C9/004—Means or methods for taking digitized impressions
    • A61C9/0046—Data acquisition means or methods
    • A61C9/0053—Optical means or methods, e.g. scanning the teeth by a laser or light beam
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/092—Reinforcement learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—Three-dimensional [3D] image rendering
    • G06T15/10—Geometric effects
    • G06T15/20—Perspective computation
    • G06T15/205—Image-based rendering
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30041—Eye; Retina; Ophthalmic
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00—Indexing scheme for image generation or computer graphics
    • G06T2210/41—Medical
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03—Recognition of patterns in medical or anatomical images

Definitions

  • the present disclosure relates to an electronic device and an image processing method thereof, and more particularly, to an electronic device processing an oral cavity image received from a 3D scanner and an image processing method thereof.
  • an impression of the patient's oral cavity is made using a plastic material (or It is possible to create a three-dimensional model of the patient's oral cavity by pouring plaster on an impression that mimics the patient's oral cavity.
  • a 3D scanner that is inserted into the patient's oral cavity and acquires an image of the oral cavity has been used.
  • a 3D scanner By scanning the patient's oral cavity using a 3D scanner, a plurality of two-dimensional images of the patient's oral cavity may be acquired, and a three-dimensional image of the patient's oral cavity may be constructed using the obtained plurality of two-dimensional images.
  • a doctor may obtain a plurality of two-dimensional images of the patient's oral cavity by inserting a 3D scanner into the oral cavity of the patient and scanning the patient's teeth, gingiva, and/or soft tissues.
  • a 3D image of the patient's oral cavity may be constructed using the 2D image of the patient's oral cavity.
  • Various embodiments disclosed in this document identify various regions included in a 2D image of a patient's oral cavity or a diagnostic model of the oral cavity through machine learning, so that the user can use machine learning to reconstruct a 3D image of the oral cavity.
  • a technique for easily setting a region of interest is provided.
  • An electronic device according to various embodiments of the present disclosure, according to a communication circuit connected to a 3D scanner and a machine learning algorithm, sets of 2D images of the oral cavity of objects and tooth regions and teeth in each image of the 2D image set It may include one or more memories and one or more processors that store correlation models built by modeling correlations between data sets in which the gingival region is identified.
  • One or more processors access a 2D image of a target oral cavity or a target diagnosis model received from the 3D scanner through the communication circuit, and use the correlation model to access the target oral cavity or target diagnosis. From the two-dimensional image of the model, it may be configured to identify a tooth region and a gingival region.
  • An image processing method of an electronic device includes a method for accessing a 2D image of a target oral cavity or a target diagnosis model received from a 3D scanner and using a correlation model to access the target oral cavity or a target diagnosis model. and identifying a tooth region and a gingival region from a 2D image of the model, wherein the correlation model is configured to generate a set of 2D images of the oral cavity of the objects and the 2D image set according to a machine learning algorithm. It may be a correlation model built by modeling a correlation between a data set in which a tooth region and a gingival region are identified in each image.
  • an electronic device for training a machine learning model used for identification of a tooth region and a gingival region includes a set of 2D images of an oral cavity of objects or a diagnostic model of the oral cavity and the set of 2D images. It may include one or more memories and one or more processors that store data sets in which tooth regions and gingival regions are identified in each image.
  • the one or more processors may use a 2D image set of the oral cavity of the objects as input data, and output a data set in which a tooth region and a gingival region are identified in each image of the 2D image set as output data. It can be used to train a machine learning model.
  • a tooth region and a gingival region are identified from a two-dimensional image of an oral cavity or a diagnostic model of the oral cavity using a correlation model built through machine learning, and among the regions identified by a user, By selecting at least one region and generating a 3D image of the oral cavity or diagnostic model, a 3D image of a region desired by the user can be conveniently and quickly created.
  • a tooth region and a gingival region are identified from a two-dimensional image of an oral cavity or a diagnostic model of the oral cavity using a correlation model, and an oral cavity or gingival region corresponding to at least one region selected from among the identified regions. Since a 3D image of the diagnostic model of the oral cavity can be generated, the amount of data required for generating the 3D image can be reduced, and time and resources required for generating the 3D image can be reduced.
  • FIG. 1 is a diagram illustrating how to obtain an image of a patient's oral cavity using a 3D scanner according to various embodiments of the present disclosure.
  • 2A is a block diagram of an electronic device and a 3D scanner according to various embodiments of the present disclosure.
  • 2B is a perspective view of a 3D scanner according to various embodiments of the present disclosure.
  • FIG. 3 is a diagram illustrating a method of generating a 3D image of an oral cavity according to various embodiments of the present disclosure.
  • 4A and 4B are diagrams illustrating performing a masking operation on a two-dimensional image of an oral cavity according to various embodiments of the present disclosure.
  • FIG. 5 is a diagram illustrating a method of constructing a correlation model according to various embodiments of the present disclosure.
  • 6A and 6B are diagrams illustrating a method of utilizing a correlation model according to various embodiments.
  • FIG. 7 is a flowchart illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • FIG. 8 is a flowchart illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • 9A to 9C show three-dimensional images of a target oral cavity according to various embodiments of the present disclosure.
  • Embodiments of the present disclosure are illustrated for the purpose of explaining the technical idea of the present disclosure.
  • the scope of rights according to the present disclosure is not limited to the specific description of the embodiments or these embodiments presented below.
  • unit used in the present disclosure means software or a hardware component such as a field-programmable gate array (FPGA) or an application specific integrated circuit (ASIC).
  • FPGA field-programmable gate array
  • ASIC application specific integrated circuit
  • unit is not limited to hardware and software.
  • a “unit” may be configured to reside in an addressable storage medium and may be configured to reproduce on one or more processors.
  • “unit” refers to components such as software components, object-oriented software components, class components and task components, processors, functions, properties, procedures, subroutines, It includes segments of program code, drivers, firmware, microcode, circuits, data, databases, data structures, tables, arrays and variables. Functions provided within components and “units” may be combined into fewer components and “units” or further separated into additional components and “units”.
  • the expression "based on” is used to describe one or more factors that affect the act or operation of a decision, judgment, described in a phrase or sentence in which the expression is included, which expression It does not preclude additional factors that may affect the decision, the act of judgment, or the action.
  • artificial intelligence means a technology that imitates human learning ability, reasoning ability, and perception ability, and implements them with a computer, and may include concepts of machine learning and symbolic logic.
  • Machine learning may be an algorithm technology that classifies or learns features of input data by itself.
  • Artificial intelligence technology is a machine learning algorithm that analyzes input data, learns the result of the analysis, and can make judgments or predictions based on the result of the learning.
  • technologies that use machine learning algorithms to mimic the cognitive and judgmental functions of the human brain can also be understood as the category of artificial intelligence. For example, technical fields of linguistic understanding, visual understanding, inference/prediction, knowledge expression, and motion control may be included.
  • machine learning may refer to a process of training a neural network model using experience of processing data.
  • computer software could mean improving its own data processing capabilities.
  • a neural network model is constructed by modeling a correlation between data, and the correlation may be expressed by a plurality of parameters.
  • the neural network model derives a correlation between data by extracting and analyzing features from given data, and optimizing the parameters of the neural network model by repeating this process can be referred to as machine learning.
  • a neural network model may learn a mapping (correlation) between an input and an output with respect to data given as an input/output pair.
  • the neural network model may learn the relationship by deriving a regularity between given data.
  • an artificial intelligence learning model, a machine learning model, or a neural network model may be designed to implement a human brain structure on a computer, and include a plurality of network nodes that simulate neurons of a human neural network and have weights. can do.
  • a plurality of network nodes may have a connection relationship between them by simulating synaptic activities of neurons that transmit and receive signals through synapses.
  • a plurality of network nodes can send and receive data according to a convolutional connection relationship while being located in layers of different depths.
  • the artificial intelligence learning model may be, for example, an artificial neural network model, a convolution neural network model, and the like.
  • FIG. 1 is a diagram illustrating how an image of a patient's oral cavity is acquired using a 3D scanner 200 according to various embodiments of the present disclosure.
  • the 3D scanner 200 may be a dental medical device for obtaining an image of the oral cavity of the object 20 .
  • the 3D scanner 200 may be an intraoral scanner.
  • a user 10 eg, a dentist or a dental hygienist
  • acquires an image of an oral cavity of an object 20 eg, a patient
  • a 3D scanner 200 can do.
  • the user 10 may obtain an image of the mouth of the object 20 from a diagnosis model (eg, a plaster model or an impression model) imitating the shape of the mouth of the object 20 .
  • a diagnosis model eg, a plaster model or an impression model
  • an image of the oral cavity of the object 20 is acquired by scanning the oral cavity of the object 20, but is not limited thereto, and other parts of the object 20 (eg, the object It is also possible to obtain an image for the ear of (20).
  • the 3D scanner 200 may have a shape capable of being drawn in and out of the oral cavity, and may be a handheld scanner in which the user 10 can freely adjust a scanning distance and a scanning angle.
  • the 3D scanner 200 may acquire an image of the oral cavity by being inserted into the oral cavity of the object 20 and scanning the oral cavity in a non-contact manner.
  • the image of the oral cavity may include at least one tooth, a gingiva, and an artificial structure insertable into the oral cavity (eg, an orthodontic device including a bracket and a wire, an implant, a denture, and an orthodontic aid inserted into the oral cavity).
  • the 3D scanner 200 may irradiate light to the oral cavity of the object 20 (eg, at least one tooth or gingiva of the object 20) using a light source (or projector), and may irradiate light to the oral cavity of the object 20. Light reflected from the camera may be received through a camera (or at least one image sensor).
  • the 3D scanner 200 may obtain an image of the oral cavity diagnostic model by scanning the oral cavity diagnostic model.
  • the diagnostic model of the oral cavity is a diagnostic model that imitates the shape of the oral cavity of the object 20
  • the image of the oral diagnostic model may be an image of the oral cavity of the object.
  • an image of the oral cavity is obtained by scanning the inside of the oral cavity of the object 20 is assumed, but is not limited thereto.
  • the 3D scanner 200 may obtain a surface image of the oral cavity of the object 20 as a 2D image based on information received through a camera.
  • the surface image of the oral cavity of the object 20 may include at least one of at least one tooth, gingiva, artificial structure, cheek, tongue, or lip of the object 20 .
  • the surface image of the oral cavity of the object 20 may be a two-dimensional image.
  • the 2D image of the oral cavity obtained by the 3D scanner 200 may be transmitted to the electronic device 100 connected through a wired or wireless communication network.
  • the electronic device 100 may be a computer device or a portable communication device.
  • the electronic device 100 generates a 3D image of the oral cavity (or a 3D oral image or a 3D oral model) representing the oral cavity in 3D based on the 2D image of the oral cavity received from the 3D scanner 200. can create
  • the electronic device 100 may generate a 3D image of the oral cavity by 3D modeling the internal structure of the oral cavity based on the received 2D image of the oral cavity.
  • the 3D scanner 200 scans the oral cavity of the object 20 to acquire a 2D image of the oral cavity, and generates a 3D image of the oral cavity based on the acquired 2D image of the oral cavity. and may transmit the generated 3D image of the oral cavity to the electronic device 100 .
  • the electronic device 100 may be communicatively connected to a cloud server (not shown).
  • the electronic device 100 may transmit a 2D image or a 3D image of the oral cavity of the object 20 to the cloud server, and the cloud server may transmit the object 20 image received from the electronic device 100 to the cloud server.
  • the cloud server may transmit the object 20 image received from the electronic device 100 to the cloud server.
  • a table scanner (not shown) fixed to a specific position may be used as the 3D scanner in addition to a handheld scanner inserted into the oral cavity of the object 20 for use.
  • the table scanner may generate a three-dimensional image of the oral cavity diagnostic model by scanning the oral cavity diagnostic model.
  • the light source (or projector) and the camera of the table scanner are fixed, the user can scan the oral diagnosis model while moving the oral diagnosis model.
  • FIG. 2A is a block diagram of an electronic device 100 and a 3D scanner 200 according to various embodiments of the present disclosure.
  • the electronic device 100 and the 3D scanner 200 may be communicatively connected to each other through a wired or wireless communication network, and may transmit and receive various data to each other.
  • the 3D scanner 200 includes a processor 201, a memory 202, a communication circuit 203, a light source 204, a camera 205, an input device 206, and/or a sensor module ( 207) may be included. At least one of the components included in the 3D scanner 200 may be omitted or another component may be added to the 3D scanner 200 . Additionally or alternatively, some of the components may be integrated and implemented, or implemented as a singular or plural entity. At least some of the components in the 3D scanner 200 are connected to each other through a bus, general purpose input/output (GPIO), serial peripheral interface (SPI) or mobile industry processor interface (MIPI), and data and /or send and receive signals.
  • GPIO general purpose input/output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the processor 201 of the 3D scanner 200 is a component capable of performing calculations or data processing related to control and/or communication of each component of the 3D scanner 200, and is a 3D scanner. It can be operatively connected with the components of 200.
  • the processor 201 may load commands or data received from other components of the 3D scanner 200 into the memory 202, process the commands or data stored in the memory 202, and store resultant data.
  • the memory 202 of the 3D scanner 200 may store instructions for the operation of the processor 201 described above.
  • the communication circuit 203 of the 3D scanner 200 may establish a wired or wireless communication channel with an external device (eg, the electronic device 100) and transmit/receive various data with the external device.
  • the communication circuit 203 may include at least one port connected to the external device through a wired cable in order to communicate with the external device by wire.
  • the communication circuit 203 may perform communication with an external device connected by wire through at least one port.
  • the communication circuit 203 may be configured to be connected to a cellular network (eg, 3G, LTE, 5G, Wibro or Wimax) by including a cellular communication module.
  • a cellular network eg, 3G, LTE, 5G, Wibro or Wimax
  • the communication circuit 203 may include a short-range communication module to transmit/receive data with an external device using short-range communication (eg, Wi-Fi, Bluetooth, Bluetooth Low Energy (BLE), UWB). However, it is not limited thereto.
  • the communication circuit 203 may include a non-contact communication module for non-contact communication.
  • Non-contact communication may include, for example, at least one non-contact type proximity communication technology such as near field communication (NFC) communication, radio frequency identification (RFID) communication, or magnetic secure transmission (MST) communication.
  • NFC near field communication
  • RFID radio frequency identification
  • MST magnetic secure transmission
  • the light source 204 of the 3D scanner 200 may radiate light toward the oral cavity of the object 20 .
  • the light emitted from the light source 204 may be structured light having a predetermined pattern (eg, a stripe pattern in which straight lines of different colors are continuously appearing).
  • the structured light pattern may be generated using, for example, a pattern mask or a digital micro-mirror device (DMD), but is not limited thereto.
  • the camera 205 of the 3D scanner 200 may obtain an image of the oral cavity of the object 20 by receiving reflected light reflected by the oral cavity of the object 20 .
  • the camera 205 may include, for example, a left camera corresponding to the left eye field of view and a right camera corresponding to the right eye field of view in order to build a 3D image according to the optical triangulation method.
  • the camera 205 may include at least one image sensor such as a CCD sensor or a CMOS sensor.
  • the input device 206 of the 3D scanner 200 may receive a user input for controlling the 3D scanner 200 .
  • the input device 206 may include a button for receiving a push manipulation of the user 10, a touch panel for detecting a touch of the user 10, and a voice recognition device including a microphone.
  • the user 10 may control starting or stopping scanning using the input device 206 .
  • the sensor module 207 of the 3D scanner 200 detects an operating state of the 3D scanner 200 or an external environmental state (eg, a user's motion), and electrical response corresponding to the detected state. signal can be generated.
  • the sensor module 207 may include, for example, at least one of a gyro sensor, an acceleration sensor, a gesture sensor, a proximity sensor, or an infrared sensor.
  • the user 10 may control starting or stopping scanning using the sensor module 207 . For example, when the user 10 holds the 3D scanner 200 in his hand and moves it, the 3D scanner 200, when the angular velocity measured through the sensor module 207 exceeds a predetermined threshold value, the processor (201) Control to start a scanning operation.
  • the 3D scanner 200 receives a user input for starting a scan through the input device 206 of the 3D scanner 200 or the input device 206 of the electronic device 100, or , according to the processing of the processor 201 of the 3D scanner 200 or the processor 201 of the electronic device 100, scanning may be started.
  • the 3D scanner 200 may generate a 2D image of the oral cavity of the object 20, and in real time As a result, a 2D image of the oral cavity of the object 20 may be transmitted to the electronic device 100 .
  • the electronic device 100 may display the received 2D image of the oral cavity of the object 20 through the display.
  • the electronic device 100 may generate (construct) a 3D image of the oral cavity of the object 20 based on the 2D image of the oral cavity of the object 20, and generate (construct) a 3D image of the oral cavity. can be displayed on the display.
  • the electronic device 100 may display the 3D image being created through the display in real time.
  • An electronic device 100 may include one or more processors 101 , one or more memories 103 , a communication circuit 105 , a display 107 , and/or an input device 109 . At least one of the components included in the electronic device 100 may be omitted or another component may be added to the electronic device 100 . Additionally or alternatively, some of the components may be integrated and implemented, or implemented as a singular or plural entity. At least some of the components in the electronic device 100 are connected to each other through a bus, general purpose input/output (GPIO), serial peripheral interface (SPI) or mobile industry processor interface (MIPI), etc., and data and/or Or you can send and receive signals.
  • GPIO general purpose input/output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • one or more processors 101 of the electronic device 100 perform operations or data processing related to control and/or communication of each component (eg, memory 103) of the electronic device 100. It may be a configuration that can be performed.
  • One or more processors 101 may be operatively connected to components of the electronic device 100 , for example.
  • the one or more processors 101 load commands or data received from other components of the electronic device 100 into one or more memories 103, process the commands or data stored in the one or more memories 103, and , the resulting data can be stored.
  • one or more memories 103 of the electronic device 100 may store instructions for the operation of one or more processors 101 .
  • One or more memories 103 may store correlation models built according to machine learning algorithms.
  • the one or more memories 103 may store data received from the 3D scanner 200 (eg, a 2D image of the oral cavity acquired through an oral cavity scan).
  • the communication circuit 105 of the electronic device 100 establishes a wired or wireless communication channel with an external device (eg, the 3D scanner 200, a cloud server), and transmits and receives various data with the external device. can do.
  • the communication circuit 105 may include at least one port connected to the external device through a wired cable in order to communicate with the external device through a wired connection.
  • the communication circuit 105 may perform communication with an external device connected by wire through at least one port.
  • the communication circuit 105 may be configured to be connected to a cellular network (eg, 3G, LTE, 5G, Wibro or Wimax) by including a cellular communication module.
  • a cellular network eg, 3G, LTE, 5G, Wibro or Wimax
  • the communication circuit 105 may include a short-range communication module to transmit/receive data with an external device using short-range communication (eg, Wi-Fi, Bluetooth, Bluetooth Low Energy (BLE), UWB). However, it is not limited thereto.
  • the communication circuitry 105 may include a contactless communication module for contactless communication.
  • Non-contact communication may include, for example, at least one non-contact type proximity communication technology such as near field communication (NFC) communication, radio frequency identification (RFID) communication, or magnetic secure transmission (MST) communication.
  • NFC near field communication
  • RFID radio frequency identification
  • MST magnetic secure transmission
  • the display 107 of the electronic device 100 may display various screens based on the control of the processor 101 .
  • the processor 101 displays a 2-dimensional image of the oral cavity of the object 20 received from the 3-dimensional scanner 200 and/or a 3-dimensional image of the oral cavity in which the internal structure of the oral cavity is 3-dimensionally modeled (107). can be displayed through For example, a 2D image and/or a 3D image of the oral cavity may be displayed through a specific application. In this case, the user 10 can edit, save and delete the 2D image and/or the 3D image of the oral cavity.
  • the input device 109 of the electronic device 100 transmits a command or data to be used to components (eg, one or more processors 101) of the electronic device 100 to the outside of the electronic device 100 ( Example: user).
  • the input device 109 may include, for example, a microphone, mouse or keyboard.
  • the input device 109 may be implemented in the form of a touch sensor panel capable of recognizing contact or proximity of various external objects by being combined with the display 107 .
  • the 3D scanner 200 may include a main body 210 and a probe tip 220 .
  • the body 210 of the 3D scanner 200 may be formed in a shape that is easy for the user 10 to grip and use.
  • the probe tip 220 may be formed in a shape that facilitates insertion into and withdrawal from the oral cavity of the object 20 .
  • the main body 210 may be combined with and separated from the probe tip 220 .
  • components of the 3D scanner 200 described in FIG. 2A may be disposed inside the main body 210.
  • An opening may be formed at one end of the main body 210 so that light output from the light source 204 may be irradiated to the object 20 .
  • Light irradiated through the opening may be reflected by the target object 20 and introduced again through the opening. Reflected light introduced through the opening may be captured by a camera to generate an image of the object 20 .
  • the user 10 may start scanning using the input device 206 (eg, a button) of the 3D scanner 200 . For example, when the user 10 touches or presses the input device 206 , light from the light source 204 may be radiated to the object 20 .
  • 3 is a diagram illustrating a method of generating a 3D image 320 of an oral cavity according to various embodiments.
  • the user 10 may scan the inside of the mouth of the object 20 while moving the 3D scanner 200.
  • the 3D scanner 200 may scan a plurality of 2D images of the mouth of the object 20. (310) can be obtained.
  • the 3D scanner 200 may obtain a 2D image of a region including the front teeth of the object 20 and a 2D image of a region including the molar teeth of the object 20 .
  • the 3D scanner 200 may transmit the acquired plurality of 2D images 310 to the electronic device 100 .
  • the user 10 may scan a diagnostic model of the oral cavity while moving the 3D scanner 200, or acquire a plurality of 2D images of the diagnostic model of the oral cavity.
  • a diagnostic model of the oral cavity while moving the 3D scanner 200, or acquire a plurality of 2D images of the diagnostic model of the oral cavity.
  • the electronic device 100 may transform each of the plurality of 2D images 310 of the oral cavity of the object 20 into a set of a plurality of points having 3D coordinate values.
  • the electronic device 100 may convert each of the plurality of 2D images 310 into a point cloud, which is a set of data points having 3D coordinate values.
  • a point cloud set that is a 3D coordinate value based on a plurality of 2D images 310 may be stored as raw data for the oral cavity of the object 20 .
  • the electronic device 100 may complete the entire tooth model by aligning a point cloud, which is a set of data points having 3D coordinate values.
  • the electronic device 100 may reconstruct (reconstruct) a 3D image of the oral cavity.
  • the electronic device 100 reconstructs a plurality of points by merging point cloud sets stored as raw data using a Poisson algorithm, transforms a plurality of points into a closed 3D surface, and places the object 20 in the oral cavity. It is possible to reconstruct a 3D image 320 for
  • the electronic device 100 may generate (construct) a correlation model for identifying (separating) a tooth region and/or a gingival region in a 2D image of the oral cavity.
  • the electronic device 100 includes a 2D image set of the oral cavity of the object, as well as the tooth region and gingival region in each image of the 2D image set. This identified data set can be used as learning data (or training data).
  • the 2D image of the oral cavity may include a 2D image of the oral cavity of the object 20 obtained by scanning the object 20, or scanning a diagnosis model of the oral cavity imitating the shape of the oral cavity of the object 20 It may also include a two-dimensional image of the diagnostic model of the oral cavity obtained by doing so.
  • the data set in which the tooth region and the gingival region are identified in each image of the 2D image set may be in the form of an image.
  • this data set may be, for example, a plurality of two-dimensional images in which each of the tooth region and the gingival region are masked in each image of the two-dimensional image set.
  • the data set in which the tooth region and the gingival region are identified in each image of the 2D image set may be in the form of metadata.
  • this data set may be, for example, metadata indicating each of the tooth region and the gingival region in each image of the two-dimensional image set.
  • the electronic device 100 may mask only a predetermined area of the 2D image 410 of the oral cavity.
  • the electronic device 100 masks only the tooth region 421 of the oral cavity 2D image 410, and the remaining regions, such as the gingival region and soft tissue regions (eg, cheek region, tongue area, etc.) may be unmasked.
  • masking may be an operation for distinguishing a specific region from other regions.
  • the electronic device 100 when receiving a user input for masking only the tooth region 421 in the 2D image 410 of the oral cavity from the user, the electronic device 100 generates the tooth region 421 in response to the user input.
  • This masked image 420a can be obtained.
  • only the tooth area 421 can be displayed as a dot area so that it can be distinguished from other areas.
  • by displaying only the tooth area 421 as a red area it may be displayed so that it can be distinguished from other areas.
  • the electronic device 100 uses a 2D image set of the oral cavity of the objects as input data and uses a data set in which tooth regions are identified in each image of the 2D image set as output data to train a machine learning model.
  • the data set in which the tooth region is identified in each image of the 2D image set may include, for example, a 2D image 420a in which the tooth region 421 is masked from the 2D image 410 .
  • the electronic device 100 may build a correlation model modeling a correlation between a 2D image set of the oral cavity of objects and a data set in which tooth regions are identified in each image of the 2D image set. have. A detailed method of constructing and using the correlation model will be described later with reference to FIGS. 5, 6A, and 6B.
  • the electronic device 100 may mask a plurality of regions of the 2D image 410 of the oral cavity, respectively. According to an embodiment, as shown in FIG. 4B , the electronic device 100 masks the tooth area 423 and the gingival area 425 of the oral cavity 2D image 410, respectively, and the remaining soft tissue area is masked. Maybe not. For example, when the electronic device 100 receives a user input for masking the tooth area 423 and the gingival area 425 in the oral cavity 2D image 410 from the user, the electronic device 100 responds to the user input. Thus, an image 420b in which each of the tooth area 423 and the gingival area 425 are masked may be obtained.
  • the electronic device 100 displays the tooth area 423 as a dot area and displays the gingival area 425 as a hatched area so that it can be distinguished from other areas.
  • the electronic device 100 may display the tooth area 423 as a red area and the gingival area 425 as a blue area so that they can be distinguished from other areas.
  • the electronic device 100 uses a 2D image set of the oral cavity of the objects as input data, uses a data set in which tooth and gingival regions are identified in each image of the 2D image set as output data, and uses a machine learning model can be learned.
  • the data set in which the tooth region and the gingival region are identified in each image of the 2D image set is, for example, a 2D data set in which the tooth region 423 and the gingival region 425 are each masked in the 2D image 410. It may include image 420b.
  • the electronic device 100 is a correlation model modeling a correlation between a 2D image set of the oral cavity of objects and a data set in which a tooth region and a gingival region are identified in each image of the 2D image set.
  • the electronic device 100 may separately mask each of a plurality of regions included in the 2D image of the oral cavity.
  • the user may mask each of a tooth area, a gingival area, a cheek area, a lip area, a tongue area, and a metal area so as to be identifiable.
  • the electronic device 100 receives a user input for masking each of the tooth region, the gingival region, the cheek region, the lip region, the tongue region, and the metal region in the two-dimensional image of the oral cavity from the user, the electronic device 100 responds to the user input. , it is possible to obtain an image (not shown) in which the above-mentioned regions are masked.
  • the electronic device 100 provides a 2D image set of the oral cavity of the objects, and a tooth region, a gingival region, a cheek region, a lip region, a tongue region, and a metal region in each image of the 2D image set.
  • a correlation model can be built that models the correlation between the identified data sets.
  • the method of masking the 2D image of the oral cavity is not limited to the above-described embodiments, and if necessary, at least one of a plurality of regions included in the 2D image may be masked so as to be identified.
  • FIG. 5 is a diagram illustrating a method of constructing a correlation model according to various embodiments of the present disclosure.
  • the contents of constructing the correlation model 500 for identifying each of the tooth region and the gingival region will be described, but the present invention is not limited thereto.
  • a correlation model for identifying each of at least one of the regions may be constructed.
  • the electronic device 100 generates a 2D image set 410 of the oral cavity of objects, and a tooth region and a gingival region are identified in each image of the 2D image set 410.
  • a correlation model 500 can be built.
  • the data set 420 in which the tooth region and the gingival region are identified in each image of the 2D image set 410 is, for example, the tooth region and the gingival region in each image of the 2D image set 410 are masked. It may be a plurality of two-dimensional images.
  • Each of the 2D image sets 410 of the oral cavity of the objects may be combined with corresponding data of the data set 420 in which the tooth region and the gingival region are identified.
  • the 2D image set 410 of the oral cavity of the objects may include, for example, a plurality of 2D images of the oral cavity of the object 20 obtained by scanning the oral cavity of the object 20.
  • a plurality of two-dimensional images may be included in the diagnosis model of the oral cavity obtained by scanning the shape-simulating diagnosis model.
  • the correlation model 500 identifies a 2D image set 410 of the oral cavity of objects and a tooth region and a gingival region in each image of the 2D image set 410 according to a machine learning algorithm. It may be a correlation model built by modeling the correlation between the data sets 420.
  • the machine learning algorithm can be, for example, one of a deep neural network, a recurrent neural network, a convolutional neural network, a machine learning model for classification-regression analysis, or a reinforcement learning model.
  • the electronic device 100 uses the 2D image set 410 of the oral cavity of the objects as input data, and obtains a data set 420 in which tooth and gingival regions are identified in each image of the 2D image set 410. It can be used as output data to train machine learning models.
  • the electronic device 100 sets the 2D image set 410 of the oral cavity of the objects and the data set in which the tooth region and the gingival region are identified in each image of the 2D image set 410 ( 420), a correlation model 500 modeling a correlation between them may be constructed.
  • the correlation model 500 is a feature of at least one of texture, density, color, tooth shape, gingival shape, and oral cavity shape of the tooth region and the gingival region identified in each image of the two-dimensional image set 410. It may be a machine-learned correlation model to extract , and derive a correlation between the 2D image set 410 and the data set 420 using at least one extracted feature. A method of obtaining data on the tooth region and the gingival region from the two-dimensional image of the oral cavity using the constructed correlation model 500 will be described later.
  • a correlation model in order to build a correlation model, an embodiment in which a plurality of two-dimensional images in which a tooth region and a gingival region are masked, respectively, in each image of a two-dimensional image set is used as training data has been described, but in this embodiment It is not limited, and a correlation model may be constructed using various data sets, for example, meta data indicating each of the tooth region and the gingival region in each image of a 2D image set as training data.
  • FIGS. 6A and 6B are diagrams illustrating a method of utilizing the built correlation model 500 according to various embodiments.
  • the correlation model 500 may be built according to a machine learning algorithm.
  • the electronic device 100 generates a 2D image 601 of an oral cavity (hereinafter, referred to as a target oral cavity) of a target object by using the constructed correlation model 500.
  • Data in which the tooth area and the gingival area are identified can be obtained from
  • the electronic device 100 accesses the 2D image 601 of the target mouth received from the 3D scanner 200, and converts the 2D image 601 of the target mouth into the correlation model 500.
  • data in which the tooth area and the gingival area are identified may be derived.
  • Data in which the tooth region and the gingival region are identified may represent, for example, an image in which the tooth region 603a and the gingival region 603b are masked on the input 2D image 601 of the target oral cavity.
  • the data in which the tooth region and the gingival region are identified may be, for example, metadata indicating positions of the tooth region and the gingival region on the input 2D image 601 of the target oral cavity. Accordingly, each position of the tooth region and the gingival region may be identified from the 2D image 601 of the target oral cavity received from the 3D scanner 200 using the constructed correlation model 500 .
  • data in which the tooth region and the gingival region are identified in the 2D image of the target oral cavity may be used to generate a 3D image of the target oral cavity.
  • the electronic device 100 uses the constructed correlation model 500 to form a 2D image 601 of a diagnosis model imitating the oral cavity of a target object (hereinafter, referred to as a target diagnosis model). ), data in which the tooth area and the gingival area are identified may be obtained.
  • the electronic device 100 accesses the 2D image 601 of the target diagnostic model received from the 3D scanner 200, and converts the 2D image 601 of the target diagnostic model into the correlation model 500. ), it is possible to derive data in which the tooth area and the gingival area are identified.
  • Data in which the tooth region and the gingival region are identified may indicate, for example, an image in which the tooth region 603a and the gingival region 603b are masked on the 2D image 601 for the input target diagnostic model.
  • the data in which the tooth region and the gingival region are identified may be, for example, metadata representing positions of the tooth region and the gingival region on the 2D image 601 for the input target diagnostic model.
  • the electronic device 100 receives the 2D image 601 of the target oral cavity from the 3D scanner 200 in real time while the user scans the target oral cavity through the 3D scanner 200. can do.
  • the electronic device 100 inputs the 2D image 601 of the target oral cavity to the correlation model 500 in response to receiving the 2D image 601 of the target oral cavity, thereby providing a tooth region and gingiva. Data in which the region is identified may be obtained.
  • the electronic device 100 sequentially receives a plurality of 2D images 601 of the target oral cavity from the 3D scanner 200, the tooth region and gingiva for each of the plurality of 2D images of the target oral cavity Data in which the region is identified may be sequentially acquired.
  • the electronic device 100 while the user scans the target diagnostic model through the 3D scanner 200, the 2D image 601 of the target diagnostic model is obtained from the 3D scanner 200 in real time. ) can be received.
  • the electronic device 100 inputs the 2D image 601 of the target diagnostic model to the correlation model 500 in response to receiving the 2D image 601 of the target diagnostic model, thereby providing a tooth area. and data in which the gingival region is identified.
  • FIG. 7 is an operational flowchart of the electronic device 100 according to various embodiments of the present disclosure.
  • one or more processors 101 of the electronic device 100 in operation 710, the target oral cavity or target received from the 3D scanner 200 through the communication circuit 105 A two-dimensional image of the diagnostic model can be accessed.
  • the 2D image of the target oral cavity or the target diagnostic model received from the 3D scanner 200 may be stored in one or more memories 103, and the one or more processors 101 may store the one or more memories 103 A 2D image of a target oral cavity or a target diagnosis model stored in may be accessed.
  • One or more processors 101 use a correlation model (eg, the correlation model 500 of FIG. 5 ) built through a machine learning process for a target oral cavity or a target diagnostic model.
  • a tooth region and a gingival region can be identified from the two-dimensional image.
  • the one or more processors 101 input the two-dimensional image of the target oral cavity or the target diagnostic model to the built correlation model, and identify a tooth region and a gingival region in the two-dimensional image of the target oral cavity or the target diagnostic model from the correlation model. available data can be obtained.
  • the data capable of identifying the tooth region and the gingival region in the two-dimensional image of the target oral cavity or the target diagnostic model may be obtained by masking the tooth region and the gingival region in the two-dimensional image of the target oral cavity or the target diagnostic model, respectively. It can be an image.
  • FIG. 8 is an operation flowchart of the electronic device 100 according to various embodiments of the present disclosure. Contents overlapping with those described in FIG. 7 will be omitted.
  • one or more processors 101 of the electronic device 100 in operation 810, the target oral cavity or target received from the 3D scanner 200 through the communication circuit 105 A two-dimensional image of the diagnostic model can be accessed.
  • One or more processors 101 in operation 820, use a correlation model (eg, the correlation model 500 of FIG. 5 ) built through a machine learning process for a target oral cavity or a target diagnostic model. A tooth region and a gingival region can be identified from the two-dimensional image.
  • a correlation model eg, the correlation model 500 of FIG. 5
  • the one or more processors 101 access a plurality of 2D images of the target oral cavity or the target diagnostic model sequentially received from the 3D scanner 200, and use the correlation model to access the plurality of 2D images of the target oral cavity or the target diagnostic model.
  • a tooth region and a gingival region may be identified from each of the two-dimensional images.
  • One or more processors 101 may receive a user input for selecting at least one of the tooth region and the gingival region through the input device 109 in operation 830 .
  • the user may select the entire area (including both the tooth area and the gingival area) among the tooth area and the gingival area, select only the tooth area, select only the tooth area and part of the gingival area, or select only the gingival area.
  • one or more processors may display a filtering user interface (UI) for displaying a specific region through the display 107 .
  • the filtering UI may include an icon for displaying the entire area (including both the tooth area and the gingival area), an icon for displaying only the tooth area, and an icon for displaying only the gingival area.
  • the filtering UI may further include an icon for displaying a tooth area and a partial gingival area.
  • the one or more processors 101 may display a 2D image of the target oral cavity in which the tooth region and the gingival region are identified through the display 107 .
  • one or more processors 101 may display a tooth area in red and a gingival area in blue on the 2D image of the target oral cavity or the target diagnostic model.
  • areas other than the tooth area and the gingival area eg, soft tissue area
  • the user may select at least one area of the tooth area and the gingival area of the 2D image displayed through the input device 109 .
  • step 830 the operation 830 of receiving a user input for selecting at least one of the tooth region and the gingival region includes the target oral cavity or the target oral cavity received from the 3D scanner. It may be performed before the operation 810 of accessing the 2D image of the target diagnostic model, or before the operation 820 of identifying the tooth region and the gingival region.
  • One or more processors 101 may generate a 3D image of a target oral cavity or a target diagnostic model corresponding to at least one area selected in response to a user input, in operation 840 .
  • the one or more processors 101 may set the tooth region as the reconstruction region, and the 3D image of the target oral cavity or the target diagnostic model corresponding to the set reconstruction region. can create
  • the electronic device 100 may generate a reconstructed 3D image of the target oral cavity by performing various algorithms for filling in blank areas of the 3D raw image of the target oral cavity and reconstructing data.
  • a Poisson Algorithm may be used to fill in an empty area of the 3D raw image of the target oral cavity.
  • the electronic device 100 may convert each of a plurality of 2D images of the target mouth into a set of a plurality of points having 3D coordinate values.
  • the electronic device 100 may convert each of a plurality of 2D images into a point cloud, which is a set of data points having 3D coordinate values.
  • the point cloud may be stored as raw data for the target oral cavity.
  • the electronic device 100 may generate (reconstruct) a 3D image of the target oral cavity by aligning the point cloud using a Poisson algorithm.
  • the electronic device 100 identifies data points corresponding to a tooth region selected as a reconstructed region from a point cloud, and applies a Poisson algorithm only to data points corresponding to the tooth region to obtain a target oral cavity.
  • 3D images can be created.
  • the electronic device 100 may reconstruct a plurality of data points corresponding to the tooth region and transform them into a closed 3D surface to generate a 3D image of the target oral cavity corresponding to the tooth region.
  • the generated 3D image of the target oral cavity may not include areas other than the tooth area (eg, gingival area and soft tissue area).
  • interpolation may be used to fill in an empty area of the 3D raw image of the target oral cavity.
  • the electronic device 100 may generate a 3D image of the target oral cavity corresponding to the tooth region by filling in between a plurality of points included in the tooth region set as the reconstruction region using an interpolation method.
  • the one or more processors 101 may convert only the tooth region of the 2D image of the target oral cavity into a set of a plurality of points having 3D coordinate values.
  • One or more processors 101 may fill in between a plurality of points by estimating an arbitrary spatial position value between a plurality of points using an interpolation method and adding a new point. In this way, a three-dimensional image of the target oral cavity corresponding to the tooth region may be generated.
  • the one or more processors 101 may set the gingival region as the reconstructed region, and use various algorithms to set the target oral cavity or the gingival region corresponding to the reconstructed region.
  • a 3D image of the target diagnostic model may be generated.
  • the one or more processors 101 may set the entire region as the reconstruction region, and use various algorithms to set the oral cavity.
  • a 3D image of the target oral cavity or the target diagnostic model corresponding to the entire region may be generated.
  • the one or more processors 101 may receive a user input for selecting at least one tooth of interest from among a plurality of teeth included in the tooth area through the input device 109 .
  • the user may select the front teeth as the tooth of interest through the input device.
  • one or more processors 101 may generate a 3D image of a target oral cavity or a target diagnostic model corresponding to the selected tooth region of interest in response to a user input.
  • the one or more processors 101 may set only a region corresponding to the selected tooth of interest as a reconstruction region, and generate a 3D image of a target oral cavity or a target diagnosis model corresponding to the set reconstruction region using various algorithms.
  • teeth other than the tooth of interest may not be included in the 3D image.
  • FIG. 9A to 9C show three-dimensional images of a target oral cavity according to various embodiments of the present disclosure.
  • FIG. 9A shows a 3D image 910 of the target oral cavity created when the entire area (including the tooth area and the gingival area) is set as the reconstructed area.
  • FIG. 9B shows a 3D image 920 of a target oral cavity created when a tooth area and a partial gingival area are set as a reconstructed area.
  • FIG. 9C shows a 3D image 930 of a target oral cavity created when a tooth area is set as a reconstruction area.
  • the electronic device 100 may display 3D images 910 , 920 , and 930 of the target oral cavity through the execution screen 900 of a specific application program.
  • 9A to 9C show a 3D image of the lower jaw of the mouth of an object for convenience of explanation, but the present invention is not limited thereto, and a 3D image of the upper jaw of the object or a 3D image including both the upper and lower jaws of the object is shown. You can also create dimensional images.
  • the electronic device 100 may generate and show a 3D image of the target diagnosis model, but hereinafter, for convenience of description, a 3D image of the target oral cavity is generated and shown. Explain.
  • the user may select an icon 901 for displaying the entire area (including both the tooth area and the gingival area) among the filtering UI for displaying a specific area through the input device 109 .
  • the electronic device 100 sets the entire area of the oral cavity of the target object (hereinafter referred to as the target oral cavity) as the reconstructed area, and generates a 3D image 910 of the target oral cavity corresponding to the set reconstructed area.
  • the electronic device 100 scans the inside of the target oral cavity from the 3D scanner 200. It is possible to receive a plurality of two-dimensional images for.
  • the electronic device 100 may convert each of a plurality of 2D images of the target oral cavity received from the 3D scanner 200 into a set of a plurality of points having 3D coordinate values (eg, a point cloud). That is, since the icon 901 for displaying the entire area is selected, the electronic device 100 can convert the entire area included in each of the plurality of 2D images into a set of a plurality of points.
  • the electronic device 100 may generate (reconstruct) a 3D image 910 of the target oral cavity by performing a Poisson algorithm or an interpolation method on a set of a plurality of points based on a plurality of 2D images.
  • the generated 3D image 910 of the target oral cavity may be a 3D image of the entire area of the target oral cavity (including the tooth area 911 and the gingival area 913).
  • the electronic device 100 may display a 3D image 910 of the target oral cavity corresponding to the entire area through the execution screen 900 of a specific application program.
  • a user may select an icon 903 for displaying a tooth area and a partial gingival area among filtering UIs for displaying a specific area through the input device 109 .
  • the electronic device 100 sets a tooth region included in the target oral cavity and a partial gingival region within a predetermined distance (eg, 50 pixels or 1 cm) from the tooth region as the reconstruction region, and sets the reconstruction region.
  • a 3D image 920 of the target oral cavity corresponding to may be generated.
  • the electronic device 100 scans the inside of the target oral cavity from the 3D scanner 200. It is possible to receive a plurality of two-dimensional images for.
  • the electronic device 100 accesses a plurality of 2D images of the target oral cavity received from the 3D scanner 200, uses a pre-built correlation model (eg, the correlation model 500 of FIG. 5), and A tooth region may be identified from each of a plurality of two-dimensional images of the oral cavity.
  • the electronic device 100 may set the identified tooth region and a partial gingival region within a predetermined distance from the tooth region as the reconstruction region.
  • the electronic device 100 may convert the set reconstructed area (a tooth area and a gingival area within a predetermined distance from the tooth area) into a set of a plurality of points having 3D coordinate values. For example, the electronic device 100 merges only a plurality of points corresponding to a set reconstructed area using a Poisson algorithm to form a target oral cavity corresponding to a tooth area 921 and a partial gingival area 923.
  • a 3D image 920 may be generated. In this case, the generated 3D image 920 may not include areas other than the tooth area 921 and the partial gingival area 923 set as the reconstruction area.
  • the electronic device 100 may display a 3D image 920 of a target oral cavity corresponding to a tooth area 921 and a partial gingival area 923 through the execution screen 900 of a specific application program.
  • the present embodiment since only the selected tooth area 921 and a part of the gingival area 923 are set as the reconstruction area, resources used in the process of reconstructing the 3D image 920 of the target oral cavity can be significantly reduced. And, the time to generate the 3D image 920 of the target oral cavity can be significantly reduced. In addition, since the user can acquire the 3D image 920 corresponding to the desired region, user convenience can be increased.
  • a user may select an icon 905 for displaying only a tooth area among filtering UIs for displaying a specific area through the input device 109 .
  • the electronic device 100 may set only the tooth area included in the target oral cavity as the reconstructed area and generate a 3D image 930 of the target oral cavity corresponding to the set reconstructed area.
  • the electronic device 100 may receive a plurality of 2D images of the target oral cavity from the 3D scanner 200 .
  • the electronic device 100 accesses a plurality of 2D images of the target oral cavity received from the 3D scanner 200, and uses a pre-built correlation model to obtain a tooth region from each of the plurality of 2D images of the target oral cavity. can identify.
  • the electronic device 100 may set the identified tooth area as a reconstruction area.
  • the electronic device 100 generates a 3D image 930 of the target oral cavity corresponding to the tooth region 931 by merging a plurality of points corresponding to the set reconstruction region using a Poisson algorithm. can create In this case, the generated 3D image 930 may not include areas other than the tooth area 931 set as the reconstruction area.
  • the electronic device 100 may display a 3D image 930 of the target oral cavity corresponding to the tooth area 931 through the execution screen 900 of a specific application program.
  • the selected tooth area 931 is set as a reconstruction area, resources used in the process of reconstructing the 3D image 930 of the target oral cavity can be significantly reduced, and 3 The time to generate the dimensional image 930 can be significantly reduced. Also, since the user can acquire the 3D image 930 corresponding to the desired region, user convenience can be increased.
  • the electronic device 100 sets only the gingival region included in the target oral cavity as the reconstructed region, and generates a 3D image (not shown) of the target oral cavity corresponding to the gingival region set as the reconstructed region. can also create
  • the user can select a specific area for constructing a 3D image as needed, and obtain a 3D image of the target oral cavity corresponding to the desired area.
  • a computer-readable recording medium includes all types of recording devices in which data that can be read by a computer system is stored. Examples of the computer-readable recording medium may include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, and the like.
  • the computer-readable recording medium is distributed in computer systems connected through a network, so that computer-readable codes can be stored and executed in a distributed manner.
  • functional programs, codes, and code segments for implementing the above embodiments can be easily inferred by programmers in the art to which the present disclosure belongs.

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Evolutionary Computation (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Epidemiology (AREA)
  • Computational Linguistics (AREA)
  • Primary Health Care (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Multimedia (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Physical Education & Sports Medicine (AREA)

Abstract

본 개시의 다양한 실시예에 따른 전자 장치는, 3차원 스캐너와 통신 연결되는 통신 회로, 기계 학습 알고리즘에 따라, 대상체들의 구강에 대한 2차원 이미지 세트 및 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트 사이의 상관 관계를 모델링하여 구축된 상관 모델을 저장하는 하나 이상의 메모리 및 하나 이상의 프로세서를 포함할 수 있다. 다양한 실시예에 따른 하나 이상의 프로세서는, 상기 통신 회로를 통해 상기 3차원 스캐너로부터 수신된 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근하고, 상기 상관 모델을 이용하여, 상기 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지로부터, 치아 영역 및 치은 영역을 식별하도록 구성될 수 있다.

Description

전자 장치 및 그의 이미지 처리 방법
본 개시는 전자 장치 및 그의 이미지 처리 방법에 관한 것으로서, 구체적으로는 3차원 스캐너(3D scanner)로부터 수신한 구강에 대한 이미지를 처리하는 전자 장치 및 그의 이미지 처리 방법에 관한 것이다.
일반적으로, 치과 진단 및 치료를 목적으로 환자의 구강 정보(예: 구강 내 치아를 포함한 경조직 및 연조직에 관한 정보)를 획득하기 위하여, 가소성 재료를 이용하여 환자의 구강의 모습을 인상하고(또는 본뜨고), 환자의 구강의 모습을 본뜬 인상체에 석고를 부어서 환자의 구강에 대한 3차원 모형을 만들 수 있다.
최근에는 환자의 구강 정보를 획득하기 위하여, 환자의 구강 내부에 삽입하여 구강 내부의 이미지를 획득하는 3차원 스캐너가 이용되고 있다. 3차원 스캐너를 이용하여 환자의 구강을 스캔함으로써, 환자의 구강에 대한 복수의 2차원 이미지를 획득할 수 있고, 획득한 복수의 2차원 이미지를 이용하여 환자의 구강에 대한 3차원 이미지를 구축할 수 있다. 예를 들어, 의사는 3차원 스캐너를 환자의 구강 내부에 삽입하여, 환자의 치아, 치은 및/또는 연조직을 스캔함으로써, 환자의 구강에 대한 복수의 2차원 이미지를 획득할 수 있다. 이후, 3D 모델링 기술을 적용함으로써, 환자의 구강에 대한 2차원 이미지를 이용하여 환자의 구강에 대한 3차원 이미지를 구축할 수 있다.
본 문서에 개시된 다양한 실시예들은 기계 학습(machine learning)을 통하여 환자의 구강 또는 구강의 진단 모델에 대한 2차원 이미지에 포함된 다양한 영역을 식별하여, 사용자가 구강에 대한 3차원 이미지 재구축을 위한 관심 영역을 쉽게 설정할 수 있는 기술을 제공한다.
본 개시의 다양한 실시예에 따른 전자 장치는, 3차원 스캐너와 통신 연결되는 통신 회로, 기계 학습 알고리즘에 따라, 대상체들의 구강에 대한 2차원 이미지 세트 및 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트 사이의 상관 관계를 모델링하여 구축된 상관 모델을 저장하는 하나 이상의 메모리 및 하나 이상의 프로세서를 포함할 수 있다. 다양한 실시예에 따른 하나 이상의 프로세서는, 상기 통신 회로를 통해 상기 3차원 스캐너로부터 수신된 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근하고, 상기 상관 모델을 이용하여, 상기 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지로부터, 치아 영역 및 치은 영역을 식별하도록 구성될 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 이미지 처리 방법은, 3차원 스캐너로부터 수신된 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근하는 동작 및 상관 모델을 이용하여, 상기 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지로부터, 치아 영역 및 치은 영역을 식별하는 동작을 포함할 수 있고, 상기 상관 모델은, 기계 학습 알고리즘에 따라, 대상체들의 구강에 대한 2차원 이미지 세트 및 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트 사이의 상관 관계를 모델링하여 구축된 상관 모델일 수 있다.
본 개시의 다양한 실시예에 따른 치아 영역 및 치은 영역의 식별에 이용되는 기계 학습 모델을 학습시키기 위한 전자 장치는, 대상체들의 구강 또는 구강의 진단 모델에 대한 2차원 이미지 세트 및 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트를 저장하는 하나 이상의 메모리 및 하나 이상의 프로세서를 포함할 수 있다. 다양한 실시예에 따른 상기 하나 이상의 프로세서는, 상기 대상체들의 구강에 대한 2차원 이미지 세트를 입력 데이터로 사용하고, 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트를 출력 데이터로 사용하여, 기계 학습 모델을 학습시키도록 구성될 수 있다.
본 개시의 다양한 실시예에 따르면, 기계 학습을 통하여 구축된 상관 모델을 이용하여, 구강 또는 구강의 진단 모델에 대한 2차원 이미지로부터 치아 영역 및 치은 영역을 식별하고, 사용자에 의해 식별된 영역들 중 적어도 하나의 영역을 선택하여 구강 또는 진단 모델에 대한 3차원 이미지를 생성함으로써, 사용자가 원하는 영역에 대한 3차원 이미지를 편리하고 빠르게 생성할 수 있다.
본 개시의 다양한 실시예에 따르면, 상관 모델을 이용하여 구강 또는 구강의 진단 모델에 대한 2차원 이미지로부터 치아 영역 및 치은 영역을 식별하고, 식별된 영역들 중 선택된 적어도 하나의 영역에 대응하는 구강 또는 구강의 진단 모델에 대한 3차원 이미지를 생성할 수 있으므로, 3차원 이미지 생성에 필요한 데이터의 양이 줄어들고 3차원 이미지를 생성하는데 소요되는 시간 및 리소스가 줄어들 수 있다.
도 1은 본 개시의 다양한 실시예에 따른 3차원 스캐너를 이용하여 환자의 구강에 대한 이미지를 획득하는 모습을 도시한 도면이다.
도 2a는 본 개시의 다양한 실시예에 따른 전자 장치 및 3차원 스캐너의 블록도이다. 도 2b는 본 개시의 다양한 실시예에 따른 3차원 스캐너의 사시도이다.
도 3은 본 개시의 다양한 실시예에 따른 구강에 대한 3차원 이미지를 생성하는 방법을 도시한 도면이다.
도 4a 및 4b는 본 개시의 다양한 실시예에 따른 구강에 대한 2차원 이미지에 마스킹 작업을 수행하는 것을 도시한 도면이다.
도 5는 본 개시의 다양한 실시예에 따른 상관 모델을 구축하는 방법을 도시한 도면이다.
도 6a 및 6b는 다양한 실시예에 따른 상관 모델을 활용하는 방법을 나타낸 도면이다.
도 7은 본 개시의 다양한 실시예에 따른 전자 장치의 동작 흐름도이다.
도 8은 본 개시의 다양한 실시예에 따른 전자 장치의 동작 흐름도이다.
도 9a 내지 9c는 본 개시의 다양한 실시예에 따른 타겟 구강에 대한 3차원 이미지를 도시한다.
본 개시의 실시예들은 본 개시의 기술적 사상을 설명하기 위한 목적으로 예시된 것이다. 본 개시에 따른 권리범위가 이하에 제시되는 실시예들이나 이들 실시예들에 대한 구체적 설명으로 한정되는 것은 아니다.
본 개시에 사용되는 모든 기술적 용어들 및 과학적 용어들은, 달리 정의되지 않는 한, 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자에게 일반적으로 이해되는 의미를 갖는다. 본 개시에 사용되는 모든 용어들은 본 개시를 더욱 명확히 설명하기 위한 목적으로 선택된 것이며 본 개시에 따른 권리범위를 제한하기 위해 선택된 것이 아니다.
본 개시에서 사용되는 "포함하는", "구비하는", "갖는" 등과 같은 표현은, 해당 표현이 포함되는 어구 또는 문장에서 달리 언급되지 않는 한, 다른 실시예를 포함할 가능성을 내포하는 개방형 용어(open-ended terms)로 이해되어야 한다.
본 개시에서 기술된 단수형의 표현은 달리 언급하지 않는 한 복수형의 의미를 포함할 수 있으며, 이는 청구범위에 기재된 단수형의 표현에도 마찬가지로 적용된다. 본 개시에서 사용되는 "제1", "제2" 등의 표현들은 복수의 구성요소들을 상호 구분하기 위해 사용되며, 해당 구성요소들의 순서 또는 중요도를 한정하는 것은 아니다.
본 개시에서 사용되는 용어 "부"는, 소프트웨어, 또는 FPGA(field-programmable gate array), ASIC(application specific integrated circuit)과 같은 하드웨어 구성요소를 의미한다. 그러나, "부"는 하드웨어 및 소프트웨어에 한정되는 것은 아니다. "부"는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고, 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서, "부"는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세서, 함수, 속성, 프로시저, 서브루틴, 프로그램 코드의 세그먼트, 드라이버, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조, 테이블, 어레이 및 변수를 포함한다. 구성요소와 "부" 내에서 제공되는 기능은 더 작은 수의 구성요소 및 "부"로 결합되거나 추가적인 구성요소와 "부"로 더 분리될 수 있다.
본 개시에서 사용되는 "~에 기초하여"라는 표현은, 해당 표현이 포함되는 어구 또는 문장에서 기술되는, 결정, 판단의 행위 또는 동작에 영향을 주는 하나 이상의 인자를 기술하는데 사용되며, 이 표현은 결정, 판단의 행위 또는 동작에 영향을 주는 추가적인 인자를 배제하지 않는다.
본 개시에서, 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 경우, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결될 수 있거나 접속될 수 있는 것으로, 또는 새로운 다른 구성요소를 매개로 하여 연결될 수 있거나 접속될 수 있는 것으로 이해되어야 한다.
본 개시에서, 인공지능(artificial intelligence, AI)은 인간의 학습능력, 추론능력, 지각능력을 모방하고, 이를 컴퓨터로 구현하는 기술을 의미하고, 기계 학습, 심볼릭 로직의 개념을 포함할 수 있다. 기계 학습(machine learning, ML)은 입력 데이터들의 특징을 스스로 분류 또는 학습하는 알고리즘 기술일 수 있다. 인공지능의 기술은 기계 학습의 알고리즘으로써 입력 데이터들 분석하고, 그 분석의 결과를 학습하며, 그 학습의 결과에 기초하여 기반으로 판단이나 예측을 할 수 있다. 또한, 기계 학습의 알고리즘을 활용하여 인간 두뇌의 인지, 판단의 기능을 모사하는 기술들 역시 인공지능의 범주로 이해될 수 있다. 예를 들어, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어의 기술 분야가 포함될 수 있다.
본 개시에서, 기계 학습은 데이터를 처리한 경험을 이용해 신경망 모델을 훈련시키는 처리를 의미할 수 있다. 기계 학습을 통해 컴퓨터 소프트웨어는 스스로 데이터 처리 능력을 향상시키는 것을 의미할 수 있다. 신경망 모델은 데이터 사이의 상관 관계를 모델링하여 구축된 것으로서, 그 상관 관계는 복수의 파라미터에 의해 표현될 수 있다. 신경망 모델은 주어진 데이터로부터 특징들을 추출하고 분석하여 데이터 간의 상관 관계를 도출하는데, 이러한 과정을 반복하여 신경망 모델의 파라미터를 최적화 해나가는 것이 기계 학습이라고 할 수 있다. 예를 들어, 신경망 모델은 입출력 쌍으로 주어지는 데이터에 대하여, 입력과 출력 사이의 매핑(상관 관계)을 학습할 수 있다. 또는 신경망 모델은 입력 데이터만 주어지는 경우에도 주어진 데이터 사이의 규칙성을 도출하여 그 관계를 학습할 수도 있다.
본 개시에서, 인공지능 학습 모델, 기계 학습 모델 또는 신경망 모델은 인간의 뇌 구조를 컴퓨터 상에서 구현하도록 설계될 수 있으며, 인간의 신경망의 뉴런(neuron)을 모의하며 가중치를 가지는 복수의 네트워크 노드들을 포함할 수 있다. 복수의 네트워크 노드들은 뉴런이 시냅스(synapse)를 통하여 신호를 주고 받는 뉴런의 시냅틱(synaptic) 활동을 모의하여, 서로 간의 연결 관계를 가질 수 있다. 인공지능 학습 모델에서 복수의 네트워크 노드들은 서로 다른 깊이의 레이어에 위치하면서 컨볼루션(convolution) 연결 관계에 따라 데이터를 주고 받을 수 있다. 인공지능 학습 모델은, 예를 들어, 인공 신경망 모델(artificial neural network), 합성곱 신경망 모델(convolution neural network) 등일 수 있다.
이하, 첨부한 도면들을 참조하여, 본 개시의 실시예들을 설명한다. 첨부된 도면에서, 동일하거나 대응하는 구성요소에는 동일한 참조부호가 부여되어 있다. 또한, 이하의 실시예들의 설명에 있어서, 동일하거나 대응하는 구성요소를 중복하여 기술하는 것이 생략될 수 있다. 그러나, 구성요소에 관한 기술이 생략되어도, 그러한 구성요소가 어떤 실시예에 포함되지 않는 것으로 의도되지는 않는다.
도 1은 본 개시의 다양한 실시예에 따른 3차원 스캐너(200)를 이용하여 환자의 구강에 대한 이미지를 획득하는 모습을 도시한 도면이다. 다양한 실시예에 따르면, 3차원 스캐너(200)는 대상체(20)의 구강 내의 이미지를 획득하기 위한 치과용 의료 기기일 수 있다. 예를 들어, 3차원 스캐너(200)는 구강 스캐너(intraoral scanner)일 수 있다. 도 1에 도시된 것처럼 사용자(10)(예: 치과 의사, 치과위생사)가 3차원 스캐너(200)를 이용하여 대상체(20)(예: 환자)로부터 대상체(20)의 구강에 대한 이미지를 획득할 수 있다. 다른 예로는, 사용자(10)가 대상체(20)의 구강의 모양을 본뜬 진단 모델(예: 석고 모델, 인상(impression) 모델)로부터 대상체(20)의 구강에 대한 이미지를 획득할 수도 있다. 이하에서는 설명의 편의를 위하여, 대상체(20)의 구강을 스캐닝하여, 대상체(20)의 구강에 대한 이미지를 획득하는 것으로 설명하지만, 이에 제한되지 않으며, 대상체(20)의 다른 부위(예: 대상체(20)의 귀)에 대한 이미지를 획득하는 것도 가능하다. 3차원 스캐너(200)는 구강 내에 인입 및 인출이 가능한 형태를 가질 수 있으며, 스캔 거리와 스캔 각도를 사용자(10)가 자유롭게 조절할 수 있는 핸드헬드형 스캐너(handheld scanner)일 수 있다.
다양한 실시예에 따른 3차원 스캐너(200)는 대상체(20)의 구강 내에 삽입되어 비 접촉식으로 구강 내부를 스캐닝함으로써, 구강에 대한 이미지를 획득할 수 있다. 구강에 대한 이미지는 적어도 하나의 치아, 치은, 구강 내에 삽입 가능한 인공 구조물(예를 들어, 브라켓 및 와이어를 포함하는 교정 장치, 임플란트, 의치(denture), 구강 내 삽입되는 교정 보조 도구)을 포함할 수 있다. 3차원 스캐너(200)는 광원(또는 프로젝터)을 이용하여 대상체(20)의 구강(예: 대상체(20)의 적어도 하나의 치아, 치은)에 광을 조사할 수 있고, 대상체(20)의 구강으로부터 반사된 광을 카메라(또는, 적어도 하나의 이미지 센서)를 통해 수신할 수 있다. 다른 실시예에 따르면, 3차원 스캐너(200)는 구강의 진단 모델을 스캐닝함으로써, 구강의 진단 모델에 대한 이미지를 획득할 수도 있다. 구강의 진단 모델이 대상체(20)의 구강의 모양을 본뜬 진단 모델인 경우, 구강의 진단 모델에 대한 이미지는 대상체의 구강에 대한 이미지가 될 수 있다. 이하에서는, 설명의 편의를 위하여, 대상체(20)의 구강 내부를 스캐닝함으로써, 구강에 대한 이미지를 획득하는 경우를 가정하여 설명하도록 하지만, 이에 제한되는 것은 아니다.
다양한 실시예에 따른 3차원 스캐너(200)는 카메라를 통해 수신한 정보에 기초하여, 대상체(20)의 구강에 대한 표면 이미지를 2차원 이미지로서 획득할 수 있다. 대상체(20)의 구강에 대한 표면 이미지는 대상체(20)의 적어도 하나의 치아, 치은, 인공 구조물, 대상체(20)의 볼, 혀 또는 입술 중 적어도 하나를 포함할 수 있다. 대상체(20)의 구강에 대한 표면 이미지는 2차원 이미지일 수 있다.
다양한 실시예에 따른 3차원 스캐너(200)에서 획득된 구강에 대한 2차원 이미지는 유선 또는 무선 통신 네트워크를 통해 연결되는 전자 장치(100)로 전송될 수 있다. 전자 장치(100)는, 컴퓨터 장치 또는 휴대용 통신 장치일 수 있다. 전자 장치(100)는 3차원 스캐너(200)로부터 수신한 구강에 대한 2차원 이미지에 기초하여 구강을 3차원적으로 나타내는 구강에 대한 3차원 이미지(또는, 3차원 구강 이미지, 3차원 구강 모델)를 생성할 수 있다. 전자 장치(100)는 수신한 구강에 대한 2차원 이미지에 기초하여 구강의 내부 구조를 3차원적으로 모델링(modeling)하여 구강에 대한 3차원 이미지를 생성할 수 있다.
또 다른 실시예에 따른 3차원 스캐너(200)는 대상체(20)의 구강을 스캔하여 구강에 대한 2차원 이미지를 획득하고, 획득한 구강에 대한 2차원 이미지에 기초하여 구강에 대한 3차원 이미지를 생성하며, 생성한 구강의 3차원 이미지를 전자 장치(100)로 전송할 수도 있다.
다양한 실시예에 따른 전자 장치(100)는 클라우드 서버(미도시)와 통신 연결될 수 있다. 상기의 경우, 전자 장치(100)는 대상체(20)의 구강에 대한 2차원 이미지 또는 구강에 대한 3차원 이미지를 클라우드 서버에 전송할 수 있고, 클라우드 서버는 전자 장치(100)로부터 수신한 대상체(20)의 구강에 대한 2차원 이미지 또는 구강에 대한 3차원 이미지를 저장할 수 있다.
또 다른 실시예에 따르면, 3차원 스캐너는 대상체(20)의 구강에 삽입하여 사용하는 핸드헬드형 스캐너 이외에도, 특정 위치에 고정시켜 사용하는 테이블 스캐너(미도시)가 사용될 수도 있다. 테이블 스캐너는 구강의 진단 모델을 스캐닝함으로써 구강의 진단 모델에 대한 3차원 이미지를 생성할 수 있다. 상기의 경우, 테이블 스캐너의 광원(또는 프로젝터) 및 카메라는 고정되어 있으므로, 사용자는 구강의 진단 모델을 움직이면서 구강의 진단 모델을 스캐닝할 수 있다.
도 2a는 본 개시의 다양한 실시예에 따른 전자 장치(100) 및 3차원 스캐너(200)의 블록도이다. 전자 장치(100) 및 3차원 스캐너(200)는 유선 또는 무선 통신 네트워크를 통해 서로 통신 연결될 수 있으며, 다양한 데이터를 서로 송수신할 수 있다.
다양한 실시예에 따른 3차원 스캐너(200)는, 프로세서(201), 메모리(202), 통신 회로(203), 광원(204), 카메라(205), 입력 장치(206) 및/또는 센서 모듈(207)을 포함할 수 있다. 3차원 스캐너(200)에 포함된 구성요소들 중 적어도 하나가 생략되거나, 다른 구성요소가 3차원 스캐너(200)에 추가될 수 있다. 추가적으로 또는 대체적으로 일부의 구성요소들이 통합되어 구현되거나, 단수 또는 복수의 개체로 구현될 수 있다. 3차원 스캐너(200) 내의 적어도 일부의 구성요소들은 버스(bus), GPIO(general purpose input/output), SPI(serial peripheral interface) 또는 MIPI(mobile industry processor interface) 등을 통해 서로 연결되어, 데이터 및/또는 시그널을 주고 받을 수 있다.
다양한 실시예에 따른 3차원 스캐너(200)의 프로세서(201)는 3차원 스캐너(200)의 각 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 수행할 수 있는 구성으로서, 3차원 스캐너(200)의 구성요소들과 작동적으로 연결될 수 있다. 프로세서(201)는 3차원 스캐너(200)의 다른 구성요소로부터 수신된 명령 또는 데이터를 메모리(202)에 로드하고, 메모리(202)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 저장할 수 있다. 다양한 실시예에 따른 3차원 스캐너(200)의 메모리(202)는, 상기에 기재된 프로세서(201)의 동작에 대한 인스트럭션들을 저장할 수 있다.
다양한 실시예에 따르면, 3차원 스캐너(200)의 통신 회로(203)는 외부 장치(예: 전자 장치(100))와 유선 또는 무선 통신 채널을 설립하고, 외부 장치와 다양한 데이터를 송수신할 수 있다. 일 실시예에 따르면, 통신 회로(203)는 외부 장치와 유선으로 통신하기 위해서, 외부 장치와 유선 케이블로 연결되기 위한 적어도 하나의 포트를 포함할 수 있다. 상기의 경우, 통신 회로(203)는 적어도 하나의 포트를 통하여 유선 연결된 외부 장치와 통신을 수행할 수 있다. 일 실시예에 따르면, 통신 회로(203)는 셀룰러 통신 모듈을 포함하여 셀룰러 네트워크(예: 3G, LTE, 5G, Wibro 또는 Wimax)에 연결되도록 구성할 수 있다. 다양한 실시예에 따르면, 통신 회로(203)는 근거리 통신 모듈을 포함하여 근거리 통신(예를 들면, Wi-Fi, Bluetooth, Bluetooth Low Energy(BLE), UWB)을 이용해 외부 장치와 데이터 송수신을 할 수 있으나, 이에 제한되지 않는다. 일 실시예에 따르면, 통신 회로(203)는 비접촉식 통신을 위한 비접촉 통신 모듈을 포함할 수 있다. 비접촉식 통신은, 예를 들면, NFC(near field communication) 통신, RFID(radio frequency identification) 통신 또는 MST(magnetic secure transmission) 통신과 같이 적어도 하나의 비접촉 방식의 근접 통신 기술을 포함할 수 있다.
다양한 실시예에 따른 3차원 스캐너(200)의 광원(204)은 대상체(20)의 구강을 향해 광을 조사할 수 있다. 예를 들어, 광원(204)으로부터 조사되는 광은 소정 패턴(예: 서로 다른 색상의 직선 무늬가 연속적으로 나타나는 스트라이프 패턴)을 갖는 구조광일 수 있다. 구조광의 패턴은, 예를 들어, 패턴 마스크 또는 DMD(digital micro-mirror device)를 이용하여 생성될 수 있지만, 이에 제한되는 것은 아니다. 다양한 실시예에 따른 3차원 스캐너(200)의 카메라(205)는 대상체(20)의 구강에 의해 반사된 반사광을 수신함으로써, 대상체(20)의 구강에 대한 이미지를 획득할 수 있다. 카메라(205)는, 예를 들어, 광 삼각 측량 방식에 따라서 3차원 이미지를 구축하기 위하여, 좌안 시야에 대응되는 좌측 카메라 및 우안 시야에 대응되는 우측 카메라를 포함할 수 있다. 카메라(205)는, CCD 센서 또는 CMOS 센서와 같은 적어도 하나의 이미지 센서를 포함할 수 있다.
다양한 실시예에 따른 3차원 스캐너(200)의 입력 장치(206)는 3차원 스캐너(200)를 제어하기 위한 사용자 입력을 수신할 수 있다. 입력 장치(206)는 사용자(10)의 푸시 조작을 수신하는 버튼, 사용자(10)의 터치를 감지하는 터치 패널, 마이크를 포함하는 음성 인식 장치를 포함할 수 있다. 예를 들어, 사용자(10)는 입력 장치(206)를 이용하여 스캐닝 시작 또는 정지를 제어할 수 있다.
다양한 실시예에 따른 3차원 스캐너(200)의 센서 모듈(207)은 3차원 스캐너(200)의 작동 상태 또는 외부의 환경 상태(예: 사용자의 동작)을 감지하고, 감지된 상태에 대응하는 전기 신호를 생성할 수 있다. 센서 모듈(207)은, 예를 들어, 자이로 센서, 가속도 센서, 제스처 센서, 근접 센서 또는 적외선 센서 중 적어도 하나를 포함할 수 있다. 사용자(10)는 센서 모듈(207)을 이용하여 스캐닝 시작 또는 정지를 제어할 수 있다. 예를 들어, 사용자(10)가 3차원 스캐너(200)를 손에 쥐고 움직이는 경우, 3차원 스캐너(200)는 센서 모듈(207)을 통해 측정된 각속도가 기 설정된 임계 값을 초과할 때, 프로세서(201) 스캐닝 동작을 시작하도록 제어할 수 있다.
일 실시예에 따르면, 3차원 스캐너(200)는, 3차원 스캐너(200)의 입력 장치(206) 또는 전자 장치(100)의 입력 장치(206)를 통해 스캔을 시작하기 위한 사용자 입력을 수신하거나, 3차원 스캐너(200)의 프로세서(201) 또는 전자 장치(100)의 프로세서(201)에서의 처리에 따라, 스캔을 시작할 수 있다. 사용자(10)가 3차원 스캐너(200)를 통해 대상체(20)의 구강 내부를 스캔하는 경우, 3차원 스캐너(200)는 대상체(20)의 구강에 대한 2차원 이미지를 생성할 수 있고, 실시간으로 대상체(20)의 구강에 대한 2차원 이미지를 전자 장치(100)로 전송할 수 있다. 전자 장치(100)는 수신한 대상체(20)의 구강에 대한 2차원 이미지를 디스플레이를 통해 표시할 수 있다. 또한, 전자 장치(100)는 대상체(20)의 구강에 대한 2차원 이미지에 기초하여, 대상체(20)의 구강에 대한 3차원 이미지를 생성(구축)할 수 있으며, 구강에 대한 3차원 이미지를 디스플레이를 통해 표시할 수 있다. 전자 장치(100)는 생성되고 있는 3차원 이미지를 실시간으로 디스플레이를 통해 표시할 수도 있다.
다양한 실시예에 따른 전자 장치(100)는 하나 이상의 프로세서(101), 하나 이상의 메모리(103), 통신 회로(105), 디스플레이(107) 및/또는 입력 장치(109)를 포함할 수 있다. 전자 장치(100)에 포함된 구성요소들 중 적어도 하나가 생략되거나, 다른 구성요소가 전자 장치(100)에 추가될 수 있다. 추가적으로 또는 대체적으로 일부의 구성요소들이 통합되어 구현되거나, 단수 또는 복수의 개체로 구현될 수 있다. 전자 장치(100) 내의 적어도 일부의 구성요소들은 버스(bus), GPIO(general purpose input/output), SPI(serial peripheral interface) 또는 MIPI(mobile industry processor interface) 등을 통해 서로 연결되어, 데이터 및/또는 시그널을 주고 받을 수 있다.
다양한 실시예에 따르면, 전자 장치(100)의 하나 이상의 프로세서(101)는 전자 장치(100)의 각 구성요소들(예: 메모리(103))의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 수행할 수 있는 구성일 수 있다. 하나 이상의 프로세서(101)는, 예를 들어, 전자 장치(100)의 구성요소들과 작동적으로 연결될 수 있다. 하나 이상의 프로세서(101)는 전자 장치(100)의 다른 구성요소로부터 수신된 명령 또는 데이터를 하나 이상의 메모리(103)에 로드(load)하고, 하나 이상의 메모리(103)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 저장할 수 있다.
다양한 실시예에 따르면, 전자 장치(100)의 하나 이상의 메모리(103)는 하나 이상의 프로세서(101)의 동작에 대한 인스트럭션들을 저장할 수 있다. 하나 이상의 메모리(103)는 기계 학습 알고리즘에 따라 구축된 상관 모델들을 저장할 수 있다. 하나 이상의 메모리(103)는 3차원 스캐너(200)로부터 수신되는 데이터(예를 들어, 구강 스캔을 통하여 획득된 구강에 대한 2차원 이미지)를 저장할 수 있다.
다양한 실시예에 따르면, 전자 장치(100)의 통신 회로(105)는 외부 장치(예: 3차원 스캐너(200), 클라우드 서버)와 유선 또는 무선 통신 채널을 설립하고, 외부 장치와 다양한 데이터를 송수신할 수 있다. 일 실시예에 따르면, 통신 회로(105)는 외부 장치와 유선으로 통신하기 위해서, 외부 장치와 유선 케이블로 연결되기 위한 적어도 하나의 포트를 포함할 수 있다. 상기의 경우, 통신 회로(105)는 적어도 하나의 포트를 통하여 유선 연결된 외부 장치와 통신을 수행할 수 있다. 일 실시예에 따르면, 통신 회로(105)는 셀룰러 통신 모듈을 포함하여 셀룰러 네트워크(예: 3G, LTE, 5G, Wibro 또는 Wimax)에 연결되도록 구성할 수 있다. 다양한 실시예에 따르면, 통신 회로(105)는 근거리 통신 모듈을 포함하여 근거리 통신(예를 들면, Wi-Fi, Bluetooth, Bluetooth Low Energy(BLE), UWB)을 이용해 외부 장치와 데이터 송수신을 할 수 있으나, 이에 제한되지 않는다. 일 실시예에 따르면, 통신 회로(105)는 비접촉식 통신을 위한 비접촉 통신 모듈을 포함할 수 있다. 비접촉식 통신은, 예를 들면, NFC(near field communication) 통신, RFID(radio frequency identification) 통신 또는 MST(magnetic secure transmission) 통신과 같이 적어도 하나의 비접촉 방식의 근접 통신 기술을 포함할 수 있다.
다양한 실시예에 따른 전자 장치(100)의 디스플레이(107)는 프로세서(101)의 제어에 기반하여 다양한 화면을 표시할 수 있다. 프로세서(101)는 3차원 스캐너(200)로부터 수신한 대상체(20)의 구강에 대한 2차원 이미지 및/또는 구강의 내부 구조를 3차원적으로 모델링한 구강에 대한 3차원 이미지를 디스플레이(107)를 통해 표시할 수 있다. 예를 들어, 특정 응용 프로그램을 통해 구강에 대한 2차원 이미지 및/또는 3차원 이미지를 표시할 수 있다. 상기의 경우, 사용자(10)는 구강에 대한 2차원 이미지 및/또는 3차원 이미지를 편집, 저장 및 삭제할 수 있다.
다양한 실시예에 따른 전자 장치(100)의 입력 장치(109)는, 전자 장치(100)의 구성요소(예: 하나 이상의 프로세서(101))에 사용될 명령 또는 데이터를 전자 장치(100)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(109)는, 예를 들면, 마이크, 마우스 또는 키보드를 포함할 수 있다. 일 실시예에 따르면, 입력 장치(109)는 디스플레이(107)와 결합되어 다양한 외부 객체의 접촉 또는 근접을 인식할 수 있는 터치 센서 패널의 형태로 구현될 수도 있다.
도 2b는 다양한 실시예에 따른 3차원 스캐너(200)의 사시도이다. 다양한 실시예에 따른 3차원 스캐너(200)는 본체(210) 및 프로브 팁(220)을 포함할 수 있다. 3차원 스캐너(200)의 본체(210)는 사용자(10)가 손으로 그립하여 사용하기 용이한 모양으로 형성될 수 있다. 프로브 팁(220)은 대상체(20)의 구강으로 인입 및 인출이 용이한 모양으로 형성될 수 있다. 또한, 본체(210)는 프로브 팁(220)과 결합 및 분리될 수 있다. 본체(210) 내부에는, 도 2a에서 설명한 3차원 스캐너(200)의 구성요소들이 배치될 수 있다. 본체(210)의 일측 단부에는 광원(204)로부터 출력된 광이 대상체(20)에 조사될 수 있도록 개구된 개구부가 형성될 수 있다. 개구부를 통해 조사된 광은, 대상체(20)에 의해 반사되어 다시 개구부를 통해 유입될 수 있다. 개구부를 통해 유입된 반사광은 카메라에 의해 캡쳐되어 대상체(20)에 대한 이미지를 생성할 수 있다. 사용자(10)는 3차원 스캐너(200)의 입력 장치(206)(예: 버튼)를 이용하여 스캔을 시작할 수 있다. 예를 들어, 사용자(10)가 입력 장치(206)를 터치하거나 가압하는 경우, 광원(204)으로부터 광이 대상체(20)에 조사될 수 있다.
도 3은 다양한 실시예에 따른 구강에 대한 3차원 이미지(320)를 생성하는 방법을 도시한 도면이다. 사용자(10)는 3차원 스캐너(200)를 움직여가면서 대상체(20)의 구강 내부를 스캔할 수 있고, 이 경우, 3차원 스캐너(200)는 대상체(20)의 구강에 대한 복수의 2차원 이미지(310)를 획득할 수 있다. 예를 들어, 3차원 스캐너(200)는 대상체(20)의 앞니가 포함된 영역에 대한 2차원 이미지, 대상체(20)의 어금니가 포함된 영역에 대한 2차원 이미지 등을 획득할 수 있다. 3차원 스캐너(200)는 획득한 복수의 2차원 이미지(310)를 전자 장치(100)로 전송할 수 있다. 다른 실시예에 따르면, 사용자(10)는 3차원 스캐너(200)를 움직여가면서, 구강의 진단 모델을 스캔할 수도 있고, 구강의 진단 모델에 대한 복수의 2차원 이미지를 획득할 수도 있다. 이하에서는, 설명의 편의를 위하여, 대상체(20)의 구강 내부를 스캐닝함으로써, 대상체(20)의 구강에 대한 이미지를 획득하는 경우를 가정하여 설명하도록 하지만, 이에 제한되는 것은 아니다.
다양한 실시예에 따른 전자 장치(100)는 대상체(20)의 구강에 대한 복수의 2차원 이미지(310) 각각을 3차원 좌표값을 갖는 복수의 포인트들의 집합으로 변환할 수 있다. 예를 들어, 전자 장치(100)는 복수의 2차원 이미지(310) 각각을, 3차원 좌표값을 갖는 데이터 포인트의 집합인 포인트 클라우드(point cloud)로 변환할 수 있다. 예를 들어, 복수의 2차원 이미지(310)를 기초로 하는 3차원 좌표값인 포인트 클라우드 세트는, 대상체(20)의 구강에 대한 로우 데이터(raw data)로서 저장될 수 있다. 전자 장치(100)는, 3차원 좌표값을 갖는 데이터 포인트의 집합인 포인트 클라우드를 정렬(align)함으로써, 전체 치아 모형을 완성할 수 있다.
다양한 실시예에 따른 전자 장치(100)는 구강에 대한 3차원 이미지를 재구성(재구축)할 수 있다. 예를 들어, 전자 장치(100)는 푸아송 알고리즘을 사용하여, 로우 데이터로서 저장된 포인트 클라우드 세트를 병합함으로써, 복수의 포인트들을 재구성하고, 폐쇄된 3차원 표면으로 변환하여 대상체(20)의 구강에 대한 3차원 이미지(320)를 재구성할 수 있다.
도 4a 및 4b는 본 개시의 다양한 실시예에 따른 구강에 대한 2차원 이미지에 마스킹 작업을 수행하는 것을 도시한 도면이다. 다양한 실시예에 따른 전자 장치(100)는 구강에 대한 2차원 이미지에서 치아 영역 및/또는 치은 영역을 식별(구분)하기 위한 상관 모델을 생성(구축)할 수 있다. 치아 영역 및/또는 치은 영역 분할에 이용되는 기계 학습 모델을 학습시키기 위하여, 전자 장치(100)는 대상체의 구강에 대한 2차원 이미지 세트뿐만 아니라, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트를 학습 데이터(또는 훈련 데이터)로 사용할 수 있다. 구강에 대한 2차원 이미지는, 대상체(20)를 스캐닝함으로서 획득한 대상체(20)의 구강에 대한 2차원 이미지를 포함할 수도 있고, 대상체(20)의 구강의 모양을 본뜬 구강의 진단 모델을 스캐닝함으로서 획득한 구강의 진단 모델에 대한 2차원 이미지를 포함할 수도 있다.
일 실시예에 따르면, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트는 이미지 형식일 수 있다. 이 경우, 이러한 데이터 세트는, 예를 들어, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역 각각이 마스킹된 복수의 2차원 이미지일 수 있다. 다른 실시예에 따르면, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트는 메타데이터 형식일 수 있다. 이 경우, 이러한 데이터 세트는, 예를 들어, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역 각각을 지시하는 메타데이터일 수 있다.
도 4a 및 4b는 기계 학습 모델을 학습시키기 위해 필요한 학습 데이터를 생성하는 과정을 설명하기 위한 예시적인 도면이다. 다양한 실시예에 따르면, 전자 장치(100)는 구강에 대한 2차원 이미지(410) 중 소정의 영역만 마스킹할 수 있다. 일 실시예에 따르면, 도 4a와 같이, 전자 장치(100)는 구강에 대한 2차원 이미지(410) 중 치아 영역(421)만을 마스킹하고, 나머지 영역인 치은 영역 및 연조직 영역(예: 볼 영역, 혀 영역 등)은 마스킹하지 않을 수 있다. 여기서, 마스킹이란 특정 영역을 다른 영역들과 구별될 수 있게 하는 동작일 수 있다. 예를 들어, 전자 장치(100)는 사용자로부터 구강에 대한 2차원 이미지(410)에서 치아 영역(421)만을 마스킹하기 위한 사용자 입력을 수신하는 경우, 상기 사용자 입력에 응답하여, 치아 영역(421)이 마스킹된 이미지(420a)를 획득할 수 있다. 예를 들어, 마스킹 이미지(420a)와 같이, 치아 영역(421)만을 점 영역으로 표시함으로써 나머지 영역들과 구별될 수 있도록 표시할 수 있다. 예를 들어, 치아 영역(421)만을 빨간색 영역으로 표시함으로써 나머지 영역들과 구별될 수 있도록 표시할 수도 있다.
전자 장치(100)는 대상체들의 구강에 대한 2차원 이미지 세트를 입력 데이터로 사용하고, 2차원 이미지 세트의 각 이미지에서 치아 영역이 식별된 데이터 세트를 출력 데이터로 사용하여, 기계 학습 모델을 학습시킬 수 있다. 여기서, 2차원 이미지 세트의 각 이미지에서 치아 영역이 식별된 데이터 세트는, 예를 들어, 2차원 이미지(410)에서 치아 영역(421)이 마스킹된 2차원 이미지(420a)를 포함할 수 있다. 본 실시예에 따르면, 전자 장치(100)는 대상체들의 구강에 대한 2차원 이미지 세트 및 2차원 이미지 세트의 각 이미지에서 치아 영역이 식별된 데이터 세트 사이의 상관 관계를 모델링한 상관 모델을 구축할 수 있다. 상관 모델을 구축하고 이용하는 구체적인 방법은, 도 5, 도 6a 및 도 6b에서 후술하도록 하겠다.
다양한 실시예에 따르면, 전자 장치(100)는 구강에 대한 2차원 이미지(410) 중 복수의 영역을 각각 마스킹할 수 있다. 일 실시예에 따르면, 도 4b와 같이, 전자 장치(100)는 구강에 대한 2차원 이미지(410) 중 치아 영역(423) 및 치은 영역(425)을 각각 마스킹하고, 나머지 영역인 연조직 영역은 마스킹하지 않을 수도 있다. 예를 들어, 전자 장치(100)는 사용자로부터 구강에 대한 2차원 이미지(410)에서 치아 영역(423) 및 치은 영역(425)을 각각 마스킹하기 위한 사용자 입력을 수신하는 경우, 상기 사용자 입력에 응답하여, 치아 영역(423) 및 치은 영역(425) 각각이 마스킹된 이미지(420b)를 획득할 수 있다. 예를 들어, 전자 장치(100)는 마스킹 이미지(420b)와 같이, 치아 영역(423)을 점 영역으로 표시하고, 치은 영역(425)을 빗금 친 영역으로 표시함으로써 나머지 영역들과 구별될 수 있도록 표시할 수 있다. 예를 들어, 전자 장치(100)는 치아 영역(423)을 빨간색 영역으로 표시하고, 치은 영역(425)을 파란색 영역으로 표시함으로써 나머지 영역들과 구별될 수 있도록 표시할 수도 있다.
전자 장치(100)는 대상체들의 구강에 대한 2차원 이미지 세트를 입력 데이터로 사용하고, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트를 출력 데이터로 사용하여, 기계 학습 모델을 학습시킬 수 있다. 여기서, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트는, 예를 들어, 2차원 이미지(410)에서 치아 영역(423) 및 치은 영역(425)이 각각 마스킹된 2차원 이미지(420b)를 포함할 수 있다. 본 실시예에 따르면, 전자 장치(100)는 대상체들의 구강에 대한 2차원 이미지 세트, 및 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트 사이의 상관 관계를 모델링한 상관 모델을 구축할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 구강에 대한 2차원 이미지에 포함된 복수의 영역 각각을 별도로 마스킹할 수 있다. 예를 들어, 사용자는 치아 영역, 치은 영역, 볼 영역, 입술 영역, 혀 영역 및 금속 영역 각각을 식별할 수 있도록 마스킹할 수 있다. 전자 장치(100)는 사용자로부터 구강에 대한 2차원 이미지에서 치아 영역, 치은 영역, 볼 영역, 입술 영역, 혀 영역 및 금속 영역을 각각 마스킹하기 위한 사용자 입력을 수신하는 경우, 상기 사용자 입력에 응답하여, 상술한 영역들이 마스킹된 이미지(미도시)를 획득할 수 있다. 본 실시예에 따르면, 전자 장치(100)는 대상체들의 구강에 대한 2차원 이미지 세트, 및 2차원 이미지 세트의 각 이미지에서 치아 영역, 치은 영역, 볼 영역, 입술 영역, 혀 영역 및 금속 영역 각각이 식별된 데이터 세트 사이의 상관 관계를 모델링한 상관 모델을 구축할 수 있다.
구강에 대한 2차원 이미지를 마스킹하는 방법은 상술한 실시예들에 한정되는 것은 아니며, 필요에 따라 2차원 이미지에 포함된 복수의 영역들 중 적어도 하나의 영역들을 식별할 수 있도록 마스킹할 수 있다.
도 5는 본 개시의 다양한 실시예에 따른 상관 모델을 구축하는 방법을 도시한 도면이다. 이하에서는, 설명의 편의를 위하여, 치아 영역 및 치은 영역을 각각 식별하기 위한 상관 모델(500)을 구축하는 내용에 대해서 설명하겠으나, 이에 제한되는 것은 아니며, 필요에 따라 2차원 이미지에 포함된 복수의 영역들 중 적어도 하나의 영역 각각을 식별하기 위한 상관 모델을 구축할 수도 있다.
도 5를 참조하면, 다양한 실시예에 따른 전자 장치(100)는 대상체들의 구강에 대한 2차원 이미지 세트(410), 및 2차원 이미지 세트(410)의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트(420)를 이용하여, 상관 모델(500)을 구축할 수 있다. 2차원 이미지 세트(410)의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트(420)는, 예를 들어, 2차원 이미지 세트(410)의 각 이미지에서 치아 영역 및 치은 영역이 각각 마스킹된 복수의 2차원 이미지일 수 있다. 대상체들의 구강에 대한 2차원 이미지 세트(410) 각각은, 치아 영역 및 치은 영역이 식별된 데이터 세트(420) 중 대응되는 데이터와 각각 결합될 수 있다. 대상체들의 구강에 대한 2차원 이미지 세트(410)는, 예를 들어, 대상체(20)의 구강을 스캐닝함으로서 획득한 구강에 대한 복수의 2차원 이미지를 포함할 수도 있고, 대상체(20)의 구강의 모양을 본뜬 진단 모델을 스캐닝함으로서 획득한 구강의 진단 모델에 복수의 2차원 이미지를 포함할 수도 있다.
다양한 실시예에 따른 상관 모델(500)은, 기계 학습 알고리즘에 따라, 대상체들의 구강에 대한 2차원 이미지 세트(410), 및 2차원 이미지 세트(410)의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트(420) 사이의 상관 관계를 모델링하여 구축된 상관 모델일 수 있다. 기계 학습 알고리즘은, 예를 들어, 심층 신경망, 순환 신경망, 합성곱 신경망, 분류-회귀 분석을 위한 머신 러닝 모델 또는 강화 학습 모델 중 하나일 수 있다.
전자 장치(100)는 대상체들의 구강에 대한 2차원 이미지 세트(410)를 입력 데이터로 사용하고, 2차원 이미지 세트(410)의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트(420)를 출력 데이터로 사용하여, 기계 학습 모델을 학습할 수 있다. 전자 장치(100)는 상술한 기계 학습 과정을 통하여, 대상체들의 구강에 대한 2차원 이미지 세트(410), 및 2차원 이미지 세트(410)의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트(420) 사이의 상관 관계를 모델링한 상관 모델(500)을 구축할 수 있다.
상관 모델(500)은 2차원 이미지 세트(410)의 각 이미지에서 식별된 상기 치아 영역 및 상기 치은 영역의 질감, 밀도, 색상, 치아의 모양, 치은의 모양 및 구강 내부의 모양 중 적어도 하나의 특징을 추출하고, 추출된 적어도 하나의 특징을 이용하여, 2차원 이미지 세트(410) 및 데이터 세트(420) 사이의 상관 관계를 도출하도록 기계 학습된 상관 모델일 수 있다. 구축된 상관 모델(500)을 이용하여 구강에 대한 2차원 이미지로부터 치아 영역 및 치은 영역에 관한 데이터를 획득하는 방법에 대해서는 후술하기로 한다.
본 도면에서는, 상관 모델을 구축하기 위하여, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 각각 마스킹된 복수의 2차원 이미지를 학습 데이터로 사용하는 실시예에 대해서 설명하였으나, 이러한 실시예에 한정되는 것은 아니며, 다양한 데이터 세트, 예를 들어, 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역 각각을 지시하는 메타 데이터를 학습 데이터로 사용하여 상관 모델을 구축할 수도 있다.
도 6a 및 6b는 다양한 실시예에 따른 구축된 상관 모델(500)을 활용하는 방법을 나타낸 도면이다. 전술한 바와 같이, 상관 모델(500)은 기계 학습 알고리즘에 따라 구축될 수 있다.
도 6a 및 6b를 참조하면, 다양한 실시예에 따른 전자 장치(100)는 구축된 상관 모델(500)을 이용하여, 타겟 대상체의 구강(이하, 타겟 구강이라고 함)에 대한 2차원 이미지(601)로부터 치아 영역 및 치은 영역이 식별된 데이터를 획득할 수 있다. 예를 들어, 전자 장치(100)는 3차원 스캐너(200)로부터 수신한 타겟 구강에 대한 2차원 이미지(601)에 접근하고, 타겟 구강에 대한 2차원 이미지(601)를 상관 모델(500)에 입력하여, 치아 영역 및 치은 영역이 식별된 데이터를 도출할 수 있다. 치아 영역 및 치은 영역이 식별된 데이터는, 예를 들어, 입력된 타겟 구강에 대한 2차원 이미지(601) 상에서 치아 영역(603a) 및 치은 영역(603b)이 마스킹된 이미지를 나타낼 수 있다. 치아 영역 및 치은 영역이 식별된 데이터는, 예를 들어, 입력된 타겟 구강에 대한 2차원 이미지(601) 상에서의 치아 영역 및 치은 영역의 위치를 나타내는 메타데이터일 수 있다. 따라서, 구축된 상관 모델(500)을 이용하여, 3차원 스캐너(200)로부터 수신한 타겟 구강에 대한 2차원 이미지(601)로부터 치아 영역 및 치은 영역 각각의 위치를 식별할 수 있다. 상관 모델(500)을 이용하여, 타겟 구강의 2차원 이미지에서 치아 영역 및 치은 영역이 식별된 데이터는, 타겟 구강에 대한 3차원 이미지를 생성하기 위해 사용될 수 있다.
또 다른 실시예에 따르면, 전자 장치(100)는 구축된 상관 모델(500)을 이용하여, 타겟 대상체의 구강의 모양을 본뜬 진단 모델(이하, 타겟 진단 모델이라고 함)에 대한 2차원 이미지(601)로부터 치아 영역 및 치은 영역이 식별된 데이터를 획득할 수도 있다. 상기의 경우, 전자 장치(100)는 3차원 스캐너(200)로부터 수신한 타겟 진단 모델에 대한 2차원 이미지(601)에 접근하고, 타겟 진단 모델에 대한 2차원 이미지(601)를 상관 모델(500)에 입력하여, 치아 영역 및 치은 영역이 식별된 데이터를 도출할 수 있다. 치아 영역 및 치은 영역이 식별된 데이터는, 예를 들어, 입력된 타겟 진단 모델에 대한 2차원 이미지(601) 상에서 치아 영역(603a) 및 치은 영역(603b)이 마스킹된 이미지를 나타낼 수 있다. 치아 영역 및 치은 영역이 식별된 데이터는, 예를 들어, 입력된 타겟 진단 모델에 대한 2차원 이미지(601) 상에서의 치아 영역 및 치은 영역의 위치를 나타내는 메타데이터일 수 있다.
다양한 실시예에 따른 전자 장치(100)는, 사용자가 3차원 스캐너(200)를 통해 타겟 구강을 스캔하는 중, 실시간으로 3차원 스캐너(200)로부터 타겟 구강에 대한 2차원 이미지(601)를 수신할 수 있다. 이 경우, 전자 장치(100)는 타겟 구강에 대한 2차원 이미지(601)를 수신하는 것에 응답하여, 상관 모델(500)에 타겟 구강에 대한 2차원 이미지(601)를 입력함으로써, 치아 영역 및 치은 영역이 식별된 데이터를 획득할 수 있다. 또한, 전자 장치(100)는 3차원 스캐너(200)로부터 타겟 구강에 대한 복수의 2차원 이미지(601)를 순차적으로 수신하는 경우, 타겟 구강에 대한 복수의 2차원 이미지 각각에 대한 치아 영역 및 치은 영역이 식별된 데이터를 순차적으로 획득할 수 있다.
또 다른 실시예에 따른 전자 장치(100)는, 사용자가 3차원 스캐너(200)를 통해 타겟 진단 모델을 스캔하는 중, 실시간으로 3차원 스캐너(200)로부터 타겟 진단 모델에 대한 2차원 이미지(601)를 수신할 수 있다. 이 경우, 전자 장치(100)는 타겟 진단 모델에 대한 2차원 이미지(601)를 수신하는 것에 응답하여, 상관 모델(500)에 타겟 진단 모델에 대한 2차원 이미지(601)를 입력함으로써, 치아 영역 및 치은 영역이 식별된 데이터를 획득할 수 있다.
도 7은 본 개시의 다양한 실시예에 따른 전자 장치(100)의 동작 흐름도이다. 동작 흐름도 700을 참조하면, 다양한 실시예에 따른 전자 장치(100)의 하나 이상의 프로세서(101)는, 동작 710에서, 통신 회로(105)를 통해 3차원 스캐너(200)로부터 수신한 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근(access)할 수 있다. 예를 들어, 3차원 스캐너(200)로부터 수신한 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지는 하나 이상의 메모리(103)에 저장될 수 있고, 하나 이상의 프로세서(101)는 하나 이상의 메모리(103)에 저장된 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근할 수 있다.
다양한 실시예에 따른 하나 이상의 프로세서(101)는, 동작 720에서, 기계 학습 과정을 통해 구축된 상관 모델(예: 도 5의 상관 모델(500))을 이용하여, 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지로부터 치아 영역 및 치은 영역을 식별할 수 있다. 하나 이상의 프로세서(101)는 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지를 구축된 상관 모델에 입력하고, 상관 모델로부터 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에서 치아 영역 및 치은 영역을 식별할 수 있는 데이터를 획득할 수 있다. 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에서 치아 영역 및 치은 영역을 식별할 수 있는 데이터는, 예를 들어, 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에서 치아 영역 및 치은 영역이 각각 마스킹된 이미지일 수 있다.
도 8은 본 개시의 다양한 실시예에 따른 전자 장치(100)의 동작 흐름도이다. 도 7에서 설명한 내용과 중복되는 내용은 생략하기로 한다. 동작 흐름도 800을 참조하면, 다양한 실시예에 따른 전자 장치(100)의 하나 이상의 프로세서(101)는, 동작 810에서, 통신 회로(105)를 통해 3차원 스캐너(200)로부터 수신한 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근(access)할 수 있다. 다양한 실시예에 따른 하나 이상의 프로세서(101)는, 동작 820에서, 기계 학습 과정을 통해 구축된 상관 모델(예: 도 5의 상관 모델(500))을 이용하여, 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지로부터 치아 영역 및 치은 영역을 식별할 수 있다. 하나 이상의 프로세서(101)는 3차원 스캐너(200)로부터 순차적으로 수신한 타겟 구강 또는 타겟 진단 모델에 대한 복수의 2차원 이미지에 접근하고, 상관 모델을 이용하여 타겟 구강 또는 타겟 진단 모델에 대한 복수의 2차원 이미지 각각으로부터 치아 영역 및 치은 영역을 식별할 수 있다.
다양한 실시예에 따른 하나 이상의 프로세서(101)는, 동작 830에서, 입력 장치(109)를 통해, 치아 영역 및 치은 영역 중 적어도 하나의 영역을 선택하기 위한 사용자 입력을 수신할 수 있다. 사용자는 치아 영역 및 치은 영역 중 전체 영역(치아 영역 및 치은 영역 모두 포함)을 선택할 수도 있고, 치아 영역만을 선택할 수도 있으며, 치아 영역 및 일부 치은 영역만을 선택할 수도 있고, 치은 영역만을 선택할 수도 있다.
일 실시예에 따르면, 하나 이상의 프로세서는 디스플레이(107)를 통해, 특정 영역을 표시하기 위한 필터링 UI(user interface) 를 표시할 수 있다. 필터링 UI는, 전체 영역(치아 영역 및 치은 영역 모두 포함)을 표시하기 위한 아이콘, 치아 영역만을 표시하기 위한 아이콘 및 치은 영역만을 표시하기 위한 아이콘을 포함할 수 있다. 또한, 필터링 UI는 치아 영역 및 일부 치은 영역을 표시하기 위한 아이콘을 더 포함할 수도 있다.
일 실시예에 따르면, 하나 이상의 프로세서(101)는 디스플레이(107)를 통해 치아 영역 및 치은 영역이 식별된 타겟 구강에 대한 2차원 이미지를 표시할 수 있다. 예를 들어, 하나 이상의 프로세서(101)는 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지 상에서 치아 영역을 빨간색으로 표시하고, 치은 영역을 파란색으로 표시할 수 있다. 상기의 경우, 치아 영역 및 치은 영역을 제외한 나머지 영역(예: 연조직 영역)은 특정 색으로 표시하지 않을 수 있다. 사용자는 입력 장치(109)를 통해 표시된 2차원 이미지 중 치아 영역 및 치은 영역 중 적어도 하나의 영역을 선택할 수도 있다.
본 도면에서는, 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지로부터 치아 영역 및 치은 영역을 식별하는 동작(820) 이후, 치아 영역 및 치은 영역 중 적어도 하나의 영역을 선택하기 위한 사용자 입력을 수신하는 동작(830)이 수행되는 것으로 설명하였으나, 이에 제한되는 것은 아니며, 치아 영역 및 치은 영역 중 적어도 하나의 영역을 선택하기 위한 사용자 입력을 수신하는 동작(830)은, 3차원 스캐너로부터 수신한 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근하는 동작(810) 이전에 수행될 수도 있고, 치아 영역 및 치은 영역을 식별하는 동작(820) 이전에 수행될 수도 있다.
다양한 실시예에 따른 하나 이상의 프로세서(101)는, 동작 840에서, 사용자 입력에 응답하여 선택된 적어도 하나의 영역에 대응되는 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성할 수 있다. 일 실시예에 따르면, 사용자가 치아 영역만을 선택한 경우, 하나 이상의 프로세서(101)는 치아 영역을 재구축 영역으로 설정할 수 있고, 설정된 재구축 영역에 대응하는 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성할 수 있다.
사용자(10)가 3차원 스캐너(200)를 손에 들고 대상체(20)의 구강 내부를 스캔하기 때문에, 일부 영역(예: 치아와 치아 사이의 협소한 영역)에 대해서는 스캔 데이터를 획득하지 못할 수 있다. 상기의 경우, 3차원 스캐너(200)를 통해 획득한 타겟 구강에 대한 복수의 2차원 이미지를 이용하여, 타겟 구강에 대한 3차원 이미지(이하, 3차원 로우 이미지라고 함)를 생성하는 경우, 상기 타겟 구강에 대한 3차원 로우 이미지는 상기 일부 영역이 빈 영역으로 나타날 수 있다. 따라서, 전자 장치(100)는 타겟 구강에 대한 3차원 로우 이미지의 빈 영역을 채워주는 다양한 알고리즘을 수행하여, 데이터를 재구성함으로써, 재구성된 타겟 구강에 대한 3차원 이미지를 생성할 수 있다.
일 실시예에 따르면, 타겟 구강에 대한 3차원 로우 이미지의 빈 영역을 채우기 위하여, 푸아송 알고리즘(Poisson Algorithm)을 사용할 수 있다. 상기의 경우, 전자 장치(100)는 타겟 대상의 구강에 대한 복수의 2차원 이미지 각각을 3차원 좌표값을 갖는 복수의 포인트들의 집합으로 변환할 수 있다. 예를 들어, 전자 장치(100)는 복수의 2차원 이미지 각각을 3차원 좌표값을 갖는 데이터 포인트의 집합인 포인트 클라우드(point clouds)로 변환할 수 있다. 상기 포인트 클라우드는 타겟 구강에 대한 로우 데이터(raw data)로서 저장될 수 있다. 전자 장치(100)는 포인트 클라우드를 푸아송 알고리즘을 이용해 정렬함으로써, 타겟 구강에 대한 3차원 이미지를 생성(재구축)할 수 있다. 본 실시예에 따르면, 전자 장치(100)는 포인트 클라우드 중 재구축 영역으로 선택된 치아 영역에 대응되는 데이터 포인트들을 식별하고, 치아 영역에 대응되는 데이터 포인트들에만 푸아송 알고리즘을 적용하여, 타겟 구강에 대한 3차원 이미지를 생성할 수 있다. 예를 들어, 전자 장치(100)는 치아 영역에 대응하는 복수의 데이터 포인트들을 재구성하고, 폐쇄된 3차원 표면으로 변환하여, 치아 영역에 대응하는 타겟 구강에 대한 3차원 이미지를 생성할 수 있다. 본 실시예에 따르면, 생성된 타겟 구강에 대한 3차원 이미지에는 치아 영역을 제외한 나머지 영역(예: 치은 영역 및 연조직 영역)이 포함되지 않을 수 있다. 이 경우, 치아 영역에 대해서만 푸아송 알고리즘을 수행하기 때문에, 타겟 구강의 전체 영역에 대하여 푸아송 알고리즘을 수행할 필요가 없으므로, 3차원 이미지 생성에 필요한 데이터의 양이 줄어들고, 3차원 이미지를 생성하는 데에 소요되는 시간 및 리소스가 줄어들 수 있다.
일 실시예에 따르면, 타겟 구강에 대한 3차원 로우 이미지의 빈 영역을 채우기 위하여, 보간법(interpolation)을 사용할 수 있다. 예를 들어, 전자 장치(100)는 보간법을 이용하여, 재구축 영역으로 설정된 치아 영역에 포함되는 복수의 포인트 사이를 채움으로써, 치아 영역에 대응하는 타겟 구강에 대한 3차원 이미지를 생성할 수 있다. 예를 들어, 하나 이상의 프로세서(101)는 타겟 구강에 대한 2차원 이미지 중 치아 영역만을 3차원 좌표값을 갖는 복수의 포인트들의 집합으로 변환할 수 있다. 하나 이상의 프로세서(101)는 보간법을 사용하여 복수의 포인트 사이에 임의의 공간적인 위치 값을 추정하여 포인트를 새로 추가함으로써, 복수의 포인트 사이를 채울 수 있다. 이러한 방식으로 치아 영역에 대응하는 타겟 구강에 대한 3차원 이미지를 생성할 수도 있다.
다른 실시예에 따르면, 사용자가 치은 영역만을 선택한 경우, 하나 이상의 프로세서(101)는 치은 영역을 재구축 영역으로 설정할 수 있고, 다양한 알고리즘을 사용하여 재구축 영역으로 설정된 치은 영역에 대응하는 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성할 수 있다. 또 다른 실시예에 따르면, 사용자가 전체 영역(치아 영역 및 치은 영역 모두 포함하는 영역)을 선택한 경우, 하나 이상의 프로세서(101)는 전체 영역을 재구축 영역으로 설정할 수 있고, 다양한 알고리즘을 사용하여 구강 전체 영역에 대응하는 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성할 수도 있다.
다양한 실시예에 따르면, 하나 이상의 프로세서(101)는 입력 장치(109)를 통해, 치아 영역에 포함된 복수의 치아 중 적어도 하나의 관심 치아를 선택하기 위한 사용자 입력을 수신할 수 있다. 예를 들어, 앞니에 대한 정보만을 획득하고 싶은 경우, 사용자는 입력 장치를 통해 앞니를 관심 치아로 선택할 수 있다. 이 경우, 하나 이상의 프로세서(101)는 사용자 입력에 응답하여 선택된 관심 치아 영역에 대응되는 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성할 수 있다. 하나 이상의 프로세서(101)는 선택된 관심 치아에 해당하는 영역만을 재구축 영역으로 설정할 수 있고, 다양한 알고리즘을 사용하여, 설정된 재구축 영역에 대응하는 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성할 수 있다. 본 실시예에 따르면, 관심 치아를 제외한 다른 치아들은 3차원 이미지에 포함되지 않을 수 있다.
도 9a 내지 9c는 본 개시의 다양한 실시예에 따른 타겟 구강에 대한 3차원 이미지를 도시한다. 도 9a는 전체 영역(치아 영역 및 치은 영역 포함)을 재구축 영역으로 설정한 경우 생성되는 타겟 구강에 대한 3차원 이미지(910)를 도시한다. 도 9b는 치아 영역 및 일부 치은 영역을 재구축 영역으로 설정한 경우에 생성되는 타겟 구강에 대한 3차원 이미지(920)를 도시한다. 도 9c는 치아 영역을 재구축 영역으로 설정한 경우에 생성되는 타겟 구강에 대한 3차원 이미지(930)를 도시한다. 전자 장치(100)는 특정 응용 프로그램의 실행 화면(900)을 통해, 타겟 구강에 대한 3차원 이미지(910, 920, 930)를 표시할 수 있다. 도 9a 내지 9c에서는 설명의 편의를 위하여, 대상체의 구강 중 하악에 대한 3차원 이미지를 도시하였으나, 이에 제한되는 것은 아니며, 대상체의 상악에 대한 3차원 이미지 또는 대상체의 상악 및 하악을 모두 포함하는 3차원 이미지를 생성할 수도 있다. 또 다른 실시예에 따르면, 전자 장치(100)는 타겟 진단 모델에 대한 3차원 이미지를 생성하여 도시할 수도 있으나, 이하에서는 설명의 편의를 위하여, 타겟 구강에 대한 3차원 이미지를 생성하여 도시하는 것으로 설명한다.
도 9a를 참조하면, 사용자가 입력 장치(109)를 통해 특정 영역을 표시하기 위한 필터링 UI 중 전체 영역(치아 영역 및 치은 영역 모두 포함)을 표시하기 위한 아이콘(901)을 선택할 수 있다. 상기의 경우, 전자 장치(100)는 타겟 대상체의 구강(이하, 타겟 구강이라고 함)의 전체 영역을 재구축 영역으로 설정하고, 설정된 재구축 영역에 대응하는 타겟 구강에 대한 3차원 이미지(910)를 생성할 수 있다.
예를 들어, 사용자가 3차원 스캐너(200)를 이용하여 타겟 대상체의 구강(이하, 타겟 구강이라고 함) 내부를 스캔하고 있는 경우, 전자 장치(100)는 3차원 스캐너(200)로부터 타겟 구강에 대한 복수의 2차원 이미지를 수신할 수 있다. 전자 장치(100)는 3차원 스캐너(200)으로부터 수신한 타겟 구강에 대한 복수의 2차원 이미지 각각을 3차원 좌표값을 갖는 복수의 포인트들의 집합(예: 포인트 클라우드)으로 변환할 수 있다. 즉, 전체 영역을 표시하기 위한 아이콘(901)이 선택 되었으므로, 전자 장치(100)는 복수의 2차원 이미지 각각에 포함된 전체 영역을 복수의 포인트들의 집합으로 변환할 수 있다. 전자 장치(100)는 복수의 2차원 이미지에 기초한 복수의 포인트들의 집합에 푸아송 알고리즘 또는 보간법을 수행함으로써, 타겟 구강에 대한 3차원 이미지(910)를 생성(재구축)할 수 있다. 상기의 경우, 생성된 타겟 구강에 대한 3차원 이미지(910)는, 타겟 구강의 전체 영역(치아 영역(911) 및 치은 영역(913) 포함)에 대한 3차원 이미지일 수 있다. 전자 장치(100)는 특정 응용 프로그램의 실행 화면(900)을 통해, 전체 영역에 대응하는 타겟 구강에 대한 3차원 이미지(910)를 표시할 수 있다.
도 9b를 참조하면, 사용자가 입력 장치(109)를 통해 특정 영역을 표시하기 위한 필터링 UI 중 치아 영역 및 일부 치은 영역을 표시하기 위한 아이콘(903)을 선택할 수 있다. 상기의 경우, 전자 장치(100)는 타겟 구강에 포함된 치아 영역 및 상기 치아 영역으로부터 소정의 거리(예: 50픽셀 또는 1cm) 내에 있는 일부 치은 영역을 재구축 영역으로 설정하고, 설정된 재구축 영역에 대응하는 타겟 구강에 대한 3차원 이미지(920)를 생성할 수 있다.
예를 들어, 사용자가 3차원 스캐너(200)를 이용하여 타겟 대상체의 구강(이하, 타겟 구강이라고 함) 내부를 스캔하고 있는 경우, 전자 장치(100)는 3차원 스캐너(200)로부터 타겟 구강에 대한 복수의 2차원 이미지를 수신할 수 있다. 전자 장치(100)는 3차원 스캐너(200)로부터 수신한 타겟 구강에 대한 복수의 2차원 이미지에 접근하고, 미리 구축된 상관 모델(예: 도 5의 상관 모델(500))을 이용하여, 타겟 구강에 대한 복수의 2차원 이미지 각각으로부터 치아 영역을 식별할 수 있다. 전자 장치(100)는 식별한 치아 영역 및 치아 영역으로부터 소정의 거리 내에 있는 일부 치은 영역을 재구축 영역으로 설정할 수 있다. 전자 장치(100)는 설정된 재구축 영역(치아 영역 및 치아 영역으로부터 소정 거리 내에 있는 치은 영역)을 3차원 좌표값을 갖는 복수의 포인트들의 집합으로 변환할 수 있다. 예를 들어, 전자 장치(100)는 푸아송 알고리즘을 사용하여, 설정된 재구축 영역에 대응하는 복수의 포인트들만을 병합함으로써, 치아 영역(921) 및 일부 치은 영역(923)에 대응하는 타겟 구강에 대한 3차원 이미지(920)를 생성할 수 있다. 상기의 경우, 생성된 3차원 이미지(920)에는 재구축 영역으로 설정된 치아 영역(921) 및 일부 치은 영역(923)을 제외한 나머지 영역이 포함되지 않을 수 있다. 전자 장치(100)는 특정 응용 프로그램의 실행 화면(900)을 통해, 치아 영역(921) 및 일부 치은 영역(923)에 대응하는 타겟 구강에 대한 3차원 이미지(920)를 표시할 수 있다.
본 실시예에 따르면, 선택된 치아 영역(921) 및 일부 치은 영역(923)만이 재구축 영역으로 설정되므로, 타겟 구강에 대한 3차원 이미지(920)를 재구축하는 과정에서 사용되는 리소스가 대폭 줄어들 수 있고, 타겟 구강에 대한 3차원 이미지(920)를 생성하는 시간이 대폭 경감될 수 있다. 또한, 사용자는 원하는 영역에 대응하는 3차원 이미지(920)를 획득할 수 있으므로, 사용자의 편의성을 증대시킬 수 있다.
도 9c를 참조하면, 사용자가 입력 장치(109)를 통해 특정 영역을 표시하기 위한 필터링 UI 중 치아 영역만을 표시하기 위한 아이콘(905)을 선택할 수 있다. 상기의 경우, 전자 장치(100)는 타겟 구강에 포함된 치아 영역만을 재구축 영역으로 설정하고, 설정된 재구축 영역에 대응하는 타겟 구강에 대한 3차원 이미지(930)를 생성할 수 있다.
예를 들어, 전자 장치(100)는 3차원 스캐너(200)로부터 타겟 구강에 대한 복수의 2차원 이미지를 수신할 수 있다. 전자 장치(100)는 3차원 스캐너(200)로부터 수신한 타겟 구강에 대한 복수의 2차원 이미지에 접근하고, 미리 구축된 상관 모델을 이용하여, 타겟 구강에 대한 복수의 2차원 이미지 각각으로부터 치아 영역을 식별할 수 있다. 전자 장치(100)는 식별한 치아 영역을 재구축 영역으로 설정할 수 있다. 예를 들어, 전자 장치(100)는 푸아송 알고리즘을 사용하여, 설정된 재구축 영역에 대응하는 복수의 포인트들을 병합함으로써, 치아 영역(931)에 대응하는 타겟 구강에 대한 3차원 이미지(930)를 생성할 수 있다. 상기의 경우, 생성된 3차원 이미지(930)에는 재구축 영역으로 설정된 치아 영역(931)을 제외한 나머지 영역이 포함되지 않을 수 있다. 전자 장치(100)는 특정 응용 프로그램의 실행 화면(900)을 통해, 치아 영역(931)에 대응하는 타겟 구강에 대한 3차원 이미지(930)를 표시할 수 있다.
본 실시예에 따르면, 선택된 치아 영역(931)만이 재구축 영역으로 설정되므로, 타겟 구강에 대한 3차원 이미지(930)를 재구축하는 과정에서 사용되는 리소스가 대폭 줄어들 수 있고, 타겟 구강에 대한 3차원 이미지(930)를 생성하는 시간이 대폭 경감될 수 있다. 또한, 사용자는 원하는 영역에 대응하는 3차원 이미지(930)를 획득할 수 있으므로, 사용자의 편의성을 증대시킬 수 있다.
또 다른 실시예에 따르면, 전자 장치(100)는 타겟 구강에 포함된 치은 영역만을 재구축 영역으로 설정하고, 재구축 영역으로 설정된 치은 영역에 대응하는 타겟 구강에 대한 3차원 이미지(미도시)를 생성할 수도 있다.
따라서, 사용자는 필요에 따라서 3차원 이미지를 구축하기 위한 특정 영역을 선택할 수 있으며, 원하는 영역에 대응하는 타겟 구강에 대한 3차원 이미지를 획득할 수 있다.
본 문서에 도시된 흐름도에서 프로세스 단계들, 방법 단계들, 알고리즘들 등이 순차적인 순서로 설명되었지만, 그러한 프로세스들, 방법들 및 알고리즘들은 임의의 적합한 순서로 작동하도록 구성될 수 있다. 다시 말하면, 본 개시의 다양한 실시예들에서 설명되는 프로세스들, 방법들 및 알고리즘들의 단계들이 본 개시에서 기술된 순서로 수행될 필요는 없다. 또한, 일부 단계들이 비동시적으로 수행되는 것으로서 설명되더라도, 다른 실시예에서는 이러한 일부 단계들이 동시에 수행될 수 있다. 또한, 도면에서의 묘사에 의한 프로세스의 예시는 예시된 프로세스가 그에 대한 다른 변화들 및 수정들을 제외하는 것을 의미하지 않으며, 예시된 프로세스 또는 그의 단계들 중 임의의 것이 본 개시의 다양한 실시예들 중 하나 이상에 필수적임을 의미하지 않으며, 예시된 프로세스가 바람직하다는 것을 의미하지 않는다.
상기 방법은 특정 실시예들을 통하여 설명되었지만, 상기 방법은 또한 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광데이터 저장장치 등을 포함할 수 있다. 또한, 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고, 상기 실시예들을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 개시가 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있다.
이상 일부 실시예들과 첨부된 도면에 도시된 예에 의해 본 개시의 기술적 사상이 설명되었지만, 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 이해할 수 있는 본 개시의 기술적 범위를 벗어나지 않는 범위에서 다양한 치환, 변형 및 변경이 이루어질 수 있다는 점을 알아야 할 것이다. 또한, 그러한 치환, 변형 및 변경은 첨부된 청구범위 내에 속하는 것으로 생각되어야 한다.

Claims (20)

  1. 전자 장치에 있어서,
    3차원 스캐너와 통신 연결되는 통신 회로;
    기계 학습 알고리즘에 따라, 대상체들의 구강에 대한 2차원 이미지 세트 및 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트 사이의 상관 관계를 모델링하여 구축된 상관 모델을 저장하는 하나 이상의 메모리; 및
    하나 이상의 프로세서를 포함하고,
    상기 하나 이상의 프로세서는,
    상기 통신 회로를 통해 상기 3차원 스캐너로부터 수신된 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근하고,
    상기 상관 모델을 이용하여, 상기 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지로부터, 치아 영역 및 치은 영역을 식별하도록 구성되는, 전자 장치.
  2. 제1항에 있어서,
    상기 데이터 세트는 복수의 2차원 이미지를 포함하되, 상기 복수의 2차원 이미지 각각은 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 각각 마스킹된 이미지인, 전자 장치.
  3. 제1항에 있어서,
    디스플레이를 더 포함하고,
    상기 하나 이상의 프로세서는,
    상기 디스플레이를 통해 상기 치아 영역 및 상기 치은 영역이 식별된 상기 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지를 표시하도록 구성되는, 전자 장치.
  4. 제1항에 있어서,
    입력 장치를 더 포함하고,
    상기 하나 이상의 프로세서는,
    상기 입력 장치를 통해 상기 치아 영역 및 상기 치은 영역 중 적어도 하나의 영역을 선택하기 위한 사용자 입력을 수신하고,
    상기 사용자 입력에 응답하여, 상기 선택된 적어도 하나의 영역에 대응되는 상기 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성하도록 구성된, 전자 장치.
  5. 제4항에 있어서,
    상기 하나 이상의 프로세서는,
    상기 선택된 적어도 하나의 영역을 재구축 영역으로 설정하고,
    푸아송 알고리즘을 사용하여 상기 설정된 재구축 영역에 포함되는 복수의 포인트를 서로 연결함으로써, 상기 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성하도록 구성된, 전자 장치.
  6. 제4항에 있어서,
    상기 하나 이상의 프로세서는,
    상기 선택된 적어도 하나의 영역을 재구축 영역으로 설정하고,
    보간법을 사용하여 상기 설정된 재구축 영역에 포함되는 복수의 포인트 사이를 채움으로써, 상기 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성하도록 구성된, 전자 장치.
  7. 제4항에 있어서,
    상기 하나 이상의 프로세서는,
    상기 생성한 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 클라우드 서버로 전송하도록 구성된, 전자 장치.
  8. 제1항에 있어서,
    상기 상관 모델은,
    상기 2차원 이미지 세트의 각 이미지에서 식별된 상기 치아 영역 및 상기 치은 영역의 질감, 밀도, 색상, 치아의 모양, 치은의 모양 및 구강 내부의 모양 중 적어도 하나의 특징을 추출하고,
    상기 추출된 적어도 하나의 특징을 이용하여, 상기 2차원 이미지 세트 및 상기 데이터 세트 사이의 상관 관계를 도출하도록 기계 학습된 상관 모델인, 전자 장치.
  9. 제1항에 있어서,
    상기 기계 학습 알고리즘은,
    심층 신경망, 순환 신경망, 합성곱 신경망, 분류-회귀 분석을 위한 머신 러닝 모델 또는 강화 학습 모델 중 하나인, 전자 장치.
  10. 전자 장치의 이미지 처리 방법에 있어서,
    3차원 스캐너로부터 수신된 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지에 접근하는 동작; 및
    상관 모델을 이용하여, 상기 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지로부터, 치아 영역 및 치은 영역을 식별하는 동작을 포함하고,
    상기 상관 모델은, 기계 학습 알고리즘에 따라, 대상체들의 구강에 대한 2차원 이미지 세트 및 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트 사이의 상관 관계를 모델링하여 구축된 상관 모델인, 방법.
  11. 제10항에 있어서,
    상기 데이터 세트는 복수의 2차원 이미지를 포함하되,
    상기 복수의 2차원 이미지 각각은 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 각각 마스킹된 이미지인, 방법.
  12. 제10항에 있어서,
    디스플레이를 통해 상기 치아 영역 및 상기 치은 영역이 식별된 상기 타겟 구강 또는 타겟 진단 모델에 대한 2차원 이미지를 표시하는 동작을 더 포함하는, 방법.
  13. 제10항에 있어서,
    입력 장치를 통해 상기 치아 영역 및 상기 치은 영역 중 적어도 하나의 영역을 선택하기 위한 사용자 입력을 수신하는 동작; 및
    상기 사용자 입력에 응답하여, 상기 선택된 적어도 하나의 영역에 대응되는 상기 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성하는 동작을 더 포함하는, 방법.
  14. 제13항에 있어서,
    상기 3차원 이미지를 생성하는 동작은,
    상기 선택된 적어도 하나의 영역을 재구축 영역으로 설정하는 동작; 및
    푸아송 알고리즘을 사용하여 상기 설정된 재구축 영역에 포함되는 복수의 포인트를 서로 연결함으로써, 상기 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성하는 동작을 포함하는, 방법.
  15. 제13항에 있어서,
    상기 3차원 이미지를 생성하는 동작은,
    상기 선택된 적어도 하나의 영역을 재구축 영역으로 설정하는 동작; 및
    보간법을 사용하여 상기 설정된 재구축 영역에 포함되는 복수의 포인트 사이를 채움으로써, 상기 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 생성하는 동작을 더 포함하는, 방법.
  16. 제13항에 있어서,
    상기 타겟 구강 또는 타겟 진단 모델에 대한 3차원 이미지를 클라우드 서버로 전송하는 동작을 더 포함하는, 방법.
  17. 제10항에 있어서,
    상기 상관 모델은,
    상기 2차원 이미지 세트의 각 이미지에서 식별된 상기 치아 영역 및 상기 치은 영역의 질감, 밀도, 색상, 치아의 모양, 치은의 모양 및 구강 내부의 모양 중 적어도 하나의 특징을 추출하고,
    상기 추출된 적어도 하나의 특징을 이용하여, 상기 2차원 이미지 세트 및 상기 데이터 세트 사이의 상관 관계를 도출하도록 기계 학습된 상관 모델인, 방법.
  18. 제10항에 있어서,
    상기 기계 학습 알고리즘은,
    심층 신경망, 순환 신경망, 합성곱 신경망, 분류-회귀 분석을 위한 머신 러닝 모델 또는 강화 학습 모델 중 하나인, 방법.
  19. 치아 영역 및 치은 영역의 식별에 이용되는 기계 학습 모델을 학습시키기 위한 전자 장치에 있어서,
    대상체들의 구강 또는 구강의 진단 모델에 대한 2차원 이미지 세트 및 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트를 저장하는 하나 이상의 메모리; 및
    하나 이상의 프로세서를 포함하고,
    상기 하나 이상의 프로세서는,
    상기 대상체들의 구강에 대한 2차원 이미지 세트를 입력 데이터로 사용하고, 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 식별된 데이터 세트를 출력 데이터로 사용하여, 기계 학습 모델을 학습시키도록 구성된, 전자 장치.
  20. 제19항에 있어서,
    상기 데이터 세트는 복수의 2차원 이미지를 포함하되,
    상기 복수의 2차원 이미지 각각은 상기 2차원 이미지 세트의 각 이미지에서 치아 영역 및 치은 영역이 각각 마스킹된 이미지인, 전자 장치.
PCT/KR2022/007318 2021-05-24 2022-05-24 전자 장치 및 그의 이미지 처리 방법 Ceased WO2022250403A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US18/562,681 US20240242433A1 (en) 2021-05-24 2022-05-24 Electronic device and image processing method therefor
EP22811596.0A EP4350705A4 (en) 2021-05-24 2022-05-24 ELECTRONIC DEVICE AND IMAGE PROCESSING METHOD THEREFOR
CN202280037126.9A CN117378013A (zh) 2021-05-24 2022-05-24 电子设备及其图像处理方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2021-0066144 2021-05-24
KR1020210066144A KR102776125B1 (ko) 2021-05-24 2021-05-24 전자 장치 및 그의 이미지 처리 방법

Publications (1)

Publication Number Publication Date
WO2022250403A1 true WO2022250403A1 (ko) 2022-12-01

Family

ID=84229354

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/007318 Ceased WO2022250403A1 (ko) 2021-05-24 2022-05-24 전자 장치 및 그의 이미지 처리 방법

Country Status (5)

Country Link
US (1) US20240242433A1 (ko)
EP (1) EP4350705A4 (ko)
KR (1) KR102776125B1 (ko)
CN (1) CN117378013A (ko)
WO (1) WO2022250403A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022256392A1 (en) * 2021-06-01 2022-12-08 Align Technology, Inc. Automated management of clinical modifications to treatment plans using three-dimensional controls
US20250025035A1 (en) * 2023-07-19 2025-01-23 Align Technology, Inc. Intraoral scanning system component pairing

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160060574A (ko) * 2014-11-19 2016-05-30 성균관대학교산학협력단 치과용 ct 이미지들을 이용한 3차원 이미지의 재구성 방법 및 장치
KR20180094554A (ko) * 2017-02-16 2018-08-24 한국전자통신연구원 3d 이미지 생성 장치 및 방법
KR20200109273A (ko) * 2019-03-12 2020-09-22 주식회사 메디트 치아 보철 제조를 위한 3차원 스캔 데이터 처리 방법
JP2021058594A (ja) * 2019-10-07 2021-04-15 株式会社モリタ製作所 セグメンテーション装置および学習モデルの生成方法
KR20210054704A (ko) * 2019-11-06 2021-05-14 장재원 치과보철물 제작용 촬영 어플리케이션 기반 환자 촬영 방법

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7427595B2 (ja) * 2018-01-26 2024-02-05 アライン テクノロジー， インコーポレイテッド 診断の為の口腔内のスキャン及び追跡
US11238586B2 (en) * 2019-05-02 2022-02-01 Align Technology, Inc. Excess material removal using machine learning
US11651494B2 (en) * 2019-09-05 2023-05-16 Align Technology, Inc. Apparatuses and methods for three-dimensional dental segmentation using dental image data

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160060574A (ko) * 2014-11-19 2016-05-30 성균관대학교산학협력단 치과용 ct 이미지들을 이용한 3차원 이미지의 재구성 방법 및 장치
KR20180094554A (ko) * 2017-02-16 2018-08-24 한국전자통신연구원 3d 이미지 생성 장치 및 방법
KR20200109273A (ko) * 2019-03-12 2020-09-22 주식회사 메디트 치아 보철 제조를 위한 3차원 스캔 데이터 처리 방법
JP2021058594A (ja) * 2019-10-07 2021-04-15 株式会社モリタ製作所 セグメンテーション装置および学習モデルの生成方法
KR20210054704A (ko) * 2019-11-06 2021-05-14 장재원 치과보철물 제작용 촬영 어플리케이션 기반 환자 촬영 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4350705A4 *

Also Published As

Publication number Publication date
US20240242433A1 (en) 2024-07-18
EP4350705A1 (en) 2024-04-10
KR20220158893A (ko) 2022-12-02
EP4350705A4 (en) 2025-04-30
KR102776125B1 (ko) 2025-03-10
CN117378013A (zh) 2024-01-09

Similar Documents

Publication Publication Date Title
WO2023014107A1 (ko) 3차원 스캐너의 스캔 이미지 처리에 있어서의 노이즈 필터링을 위한 방법 및 장치
WO2022250403A1 (ko) 전자 장치 및 그의 이미지 처리 방법
WO2023063671A1 (ko) 3차원 스캐너의 스캔 이미지 정렬 방법, 장치 및 명령을 기록한 기록매체
KR20230014621A (ko) 3차원 스캐너의 스캔 심도 조절을 위한 방법 및 장치
EP4494550A1 (en) Method for determining color of object, device therefor, and recording medium storing commands therefor
WO2022255720A1 (ko) 3차원 스캐너의 스캔 이미지 처리 방법 및 장치
WO2023003383A1 (ko) 3차원 스캐너의 스캔 심도 조절을 위한 방법 및 장치
WO2023038313A1 (ko) 전자 장치 및 그의 3차원 스캐너의 스캔 이미지 처리 방법
US12406361B2 (en) Electronic device and method for processing scanned image of three dimensional scanner
US20230386141A1 (en) Method, apparatus and recording medium storing commands for processing scanned images of 3d scanner
KR102612679B1 (ko) 구강 스캐너의 스캔 이미지 처리 방법, 그 장치 및 그 명령을 기록한 기록 매체
WO2023204509A1 (ko) 3차원 스캐너의 3차원 이미지 모델의 생성과 정렬을 위한 전자 장치, 방법 및 기록 매체
WO2025009926A1 (ko) 구강의 3차원 데이터를 교합 평면에 정렬하는 방법, 장치 및 명령을 기록한 기록 매체
WO2025058401A1 (ko) 맞춤형 인공치아 추천 방법, 장치 및 시스템
WO2024144035A1 (ko) 홀로그램 디스플레이 시스템 및 그 제어방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22811596

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 18562681

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 202280037126.9

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2022811596

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2022811596

Country of ref document: EP

Effective date: 20240102