KR20160092425A - Apparatus for virtual surgery simulation and the operation method thereof - Google Patents

Apparatus for virtual surgery simulation and the operation method thereof Download PDF

Info

Publication number
KR20160092425A
KR20160092425A KR1020150013028A KR20150013028A KR20160092425A KR 20160092425 A KR20160092425 A KR 20160092425A KR 1020150013028 A KR1020150013028 A KR 1020150013028A KR 20150013028 A KR20150013028 A KR 20150013028A KR 20160092425 A KR20160092425 A KR 20160092425A
Authority
KR
South Korea
Prior art keywords
image
surgical
virtual
surgery
patient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
KR1020150013028A
Other languages
Korean (ko)
Inventor
정도성
Original Assignee
국민대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 국민대학교산학협력단 filed Critical 국민대학교산학협력단
Priority to KR1020150013028A priority Critical patent/KR20160092425A/en
Publication of KR20160092425A publication Critical patent/KR20160092425A/en
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three-dimensional [3D] modelling for computer graphics
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B23/00Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes
    • G09B23/28Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes for medicine
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Public Health (AREA)
  • Software Systems (AREA)
  • Algebra (AREA)
  • Primary Health Care (AREA)
  • Pathology (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Chemical & Material Sciences (AREA)
  • Medicinal Chemistry (AREA)
  • Epidemiology (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

According to an embodiment of the present invention, provided is a virtual surgery simulation apparatus which can provide a virtual surgery process as a real-time or a non-real-time image. The virtual surgery simulation apparatus comprises: a control unit for operating a virtual surgery on a patient by using a three-dimensional image on a surgery target region of the patient; an image processing unit for generating a surgery image including at least a part of the virtual surgery process; and a communications unit for transmitting at least one from the surgery image or a surgery result.

Description

가상 수술 시뮬레이션 장치 및 그 동작 방법{APPARATUS FOR VIRTUAL SURGERY SIMULATION AND THE OPERATION METHOD THEREOF}[0001] APPARATUS FOR VIRTUAL SURGERY SIMULATION AND THE OPERATION METHOD THEREOF [0002]

본 발명은 가상 수술 시뮬레이션 장치 및 그 동작 방법에 관한 것으로서, 더 구체적으로, 환자의 수술 전 의료 영상에 기초하여 생성된 수술 대상 부위에 대한 3차원 영상을 이용하여 환자에 대한 가상 수술을 수행하게 하고, 가상 수술 과정을 실시간 또는 비-실시간 영상으로 제공할 수 있는 가상 수술 시뮬레이션 장치 및 그 동작 방법에 관한 것이다.The present invention relates to a virtual surgery simulation apparatus and an operation method thereof, and more particularly, to a virtual surgery simulation apparatus and a method of operating the virtual surgery simulation apparatus, And a virtual surgery simulation apparatus capable of providing a virtual surgery procedure as real-time or non-real-time images, and an operation method thereof.

외과적 수술은 환자의 신체에 침습을 가하여, 내부의 장기 등에 발생한 환부를 제거 또는 치료하기 위한 것을 말한다. 의학 기술의 발전과 함께, 외과적 수술 시 환자의 침습 부위를 최소한으로 하기 위한 요구가 있었으며, 이를 위한 다양한 수술 방법이 시도되어 왔다. 이러한 최소 침습 수술에 대한 요구에 따라, 최근 의료현장에 복강경 수술기법이 도입되면서, 기존의 개복수술로 이루어졌던 많은 수술들이 복강경 수술로 대체되고 있는 추세이다. 이러한 복강경 수술은 수술 부위를 최소(예를 들어, 10cm 이하)로 절개한 이후, 절개 부위를 통하여 내시경과 수술기구를 삽입하여, 내시경 카메라를 통해 확대된 영상으로 환부를 관찰하면서 수술하기 때문에 개복수술에 비해 섬세한 수술이 가능하다는 장점이 있다.Surgical surgery refers to removing or treating a lesion on the internal organs or the like by invasion of the patient's body. With advances in medical technology, there has been a demand for minimizing the site of invasion of the patient during surgical operations, and a variety of surgical methods have been tried for this purpose. In response to the demand for minimally invasive surgery, laparoscopic surgery has recently been introduced in the medical field. This laparoscopic operation is performed by cutting the surgical site to a minimum (for example, 10 cm or less), inserting an endoscope and a surgical instrument through the incision site, and observing the lesion with an enlarged image through an endoscope camera. And it is possible to perform delicate surgery.

그러나, 복강경 수술과 같은 외과적 수술의의 경우 2D의 모니터를 보면서 수술이 이루어지므로 의사 등의 의료진의 공간 인지력이 떨어지는 문제가 있고, 복강경 수술이 로봇 수술에 의해 이루어지는 경우, 수술 시 조직을 직접 만지지 못하는 감각 부재, 장비가 손의 움직임을 완전하게 반영하지 못하는 문제 등을 안고 있어, 개복수술에 비해 의사의 숙련도가 훨씬 더 중요하다는 한계가 있었다. 특히, 장기와 혈관이 좁은 공간에 밀집 형성된 수술 부위의 경우, 이러한 문제로 인해 많은 수술 경험을 가진 고숙련 의사 이외에는 수술 진행 자체가 쉽지 않다는 문제가 있었으며, 더욱 나아가 인체 혈관의 구조가 사람 마다 다르고 많은 변이가 있다는 점 때문에 더욱 어려움이 있었다. However, in the case of a surgical operation such as a laparoscopic operation, there is a problem in that the space awareness of a medical staff such as a doctor is lowered because a surgery is performed while watching a 2D monitor. When a laparoscopic operation is performed by a robot surgery, And the problem that the sensory member and the equipment do not fully reflect the movement of the hand. Thus, the skill of the doctor is more important than the operation of the open surgery. Particularly, in the case of a surgical site in which the organs and blood vessels are closely spaced, there is a problem in that the operation progress itself is difficult other than a skilled physician having a lot of operation experience, and furthermore, the structure of the human blood vessels is different from person to person There were more difficulties because of the variation.

한편, 외과적 수술을 앞둔 환자 및 보호자의 경우, 통상적으로 의료 분야에 대한 지식이 풍부하지 않기 때문에, 수술의 진행 과정에 대한 사전 정보가 사실상 전무하며, 수술에 대한 정보의 습득은 오로지 의사의 설명에 의존할 수밖에 없다는 한계가 있었다. 이로 인해, 환자 및 보호자는 수술 방식 등에 대한 선택권을 사실상 가지지 못하고, 수술의 성공에 대한 불안감이나 공포감이 증대된다는 문제점이 존재하였다. On the other hand, patients and carers who are in the process of surgical operation are generally unaware of the medical field, so there is virtually no advance information on the progress of surgery, There is a limit in that it can not be relied on. As a result, the patient and the caregiver do not have a choice about the operation method and the like, and there is a problem that anxiety or fear of the operation is increased.

따라서, 복강경 수술 등의 복잡한 외과적 수술에 대하여 사전 시뮬레이션을 제공함으로써 수술의 완성도를 증대시키고, 환자에게 수행될 수행된 수술의 방법에 대한 정보를 환자 자신 또는 보호자 등에게 제공할 수 있는 수단이 요구된다.Accordingly, provision of a pre-simulation for complicated surgical operations such as laparoscopic surgery increases the completeness of surgery and provides a means for providing the patient or the caregiver with information on the performed surgical procedure to be performed on the patient do.

본 발명은 상기 문제점을 해결하기 위한 것으로서, 환자의 수술 전 의료 영상에 기초하여 생성된 수술 대상 부위에 대한 3차원 영상을 이용하여 환자에 대한 가상 수술을 수행하게 하고, 가상 수술 과정을 실시간 또는 비-실시간 영상으로 제공할 수 있는 가상 수술 시뮬레이션 장치 및 그 동작 방법을 제공하는 것을 그 목적으로 한다.SUMMARY OF THE INVENTION The present invention has been made to solve the above-mentioned problems, and it is an object of the present invention to provide a virtual surgery method and a virtual surgery method, in which a virtual surgery is performed on a patient using a three- - a virtual surgery simulation apparatus capable of providing a real-time image and its operation method.

본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재들로부터 당업자에게 명확하게 이해될 수 있을 것이다.The technical problems of the present invention are not limited to the above-mentioned technical problems, and other technical problems which are not mentioned can be understood by those skilled in the art from the following description.

본 발명의 일 실시예에 따라 가상 수술 시뮬레이션 장치의 동작 방법이 제공된다. 상기 방법은 환자의 수술 대상 부위에 대한 3차원 영상을 이용하여, 상기 환자에 대한 가상 수술을 수행하는 단계; 상기 가상 수술의 과정 중 적어도 일부를 포함하는 수술 영상을 생성하는 단계; 및 상기 수술 영상 및 수술 결과 중 적어도 하나를 전송하는 단계를 포함하는 것을 특징으로 한다.A method of operating a virtual surgery simulation apparatus is provided in accordance with one embodiment of the present invention. The method includes: performing a virtual surgery on the patient using a three-dimensional image of a surgical site of the patient; Generating a surgical image including at least a part of the virtual surgery procedure; And transmitting at least one of the surgical image and the surgical result.

바람직하게는, 상기 환자에 대한 수술 전 의료 영상에 관한 정보를 기초로 상기 3차원 영상을 생성하는 단계를 더 포함하고, 상기 3차원 영상은 상기 수술 대상 부위에 포함되는 장기 및 혈관에 대한 영상을 포함할 수 있다. Preferably, the method further comprises generating the three-dimensional image based on information about the pre-operative medical image for the patient, wherein the three-dimensional image includes an image of organs and blood vessels .

또한, 바람직하게는, 상기 가상 수술을 수행하는 단계는, 상기 3차원 영상을 가상 공간 상에 표시하는 단계; 적어도 하나의 수술 도구 영상을 상기 가상 공간 상에 상기 3차원 영상과 매칭하여 표시하는 단계; 및 상기 수술 도구 영상 중 적어도 하나의 조작을 위한 사용자 입력에 따라, 상기 장기 및 상기 혈관 중 적어도 하나에 대한 소정의 물리적 처치가 수행되도록 표시하는 단계를 포함할 수 있다.Preferably, the step of performing the virtual surgery further comprises: displaying the 3D image on a virtual space; Matching at least one surgical tool image with the 3D image on the virtual space and displaying the same; And displaying a predetermined physical treatment on at least one of the organ and the blood vessel according to a user input for manipulation of at least one of the surgical tool image.

또한, 바람직하게는, 상기 물리적 처치는 절개, 절제, 소작, 초음파 처리, 파지, 봉합 및 클램핑 중 적어도 하나를 포함할 수 있다.Also, preferably, the physical treatment may include at least one of incision, ablation, cauterization, sonication, grasping, sealing and clamping.

또한, 바람직하게는, 상기 환자의 신체 상태 정보에 대한 초기값을 설정하는 단계를 더 포함하고, 상기 가상 수술을 수행하는 단계는, 상기 물리적 처치의 수행 및 상기 가상 수술의 시간 경과 중 적어도 하나에 따라, 상기 신체 상태 정보를 갱신하여 상기 가상 공간 상에 표시하는 단계를 더 포함할 수 있다.Preferably, the method further comprises setting an initial value for the patient's physical condition information, wherein performing the virtual surgery comprises performing at least one of the performance of the physical treatment and the lapse of time The method may further include updating the physical condition information and displaying the updated physical condition information on the virtual space.

또한, 바람직하게는, 수술 일정 정보를 전송하는 단계를 더 포함하고, 상기 수술 일정 정보는 상기 가상 수술의 예정 일자 및 수행자에 관한 정보를 포함할 수 있다.Preferably, the method further includes transmitting operation schedule information, and the operation schedule information may include information about a scheduled date of the virtual operation and an attendant.

또한, 바람직하게는, 상기 수술 영상은 상기 가상 수술의 과정 중 적어도 일부에 대한 실시간 영상일 수 있다.Also, preferably, the surgical image may be a real-time image of at least a part of the process of the virtual surgery.

또한, 바람직하게는, 상기 수술 영상 및 상기 수술 결과 중 적어도 하나에 대한 요청을 수신하는 단계를 더 포함하며, 상기 수술 영상 및 수술 결과 중 적어도 하나를 전송하는 단계는 상기 요청의 수신에 응답하여 수행될 수 있다.Preferably, the method further comprises receiving a request for at least one of the surgical image and the surgical result, wherein the transmitting of at least one of the surgical image and the surgical result is performed in response to receiving the request .

또한, 바람직하게는, 상기 수술 영상 및 상기 수술 결과 중 적어도 하나의 전송에 응답하여, 상기 가상 수술에 대한 피드백 정보를 수신하는 단계를 더 포함할 수 있다.Further, preferably, in response to transmission of at least one of the surgical image and the surgical result, the method may further include receiving feedback information on the virtual surgery.

본 발명의 일 실시예에 따라, 상기 가상 수술 시뮬레이션 장치의 동작 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체가 제공된다.According to an embodiment of the present invention, there is provided a computer-readable recording medium having recorded thereon a program for performing a method of operating a virtual surgery simulation apparatus.

본 발명의 일 실시예에 따라, 가상 수술 시뮬레이션 장치가 제공된다. 상기 장치는 환자의 수술 대상 부위에 대한 3차원 영상을 이용하여, 상기 환자에 대한 가상 수술을 수행하는 제어부; 상기 가상 수술의 과정 중 적어도 일부를 포함하는 수술 영상을 생성하는 영상 처리부; 및 상기 수술 영상 및 수술 결과 중 적어도 하나를 전송하는 통신부를 포함하는 것을 특징으로 한다.According to an embodiment of the present invention, a virtual surgery simulation apparatus is provided. The apparatus comprising: a control unit for performing a virtual operation on the patient using a three-dimensional image of a part to be operated by the patient; An image processing unit for generating a surgical image including at least a part of the virtual surgery procedure; And a communication unit for transmitting at least one of the surgical image and the surgical result.

바람직하게는, 상기 영상 처리부는 상기 환자에 대한 수술 전 의료 영상에 관한 정보를 기초로 상기 3차원 영상을 생성하고, 상기 3차원 영상은 상기 수술 대상 부위에 포함되는 장기 및 혈관에 대한 영상을 포함할 수 있다.Preferably, the image processing unit generates the three-dimensional image based on the information about the medical image before surgery for the patient, and the three-dimensional image includes images of organs and blood vessels included in the operation target site can do.

또한, 바람직하게는, 상기 제어부는, 상기 3차원 영상을 가상 공간 상에 표시하고, 적어도 하나의 수술 도구 영상을 상기 가상 공간 상에 상기 3차원 영상과 매칭하여 표시하되, 상기 수술 도구 영상 중 적어도 하나의 조작을 위한 사용자 입력에 따라, 상기 장기 및 상기 혈관 중 적어도 하나에 대한 소정의 물리적 처치가 수행되도록 표시할 수 있다.Preferably, the control unit displays the three-dimensional image on a virtual space, displays at least one surgical tool image on the virtual space with the three-dimensional image, and displays at least one of the surgical tool images Depending on the user input for one operation, a predetermined physical treatment for at least one of the organ and the blood vessel may be performed.

또한, 바람직하게는, 상기 물리적 처치는 절개, 절제, 소작, 초음파 처리, 파지, 봉합 및 클램핑 중 적어도 하나를 포함할 수 있다.Also, preferably, the physical treatment may include at least one of incision, ablation, cauterization, sonication, grasping, sealing and clamping.

또한, 바람직하게는, 상기 환자의 신체 상태 정보에 대한 초기값을 설정하는 상태 관리부를 더 포함하고, 상기 제어부는 상기 물리적 처치의 수행 및 상기 가상 수술의 시간 경과 중 적어도 하나에 따라, 상기 신체 상태 정보를 갱신하여 상기 가상 공간 상에 표시할 수 있다.Preferably, the apparatus further includes a state management section for setting an initial value for the physical state information of the patient, wherein the control section controls, based on at least one of the performance of the physical treatment and the lapse of time of the virtual surgery, Information can be updated and displayed on the virtual space.

또한, 바람직하게는, 상기 통신부는 수술 일정 정보를 전송하고, 상기 수술 일정 정보는 상기 가상 수술의 수행 예정 일자 및 수행자에 관한 정보를 포함할 수 있다.Preferably, the communication unit transmits operation schedule information, and the operation schedule information may include information on a scheduled execution date of the virtual operation and an attendant.

또한, 바람직하게는, 상기 수술 영상은 상기 가상 수술의 과정 중 적어도 일부에 대한 실시간 영상일 수 있다.Also, preferably, the surgical image may be a real-time image of at least a part of the process of the virtual surgery.

또한, 바람직하게는, 상기 수술 영상 및 상기 수술 결과 중 적어도 하나에 대한 요청을 수신하는 단계를 더 포함하며, 상기 수술 영상 및 상기 수술 결과 중 적어도 하나의 전송은 상기 요청의 수신에 응답하여 수행될 수 있다.Preferably, the method further comprises receiving a request for at least one of the surgical image and the surgical result, wherein at least one transmission of the surgical image and the surgical result is performed in response to receipt of the request .

또한, 바람직하게는, 상기 통신부는 상기 수술 영상 및 상기 수술 결과 중 적어도 하나의 전송에 응답하여, 상기 가상 수술에 대한 피드백 정보를 수신할 수 있다.Further, preferably, the communication unit is capable of receiving feedback information on the virtual surgery in response to transmission of at least one of the surgical image and the surgical result.

본 발명에 따르면, 환자의 실제 의료 영상을 기초로 수술 대상 부위에 대한 3차원 영상을 생성하고, 이를 이용하여 가상 수술을 수행 가능하도록 함으로써, 개별 환자의 특성이 실제로 반영된 수술의 시뮬레이션이 가능하다는 장점이 있다. According to the present invention, a three-dimensional image of a surgical target site is generated based on an actual medical image of a patient, and a virtual surgery can be performed using the generated three-dimensional image. .

또한, 본 발명에 따르면, 복잡한 외과적 수술을 미리 시뮬레이션할 수 있기 때문에, 실제 수술에서 발생할 수 있는 원치 않는 혈관의 손상 등의 문제 발생을 사전에 방지함으로써, 수술의 완성도를 증대시킬 수 있는 효과가 있다.In addition, according to the present invention, it is possible to simulate complicated surgical operations in advance, so that it is possible to prevent the occurrence of problems such as an undesired blood vessel damage that may occur in an actual operation, have.

또한, 본 발명에 따르면, 가상 수술의 과정에 대한 실시간 또는 비-실시간 영상 및 수술 결과를 대상 환자, 보호자 또는 다른 의사 등에게 제공하고, 이에 대한 의견을 수신할 수 있도록 구현함으로써, 환자 및 보호자 등에게 수술에 대한 불안감을 감소시킬 수 있는 동시에, 실제 수술의 완성도를 보다 향상시킬 수 있다.Further, according to the present invention, it is possible to provide real-time or non-real-time images and surgical results of a virtual surgery procedure to a patient, a caregiver or other physician, It is possible to reduce the anxiety about the crab surgery and improve the perfection of the actual operation.

본 발명의 상세한 설명에서 인용되는 도면을 보다 충분히 이해하기 위하여 각 도면의 간단한 설명이 제공된다.
도 1은 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치를 포함하는 네트워크를 도시한다.
도 2는 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치를 도시한다.
도 3 및 도 4는 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치의 동작 방법을 도시한다.
도 5는 본 발명의 다른 실시예에 따른 가상 수술 시뮬레이션 장치의 동작 방법을 도시한다.
도 6은 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치에 의해 구현되는 가상 공간의 예시적인 화면을 도시한다.
BRIEF DESCRIPTION OF THE DRAWINGS A brief description of each drawing is provided to more fully understand the drawings recited in the description of the invention.
1 illustrates a network including a virtual surgery simulation apparatus according to an embodiment of the present invention.
2 shows a virtual surgery simulation apparatus according to an embodiment of the present invention.
3 and 4 illustrate a method of operating a virtual surgery simulation apparatus according to an embodiment of the present invention.
FIG. 5 illustrates an operation method of a virtual surgery simulation apparatus according to another embodiment of the present invention.
FIG. 6 illustrates an exemplary screen of a virtual space implemented by a virtual surgery simulation apparatus according to an embodiment of the present invention.

이하, 본 발명에 따른 실시예들은 첨부된 도면들을 참조하여 설명한다. 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 실시예에 대한 이해를 방해한다고 판단되는 경우에는 그 상세한 설명은 생략한다. 또한, 이하에서 본 발명의 실시예들을 설명할 것이나, 본 발명의 기술적 사상은 이에 한정되거나 제한되지 않고 당업자에 의해 변형되어 다양하게 실시될 수 있다.Hereinafter, embodiments according to the present invention will be described with reference to the accompanying drawings. It should be noted that, in adding reference numerals to the constituent elements of the drawings, the same constituent elements are denoted by the same reference numerals whenever possible, even if they are shown in different drawings. In the following description of the embodiments of the present invention, a detailed description of known functions and configurations incorporated herein will be omitted when it may make the difference that the embodiments of the present invention are not conclusive. In addition, embodiments of the present invention will be described below, but the technical idea of the present invention is not limited thereto and can be variously modified by those skilled in the art.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "간접적으로 연결"되어 있는 경우도 포함한다. 명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 또한, 본 발명의 실시예의 구성 요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다.
Throughout the specification, when a part is referred to as being "connected" to another part, it includes not only "directly connected" but also "indirectly connected" . Throughout the specification, when an element is referred to as "comprising ", it means that it can include other elements as well, without excluding other elements unless specifically stated otherwise. In describing the components of the embodiment of the present invention, terms such as first, second, A, B, (a), and (b) may be used. These terms are intended to distinguish the constituent elements from other constituent elements, and the terms do not limit the nature, order or order of the constituent elements.

도 1은 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치를 포함하는 네트워크를 도시한다.1 illustrates a network including a virtual surgery simulation apparatus according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치(100)는, 유, 무선 네트워크 통신망을 통해, 적어도 하나의 제 1 사용자 단말(210) 및 제 2 사용자 단말(220)과 연계하여 동작할 수 있다.Referring to FIG. 1, a virtual surgery simulation apparatus 100 according to an embodiment of the present invention includes at least one first user terminal 210 and a second user terminal 220 through a wired and wireless network communication network, Can operate in conjunction with each other.

가상 수술 시뮬레이션 장치(100)는 제 1 사용자 단말(210)과 통신하면서, 환자에 대한 가상 수술을 수행할 수 있다. 즉, 가상 수술 시뮬레이션 장치(100)는 환자에 대한 수술 전 의료 영상에 관한 정보를 기초로, 환자의 수술 대상 부위에 대한 3차원 영상을 생성하여 가상 공간 상에 수술 도구 영상과 함께 표시할 수 있다. 이후, 가상 수술 시뮬레이션 장치(100)는 제 1 사용자 단말(210)로부터 수술 도구 영상을 조작하기 위한 제 1 사용자의 사용자 입력을 수신하고, 이에 따라 수술 대상 부위에 대한 3차원 영상에 소정의 물리적 처치가 수행되도록 표시함으로써, 환자에 대한 가상 수술을 수행할 수 있다. 또한, 가상 수술 시뮬레이션 장치(100)는 가상 수술의 과정 중 적어도 일부를 포함하는 수술 영상을 생성하여, 제 1 사용자 단말(210)에 비-실시간으로 전송하거나, 제 2 사용자 단말(220)에 실시간 또는 비-실시간으로 전송할 수 있다. 이러한 가상 수술 시뮬레이션 장치(100)는 서버(sever) 등 다양한 컴퓨팅 디바이스로 구현될 수 있다. 여기서 서버는 네트워크 환경 하에서 클라이언트 컴퓨터로부터의 요구를 처리하기 위한 컴퓨터로서 지칭될 수 있다.The virtual surgery simulation apparatus 100 can perform virtual surgery on the patient while communicating with the first user terminal 210. [ That is, the virtual surgery simulation apparatus 100 can generate a three-dimensional image of the patient's surgical site based on the information about the medical image before surgery for the patient, and display the image with the surgical tool image on the virtual space . Thereafter, the virtual surgery simulation apparatus 100 receives the user input of the first user for manipulating the surgical tool image from the first user terminal 210, and thus, performs a predetermined physical treatment on the three- So that a virtual operation for the patient can be performed. In addition, the virtual surgery simulation apparatus 100 generates a surgical image including at least a part of the virtual surgery process, transmits the surgical image to the first user terminal 210 in a non- Or in non-real time. The virtual surgery simulation apparatus 100 may be implemented by various computing devices such as a sever. Wherein the server may be referred to as a computer for processing a request from a client computer under a network environment.

제 1 사용자 단말(210)은 제 1 사용자가 사용하는 사용자 단말을 지칭할 수 있다. 여기서, 제 1 사용자는 환자에 대한 가상 수술을 수행하는 의사, 보조자 등을 포함할 수 있다. 제 1 사용자는 제 1 사용자 단말(210)을 이용하여 가상 수술 시뮬레이션 장치(100)에 의해 구현되는 가상 공간에 접속함으로써, 환자에 대한 가상 수술을 수행할 수 있으며, 가상 수술 종료 후, 소정의 전송 요청에 따라, 가상 수술 시뮬레이션 장치(100)로부터 생성된 수술 영상을 전송받을 수 있게 된다.The first user terminal 210 may refer to a user terminal used by the first user. Here, the first user may include a physician, an assistant, or the like who performs virtual surgery on the patient. The first user can perform virtual surgery on the patient by connecting to the virtual space implemented by the virtual surgery simulation apparatus 100 using the first user terminal 210. After the virtual surgery is completed, In response to the request, the surgical operation image generated from the virtual surgery simulation apparatus 100 can be received.

한편, 제 1 사용자 단말(210)에는 수술 도구 영상을 조작하기 위한 사용자 입력을 수신하기 위한 조작부가 구현될 수 있다. 조작부는 조이스틱(joy stick) 또는 수술 도구 형상으로 구현된 이동 및 방향 전환 감지 센서를 포함하여 구성될 수 있다. 조작부가 수술 도구 형상의 센서로 구성되는 경우, 제 1 사용자는 실제 수술 시와 유사한 방식으로 조작부를 조작함으로써, 수술 도구 영상의 조작을 위한 사용자 입력을 수행할 수 있게 된다. 다만, 이는 예시적인 것으로서, 수술 도구 영상의 조작을 위한 사용자 입력은 마우스(mouse) 등을 통해 수신되는 등 실시예에 따라 다양한 입력 장치에 의해 수신되도록 구현될 수 있다.Meanwhile, the first user terminal 210 may be provided with an operation unit for receiving a user input for operating a surgical tool image. The manipulation portion may be configured to include a movement and orientation change sensor implemented in the form of a joy stick or surgical tool. When the manipulation portion is constituted by a sensor in the form of a surgical tool, the first user can manipulate the manipulation portion in a manner similar to that in actual surgery to perform user input for manipulation of the surgical tool image. However, it is to be understood that the user input for manipulating the surgical tool image may be received by a variety of input devices according to an embodiment such as a mouse or the like.

제 2 사용자 단말(220)은 제 2 사용자가 사용하는 사용자 단말을 지칭할 수 있다. 여기서, 제 2 사용자는 가상 수술의 대상인 환자, 환자의 가족 등의 보호자, 가상 수술의 수행자 이외의 다른 의사 등을 포함할 수 있다. 제 2 사용자는 제 2 사용자 단말(220)을 이용하여 가상 수술 시뮬레이션 장치(100)에 의해 구현되는 가상 공간에 접속함으로써, 실시간으로 생성된 영상을 통해 확인하거나, 가상 수술 종료 후, 소정의 전송 요청에 따라, 가상 수술 시뮬레이션 장치(100)로부터 생성된 수술 영상을 전송받을 수 있다. The second user terminal 220 may refer to a user terminal used by the second user. Here, the second user may include a patient who is a subject of virtual surgery, a guardian of a patient's family, a doctor other than a virtual surgery practitioner, and the like. The second user accesses the virtual space implemented by the virtual surgery simulation apparatus 100 using the second user terminal 220 to confirm through the image generated in real time, The surgical operation image generated from the virtual surgery simulation apparatus 100 can be received.

여기서, 사용자 단말은 휴대폰, 스마트폰, 태블릿 PC, 스마트시계, 노트북, 데스크탑 등 다양한 형태의 단말기를 포함하는 개념으로서, 통상의 기술자에게 알려진 범위에서 다양하게 변형될 수 있다.Here, the user terminal may include various types of terminals such as a mobile phone, a smart phone, a tablet PC, a smart clock, a notebook, and a desktop, and may be variously modified within a range known to those of ordinary skill in the art.

한편, 도 1에서는 가상 수술 시뮬레이션 장치(100)와 제 1 사용자 단말(210)의 별개의 장치로 구현되는 것으로 도시되어 있으나, 이는 예시적인 것으로서, 실시예에 따라, 가상 수술 시뮬레이션 장치(100)와 제 1 사용자 단말(210)이 하나의 장치로 구현될 수 있다. 이 경우, 가상 수술 시뮬레이션 장치(100)에는 가상 공간 화면을 표시하기 위한 디스플레이부, 수술 도구 영상의 조작을 위한 사용자 입력을 수신하는 조작부, 기타의 사용자 입력을 수신하는 입력부 등을 더 포함하도록 구성될 수 있다.
In FIG. 1, the virtual surgery simulation apparatus 100 and the first user terminal 210 are shown as being implemented as separate apparatuses. However, the virtual surgery simulation apparatus 100 and the first user terminal 210 are illustrative, The first user terminal 210 may be implemented as a single device. In this case, the virtual surgery simulation apparatus 100 is further configured to include a display unit for displaying a virtual space screen, an operation unit for receiving a user input for operating a surgical tool image, and an input unit for receiving other user inputs .

도 2는 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치를 도시한다.2 shows a virtual surgery simulation apparatus according to an embodiment of the present invention.

도 2를 참조하면, 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치(100)는 영상 처리부(110), 상태 관리부(120), 통신부(130), 제어부(140) 및 메모리부(150)를 포함할 수 있다. 2, a virtual surgery simulation apparatus 100 according to an embodiment of the present invention includes an image processing unit 110, a state management unit 120, a communication unit 130, a control unit 140, and a memory unit 150 .

영상 처리부(110)는 환자에 대한 수술 전 의료 영상(예를 들어, CT(Computed Tomography, 컴퓨터단층촬영검사) 영상, MRI(자기공명) 영상 등)에 관한 정보를 기초로 수술 대상 부위에 대한 3차원 영상을 생성할 수 있다. 이때, 생성된 3차원 영상은 환자의 수술 대상 부위에 포함되는 적어도 하나의 장기 및 혈관에 대한 영상을 포함할 수 있다. 또한, 영상 처리부(110)는 가상 공간 상에서 수행되는 가상 수술 과정 중 적어도 일부를 포함하는 수술 영상을 생성할 수 있다. 이와 같이 생성된 수술 영상은 실시간으로 대상 환자, 환자의 보호자, 다른 의사 등의 제 2 사용자에게 전송되거나, 가상 수술 종료 후 비-실시간으로 수술을 수행한 의사 등의 제 1 사용자 및/또는 제 2 사용자에게 전송될 수 있다.The image processing unit 110 may be configured to perform a 3-to-3 operation on the operation target site based on the information about the preoperative medical image (for example, CT (Computed Tomography), MRI (Magnetic Resonance) Dimensional image can be generated. At this time, the generated three-dimensional image may include images of at least one organs and blood vessels included in the surgical target site of the patient. In addition, the image processing unit 110 may generate a surgical image including at least a part of a virtual surgical procedure performed on the virtual space. The surgical image thus generated may be transmitted to a second user such as a target patient, a caregiver of the patient, another doctor, etc. in real time, or may be transmitted to a first user and / or a second user such as a doctor who performed an operation in non- Can be transmitted to the user.

상태 관리부(120)는 환자의 신체 상태 정보의 초기값을 설정하고, 가상 수술의 진행에 따라 신체 상태 정보를 갱신할 수 있다. 구체적으로, 상태 관리부(120)는 제 1 사용자에 의한 사용자 입력 또는 환자의 신체 상태에 대한 실제 검사 결과에 대한 정보를 기초로 신체 상태 정보의 초기값을 설정할 수 있다. 또한, 상태 관리부(120)는 제어부(140)에 의한 가상 수술의 수행 과정에서 물리적 처치의 수행 및/또는 물리적 처치 이후 시간 경과에 따라 환자의 신체 상태 정보를 갱신할 수 있다. 이러한 신체 상태 정보는 제어부(140)에 의해 가상 공간 상에 표시될 수 있다. 여기서, 신체 상태 정보는 환자의 혈압, 맥박, 심전도, 산소 포화도, 체온 등에 관한 정보를 포함할 수 있다.The state management unit 120 may set an initial value of the patient's body state information and update the body state information according to the progress of the virtual surgery. Specifically, the state management unit 120 may set an initial value of the physical condition information based on user input by the first user or information on the actual examination result on the physical condition of the patient. In addition, the state management unit 120 may update the physical state information of the patient according to the elapse of time after the physical treatment and / or the physical treatment in the process of performing the virtual surgery by the control unit 140. [ Such physical condition information can be displayed on the virtual space by the control unit 140. [ Here, the physical condition information may include information on the blood pressure, pulse, electrocardiogram, oxygen saturation, body temperature, etc. of the patient.

통신부(130)는 가상 수술 시뮬레이션 장치(100)가 유, 무선 통신을 통해 외부 장치(예를 들어, 제 1 사용자 단말(210), 제 2 사용자 단말(220) 등)와 연결되도록 할 수 있다. 먼저, 통신부(130)는 제 1 사용자 단말(210)과의 유, 무선 연결을 통해 가상 수술이 수행되는 가상 공간을 제 1 사용자에게 표시하게 하고, 제 1 사용자로부터 가상 수술의 수행을 위한 사용자 입력을 수신할 수 있으며, 가상 수술 종료 후 제 1 사용자의 요청에 따라, 가상 수술의 과정에 대한 수술 영상을 비-실시간으로 제 1 사용자에게 전송할 수 있다. 또한, 통신부(130)는 제 2 사용자 단말(220)과의 유, 무선 연결을 통해, 가상 수술 수행 도중에 제 2 사용자에게 수술 영상을 실시간으로 전송하거나, 가상 수술 종료 후 제 2 사용자의 요청에 따라, 수술 영상을 비-실시간으로 전송할 수 있다. 또한, 통신부(130)는 제 2 사용자에게 수술 예정 일자 등에 관한 정보를 포함하는 수술 일정 정보를 전송할 수 있으며, 수술 영상 및/또는 수술 결과를 전송받은 제 2 사용자로부터 가상 수술에 대한 의견을 포함하는 피드백 정보를 수신할 수 있다.The communication unit 130 may allow the virtual surgery simulation apparatus 100 to be connected to an external device (for example, the first user terminal 210, the second user terminal 220, and the like) through wired or wireless communication. First, the communication unit 130 causes a first user to display a virtual space in which a virtual operation is performed through a wired or wireless connection with the first user terminal 210, and inputs a user input And transmit the surgical image for the virtual surgery procedure to the first user in a non-real-time manner at the request of the first user after the end of the virtual surgery. In addition, the communication unit 130 transmits the operation image to the second user in real time during the virtual surgery operation through a wireless connection with the second user terminal 220, or upon the request of the second user after the virtual operation ends , The surgical image can be transmitted in non-real time. In addition, the communication unit 130 may transmit operation schedule information including information on a scheduled operation date and the like to the second user, and may include information on a virtual operation from a second user who receives the operation image and / Feedback information can be received.

통신부(130)는 랜(LAN), WCDMA(Wideband Code Division Multiple Access), LTE(Long Term Evolution), WiBro(Wireless Broadband Internet), RF(Radio Frequency) 통신, 무선랜(Wireless LAN), 와이파이(Wireless Fidelity), 블루투스 등을 통해 통신할 수 있다. 다만, 이는 예시적인 것으로서, 본 발명이 적용되는 실시예에 따라 당해 기술분야에서 적용 가능한 다양한 유, 무선 통신 기술이 이용될 수 있다.The communication unit 130 may be a LAN, a Wideband Code Division Multiple Access (WCDMA), a Long Term Evolution (LTE), a Wireless Broadband Internet (WiBro), a Radio Frequency (RF) communication, a wireless LAN, Fidelity, and Bluetooth. However, it should be understood that the present invention is not limited to the above-described embodiments, and various kinds of wired and wireless communication technologies applicable to the related art may be used according to the embodiments to which the present invention is applied.

제어부(140)는 가상 수술 시뮬레이션 장치(100)의 각 구성 요소의 전반적인 동작을 제어할 수 있다. 특히, 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치(100)에 있어서, 제어부(140)는 환자의 수술 대상 부위에 대한 3차원 영상을 이용하여 가상 공간 상에서 환자에 대한 가상 수술을 수행할 수 있다. 구체적으로, 제어부(140)는 가상 공간 상에 영상 처리부(110)에 의해 생성된 수술 대상 부위에 대한 3차원 영상을 표시하고, 적어도 하나의 수술 도구 영상을 가상 공간 상에 환자의 수술 대상 부위에 대한 3차원 영상과 매칭되도록 표시할 수 있다. 이후, 제어부(140)는 가상 공간 상에 표시된 수술 도구 영상 중 적어도 하나를 조작하기 위한 사용자 입력에 따라, 수술 도구 영상에 대하여 위치 이동, 방향 전환 또는 수술 도구의 특성에 따른 처치 동작 등의 조작이 이뤄지도록 표시하고, 이러한 수술 도구의 조작 과정에서 수술 도구 영상과 장기 영상 또는 혈관 영상과의 접촉 여부, 접촉점, 접촉 경로 등을 검출하여, 이를 기초로 3차원 영상에 포함된 장기 및 혈관 중 적어도 하나에 대한 소정의 물리적 처치가 수행되도록 표시할 수 있다. 여기서, 물리적 처치는 장기 또는 혈관에 대한 절개, 절제, 소작, 초음파 처리, 파지, 봉합 및 클램핑(clamping) 중 적어도 하나를 포함할 수 있다.The control unit 140 may control the overall operation of each component of the virtual surgery simulation apparatus 100. Particularly, in the virtual surgery simulation apparatus 100 according to an embodiment of the present invention, the control unit 140 can perform virtual surgery on the patient in the virtual space using the three-dimensional image of the patient's operation target site have. Specifically, the control unit 140 displays a three-dimensional image of the surgical target site generated by the image processing unit 110 on the virtual space, and displays at least one surgical tool image on the virtual surgical target site Dimensional image to be matched with the three-dimensional image. Thereafter, the control unit 140 performs a manipulation such as a position movement, a direction change, or a treatment operation according to the characteristics of the surgical tool with respect to the surgical tool image in accordance with a user input for operating at least one of the surgical tool images displayed on the virtual space The contact point, the contact point, and the contact path between the surgical instrument image and the organ image or the blood vessel image in the course of operating the surgical instrument, and based on this, at least one of organs and blood vessels included in the three- Lt; RTI ID = 0.0 > a < / RTI > Here, the physical treatment may include at least one of incision, ablation, cauterization, ultrasonication, grasping, suturing, and clamping for organs or blood vessels.

메모리부(150)는 환자에 대한 수술 전 의료 영상, 이를 기초로 생성된 환자의 수술 대상 부위에 대한 3차원 영상, 3차원 모델링을 통해 기 구현된 수술 도구 영상, 가상 수술의 과정에 대한 수술 영상 등을 저장할 수 있다. 또한, 메모리부(150)는 환자의 이름, 나이, 성별, 병명 등의 신상 정보, 환자의 신체 상태 정보, 가상 수술 예정 일자 등의 수술 일정 정보, 제 2 사용자로부터 수신한 피드백 정보 등을 저장할 수 있다. 또한, 메모리부(150)는 가상 수술 시뮬레이션 장치(100) 및/또는 제어부(140)의 제어를 위한 제어 프로그램 및 어플리케이션들을 저장할 수 있다. The memory unit 150 stores the preoperative medical image for the patient, the three-dimensional image of the patient's surgical site generated based thereon, the surgical tool image implemented through the three-dimensional modeling, And so on. In addition, the memory unit 150 may store personal information such as the patient's name, age, sex, and disease name, body condition information of the patient, operation schedule information such as a virtual operation scheduled date, feedback information received from the second user, have. In addition, the memory unit 150 may store control programs and applications for controlling the virtual surgery simulation apparatus 100 and / or the control unit 140.

메모리부(150)는, 통상의 기술자에게 알려진 바와 같이, HDD(Hard Disk Drive), ROM(Read Only Memory), RAM(Random Access Memory), EEPROM(Electrically Erasable and Programmable Read Only Memory), 플래시 메모리(flash memory), CF(Compact Flash) 카드, SD(Secure Digital) 카드, SM(Smart Media) 카드, MMC(Multimedia) 카드 또는 메모리 스틱(Memory Stick) 등 정보의 입출력이 가능한 다양한 형태의 저장 장치로 구현될 수 있으며, 가상 수술 시뮬레이션 장치(100) 내부에 구비되거나, 별도의 장치에 구비될 수 있다.The memory unit 150 may be a hard disk drive (HDD), a read only memory (ROM), a random access memory (RAM), an electrically erasable and programmable read only memory (EEPROM) flash memory, CF (Compact Flash) card, SD (Secure Digital) card, SM (Smart Media) card, MMC (Multimedia) card or Memory Stick And may be provided inside the virtual surgery simulation apparatus 100 or may be provided in a separate apparatus.

도 2에서 도시되는, 영상 처리부(110), 상태 관리부(120), 통신부(130), 제어부(140) 및 메모리부(150)는 복수의 물리적인 장치들에 의해 구현될 수도 있고, 하나의 물리적인 장치에 의해 구현될 수 있음이 이해될 것이다. 예를 들면, 영상 처리부(110), 상태 관리부(120), 통신부(130), 제어부(140) 및 메모리부(150) 각각은 소프트웨어를 이용하거나 펌웨어(firmware)를 이용하는 등 다양한 방식들을 이용하여 구현될 수 있다.
2, the image processing unit 110, the state management unit 120, the communication unit 130, the control unit 140, and the memory unit 150 may be implemented by a plurality of physical devices, It will be appreciated that the present invention can be implemented by an in-line device. For example, each of the image processing unit 110, the state management unit 120, the communication unit 130, the control unit 140, and the memory unit 150 may be implemented using various methods such as using software or using firmware .

도 3 및 도4는 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치의 동작 방법을 도시한다.3 and 4 illustrate a method of operating a virtual surgery simulation apparatus according to an embodiment of the present invention.

S310 단계에서, 영상 처리부(110)는 환자에 대한 수술 전 의료 영상에 관한 정보를 기초로 수술 대상 부위에 대한 3차원 영상을 생성할 수 있다. 여기서, 의료 영상은 실제 수술 또는 가상 수술 수행 전에 환자의 환부를 확인하기 위해 소정의 검사 장치에 의해 촬영된 것으로서, CT(Computed Tomography, 컴퓨터단층촬영검사) 영상, MRI(Magnetic Resonance Imaging, 자기공명) 영상, PET(Positron Emission Tomography, 양전자방출단층촬영술) 영상, SPECT(Single Photon Emission Computed Tomography, 단광자방출단층검사) 영상, US(Ultrasonography, 초음파촬영술) 영상 등을 포함할 수 있다. In step S310, the image processing unit 110 may generate a three-dimensional image of a region to be operated on, based on the information on the medical image before surgery for the patient. Here, the medical image is a CT (Computed Tomography) image, an MRI (Magnetic Resonance Imaging) magnetic resonance imaging (MRI) image obtained by a predetermined inspection device to confirm the return of the patient before performing the actual surgery or virtual surgery, (Positron Emission Tomography) image, SPECT (Single Photon Emission Computed Tomography) image, US (Ultrasonography, Ultrasound) image, and the like.

구체적으로, 통신부(130)가 환자의 인적 정보, 신체 정보, 검사 결과 등에 대한 정보를 포함하는 데이터베이스가 구축된 환자 DB 서버 또는 제 1 사용자가 사용하는 제 1 사용자 단말(210)로부터 수술 대상 환자의 환부를 촬영한 2차원 또는 3차원의 의료 영상에 관한 정보를 수신하면, 영상 처리부(110)는 2차원의 의료 영상을 복수의 폴리곤(polygon), 메쉬(mesh) 등의 데이터로 구성된 3차원 영상으로 변환하거나, 3차원의 의료 영상을 가상 수술 시뮬레이션 장치(100)에서 적합한 포맷(format)의 3차원 영상으로 변환함으로써, 해당 환자의 수술 대상 부위에 대한 3차원 영상을 생성하게 된다. 이때, 2차원의 의료 영상을 기초로 한 3차원 영상의 생성은, 본 발명이 적용되는 실시예에 따라, 당해 분야에서 알려진 다양한 변환 함수, 알고리즘 등을 적용하여 수행될 수 있다. 이와 같은 방식으로 생성된 3차원 영상에는, 앞에서 상술한 바와 같이, 환자의 수술 대상 부위에 포함되는 적어도 하나의 장기 및 혈관에 대한 영상이 포함될 수 있다. Specifically, when the communication unit 130 receives from the patient DB server or the first user terminal 210 used by the first user a database including information on the patient's personal information, body information, Upon reception of the information on the two-dimensional or three-dimensional medical image of the affected part, the image processing unit 110 converts the two-dimensional medical image into a three-dimensional image composed of data of a plurality of polygons, Dimensional medical image to a three-dimensional image of a proper format in the virtual surgery simulation apparatus 100, thereby generating a three-dimensional image of the surgical target site of the patient. At this time, the generation of the three-dimensional image based on the two-dimensional medical image can be performed by applying various conversion functions, algorithms, and the like known in the art according to the embodiment to which the present invention is applied. As described above, the three-dimensional image generated in this manner may include images of at least one organs and blood vessels included in the surgical target site of the patient.

계속해서, S320 단계에서, 상태 관리부(120)는 수술 대상인 환자의 신체 상태 정보에 대한 초기값을 설정할 수 있다. 여기서, 신체 상태 정보는, 상술한 바와 같이, 환자의 혈압, 맥박, 심전도, 산소 포화도, 체온 등에 관한 정보를 포함할 수 있다. 구체적으로, 이러한 초기값의 설정은 제 1 사용자의 사용자 입력 또는 환자의 신체 상태에 대한 실제 신체 검사 결과에 대한 정보를 기초로 수행될 수 있다. 즉, 상태 관리부(120)는 제 1 사용자 단말(210)로부터 수신한 제 1 사용자가 사용자 입력을 통해 입력한 소정의 값을 기초로 신체 상태 정보에 대한 초기값을 설정하거나, 상기 환자 DB 서버 또는 제 1 사용자 단말(210)로부터 수신한 해당 환자에 대한 신체 검사 결과를 기초로 신체 상태 정보에 대한 초기값을 설정할 수 있다. 이와 같이, 설정된 환자의 신체 상태 정보는 가상 공간 상에 포함되어 표시될 수 있으며, 이하 상술되는 바와 같이, 가상 수술의 진행에 따라, 제어부(140)에 의해 갱신되어 표시되도록 구현될 수 있다.Subsequently, in step S320, the state managing unit 120 may set an initial value for the body condition information of the patient to be operated on. Here, the physical condition information may include information on the patient's blood pressure, pulse, electrocardiogram, oxygen saturation, body temperature, etc., as described above. Specifically, the setting of the initial value may be performed based on user input of the first user or information on an actual physical examination result on the physical condition of the patient. That is, the state management unit 120 sets an initial value for the physical condition information based on a predetermined value input by the first user received from the first user terminal 210, The initial value for the physical condition information can be set based on the result of the physical examination for the patient received from the first user terminal 210. [ In this way, the set physical condition information of the patient can be displayed on the virtual space and can be updated and displayed by the controller 140 as the virtual surgery progresses, as described below.

S330 단계에서, 제어부(140)는 생성된 수술 대상 부위에 대한 3차원 영상을 이용하여, 소정의 가상 공간 상에서 환자에 대한 가상 수술을 수행할 수 있다. 여기서, 가상 공간은 가상 수술과 관련된 영상 및 정보를 제공할 수 있도록 가상 수술 시뮬레이션 장치(100)에 의해 구현된 가상의 표시 공간을 지칭하는 것으로서, 바람직하게는, 온라인 상에 구현될 수 있다. 의사 등의 제 1 사용자 또는 대상 환자, 환자의 보호자, 다른 의사 등의 제 2 사용자는 각각 자신이 이용하는 제 1 사용자 단말(210) 또는 제 2 사용자 단말(220)을 이용하여 온라인 상에 구현된 가상 공간에 접속함으로써, 가상 수술을 수행하거나 가상 수술 과장에 대한 실시간 영상 또는 비-실시간 영상을 가상 수술 시뮬레이션 장치(100)로부터 제공받을 수 있게 된다.In operation S330, the control unit 140 may perform a virtual surgery on the patient in a predetermined virtual space using the generated three-dimensional image of the operation target site. Here, the virtual space refers to a virtual display space implemented by the virtual surgery simulation apparatus 100 so as to provide images and information related to virtual surgery, and may be implemented on-line, preferably. A second user, such as a first user or a patient, a patient's caregiver, a physician, etc., of a doctor, etc. uses a first user terminal 210 or a second user terminal 220, By connecting to the space, a virtual surgery can be performed or a real-time image or a non-real-time image of the virtual surgery section can be provided from the virtual surgery simulation apparatus 100.

S330 단계는, 도 4에서 도시되는 바와 같이, S332 단계 내지 S338 단계로 이루어질 수 있다.As shown in FIG. 4, step S330 may be performed from step S332 to step S338.

먼저, S332 단계 및 S334 단계에서, 제어부(140)는 S310 단계에서 생성된 수술 대상 부위에 대한 3차원 영상을 렌더링(rendering)하여 소정의 가상 공간 상에 표시하고, 적어도 하나의 수술 도구 영상을 가상 공간 상에 환자의 수술 대상 부위에 대한 3차원 영상과 매칭되도록 표시할 수 있다. 여기서, 수술 도구 영상은 외과적 수술에 사용되는 실제 수술 도구의 형상을 3D 모델링을 통해 3차원 영상으로 구현한 것으로서, 메스(mes), 클램프(clamp), 켈리(Kelly), 모스키토(mosquito) 등의 다양한 외과적 수술 도구 및/또는 다양한 로봇 수술 도구의 형상으로 구성될 수 있다.  First, in step S332 and step S334, the control unit 140 renders a three-dimensional image of the operation target site generated in step S310, displays the selected three-dimensional image on a predetermined virtual space, Dimensional image of the patient's operation target site on the space. Here, the surgical tool image is a three-dimensional image of the shape of a real surgical tool used for surgical operation, and is a 3D image, and includes a mes, a clamp, a Kelly, a mosquito, etc. A variety of surgical surgical tools and / or various robotic surgical tools.

계속해서, S336 단계에서, 제어부(140)는 가상 공간 상에 표시된 수술 도구 영상 중 적어도 하나를 조작하기 위한 사용자 입력에 따라, 장기 및 혈관 중 적어도 하나에 대한 소정의 물리적 처치가 수행되도록 표시할 수 있다. 구체적으로, 제어부(140)는 제 1 사용자 단말(210)로부터 수신되는 제 1 사용자에 의한 사용자 입력에 따라, 수술 도구 영상 중 적어도 하나에 대하여 가상 공간 상에서 위치 이동, 방향 전환 또는 수술 도구의 특성에 따른 처치 동작 등의 조작이 이뤄지도록 표시할 수 있다. 계속해서, 제어부(140)는 이러한 사용자 입력에 따른 수술 도구 영상의 조작 과정에서 수술 도구 영상과 장기 또는 혈관의 영상과의 접촉 여부, 접촉점, 접촉 경로 등을 검출하여, 접촉 부위에 대하여 소정의 물리적 처치가 수행되도록 표시하게 된다. 여기서, 물리적 처치는, 상술한 바와 같이, 절개, 절제, 소작, 초음파 처리, 파지, 봉합 및 클램핑(clamping) 중 적어도 하나를 포함할 수 있다. Then, in step S336, the controller 140 may display a predetermined physical treatment for at least one of the organ and the blood vessel according to a user input for operating at least one of the surgical tool images displayed on the virtual space have. Specifically, the control unit 140 may control the position of the at least one of the surgical tool images on the basis of the user input by the first user received from the first user terminal 210, Such as a manipulation operation, can be performed. The control unit 140 detects whether or not the surgical tool image and the organ or blood vessel images are in contact with each other, touch points, contact paths, and the like during the operation of the surgical tool image according to the user input, Indicating that the treatment is to be performed. Here, the physical treatment may include at least one of incision, ablation, cauterization, ultrasonication, grasping, sealing, and clamping, as described above.

일례로서, 사용자 입력에 따라 조작되는 수술 도구 영상이 메스인 경우, 제어부(140)는 메스 영상의 위치 이동 및/또는 방향 전환 중 메스 영상의 소정의 부위와 장기와의 접촉 여부 및 최초의 접촉 개시점을 검출하고, 접촉 상태가 유지된 상태에서 메스 영상의 계속된 위치 이동 및/또는 방향 전환에 따른 접촉 경로를 검출할 수 있으며, 또한, 접촉의 종료 시 접촉 종료 여부, 접촉 종료점 등을 검출할 수 있다. 이후, 제어부(140)는 검출된 접촉 개시점, 접촉 경로, 접촉 종료점을 기초로 해당 장기 영상에 절개 또는 절제의 수행으로 틈(groove), 절개면, 출혈 등이 생성되는 영상을 애니메이션 등의 형태로 표시할 수 있다. For example, when the surgical tool image manipulated according to the user input is a scalpel, the control unit 140 determines whether the scalp image is in contact with a predetermined part of the scalp image and / It is possible to detect the contact path in accordance with the positional movement and / or the direction change of the scalp image while the contact state is maintained, and to detect the contact end point, the contact end point, and the like at the end of the contact . Then, the control unit 140 displays an image in which a groove, a cut surface, bleeding and the like are generated by cutting or excavating the long-term image based on the detected contact start point, contact path, and contact end point, As shown in FIG.

수술 도구 영상과 장기 및 혈관 영상과의 접촉 여부, 접촉점, 접촉 경로 등의 검출은, 예를 들어, 영상에 대한 바운딩 볼륨 계층 구조화 구조화(Bounding Volume Hierarchies)를 통한 충돌 검사 등 본 발명이 적용되는 실시예에 따라 당해 분야에서 적용 가능한 다양한 방식에 의해 수행될 수 있다.The detection of contact between the surgical tool image and the organ or blood vessel image, the contact point, the contact path, and the like can be performed by, for example, collision inspection through bounding volume hierarchies for images And may be performed by various methods applicable in the art according to the examples.

S338 단계에서, 제어부(140)는 물리적 처치의 수행 및 가상 수술의 시간 경과 중 적어도 하나에 따라, 신체 상태 정보를 갱신하여 표시할 수 있다. 구체적으로, 메모리부(150)에는 각각의 물리적 처치의 수행 및 물리적 처치 이후 시간 경과에 따른 혈압, 맥박 등 신체 상태 정보의 변화량, 변화율 등에 관한 정보가 저장될 수 있으며, 상태 판단부(120)는 수술 도구 영상을 통한 소정의 물리적 처치가 수행되면 메모리부(150)에 저장된 상기 변화량, 변화율 등의 정보를 기초로 환자의 신체 상태 정보를 갱신할 수 있다. 이와 같이, 상태 판단부(120)가 환자의 신체 상태 정보를 갱신하면, 제어부(140)는 갱신된 신체 상태 정보를 가상 공간 상에 표시하도록 구현될 수 있다. In step S338, the controller 140 may update and display the physical condition information according to at least one of the time of performing the physical treatment and the lapse of time of the virtual surgery. In detail, the memory unit 150 may store information on the amount of change in the physical condition information such as blood pressure, pulse, rate of change, etc. according to the passage of time after each physical treatment is performed and the physical treatment, The physical condition information of the patient can be updated on the basis of the information such as the amount of change, rate of change, etc. stored in the memory unit 150 when a predetermined physical treatment through the surgical tool image is performed. As described above, when the state determination unit 120 updates the physical state information of the patient, the controller 140 can be implemented to display the updated physical state information on the virtual space.

S340 단계에서, 영상 처리부(110)는 가상 수술의 과정 중 적어도 일부를 포함하는 수술 영상을 생성할 수 있다. S340 단계는, 이하 상술되는 바와 같이, 가상 수술의 과정을 가상 수술을 수행한 제 1 사용자 및/또는 제 2 사용자에게 실시간 또는 비-실시간으로 제공하기 위해 생성되는 것으로서, 도 3에서는 S340 단계가 S330 단계 이후에 수행되는 것으로 도시되어 있으나, 실시예에 따라, S330 단계와 동시에 수행될 수 있다. In operation S340, the image processing unit 110 may generate a surgical image including at least a part of the virtual surgery procedure. In step S340, as described below, a process of virtual surgery is created to provide the first user and / or the second user who has performed the virtual surgery in real time or non-real time. In step S340, , But may be performed simultaneously with step S330, according to an embodiment.

계속해서, S350 단계에서, 통신부(130)는 생성된 수술 영상 및 수술 결과 중 적어도 하나를 전송할 수 있다. 여기서, 전송되는 수술 영상은 가상 수술의 과정 중 적어도 일부에 대한 실시간 영상이거나, 비-실시간 영상일 수 있다. 즉, 제 2 사용자가 가상 수술의 개시와 함께 또는 가상 수술 진행 중에 가상 수술 시뮬레이션 장치(100)에 의해 구현되는 가상 공간에 접속하는 경우, 통신부(130)는 가상 수술의 과정에 대한 실시간 영상을 제 2 사용자가 이용하는 제 2 사용자 단말(220)에 전송할 수 있으며, 가상 수술의 종료 이후에는, 통신부(130)는 기 생성된 비-실시간 영상을 제 1 사용자 단말(210) 또는 제 2 사용자 단말(220)에 전송할 수 있다.In step S350, the communication unit 130 may transmit at least one of the generated surgical image and the surgical result. Here, the transmitted surgical image may be a real-time image or at least a non-real-time image for at least a part of the process of virtual surgery. That is, when the second user connects to the virtual space implemented by the virtual surgery simulation apparatus 100 together with the start of the virtual surgery or during the virtual surgery, the communication unit 130 transmits the real- 2 can be transmitted to the second user terminal 220 used by the user and after the virtual surgery is completed, the communication unit 130 transmits the generated non-real time image to the first user terminal 210 or the second user terminal 220 ).

한편, 도 3에는 도시되어 있지 않으나, 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치(100)의 동작 방법(100)은 수술 영상 및 수술 결과 중 적어도 하나에 대한 요청을 수신하는 단계를 더 포함할 수 있으며, S350 단계는 이러한 요청의 수신에 응답하여 수행되도록 구현될 수 있다.Although not shown in FIG. 3, a method 100 of operating a virtual surgery simulation apparatus 100 according to an embodiment of the present invention further includes receiving a request for at least one of a surgical image and a surgical result And step S350 may be implemented to be performed in response to receipt of such a request.

S360 단계에서, 통신부(130)는 수술 영상 및 수술 결과 중 적어도 하나의 전송에 응답하여, 가상 수술에 대한 피드백 정보를 수신할 수 있다. 이러한 피드백 정보는 수술 영상 및/또는 수술 결과를 전송 받은 제 2 사용자에 의해 입력된 가상 수술에 대한 다양한 의견을 포함할 수 있다. 수신된 피드백 정보는 요청에 따라 제 1 사용자 단말(210)에 전송됨으로써, 가상 수술을 수행한 제 1 사용자에게 전달될 수 있다.
In step S360, the communication unit 130 may receive feedback information on virtual surgery in response to transmission of at least one of a surgical image and a surgical result. Such feedback information may include various views on the virtual surgery entered by the second user receiving the surgical image and / or the surgical result. The received feedback information is transmitted to the first user terminal 210 in response to the request, thereby being transmitted to the first user who has performed the virtual surgery.

도 5는 본 발명의 다른 실시예에 따른 가상 수술 시뮬레이션 장치의 동작 방법을 도시한다.FIG. 5 illustrates an operation method of a virtual surgery simulation apparatus according to another embodiment of the present invention.

도 5의 S520 단계 내지 S570 단계는 도 3을 참조하여 설명된 S310 내지 S360 단계와 마찬가지로 설명될 수 있다. 이하, 중복되는 설명은 생략된다.Steps S520 to S570 of FIG. 5 may be described as steps S310 to S360 described with reference to FIG. Hereinafter, a duplicate description will be omitted.

S510 단계에서, 통신부(130)는 수술 일정 정보를 제 2 사용자에게 전송할 수 있다. 여기서, 수술 일정 정보는 가상 수술의 대상인 환자에 대한 식별 정보를 비롯하여, 가상 수술의 수행 예정 일자(날짜 및 시간)에 관한 정보 및 가상 수술의 수행자(제 1 사용자)에 관한 정보를 포함할 수 있으며, 바람직하게는, 가상 수술의 수행 예정일로부터 소정의 기간 이전에 전송되도록 구현될 수 있다. 이러한 수술 일정 정보를 통해, 제 2 사용자는 가상 수술의 수행 날짜 및 시간, 가상 수술을 수행하는 의사 등을 확인할 수 있으며, 예정된 날짜 및 시간에 제 2 사용자 단말(220)을 이용하여 가상 수술 시뮬레이션 장치(100)에 의해 구현된 가상 공간에 접속함으로써, 가상 수술의 과정을 실시간으로 시청할 수 있게 된다. 도 5에는 S510 단계가 S520 단계 이전에 수행되는 것으로 도시되어 있으나, 이는 예시적인 것으로서, S510 단계는 S540 단계가 수행되기 이전에 해당한다면, S520 단계 및 S530 단계의 수행 여부와 관계없이 수행될 수 있다.In step S510, the communication unit 130 may transmit the operation schedule information to the second user. Here, the operation schedule information may include identification information about a patient who is a target of a virtual surgery, information on a scheduled date (time and date) of a virtual surgery, and information on a performer (first user) , Preferably, to be transmitted before a predetermined period of time from the scheduled execution date of the virtual surgery. Through the operation schedule information, the second user can confirm the execution date and time of the virtual surgery, the doctor performing the virtual surgery, and the like, and can use the second user terminal 220 at the scheduled date and time, The user can view the process of the virtual surgery in real time by accessing the virtual space implemented by the virtual space 100. Although FIG. 5 shows that the step S510 is performed before the step S520, the step S510 may be performed irrespective of whether or not the steps S520 and S530 are performed if the step S510 is performed before the step S540 is performed .

한편, 도 5에는 도시되어 있지 않으나, 본 발명의 다른 실시예에 따른 가상 수술 시뮬레이션 장치의 동작 방법(500)은 수술 개시 정보 및 수술 종료 정보 중 적어도 하나를 제 2 사용자에게 전송하는 단계를 더 포함할 수 있다. 여기서, 수술 개시 정보는 가상 수술의 개시 여부 및 개시 시간에 관한 정보를 포함할 수 있으며, 수술 종료 정보는 가상 수술의 종료 여부 및 종료 시간에 관한 정보를 포함할 수 있다.
Although not shown in FIG. 5, the operation method 500 of the virtual surgery simulation apparatus according to another embodiment of the present invention further includes transmitting at least one of operation start information and operation end information to a second user can do. Here, the operation start information may include information as to whether or not the virtual surgery is to be started and the start time, and the operation end information may include information about the end of the virtual surgery and the end time.

도 6은 본 발명의 일 실시예에 따른 가상 수술 시뮬레이션 장치에 의해 구현되는 가상 공간의 예시적인 화면을 도시한다.FIG. 6 illustrates an exemplary screen of a virtual space implemented by a virtual surgery simulation apparatus according to an embodiment of the present invention.

도 6을 참조하면, 가상 공간 상에 표시되는 환자의 수술 대상 부위에 대한 3차원 영상(610, 620) 및 이와 매칭되도록 표시되는 수술 도구 영상(630)이 도시된다. 의사 등의 제 1 사용자는 제 1 사용자 단말(210)을 통해 가상 공간에 접속하여, 수술 도구 영상(630)의 조작을 위한 소정의 사용자 입력을 수행할 수 있으며, 사용자 입력에 따른 수술 도구 영상(630)의 조작은 가상 공간 상에서 애니메이션의 형태로 표시될 수 있다. Referring to FIG. 6, three-dimensional images 610 and 620 of a patient's surgical site displayed on the virtual space and a surgical tool image 630 displayed to be matched therewith are shown. A first user such as a doctor may access a virtual space through the first user terminal 210 to perform predetermined user input for manipulating the surgical tool image 630, 630 may be displayed in the form of animation on the virtual space.

이러한 수술 도구 영상(630)에 대한 조작을 통해 제 1 사용자는 가상 공간 상에서 환자에 대한 가상 수술을 수행할 수 있다. 즉, 제 1 사용자는 수술 도구 영상(630)에 대한 조작을 통해, 수술 도구 영상(630)과 접촉하는 장기 영상(610) 또는 혈관 영상(620)의 부분에 대하여, 도 6에서 도시되는 바와 같이, 절개, 파지, 클램핑 등의 적절한 물리적 처치가 수행되도록 함으로써, 환자에 대한 가상 수술을 수행하게 된다. 한편, 가상 공간의 일 영역에는 환자의 신체 상태 정보(640)가 표시될 수 있으며, 이러한 신체 상태 정보(640)는 물리적 처치의 수행 및 이후의 시간 경과에 따라 갱신되어 표시될 수 있다.Through the operations on the surgical tool image 630, the first user can perform virtual surgery on the patient in the virtual space. That is, the first user manipulates the surgical tool image 630 to perform an operation on the part of the organ image 610 or the blood vessel image 620 that contacts the surgical tool image 630, as shown in FIG. 6 By performing appropriate physical treatments such as incision, gripping, clamping, etc., a virtual surgery is performed on the patient. On the other hand, the body state information 640 of the patient may be displayed in one area of the virtual space, and the physical state information 640 may be updated and displayed according to the execution of the physical treatment and the elapse of time thereafter.

제 1 사용자가 가상 수술을 수행하는 과정은 수술 영상에 포함되어, 실시간 또는 비-실시간으로 대상 환자, 환자의 보호자 등의 제 2 사용자에게 제공될 수 있다.
The process of performing the virtual surgery by the first user may be included in the surgical image and may be provided to the second user such as the target patient, the patient's caregiver in real time or non-real time.

본 명세서에 기재된 다양한 실시예들은 하드웨어, 미들웨어, 마이크로코드, 소프트웨어 및/또는 이들의 조합에 의해 구현될 수 있다. 예를 들어, 다양한 실시예들은 하나 이상의 주문형 반도체(ASIC)들, 디지털 신호 프로세서(DSP)들, 디지털 신호 프로세싱 디바이스(DSPD)들, 프로그램어블 논리 디바이스(PLD)들, 필드 프로그램어블 게이트 어레이(FPGA)들, 프로세서들, 컨드롤러들, 마이크로컨트롤러들, 마이크로프로세서들, 여기서 제시되는 기능들을 수행하도록 설계되는 다른 전자 유닛들 또는 이들의 조합 내에서 구현될 수 있다.The various embodiments described herein may be implemented by hardware, middleware, microcode, software, and / or a combination thereof. For example, various embodiments may include one or more application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays ), Processors, controllers, microcontrollers, microprocessors, other electronic units designed to perform the functions described herein, or a combination thereof.

또한, 예를 들어, 다양한 실시예들은 명령들을 포함하는 컴퓨터-판독가능한 매체에 수록되거나 인코딩될 수 있다. 컴퓨터-판독 가능한 매체에 수록 또는 인코딩된 명령들은 프로그램 가능한 프로세서 또는 다른 프로세서로 하여금 예컨대, 명령들이 실행될 때 방법을 수행하게끔 할 수 있다. 컴퓨터-판독 가능한 매체는 컴퓨터 저장 매체, 및 하나의 장소로부터 다른 장소로 컴퓨터 프로그램의 이송을 용이하게 하는 임의의 매체를 포함하는 통신 매체 모두를 포함한다. 저장 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수도 있다. 예를 들어, 이러한 컴퓨터-판독 가능한 매체는 RAM, ROM, EEPROM, CD-ROM 또는 기타 광학 디스크 저장 매체, 자기 디스크 저장 매체 또는 기타 자기 저장 디바이스, 또는 원하는 프로그램 코드를 컴퓨터에 의해 액세스 가능한 명령들 또는 데이터 구조들의 형태로 반송하거나 저장하는데 이용될 수 있는 임의의 다른 매체를 포함할 수 있다.Also, for example, various embodiments may be stored or encoded in a computer-readable medium including instructions. The instructions stored or encoded in the computer-readable medium may cause a programmable processor or other processor to perform the method, for example, when the instructions are executed. The computer-readable medium includes both computer storage media and communication media including any medium that facilitates transfer of a computer program from one place to another. The storage medium may be any available media that can be accessed by a computer. By way of example, and not limitation, such computer-readable media can comprise RAM, ROM, EEPROM, CD-ROM or other optical disk storage media, magnetic disk storage media or other magnetic storage devices, Or any other medium that can be used to carry or store data in the form of data structures.

이러한 하드웨어, 소프트웨어, 펌웨어 등은 본 명세서에 기술된 다양한 동작들 및 기능들을 지원하도록 동일한 디바이스 내에서 또는 개별 디바이스들 내에서 구현될 수 있다. 추가적으로, 본 발명에서 "~부"로 기재된 구성요소들, 유닛들, 모듈들, 컴포넌트들 등은 함께 또는 개별적이지만 상호 운용 가능한 로직 디바이스들로서 개별적으로 구현될 수 있다. 모듈들, 유닛들 등에 대한 서로 다른 특징들의 묘사는 서로 다른 기능적 실시예들을 강조하기 위해 의도된 것이며, 이들이 개별 하드웨어 또는 소프트웨어 컴포넌트들에 의해 실현되어야만 함을 필수적으로 의미하지 않는다. 오히려, 하나 이상의 모듈들 또는 유닛들과 관련된 기능은 개별 하드웨어 또는 소프트웨어 컴포넌트들에 의해 수행되거나 또는 공통의 또는 개별의 하드웨어 또는 소프트웨어 컴포넌트들 내에 통합될 수 있다.Such hardware, software, firmware, etc. may be implemented within the same device or within separate devices to support the various operations and functions described herein. Additionally, components, units, modules, components, etc. described in the present invention as "parts" may be implemented separately or together as separate but interoperable logic devices. The description of different features for modules, units, etc. is intended to emphasize different functional embodiments and does not necessarily imply that they must be implemented by individual hardware or software components. Rather, the functionality associated with one or more modules or units may be performed by separate hardware or software components, or may be incorporated within common or separate hardware or software components.

특정한 순서로 동작들이 도면에 도시되어 있지만, 이러한 동작들이 원하는 결과를 달성하기 위해 도시된 특정한 순서, 또는 순차적인 순서로 수행되거나, 또는 모든 도시된 동작이 수행되어야 할 필요가 있는 것으로 이해되지 말아야 한다. 임의의 환경에서는, 멀티태스킹 및 병렬 프로세싱이 유리할 수 있다. 더욱이, 상술한 실시예에서 다양한 구성요소들의 구분은 모든 실시예에서 이러한 구분을 필요로 하는 것으로 이해되어서는 안되며, 기술된 구성요소들이 일반적으로 단일 소프트웨어 제품으로 함께 통합되거나 다수의 소프트웨어 제품으로 패키징될 수 있다는 것이 이해되어야 한다.Although acts in a particular order are shown in the figures, it should be understood that these acts are performed in the specific order shown, or in a sequential order, or that all illustrated acts need to be performed to achieve the desired result . In any environment, multitasking and parallel processing may be advantageous. Moreover, the division of various components in the above-described embodiments should not be understood as requiring such a distinction in all embodiments, and the components described may generally be integrated together into a single software product or packaged into multiple software products It should be understood.

이상에서와 같이 도면과 명세서에서 최적 실시 예가 개시되었다. 여기서 특정한 용어들이 사용되었으나, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 진정한 기술적 보호범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.As described above, an optimal embodiment has been disclosed in the drawings and specification. Although specific terms have been employed herein, they are used for purposes of illustration only and are not intended to limit the scope of the invention as defined in the claims or the claims. Therefore, those skilled in the art will appreciate that various modifications and equivalent embodiments are possible without departing from the scope of the present invention. Accordingly, the true scope of the present invention should be determined by the technical idea of the appended claims.

100 가상 수술 시뮬레이션 장치 110 영상 처리부
120 상태 관리부 130 통신부
140 제어부 150 메모리부
210 제 1 사용자 단말 220 제 2 사용자 단말
610 장기 영상 620 혈관 영상
630 수술 도구 영상 640 신체 상태 정보
100 virtual surgery simulation apparatus 110 image processing unit
120 state management unit 130 communication unit
140 control unit 150 memory unit
210 first user terminal 220 second user terminal
610 Long term image 620 Vascular image
630 Surgical tool image 640 Physical condition information

Claims (19)

가상 수술 시뮬레이션 장치의 동작 방법으로서,
환자의 수술 대상 부위에 대한 3차원 영상을 이용하여, 상기 환자에 대한 가상 수술을 수행하는 단계;
상기 가상 수술의 과정 중 적어도 일부를 포함하는 수술 영상을 생성하는 단계; 및
상기 수술 영상 및 수술 결과 중 적어도 하나를 전송하는 단계를 포함하는 것을 특징으로 하는 동작 방법.
1. A method of operating a virtual surgery simulation apparatus,
Performing a virtual operation on the patient using a three-dimensional image of the patient's operation target region;
Generating a surgical image including at least a part of the virtual surgery procedure; And
And transmitting at least one of the surgical image and the surgical result.
제 1 항에 있어서,
상기 환자에 대한 수술 전 의료 영상에 관한 정보를 기초로 상기 3차원 영상을 생성하는 단계를 더 포함하고,
상기 3차원 영상은 상기 수술 대상 부위에 포함되는 장기 및 혈관에 대한 영상을 포함하는 것을 특징으로 하는 동작 방법.
The method according to claim 1,
Further comprising the step of generating the three-dimensional image based on information on the medical image before surgery for the patient,
Wherein the three-dimensional image includes images of organs and blood vessels included in the operation target site.
제 2 항에 있어서,
상기 가상 수술을 수행하는 단계는,
상기 3차원 영상을 가상 공간 상에 표시하는 단계;
적어도 하나의 수술 도구 영상을 상기 가상 공간 상에 상기 3차원 영상과 매칭하여 표시하는 단계; 및
상기 수술 도구 영상 중 적어도 하나의 조작을 위한 사용자 입력에 따라, 상기 장기 및 상기 혈관 중 적어도 하나에 대한 소정의 물리적 처치가 수행되도록 표시하는 단계를 포함하는 것을 특징으로 하는 동작 방법.
3. The method of claim 2,
Wherein performing the virtual surgery comprises:
Displaying the three-dimensional image on a virtual space;
Matching at least one surgical tool image with the 3D image on the virtual space and displaying the same; And
And displaying a predetermined physical treatment for at least one of the organ and the blood vessel in accordance with a user input for manipulation of at least one of the surgical tool images.
제 3 항에 있어서,
상기 물리적 처치는 절개, 절제, 소작, 초음파 처리, 파지, 봉합 및 클램핑 중 적어도 하나를 포함하는 것을 특징으로 하는 동작 방법.
The method of claim 3,
Wherein the physical treatment comprises at least one of incision, ablation, cauterization, ultrasound treatment, grasping, sealing and clamping.
제 3 항에 있어서,
상기 환자의 신체 상태 정보에 대한 초기값을 설정하는 단계를 더 포함하고,
상기 가상 수술을 수행하는 단계는, 상기 물리적 처치의 수행 및 상기 가상 수술의 시간 경과 중 적어도 하나에 따라, 상기 신체 상태 정보를 갱신하여 상기 가상 공간 상에 표시하는 단계를 더 포함하는 것을 특징으로 하는 동작 방법.
The method of claim 3,
Further comprising the step of setting an initial value for the patient ' s physical condition information,
Wherein performing the virtual surgery further comprises updating the physical condition information according to at least one of performing the physical treatment and the lapse of time of the virtual surgery and displaying the updated physical condition information on the virtual space How it works.
제 1 항에 있어서,
수술 일정 정보를 전송하는 단계를 더 포함하고,
상기 수술 일정 정보는 상기 가상 수술의 예정 일자 및 수행자에 관한 정보를 포함하는 것을 특징으로 하는 동작 방법.
The method according to claim 1,
Further comprising transmitting surgical schedule information,
Wherein the surgery schedule information includes information regarding a scheduled date and a performer of the virtual surgery.
제 1 항에 있어서,
상기 수술 영상은 상기 가상 수술의 과정 중 적어도 일부에 대한 실시간 영상인 것을 특징으로 하는 동작 방법.
The method according to claim 1,
Wherein the surgical image is a real-time image of at least a portion of the virtual surgery procedure.
제 1 항에 있어서,
상기 수술 영상 및 상기 수술 결과 중 적어도 하나에 대한 요청을 수신하는 단계를 더 포함하며,
상기 수술 영상 및 수술 결과 중 적어도 하나를 전송하는 단계는 상기 요청의 수신에 응답하여 수행되는 것을 특징으로 하는 동작 방법.
The method according to claim 1,
Further comprising receiving a request for at least one of the surgical image and the surgical result,
Wherein transmitting at least one of the surgical image and the surgical result is performed in response to receiving the request.
제 1 항에 있어서,
상기 수술 영상 및 상기 수술 결과 중 적어도 하나의 전송에 응답하여, 상기 가상 수술에 대한 피드백 정보를 수신하는 단계를 더 포함하는 것을 특징으로 하는 동작 방법.
The method according to claim 1,
Further comprising receiving feedback information for the virtual surgery in response to transmission of at least one of the surgical image and the surgical result.
제 1 항 내지 제 9 항 중 어느 한 항에 따른 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체.10. A computer-readable recording medium having recorded thereon a program for performing the method according to any one of claims 1 to 9. 가상 수술 시뮬레이션 장치로서,
환자의 수술 대상 부위에 대한 3차원 영상을 이용하여, 상기 환자에 대한 가상 수술을 수행하는 제어부;
상기 가상 수술의 과정 중 적어도 일부를 포함하는 수술 영상을 생성하는 영상 처리부; 및
상기 수술 영상 및 수술 결과 중 적어도 하나를 전송하는 통신부를 포함하는 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
As a virtual surgery simulation apparatus,
A controller for performing a virtual surgery on the patient using a three-dimensional image of the patient's operation target region;
An image processing unit for generating a surgical image including at least a part of the virtual surgery procedure; And
And a communication unit for transmitting at least one of the surgical image and the surgical result.
제 11 항에 있어서,
상기 영상 처리부는 상기 환자에 대한 수술 전 의료 영상에 관한 정보를 기초로 상기 3차원 영상을 생성하고,
상기 3차원 영상은 상기 수술 대상 부위에 포함되는 장기 및 혈관에 대한 영상을 포함하는 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
12. The method of claim 11,
Wherein the image processing unit generates the three-dimensional image based on information on the medical image before surgery for the patient,
Wherein the 3D image includes images of organs and blood vessels included in the operation target site.
제 12 항에 있어서,
상기 제어부는, 상기 3차원 영상을 가상 공간 상에 표시하고, 적어도 하나의 수술 도구 영상을 상기 가상 공간 상에 상기 3차원 영상과 매칭하여 표시하되, 상기 수술 도구 영상 중 적어도 하나의 조작을 위한 사용자 입력에 따라, 상기 장기 및 상기 혈관 중 적어도 하나에 대한 소정의 물리적 처치가 수행되도록 표시하는 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
13. The method of claim 12,
Wherein the controller displays the three-dimensional image on a virtual space, displays at least one surgical tool image on the virtual space with the three-dimensional image and displays the same, And displays, according to the input, a predetermined physical treatment for at least one of the organ and the blood vessel to be performed.
제 13 항에 있어서,
상기 물리적 처치는 절개, 절제, 소작, 초음파 처리, 파지, 봉합 및 클램핑 중 적어도 하나를 포함하는 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
14. The method of claim 13,
Wherein the physical treatment comprises at least one of incision, ablation, cauterization, ultrasound treatment, gripping, sealing and clamping.
제 13 항에 있어서,
상기 환자의 신체 상태 정보에 대한 초기값을 설정하는 상태 관리부를 더 포함하고,
상기 제어부는 상기 물리적 처치의 수행 및 상기 가상 수술의 시간 경과 중 적어도 하나에 따라, 상기 신체 상태 정보를 갱신하여 상기 가상 공간 상에 표시하는 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
14. The method of claim 13,
Further comprising a state management unit for setting an initial value for the physical state information of the patient,
Wherein the controller updates the physical condition information according to at least one of the execution of the physical treatment and the lapse of time of the virtual surgery, and displays the updated physical condition information on the virtual space.
제 11 항에 있어서,
상기 통신부는 수술 일정 정보를 전송하고,
상기 수술 일정 정보는 상기 가상 수술의 수행 예정 일자 및 수행자에 관한 정보를 포함하는 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
12. The method of claim 11,
The communication unit transmits the operation schedule information,
Wherein the operation schedule information includes information on a scheduled date and a performer of the virtual surgery.
제 11 항에 있어서,
상기 수술 영상은 상기 가상 수술의 과정 중 적어도 일부에 대한 실시간 영상인 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
12. The method of claim 11,
Wherein the surgical image is a real-time image of at least a part of the process of the virtual surgery.
제 11 항에 있어서,
상기 수술 영상 및 상기 수술 결과 중 적어도 하나에 대한 요청을 수신하는 단계를 더 포함하며,
상기 수술 영상 및 상기 수술 결과 중 적어도 하나의 전송은 상기 요청의 수신에 응답하여 수행되는 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
12. The method of claim 11,
Further comprising receiving a request for at least one of the surgical image and the surgical result,
Wherein the transmission of at least one of the surgical image and the surgical result is performed in response to receipt of the request.
제 11 항에 있어서,
상기 통신부는 상기 수술 영상 및 상기 수술 결과 중 적어도 하나의 전송에 응답하여, 상기 가상 수술에 대한 피드백 정보를 수신하는 것을 특징으로 하는 가상 수술 시뮬레이션 장치.
12. The method of claim 11,
Wherein the communication unit receives feedback information on the virtual surgery in response to transmission of at least one of the surgical image and the surgical result.
KR1020150013028A 2015-01-27 2015-01-27 Apparatus for virtual surgery simulation and the operation method thereof Ceased KR20160092425A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020150013028A KR20160092425A (en) 2015-01-27 2015-01-27 Apparatus for virtual surgery simulation and the operation method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150013028A KR20160092425A (en) 2015-01-27 2015-01-27 Apparatus for virtual surgery simulation and the operation method thereof

Publications (1)

Publication Number Publication Date
KR20160092425A true KR20160092425A (en) 2016-08-04

Family

ID=56709463

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150013028A Ceased KR20160092425A (en) 2015-01-27 2015-01-27 Apparatus for virtual surgery simulation and the operation method thereof

Country Status (1)

Country Link
KR (1) KR20160092425A (en)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190088419A (en) * 2018-05-23 2019-07-26 (주)휴톰 Program and method for generating surgical simulation information
KR102011236B1 (en) * 2019-01-08 2019-08-14 재단법인 대구경북첨단의료산업진흥재단 Simulator system for virtual training surgical procedure of cardiovascular system based on augmented reality and method thereof
WO2020091225A1 (en) * 2018-10-30 2020-05-07 부산대학교 산학협력단 Virtual reality-based educational cataract surgery simulation system
KR20200080534A (en) 2018-12-27 2020-07-07 가톨릭대학교 산학협력단 System for estimating otorhinolaryngology and neurosurgery surgery based on simulator of virtual reality
WO2022035237A1 (en) * 2020-08-11 2022-02-17 (주)휴톰 Learning data collection apparatus and method for training surgical tool and organ recognition learning
WO2023018138A1 (en) * 2021-08-10 2023-02-16 (주)휴톰 Device and method for generating virtual pneumoperitoneum model of patient
KR20230025270A (en) 2021-08-13 2023-02-21 서울대학교병원 Method for training evaluation for treating patents based on extended reality
KR102516855B1 (en) * 2022-06-28 2023-03-31 주식회사 메디마인드 Method for providing adaptive contents for cesarean section to users by using virtual reality technology and device using the same
US11660142B2 (en) 2017-12-28 2023-05-30 Hutom Co., Ltd. Method for generating surgical simulation information and program
WO2023136616A1 (en) * 2022-01-12 2023-07-20 (주)휴톰 Apparatus and method for providing virtual reality-based surgical environment for each surgical situation

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11660142B2 (en) 2017-12-28 2023-05-30 Hutom Co., Ltd. Method for generating surgical simulation information and program
US12569299B2 (en) 2017-12-28 2026-03-10 Hutom, Inc. Method for generating surgical simulation information and program
KR20190088419A (en) * 2018-05-23 2019-07-26 (주)휴톰 Program and method for generating surgical simulation information
WO2020091225A1 (en) * 2018-10-30 2020-05-07 부산대학교 산학협력단 Virtual reality-based educational cataract surgery simulation system
KR20200080534A (en) 2018-12-27 2020-07-07 가톨릭대학교 산학협력단 System for estimating otorhinolaryngology and neurosurgery surgery based on simulator of virtual reality
KR102011236B1 (en) * 2019-01-08 2019-08-14 재단법인 대구경북첨단의료산업진흥재단 Simulator system for virtual training surgical procedure of cardiovascular system based on augmented reality and method thereof
WO2020145455A1 (en) * 2019-01-08 2020-07-16 재단법인 대구경북첨단의료산업진흥재단 Augmented reality-based virtual training simulator system for cardiovascular system surgical procedure, and method therefor
WO2022035237A1 (en) * 2020-08-11 2022-02-17 (주)휴톰 Learning data collection apparatus and method for training surgical tool and organ recognition learning
WO2023018138A1 (en) * 2021-08-10 2023-02-16 (주)휴톰 Device and method for generating virtual pneumoperitoneum model of patient
KR20230025270A (en) 2021-08-13 2023-02-21 서울대학교병원 Method for training evaluation for treating patents based on extended reality
WO2023136616A1 (en) * 2022-01-12 2023-07-20 (주)휴톰 Apparatus and method for providing virtual reality-based surgical environment for each surgical situation
KR102516855B1 (en) * 2022-06-28 2023-03-31 주식회사 메디마인드 Method for providing adaptive contents for cesarean section to users by using virtual reality technology and device using the same

Similar Documents

Publication Publication Date Title
KR20160092425A (en) Apparatus for virtual surgery simulation and the operation method thereof
EP4150603B1 (en) Surgical simulation object rectification system
CN115699195A (en) Intelligent Assistance (IA) ecosystem
US12569299B2 (en) Method for generating surgical simulation information and program
US11672603B2 (en) System for patient-specific intervention planning
JP2013521971A (en) System and method for computerized simulation of medical procedures
JP2014522248A (en) Method and system for simulating surgery
US20210298836A1 (en) Holographic treatment zone modeling and feedback loop for surgical procedures
KR20190080706A (en) Program and method for displaying surgical assist image
WO2022243963A1 (en) Dynamic adaptation system for surgical simulation
JP7790007B2 (en) Systems and methods for cardiac ventricular visualization
WO2017214172A1 (en) Method and system for interactive laparoscopic ultrasound guided ablation planning and surgical procedure simulation
TWI707660B (en) Wearable image display device for surgery and surgery information real-time system
KR20190088419A (en) Program and method for generating surgical simulation information
CN109805996B (en) System and method for generating energy delivery heatmaps
KR101940706B1 (en) Program and method for generating surgical simulation information
Kerbl et al. Intervention planning of hepatocellular carcinoma radio-frequency ablations
JP7264689B2 (en) MEDICAL IMAGE PROCESSING APPARATUS, MEDICAL IMAGE PROCESSING METHOD, AND MEDICAL IMAGE PROCESSING PROGRAM
US20250189944A1 (en) Assistance apparatus for issuing a handling recommendation to an operator
US12564371B2 (en) System and method for displaying ablation zone progression
Audigier et al. Conformal radiofrequency ablation to validate ultrasound thermometry
WO2022243955A1 (en) Surgical adverse event simulation system
EP4150609A1 (en) Surgical simulation navigation system
WO2022243957A1 (en) Simulation-based surgical procedure planning system
CN107077757A (en) Methods and systems for adjusting an interactive 3D treatment zone for percutaneous treatments

Legal Events

Date Code Title Description
A201 Request for examination
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

D13-X000 Search requested

St.27 status event code: A-1-2-D10-D13-srh-X000

PN2301 Change of applicant

St.27 status event code: A-3-3-R10-R13-asn-PN2301

St.27 status event code: A-3-3-R10-R11-asn-PN2301

D14-X000 Search report completed

St.27 status event code: A-1-2-D10-D14-srh-X000

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

T11-X000 Administrative time limit extension requested

St.27 status event code: U-3-3-T10-T11-oth-X000

T11-X000 Administrative time limit extension requested

St.27 status event code: U-3-3-T10-T11-oth-X000

T11-X000 Administrative time limit extension requested

St.27 status event code: U-3-3-T10-T11-oth-X000

T11-X000 Administrative time limit extension requested

St.27 status event code: U-3-3-T10-T11-oth-X000

E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E601 Decision to refuse application
PE0601 Decision on rejection of patent

St.27 status event code: N-2-6-B10-B15-exm-PE0601

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

R18 Changes to party contact information recorded

Free format text: ST27 STATUS EVENT CODE: A-3-3-R10-R18-OTH-X000 (AS PROVIDED BY THE NATIONAL OFFICE)

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000