JP7854499B2 - 内視鏡システム、内視鏡システムの作動方法および手技支援プログラム - Google Patents

内視鏡システム、内視鏡システムの作動方法および手技支援プログラム

Info

Publication number
JP7854499B2
JP7854499B2 JP2024514208A JP2024514208A JP7854499B2 JP 7854499 B2 JP7854499 B2 JP 7854499B2 JP 2024514208 A JP2024514208 A JP 2024514208A JP 2024514208 A JP2024514208 A JP 2024514208A JP 7854499 B2 JP7854499 B2 JP 7854499B2
Authority
JP
Japan
Prior art keywords
optical system
imaging optical
endoscope
orientation
observed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2024514208A
Other languages
English (en)
Other versions
JPWO2023195326A1 (ja
JPWO2023195326A5 (ja
Inventor
直也 畠山
雅史 原口
雅昭 伊藤
成浩 小島
大地 北口
寛 長谷川
悠貴 古澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
National Cancer Center Japan
Original Assignee
Olympus Corp
National Cancer Center Japan
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp, National Cancer Center Japan filed Critical Olympus Corp
Publication of JPWO2023195326A1 publication Critical patent/JPWO2023195326A1/ja
Publication of JPWO2023195326A5 publication Critical patent/JPWO2023195326A5/ja
Application granted granted Critical
Publication of JP7854499B2 publication Critical patent/JP7854499B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/0002Operational features of endoscopes provided with data storages
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00039Operational features of endoscopes provided with input arrangements for the user
    • A61B1/0004Operational features of endoscopes provided with input arrangements for the user for electronic operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00174Optical arrangements characterised by the viewing angles
    • A61B1/00183Optical arrangements characterised by the viewing angles for variable viewing angles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、内視鏡システム、手技支援方法および手技支援プログラムに関する。
従来、術者による手技操作の手間を軽減するための技術が知られている(例えば、特許文献1,2参照。)。特許文献1に記載の技術は、ホルダの関節の角度情報を記録しておき、その角度情報に基づいてホルダの関節の角度を時系列的に逆再生することにより、内視鏡を元の位置および姿勢に復帰させる。特許文献2に記載の技術は、外科的処置の手順状態および手順タイプ等を含む手術用具画像データまたは解剖学的構造の画像を用いることによって訓練された機械学習モデルに基づいて、外科的処置中にエネルギー処置具等の機能を制御する。
特許第6161687号公報 特開2021-13722号公報
しかしながら、特許文献1に記載の技術のようにホルダの関節の角度情報を利用するだけでは、異なる場所を手技する場合等、処置の工程に応じて内視鏡の位置および姿勢が変化する場合の対応が困難という問題がある。また、特許文献2に記載の技術のように、外科的な手順を制御したり、手順状態に応じてエネルギー処置具等の機能のON/OFFまたは強弱を制御したりする手法では、内視鏡の位置および姿勢を変化させることによって術者が見たい方向から覗き込む等の複雑な制御は困難である。
本発明は、上述した事情に鑑みてなされたものであって、処置の工程および観察対象に応じた観察視野を術者に提供することにより、術者の手間を低減しかつ処置をスムーズにすることができる内視鏡システム、手技支援方法および手技支援プログラムを提供することを目的としている。
上記目的を達成するため、本発明は以下の手段を提供する。
本発明の第1態様は、観察対象を撮影する撮像光学系を備える内視鏡と、該内視鏡を支持した状態で前記内視鏡の位置および姿勢を変化させる電動アームと、前記内視鏡の視野方向を変更可能な視野方向変更部と、手技シーンごとに関連付けられた内視鏡視野を実現するための複数のライブラリデータを記憶する記憶装置と、少なくとも1つのプロセッサとを備え、前記ライブラリデータが、前記撮像光学系と前記観察対象との相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含み、前記内視鏡が、先端部に前記撮像光学系が配置された長尺部を備え、前記視野方向変更部が、前記内視鏡における前記撮像光学系の角度を変更可能な湾曲部であり、前記ライブラリデータが、ベース座標上の前記長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含み、前記プロセッサが、任意の前記手技シーンに関連付けられている前記ライブラリデータを前記記憶装置から呼び出した後、呼び出した前記ライブラリデータに基づいて前記視野方向変更部および前記電動アームの少なくとも一方を制御する内視鏡システムである。
本態様によれば、プロセッサの作動により、任意の手技シーンに関連付けられた内視鏡視野を実現するためのライブラリデータが記憶装置から呼び出される。そして、呼び出されたライブラリデータに基づいて視野方向変更部および電動アームが制御される。この場合において、各ライブラリデータが内視鏡の撮像光学系と観察対象との相対的な位置および姿勢に関する相対パラメータを含むので、手技シーンおよび観察対象の両方に応じた内視鏡視野を術者に提供することができる。よって、術者の手間を低減しかつ処置をスムーズにすることができる。
上記態様に係る内視鏡システムは、前記プロセッサが、前記撮像光学系によって取得される画像情報を処理することにより前記手技シーンを特定した後、特定した前記手技シーンに対応付けられている前記ライブラリデータを前記記憶装置から呼び出すこととしてもよい。
この構成によって、プロセッサによる画像処理によって特定された手技シーンに基づいて、視野方向変更部および電動アームが制御される。したがって、術者が画像情報から手技シーンを特定する必要がなく、術者の手間をより低減することができる。
上記態様に係る内視鏡システムは、前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させることとしてもよい。
この構成によって、手技シーンおよび観察対象の両方に応じて、観察対象に対して内視鏡の撮像光学系が予め設定された距離に配置される。これにより、観察対象を所望の距離感の見せ方にすることができる。
上記態様に係る内視鏡システムは、前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させることとしてもよい。
この構成によって、手技シーンおよび観察対象の両方に応じて、観察対象に対して内視鏡の撮像光学系が予め設定された向きに配置される。臓器または他の観察組織の姿勢に応じて撮像光学系の姿勢が決まるため、個体差にばらつきがあったとしても、予め設定された内視鏡視野をより簡易かつ精度よく再現することができる。また、助手の鉗子操作等によって観察組織の姿勢または向きが変化したとしても、予め設定された内視鏡視野を簡易に得ることができる。
上記態様に係る内視鏡システムは、前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させることとしてもよい。
この構成によって、手技シーンおよび観察対象の両方に応じて、内視鏡視野に対して腸や血管等が延びる方向を予め設定された向きに配置することができる。これにより、患者の個体差に、より対応した内視鏡視野を簡易に得ることができる。
上記態様に係る内視鏡システムは、前記視野方向変更部が、前記内視鏡における前記撮像光学系の角度を変更可能な湾曲部であってもよい。その場合、前記内視鏡が、先端部に前記撮像光学系が配置された長尺部を備え、前記ライブラリデータが、ベース座標上の前記長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含むこととしてもよい。
この構成によって、ベース座標から見た撮像光学系の向きを一致させることができる。これにより、個体差に応じて観察組織の位置が変わったり内視鏡の長尺部の傾きが変わったりしても撮像光学系の向きは変わらないため、予め設定された内視鏡視野を簡易かつ精度よく再現することができる。
上記態様に係る内視鏡システムは、前記内視鏡が、前記撮像光学系を収容する鏡筒部を有し、該鏡筒部の中心軸に対して前記撮像光学系の光軸が傾斜した状態で配置されている斜視鏡であり、前記視野方向変更部が、前記鏡筒部の前記中心軸回りの角度を変更することとしてもよい。
鏡筒部の中心軸回りの角度を変更すると、鏡筒部の中心軸に対して一定の角度を有する斜視鏡の視野方向が鏡筒部の中心軸回りに変化することによって、斜視鏡の視野方向を斜め上方または斜め下方等に切り替えることができる。これにより、鏡筒部を中心軸回りに回転させるだけで、斜視鏡の視野方向を所望の観察対象に向けることができる。したがって、内視鏡として斜視鏡を採用した場合であっても、術者が指定した観察対象を内視鏡視野に容易に入れることができる。
上記態様に係る内視鏡システムは、前記内視鏡が、前記撮像光学系を収容する鏡筒部を有し、該鏡筒部の中心軸と前記撮像光学系の光軸とが一致した状態で配置されている直視鏡であり、前記視野方向変更部が、前記撮像光学系によって取得される画像情報を表示する表示画面上の前記観察対象を捉える位置の変更に応じて、前記鏡筒部の前記中心軸に直交する回転軸回りの角度を変更することとしてもよい。
視野方向変更部により、表示画面上の観察対象を捉える位置の変更に応じて、鏡筒部の中心軸に直交する回転軸回りの角度が変更されることによって、直視鏡の視野方向が、表示画面上の変更後の位置で観察対象を捉える向きに変更される。これにより、例えば、観察対象を捉える位置を表示画面の端に変更した場合は、直視鏡の視野方向が、観察対象を画角の端で捉える向きに変更されることによって、観察対象を覗き込む角度の内視鏡視野を作成することができる。したがって、内視鏡として直視鏡を採用した場合であっても、術者が指定した観察対象を内視鏡視野に容易に入れることができる。
上記態様に係る内視鏡システムは、前記プロセッサが、前記撮像光学系によって取得される画像情報を処理することにより、前記観察対象を認識することとしてもよい。
この構成によって、術者が画像情報から観察対象を特定する必要がなく、術者の手間をより低減することができる。
上記態様に係る内視鏡システムは、前記撮像光学系によって取得される画像情報に基づいてユーザに前記観察対象を指定させる入力部を備えることとしてもよい。
この構成によって、術者が所望の観察対象を選択することができる。
本発明の第2態様は、プロセッサが、手技シーンごとに関連付けられた内視鏡視野を実現するための複数のライブラリデータの内、任意の手技シーンに関連付けられた前記ライブラリデータを記憶装置から呼び出す工程と、呼び出された前記ライブラリデータに基づいて、観察対象を撮影する内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させる工程とを含み、各前記ライブラリデータが、前記内視鏡の撮像光学系と前記観察対象との相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含み、前記内視鏡が、先端部に前記撮像光学系が配置された長尺部と、前記撮像光学系の角度を変更可能な湾曲部とを備え、該湾曲部により前記撮像光学系の角度を変更することによって、前記内視鏡の視野方向が変更され、前記ライブラリデータが、ベース座標上の前記長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含む内視鏡システムの作動方法である。
上記態様に係る内視鏡システムの作動方法は、前記プロセッサが、前記撮像光学系によって取得される画像情報を処理することにより前記手技シーンを特定した後、特定された前記手技シーンに対応付けられている前記ライブラリデータを前記記憶装置から呼び出すこととしてもよい。
上記態様に係る内視鏡システムの作動方法は、前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させることとしてもよい。
上記態様に係る内視鏡システムの作動方法は、前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させることとしてもよい。
上記態様に係る内視鏡システムの作動方法は、前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させることとしてもよい。
上記態様に係る内視鏡システムの作動方法は、前記内視鏡が、前記撮像光学系の角度を変更可能な湾曲部を備え、該湾曲部により前記撮像光学系の角度を変更することによって、前記内視鏡の視野方向を変更することとしてもよい。その場合、前記内視鏡が、先端部に前記撮像光学系が配置された長尺部を備え、前記ライブラリデータが、ベース座標上の前記内視鏡の長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含むこととしてもよい。
上記態様に係る内視鏡システムの作動方法は、前記内視鏡が、前記撮像光学系を収容する鏡筒部を有し、該鏡筒部の中心軸に対して前記撮像光学系の光軸が傾斜した状態で配置されている斜視鏡であり、前記鏡筒部の前記中心軸回りの角度を変更することによって、前記内視鏡の視野方向を変更することとしてもよい。
上記態様に係る内視鏡システムの作動方法は、前記内視鏡が、前記撮像光学系を収容する鏡筒部を有し、該鏡筒部の中心軸と前記撮像光学系の光軸とが一致した状態で配置されている直視鏡であり、前記撮像光学系によって取得される画像情報を表示する表示画面上の前記観察対象を捉える位置の変更に応じて、前記鏡筒部の前記中心軸に直交する回転軸回りの角度を変更することによって、前記内視鏡の視野方向を変更することとしてもよい。
上記態様に係る内視鏡システムの作動方法は、前記撮像光学系によって取得される画像情報が前記プロセッサによって処理されることにより、前記観察対象が認識されることとしてもよい。
上記態様に係る内視鏡システムの作動方法は、前記撮像光学系によって取得される画像情報に基づいて、ユーザによって前記観察対象が指定されることとしてもよい。
本発明の第3態様は、手技シーンごとに関連付けられた内視鏡視野を実現するための複数のライブラリデータの内、任意の手技シーンに関連付けられた前記ライブラリデータを記憶装置から呼び出す工程と、呼び出された前記ライブラリデータに基づいて、観察対象を撮影する内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させる工程とをコンピュータに実行させ、各前記ライブラリデータが、前記内視鏡の撮像光学系と観察対象との相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含み、前記内視鏡が、先端部に前記撮像光学系が配置された長尺部と、前記撮像光学系の角度を変更可能な湾曲部とを備え、該湾曲部により前記撮像光学系の角度を変更することによって、前記内視鏡の視野方向が変更され、前記ライブラリデータが、ベース座標上の前記長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含む手技支援プログラムである。
上記態様に係る手技支援プログラムは、前記撮像光学系によって取得される画像情報を処理することにより前記手技シーンを特定する工程と、特定された前記手技シーンに対応付けられている前記ライブラリデータを前記記憶装置から呼び出す工程とをコンピュータに実行させることとしてもよい。
上記態様に係る手技支援プログラムは、前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させることとしてもよい。
上記態様に係る手技支援プログラムは、前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させることとしてもよい。
上記態様に係る手技支援プログラムは、前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させることとしてもよい。
上記態様に係る手技支援プログラムは、前記内視鏡が、前記撮像光学系の角度を変更可能な湾曲部を備え、該湾曲部により前記撮像光学系の角度を変更することによって、前記内視鏡の視野方向を変更することとしてもよい。その場合、前記内視鏡が、先端部に前記撮像光学系が配置された長尺部を備え、前記ライブラリデータが、ベース座標上の前記長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含むこととしてもよい。
上記態様に係る手技支援プログラムは、前記内視鏡が、前記撮像光学系を収容する鏡筒部を有し、該鏡筒部の中心軸に対して前記撮像光学系の光軸が傾斜した状態で配置されている斜視鏡であり、前記鏡筒部の前記中心軸回りの角度を変更することによって、前記内視鏡の視野方向を変更することとしてもよい。
上記態様に係る手技支援プログラムは、前記内視鏡が、前記撮像光学系を収容する鏡筒部を有し、該鏡筒部の中心軸と前記撮像光学系の光軸とが一致した状態で配置されている直視鏡であり、前記撮像光学系によって取得される画像情報を表示する表示画面上の前記観察対象を捉える位置の変更に応じて、前記鏡筒部の前記中心軸に直交する回転軸回りの角度を変更することによって、前記内視鏡の視野方向を変更することとしてもよい。
上記態様に係る手技支援プログラムは、前記撮像光学系によって取得される画像情報を処理することにより、前記観察対象を認識する工程をコンピュータに実行させることとしてもよい。
上記態様に係る手技支援プログラムは、前記撮像光学系によって取得される画像情報に基づいて、ユーザによって前記観察対象が指定されることとしてもよい。
本発明によれば、処置の工程および観察対象に応じた観察視野を術者に提供することにより、術者の手間を低減しかつ処置をスムーズにすることができるという効果を奏する。
本発明の第1実施形態に係る内視鏡システムの概略構成図である。 電動スコープの概略構成と相対パラメータの一例を説明する図である。 制御装置による制御方法を説明する図ある。 本発明の第1実施形態に係る手技支援方法および手技支援プログラムを説明するフローチャートである。 電動スコープの傾きとカメラの向きとの関係を説明する図である。 ベース座標から見た撮像光学系の向きを説明する図である。 観察対象の姿勢とカメラの向きとの関係を説明する図である。 観察対象に対する撮像光学系の向きを説明する図である。 長尺状の観察対象が走行する方向とカメラの光軸回りの傾きとの関係を説明する図である。 長尺状の観察対象が走行する方向がモニタの画面に対して横方向を向いた状態の内視鏡視野の一例を示す図である。 長尺状の観察対象が走行する方向に合わせて電動スコープのロール角を調整する方法を説明する図である。 患者または手術台の姿勢に合わせて電動スコープのロール角を調整する方法を説明する図である。 通常時の手術台または患者の座標とベース座標との関係を示す図である。 傾いた手術台または患者の座標と、キャリブレーションしてないベース座標との関係を示す図である。 傾いた手術台または患者の座標と、キャリブレーションしたベース座標との関係を示す図である。 通常時の手術台または患者の座標とベース座標との関係を示す図である。 傾いた手術台または患者の座標と、ライブラリデータをキャリブレーションしてない場合の電動スコープの向きとの関係を示す図である。 傾いた手術台または患者の座標と、ライブラリデータをキャリブレーションした場合の電動スコープの向きとの関係を示す図である。 AIによる手技シーンの判定に応じてメインコントローラがライブラリデータを切り替えることを説明する図である。 術者による手技シーンの特定に応じてメインコントローラがライブラリデータを切り替えることを説明する図である。 術者の指示に応じてメインコントローラがライブラリデータを切り替えることを説明する図である。 患者における処置位置に応じてメインコントローラがライブラリデータを切り替えることを説明する図である。 患者における刺入点を原点とした処置位置を説明する図である。 患者における刺入点を原点とした他の処置位置を説明する図である。 ライブラリデータとして視軸回りのロール角度を採用する場合の内視鏡システムの制御方法を説明する図ある。 俯瞰した内視鏡視野を作成する場合の内視鏡システムの制御方法を説明する図ある。 本発明の第2実施形態に係る内視鏡システムの斜視鏡の概略構成図である。 制御装置による制御方法を説明する図ある。 斜視鏡の視野方向が鏡筒部の長手軸回りに変化することを説明する図である。 斜視鏡の見上げの視野を説明する図である。 電動スコープの湾曲部をUP方向に30deg程度曲げたときの視野を説明する図である。 斜視鏡の見下げの視野を説明する図である。 電動スコープの湾曲部をDOWN方向に30deg程度曲げたときの視野を説明する図である。 カメラの視軸が軸線回りに回転することを説明する図である。 本発明の第3実施形態に係る内視鏡システムの直視鏡の概略構成図である。 制御装置による制御方法を説明する図ある。 カメラの視軸が軸線回りに回転することを説明する図である。 観察対象を内視鏡視野の中央において捉えた様子を示す図である。 観察対象が画面の中央に位置する様子を示す図である。 観察対象を画角の端で捉えた様子を示す図である。 観察対象を覗き込む角度の内視鏡視野によって、隠れて見えなかった箇所が見える様子を示す図である。
〔第1実施形態〕
本発明の第1実施形態に係る内視鏡システム、手技支援方法および手技支援プログラムについて図面を参照して以下に説明する。
本実施形態に係る内視鏡システム1は、図1に示されるように、患者の体腔内の画像を取得する電動スコープ(内視鏡)3と、電動スコープ3を支持するロボットアーム(電動アーム)5と、電動スコープ3およびロボットアーム5を制御する制御装置7等を備えている。図1において、符号9はビデオシステムセンタを示し、符号11はモニタを示している。ビデオシステムセンタ9は、電動スコープ3と制御装置7とに接続されている。モニタ11は、制御装置7に接続されている。
電動スコープ3は、図2に示されるように、患者の体腔内に挿入される長尺の挿入部(長尺部)13と、挿入部13の先端部に備えられたカメラ(撮像光学系)15と、挿入部13の長手軸に対するカメラ15の内視鏡視野の傾斜角度を変化させる湾曲部(視野方向変更部)17と、湾曲部17を駆動する湾曲モータおよび挿入部13を長手軸回りにロール回転させるロールモータ(いずれも図示略)とを備えている。
カメラ15は、例えば、少なくとも一つのレンズと、CCD(Charge Coupled Device)またはCMOS(Complementary Metal-Oxide-Semiconductor)等のイメージャとによって構成されている。カメラ15は、単眼カメラであってもよいし、ステレオカメラであってもよい。
また、電動スコープ3は、カメラ15の視野内に捉えた観察対象までの距離を測定する測距機能を有している。測距機能を実現する機構としては、公知の機構を採用することができる。
ロボットアーム5は、例えば、電動スコープ3を任意の位置に移動可能に保持する汎用の6軸多関節型ロボットの電動ホルダである。ロボットアーム5には、各関節を動作させるモータ(図示略)が関節ごとに備えられている。
制御装置7は、例えば、専用または汎用のコンピュータによって実現される。すなわち、制御装置7は、図1および図3に示されるように、CPU(Central Processing Unit)またはGPU(Graphics Processing Unit)等のメインコントローラ(プロセッサ)21、視野コントローラ(プロセッサ)23および位置姿勢コントローラ(プロセッサ)25と、これらの各コントローラ21,23,25の作業領域として使用されるRAM(Random Access Memory)等の主記憶装置(図示略)と、補助記憶装置(記憶装置)27とを備えている。
補助記憶装置27は、SSD(Solid State Drive)またはHDD(Hard Disk Drive)等のコンピュータ読み取り可能な非一時的な記録媒体である。補助記憶装置27には、各コントローラ21,23,25に処理を実行させる手技支援プログラムと、手技シーンごとに関連付けられた電動スコープ3の内視鏡視野を実現するための複数のライブラリデータとが記憶されている。主記憶装置および補助記憶装置27は、ネットワークを経由して制御装置7に接続されていることとしてもよい。
手技支援プログラムは、例えば、図4に示されるように、電動スコープ3によって取得される画像情報を処理することにより、カメラ15によって撮影される観察対象Sを認識する工程および手技シーンを特定する工程(ステップS2,S6)と、特定した手技シーンに関連付けられているライブラリデータを補助記憶装置27から呼び出す工程(ステップS3,S4)と、呼び出されたライブラリデータに基づいて、カメラ15の角度、電動スコープ3の位置および姿勢の少なくともいずれか一つを変化させる工程(ステップS4,S8)とを制御装置7の各コントローラ21,23,25によって実行させる。
メインコントローラ21は、ビデオシステムセンタ9から内視鏡画像を取り込むキャプチャボード29と、内視鏡画像と状態の信号を出力するグラフィックボード31とを備えている。メインコントローラ21は、内視鏡画像を処理することにより、内視鏡画像上の観察対象Sを認識するとともに、その内視鏡画像における手技シーンを特定する。そして、メインコントローラ21は、特定した手技シーンに対応付けられているライブラリデータを補助記憶装置27から呼び出す。
視野コントローラ23は、電動スコープ3に接続されており、電動スコープ3に湾曲動作指令を送る一方、電動スコープ3から湾曲角度情報を受け取る。
位置姿勢コントローラ25は、電動スコープ3およびロボットアーム5と、音声認識ユニット33とに接続されている。位置姿勢コントローラ25は、電動スコープ3に内視鏡動作指令を送る一方、電動スコープ3から挿入部13の長手軸回りの回転量が入力される。また、位置姿勢コントローラ25は、ロボットアーム5に内視鏡動作指令を送る一方、ロボットアーム5からロボットアーム5の位置および状態(姿勢)の信号を受け取る。
また、制御装置7には、各種ユーザインタフェース(UI)として、ヘッドセット(入力部)35、手元スイッチ(入力部)37およびフットスイッチ(入力部)39等が接続されている。ヘッドセット35により、術者は音声によって内視鏡動作指令および動作切替指令等を入力することができる。ヘッドセット35から入力される内視鏡動作指令および動作切替指令等は、音声認識ユニット33を経由することによって位置姿勢コントローラ25に送られる。
手元スイッチ37は、例えば処置具に取り付けられており、術者は手元の操作によって内視鏡動作指令を入力することができる。手元スイッチ37から入力される内視鏡動作指令は、音声認識ユニット33を経由することによって、位置姿勢コントローラ25に送られる。フットスイッチ39により、術者は足元の操作によって内視鏡動作指令および動作切替指令を入力することができる。フットスイッチ39から入力される内視鏡動作指令および動作切替指令は、メインコントローラ21に送られる。
補助記憶装置27に記憶される複数のライブラリデータは、電動スコープ3のカメラ15とカメラ15によって撮影される観察対象Sとの相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含んでいる。相対パラメータとしては、例えば、スコープ軸ロール角度情報、カメラ15と観察対象Sとの距離情報、および、電動スコープ3の湾曲部17の湾曲量情報等が挙げられる。
スコープ軸ロール角度情報は、図2に示されるように、電動スコープ3の挿入部13の長手軸回りの初期状態からのロール角度である。カメラ15と観察対象Sとの距離情報は、カメラ15の視軸に沿う方向のカメラ15と観察対象Sとの距離である。湾曲部17の湾曲量情報は、電動スコープ3のスコープ軸に対するカメラ15の向きである。以下、これらの情報をロール角度情報、距離情報および湾曲量情報という。つまり、補助記憶装置27には、各手技シーンに適した内視鏡視野がそれぞれ手技シーンごとに予め設定されており、それらの各内視鏡視野を実現するためのロール角度情報、距離情報および湾曲量情報の少なくともいずれか一つが、各手技シーンに対応付けられて記憶されている。
制御装置7は、任意の手技シーンに関連付けられているロール角度情報、距離情報および/または湾曲量情報を補助記憶装置27から呼び出した後、呼び出したこれらの各情報に基づいて電動スコープ3の湾曲部17およびロボットアーム5の少なくとも一方を制御する。
例えば、制御装置7は、補助記憶装置27から距離情報を呼び出した場合は、電動スコープ3の湾曲部17およびロボットアーム5の少なくとも一方を制御することにより、観察対象Sの画像情報から算出されるカメラ15と観察対象Sとの実際の距離を、呼び出した距離情報に一致させる。
具体的には、メインコントローラ21は、図3に示されるように、観察対象Sとの現在の距離測定値と補助記憶装置27から呼び出した距離情報とを比較することにより、カメラ15と観察対象Sとの距離を距離情報に一致させるための軌道を計算する。観察対象Sとの現在の距離測定値は、電動スコープ3の測距機能によって測定される。そして、メインコントローラ21は、ロボットアーム5の関節制御指令と電動スコープ3の湾曲角度指令とに振り分けた後、位置姿勢コントローラ25に関節制御指令を入力するとともに、視野コントローラ23に湾曲角度指令を入力する。
位置姿勢コントローラ25は、関節制御指令に従い、ロボットアーム5の逆運動学を用いることによって、カメラ15と観察対象Sとの距離を距離情報に一致させるために必要な各関節の駆動量を決定する。決定された各関節の駆動量は、各関節の角度指令(内視鏡動作指令)としてロボットアーム5の各モータに入力される。
一方、視野コントローラ23は、湾曲角度指令に従い、カメラ15と観察対象Sとの距離を距離情報に一致させるために必要な湾曲部17の湾曲角度を決定する。決定された湾曲部17の湾曲角度は、モータ角度指令(湾曲動作指令)として電動スコープ3のモータに入力される。
ロボットアーム5の各関節がそれぞれの角度指令に従って動作するとともに、電動スコープ3の湾曲部17がモータ角度指令に従って湾曲することにより、カメラ15と観察対象Sとの距離が距離情報に一致した内視鏡視野が得られる。
また、例えば、制御装置7は、補助記憶装置27から湾曲量情報を呼び出した場合は、電動スコープ3の湾曲部17およびロボットアーム5の少なくとも一方を制御することにより、観察対象Sの画像情報から算出される観察対象Sに対するカメラ15の向きを、呼び出した湾曲量情報に一致させる。
具体的には、メインコントローラ21は、湾曲部17の現在の湾曲量と補助記憶装置27から呼び出した湾曲量情報とを比較することにより、湾曲部17の湾曲量を湾曲量情報に一致させるための軌道を計算する。そして、メインコントローラ21は、ロボットアーム5の関節制御指令と電動スコープ3の湾曲角度指令とに振り分けた後、位置姿勢コントローラ25に関節制御指令を入力するとともに、視野コントローラ23に湾曲角度指令を入力する。
位置姿勢コントローラ25は、関節制御指令に従い、ロボットアーム5の逆運動学を用いることによって、湾曲部17の湾曲量を湾曲量情報に一致させるために必要な各関節の駆動量を決定する。決定された各関節の駆動量は、各関節の角度指令(内視鏡動作指令)としてロボットアーム5の各モータに入力される。
一方、視野コントローラ23は、湾曲角度指令に従い、湾曲部17の湾曲量を湾曲量情報に一致させるために必要な湾曲部17の湾曲角度を決定する。決定された湾曲部17の湾曲角度は、モータ角度指令(湾曲動作指令)として電動スコープ3のモータに入力される。
ロボットアーム5の各関節がそれぞれの角度指令に従って動作するとともに、電動スコープ3の湾曲部17がモータ角度指令に従って湾曲することにより、観察対象Sに対するカメラ15の向きが湾曲量情報に一致した内視鏡視野が得られる。
また、例えば、制御装置7は、補助記憶装置27からロール角度情報を呼び出した場合は、ロボットアーム5を制御することにより、観察対象Sの画像情報から算出されるカメラ15の光軸回りの観察対象Sの傾きを、呼び出したロール角度情報に一致させる。
具体的には、メインコントローラ21は、スコープ軸の現在のロール角度とロール角度情報とを比較することにより、スコープ軸のロール角度をロール角度情報に一致させるために必要なピボット点回りの位置および姿勢の変化量を決定する。決定されたピボット点回りの位置および姿勢の変化量は、位置姿勢指令として位置姿勢コントローラ25に入力される。位置姿勢指令は、例えば、電動スコープ3のロール角、ピッチ角、ヨー角および進退量を含んでいる。
位置姿勢コントローラ25は、位置姿勢指令に従い、ロボットアーム5の逆運動学を用いることによって、スコープ軸のロール角度をロール角度情報に一致させるために必要な各関節の駆動量を決定する。決定された各関節の駆動量は、各関節の角度指令(内視鏡動作指令)としてロボットアーム5の各モータに入力される。ロボットアーム5の各関節がそれぞれの角度指令に従って動作することにより、カメラ15の光軸回りの観察対象Sの傾きがロール角度情報に一致した内視鏡視野が得られる。
位置姿勢コントローラ25は、ロボットアーム5を制御すると、ロボットアーム5の順運動学を用いることによって、各関節の角度に基づいてオイラー角(ロール、ピッチ、ヨー)を計算する。これにより、スコープ軸の現在のロール角度が算出される。算出されたスコープ軸の現在のロール角度はメインコントローラ21に記憶される。
視野コントローラ23は、電動スコープ3の湾曲部17を制御すると、湾曲部17のモータ角度を湾曲量に換算することにより、湾曲部17の現在の湾曲量を算出する。算出された現在の湾曲量は、メインコントローラ21に記憶される。
次に、上記構成の内視鏡システム1、手技支援方法および手技支援プログラムの作用について、図4のフローチャートを参照して説明する。
本実施形態に係る内視鏡システム1、手技支援方法および手技支援プログラムによって、術者による手技を支援するには、まず、電動スコープ3が患者の体内に挿入される(ステップS1)。そして、電動スコープ3のカメラ15によって観察対象Sが撮影されることにより、画像情報が取得される。取得された画像情報は、ビデオシステムセンタ9を経由することによって、制御装置7のメインコントローラ21に入力される。
次いで、メインコントローラ21により、入力された画像情報が処理されることによって、観察対象Sが認識されるとともに手技シーンが特定される(ステップS2)。そして、メインコントローラ21により、特定された手技シーンに関連付けられているライブラリデータが補助記憶装置27から呼び出された後(ステップS3)、展開用の内視鏡視野が作成される(ステップS4)。展開とは、例えば、組織を切開したり視認したりし易くするために、助手の鉗子等によって周辺組織を牽引することにより周辺組織にテンションを加える操作をいう。
例えば、補助記憶装置27から呼び出されたライブラリデータが距離情報である場合は、メインコントローラ21により、カメラ15と観察対象Sとの現在の距離測定値と距離情報とに基づいて、カメラ15と観察対象Sとの距離を距離情報と一致させるための関節制御指令および湾曲角度指令が決定される。
次いで、位置姿勢コントローラ25により、関節制御指令に基づいて、ロボットアーム5の各関節の駆動量が決定される。同様に、視野コントローラ23により、湾曲角度指令に基づいて、湾曲部17の湾曲角度が決定される。そして、ロボットアーム5の各関節および電動スコープ3の湾曲部17がそれぞれの指令に従って動作することにより、カメラ15と観察対象Sとの距離が距離情報に一致する内視鏡視野が作成される。
また、例えば、補助記憶装置27から呼び出されたライブラリデータが湾曲量情報である場合は、メインコントローラ21により、湾曲部17の現在の湾曲量と湾曲量情報とに基づいて、湾曲部17の湾曲量を湾曲量情報と一致させるための関節制御指令および湾曲角度指令が決定される。
次いで、位置姿勢コントローラ25により、関節制御指令に基づいて、ロボットアーム5の各関節の駆動量が決定される。同様に、視野コントローラ23により、湾曲角度指令に従い、湾曲部17の湾曲角度が決定される。そして、ロボットアーム5の各関節および電動スコープ3の湾曲部17がそれぞれの指令に従って動作することにより、観察対象Sに対するカメラ15の向きが湾曲量情報に一致する内視鏡視野が作成される。
また、例えば、補助記憶装置27から呼び出されたライブラリデータがロール角度情報である場合は、メインコントローラ21により、スコープ軸の現在のロール角度とロール角度情報とに基づいて、スコープ軸のロール角度をロール角度情報に一致させるためのピボット点回りの位置姿勢指令が決定される。
次いで、位置姿勢コントローラ25により、位置姿勢指令に基づいて、各関節の駆動量が決定される。そして、ロボットアーム5の各関節がそれぞれの角度指令に従って動作することにより、カメラ15の光軸回りの観察対象Sの傾きがロール角度情報に一致する内視鏡視野が作成される。
次いで、作成された内視鏡視野において、助手の鉗子操作および展開の操作等が行われる(ステップS5)。
続いて、術者による実際の処置に移ると、メインコントローラ21により、カメラ15によって新たに取得された画像情報が処理されることによって、観察対象Sが認識されるとともに手技シーンが特定される(ステップS6)。そして、メインコントローラ21により、特定した手技シーンに関連付けられているライブラリデータが補助記憶装置27から呼び出された後(ステップS7)、呼び出されたライブラリデータに基づいて電動スコープ3およびロボットアームが制御されることによって、処置用の内視鏡視野が作成される(ステップS8)。処置の内使用視野の作成方法は、展開用の内視鏡視野方法と同様であるので、説明を省略する。
処置用の内視鏡視野が作成されると、作成された内視鏡視野において、術者による処置具の追従が開始される(ステップS9)。
以上説明したように、本実施形態に係る内視鏡システム1、手技支援方法および手技支援プログラムによれば、制御装置7の作動により、任意の手技シーンに関連付けられたライブラリデータが補助記憶装置27から呼び出された後、そのライブラリデータに基づいてロボットアーム5および電動スコープ3の湾曲部17の少なくとも一方が制御される。この場合において、各ライブラリデータが電動スコープ3のカメラ15と観察対象Sとの相対的な位置および姿勢に関する相対パラメータを含むので、手技シーンおよび観察対象Sの両方に応じた内視鏡視野を術者に提供することができる。したがって、術者の手間を低減しかつ処置をスムーズにすることができる。
本実施形態においては、補助記憶装置27からライブラリデータとして、距離情報、湾曲量情報およびロール角度情報のいずれか一つが呼び出される場合を例示して説明した。これに代えて、複数のライブラリデータが同時に呼び出されることとしてもよい。
例えば、補助記憶装置27からライブラリデータとして距離情報、湾曲量情報およびロール角度情報の3つが呼び出されると、位置姿勢コントローラ25により、関節制御指令および位置姿勢指令に基づいて、カメラ15と観察対象Sとの距離、湾曲部17の湾曲量およびスコープ軸のロール角度を、それぞれ距離情報、湾曲量情報およびロール角度情報に一致させるために必要な各関節の駆動量が決定される。
また、視野コントローラ23により、湾曲角度指令に基づいて、カメラ15と観察対象Sとの距離および湾曲部17の湾曲量を、それぞれ距離情報および湾曲量情報に一致させるために必要な湾曲部17の湾曲角度が決定される。
次いで、ロボットアーム5の各関節が各角度指令に従って動作するとともに、電動スコープ3の湾曲部17がモータ角度指令に従って湾曲することにより、カメラ15と観察対象Sとの距離、観察対象Sに対するカメラ15の向きおよびカメラ15の光軸回りの観察対象Sの傾きが、それぞれ距離情報、湾曲量情報およびロール角度情報に一致した内視鏡視野が作成される。
カメラ15と観察対象Sとの距離、電動スコープ3の湾曲量およびスコープ軸のロール角度の3つが決まると、観察対象Sを基準として電動スコープ3の位置および姿勢が一意に決まる。したがって、事前に患者ごとにデータ登録する必要が無く、異なる患者であっても同じ物理量で内視鏡視野を作成することができる。
本実施形態は以下のように変形することができる。
本実施形態においては、メインコントローラ21が、内視鏡画像を処理することによって観察対象Sを認識することとしたが、これに代えて、例えば、術者がヘッドセット35、手元スイッチ37およびフットスイッチ39等のユーザインタフェース(UI)によって、観察対象を指定することとしてもよい。同様に、メインコントローラ21が手技シーンを特定することに代えて、術者が手技シーンを特定することとしてもよい。
また、本実施形態においては、ライブラリデータとして、電動スコープ3の湾曲部17の湾曲量を例示して説明した。この場合、例えば、図5に示されるように、湾曲部17の湾曲量は同じでも、電動スコープ3の傾きによっては、観察対象Sに対するカメラ15の見上げ具合または見下ろし具合が変化する。
そこで、湾曲量情報に代えて、例えば、図6に示されるように、ロボットアーム5のベースの中心を原点とするベース座標から見たカメラ15の向き、すなわちベース座標を基準とした視軸の向きを示す情報をライブラリデータとして採用することとしてもよい。以下、この情報をベース座標から見た向き情報という。
ベース座標から見たカメラ15の向きは、ベース座標に対する電動スコープ3の傾きと湾曲部17の湾曲量との和で決まる。ある手技シーンにおいて、ベース座標から見たカメラ15の向きを、その手技シーンに関連付けられているベース座標から見た向き情報に一致させることにより、個体差等によって生体組織の位置の変化に応じて電動スコープ3の傾きが変わったとしても、カメラ15の向きが変わるのを防ぐことができる。したがって、設定登録時の内視鏡視野をより簡単に精度よく再現することができる。
また、ライブラリデータとして、湾曲部17の湾曲量情報および視軸の向き情報を採用した場合は、例えば、図7に示されるように、助手の鉗子の操作等によって観察対象Sの姿勢が変化すると、観察対象Sに対するカメラ15の覗き込む角度が相対的に変化することがある。
そこで、ライブラリデータとして、例えば、図8に示されるように、観察対象Sに対するカメラ15の向き、すなわち観察対象Sの座標から見た視軸の向きを示す情報を採用することとしてもよい。以下、この情報を対象から見た向き情報という。ある手技シーンにおいて、観察対象Sから見たカメラ15の向きを、その手技シーンに関連付けられている対象から見た向き情報に一致させることにより、臓器や生体組織の姿勢に応じてカメラ15の向きが決まる。したがって、助手の鉗子操作等によって生体組織側の姿勢または向きが変わったとしても、設定登録時と同じ内視鏡視野、すなわち覗き込み角度にすることができる。
また、ライブラリデータとして、スコープ軸ロール角度情報を採用する場合は、例えば図9に示されるように、腸または血管等の長尺状の観察対象Sが走行する方向のカメラ15の光軸回りの傾きを認識することとしてもよい。そして、ロール角度情報として、腸または血管等が走行する方向をモニタ11の画面の横方向または縦方向に向けるパラメータを設定してもよい。
実際の手技では、例えば、図10に示されるように、腸または血管が走行する方向、すなわち剥離ラインが延びる方向を、モニタ11の画面に対して横方向または縦方向に向ける視野の調整が行われる。ライブラリデータに基づく制御によって、腸または血管等が走行する方向をモニタ11の画面の横方向または縦方向に向けることにより、患者の個体差に、より対応した内視鏡視野を得ることができる。図10において、符号Aは腸を示し、符号Bは神経束を示し、符号CはIMA(Inferior Mesenteric Artery)を示し、符号Dは剥離ラインを示している。
この場合、例えば、図11に示されるように、腸または血管等の長尺状の観察対象Sが走行する方向を曲線によって近似した後、複数点の傾きを算出することによって、それらの傾きの平均角度を算出する。そして、電動スコープ3のロール角と、湾曲部17のUD(UP DOWN)方向およびLR(LEFT RIGHT)方向の湾曲角度とをそれぞれ調整することによって、平均角度と一致させることとしてもよい。
また、患者または手術台の座標を予め入力または検出することによって、例えば、図12に示されるように、患者または手術台の座標に対して電動スコープ3のロール角をZ軸方向(通常は鉛直上向き)に合わせることとしてもよい。
また、本実施形態においては、患者自身の傾きまたは患者が横たわる手術台の傾きに応じて、ライブラリデータまたはベース座標をキャリブレーションすることとしてもよい。例えば、図13A-13Cに示されるように、患者または手術台の傾きを検出した後、検出した傾きをベース座標に加えることによって、ベース座標を補正することとしてもよい。また、例えば、図14A-図14Cに示されるように、患者または手術台の傾きを検出した後、検出した傾きをライブラリデータに加えることによって、ライブラリデータを補正することとしてもよい。図13A-13Cおよび図14A-図14Cにおいて、符号Eは手術台または患者を示している。
また、本実施形態においては、手技の流れを予めプログラムしておき、処置の工程すなわち手技シーンに応じて、各手技シーンに関連付けられているライブラリデータに切り替えられることとしてもい。この場合、例えば、図15に示されるように、AI(Artificial Intelligence)によって処置の工程を判定することにより、メインコントローラ21がライブラリデータを切り替えることとしてもよい。
処置の工程とは、例えば、処置している解剖学的な場所または切開等の術者の操作である。AIにより、解剖学的な場所と切開等の術者の操作に基づいて、処置の工程が推定されることとしてもい。術者の操作としては、特定の血管の切離、出血に対する止血操作、脈管のクリップ、臓器の圧排操作および蛍光観察等が想定できる。
また、処置の工程は術者が認識することとしてもよい。例えば、術者が音声またはボタン操作等のUI(User Interface)を使用することによって、処置の工程を特定することとしてもよい。この場合、例えば、図16に示されるように、術者がUIによって処置の工程を特定することにより、メインコントローラ21がライブラリデータを切り替えることとしてもよい。
また、例えば、図17に示されるように、「次の処置の工程に移る」、「1つ前の処置の工程に戻る」または「IMAの切離の工程に移る」等の術者の指示に基づいて、メインコントローラ21が、指定された手技シーンに関連付けられているライブラリデータに切り替えることとしてもよい。
また、処置が進むにつれて患者に対するカメラ15の位置が変化するため、例えば、患者に対するカメラ15の位置および姿勢に基づいて、ライブラリデータが切り替えられることとしてもよい。図18および図19に示されるように、例えば、刺入点を原点、患者の頭側をゼロdeg、尾側を180degと定義した場合において、カメラ15の向きが図19の三角の枠内の処置を示す閾値A未満のとき(例えば、カメラ15の向きが210~150deg)は、メインコントローラ21が、「直腸後腔に入るシーン」に関連付けられているライブラリデータを設定することとしてもよい。図19において、符号Fは患者を示している。図20も同様である。
また、図18および図20に示されるように、カメラ15の向きが図20の三角の枠内の処置を示す閾値A以上かつ閾値B未満のとき(例えば、カメラ15の向きが150~120deg)は、メインコントローラ21が、「内側アプローチ前半」に関連付けられているライブラリデータに切り替えることとしてもよい。
メインコントローラ21は、AIを用いた組織認識によって認識した生体組織を観察対象Sとしてもよい。血管または臓器等の組織を予め機械学習等によって学習しておくことにより、学習済みの組織が画像内に映りこんだ際に、メインコントローラ21によって自動的に観察対象Sとして設定することができる。
また、メインコントローラ21は、術者がUIを使用することによって指定した生体組織を観察対象Sとして認識してもよい。この場合、術者がタッチパネル等のUIを使用することによって、観察対象Sとする制裁組織を指定してもよいし、鉗子等の先端によって指し示した生体組織上の点を記憶することによって、記憶した生体組織を観察対象Sとしてもよい。このようにすることで、予め学習しておく必要が無い分、様々な生体組織を観察対象Sとして簡単に設定することができる。
また、本実施形態においては、ライブラリデータとして、スコープ軸ロール角度を例示して説明したが、これに代えて、例えば、湾曲部17よりも先端側のカメラ15の光軸回り、すなわち視軸回りのロール角度を採用することとしてもよい。この場合、例えば、図21に示されるように、位置姿勢コントローラ25は、ロボットアーム5の順運動学に加えて電動スコープ3の手先の順運動学を用いることによって、ロボットアーム5の各関節の角度に基づいてオイラー角(ロール、ピッチ、ヨー)を計算することとすればよい。
また、本実施形態は、患者の刺入点付近、例えばトロッカ付近まで電動スコープ3を後退させることによって俯瞰した内視鏡視野を作成した状態で、展開操作する際にも適用することができる。この場合、ライブラリデータとしては、例えば、図22に示されるように、湾曲部17の湾曲量がゼロの湾曲量情報、電動スコープ3の進退量がゼロのスコープ軸進退量情報、および、ロール角度が所望の値のスコープ軸ロール角度情報とを採用することとしてもよい。湾曲部17の湾曲量がゼロの状態は、湾曲部17が挿入部13の長手軸方向を向いた状態である。電動スコープ3の進退量がゼロの状態は、電動スコープ3が患者の刺入点付近に位置する状態である。
このようなライブラリデータに基づく制御により、湾曲部17の湾曲量がゼロに戻された後、電動スコープ3の進退量がゼロ、すなわち抜去リミットまで後退されるとともに、電動スコープ3のロール角度が調整される。湾曲部17が挿入部13の長手軸に沿って真っすぐに延びた状態で電動スコープ3がトロッカ付近まで後退されることにより、完全に俯瞰した内視鏡視野を作成することができる。この場合、位置姿勢コントローラ25は、ロボットアーム5の順運動学を用いることによって、ロボットアーム5の各関節の角度に基づいて電動スコープ3の現在の進退量を計算することとしてもよい。算出された電動スコープ3の現在の進退量はメインコントローラ21に記憶される。
〔第2実施形態〕
次に、本発明の第2実施形態に係る内視鏡システム、手技支援方法および手技支援プログラムについて説明する。
本実施形態に係る内視鏡システム1は、電動スコープ3に代えて、図23に示されるように、湾曲部17を備えない斜視鏡(内視鏡)41を備える点で第1実施形態と異なる。
以下、第1実施形態に係る内視鏡システム1、手技支援方法および手技支援プログラムと構成を共通する箇所には、同一符号を付して説明を省略する。
斜視鏡41は、患者の体腔内に挿入される長尺の鏡筒部43と、鏡筒部43の先端部に備えられたカメラ(撮像光学系)15とを備えている。斜視鏡41は、鏡筒部43の長手軸(中心軸)に対してカメラ15の光軸が傾斜した状態で配置されている。鏡筒部43は、鏡筒部43の長手軸に対して傾斜しかつカメラ15の光軸に直交する先端面43aを有している。符号45は、ロボットアーム5によって支持される取付部である。また、斜視鏡41は測距機能を有している。
斜視鏡41には、図24に示されるように、電動のアタッチメント(視野方向変更部)47が内蔵されている。電動のアタッチメント47は、鏡筒部43を長手軸回りに回転させる鏡筒部用モータ、および、カメラ15の視軸を軸線回りに回転させる図示しないイメージローテータを回転駆動する視軸用モータ等(いずれも図示略)によって構成されている。
鏡筒部用モータの駆動により、鏡筒部43が長手軸回りに回転することによって、図25に示されるように、鏡筒部43の長手軸に対して一定の角度を有する先端面43aが向く方向およびカメラ15の光軸方向、すなわち斜視鏡41の視野方向を鏡筒部43の長手軸回りに変化させることができる。
斜視鏡41の鏡筒部43を長手軸回りに回転させることは、電動スコープ3において、湾曲量を一定として、湾曲部17の湾曲方向におけるUP、DOWN、LEFTおよびRIGHTの配分を変えることと同等である。例えば図26に示されるように、斜視鏡41の先端面43aおよびカメラ15を斜め上方に向けたときの見上げの視野は、図27に示されるように、電動スコープ3の湾曲部17をUP方向に30deg程度曲げたときの視野と同等である。また、例えば図28に示されるように、斜視鏡41の先端面43aおよびカメラ15を斜め下方に向けたときの見下ろしの視野は、図29に示されるように、電動スコープ3の湾曲部17をDOWN方向に30deg程度曲げたときの視野と同等である。
また、視軸用モータの駆動により、例えば図30に示されるように、カメラ15の視軸を軸線回りに回転させることによって、カメラ15によって取得される内視鏡画像の天地方向を視軸回りに回転させることができる。
補助記憶装置27に記憶される複数のライブラリデータは、斜視鏡41のカメラ15とカメラ15によって撮影される観察対象Sとの相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含んでいる。相対パラメータとしては、例えば、カメラ15と観察対象Sとの距離情報、鏡筒部43の長手軸回りの回転角度情報、および、視軸回りのロール角度情報等が挙げられる。視軸回りのロール角度情報は、カメラ15の視軸の軸線回りの角度である。以下、これらの情報を距離情報、鏡筒部角度情報および視軸回りのロール角度情報という。補助記憶装置27には、手技シーンごとに予め設定された各内視鏡視野を実現するための距離情報、鏡筒部角度情報および視軸回りのロール角度情報の少なくともいずれか一つが、各手技シーンに対応付けられて記憶されている。
手技支援方法は、カメラ15の角度、電動スコープ3の位置および姿勢の少なくともいずれか一つを変化させる工程(第1実施形態のステップS4,S8)に代えて、呼び出されたライブラリデータに基づいて、鏡筒部43の長手軸回りの角度、斜視鏡41の位置および姿勢の少なくともいずれか一つを変化させる工程を含む。手技支援プログラムは、その工程を制御装置7の各コントローラ21,23,25によって実行させる。
制御装置7は、例えば、補助記憶装置27から距離情報を呼び出した場合は、電動のアタッチメント47およびロボットアーム5の少なくとも一方を制御することにより、観察対象Sの画像情報から算出されるカメラ15と観察対象Sとの実際の距離を、呼び出した距離情報に一致させる。具体的には、メインコントローラ21は、図24に示されるように、観察対象Sとの現在の距離測定値と呼び出した距離情報とを比較することにより、カメラ15と観察対象Sとの距離を距離情報に一致させるための軌道を計算する。そして、メインコントローラ21は、ピボット点回りの位置および姿勢の変化量を示す位置姿勢指令と、視軸回りの角度指令と、鏡筒部角度指令とに振り分けた後、位置姿勢コントローラ25に位置姿勢指令を入力するとともに、視野コントローラ23に視軸回りの角度指令および鏡筒部角度指令を入力する。
位置姿勢コントローラ25は、位置姿勢指令に従い、ロボットアーム5の逆運動学を用いることによって、カメラ15と観察対象Sとの距離を距離情報に一致させるために必要な各関節の駆動量を決定する。決定された各関節の駆動量は、各関節の角度指令(内視鏡動作指令)としてロボットアーム5の各モータに入力される。
一方、視野コントローラ23は、視軸回りの角度指令および鏡筒部角度指令に従い、カメラ15と観察対象Sとの距離を距離情報に一致させるために必要な視軸回りの回転角度および鏡筒部43の回転角度を決定する。決定された視軸回りの回転角度および鏡筒部43の回転角度は、それぞれモータ角度指令として電動のアタッチメント47の視軸用モータおよび鏡筒部用モータに入力される。
ロボットアーム5の各関節がそれぞれの角度指令に従って動作するとともに、電動のアタッチメント47の各モータが各モータ角度指令に従って駆動することにより、カメラ15と観察対象Sとの距離が距離情報に一致した内視鏡視野が得られる。
また、制御装置7は、補助記憶装置27から鏡筒部角度情報を呼び出した場合は、まず、メインコントローラ21によって、鏡筒部43の長手軸回りの現在の角度と呼び出した鏡筒部角度情報とを比較することにより、鏡筒部43の回転角度を鏡筒部角度情報に一致させるための軌道を計算する。そして、位置姿勢コントローラ25および視野コントローラ23によって、電動のアタッチメント47およびロボットアーム5の少なくとも一方を制御する。これにより、観察対象Sの画像情報から算出される鏡筒部43の長手軸回りの角度を、呼び出した鏡筒部角度情報に一致させる。位置姿勢コントローラ25および視野コントローラ23による制御は、距離情報の場合と同様であるので説明を省略する。
また、制御装置7は、補助記憶装置27から視軸回りのロール角度情報を呼び出した場合は、メインコントローラ21によって、カメラ15の視軸の軸線回りの現在の角度と呼び出した視軸回りのロール角度情報とを比較することにより、視軸の軸線回りの角度を視軸回りのロール角度情報に一致させるための軌道を計算する。そして、位置姿勢コントローラ25および視野コントローラ23によって、電動のアタッチメント47およびロボットアーム5の少なくとも一方を制御することにより、観察対象Sの画像情報から算出されるカメラ15の視軸の軸線回りの角度を、呼び出した視軸回りのロール角度情報に一致させる。位置姿勢コントローラ25および視野コントローラ23による制御は、距離情報の場合と同様であるので説明を省略する。
視野コントローラ23は、電動のアタッチメント47の鏡筒部用モータを駆動すると、鏡筒部用モータのモータ角度を鏡筒部43の長手軸回りの角度量に換算することにより、鏡筒部43の現在の角度量を算出する。また、視野コントローラ23は、電動のアタッチメント47の視軸用モータを駆動すると、視軸用モータのモータ角度を視軸の軸線回りの角度量に換算することにより、視軸の軸線回りの現在の角度量を算出する。算出された鏡筒部43の現在の角度量および視軸の軸線回りの現在の角度量は、それぞれメインコントローラ21に記憶される。
本実施形態に係る内視鏡システム1、手技支援方法および手技支援プログラムによれば、各ライブラリデータが斜視鏡41のカメラ15と観察対象Sとの相対的な位置および姿勢に関する相対パラメータを含むので、手技シーンおよび観察対象Sの両方に応じた内視鏡視野を術者に提供することができる。この場合において、例えば、鏡筒部角度情報に基づいて、鏡筒部43の長手軸回りの角度が変更されると、鏡筒部43の長手軸に対して一定の角度を有する斜視鏡41の視野方向が鏡筒部43の長手軸回りに変化することによって、斜視鏡41の視野方向が斜め上方または斜め下方等に切り替えられる。これにより、鏡筒部43を長手軸回りに回転させるだけで、斜視鏡41の視野方向を所望の観察対象に向けることができる。したがって、内視鏡として斜視鏡41を採用した場合であっても、術者が指定した観察対象を内視鏡視野に容易に入れることができる。
〔第3実施形態〕
次に、本発明の第3実施形態に係る内視鏡システム、手技支援方法および手技支援プログラムについて説明する。
本実施形態に係る内視鏡システム1は、電動スコープ3および斜視鏡41に代えて、例えば、図31に示されるように、湾曲部17を備えない直視鏡(内視鏡)51を備える点で第1,第2実施形態と異なる。
以下、第1,第2実施形態に係る内視鏡システム1、手技支援方法および手技支援プログラムと構成を共通する箇所には、同一符号を付して説明を省略する。
直視鏡51は、患者の体腔内に挿入される長尺の鏡筒部53と、鏡筒部53の先端部に備えられたカメラ(撮像光学系)15とを備えている。直視鏡51は、鏡筒部53の長手軸(中心軸)とカメラ15の光軸とが一致した状態で配置されている。鏡筒部53は、鏡筒部53の長手軸およびカメラ15の光軸に直交する先端面53aを有している。符号55は、ロボットアーム5によって支持される取付部である。また、直視鏡51は測距機能を有している。
直視鏡51には、図32に示されるように、電動のアタッチメント57が内蔵されている。電動のアタッチメント57は、カメラ15の視軸を軸線回り、すなわち鏡筒部53の長手軸回りに回転させる視軸用モータ等によって構成されている。直視鏡51は、図33に示されるように、カメラ15の視軸を軸線回りに回転させることによって、カメラ15によって取得される内視鏡画像の天地方向を視軸回りに回転させることができる。
ロボットアーム5は、モニタ11の画面上の観察対象を捉える位置の変更に応じて、鏡筒部53の長手軸に直交するピボット軸(回転軸)回りの角度を変更する視野方向変更部として機能する。例えば、生体組織等における観察対象がモニタ11の画面中央で捉えられている状態から、観察対象を捉える位置を画面上方の端に変更すると、図34および図36に示されるように、直視鏡51の取付部55をピボット点Pとして、ピボット点P回りの角度が変更される。これにより、直視鏡51の視野方向が、画面上方の端で観察対象を捉える向きに変更される結果、例えば図35および図37に示されるように、モニタ11の画面上の観察対象の位置がカメラ15の光軸に交差する方向にオフセットされる。
図34および図35に示されるように、観察対象を内視鏡視野の中央において捉えた場合は、観察対象が画面の中央に位置するものの、隠れて見え難い箇所がある。これに対し、図36および図37に示されるように、観察対象を画角の端で捉えた場合は、観察対象が画面の端に位置し、隠れて見えなかった箇所が見える状態になる。つまり、直視鏡51の視野方向を、観察対象を画角の端で捉える向きに変更することにより、観察対象を覗き込む角度の内視鏡視野を得ることができる。図34,36において、符号59は処置具を示し、符号Sは観察対象を示している。
補助記憶装置27に記憶される複数のライブラリデータは、直視鏡51のカメラ15とカメラ15によって撮影される観察対象Sとの相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含んでいる。相対パラメータとしては、例えば、カメラ15と観察対象Sとの距離情報、画面上の観察対象を捉える位置情報、および、視軸回りのロール角度情報等が挙げられる。以下、これらの情報を距離情報、対象位置情報および視軸回りのロール角度情報という。補助記憶装置27には、手技シーンごとに予め設定された各内視鏡視野を実現するための距離情報、対象位置情報および視軸回りのロール角度情報の少なくともいずれか一つが、各手技シーンに対応付けられて記憶されている。例えば、ヘッドセット35による音声操作または手元スイッチ37によるボタン操作等によって、モニタ11の画面上の観察対象を捉えたい所望の位置を対象位置情報として設定することとしてもよい。
手技支援方法は、カメラ15の角度、電動スコープ3の位置および姿勢の少なくともいずれか一つを変化させる工程(第1実施形態のステップS4,S8)に代えて、呼び出されたライブラリデータに基づいて、直視鏡51のピボット点P回りの角度、直視鏡51の位置および姿勢の少なくともいずれか一つを変化させる工程を含み、手技支援プログラムは、その工程を制御装置7の各コントローラ21,23,25によって実行させる。
制御装置7は、例えば、補助記憶装置27から距離情報を呼び出した場合は、電動のアタッチメント57およびロボットアーム5の少なくとも一方を制御することにより、観察対象Sの画像情報から算出されるカメラ15と観察対象Sとの実際の距離を、呼び出した距離情報に一致させる。具体的には、メインコントローラ21は、図32に示されるように、観察対象Sとの現在の距離測定値と呼び出した距離情報とを比較することにより、カメラ15と観察対象Sとの距離を距離情報に一致させるための軌道を計算する。そして、メインコントローラ21は、ピボット点回りの位置および姿勢の変化量を示す位置姿勢指令と視軸回りの角度指令とに振り分けた後、位置姿勢コントローラ25に位置姿勢指令を入力するとともに、視野コントローラ23に視軸回りの角度指令を入力する。
位置姿勢コントローラ25は、位置姿勢指令に従い、ロボットアーム5の逆運動学を用いることによって、カメラ15と観察対象Sとの距離を距離情報に一致させるために必要な各関節の駆動量を決定する。決定された各関節の駆動量は、各関節の角度指令(内視鏡動作指令)としてロボットアーム5の各モータに入力される。
一方、視野コントローラ23は、視軸回りの角度指令に従い、カメラ15と観察対象Sとの距離を距離情報に一致させるために必要な視軸回りの回転角度を決定する。決定された視軸回りの回転角度は、モータ角度指令として電動のアタッチメント57の視軸用モータに入力される。
ロボットアーム5の各関節がそれぞれの角度指令に従って動作するとともに、電動のアタッチメント57の視軸用モータがモータ角度指令に従って回転することにより、カメラ15と観察対象Sとの距離が距離情報に一致した内視鏡視野が得られる。
また、制御装置7は、補助記憶装置27から対象位置情報を呼び出した場合は、メインコントローラ21によって、モニタ11の画面上の観察対象の現在の位置と呼び出した対象位置情報とを比較することにより、モニタ11の画面上の観察対象の位置を対象位置情報に一致させるための軌道を計算する。そして、位置姿勢コントローラ25および視野コントローラ23によって、電動のアタッチメント57およびロボットアーム5の少なくとも一方を制御する。これにより、観察対象Sの画像情報から算出される画面上の観察対象の位置を、呼び出した対象位置情報に一致させる。位置姿勢コントローラ25および視野コントローラ23による制御は、距離情報の場合と同様であるので説明を省略する。
また、制御装置7は、補助記憶装置27から視軸回りのロール角度情報を呼び出した場合は、メインコントローラ21によって、カメラ15の視軸の軸線回りの現在の角度と呼び出した視軸回りのロール角度情報とを比較することにより、視軸の軸線回りの角度を視軸回りのロール角度情報に一致させるための軌道を計算する。そして、位置姿勢コントローラ25および視野コントローラ23によって、電動のアタッチメント57およびロボットアーム5の少なくとも一方を制御することにより、観察対象Sの画像情報から算出されるカメラ15の視軸の軸線回りの角度を、呼び出した視軸回りのロール角度情報に一致させる。位置姿勢コントローラ25および視野コントローラ23による制御は、距離情報の場合と同様であるので説明を省略する。
視野コントローラ23は、電動のアタッチメント57の視軸用モータを駆動すると、視軸用モータのモータ角度を視軸の軸線回りの角度量に換算することにより、視軸の軸線回りの現在の角度量を算出する。算出された現在の角度量は、メインコントローラ21に記憶される。
本実施形態に係る内視鏡システム1、手技支援方法および手技支援プログラムによれば、各ライブラリデータが直視鏡51のカメラ15と観察対象Sとの相対的な位置および姿勢に関する相対パラメータを含むので、手技シーンおよび観察対象Sの両方に応じた内視鏡視野を術者に提供することができる。この場合において、例えば、対象位置情報に基づいて、モニタ11の画面上の観察対象を捉える位置が画面の端に変更されると、直視鏡51のピボット軸P回りの角度が変更されることによって、直視鏡51の視野方向が、観察対象を画角の端で捉える向きに変更される。これにより、観察対象を覗き込む角度の内視鏡視野を作成することができる。したがって、内視鏡として直視鏡51を採用した場合であっても、術者が指定した観察対象を内視鏡視野に容易に入れることができる。
以上、本発明の各実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。例えば、本発明を上記各実施形態および各変形例に適用したものに限定されることなく、これらの実施形態および変形例を適宜組み合わせた実施形態に適用してもよく、特に限定されるものではない。
また、例えば、補助記憶装置27が、ライブラリデータごとに、各ライブラリデータを特定可能なメタデータとともに記憶しておくこととしてもよい。この場合、メインコントローラ21は、術者が手技シーンに応じて入力するメタデータを取得することとしてもよいし、あるいは、画像情報を処理することによって特定される手技シーンに対応するメタデータを取得することとしてもよい。そして、メインコントローラ21は、取得したメタデータに対応するライブラリデータを補助記憶装置27から呼び出すこととしてもよい。
また、例えば、本実施形態においては、電動アームとして6軸多関節型ロボットのロボットアーム5を例示して説明したが、電動アームは6自由度である必要はなく、それよりも少ない自由度のロボットアームであってもよい。例えば、ロール軸と2個のピッチ軸からなり、先端が3自由度動作可能な3つの関節を持つロボットアームを採用することとしてもよい。この場合、例えば、ロボットアームが電動スコープ3を回転させる電動アタッチメントを有していてもよい。また、先端にロール関節を有する4自由度構成のロボットアームを採用することとしてもよい。
1 内視鏡システム
3 電動スコープ(内視鏡)
5 ロボットアーム(電動アーム、視野方向変更部)
13 挿入部(長尺部)
17 湾曲部
21 メインコントローラ(プロセッサ)
23 湾曲コントローラ(プロセッサ)
25 位置姿勢コントローラ(プロセッサ)
27 補助記憶装置(記憶装置)
35 ヘッドセット(入力部)
37 手元スイッチ(入力部)
39 フットスイッチ(入力部)
41 斜視鏡(内視鏡)
43 鏡筒部
47 電動のアタッチメント(視野方向変更部)
51 直視鏡(内視鏡)
53 鏡筒部
S 観察対象

Claims (30)

  1. 観察対象を撮影する撮像光学系を備える内視鏡と、
    該内視鏡を支持した状態で前記内視鏡の位置および姿勢を変化させる電動アームと、
    前記内視鏡の視野方向を変更可能な視野方向変更部と、
    手技シーンごとに関連付けられた内視鏡視野を実現するための複数のライブラリデータを記憶する記憶装置と、
    少なくとも1つのプロセッサとを備え、
    前記ライブラリデータが、前記撮像光学系と前記観察対象との相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含み、
    前記内視鏡が、先端部に前記撮像光学系が配置された長尺部を備え、
    前記視野方向変更部が、前記内視鏡における前記撮像光学系の角度を変更可能な湾曲部であり、
    前記ライブラリデータが、ベース座標上の前記長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含み、
    前記プロセッサが、任意の前記手技シーンに関連付けられている前記ライブラリデータを前記記憶装置から呼び出した後、呼び出した前記ライブラリデータに基づいて前記視野方向変更部および前記電動アームの少なくとも一方を制御する内視鏡システム。
  2. 前記プロセッサが、前記撮像光学系によって取得される画像情報を処理することにより前記手技シーンを特定した後、特定した前記手技シーンに対応付けられている前記ライブラリデータを前記記憶装置から呼び出す請求項1に記載の内視鏡システム。
  3. 前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、
    前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させる請求項1に記載の内視鏡システム。
  4. 前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、
    前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させる請求項2に記載の内視鏡システム。
  5. 前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、
    前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させる請求項1に記載の内視鏡システム。
  6. 前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、
    前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させる請求項2に記載の内視鏡システム。
  7. 前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、
    前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させる請求項1に記載の内視鏡システム。
  8. 前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、
    前記プロセッサが、前記視野方向変更部および前記電動アームの少なくとも一方を制御することにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させる請求項2に記載の内視鏡システム。
  9. 前記プロセッサが、前記撮像光学系によって取得される画像情報を処理することにより、前記観察対象を認識する請求項1から請求項のいずれかに記載の内視鏡システム。
  10. 前記撮像光学系によって取得される画像情報に基づいてユーザに前記観察対象を指定させる入力部を備える請求項1から請求項のいずれかに記載の内視鏡システム。
  11. プロセッサが、
    手技シーンごとに関連付けられた内視鏡視野を実現するための複数のライブラリデータの内、任意の手技シーンに関連付けられた前記ライブラリデータを記憶装置から呼び出す工程と、
    呼び出された前記ライブラリデータに基づいて、観察対象を撮影する内視鏡の視野方向変更部の視野方向、位置および姿勢の少なくともいずれか一つを変化させる工程とを含み、
    各前記ライブラリデータが、前記内視鏡の撮像光学系と前記観察対象との相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含み、
    前記内視鏡が、先端部に前記撮像光学系が配置された長尺部と、前記撮像光学系の角度を変更可能な湾曲部とを備え、
    該湾曲部により前記撮像光学系の角度を変更することによって、前記内視鏡の視野方向が変更され、
    前記ライブラリデータが、ベース座標上の前記長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含む内視鏡システムの作動方法。
  12. 前記プロセッサが、前記撮像光学系によって取得される画像情報を処理することにより前記手技シーンを特定した後、特定された前記手技シーンに対応付けられている前記ライブラリデータを前記記憶装置から呼び出す請求項11に記載の内視鏡システムの作動方法。
  13. 前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、
    前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させる請求項11に記載の内視鏡システムの作動方法。
  14. 前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、
    前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させる請求項12に記載の内視鏡システムの作動方法。
  15. 前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、
    前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させる請求項11に記載の内視鏡システムの作動方法。
  16. 前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、
    前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させる請求項12に記載の内視鏡システムの作動方法。
  17. 前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、
    前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させる請求項11に記載の内視鏡システムの作動方法。
  18. 前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、
    前記プロセッサが、前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させる請求項12に記載の内視鏡システムの作動方法。
  19. 前記撮像光学系によって取得される画像情報が前記プロセッサによって処理されることにより、前記観察対象が認識される請求項11から請求項18のいずれかに記載の内視鏡システムの作動方法。
  20. 前記撮像光学系によって取得される画像情報に基づいて、ユーザによって前記観察対象が指定される請求項11から請求項18のいずれかに記載の内視鏡システムの作動方法。
  21. 手技シーンごとに関連付けられた内視鏡視野を実現するための複数のライブラリデータの内、任意の手技シーンに関連付けられた前記ライブラリデータを記憶装置から呼び出す工程と、
    呼び出された前記ライブラリデータに基づいて、観察対象を撮影する内視鏡の視野方向変更部の視野方向、位置および姿勢の少なくともいずれか一つを変化させる工程とをコンピュータに実行させ、
    各前記ライブラリデータが、前記内視鏡の撮像光学系と観察対象との相対的な位置および姿勢に関する相対パラメータを少なくとも1つ含み、
    前記内視鏡が、先端部に前記撮像光学系が配置された長尺部と、前記撮像光学系の角度を変更可能な湾曲部とを備え、
    該湾曲部により前記撮像光学系の角度を変更することによって、前記内視鏡の視野方向が変更され、
    前記ライブラリデータが、ベース座標上の前記長尺部の長手軸の傾きと前記湾曲部の湾曲量との和によって決定される、ベース座標上の前記撮像光学系の向きに関するパラメータを含む手技支援プログラム。
  22. 前記撮像光学系によって取得される画像情報を処理することにより前記手技シーンを特定する工程と、
    特定された前記手技シーンに対応付けられている前記ライブラリデータを前記記憶装置から呼び出す工程とをコンピュータに実行させる請求項21に記載の手技支援プログラム。
  23. 前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、
    前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させる請求項21に記載の手技支援プログラム。
  24. 前記相対パラメータが、前記撮像光学系と前記観察対象との距離情報であり、
    前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系と前記観察対象との距離を前記距離情報に一致させる請求項22に記載の手技支援プログラム。
  25. 前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、
    前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させる請求項21に記載の手技支援プログラム。
  26. 前記相対パラメータが、前記観察対象に対する前記撮像光学系の向き情報であり、
    前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記観察対象に対する前記撮像光学系の向きを前記向き情報に一致させる請求項22に記載の手技支援プログラム。
  27. 前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、
    前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させる請求項21に記載の手技支援プログラム。
  28. 前記相対パラメータが、前記撮像光学系の光軸に直交する方向に延びる長尺状の前記観察対象の前記光軸回りの傾き情報であり、
    前記内視鏡の視野方向、位置および姿勢の少なくともいずれか一つを変化させることにより、前記撮像光学系によって取得される画像情報から算出される前記撮像光学系の光軸回りの長尺状の前記観察対象の傾きを前記傾き情報に一致させる請求項22に記載の手技支援プログラム。
  29. 前記撮像光学系によって取得される画像情報を処理することにより、前記観察対象を認識する工程をコンピュータに実行させる請求項21から請求項28のいずれかに記載の手技支援プログラム。
  30. 前記撮像光学系によって取得される画像情報に基づいて、ユーザによって前記観察対象が指定される請求項21から請求項28のいずれかに記載の手技支援プログラム。
JP2024514208A 2022-04-05 2023-03-17 内視鏡システム、内視鏡システムの作動方法および手技支援プログラム Active JP7854499B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202263327416P 2022-04-05 2022-04-05
US63/327,416 2022-04-05
PCT/JP2023/010648 WO2023195326A1 (ja) 2022-04-05 2023-03-17 内視鏡システム、手技支援方法および手技支援プログラム

Publications (3)

Publication Number Publication Date
JPWO2023195326A1 JPWO2023195326A1 (ja) 2023-10-12
JPWO2023195326A5 JPWO2023195326A5 (ja) 2024-12-19
JP7854499B2 true JP7854499B2 (ja) 2026-05-01

Family

ID=88242717

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2024514208A Active JP7854499B2 (ja) 2022-04-05 2023-03-17 内視鏡システム、内視鏡システムの作動方法および手技支援プログラム

Country Status (3)

Country Link
US (1) US20250009213A1 (ja)
JP (1) JP7854499B2 (ja)
WO (1) WO2023195326A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017158764A (ja) 2016-03-09 2017-09-14 ソニー株式会社 画像処理装置、画像処理方法、及び記録媒体
WO2018225132A1 (ja) 2017-06-05 2018-12-13 オリンパス株式会社 医療システムおよび医療システムの作動方法
WO2022054884A1 (ja) 2020-09-10 2022-03-17 オリンパス株式会社 内視鏡システム、制御装置、制御方法および記録媒体

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3810165B2 (ja) * 1996-12-19 2006-08-16 オリンパス株式会社 内視鏡装置
KR102427736B1 (ko) * 2020-03-02 2022-07-29 고려대학교 산학협력단 수술 영상 분석 기반의 복강경 카메라 조종 로봇 및 이를 이용한 복강경 카메라 촬영 뷰 조정 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017158764A (ja) 2016-03-09 2017-09-14 ソニー株式会社 画像処理装置、画像処理方法、及び記録媒体
WO2018225132A1 (ja) 2017-06-05 2018-12-13 オリンパス株式会社 医療システムおよび医療システムの作動方法
WO2022054884A1 (ja) 2020-09-10 2022-03-17 オリンパス株式会社 内視鏡システム、制御装置、制御方法および記録媒体

Also Published As

Publication number Publication date
WO2023195326A1 (ja) 2023-10-12
JPWO2023195326A1 (ja) 2023-10-12
US20250009213A1 (en) 2025-01-09

Similar Documents

Publication Publication Date Title
KR101320379B1 (ko) 의료용 로봇 시스템의 컴퓨터 표시부 상에 보조 이미지의표시 및 조작
JP7160033B2 (ja) 入力制御装置、入力制御方法、および手術システム
JP6218634B2 (ja) 内視鏡システム及び内視鏡の作動方法
JP4152402B2 (ja) 手術支援装置
JP2020156800A (ja) 医療用アームシステム、制御装置、及び制御方法
EP3426128B1 (en) Image processing device, endoscopic surgery system, and image processing method
US20250117073A1 (en) Systems and methods for facilitating optimization of an imaging device viewpoint during an operating session of a computer-assisted operation system
JP2021531910A (ja) ロボット操作手術器具の位置を追跡システムおよび方法
WO2022073290A1 (zh) 手术机器人及其图形化控制装置、图形化显示方法
CN113993478B (zh) 医疗工具控制系统、控制器和非暂时性计算机可读存储器
KR20220079693A (ko) 눈 시선 추적을 사용하는 의료 디바이스, 시스템, 및 방법
KR20140139840A (ko) 디스플레이 장치 및 그 제어방법
JP2023507063A (ja) 手術中に画像取込装置を制御するための方法、装置、およびシステム
JPWO2020054566A1 (ja) 医療用観察システム、医療用観察装置及び医療用観察方法
CN115517615B (zh) 内窥镜主从运动控制方法及手术机器人系统
JP4027876B2 (ja) 体腔内観察システム
JP3532660B2 (ja) 体腔内観察装置
CN114760903A (zh) 用于在外科手术期间控制图像捕获设备的方法、装置、以及系统
JPWO2018173681A1 (ja) 医療用システムの制御装置、医療用システムの制御方法及び医療用システム
CN115956859B (zh) 内窥镜控制方法及手术机器人系统
JP7854499B2 (ja) 内視鏡システム、内視鏡システムの作動方法および手技支援プログラム
KR20120052574A (ko) 수술용 로봇 시스템 및 수술용 로봇 시스템의 내시경 구동방법
CN113907693B (zh) 操作映射比例调整方法、装置、电子设备以及存储介质
US20250107687A1 (en) Field-of-view control apparatus, field-of-view control system, field-of-view control method, and recordimg medium
JP2020162633A (ja) 撮影制御装置、撮影制御方法、プログラム、及び、撮影システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241001

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20241001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250701

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20251202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20260202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20260324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20260420