JP2019022580A - 手術システム、情報処理方法および情報処理装置 - Google Patents

手術システム、情報処理方法および情報処理装置 Download PDF

Info

Publication number
JP2019022580A
JP2019022580A JP2017142420A JP2017142420A JP2019022580A JP 2019022580 A JP2019022580 A JP 2019022580A JP 2017142420 A JP2017142420 A JP 2017142420A JP 2017142420 A JP2017142420 A JP 2017142420A JP 2019022580 A JP2019022580 A JP 2019022580A
Authority
JP
Japan
Prior art keywords
information
image
surgical
stage
operating room
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017142420A
Other languages
English (en)
Other versions
JP2019022580A5 (ja
Inventor
和田 成司
Seiji Wada
成司 和田
邦彦 秋吉
Kunihiko Akiyoshi
邦彦 秋吉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2017142420A priority Critical patent/JP2019022580A/ja
Priority to CN201880047546.9A priority patent/CN110913787B/zh
Priority to US16/631,851 priority patent/US11348684B2/en
Priority to PCT/JP2018/025458 priority patent/WO2019021781A1/en
Priority to EP18746308.8A priority patent/EP3658056A1/en
Publication of JP2019022580A publication Critical patent/JP2019022580A/ja
Publication of JP2019022580A5 publication Critical patent/JP2019022580A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/20ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the management or administration of healthcare resources or facilities, e.g. managing hospital staff or surgery rooms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • A61B2034/252User interfaces for surgical systems indicating steps of a surgical procedure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • A61B2034/254User interfaces for surgical systems being adapted depending on the stage of the surgical procedure

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • Surgery (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Robotics (AREA)
  • Veterinary Medicine (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Human Computer Interaction (AREA)
  • Endoscopes (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

【課題】医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能な技術が提供されることが望まれる。
【解決手段】手術室内に設置されたカメラと、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された第1の画像から抽出された人または機器に関する第1の特徴データとを比較する処理部を備える、情報処理装置と、を有する、手術システムが提供される。
【選択図】図5

Description

本開示は、手術システム、情報処理方法および情報処理装置に関する。
近年、医療現場において行われる手術の安全性を向上するための技術として様々な技術が開示されている。例えば、看護師に歩数計および傾斜角センサを装着し、歩数計によって計測された歩数と傾斜角センサによって計測された傾斜角度とに基づいて、アクシデントが発生する可能性の有無を判断する技術が開示されている(例えば、特許文献1参照。)。
かかる技術においては、歩数および傾斜角度に基づいて看護師の行動に関する特徴データが作成され、特定のアクシデントが発生したときの特徴データに基づいて特定のアクシデントについての辞書データが作成される。そして、辞書データ作成後には、ある時点における特徴データと辞書データとの比較に基づいて、アクシデントが発生する可能性の有無が判断される。
特開2004−157614号公報
しかし、医療従事者にセンサを装着させた場合には、センサが医療従事者の動作を妨げてしまう可能性がある。特に、緊急事態が生じた場合および予定されていた事態と異なる事態が生じた場合などには、医療従事者は通常時よりも迅速に行動する必要が生じる可能性がある。
そこで、医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能な技術が提供されることが望まれる。
本開示によれば、手術室内に設置されたカメラと、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された第1の画像から抽出された人または機器に関する第1の特徴データとを比較する処理部を備える、情報処理装置と、を有する、手術システムが提供される。
本開示によれば、プロセッサにより、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較することを含む、情報処理方法が提供される。
本開示によれば、学習によって得られた手術室内の人または機器に関する辞書データとカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較する処理部を備える、情報処理装置が提供される。
以上説明したように本開示によれば、医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能な技術が提供されることが可能な技術が提供されることが可能な技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図3に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。 本開示の実施形態に係る情報処理装置の機能構成例を示すブロック図である。 本開示の実施形態に係る情報処理装置の全体的な動作を示すフローチャートである。 麻酔導入ステージにおける人員位置および機器位置の例を示す図である。 ナビゲーションステージにおける人員位置および機器位置の例を示す図である。 開頭ステージにおける人員位置および機器位置の例を示す図である。 治療ステージにおける人員位置および機器位置の例を示す図である。 術中診断ステージにおける人員位置および機器位置の例を示す図である。 閉頭ステージにおける人員位置および機器位置の例を示す図である。 本開示の実施形態において利用される各種情報の対応関係を示す図である。 運用段階における人員位置に基づく警告表示の動作例を示すフローチャートである。 運用段階における機器位置に基づく警告表示の動作例を示すフローチャートである。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書および図面において、実質的に同一または類似の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する場合がある。ただし、実質的に同一または類似の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。また、異なる実施形態の類似する構成要素については、同一の符号の後に異なるアルファベットを付して区別する場合がある。ただし、類似する構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
1.システム構成例
2.概要
3.実施形態の詳細
3−1.作業目標設定
3−2.学習段階
3−3.運用段階
3−4.問題探索
3−5.作業目標修正
4.むすび
<<1.システム構成例>>
まず、図面を参照しながら、本開示の実施形態に係る情報処理システムの一例の構成例について説明する。本開示の実施形態に係る情報処理システムの例としては様々なシステムが想定される。ここでは、本開示の実施形態に係る情報処理システムの一例として、手術室システムの構成例について主に説明する。
図1は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図1を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図1では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ麻酔科医を撮像する麻酔科医撮像カメラ5188と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A〜5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療機器とも呼称される。一方、表示装置5103A〜5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A〜5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ5107は、出力先の装置である表示装置5103A〜5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
また、図1では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
図2は、集中操作パネル5111における操作画面の表示例を示す図である。図2では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図2を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
図3は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図1に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図3では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a〜5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a〜5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図1に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図3では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a〜5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a〜5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a〜5147cにはアクチュエータが設けられており、関節部5147a〜5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a〜5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a〜5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a〜5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図4を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図4は、図3に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図4を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
<<2.概要>>
続いて、本開示に係る技術の概要について説明する。近年、医療現場において行われる手術の安全性を向上するための技術として様々な技術が開示されている。例えば、看護師に歩数計および傾斜角センサを装着し、歩数計によって計測された歩数と傾斜角センサによって計測された傾斜角度とに基づいて、アクシデントが発生する可能性の有無を判断する技術が開示されている。
かかる技術においては、歩数および傾斜角度に基づいて看護師の行動に関する特徴データが作成され、特定のアクシデントが発生したときの特徴データに基づいて特定のアクシデントについての辞書データが作成される。そして、辞書データ作成後には、ある時点における特徴データと辞書データとの比較に基づいて、アクシデントが発生する可能性の有無が判断される。
しかし、医療従事者にセンサを装着させた場合には、センサが医療従事者の動作を妨げてしまう可能性がある。特に、緊急事態が生じた場合および予定されていた事態と異なる事態が生じた場合などには、医療従事者は通常時よりも迅速に行動する必要が生じる可能性がある。
そこで、本明細書においては、医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能な技術を主に提案する。
以上、本開示に係る技術の概要について説明した。
<<3.実施形態の詳細>>
続いて、本開示の実施形態に係る情報処理装置の機能構成例について説明する。図5は、本開示の実施形態に係る情報処理装置の機能構成例を示すブロック図である。図5に示すように、本開示の実施形態に係る情報処理装置10は、特徴データ抽出部112、認識部114、学習部116、処理部118、解析部120および出力制御部122を有する。これらの機能ブロックが有する機能の詳細については後に説明する。
本開示の実施形態においては、図1に示すように、情報処理装置10が視聴覚コントローラ5107の内部に組み込まれている場合を主に想定する。しかし、情報処理装置10が存在する位置は特に限定されない。例えば、情報処理装置10は、視聴覚コントローラ5107の外部に存在してもよい。
図6は、本開示の実施形態に係る情報処理装置の全体的な動作を示すフローチャートである。図6に示すように、作業目標設定が行われ(S11)、学習が行われ(S12)、日々の運用が行われ(S13)、日々の運用の結果に基づいて問題探索が行われ(S14)、作業目標の修正が不要な場合には(S15において「No」)、S13に動作が遷移されるが、作業目標の修正が必要な場合には(S15において「Yes」)、S11に動作が遷移される。これらの各ステップについて、以下の「3−1.作業目標設定」〜「3−5.作業目標修正」において説明する。
なお、ここでは、手術の例として脳神経外科手術が行われる場合を主に想定する。しかし、本開示の実施形態に係る技術は、脳神経外科手術以外の手術にも適用され得る。また、手術に関わる医療従事者の例として、術者、麻酔科医、助手、外回り看護師(以下、単に「外回り」とも言う。)、器械出し看護師(以下、単に「器械出し」とも言う。)、看護師を挙げて説明する。しかし、医療従事者は、かかる例に限定されない。また、以下では、人または医療従事者を「人員」と呼ぶ場合がある。また、以下では、術者を「執刀医」と呼ぶ場合がある。
<3−1.作業目標設定>
まず、作業目標が設定される。具体的に、作業目標は、以下に説明する、第1の閾値、第2の閾値、第3の閾値および第4の閾値であってよい。作業目標の設定は、いずれの医療従事者による(例えば、集中操作パネル5111を介した)入力に基づいて行われてもよい。例えば、作業目標の設定は、執刀医による(例えば、集中操作パネル5111を介した)入力に基づいて行われてもよい。
<3−2.学習段階>
運用段階の前に学習段階が設けられる。学習段階においては、運用段階において利用される辞書データが作成される。
一般に、1つの手術は幾つかのステージ(以下、「手術ステージ」とも言う。)に分類され得る。例えば、脳神経外科手術は、麻酔導入ステージ、ナビゲーションステージ、開頭ステージ、治療ステージ、術中診断ステージ、閉頭ステージに分類され得る。このとき、現在の手術ステージがいずれであるかに応じて、人員に関する情報(例えば、人員位置など)、機器に関する情報(例えば、機器位置など)が変わってくることがある。一例として、脳神経外科手術における手術ステージごとの人員位置および機器位置の例を説明する。
図7は、麻酔導入ステージにおける人員位置および機器位置の例を示す図である。図7を参照すると、麻酔導入ステージにおける手術室20−1が示されている。麻酔導入ステージにおいては、図7に一例を示すように、執刀医31、助手32、麻酔科医33、外回り看護師34、器械出し看護師35、顕微鏡41、ナビゲーションシステム42、MEP(Motor Evoked Potential:運動誘発電位)測定装置43、器具収納庫44が手術室20−1に位置している。
図8は、ナビゲーションステージにおける人員位置および機器位置の例を示す図である。図8に示された手術室20−2を参照すると、ナビゲーションステージにおいては、麻酔導入ステージと比較して、ナビゲーションシステム42の位置が変化している。
図9は、開頭ステージにおける人員位置および機器位置の例を示す図である。図9に示された手術室20−3を参照すると、開頭ステージにおいては、助手が中心となって開頭が行われるため、ナビゲーションステージと比較して、執刀医と助手の位置が変化している。
図10は、治療ステージにおける人員位置および機器位置の例を示す図である。図10に示された手術室20−4を参照すると、治療ステージにおいては、執刀医が中心となって治療が行われるため、開頭ステージと比較して、執刀医と助手の位置が変化している。また、治療ステージにおいては、顕微鏡41が利用されるため、開頭ステージと比較して、顕微鏡41の位置が変化している。
図11は、術中診断ステージにおける人員位置および機器位置の例を示す図である。図11に示された手術室20−5を参照すると、術中診断ステージにおいては、MEP測定装置43を用いた運動誘発電位のモニタリングが行われるため、MEP測定装置43を操作する技師36が存在している。
図12は、閉頭ステージにおける人員位置および機器位置の例を示す図である。図12に示された手術室20−6を参照すると、閉頭ステージにおいては、助手が中心となって閉頭が行われるため、術中診断ステージと比較して、執刀医と助手の位置が変化している。また、閉頭ステージにおいては、顕微鏡41が利用されないため、術中診断ステージと比較して、顕微鏡41の位置が変化している。
以上、脳神経外科手術における手術ステージごとの人員位置および機器位置の例について説明した。学習段階において、まず、認識部114は、手術ステージを認識する。例えば、認識部114は、イベントを検出することによってイベントに対応する手術ステージを認識する。イベントと手術ステージとの対応関係は、あらかじめ用意されていてよい。
図13は、本開示の実施形態において利用される各種情報の対応関係を示す図である。図13に示すように、手術ステージとイベントとがあらかじめ対応付けられている。例えば、認識部114は、術場カメラ5189によって撮像された画像(以下、「イベント検出用画像」とも言う。)からイベントを検出することが可能である。このようにしてイベントの検出によってイベントに対応する手術ステージが認識される。
続いて、特徴データ抽出部112は、術場カメラ5189によって撮像された画像(以下、「学習用画像」とも言う。)から手術に関わる人員および手術に利用される機器に関する特徴データを抽出する。より具体的に、特徴データ抽出部112は、学習用画像から、手術に関わる人員に関する情報および手術に利用される機器に関する情報を特徴データの例として抽出する。
学習用画像としては、イベント検出用画像が用いられてもよい。あるいは、学習用画像は、イベント検出用画像が撮像されたタイミングと所定の関係を有するタイミングに(例えば、イベント検出用画像が撮像されたタイミングを基準として所定の時間範囲内に)術場カメラ5189によって撮像された画像であってもよい。
なお、本開示の実施形態においては、人員に関する情報および機器に関する情報の双方が利用される場合を主に想定する。しかし、人員に関する情報および機器に関する情報の一方だけが利用されてもよい。
また、本開示の実施形態においては、人員に関する情報の例として、人員の位置を示す情報(以下、「人員位置」とも言う。)が利用され、機器に関する情報の例として、機器の位置を示す情報(以下、「機器位置」とも言う。)が利用される場合を主に想定する。しかし、人員に関する情報は、人員の状態(例えば、人員の視線など)であってもよいし、機器に関する情報は、機器の状態(例えば、機器が操作されている否か、機器が起動しているか否かなど)であってもよい。
人員位置は、特徴データ抽出部112によってどのように抽出されてもよい。例えば、特徴データ抽出部112は、人員に対して固有のマーカが付されている場合には、術場カメラ5189によって撮像された画像に基づいて、人員に付されているマーカを認識し、マーカの認識結果を用いて人員位置を抽出することが可能である。
また、一般的な医療機関においては、人員の種類(医療従事者の役割)に応じて着用している衣服の色が異なることがある。例えば、執刀医と助手とは同じ色の衣服を着用していても、執刀医と助手、麻酔科医、器械出し看護師、外回り看護師および技師は、異なる色の衣服を着用していることがある。そのため、特徴データ抽出部112は、術場カメラ5189によって撮像された画像に基づいて、衣服の色を認識し、マーカの認識結果の代わりに、または、マーカの認識結果に加えて、衣服の色の認識結果を用いて人員位置を抽出することが可能である。
また、人員の種類(医療従事者の役割)ごとに存在するはずの領域があらかじめ分かっている場合もあり得る。そのため、特徴データ抽出部112は、人員の種類(医療従事者の役割)ごとの領域内に人員が存在することを認識することによって、その領域内に存在する人員の種類(医療従事者の役割)を認識することも可能である。
機器位置は、特徴データ抽出部112によってどのように抽出されてもよい。例えば、特徴データ抽出部112は、術場カメラ5189によって撮像された画像に基づいて、機器そのものを認識し、機器そのものの認識結果を用いて機器位置を抽出することが可能である。また、特徴データ抽出部112は、機器に対して固有のマーカが付されている場合には、術場カメラ5189によって撮像された画像に基づいて、機器に付されているマーカを認識し、機器そのものの認識結果の代わりに、または、機器そのものの認識結果に加えて、マーカの認識結果を用いて機器位置を抽出することが可能である。
また、人員位置は、人員が通過した複数の位置であってもよいし、複数の位置の重心であってもよい。例えば、人員の種類(医療従事者の役割)によって人員(医療従事者)の動きは異なることが想定される。例えば、執刀医などは、手術室内のあまり変わらない位置で細かい動きをすることが多い。そこで、執刀医などのあまり変わらない位置に存在する人員(医療従事者)の位置は、人員が通過した複数の位置であってよい。
一方、外回り看護師などは、手術室内を動き回ることが多い。そこで、外回り看護師などの動き回ることが多い人員(医療従事者)の位置は、人員が通過した複数の位置の重心であってよい。同様に、機器位置は、機器が通過した複数の位置であってもよいし、複数の位置の重心であってもよい。
学習部116は、特徴データ抽出部112によって抽出された人員に関する情報および機器に関する情報に基づいて、学習によって手術室内の人員および機器に関する辞書データを作成する。より詳細には、学習部116は、特徴データ抽出部112によって抽出された人員位置および機器位置に基づいて、学習によって手術室内の人員位置および機器位置に関する辞書データを作成する。学習に用いられる人員位置および機器位置それぞれの数は限定されない。例えば、学習に用いられる人員位置および機器位置それぞれは、1つでもよいが、作成される辞書データの精度を向上させるためには、複数であるほうが望ましい。
例えば、学習部116は、特徴データ抽出部112によって抽出された人員位置および機器位置をそのまま学習に用いてもよい。あるいは、学習用画像から抽出された人員位置および機器位置が(例えば、集中操作パネル5111によって)表示され、人員位置および機器位置に対して修正が(例えば、集中操作パネル5111を介して)入力される場合も想定される。かかる場合には、学習部116は、修正後の人員位置および機器位置に基づいて辞書データを作成してもよい。
なお、人員位置および機器位置に対する修正は、執刀医によって入力されてよいが、他の人員によって入力されてもよい。
学習部116は、上記のようにして認識部114によって手術ステージが認識された場合、認識部114によって認識された手術ステージの辞書データを作成する。あるいは、認識部114によって認識された手術ステージが(例えば、集中操作パネル5111によって)表示され、認識部114によって認識された手術ステージに対して修正が(例えば、集中操作パネル5111を介して)入力される場合も想定される。かかる場合には、学習部116は、修正後の手術ステージの辞書データを作成する。
図13を参照すると、手術ステージごとに、主に手術に関わる医師が「主な医師」として示され、手術に関わるその他の人員が「他関連人員」として示されている。また、図13を参照すると、手術ステージごとに、辞書データの例としての「人員位置」が示されている。なお、図13に示された「人員位置」における「1.麻酔導入」〜「6.閉頭」は、図7〜図12に示された各手術ステージの人員位置に対応する。また、図13を参照すると、人員によって操作される機器が「操作機器」として示されている。
また、認識部114は、術場カメラ5189によって撮像された画像(以下、「連携認識用画像」とも言う。)から人員同士の連携を認識することが可能である。学習部116は、認識部114によって連携認識用画像から人員同士の連携が認識された場合、人員同士の連携に関する情報を含んで辞書データを作成する。
図13を参照すると、手術ステージごとに、辞書データの例としての連携に関する情報が「連携動作」として示されている。なお、図13に示された「連携動作」における「A/B」は、AとBとの間に連携があることを意味する。例えば、「執刀医/助手」は、執刀医と助手との間に連携があることを意味する。
ここで、連携認識用画像としては、イベント検出用画像が用いられてもよいし、学習用画像が用いられてもよい。あるいは、連携認識用画像は、イベント検出用画像が撮像されたタイミングと所定の関係を有するタイミングに(イベント検出用画像が撮像されたタイミングを基準として所定の時間範囲内に)術場カメラ5189によって撮像された画像であってもよい。
<3−3.運用段階>
続いて、学習段階の後には運用段階が設けられる。運用段階においては、学習段階において作成された辞書データを参照しながら、手術の進行が妥当であるか否かが判断される。
運用段階においても、認識部114は、手術ステージを認識する。運用段階における手術ステージの認識も、学習段階における手術ステージの認識と同様に行われる。すなわち、運用段階において認識された手術ステージも、学習段階において認識された手術ステージと同様にして修正可能であってもよい。
続いて、特徴データ抽出部112は、学習用画像からの特徴データの抽出と同様に、術場カメラ5189によって撮像された画像(以下、「比較用画像」とも言う。)から手術に関わる人員および手術に利用される機器に関する特徴データを抽出する。より具体的に、特徴データ抽出部112は、比較用画像から、人員位置および機器位置を特徴データの例として抽出する。なお、比較用画像から抽出された特徴データも、学習用画像から抽出された特徴データと同様に修正可能であってよい。
処理部118は、学習部116によって作成された辞書データと比較用画像から抽出された特徴データとを比較する。上記のようにして認識部114によって手術ステージが認識された場合、処理部118は、認識部114によって認識された手術ステージの辞書データ(人員位置および機器位置に関する辞書データ)と特徴データ抽出部112によって抽出された特徴データ(人員位置および機器位置)とを比較する。
認識部114によって認識された手術ステージの辞書データ(人員位置および機器位置に関する辞書データ)と特徴データ抽出部112によって抽出された特徴データ(人員位置および機器位置)との差分が第1の閾値を超える場合には、手術が正常に進んでいない可能性がある。そこで、かかる場合には、出力制御部122は、第1の警告情報の出力を制御する。
ここで、第1の警告情報の出力先は限定されない。例えば、第1の警告情報が表示情報を含む場合には、第1の警告情報の出力先は、表示装置5103A〜5103Dのいずれかであってもよい。あるいは、第1の警告情報が音情報を含む場合には、第1の警告情報の出力先は、スピーカであってもよい。
なお、例えば、麻酔導入ステージ、ナビゲーションステージ、開頭ステージおよび閉頭ステージにおいては、人員位置および機器位置のみから、手術が正常に進んでいるか否かが十分に判断可能である。
また、辞書データと特徴データ抽出部112によって抽出された特徴データとの間で、手術ステージの遷移順序が異なる場合には、手術が正常に進んでいない可能性がある。あるいは、辞書データと特徴データ抽出部112によって抽出された特徴データとの間で、対応する手術ステージの継続時間または対応する段階までの経過時間の差分が第3の閾値を超える場合には、手術が正常に進んでいない可能性がある。
そこで、かかる場合には、出力制御部122は、第3の警告情報の出力を制御するのがよい。第3の警告情報の出力先は限定されない。例えば、第3の警告情報が表示情報を含む場合には、第3の警告情報の出力先は、表示装置5103A〜5103Dのいずれかであってもよい。あるいは、第3の警告情報が音情報を含む場合には、第3の警告情報の出力先は、スピーカであってもよい。
また、辞書データと特徴データ抽出部112によって抽出された特徴データとにおいて、連携する複数の人の少なくとも一人が異なる場合、連携する複数の人のいずれかが入れ替わっている場合には、手術が正常に進んでいない可能性がある。また、辞書データと特徴データ抽出部112によって抽出された特徴データとにおいて、対応する人員同士の連携の継続時間または人員同士の連携の対応する段階までの経過時間の差分が第4の閾値を超える場合には、手術が正常に進んでいない可能性がある。
人員同士の連携の一例として、執刀医と麻酔科医との連携が挙げられる。麻酔科医は、執刀医による治療行為に伴う患者のバイタル変化を予測して、必要な処置の準備を行う必要がある。例えば、執刀医と麻酔科医との連携不足の場合(例えば、連携の継続時間が長くなりすぎた場合、当該連携のある段階までの経過時間が長くなりすぎた場合など)、患者の安定度および恒常性(バイタル値)が変化してしまい、麻酔科医師が治療行為を中断してバイタル値の安定化のための様々な処置を行う必要が生じる。
人員同士の連携の他の一例として、執刀医と器械出し看護師と外回り看護師との連携が挙げられる。医療機器は、執刀医の指示に従って、外回り看護師によって手術室内の棚または手術室外から持ち出され、外回り看護師から器械出し看護師に渡され、器械出し看護師から執刀医に手渡される。例えば、執刀医と外回り看護師または器械出し看護師との連携不足の場合(例えば、連携の継続時間が長くなりすぎた場合、当該連携のある段階までの経過時間が長くなりすぎた場合など)、必要な医療機器の到着が遅れて待ち時間が発生し、患者の恒常性(バイタル値)が変化してしまう場合がある。
そこで、かかる場合には、出力制御部122は、第4の警告情報の出力を制御する。第4の警告情報の出力先は限定されない。例えば、第4の警告情報が表示情報を含む場合には、第4の警告情報の出力先は、表示装置5103A〜5103Dのいずれかであってもよい。あるいは、第4の警告情報が音情報を含む場合には、第4の警告情報の出力先は、スピーカであってもよい。
なお、例えば、治療ステージにおいては、人員位置および機器位置に加えて、治療中の執刀医と助手との連携、手術器具持ち替えのための執刀医と器械出しとの連携、手術器具の受け渡しや摘出組織の生検提出などといった執刀医と器械出しと外回り看護師との連携も考慮して手術が正常に行われているか否かが判断されるとよい。また、例えば、術中診断ステージにおいては、人員位置および機器位置に加えて、執刀医と麻酔科医との連携も考慮して手術が正常に行われているか否かが判断されるとよい。
また、麻酔科医の動きの評価は様々な手法によってなされ得る。例えば、上記したように、術場カメラ5189によって撮像された画像に基づいて、人員の例としての麻酔科医の位置が正常であるか否かが判断されてよい。一方、麻酔科医を撮像する麻酔科医撮像カメラ5188も存在する。麻酔科医撮像カメラ5188によって撮像された画像に基づいて、麻酔科医の状態(例えば、麻酔科医の視線など)が取得され、麻酔科医の状態に基づいて手術が正常に進んでいるか否かが判断されてもよい。
例えば、麻酔科医の状態は、患者を見ているか否か、執刀医を見ているか否か、患者のバイタル画面を見ているか否かといった状態であってよい。例えば、麻酔科医の状態が執刀医を見ていることを示す場合には、執刀医と麻酔科医との間で連携がなされていると判断されてもよい。このように、麻酔科医の状態に基づいて、執刀医と麻酔科医との間で連携がなされているか否かが判断されてもよい。
このようにして、運用段階においては、出力制御部122によって警告情報(例えば、第1の警告情報、第2の警告情報、第3の警告情報、第4の警告情報)の出力が制御される。これによって、警告情報を知覚した医療従事者は、患者が危険な状態に陥ることを防ぐための処置を講じることが可能となる。
図14は、運用段階における人員位置に基づく警告表示の動作例を示すフローチャートである。図14に示すように、術場カメラ5189によって撮像された画像の記録が開始される。そして、認識部114は、手術が開始されない場合(S21において「No」)、S21に動作を遷移させる。一方、認識部114は、手術が開始された場合(S21において「Yes」)、手術ステージを認識する(S22)。
なお、認識部114は、手術が開始されたか否かをどのように判断してもよい。一例として、認識部114は、最初の手術ステージを認識した場合に、手術が開始されたと判断してもよい。
続いて、特徴データ抽出部112は、術場カメラ5189によって撮像された画像から人員位置を抽出する処理を行う(S23)。そして、処理部118は、該当する手術ステージ(認識部114によって認識された手術ステージ)において人員位置がデータ(辞書データ)に合致するか否かを判断する(S24)。出力制御部122は、該当する手術ステージにおいて人員位置がデータ(辞書データ)に合致しないと判断された場合(S24において「No」)、警告表示を制御する(S31)。なお、警告表示の代わりに警告を示す音出力が制御されてもよい。
そして、出力制御部122は、想定外の要因が発生していない場合には(S32において「No」)、警告表示の解消ダイアログの表示を制御する(S33)。出力制御部122は、警告表示の解消ダイアログにおいて警告表示の解消を示す操作が入力された場合、S41に動作を遷移させる。なお、警告表示の解消を示す操作は、執刀医または看護師などによって(集中操作パネル5111または他の入力装置を介して)入力されてよい。
一方、出力制御部122は、想定外の要因が発生した場合には(S32において「Yes」)、過去の例外データ一覧の表示を制御し(S34)、例外データ入力ダイアログの表示を制御する(S35)。なお、想定外の要因が発生したか否かは、執刀医または看護師などによって(集中操作パネル5111または他の入力装置を介して)入力されてよい。
出力制御部122は、現在行われている手術が新規例外処置であることを示す操作が入力された場合には(S36において「Yes」)、現在行われている手術に関するデータを新規例外データとして過去の例外データに新規に登録し(S37)、S42に動作を遷移させる。一方、現在行われている手術が新規例外処置ではないことを示す操作が入力された場合には(S36において「No」)、現在行われている手術に関するデータを現例外データとして過去の例外データに追加して(S38)、S42に動作を遷移させる。
なお、新規例外処置はどのような処置であってもよい。例えば、旧式の手術が例外的に行われる場合などが想定されるが、かかる場合には、旧式の手術が新規例外処置として扱われてもよい。新式の手術が原則的に行われる場合などが想定されるが、かかる場合には、新式の手術が新規例外処置ではない処置として扱われてもよい。また、現在行われている手術が新規例外処置であるか否かは、執刀医または看護師などによって(集中操作パネル5111または他の入力装置を介して)入力されてよい。
出力制御部122は、該当する手術ステージにおいて人員位置がデータ(辞書データ)に合致すると判断された場合(S24において「Yes」)、現データ(現在行われている手術に関するデータ)を過去のデータに追加する(S41)。そして、手術が終了していない場合には(S42において「No」)、S22に動作を遷移させる。一方、手術が終了した場合には(S42において「Yes」)、術場カメラ5189によって撮像された画像の記録が終了される。
図15は、運用段階における機器位置に基づく警告表示の動作例を示すフローチャートである。例えば、運用段階における機器位置に基づく警告表示の動作は、図14に示した運用段階における人員位置に基づく警告表示の動作と並行して行われてよい。ここでは、図15に示した動作例のうち、図14に示した動作例と同じ動作例については説明を省略し、図14に示した動作例と異なる動作例について主に説明する。
図15に示すように、認識部114によって手術ステージが認識されると(S22)、特徴データ抽出部112は、術場カメラ5189によって撮像された画像から機器位置を抽出する処理を行う(S53)。そして、処理部118は、該当する手術ステージにおいて機器位置がデータ(辞書データ)に合致するか否かを判断する(S54)。出力制御部122は、該当する手術ステージにおいて機器位置がデータ(辞書データ)に合致しないと判断された場合(S54において「No」)、警告表示を制御する(S31)。
一方、出力制御部122は、該当する手術ステージにおいて機器位置がデータ(辞書データ)に合致すると判断された場合(S54において「Yes」)、現データ(現在行われている手術に関するデータ)を過去のデータに追加する(S41)。
<3−4.問題探索>
また、手術後の予後情報が標準データからどれだけ離れているかによって、その手術に問題がなかったか否かが判断され得る。ここで、予後情報はどのような情報を含んでもよい。例えば、予後情報は、患者の入院期間、手術後の患者の症状の安定度合い、および、手術後の患者の状態を示す情報の少なくともいずれか一つを含んでよい。例えば、予後情報は、執刀医によって比較用画像に関連付けられて(集中操作パネル5111を介して)入力される。
処理部118は、手術後の予後情報が標準データからどれだけ離れているかを判断する。すなわち、処理部118は、比較用画像に関連付けられた予後情報とあらかじめ設定された標準データとを比較する。出力制御部122は、予後情報と標準データとの差分が第2の閾値を超える場合、第2の警告情報の出力を制御する。第2の警告情報の出力先は限定されない。例えば、第2の警告情報が表示情報を含む場合には、第2の警告情報の出力先は、表示装置5103A〜5103Dのいずれかであってもよい。あるいは、第2の警告情報が音情報を含む場合には、第2の警告情報の出力先は、スピーカであってもよい。
また、手術後の予後情報は手術の種類(例えば、脳神経外科手術、心臓外科手術など)によって異なることが想定されるため、標準データは、手術の種類に対応して設定されるのがよい。したがって、出力制御部122は、予後情報と手術室内で行われた手術の種類に応じて取得された標準データとの差分が第2の閾値を超える場合、第2の警告情報の出力を制御するのがよい。手術の種類は、(例えば、レコーダ5105などに)あらかじめ記録されていてよい。
解析部120は、標準データとの差分が第2の閾値を超え、かつ、同一または類似する複数の予後情報を抽出した場合、当該複数の予後情報それぞれに関連付けられた、人員同士の連携に関する情報、各人員の位置もしくは動作に関する情報、または、手術ステージの継続時間もしくは手術ステージにおける所定の段階までの経過時間を取得するとよい。
そして、解析部120は、このようにして取得した、人員同士の連携に関する情報、各人員の位置もしくは動作に関する情報、または、手術ステージの継続時間もしくは手術ステージにおける所定の段階までの経過時間を解析するとよい。このような解析によって、問題のある手術の傾向が把握され得る(改善すべき医療従事者の危険行動をあぶり出すことが可能となる)。
<3−5.作業目標修正>
続いて、作業目標の修正が必要な場合には、作業目標が修正される。具体的に、修正され得る作業目標は、上記において説明した、第1の閾値、第2の閾値、第3の閾値および第4の閾値であってよい。作業目標の修正は、いずれの医療従事者による(例えば、集中操作パネル5111を介した)入力に基づいて行われてもよい。例えば、作業目標の修正は、執刀医による(例えば、集中操作パネル5111を介した)入力に基づいて行われてもよい。
以上、本開示の実施形態に係る情報処理装置10の機能構成例について説明した。
<<4.むすび>>
以上説明したように、本開示の実施形態によれば、学習によって得られた手術室内の人または機器に関する辞書データと手術室内に設置されたカメラによって撮像された第1の画像から抽出された人または機器に関する第1の特徴データとを比較する処理部118を備える、情報処理装置10が提供される。かかる構成によれば、医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能となる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記では、術場カメラ5189によって撮像された画像から人員位置が抽出され、抽出された人員位置に基づいて、手術が正常に進んでいるか否かが判断される場合を説明した。麻酔科医撮像カメラ5188によって撮像された画像から麻酔科医の状態が抽出され、抽出された麻酔科医の状態に基づいて、手術が正常に進んでいるか否かが判断される場合を説明した。しかし、画像以外のセンシングデータ(例えば、マイクロフォンによって検出された音情報、各種の医療機器によって検出された測定データなど)に基づいて、手術が正常に進んでいるか否かが判断されてもよい。
また、例えば、コンピュータに内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上記した情報処理装置10が有する機能と同等の機能を発揮させるためのプログラムも作成可能である。また、該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
手術室内に設置されたカメラと、
学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された第1の画像から抽出された人または機器に関する第1の特徴データとを比較する処理部を備える、情報処理装置と、
を有する、手術システム。
(2)
前記情報処理装置は、前記辞書データと前記第1の特徴データとの差分が第1の閾値を超える場合、第1の警告情報の出力を制御する出力制御部を備える、
前記(1)に記載の手術システム。
(3)
前記処理部は、前記第1の画像に関連付けられた予後情報と標準データとを比較する、
前記(1)に記載の手術システム。
(4)
前記情報処理装置は、前記予後情報と前記標準データとの差分が第2の閾値を超える場合、第2の警告情報の出力を制御する出力制御部を備える、
前記(3)に記載の手術システム。
(5)
前記出力制御部は、前記予後情報と前記手術室内で行われた手術の種類に応じて取得された標準データとの差分が前記第2の閾値を超える場合、前記第2の警告情報の出力を制御する、
前記(4)に記載の手術システム。
(6)
前記情報処理装置は、前記標準データとの差分が第2の閾値を超え、かつ、同一または類似する複数の予後情報を抽出した場合、前記複数の予後情報それぞれに関連付けられた、人同士の連携に関する情報、各人の位置もしくは動作に関する情報、または、手術ステージの継続時間もしくは手術ステージにおける所定の段階までの経過時間を取得する解析部を備える、
前記(3)に記載の手術システム。
(7)
前記予後情報は、患者の入院期間、手術後の患者の症状の安定度合い、および、手術後の患者の状態を示す情報の少なくともいずれか一つを含む、
前記(3)〜(6)のいずれか一項に記載の手術システム。
(8)
前記処理部は、学習によって得られた前記手術室内の人または機器の位置に関する辞書データと前記第1の画像から抽出された人または機器の位置を示す第1の特徴データとを比較する、
前記(1)〜(7)のいずれか一項に記載の手術システム。
(9)
前記第1の特徴データは、前記人または機器が通過した複数の位置または前記複数の位置の重心を含む、
前記(8)に記載の手術システム。
(10)
前記処理部は、前記第1の画像または前記第1の画像が撮像されたタイミングと所定の関係を有するタイミングに撮像された画像から手術ステージが認識された場合、前記手術ステージの辞書データと前記第1の特徴データとを比較する、
前記(1)〜(9)のいずれか一項に記載の手術システム。
(11)
前記手術ステージは、前記手術ステージに対応するイベントの検出によって認識される、
前記(10)に記載の手術システム。
(12)
前記辞書データは、第2の画像から抽出された人または機器に関する第2の特徴データに対して修正が入力された場合、前記修正に基づいて作成される、
前記(1)〜(11)のいずれか一項に記載の手術システム。
(13)
前記辞書データは、前記第2の画像または前記第2の画像が撮像されたタイミングと所定の関係を有するタイミングに撮像された画像から手術ステージが認識された場合、前記手術ステージの辞書データとして作成される、
前記(12)に記載の手術システム。
(14)
前記情報処理装置は、前記辞書データと前記第1の特徴データとにおいて、手術ステージの遷移順序が異なる場合、または、対応する手術ステージの継続時間もしくは対応する段階までの経過時間の差分が第3の閾値を超える場合、第3の警告情報の出力を制御する出力制御部を備える、
前記(13)に記載の手術システム。
(15)
前記辞書データは、第3の画像から人同士の連携が認識された場合、前記人同士の連携に関する情報を含んで作成される、
前記(1)に記載の手術システム。
(16)
前記情報処理装置は、前記辞書データと前記第1の特徴データとにおいて、連携する複数の人の少なくとも一人が異なる場合、連携する複数の人のいずれかが入れ替わっている場合、または、対応する人同士の連携の継続時間もしくは人同士の連携の対応する段階までの経過時間の差分が第4の閾値を超える場合、第4の警告情報の出力を制御する出力制御部を備える、
前記(15)に記載の手術システム。
(17)
前記情報処理装置は、学習によって前記手術室内の人または機器に関する前記辞書データを作成する学習部を備える、
前記(1)〜(16)のいずれか一項に記載の手術システム。
(18)
前記情報処理装置は、前記第1の画像から前記第1の特徴データを抽出する特徴データ抽出部を備える、
前記(1)〜(17)のいずれか一項に記載の手術システム。
(19)
プロセッサにより、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較することを含む、
情報処理方法。
(20)
学習によって得られた手術室内の人または機器に関する辞書データとカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較する処理部を備える、情報処理装置。
10 情報処理装置
112 特徴データ抽出部
114 認識部
116 学習部
118 処理部
120 解析部
122 出力制御部
20 手術室
31 執刀医
32 助手
33 麻酔科医
34 看護師
35 看護師
36 技師
41 顕微鏡
42 ナビゲーションシステム
43 MEP測定装置
44 器具収納庫

Claims (20)

  1. 手術室内に設置されたカメラと、
    学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された第1の画像から抽出された人または機器に関する第1の特徴データとを比較する処理部を備える、情報処理装置と、
    を有する、手術システム。
  2. 前記情報処理装置は、前記辞書データと前記第1の特徴データとの差分が第1の閾値を超える場合、第1の警告情報の出力を制御する出力制御部を備える、
    請求項1に記載の手術システム。
  3. 前記処理部は、前記第1の画像に関連付けられた予後情報と標準データとを比較する、
    請求項1に記載の手術システム。
  4. 前記情報処理装置は、前記予後情報と前記標準データとの差分が第2の閾値を超える場合、第2の警告情報の出力を制御する出力制御部を備える、
    請求項3に記載の手術システム。
  5. 前記出力制御部は、前記予後情報と前記手術室内で行われた手術の種類に応じて取得された標準データとの差分が前記第2の閾値を超える場合、前記第2の警告情報の出力を制御する、
    請求項4に記載の手術システム。
  6. 前記情報処理装置は、前記標準データとの差分が第2の閾値を超え、かつ、同一または類似する複数の予後情報を抽出した場合、前記複数の予後情報それぞれに関連付けられた、人同士の連携に関する情報、各人の位置もしくは動作に関する情報、または、手術ステージの継続時間もしくは手術ステージにおける所定の段階までの経過時間を取得する解析部を備える、
    請求項3に記載の手術システム。
  7. 前記予後情報は、患者の入院期間、手術後の患者の症状の安定度合い、および、手術後の患者の状態を示す情報の少なくともいずれか一つを含む、
    請求項3に記載の手術システム。
  8. 前記処理部は、学習によって得られた前記手術室内の人または機器の位置に関する辞書データと前記第1の画像から抽出された人または機器の位置を示す第1の特徴データとを比較する、
    請求項1に記載の手術システム。
  9. 前記第1の特徴データは、前記人または機器が通過した複数の位置または前記複数の位置の重心を含む、
    請求項8に記載の手術システム。
  10. 前記処理部は、前記第1の画像または前記第1の画像が撮像されたタイミングと所定の関係を有するタイミングに撮像された画像から手術ステージが認識された場合、前記手術ステージの辞書データと前記第1の特徴データとを比較する、
    請求項1に記載の手術システム。
  11. 前記手術ステージは、前記手術ステージに対応するイベントの検出によって認識される、
    請求項10に記載の手術システム。
  12. 前記辞書データは、第2の画像から抽出された人または機器に関する第2の特徴データに対して修正が入力された場合、前記修正に基づいて作成される、
    請求項1に記載の手術システム。
  13. 前記辞書データは、前記第2の画像または前記第2の画像が撮像されたタイミングと所定の関係を有するタイミングに撮像された画像から手術ステージが認識された場合、前記手術ステージの辞書データとして作成される、
    請求項12に記載の手術システム。
  14. 前記情報処理装置は、前記辞書データと前記第1の特徴データとにおいて、手術ステージの遷移順序が異なる場合、または、対応する手術ステージの継続時間もしくは対応する段階までの経過時間の差分が第3の閾値を超える場合、第3の警告情報の出力を制御する出力制御部を備える、
    請求項13に記載の手術システム。
  15. 前記辞書データは、第3の画像から人同士の連携が認識された場合、前記人同士の連携に関する情報を含んで作成される、
    請求項1に記載の手術システム。
  16. 前記情報処理装置は、前記辞書データと前記第1の特徴データとにおいて、連携する複数の人の少なくとも一人が異なる場合、連携する複数の人のいずれかが入れ替わっている場合、または、対応する人同士の連携の継続時間もしくは人同士の連携の対応する段階までの経過時間の差分が第4の閾値を超える場合、第4の警告情報の出力を制御する出力制御部を備える、
    請求項15に記載の手術システム。
  17. 前記情報処理装置は、学習によって前記手術室内の人または機器に関する前記辞書データを作成する学習部を備える、
    請求項1に記載の手術システム。
  18. 前記情報処理装置は、前記第1の画像から前記第1の特徴データを抽出する特徴データ抽出部を備える、
    請求項1に記載の手術システム。
  19. プロセッサにより、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較することを含む、
    情報処理方法。
  20. 学習によって得られた手術室内の人または機器に関する辞書データとカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較する処理部を備える、情報処理装置。
JP2017142420A 2017-07-24 2017-07-24 手術システム、情報処理方法および情報処理装置 Pending JP2019022580A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2017142420A JP2019022580A (ja) 2017-07-24 2017-07-24 手術システム、情報処理方法および情報処理装置
CN201880047546.9A CN110913787B (zh) 2017-07-24 2018-07-05 手术支持系统、信息处理方法和信息处理装置
US16/631,851 US11348684B2 (en) 2017-07-24 2018-07-05 Surgical support system, information processing method, and information processing apparatus
PCT/JP2018/025458 WO2019021781A1 (en) 2017-07-24 2018-07-05 SURGICAL SUPPORT SYSTEM, INFORMATION PROCESSING METHOD, AND INFORMATION PROCESSING APPARATUS
EP18746308.8A EP3658056A1 (en) 2017-07-24 2018-07-05 Surgical support system, information processing method, and information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017142420A JP2019022580A (ja) 2017-07-24 2017-07-24 手術システム、情報処理方法および情報処理装置

Publications (2)

Publication Number Publication Date
JP2019022580A true JP2019022580A (ja) 2019-02-14
JP2019022580A5 JP2019022580A5 (ja) 2020-08-20

Family

ID=63036285

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017142420A Pending JP2019022580A (ja) 2017-07-24 2017-07-24 手術システム、情報処理方法および情報処理装置

Country Status (5)

Country Link
US (1) US11348684B2 (ja)
EP (1) EP3658056A1 (ja)
JP (1) JP2019022580A (ja)
CN (1) CN110913787B (ja)
WO (1) WO2019021781A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137103A (ja) * 2019-02-19 2020-08-31 株式会社シンクアウト 情報処理システムおよび情報処理プログラム
WO2021090870A1 (ja) * 2019-11-07 2021-05-14 川崎重工業株式会社 使用器具推定装置及び方法並びに手術補助ロボット
JP2022543272A (ja) * 2019-08-06 2022-10-11 アルコン インコーポレイティド 硝子体網膜手術用のシーンカメラシステム及び方法
KR20230104509A (ko) * 2021-12-31 2023-07-10 서울대학교병원 환자와 의료진 간 신뢰 향상을 위한 xr 기반 실감형 커뮤니케이션 시스템 및 그 방법

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112818959B (zh) * 2021-03-25 2023-09-05 杭州海康威视数字技术股份有限公司 手术流程识别方法、装置、系统及计算机可读存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140081659A1 (en) * 2012-09-17 2014-03-20 Depuy Orthopaedics, Inc. Systems and methods for surgical and interventional planning, support, post-operative follow-up, and functional recovery tracking
WO2015066565A1 (en) * 2013-10-31 2015-05-07 Health Research, Inc. System and method for a situation and awareness-based intelligent surgical system

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004157614A (ja) 2002-11-01 2004-06-03 Advanced Telecommunication Research Institute International 行動分析装置
WO2012040554A2 (en) * 2010-09-23 2012-03-29 Stryker Corporation Video monitoring system
US9247211B2 (en) * 2012-01-17 2016-01-26 Avigilon Fortress Corporation System and method for video content analysis using depth sensing
DE102013209158A1 (de) * 2013-05-16 2014-11-20 Fiagon Gmbh Verfahren zum Einbinden mittels eines bildgebenden Verfahrens gewonnener Daten
US11977998B2 (en) * 2014-05-15 2024-05-07 Storz Endoskop Produktions Gmbh Surgical workflow support system
US9943374B2 (en) * 2014-09-16 2018-04-17 X-Nav Technologies, LLC Image guidance system for detecting and tracking an image pose
WO2017016947A1 (en) * 2015-07-24 2017-02-02 Navigate Surgical Technologies, Inc. Surgical systems and associated methods using gesture control
CN108472084B (zh) * 2015-11-12 2021-08-27 直观外科手术操作公司 具有训练或辅助功能的外科手术系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140081659A1 (en) * 2012-09-17 2014-03-20 Depuy Orthopaedics, Inc. Systems and methods for surgical and interventional planning, support, post-operative follow-up, and functional recovery tracking
WO2015066565A1 (en) * 2013-10-31 2015-05-07 Health Research, Inc. System and method for a situation and awareness-based intelligent surgical system

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137103A (ja) * 2019-02-19 2020-08-31 株式会社シンクアウト 情報処理システムおよび情報処理プログラム
JP7304508B2 (ja) 2019-02-19 2023-07-07 株式会社シンクアウト 情報処理システムおよび情報処理プログラム
JP2022543272A (ja) * 2019-08-06 2022-10-11 アルコン インコーポレイティド 硝子体網膜手術用のシーンカメラシステム及び方法
JP7573018B2 (ja) 2019-08-06 2024-10-24 アルコン インコーポレイティド 硝子体網膜手術用のシーンカメラシステム及び方法
WO2021090870A1 (ja) * 2019-11-07 2021-05-14 川崎重工業株式会社 使用器具推定装置及び方法並びに手術補助ロボット
JP2021074243A (ja) * 2019-11-07 2021-05-20 川崎重工業株式会社 使用器具推定装置及び方法並びに手術補助ロボット
CN114449970A (zh) * 2019-11-07 2022-05-06 川崎重工业株式会社 使用器具推断装置、方法以及手术辅助机器人
KR20230104509A (ko) * 2021-12-31 2023-07-10 서울대학교병원 환자와 의료진 간 신뢰 향상을 위한 xr 기반 실감형 커뮤니케이션 시스템 및 그 방법
KR102803396B1 (ko) * 2021-12-31 2025-05-08 서울대학교병원 환자와 의료진 간 신뢰 향상을 위한 xr 기반 실감형 커뮤니케이션 시스템 및 그 방법

Also Published As

Publication number Publication date
WO2019021781A1 (en) 2019-01-31
CN110913787A (zh) 2020-03-24
CN110913787B (zh) 2023-06-16
US11348684B2 (en) 2022-05-31
EP3658056A1 (en) 2020-06-03
US20200168325A1 (en) 2020-05-28

Similar Documents

Publication Publication Date Title
US11033338B2 (en) Medical information processing apparatus, information processing method, and medical information processing system
WO2020045015A1 (ja) 医療システム、情報処理装置及び情報処理方法
US10904437B2 (en) Control apparatus and control method
US11348684B2 (en) Surgical support system, information processing method, and information processing apparatus
US11729493B2 (en) Image capture apparatus and image capture method
JP2019162231A (ja) 医療用撮像装置及び医療用観察システム
JPWO2018096987A1 (ja) 情報処理装置および方法、並びにプログラム
US11883120B2 (en) Medical observation system, medical signal processing device, and medical signal processing device driving method
WO2018088105A1 (ja) 医療用支持アーム及び医療用システム
JP7188083B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JPWO2018221041A1 (ja) 医療用観察システム及び医療用観察装置
WO2019239942A1 (ja) 手術用観察装置、手術用観察方法、手術用光源装置、及び手術用の光照射方法
WO2018088113A1 (ja) 関節駆動用アクチュエータ及び医療用システム
WO2021010193A1 (ja) 医療機器制御システム、制御装置、および制御方法
JP7134656B2 (ja) 医療用表示制御装置、および表示制御方法
WO2020045014A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2018230510A1 (ja) 画像処理装置、画像処理方法および撮像システム
WO2018168578A1 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
US20220183576A1 (en) Medical system, information processing device, and information processing method
JP7230923B2 (ja) 情報処理装置、情報処理方法及びプログラム
WO2020009127A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
WO2018043205A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
WO2019202860A1 (ja) 医療用システム、接続構造、及び接続方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200709

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211108

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220308