JP7736686B2 - ディスプレイによる深度測定 - Google Patents

ディスプレイによる深度測定

Info

Publication number
JP7736686B2
JP7736686B2 JP2022531483A JP2022531483A JP7736686B2 JP 7736686 B2 JP7736686 B2 JP 7736686B2 JP 2022531483 A JP2022531483 A JP 2022531483A JP 2022531483 A JP2022531483 A JP 2022531483A JP 7736686 B2 JP7736686 B2 JP 7736686B2
Authority
JP
Japan
Prior art keywords
illumination
features
light
image
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022531483A
Other languages
English (en)
Other versions
JP2023503517A (ja
Inventor
シンドラー,パトリク
ライン,ベンヤミン
ボンジヒノーレ,クリスティアン
エバーシュパッハ,ミヒャエル
シレン,ペーター
Original Assignee
トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング filed Critical トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング
Publication of JP2023503517A publication Critical patent/JP2023503517A/ja
Priority to JP2025138532A priority Critical patent/JP2025172795A/ja
Application granted granted Critical
Publication of JP7736686B2 publication Critical patent/JP7736686B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/22Measuring arrangements characterised by the use of optical techniques for measuring depth
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145Illumination specially adapted for pattern recognition, e.g. using gratings
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/94Hardware or software architectures specially adapted for image or video understanding
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional [3D] objects
    • G06V20/647Three-dimensional [3D] objects by matching two-dimensional images to three-dimensional objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/12Acquisition of 3D measurements of objects
    • G06V2201/121Acquisition of 3D measurements of objects using special illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Vascular Medicine (AREA)
  • Health & Medical Sciences (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Description

本発明は、ディスプレイ装置と透光性ディスプレイによる深度測定のための方法、ならびにディスプレイ装置の様々な使用に関する。本発明による装置、方法及び使用は、具体的には、例えば、日常生活、セキュリティ技術、ゲーミング、交通技術、生産技術、芸術、文書又は技術目的のためのデジタル写真又はビデオ撮影などの写真撮影、セキュリティ技術、情報技術、農業、作物保護、メンテナンス、化粧品、医療技術、又は科学の様々な分野において採用され得る。ただし、他の適用も可能である。
いくつかのディスプレイ装置が知られている。ディスプレイを備えた装置に関する最近の開発では、ディスプレイエリアは利用可能な空間全体をカバーする必要があり、ディスプレイを囲むフレームは可能な限り小さくする必要があることを示している。その結果、電子構成要素及びセンサ(例えば、前面カメラ、フラッシュライト、近接センサ、さらには3D画像センサなど)は、もはやフレーム内に配置されることはできず、ディスプレイの下に配置しなければならないことになった。しかし、最も一般的な3Dイメージング技術及びシステム(例えば、構造化光又は3D飛行時間(ToF)に基づく3Dイメージングシステムなど)は、苦労なしにディスプレイの下に配置されることはできない。
今まで、構造化光又は3D-ToFに基づく3Dイメージングシステムが、ディスプレイの下で作動していること、すなわち、ウィンドウを通して「見る」ために、3Dイメージングシステムの構成要素又は装置を配置するための、マイクロ回路及び/又はマイクロ配線を含まない空のウィンドウを作成することなく、ディスプレイの下で作動していることは知られていない。
構造化光の場合、主な問題は、透明ディスプレイのマイクロ回路及び/又はマイクロ配線の微細構造であり、及び、その結果として、ディスプレイを通過する光の透過率が低いことである。この微細構造は、単一ピクセルをアドレス指定するための電極マトリックスに起因する。また、単一ピクセルの金属カソードは透明でないため、ピクセル自体は逆格子を示す。原則として、ディスプレイ構造は、特定の材料を用いることで、電極を含めて全体として透明又は透光性にすることができるが、今までのところ、格子状の微細構造を有しない透明又は透光性のディスプレイは存在しない。
構造化光ベースの3Dイメージ化装置は、数千の点と既知のパターンを有する点群をシーンの中に投影することに基づいている。透明又は透光性ディスプレイの微細構造は、レーザ光の回折格子構造のように機能する。構造化光イメージ化装置のプロジェクタの多くは、明確に定義されたドットパターンを投影するレーザ源に基づいているため、このパターンはディスプレイの回折格子効果を受け、ドットパターンの全てのスポットが高い回折次数を示すようになる。このことは、構造化光イメージ化装置にとって致命的な影響を有する、なぜなら、回折格子構造によって引き起こされる追加の不要な点は、本来の期待されるパターンを検索するためアルゴリズムが非常に複雑にするからである。
さらに、従来の構造化光イメージ化装置で使用されている投影点の数はかなり多い。透明ディスプレイは光透過率が非常に低いため、例えば3Dイメージ化装置の典型的な波長である850nm及び940nmの赤外線(IR)においてさえも、イメージ化装置によって検出され得る構造化光プロジェクタがディスプレイを通すのに十分なパワーを得るために、非常に高い出力パワーが必要とされ、また、該構造化光プロジェクタはディスプレイの下に設置する必要があり、そのことは追加の光吸収をもたらす。点の数が多いことと、低光透過率の組み合せは、低い周囲光堅牢性をもたらし得る。
3D-ToFセンサの場合、マルチ反射をもたらすディスプレイ表面の反射、同様に、光がディスプレイを通過するときの遅延の差のため、異なるディスプレイ構造は異なる屈折率を有し、ディスプレイの背後で使用されるときに堅牢な機能を妨げる。さらに、3D-ToFセンサは、シーンを照射するための大量の光も必要とする。さらに、照射は均一である必要がある。ディスプレイの光透過率が低いと、十分な光を提供することが難しく、格子構造は照射の均一性に影響を与える。
一般的な3D感知システムは、透明ディスプレイを通して測定するのに問題がある。現在の装置は、ディスプレイに設けた切欠を使用している。そうすることで、センサが回折光学効果によって妨害されない。
DE202018003644U1は、携帯電子装置を記載しており、該装置は、底壁と協働してキャビティを規定する底壁及び側壁であって、該側壁が該キャビティに通じる開口部を規定するエッジを有する底壁及び側壁と;開口部を覆いキャビティを囲む保護層と;キャビティ内かつ保護層と底壁との間に配置され保護層外の物体の深度マップを提供する役割を果たす視覚サブシステムであって、深度マップの情報を生成するために協働する光学部品を運ぶためのクリップアセンブリを備え、該クリップアセンブリは、光学部品を互いから一定の距離で支持し保持するように配置された第1ブラケットと第1ブラケットに固定された本体を有する第2ブラケット(第2ブラケットは、本体から離れて伸びる突起を有する)を備える、視覚サブシステムと、を備える。
US9,870,024B2は、カバー層、カラーフィルタ層、発光ダイオード又は有機発光ダイオードを含むディスプレイ層、薄膜トランジスタ層等の複数の層を含む電子ディスプレイを記載している。一実施形態では、層は、カメラの上方に配置された実質的に透明な領域を含む。実質的に透明な領域は、外部からの光がカメラに到達することを可能にし、カメラが画像を記録することを可能にする。
US10,057,541B2は、撮像装置及び撮像方法を記載している。この撮像装置は、透明ディスプレイパネルと;透明ディスプレイパネルが黒画像を表示する期間にシャッター時間を同期させ、透明ディスプレイパネルの前方に位置する画像を取得するための、透明ディスプレイパネルの底面に対向するカメラと、を備える。
US10,215,988B2は、第1の複数の光指向開口部、光検出器、プロセッサ、ディスプレイ、及び第2の複数の光指向開口部を含むアクティブ光学部品を含むシーンからの光を表示するための光学システムを記載している。第1の複数の光指向開口部は、光検出器に光入力を提供するように配置されている。光検出器は、光入力を受信し、光入力を強度データ及び位置データに対応する電気信号に変換するように配置されている。プロセッサは、光学検出器からデータを受信し、ディスプレイのためにデータを処理するように接続されている。第2の複数の光指向開口部は、ディスプレイから光出力を提供するように配置されている。
WO2019/042956A1は、少なくとも1つの物体の位置を決定するための検出器を記載している。検出器は、-光センサのマトリックスを有する少なくとも1つのセンサ要素であって、該光センサはそれぞれ感光エリアを有し、各光センサは、物体から検出器に伝播する反射光ビームによるそのそれぞれの感光エリアの照射に応答して少なくとも1つのセンサ信号を生成するように設計され、センサ要素は、少なくとも1つの反射画像を決定するように適合されている、センサ要素と;-少なくとも1つの評価装置であって、反射画像の少なくとも1つの反射特徴を選択するように適合されており、センサ信号からの結合信号Qを評価することによって、反射画像の選択された反射特徴の少なくとも1つの縦方向領域を決定するように構成され、縦方向領域に対応する少なくとも1つの参照画像内の少なくとも1つの変位領域を決定するように適合され、変位領域内の少なくとも1つの参照特徴と選択された反射特徴をマッチングするように適合されている、評価装置と、を備える。
したがって、本発明の目的は、既知の装置及び方法の上述の技術的課題に直面する装置及び方法を提供することである。具体的には、本発明の目的は、低い技術的努力で、かつ技術的資源及びコストの観点から低い要求で、ディスプレイを通しての信頼性の高い深度測定を可能にする装置及び方法を提供することである。
この問題は、独立特許請求項の特徴を備えた本発明によって解決される。個別に又は組み合わせて実現することができる本発明の有利な展開は、従属請求項及び/又は以下の明細書及び詳細な実施形態に示されている。
以下で使用される場合、「有する」、「備える」、又は「含む」という用語、又はそれらの任意の文法上の変形は、非排他的な方法で使用される。したがって、これらの用語は、これらの用語によって導入された特徴の他に、この文脈で説明されている実体にさらなる特徴が存在しない状況と、1つ以上のさらなる特徴が存在する状況の両方を指し得る。一例として、「AはBを有する」、「AはBを備える」、及び「AはBを含む」という表現は、B以外にAに他の要素が存在しない状況(つまり、Aは専らかつ排他的にBを構成する状況)と、Bに加えて、1つ以上の要素、例えば要素C、要素CとD、又はさらに要素などが実体Aに存在する状況の双方を指し得る。
さらに、「少なくとも1つ」、「1つ以上」という用語、又は、特徴もしくは要素が1回以上存在し得ることを示す同様の表現は、典型的には、それぞれの特徴又は要素を導入するときに1回だけ使用されることに留意されたい。以下では、ほとんどの場合、それぞれの特徴又は要素を参照するときに、「少なくとも1つ」又は「1つ以上」という表現は、それらの特徴又は要素が1回以上現れ得るという事実にもかかわらず、繰り返されないことに留意されたい。
さらに、以下で使用される場合、「好ましくは」、「より好ましくは」、「特に」、「より特に」、「具体的に」、「より具体的に」という用語、又は、同様の用語は、代替の可能性を制限することなく、任意の特徴に関連して使用される。したがって、これらの用語によって導入される特徴は、任意の特徴であり、いかなる意味でも特許請求の範囲を限定することを意図するものではない。本発明は、当業者であれば認識するように、代替的特徴を用いて実施することができる。同様に、「本発明の一実施形態では」又は同様の表現によって導入される特徴は、本発明の代替実施形態に関するいかなる制限もなく、本発明の範囲に関するいかなる制限もなく、及び、そのような方法で導入される特徴を本発明の他の任意の又は非任意の特徴と組み合わせる可能性に関するいかなる制限もなく、任意の特徴であることが意図されている。
本発明の第1の態様では、ディスプレイ装置が開示されている。本明細書で使用される場合、「ディスプレイ」という用語は、少なくとも1つの画像、少なくとも1つの図、少なくとも1つのヒストグラム、少なくとも1つのテキスト、少なくとも1つの記号などの情報の一項目を表示するように構成された任意の形状の装置を指し得る。ディスプレイは、少なくとも1つのモニタ又は少なくとも1つのスクリーンであり得る。ディスプレイは、任意の形状、好ましくは長方形の形状を有することができる。本明細書で使用される場合、「ディスプレイ装置」という用語は、一般に、少なくとも1つのディスプレイを含む少なくとも1つの電子装置を指し得る。例えば、ディスプレイ装置は、テレビ装置、スマートフォン、ゲームコンソール、パーソナルコンピュータ、ラップトップ、タブレット、少なくとも1つの仮想現実装置、又はそれらの組み合わせからなる群から選択される少なくとも1つの装置であってよい。
ディスプレイ装置は、
- 少なくとも1つのシーンに、複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成された少なくとも1つの照射源と;
- 少なくとも1つの感光エリアを有する少なくとも1つの光センサであって、前記光センサは、前記照射特徴による照射に応答して前記シーンによって生成される複数の反射特徴を含む少なくとも1つの第1画像を決定するように構成されている、少なくとも1つの光センサと;
- 情報を表示するように構成された少なくとも1つの透光性ディスプレイであって、前記照射源と前記光センサが、前記ディスプレイの前で前記照射パターンの伝播方向に配置されている、少なくとも1つの透光性ディスプレイと;
- 少なくとも1つの評価装置であって、前記評価装置は、前記第1画像を評価するように構成され、前記第1画像の前記評価は、前記第1画像の前記反射特徴を識別し、前記識別された反射特徴を輝度に関してソートすることを含み、前記反射特徴の各々は、少なくとも1つのビームプロファイルを含み、前記評価装置は、それらのビームプロファイルの分析によって前記反射特徴の各々の少なくとも1つの縦方向座標zDPRを決定するように構成されている、少なくとも1つの評価装置と、
を備えており、
前記評価装置は、前記縦方向座標zDPRを使用することにより、反射特徴を対応する照射特徴に明確にマッチングするように構成されており、前記マッチングは、最も明るい反射特徴から始めて、前記反射特徴の輝度を減少して実行され、前記評価装置は、照射特徴とマッチングする反射特徴を真の特徴として分類し、照射特徴とマッチングしない反射特徴を偽の特徴として分類するように構成されおり、前記評価装置は、前記偽の特徴を除くように、及び、縦方向座標zDPRを使用して真の特徴についての深度マップを生成するように構成されている。
本明細書で使用される場合、「シーン」という用語は、少なくとも1つの任意の物体又は空間領域を指し得る。シーンは、少なくとも1つの物体及びその周囲の環境を含み得る。
照射源は、シーン上に複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成される。本明細書で使用される場合、「照射源」という用語は、一般に、シーンの照射のために少なくとも1つの照射光ビームを提供するように適合された少なくとも1つの任意の装置を指し得る。照射源は、シーンを直接的又は間接的に照射するように適合されてよく、照射パターンは、シーンの表面によって反射又は散乱され、それによって、少なくとも部分的に光センサに向けられる。照射源は、例えば、光ビームを反射するシーンに光ビームを向けることによって、シーンを照射するように適合されてよい。照射源は、シーンを照射するための照射光ビームを生成するように構成されてよい。
照射源は、少なくとも1つの光源を含んでよい。照射源は、複数の光源を含んでいてもよい。照射源は、人工照射源、特に少なくとも1つのレーザ源、及び/又は少なくとも1つの白熱灯、及び/又は少なくとも1つの半導体光源、例えば少なくとも1つの発光ダイオード、特に有機及び/又は無機発光ダイオードを含み得る。一例として、照射源によって放出される光は、300~1100nm、特に500~1100nmの波長を有し得る。追加的に又は代替的に、780nm~3.0μmの範囲などの赤外スペクトル範囲の光が使用され得る。具体的には、シリコンフォトダイオードが適用可能な特には700nm~1100nmの範囲の近赤外領域部分の光が使用されることができる。照射源は、赤外領域において少なくとも1つの照射パターンを生成するように構成されていてよい。近赤外領域の光を使用することは、光が人間の目では検出されないか、又はわずかにしか検出されないが、シリコンセンサ、特に標準的なシリコンセンサによって検出されることを可能にする。
本明細書で使用される場合、「光線」という用語は、一般に、エネルギーの流れの方向を指し示す光の波面に垂直な線を指す。本明細書で使用される場合、「ビーム」という用語は、一般に、光線の集まりを指す。以下では、「光線」及び「ビーム」という用語を同義語として使用される。本明細書でさらに使用される場合、「光ビーム」という用語は、一般に光の量を指し、具体的には、本質的に同じ方向に進む光の量であって、光ビームが拡張角又は広がり角を有する可能性を含む。光ビームは空間的広がりを有することができる。具体的には、光ビームは、非ガウスビームプロファイルを有することができる。ビームプロファイルは台形ビームプロファイル;三角形ビームプロファイル;円錐形ビーム横方向の強度プロファイルプロファイル、からなる群から選択されてよい。台形ビームプロファイルは、プラトー領域と少なくとも1つのエッジ領域とを有することができる。光ビームは、具体的には、以下でさらに詳細に概説するように、ガウス光ビーム又はガウス光ビームの線形結合であり得る。しかしながら、他の実施形態も可能である。
照射源は、単一波長で光を放出するように構成されることができる。具体的には、波長は、近赤外領域であってよい。他の実施形態では、照射は、他の波長チャネルでの追加の測定を可能にする複数の波長を有する光を放出するように適合されてよい。
照射源は、少なくとも1つの多重ビーム光源(multiple beam light source)であってもよく、又は、多重ビーム光源を含んでいてもよい。例えば、照射源は、少なくとも1つのレーザ源と1つ以上の回折光学素子(DOE)を含んでいてよい。具体的には、照射源は、少なくとも1つのレーザ及び/又はレーザ源を備えていてよい。様々なタイプのレーザ、例えば、半導体レーザ、ダブルヘテロ構造レーザ、外部キャビティレーザ、分離封じ込めヘテロ構造レーザ、量子カスケードレーザ、分散ブラッグ(bragg)反射器レーザ、ポラリトンレーザ、ハイブリッドシリコンレーザ、拡張キャビティダイオードレーザ、量子ドットレーザ、ボリュームブラッググレーティングレーザ、インジウムヒ素レーザ、トランジスタレーザ、ダイオード励起レーザ、分散フィードバックレーザ、量子ウェルレーザ、バンド間カスケードレーザ、ガリウムヒ素レーザ、半導体リングレーザ、拡張キャビティダイオードレーザ、又は垂直キャビティ面発光レーザなど、が採用されてよい。追加的に又は代替的に、LED及び/又は電球などの非レーザ光源が使用されてもよい。照射源は、照射パターンを生成するように適合された1つ以上の回折光学素子(DOE)を含んでよい。例えば、照射源は、点群を生成及び/又は投影するように適合されてよく、例えば、照射源は、少なくとも1つのデジタル光処理プロジェクタ、少なくとも1つのLCoSプロジェクタ、少なくとも1つの空間光変調器;少なくとも1つの回折光学素子;発光ダイオードの少なくとも1つのアレイ;レーザ光源の少なくとも1つのアレイ、のうちの1つ以上を含み得る。それらの一般的に定義されたビームプロファイル及び取扱い性の他の特性を考慮すると、照射源として少なくとも1つのレーザ源の使用が特に好ましい。照射源は、ディスプレイ装置のハウジングに一体化されてよい。
一実施形態では、照射源は、単一又は多重ビーム源であってよく、少なくとも1つの点パターンなどの少なくとも1つの照射パターンを投影するように構成されていてよい。照射パターンは、以下のように生成されてよい。照射源は、少なくとも1つの光ビームを生成するように構成されてよい。照射源は、ディスプレイの前方に照射パターンの伝播方向に配置されてよい。したがって、光ビームのビーム経路は、照射源からディスプレイを通ってシーンまで通過することができる。ディスプレイを通過する間に、光ビームは、ディスプレイによる回折を受けることができ、その結果、点パターンなどの特徴的な照射パターンが生じることができる。この実施形態におけるディスプレイは、格子として機能することができる。ディスプレイの配線、特にスクリーンの配線は、格子のギャップ及び/又はスリット、及びリッジを形成するように構成されてよい。
さらに、照射源は、変調された光又は変調されていない光を放出するように構成されてよい。複数の照射源を使用する場合、異なる照射源は異なる変調周波数を有することができ、該異なる変調周波数は、以下にさらに詳細に概説するように、後に、光ビームを区別するために使用されることができる。
照射源によって生成された1つ又は複数の光ビームは、一般的に、光軸に平行に伝播してもよいし、又は、光軸に対して傾斜して伝播してもよく、例えば、光軸と角度を含んで伝播してもよい。ディスプレイ装置は、1つ又は複数の光ビームがディスプレイ装置の光軸に沿ってディスプレイ装置からシーンに向かって伝播するように構成されてよい。この目的のために、ディスプレイ装置は、照射光ビームを光軸上に偏向させるための少なくとも1つの反射要素、好ましくは少なくとも1つのプリズムを含んでいてよい。一例として、レーザ光ビームなどの1つ又は複数の光ビーム、及び光軸は、10°未満、好ましくは5°未満、さらには2°未満の角度を有してよい。しかし、他の実施形態も実現可能である。さらに、1つ又は複数の光ビームは、光軸上にあってもよいし、又は光軸から外れていてもよい。一例として、1つ又は複数の光ビームは、光軸に対して10mm未満、好ましくは5mm未満、さらには1mm未満の距離を有して、光軸と平行であってもよく、又は光軸と一致さえしていてもよい。
本明細書で使用される場合、「少なくとも1つの照射パターン」という用語は、シーンの少なくとも一部を照射するように適合された少なくとも1つの照射特徴を含む少なくとも1つの任意のパターンを指す。本明細書で使用される場合、「照射特徴」という用語は、パターンの少なくとも部分的に広がった少なくとも1つの特徴を指す。照射パターンは、単一の照射特徴を含んでよい。照射パターンは、複数の照射特徴を含んでよい。照射パターンは、少なくとも1つの点パターン;少なくとも1つの線パターン;少なくとも1つのストライプパターン;少なくとも1つの市松模様パターン;周期的又は非周期的な特徴の配置を含む少なくとも1つのパターン、からなる群から選択されてよい。照射パターンは、三角形のパターン、長方形のパターン、六角形パターン、又はさらに凸状のタイル状パターンなどの規則的及び/又は一定及び/又は周期的なパターンを含んでよい。照射パターンは、少なくとも1つの点;少なくとも1つの線;平行線又は交差線などの少なくとも2つの線;少なくとも1つの点と1つの線;周期的又は非周期的な特徴の少なくとも1つの配置;少なくとも1つの任意の形状の特徴からなる群から選択される少なくとも1つの照射特徴を示してよい。照射パターンは:少なくとも1つの点パターン、特に擬似ランダム点パターン;ランダム点パターン又は準ランダムパターン;少なくとも1つのソボル(Sobol)パターン;少なくとも1つの準周期的パターン;少なくとも1つの既知の特徴を含む少なくとも1つのパターン;少なくとも1つの規則的なパターン;少なくとも1つの三角形パターン;少なくとも1つの六角形パターン;少なくとも1つの長方形パターン;凸状の均一なタイル状体(tiling)を含む少なくとも1つのパターン;少なくとも1つの線を含む少なくとも1つの線パターン;平行線又は交差線などの少なくとも2つの線を含む少なくとも1つの線パターン、からなる群から選択される少なくとも1つのパターンを含むことができる。例えば、照射源は、点群を生成及び/又は投影するように適合され得る。照射源は、照射パターンが複数の点パターンを含むことができるように点群を生成するように適合された少なくとも1つの光プロジェクタを含み得る。照射源は、照射源によって生成された少なくとも1つの光ビームから照射パターンを生成するように適合された少なくとも1つのマスクを含むことができる。
照射パターンの2つの特徴間の距離及び/又は少なくとも1つの照射特徴の面積は、画像内の錯乱円に依存し得る。上記で概説したように、照射源は、少なくとも1つの照射パターンを生成するように構成された少なくとも1つの光源を含んでよい。具体的には、照射源は、レーザ放射を生成するように割り当てられた少なくとも1つのレーザ源及び/又は少なくとも1つのレーザダイオードを含む。照射源は、少なくとも1つの回折光学素子(DOE)を含んでよい。ディスプレイ装置は、少なくとも1つの周期的な点パターンを投影するように適合された、少なくとも1つのレーザ源及びDOEなどの少なくとも1つの点プロジェクタを含んでよい。
本明細書でさらに使用される場合、「少なくとも1つの照射パターンを投影する」という用語は、少なくとも1つのシーンを照射するための少なくとも1つの照射パターンを提供することを指す。
例えば、投影される照射パターンは、周期的な点パターンであってよい。投影される照射パターンは、低い点密度を有していてよい。例えば、照射パターンは、低い点密度を有する少なくとも1つの周期的な点パターンを含み得、該照射パターンは、視野あたり2500個以下の点を有する。55×38°の視野において典型的に10k~30kの点密度を有する構造化光と比較して、本発明による照射パターンは、より低密度であってよい。これにより、提案された技術は構造化光と比較して周囲光により少なく依存するように、点あたりのパワーを増やすことができる。
ディスプレイ装置は、光センサを備える1つのカメラを備えることができる。ディスプレイ装置は、それぞれが単数又は複数の光センサを備える複数のカメラを備えることができる。
光センサは、少なくとも1つの感光エリアを有する。本明細書で使用される場合、「光センサ」は、一般に、少なくとも1つの光ビームによって生成された照射及び/又は光スポットを検出するためなどの、光ビームを検出するための感光装置を指す。本明細書でさらに使用される場合、「感光エリア」は、一般的に、少なくとも1つの光ビームによって外部から照射され、該照射に応答して少なくとも1つのセンサ信号を生成する、光センサのエリアを指す。感光エリアは、具体的には、それぞれの光センサの表面に位置することができる。しかしながら、他の実施形態も可能である。ディスプレイ装置は、それぞれが感光エリアを有する複数の光センサを含んでよい。本明細書で使用される場合、「それぞれが少なくとも1つの感光エリアを有する光センサ」という用語は、それぞれが1つの感光エリアを有する複数の単一の光センサを備える構成と、複数の感光エリアを有する1つの結合された光センサを備える構成とを指す。「光センサ」という用語は、さらに、1つの出力信号を生成するように構成された感光装置を指す。ディスプレイ装置が複数の光センサを含む場合、各光センサは、正確に1つの感光エリアがそれぞれの光センサ内に存在するように、例えば、照射され得る正確に1つの感光エリアを提供し、該感光エリアの照射に応答して光センサ全体について正確に1つの均一なセンサ信号を生成するようにすることによって具現化されてよい。したがって、各光センサは、単一エリアの光センサであってよい。単一エリアの光センサの使用は、しかしながら、ディスプレイ装置の構成を特に簡単かつ効率的にする。したがって、一例として、それぞれが正確に1つの感光エリアを有する市販のシリコンフォトダイオードなどの市販の光センサが、構成において使用されてよい。しかしながら、他の実施形態も可能である。
好ましくは、感光エリアは、ディスプレイ装置の光軸に対して実質的に垂直に方向付けされ得る。光軸は、直線の光軸であってもよいし、又は、1つ以上の偏向要素及び/又は1つ以上のビームスプリッタを使用することなどにより、屈折又は分割さえされてよく、後者の場合、実質的に垂直な方向付けは、光学構成のそれぞれの分岐又はビーム経路の局所的光軸に関して言及している。
光センサは、具体的には、少なくとも1つの光検出器、好ましくは無機光検出器、より好ましくは無機半導体光検出器、最も好ましくはシリコン光検出器であってもよく、又はそれらを含んでいてもよい。具体的には、光センサは、赤外スペクトル範囲において感度を有してよい。マトリックスの全てのピクセル、又はマトリックスの光センサの少なくとも一群は、具体的には同一であってよい。マトリックスの同一のピクセルの一群は、具体的には、異なるスペクトル範囲について提供されてもよく、又は全てのピクセルは、スペクトル感度に関して同一であってもよい。さらに、ピクセルは、サイズ及び/又はそれらの電子的又は光電子的特性に関して同一であってもよい。具体的には、光センサは、赤外スペクトル範囲、好ましくは700nm~3.0マイクロメートルの範囲に感度を有する少なくとも無機フォトダイオードであってもよく、又はそれらを含んでいてもよい。具体的には、光センサは、シリコンフォトダイオードが適用可能な特に700nm~1100nmの範囲の近赤外領域の部分で感度を有してよい。光センサに使用され得る赤外光センサは、例えば、ドイツ,D-67056 Ludwigshafen am RheinのtrinamiX GmbHのHertzstueck(登録商標)というブランド名で市販されている赤外光センサなど、市販の赤外光センサであってよい。したがって、一例として、光センサは、固有の光起電型の少なくとも1つの光センサ、より好ましくは、Geフォトダイオード、InGaAsフォトダイオード、拡張InGaAsフォトダイオード、InAsフォトダイオード、InSbフォトダイオード、HgCdTeフォトダイオード、からなる群から選択される少なくとも1つの半導体フォトダイオードを含み得る。追加的又は代替的に、光センサは、外因性光起電型の少なくとも1つの光センサ、より好ましくは、Ge:Auフォトダイオード、Ge:Hgフォトダイオード、Ge:Cuフォトダイオード、Ge:Znフォトダイオード、Si:Gaフォトダイオード、Si:Asフォトダイオードからなる群から選択される少なくとも1つの半導体フォトダイオードを含み得る。追加的又は代替的に、光センサは、PbSもしくはPbSeセンサなどの少なくとも1つの光導電センサ、ボロメータ、好ましくはVOボロメータ及びアモルファスSiボロメータからなる群から選択されるボロメータを含み得る。
光センサは、紫外、可視、又は赤外スペクトル範囲の1つ以上で感度を有してよい。具体的には、光センサは、500nm~780nm、最も好ましくは650nm~750nm、又は690nm~700nmの可視スペクトル範囲で感度を有してよい。具体的には、光センサは近赤外領域で感度を有してよい。具体的には、光センサは、シリコンフォトダイオードが適用可能な特に700nm~1000nmの範囲の近赤外領域の部分で感度を有してよい。光センサは、具体的には、赤外スペクトル範囲、具体的には780nm~3.0μmの範囲で感度を有してよい。例えば、光センサは、それぞれ独立に、フォトダイオード、フォトセル、光伝導体、フォトトランジスタ又はそれらの任意の組み合わせからなる群から選択される少なくとも1つの要素であってもよく、又はそれらを含んでもよい。例えば、光センサは、CCDセンサ要素、CMOSセンサ要素、フォトダイオード、フォトセル、光導電体、フォトトランジスタ又はそれらの任意の組み合わせからなる群から選択される少なくとも1つの要素であってもよく、又はそれを含んでもよい。他の任意のタイプの感光性要素を使用してもよい。感光性要素は、一般に、完全に又は部分的に無機材料で作製されることができ、及び/又は、完全に又は部分的に有機材料で作製されることができる。最も一般的には、市販のフォトダイオード、例えば、無機半導体フォトダイオードなどの1つ以上のフォトダイオードが使用され得る。
光センサは、ピクセルのマトリックスを含む少なくとも1つのセンサ要素を含んでいてよい。したがって、一例として、光センサは、ピクセル化された光学装置の一部であるか、又は、それを構成してもよい。例えば、光センサは、少なくとも1つのCCD装置及び/又はCMOS装置であってもよく、及び/又は、それらを含んでいてもよい。一例として、光センサは、ピクセルのマトリックスを有し、各ピクセルが感光エリアを形成する少なくとも1つのCCD装置及び/又はCMOS装置の一部であるか、又は、それを構成してもよい。
本明細書で使用される場合、「センサ要素」という用語は、一般に、少なくとも1つのパラメータを感知するように構成された装置又は複数の装置の組み合わせを指す。この場合、パラメータは、具体的には光パラメータであってよく、センサ要素は、具体的には光センサ要素であってよい。センサ要素は、一体の単一装置として、又はいくつかの装置の組み合わせとして形成され得る。センサ要素は、光センサのマトリックスを含む。センサ要素は、少なくとも1つのCMOSセンサを含み得る。マトリックスは、独立光センサなどの独立ピクセルで構成されてよい。したがって、無機フォトダイオードのマトリックスを構成することができる。しかしながら、代替的に、市販のマトリックス、例えば、CCD検出器チップなどのCCD検出器の1つ以上、及び/又はCMOS検出器チップなどのCMOS検出器が使用されてもよい。したがって、一般に、センサ要素は、少なくとも1つのCCD装置及び/又はCMOS装置であってもよく、及び/又は、それを含んでいてもよく、及び/又は、光センサは、センサアレイを形成してもよく、又は上述のマトリックスなどのセンサアレイの一部であってもよい。したがって、一例として、センサ要素は、例えばm行及びn列を有する長方形アレイなどのピクセルのアレイを有することができ、ここでm、nは独立して正の整数である。好ましくは、複数の列及び複数の行が与えられ、すなわち、n>1、m>1である。したがって、一例として、nは2~16以上であり得、mは2~16以上であり得る。好ましくは、行数と列数の比は1に近い。一例として、n及びmは、m/n=1:1、4:3、16:9又は類似のものを選択することなどにより、0.3≦m/n≦3となるように選択され得る。一例として、アレイは、m=2、n=2又はm=3、n=3などを選択することなどにより、等しい数の行及び列を有する正方形アレイであってもよい。
マトリックスは独立した光センサなどの独立のピクセルから構成されてよい。したがって、無機フォトダイオードのマトリックスを構成することができる。しかしながら、代替的に、市販のマトリックス、例えばCCD検出器チップなどのCCD検出器の1つ以上、及び/又はCMOS検出器チップなどのCMOS検出器を使用することができる。したがって、一般に、光センサは、少なくとも1つのCCD及び/又はCMOS装置であってよく及び/又はそれを含んでもよく、及び/又は、ディスプレイ装置の光センサは、センサアレイを形成するか、又は上記のマトリックスなどのセンサアレイの一部であり得る。
マトリックスは、具体的には、少なくとも1行、好ましくは複数行及び複数列を有する長方形のマトリックスであってよい。一例として、行及び列は、実質的に垂直な方向に方向付けられてよい。本明細書で使用される場合、「実質的に垂直」という用語は、±20°以下の許容誤差、好ましくは±10°以下の許容誤差、より好ましくは±5°以下の許容誤差を有する垂直な向きの状態を指す。同様に、「実質的に平行」という用語は、例えば±20°以下、好ましくは±10°以下、より好ましくは±5°以下の許容誤差を有する平行な向きの状態を指す。したがって、一例として、20°より小さい、具体的には10°より小さい、又は5°より小さい許容誤差さえ許容され得る。広い視野を提供するために、マトリックスは、具体的には、少なくとも10行、好ましくは少なくとも500行、より好ましくは少なくとも1000行を有することができる。同様に、マトリックスは、少なくとも10列、好ましくは少なくとも500列、より好ましくは少なくとも1000列を有することができる。マトリックスは、少なくとも50個の光センサ、好ましくは少なくとも100000個の光センサ、より好ましくは少なくとも5000000個の光センサを含むことができる。マトリックスは、数メガピクセルの範囲の数のピクセルを含むことができる。しかしながら、他の実施形態も可能である。したがって、軸回転対称性が期待される構成では、ピクセルとも呼ばれ得るマトリックスの光センサの円形配置又は同心配置が好ましいことがある。
したがって、一例として、センサ要素は、ピクセル化された光学装置の一部であるか、又は、それを構成してもよい。例えば、センサ要素は、少なくとも1つのCCD装置及び/又はCMOS装置であってもよく、及び/又は、それらを含んでいてもよい。一例として、センサ要素は、ピクセルのマトリックスを有し、各ピクセルが感光エリアを形成する少なくとも1つのCCD装置及び/又はCMOS装置の一部であるか、又は、それを構成してもよい。センサ要素は、光センサのマトリックスを読み取るために、ローリングシャッタ方式又はグローバルシャッタ方式を採用してもよい。
ディスプレイ装置は、少なくとも1つの転送装置をさらに含むことができる。ディスプレイ装置は、1つ以上の追加の光学要素などの1つ以上の追加の要素をさらに含むことができる。ディスプレイ装置は、少なくとも1つのレンズ及び/又は少なくとも1つのレンズシステムなどの転送装置、少なくとも1つの回折光学素子の群から選択された少なくとも1つの光学要素を含むことができる。「転送システム」とも呼ばれる「転送装置」という用語は、一般に、光ビームのビームパラメータ、光ビームの幅、又は光ビームの方向の1つ以上を変更することによってなど、光ビームを変更するように適合された1つ以上の光学要素を指し得る。転送装置は、光ビームを光センサに導くように適合されてよい。転送装置は、具体的には:少なくとも1つのレンズ、例えば、少なくとも1つの焦点調節可能レンズ、少なくとも1つの非球面レンズ、少なくとも1つの球面レンズ、少なくとも1つのフレネルレンズからなる群から選択される少なくとも1つのレンズ;少なくとも1つの回折光学素子;少なくとも1つの凹面鏡;少なくとも1つのビーム偏向要素、好ましくは少なくとも1つのミラー;少なくとも1つのビーム分割要素、好ましくはビーム分割キューブ又はビーム分割ミラーのうちの少なくとも1つ;少なくとも1つのマルチレンズシステム、からなる群から選択される少なくとも1つのレンズのうちの1つ以上を含み得る。本明細書で使用される場合、転送装置の「焦点距離」という用語は、転送装置に衝突する可能性がある入射平行光線が「フォーカルポイント(focal point)」とも呼ばれる「焦点(focus)」に集束される距離を指す。したがって、焦点距離は入射光ビームを収束させる転送装置の能力の指標を構成する。したがって、転送装置は、集束レンズの効果を有し得る1つ以上の画像化要素を含むことができる。例として、転送装置は、1つ以上のレンズ、特に1つ以上の屈折レンズ、及び/又は1つ以上の凸面ミラーを有することができる。この例では、焦点距離は、薄い屈折レンズの中心から薄いレンズの主焦点までの距離として定義することができる。凸型又は両凸型の薄レンズなどの、集束する薄い屈折レンズの場合、焦点距離は、正であると考えられ、転送装置としての薄レンズに衝突する平行光が単一のスポットに集束され得る距離を与えることができる。さらに、転送装置は、少なくとも1つの波長選択要素、例えば少なくとも1つの光フィルタを含むことができる。さらに、転送装置は、例えばセンサ領域の位置で、具体的にはセンサエリアで、電磁放射に所定のビームプロファイルを印加するように設計され得る。転送装置の上記の任意の実施形態は、原則として、個別に、又は任意の所望の組み合わせで実現することができる。
転送装置は、光軸を有していてよい。具体的には、ディスプレイ装置と転送装置は、共通の光軸を有する。本明細書で使用される場合、「転送装置の光軸」という用語は、一般に、レンズ又はレンズシステムの鏡面対称又は回転対称の軸を指す。ディスプレイ装置の光軸は、ディスプレイ装置の光学構成の対称の線であってよい。ディスプレイ装置は、少なくとも1つの転送装置、好ましくは、少なくとも1つのレンズを有する少なくとも1つの転送システムを有する。転送システムは、一例として、少なくとも1つのビーム経路であって、該ビーム経路内の転送システムの要素が光軸に関して回転対称に配置されているビーム経路を含んでよい。さらに、以下でもさらに詳細に説明されるように、ビーム経路内に配置された1つ以上の光学要素は、光軸に対して中心ズレされているか、又は傾斜していてもよい。しかし、この場合、光軸は、ビーム経路内の光学要素の中心を相互接続することによって、例えば、レンズの中心を相互接続することなどによって、順次定義されてよく、この文脈では、光センサは光学要素として考慮されない。光軸は、一般にビーム経路を示してよい。そこでは、ディスプレイ装置は、光ビームがそれに沿って物体から光センサに進む単一のビーム経路を有してもよく、又は複数のビーム経路を有してもよい。一例として、単一のビーム経路が与えられてもよく、又はビーム経路が2つ以上の部分ビーム経路に分割されてもよい。後者の場合、各部分ビーム経路は、それ自身の光軸を有することができる。光センサは、1つかつ同一のビーム経路又は部分ビーム経路に配置されてよい。代替的に、しかし、光センサはまた、異なる部分ビーム経路に配置されてよい。
転送装置は、縦方向座標が光軸に沿った座標であり、dが光軸からの空間的オフセットである座標系を構成してよい。座標系は、転送装置の光軸がz軸を形成し、z軸からの距離及び極角が追加の座標として使用され得る極座標系であり得る。z軸に平行又は逆平行な方向は、縦方向とみなすことができ、z軸に沿った座標は縦方向座標とみなすことができる。z軸に垂直な任意な方向は、横方向とみなすことができ、極座標及び/又は極角度は横方向座標とみなすことができる。
ディスプレイ装置は、ディスプレイ装置の光軸がz軸を形成し、さらに、z軸に直交し、互いに直交するx軸及びy軸が提供された座標系を構成することができる。一例として、ディスプレイ装置及び/又はディスプレイ装置の一部は、この座標系の原点など、この座標系における特定の点に所在し得る。この座標系において、z軸に平行又は逆平行な方向を縦方向と考え、z軸に沿った座標を、縦方向座標とみなすことができる。縦方向に対して垂直な任意の方向を横方向とみなすことができ、x座標及び/又はy座標を横方向座標とみなすことができる。
代替的に、他のタイプの座標系を使用してよい。したがって、一例として、光軸がz軸を形成し、z軸からの距離及び極角が付加的な座標として使用され得る極座標系を使用することができる。同様に、z軸に平行又は逆平行な方向を縦方向とみなすことができ、z軸に沿った座標を縦方向座標とみなすことができる。z軸に対して垂直な任意の方向を横方向とみなすことができ、また極座標及び/又は極角を横方向座標とみなすことができる。
光センサは、照射特徴による照射に応答してシーンによって生成される複数の反射特徴を含む少なくとも1つの第1画像を決定するように構成されている。本明細書で使用される場合、限定されることなく、「画像」という用語は、具体的には、センサ要素のピクセルなどのイメージング装置からの複数の電子読取値など、光センサを使用することによって記録されたデータに関する場合がある。画像自体は、したがって、ピクセルを含み得、画像のピクセルは、センサ要素のマトリックスのピクセルに相関している。したがって、「ピクセル」を参照する場合、センサ要素の単一のピクセルによって生成された画像情報の単位を参照するか、又はセンサ要素の単一のピクセルを直接参照するかのいずれかである。本明細書で使用される場合、「二次元画像」という用語は、一般に、高さ及び幅の寸法のみなどの横方向座標に関する情報を有する画像を指し得る。本明細書で使用される場合、「三次元画像」という用語は、一般に、横方向座標に関する情報ならびに、高さと幅及び深度の寸法などの縦方向座標に関する情報を有する画像を指し得る。本明細書で使用される場合、「反射特徴」という用語は、具体的には少なくとも1つの照射特徴を有する照射に応答してシーンによって生成される画像平面内の特徴を指し得る。
ディスプレイ装置は、情報を表示するように構成された少なくとも1つの透光性ディスプレイを備える。本明細書で使用される場合、「透光性」という用語は、光、特に特定の波長範囲の光を通過させるディスプレイの特性を指し得る。照射源及び光センサは、ディスプレイの前方で照射パターンの伝播方向に配置される。照射源と光センサは、互いに対して固定された位置に配置されてよい。例えば、ディスプレイ装置の構成は、光センサとレンズシステムを備えるカメラと、レーザプロジェクタを備えることができる。レーザプロジェクタとカメラは、透光性ディスプレイの背後に、シーンによって反射された光の伝播方向に固定されてよい。レーザプロジェクタは、ドットパターンを生成し、ディスプレイを通して照射してよい。カメラは、ディスプレイを通して写すことができる。しかし、透光性ディスプレイの背後に、シーンによって反射された光の伝播方向に照射源と光センサを配置することは、ディスプレイの回折格子がシーン上及び第1画像内に複数のレーザポイントを生成する結果となり得る。これにより、第1画像上のこれらの複数のスポットは、有用な距離情報が含まない可能性がある。以下に詳細に概説するように、評価装置は、回折格子のゼロ次の反射特徴、すなわち真の特徴を見つけて評価するように構成されてよく、より高次の反射特徴、すなわち偽の特徴を無視することができる。
前記ディスプレイ装置は、少なくとも1つの評価装置を含む。評価装置は、第1画像を評価するように構成されている。本明細書でさらに使用される場合、「評価装置」という用語は、一般に、好ましくは少なくとも1つのデータ処理装置を使用することによって、より好ましくは少なくとも1つのプロセッサ及び/又は少なくとも1つの特定用途向け集積回路を使用することによって、指定された操作を行うように適合された任意の装置を指す。したがって、一例として、少なくとも1つの評価装置は、多数のコンピュータコマンドを含んでそこに記憶されたソフトウェアコードを有する少なくとも1つのデータ処理装置を含んでいてもよい。評価装置は、指定された操作の1つ以上を実行するための1つ以上のハードウェア要素を提供してもよく、及び/又は、指定された操作の1つ以上を実行するためにその上で実行されているソフトウェアを有する1つ以上のプロセッサを提供してもよい。操作は、画像を評価することを含む。具体的には、ビームプロファイルを決定し、表面を表示することは、少なくとも1つの評価装置によって実行されてよい。したがって、一例として、1つ以上の命令は、ソフトウェア及び/又はハードウェアで実装されることができる。したがって、例として、評価装置は、上述の評価を実行するように構成された1つ以上のコンピュータ、特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、又はフィールドプログラマブルゲートアレイ(FPGA)などの1つ以上のプログラマブル装置から構成されていてもよい。しかしながら、追加的又は代替的に、評価装置はまた、完全に又は部分的にハードウェアによって具現化されてもよい。
評価装置及びディスプレイ装置は、完全に又は部分的に単一の装置に統合されてよい。したがって、一般に、評価装置はまたディスプレイ装置の一部を形成してよい。あるいは、評価装置及びディスプレイ装置は、完全に又は部分的に、別個の装置として具現化されてもよい。ディスプレイ装置は、さらなる構成要素を含むことができる。
評価装置は、1つ以上の特定用途向け集積回路(ASIC)などの1つ以上の集積回路、及び/又は、1つ以上コンピュータ、好ましくは1つ以上のマイクロコンピュータ、及び/又はマイクロコントローラ、フィールドプログラマブルゲートアレイ、又はデジタル信号プロセッサなどの、1つ以上のデータ処理装置であるか、又はそれらを含んでいてもよい。追加の構成要素、例えば、1つ以上の前処理装置、及び/又は1つ以上のAD変換器及び/又は1つ以上のフィルタなどの、センサ信号の受信及び/又は前処理を行う1つ以上装置などのデータ収集装置が含まれていてもよい。さらに、評価装置は、電流及び/又は電圧を測定するための1つ以上の測定装置などの、1つ以上の測定装置を備えることができる。さらに、評価装置は1つ以上のデータ記憶装置を含むことができる。さらに、評価装置は、1つ以上のインターフェイス、例えば1つ以上の無線インターフェイス及び/又は1つ以上の有線インターフェイスを含むことができる。
評価装置は、光センサ及び/又は評価装置によって得られる情報などの情報を、表示すること、視覚化すること、分析すること、配布すること、通信すること、又は、さらに処理することのうちの1つ以上のために使用され得る少なくとも1つのさらなるデータ処理装置に、接続されることができ、又は、それを含むことができる。データ処理装置は、一例として、ディスプレイ、プロジェクタ、モニタ、LCD、TFT、ラウドスピーカ、マルチチャネルサウンドシステム、LEDパターン、又は、さらなる視覚化装置うちの少なくとも1つに接続されることができ、又は、それを組み込むことができる。それはさらに、Eメール、テキストメッセージ、電話、Bluetooth(登録商標)、Wi-Fi、赤外線又はインターネットインターフェイス、ポート又は接続のうちの1つ又は複数を使用して、暗号化された情報又は暗号化されていない情報を送ることができる、通信装置又は通信インターフェイス、コネクタ又はポートのうちの少なくとも1つに、さらに接続されることができ、又はそれを組み込むことができる。それはさらに、プロセッサ、グラフィックプロセッサ、CPU、Open Multimedia Applications Platform(OMAP(登録商標))、集積回路、Apple Aシリーズ又はSamsung S3C2シリーズからの製品などのチップ上のシステム、マイクロコントローラ又はマイクロプロセッサなどのようなシステムオンチップ、ROM、RAM、EEPROM、又はフラッシュメモリなどの1つ以上のメモリブロック、発振器もしくは位相同期ループなどのタイミングソース、カウンタタイマ、リアルタイムタイマ、又はパワーオン-リセット-ジェネレーター、電圧調整器、電力管理回路、又はDMAコントローラのうちの少なくとも1つにさらに接続されることができ、又はそれを組み込むことができる。個々のユニットは、さらに、AMBAバスなどのバスによって、モノのインターネット又はインダストリー4.0タイプのネットワークに接続され得るか、統合され得る。
評価装置及び/又はデータ処理装置は、シリアル又はパラレルのインターフェイス又はポート、USB、Centronics Port、FireWire(登録商標)、HDMI(登録商標)、イーサネット(登録商標)、Bluetooth(登録商標)、RFID、Wi-Fi、USART、もしくはSPIのうちの1つ以上などのさらなる外部インターフェイス又はポート、あるいは、ADC又は、DAC、又はCameraLinkのようなRGBインターフェイスを使用して2Dカメラ装置のようなさらなる装置への標準化されたインターフェイスもしくはポートのうちの1つ以上などのアナログインターフェイス又はポートによって接続されていてもよく、又はそれらを有していてもよい。評価装置及び/又はデータ処理装置は、プロセッサ間インターフェイスもしくはポート、FPGA-FPGA-インターフェイス、又は、シリアルもしくはパラレルインターフェイスポートのうちの1つ以上によってさらに接続され得る。評価装置及びデータ処理装置は、さらに、光学ディスクドライブ、CD-RWドライブ、DVD+RWドライブ、フラッシュドライブ、メモリカード、ディスクドライブ、ハードディスクドライブ、ソリッドステートディスク、又はソリッドステートハードディスクのうちの1つ以上に接続され得る。
評価装置及び/又はデータ処理装置は、フォンコネクタ、RCAコネクタ、VGAコネクタ、雄雌同体コネクタ、USBコネクタ、HDMI(登録商標)コネクタ、8P8Cコネクタ、BCNコネクタ、IEC60320 C14コネクタ、光ファイバコネクタ、Dサブミニチュアコネクタ、RFコネクタ、同軸コネクタ、SCARTコネクタ、XLRコネクタのうちの1つ以上などの、1つ以上のさらなる外部コネクタによって接続されていてもよく、又は、それらを有していてもよく、及び/又は、これらのコネクタのうちの1つ以上のための少なくとも1つの適切なソケットを組み込んでいてもよい。
評価装置は、第1画像を評価するように構成されている。第1画像の評価は、第1画像の反射特徴を特定することを含んでいる。評価装置は、反射特徴を識別するために、少なくとも1つの画像分析及び/又は画像処理を実行するように構成され得る。画像分析及び/又は画像処理は、少なくとも1つの特徴検出アルゴリズムを使用してよい。画像分析及び/又は画像処理は、以下:フィルタリング;少なくとも1つの関心領域の選択;センサ信号によって生成された画像と少なくとも1つのオフセットとの間の差分画像の形成;センサ信号によって生成された画像を反転することによるセンサ信号の反転;異なる時間にセンサ信号によって生成された画像間の差分画像の形成;背景補正;カラーチャネルへの分解;色相への分解;飽和;輝度チャネル;周波数分解;特異値分解;ブロブ検出器の適用;コーナー検出器の適用;ヘッセフィルタの行列式の適用;主曲率ベースの領域検出器の適用;最大安定極値領域検出器の適用;一般化されたハフ変換の適用;稜線検出器の適用;アフィン不変特徴検出器の適用;アフィン適応の関心点演算子の適用;ハリスアフィン領域検出器の適用;ヘッセアフィン領域検出器の適用;スケール不変特徴変換の適用;スケールスペース極値検出器の適用;局所特徴検出器の適用;高速化堅牢特徴アルゴリズムの適用;勾配位置及び方向のヒストグラムアルゴリズムの適用;方向付けられた勾配記述子のヒストグラムの適用;Dericheエッジ検出器の適用;差動エッジ検出器の適用;時空関心点検出器の適用;モラベックコーナー検出器の適用;キャニーエッジ検出器の適用;ガウスフィルタのラプラス演算子の適用;差分ガウスフィルタの適用;ソーベル(Sobel)演算子の適用;ラプラス演算子の適用;シャール演算子の適用;プレウィット演算子の適用;ロバーツ演算子の適用;キルシュ演算子の適用;ハイパスフィルタの適用;ローパスフィルタの適用;フーリエ変換の適用;ラドン変換の適用;ハフ変換の適用;ウェーブレット変換の適用;閾値処理;バイナリ画像の生成、のうちの1つ以上を含み得る。関心領域は、ユーザが手動で決定してもよく、又は、光センサによって生成された画像内の特徴を認識するなどによって、自動的に決定されてもよい。
例えば、照射源は、複数の照射領域が、光センサ、例えばCMOS検出器上に生成されるように、点群を生成及び/又は投影するように構成されてよい。さらに、例えばスペックル及び/又は外来光及び/又は多重反射によるなどの外乱が、光センサに存在し得る。評価装置は、少なくとも1つの関心領域、例えば、物体の縦方向座標の決定に使用される光ビームによって照射される1つ以上のピクセルを、決定するように適合され得る。例えば、評価装置は、フィルタリング方法、例えば、ブロブ分析及び/又はエッジフィルタ及び/又は物体認識方法を実行するように適合されてよい。
評価装置は、少なくとも1つの画像補正を行うように構成されてよい。画像補正は、少なくとも1つの背景減算を含み得る。評価装置は、例えば、さらなる照射なしの画像化によって、ビームプロファイルから背景光からの影響を除去するように適合されてよい。
反射特徴の各々は、少なくとも1つのビームプロファイルを含む。本明細書で使用される場合、反射特徴の「ビームプロファイル」という用語は、一般に、ピクセルの機能としての、光センサ上の光スポットなどの反射特徴の少なくとも1つの強度分布を指し得る。ビームプロファイルは、台形ビームプロファイル;三角形ビームプロファイル;円錐ビームプロファイル及びガウシアンビームプロファイルの線形結合からなる群から選択され得る。評価装置は、ビームプロファイルの分析により、反射特徴の各々に関するビームプロファイルの情報を決定するように構成される。
評価装置は、ビームプロファイルの分析によって各反射特徴の少なくとも1つの縦方向座標zDPRを決定するように構成されている。本明細書で使用される場合、「ビームプロファイルの分析」という用語は、一般に、ビームプロファイルの評価を指し得、少なくとも1つの数学演算、及び/又は少なくとも1つの比較、及び/又は少なくとも1つの対称化、及び/又は少なくとも1つのフィルタリング、及び/又は少なくとも1つの正規化を含んでよい。例えば、ビームプロファイルの分析は、ヒストグラム分析ステップ、差分測定の計算、ニューラルネットワークの適用、機械学習アルゴリズムの適用のうちの少なくとも1つを含み得る。評価装置は、特に、より大きな角度での記録、エッジなどの記録からノイズ又は非対称性を除去するために、ビームプロファイルを対称化及び/又は正規化及び/又はフィルタリングするように構成されることができる。評価装置は、空間周波数分析及び/又は中央値フィルタリングなどによってなど、高い空間周波数を除去することによって、ビームプロファイルをフィルタリングすることができる。集約は、光スポットの強度の中心によって実行されてよく、中心までの同じ距離にある全ての強度を平均化することができる。評価装置は、特に記録された距離による強度差を考慮するように、ビームプロファイルを最大強度に正規化するように構成されてよい。評価装置は、例えば、照射なしの画像化によって、ビームプロファイルから背景光の影響を除去するように構成されてもよい。
反射特徴は、少なくとも1つの画像のピクセルをカバーするか、又はその上に延びていてもよい。例えば、反射特徴は、複数のピクセルをカバーするか、又は複数のピクセルにわたって延在してもよい。評価装置は、反射特徴、例えば光スポットに接続及び/又は属する全てのピクセルを決定及び/又は選択するように構成されていてもよい。評価装置は、強度の中心を、
によって決定するように構成されてよく、ここで、Rcoiは強度の中心位置、rpixelはピクセル位置、及び
はjが反射特徴に接続及び/又は属するピクセル数j、Itotalは総強度である。
評価装置は、ビームプロファイル分析とも呼ばれる、光子比からの深度技術を使用することによって、反射特徴のそれぞれについて縦方向座標zDPRを決定するように構成され得る。光子比からの深度(DPR)技術に関しては、WO2018/091649A1、WO 2018/091638A1及びWO2018/091640A1が参照され、その全内容は参照により含まれるものとする。
評価装置は、反射特徴のそれぞれのビームプロファイルを決定するように構成されることができる。本明細書で使用される場合、「ビームプロファイルを決定する」という用語は、光センサによって提供される少なくとも1つの反射特徴を識別すること、及び/又は光センサによって提供される少なくとも1つの反射特徴を選択すること、及び反射特徴の少なくとも1つの強度分布を評価することを指す。一例として、マトリックスの領域は、マトリックスを通る軸又は線に沿ってなど、三次元強度分布又は二次元強度分布などの強度分布を決定するために使用され、評価されてよい。一例として、光ビームによる照射の中心は、最高の照射を有する少なくとも1つのピクセルを決定することなどにより決定され得、断面軸が照射の中心を通して選択され得る。強度分布は、照射の中心を通るこの断面軸に沿った座標の関数としての強度分布であり得る。他の評価アルゴリズムも可能である。
反射特徴の1つのビームプロファイルの分析は、ビームプロファイルの少なくとも1つの第1エリア及び少なくとも1つの第2エリアを決定することを含み得る。ビームプロファイルの第1エリアは、エリアA1であり得、ビームプロファイルの第2エリアは、エリアA2であり得る。評価装置は、第1エリアと第2エリアとを積分するように構成されてもよい。評価装置は、積分された第1エリア及び積分された第2エリアを除算すること、積分された第1エリア及び積分された第2エリアの倍数を除算すること、積分された第1エリア及び積分された第2エリアの線形結合を除算することの1つ以上によって、結合信号、特に商Qを導出するように構成され得る。評価装置は、ビームプロファイルの少なくとも2つのエリアを決定するように、及び/又はビームプロファイルをビームプロファイルの異なるエリアを有する少なくとも2つのセグメントに分割するように構成されてもよく、エリアが一致しない限り、エリアの重なりは可能である。例えば、評価装置は、2つ、3つ、4つ、5つ、又は最大10個のエリアなど、複数のエリアを決定するように構成されてよい。評価装置は、光スポットをビームプロファイルの少なくとも2つのエリアに分割するように、及び/又は、ビームプロファイルをビームプロファイルの異なるエリアを含む少なくとも2つのセグメントに分割するように構成されてよい。評価装置は、少なくとも2つのエリアについて、それぞれのエリアにわたるビームプロファイルの積分を決定するように構成されてよい。評価装置は、決定された積分の少なくとも2つを比較するように構成されてよい。具体的には、評価装置は、ビームプロファイルの少なくとも1つの第1エリア及び少なくとも1つの第2エリアを決定するように構成されてよい。本明細書で使用される場合、「ビームプロファイルのエリア」という用語は、一般に、商Qを決定するために使用される光センサ位置におけるビームプロファイルの任意の領域を指す。ビームプロファイルの第1エリアとビームプロファイルの第2エリアは、隣接する領域又は重複する領域のいずれか一方又は両方であってよい。ビームプロファイルの第1エリアとビームプロファイルの第2エリアは、領域が一致していなくてよい。例えば、評価装置は、CMOSセンサのセンサ領域を少なくとも2つのサブ領域に分割するように構成されてよく、評価装置は、CMOSセンサのセンサ領域を、少なくとも1つの左側部分と少なくとも1つの右側部分、及び/又は少なくとも1つの上部分と少なくとも1つの下部分、及び/又は少なくとも1つの内部分と少なくとも1つの外部分、とに分割するように構成され得る。追加的又は代替的に、ディスプレイ装置は、少なくとも2つの光センサを備えてよく、第1光センサ及び第2光センサの感光エリアは、第1光センサが反射特徴のビームプロファイルの第1エリアを決定するよう適合され、第2光センサが反射特徴のビームプロファイルの第2エリアを決定するよう適合されるように配置され得る。評価装置は、第1エリアと第2エリアとを統合するように適合されてよい。評価装置は、縦方向座標を決定するために、商Qと縦方向座標の間の少なくとも1つの所定の関係を用いるように構成されてよい。所定の関係は、経験的関係、半経験的関係、及び分析的に導出された関係のうちの1つ以上であってよい。評価装置は、例えばルックアップリスト又はルックアップテーブルなどの、所定の関係を記憶するための少なくとも1つのデータ記憶装置を備えてよい。
ビームプロファイルの第1エリアは、ビームプロファイルのエッジ情報を実質的に含んでよく、ビームプロファイルの第2エリアは、ビームプロファイルの中心情報を実質的に含んでよく、及び/又は、ビームプロファイルの第1エリアは、ビームプロファイルの左側部分に関する情報を実質的に含み、ビームプロファイルの第2エリアはビームプロファイルの右側部分に関する情報を実質的に含んでよい。ビームプロファイルは、中心、すなわちビームプロファイルの最大値及び/又はビームプロファイルのプラトーの中心点及び/又は光スポットの幾何学的中心と、中心から延びる立下りエッジとを有してよい。第2領域は、断面の内側領域を含んでよく、第1領域は、断面の外側領域を含んでよい。本明細書で使用される場合、「実質的に中心情報」という用語は、一般に、中心情報の割合、すなわち中心に対応する強度分布の割合と比較して、エッジ情報の割合が低いこと、すなわちエッジに対応する強度分布の割合が低いことを指す。好ましくは、中心情報は、10%未満、より好ましくは5%未満、のエッジ情報の割合を有し、最も好ましくは、中心情報はエッジ内容を含まない。本明細書で使用される場合、「実質的にエッジ情報」という用語は、一般に、エッジ情報の割合と比較して、中心情報の割合が低いことを指す。エッジ情報は、ビームプロファイル全体の情報、特に中心領域及びエッジ領域からの情報を含み得る。エッジ情報は、10%未満、好ましくは5%未満の中心情報の割合を有し、より好ましくは、エッジ情報は中心情報を含まない。ビームプロファイルが中心に近いか又はその周囲にあり、実質的に中心情報を含む場合は、ビームプロファイルの少なくとも1つのエリアは、ビームプロファイルの第2エリアとして決定及び/又は選択されてよい。ビームプロファイルが断面の立下りエッジの少なくとも部分を含む場合は、ビームプロファイルの少なくとも1つのエリアは、ビームプロファイルの第1エリアとして決定及び/又は選択されてよい。例えば、断面の全エリアが第1領域として決定されてよい。
第1エリアA1及び第2エリアA2の他の選択も実現可能であり得る。例えば、第1エリアは、ビームプロファイルの実質的に外側領域を含み、第2エリアは、ビームプロファイルの実質的に内側領域を含み得る。例えば、二次元ビームプロファイルの場合、ビームプロファイルは左側部分と右側部分に分割されることができ、そこでは、第1エリアはビームプロファイルの左側部分のエリアを実質的に含み、第2エリアはビームプロファイルの右側部分のエリアを実質的に含んでよい。
エッジ情報は、ビームプロファイルの第1エリアにおける光子数に関する情報を含み、中心情報は、ビームプロファイルの第2エリアにおける光子数に関する情報を含み得る。評価装置は、ビームプロファイルの面積分を決定するように構成されてよい。評価装置は、第1エリアの積分及び/又は加算によってエッジ情報を決定するように構成されてよい。評価装置は、第2エリアの積分及び/又は加算によって中心情報を決定するように構成されてよい。例えば、ビームプロファイルは台形ビームプロファイルであってよく、評価装置は台形の積分を決定するように構成されてよい。さらに、台形ビームプロファイルが仮定される場合、エッジ信号及び中心信号の決定は、例えばエッジの傾斜及び位置の決定、及び中心プラトーの高さの決定、並びに幾何学的考察によるエッジ信号及び中心信号の導出など、台形ビームプロファイルの特性を利用した同等評価で置き換えられてよい。
一実施形態では、A1は、光センサ上の特徴点の全体又は完全なエリアに対応し得る。A2は、光センサ上の特徴点の中心エリアであり得る。中心エリアは一定値であってよい。中心エリアは、特徴点の全エリアと比べてより小さくてもよい。例えば、円形の特徴点の場合、中心エリアは、特徴点の全半径の0.1~0.9、好ましくは全半径の0.4~0.6の半径を有してよい。
一実施形態では、照射パターンは、少なくとも1つの線パターンを含んでいてよい。A1は、光センサ上の、特に光センサの感光エリア上の線パターンの全線幅を有するエリアに対応してもよい。光センサ上の線パターンは、光センサ上の線幅が増幅するように、照射パターンの線パターンと比較して拡大及び/又は変位されてもよい。特に、光センサのマトリックスの場合には、光センサ上の線パターンの線幅は、ある列から別の列へと変化してもよい。A2は、光センサ上の線パターンの中心エリアであってよい。中心エリアの線幅は一定の値であってもよく、特に照射パターンの線幅に対応していてもよい。中心エリアの線幅は、全体の線幅に比べて小さくてもよい。例えば、中心エリアは、全線幅の0.1~0.9、好ましくは全線幅の0.4~0.6の線幅を有していてよい。線パターンは、光センサ上でセグメント化されていてよい。光センサのマトリックスの各列は、線パターンの中心エリアの強度の中心情報と、線パターンの中心エリアからエッジ領域までさらに外側に延びる領域からの強度のエッジ情報を含むことができる。
一実施形態では、照射パターンは、少なくとも1つの点パターンを含んでいてよい。A1は、光センサ上の点パターンの点の全半径を有するエリアに対応し得る。A2は、光センサ上の点パターンの点の中心エリアであり得る。中心エリアは一定値であってよい。中心エリアは、全半径と相当する半径を有することができる。例えば、中心エリアは、全半径の0.1~0.9、好ましくは全半径の0.4~0.6の半径を有することができる。
照射パターンは、少なくとも1つの点パターンと少なくとも1つの線パターンの両方を含むことができる。線パターン及び点パターンに加えて、又は代替として、他の実施形態も実現可能である。
評価装置は、第1エリアと第2エリアを除算すること、第1エリアと第2エリアの倍数を除算すること、第1エリアと第2エリアの線形結合を除算することのうちの1つ以上によって商Qを導出するように構成されてよい。評価装置は、
によって商Qを導出するように構成されてよく、
式中、x及びyは横方向座標、A1、A2はそれぞれビームプロファイルの第1エリア及び第2エリア、E(x、y)はビームプロファイルを表す。
追加的に又は代替的に、評価装置は、光スポットの少なくとも1つのスライス又はカットから、中心情報又はエッジ情報の一方又は両方を決定するように適合されてもよい。これは、例えば、商Qの面積分をスライス又はカットに沿った線積分で置き換えることによって実現され得る。精度を向上させるために、光スポットを通るいくつかのスライス又はカットを使用して平均してもよい。楕円形のスポットプロファイルの場合、いくつかのスライス又はカットにわたって平均化すると、改善された距離情報が得られ得る。
例えば、ピクセルのマトリックスを有する光センサの場合、評価装置は、
- 最高のセンサ信号を有するピクセルを決定し、少なくとも1つの中心信号を形成することと;
- マトリックスのセンサ信号を評価し、少なくとも1つの和信号を形成することと;
- 中心信号と和信号を結合させることによって商Qを決定することと;
- 商Qを評価することにより、物体の少なくとも1つの縦方向座標zを決定することと、
によって、ビームプロファイルを評価するように構成されてよい。
本明細書で使用される場合、「センサ信号」は、一般に、照射に応答して光センサ及び/又は光センサの少なくとも1つのピクセルによって生成される信号を指す。具体的には、センサ信号は、少なくとも1つのアナログ電気信号及び/又は少なくとも1つのデジタル電気信号などの少なくとも1つの電気信号であり得るか、又はそれらを含み得る。より具体的には、センサ信号は、少なくとも1つの電圧信号及び/又は少なくとも1つの電流信号であり得るか、又はそれらを含み得る。より具体的には、センサ信号は、少なくとも1つの光電流を含み得る。さらに、未処理のセンサ信号が使用されるか、又は、ディスプレイ装置、光センサ、又はその他の要素が、センサ信号を処理又は前処理し、それによってセンサ信号としても使用できる二次センサ信号を生成するように適合されてもよい。「中心信号」という用語は、一般に、ビームプロファイルの実質的に中心情報を含む少なくとも1つのセンサ信号を指す。本明細書で使用される場合、「最高のセンサ信号」という用語は、関心領域の局所最大値又は最大値の一方又は両方を指す。例えば、中心信号は、マトリックス全体又はマトリックス内の関心領域のピクセルによって生成された複数のセンサ信号のうち、最高のセンサ信号を有するピクセルの信号であり得、該関心領域は、マトリックスのピクセルによって生成される画像内で予め決定された、又は決定可能であり得る。中心信号は、単一のピクセルから、又は光センサの一群から生じ得、後者の場合、一例として、ピクセルの一群のセンサ信号は、中心信号を決定するために、加算、積分、又は平均化され得る。中心信号が生じるピクセルの一群は、例えば、最高のセンサ信号を有する実際のピクセルから所定距離より短く離れたピクセルなどの隣接するピクセルの一群であり得、又は、最高のセンサ信号から所定の範囲内にあるセンサ信号を生成するピクセルの一群であり得る。中心信号が生じるピクセルの一群は、最大のダイナミックレンジを可能にするように、できるだけ大きく選択され得る。評価装置は、複数のセンサ信号、例えば最高のセンサ信号を有するピクセルの周りの複数のピクセルを統合することによって中心信号を決定するように適合されてもよい。例えば、ビームプロファイルは台形ビームプロファイルであってよく、評価装置は、台形の積分、特に台形のプラトーの積分を決定するように適合されてよい。
上述したように、中心信号は、一般に、光スポットの中心にあるピクセルからのセンサ信号などの単一のセンサ信号であってもよいし、又は、光スポットの中心にあるピクセルから生じるセンサ信号の組み合せなど、複数のセンサ信号の組み合せであってもよいし、又は、前述の可能性の1つ以上から導出されるセンサ信号を処理することによって導出される二次センサ信号であってもよい。中心信号の決定は、センサ信号の比較が従来の電子機器によってかなり簡単に実施されるため、電子的に実行されてもよく、又は、ソフトウェアによって完全に又は部分的に実行されてもよい。具体的には、中心信号は、最高のセンサ信号;最高のセンサ信号から所定の許容範囲内にあるセンサ信号の一群の平均;最高のセンサ信号を有するピクセルを含むピクセルの一群、及び隣接するピクセルの所定の一群からのセンサ信号の平均;最高のセンサ信号を有するピクセルを含むピクセルの一群、及び隣接するピクセルの所定の一群からのセンサ信号の合計;最高のセンサ信号から所定の許容範囲内にあるセンサ信号の一群の合計;所定の閾値を超えるセンサ信号の一群の平均;所定の閾値を超えるセンサ信号の一群の合計;最高のセンサ信号を有する光センサを含む光センサの一群、及び隣接するピクセルの所定の一群からのセンサ信号の積分;最高のセンサ信号から所定の許容範囲内にあるセンサ信号の一群の積分;所定の閾値を超えるセンサ信号の一群の積分、からなる群から選択され得る。
同様に、「和信号」という用語は、一般に、ビームプロファイルの実質的にエッジ情報を含む信号を指す。例えば、和信号は、マトリックス全体又はマトリックス内の関心領域のセンサ信号を加算すること、センサ信号を積分すること、又はセンサ信号を平均することによって導出することができ、該関心領域は、マトリックスの光センサによって生成される画像内で予め決定された、又は決定可能である。センサ信号を合計、積分、又は平均化する場合、センサ信号が生成される実際の光センサは、加算、積分、又は平均化から除外されてもよく、あるいは、加算、積分、又は平均化に含まれてもよい。評価装置は、マトリックス全体の、又はマトリックス内の関心領域の信号を積分することにより、和信号を決定するように適合され得る。例えば、ビームプロファイルは台形ビームプロファイルであり得、評価装置は、台形全体の積分を決定するように適合され得る。さらに、台形ビームプロファイルが想定される場合、エッジ信号と中心信号の決定は、傾斜とエッジの位置及び中心プラトーの高さの決定など、台形ビームプロファイルの特性を利用し、そして幾何学的考察によってエッジ信号と中心信号を導出する等価評価に置き換えることができる。
同様に、中心信号及びエッジ信号はまた、例えばビームプロファイルの円形セグメントなどのビームプロファイルのセグメントを使用することによって決定され得る。例えば、ビームプロファイルは、ビームプロファイルの中心を通過しない分割線又は弦によって2つのセグメントに分割され得る。したがって、一方のセグメントは実質的にエッジ情報を含み、他方のセグメントは実質的に中心情報を含むことになる。例えば、中心信号中のエッジ情報の量をさらに減らすために、エッジ信号が中心信号からさらに減算されてもよい。
商Qは、中心信号と和信号を結合して生成される信号であってよい。具体的には、決定は、中心信号と和信号の商、又はその逆の商を形成すること;中心信号の倍数と和信号の倍数の商、又はその逆の商を形成すること;中心信号の線形結合と、和信号の線形結合の商、又はその逆の商を形成すること、のうちの1つ以上を含み得る。追加的に又は代替的に、商Qは、中心信号と和信号の間の比較に関する少なくとも1つの情報項目を含む任意の信号又は信号の結合を含むことができる。
本明細書で使用される場合、「物体の縦方向座標」という用語は、光センサと物体の間の距離を指す。評価装置は、縦方向座標を決定するために、商Qと縦方向座標の間の少なくとも1つの所定の関係を用いるように構成されてよい。所定の関係は、経験的関係、半経験的関係、及び分析的に導出された関係のうちの1つ以上であってよい。評価装置は、例えばルックアップリスト又はルックアップテーブルなどの所定の関係を記憶するための少なくとも1つのデータ記憶装置を備えてよい。
評価装置は、ゼロ次及び高次の全ての反射特徴について距離を計算する少なくとも1つの光子比からの深度アルゴリズムを実行するように構成されてよい。
第1画像の評価は、識別された反射特徴を輝度に関してソートすることを含む。本明細書で使用される場合、「ソートする」という用語は、輝度に関してさらなる評価のために反射特徴のシーケンスを割り当てること、特に、最大の輝度を有する反射特徴から始めて、続いて、輝度が減少する反射特徴を割り当てることを指し得る。本明細書で使用される場合、「輝度」という用語は、第1画像における反射特徴の大きさ、及び/又は第1画像における反射特徴の強度を指し得る。輝度は、可視スペクトル範囲又は赤外線スペクトル範囲などの定義されたパスバンドを指してもよく、又は波長非依存であってもよい。減少する輝度によるソートは、減少する輝度に従ってソートすること、及び/又は減少する輝度に関してソートすることを指し得る。DPRの計算のために最も明るい反射特徴が優先される場合は、縦方向座標zDPRの決定の堅牢性を高めることができる。これは主に、回折格子のゼロ次を有する反射特徴が、より高次を有する偽の特徴よりも常に明るいためである。
評価装置は、縦方向座標zDPR使用することによって、反射特徴と対応する照射特徴とを明確にマッチングするように構成されている。光子比からの深度技術を用いて決定された縦方向座標は、いわゆる対応問題を解決するために用いられることができる。そのようにして、反射特徴ごとの距離情報は、既知のレーザプロジェクタグリッドの対応関係を見出すために使用され得る。本明細書で使用される場合、「マッチング」という用語は、対応する照射特徴及び反射特徴を決定及び/又は評価することを指す。本明細書で使用される場合、「対応する照射特徴と反射特徴」という用語は、照射パターンの照射特徴のそれぞれがシーンにおいて反射特徴を生成するという事実を指し得、生成された反射特徴は、当該反射特徴を生成した照射特徴に割り当てられる。
本明細書で使用される場合、「明確にマッチングする」という用語は、1つの反射特徴のみが1つの照射特徴に割り当てられること、及び/又は、他の反射特徴が同じマッチングした照射特徴に割り当てられることがないことを指し得る。
反射特徴に対応する照射特徴は、エピポーラ幾何学を使用して決定され得る。エピポーラ幾何学の説明については、例えば、X.Jiang,H.Bunke:“Dreidimensionales Computersehen”シュプリンガー、ベルリンハイデルベル,1997年の第2章を参照されたい。エピポーラ幾何学では、照射画像、すなわち、歪みのない照射パターン、及び第1画像は、異なる空間位置及び/又は固定距離を有する空間方向で決定された画像であり得ると想定することができる。距離は、ベースラインとも呼ばれる相対距離であり得る。照射画像は、参照画像としても示される場合がある。評価装置は、参照画像内のエピポーラ線を決定するように適合されてよい。参照画像と第1画像の相対位置は既知であり得る。例えば、参照画像と第1画像の相対位置は、評価装置の少なくとも1つの記憶ユニットに記憶されてよい。評価装置は、第1画像の選択された反射特徴からそれが発する現実世界の特徴へ延びる直線を決定するように適合され得る。したがって、直線は、選択された反射特徴に対応する、可能な物体特徴を含み得る。直線とベースラインはエピポーラ平面を展開する。参照画像が第1画像とは異なる相対的配置で決定されるため、対応する可能な物体の特徴は、参照画像内のエピポーラ線と呼ばれる直線上に画像化され得る。エピポーラ線は、エピポーラ平面と参照画像の交差であり得る。したがって、第1画像の選択された特徴に対応する参照画像の特徴は、エピポーラ線上に位置する。
照射特徴を反射したシーンの物体までの距離に応じて、照射特徴に対応する反射特徴は、第1画像内で変位され得る。参照画像は、選択された反射特徴に対応する照射特徴が画像化されるであろう少なくとも1つの変位領域を含んでよい。変位領域は、1つの照射特徴のみを含んでいてよい。変位領域は、複数の照射特徴を含んでいてもよい。変位領域は、エピポーラ線又はエピポーラ線の一部を含むことができる。変位領域は、複数のエピポーラ線又は複数のエピポーラ線の複数の部分を含むことができる。変位領域は、エピポーラ線に沿って延在してもよく、エピポーラ線に直交して延在してもよく、又はその両方であってもよい。評価装置は、エピポーラ線に沿って照射特徴を決定するように適合されてよい。評価装置は、z±εに対応するエピポーラ線に沿った変位領域又はエピポーラ線に直交する変位領域を決定するために、結合信号Qから反射特徴に対する縦方向座標z及び誤差間隔±εを決定するように適合されていてよい。結合信号Qを用いた距離測定の測定不確実性は、測定不確実性が方向によって異なる可能性があるため、第2画像において非円形の変位領域をもたらす可能性がある。具体的には、1つ又は複数のエピポーラ線に沿った測定不確実性は、当該1つ又は複数のエピポーラ線に対して直交する方向における測定不確実性よりも大きくなる可能性がある。変位領域は、1つ又は複数のエピポーラ線に関して直交する方向の拡張を含んでいてよい。評価装置は、選択された反射特徴を変位領域内の少なくとも1つの照射特徴にマッチングするように適合されてよい。評価装置は、決定された縦方向座標zDPRを考慮した少なくとも1つの評価アルゴリズムを使用することによって、第1画像の選択された特徴を変位領域内の照射特徴と一致させるように適合されてよい。評価アルゴリズムは、線形スケーリングアルゴリズムであってよい。評価装置は、変位領域に最も近い、及び/又は変位領域内のエピポーラ線を決定するように適合され得る。評価装置は、反射特徴の画像位置に最も近いエピポーラ線を決定するように適合され得る。エピポーラ線に沿った変位領域の範囲は、エピポーラ線に直交する変位領域の範囲よりも大きいことがあり得る。評価装置は、対応する照射特徴を決定する前に、エピポーラ線を決定するように適合され得る。評価装置は、各反射特徴の画像位置の周りの変位領域を決定し得る。評価装置は、例えば、変位領域に最も近いエピポーラ線、及び/又は変位領域内のエピポーラ線、及び/又はエピポーラ線に直交する方向に沿った変位領域に最も近いエピポーラ線を割り当てることなどにより、反射特徴の各画像位置の各変位領域にエピポーラ線を割り当てるように適合され得る。評価装置は、割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられた変位領域内の照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域内の照射特徴を決定することによって、反射特徴に対応する照射特徴を決定するように適合され得る。
追加的に又は代替的に、評価装置は以下のステップ:
- 各反射特徴の画像位置に対する変位領域を決定するステップと;
- 変位領域に最も近いエピポーラ線、及び/又は変位領域内のエピポーラ線、及び/又はエピポーラ線に直交する方向に沿った変位領域に最も近いエピポーラ線を割り当てることによるなど、各反射特徴の変位領域にエピポーラ線を割り当てるステップと;
- 割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられた変位領域内の照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域内の照射特徴を割り当てることによるなど、各反射特徴に少なくとも1つの照射特徴を割り当て及び/又は決定するステップと、
を実行するように構成されてもよい。
追加的に又は代替的に、評価装置は、例えば反射特徴及び/又は照射画像内のエピポーラ線の距離を比較することによって、及び/又は、照射特徴のε加重距離及び/又は照射画像内のエピポーラ線の誤差加重距離を比較することにより、そして、より短い距離及び/又はε加重距離のエピポーラ線及び/又は照射特徴を、照射特徴及び/又は反射特徴に割り当てられることなどにより、複数のエピポーラ線及び/又は反射特徴に割り当てられる照射特徴の間で決定するように適合されていてもよい。
上述したように、回折格子により、複数の反射特徴、例えば、各照射特徴について1つの真の特徴と複数の偽の特徴が生成される。マッチングは、最も明るい反射特徴から始めて、反射特徴の輝度を減少させながら行われる。同じマッチングされた照射特徴には他の反射特徴は割り当てることはできない。ディスプレイのアーチファクトのため、生成される偽の特徴は一般に真の特徴よりも暗い。反射特徴を輝度によってソートすることにより、対応マッチングにはより明るい反射特徴が優先される。照射特徴の対応が既に使われている場合、偽の特徴は、使われた、つまりマッチングした照射特徴に割り当てることができない。
評価装置は、照射特徴とマッチングした反射特徴を真の特徴として分類し、照射特徴とマッチングしない反射特徴を偽の特徴として分類するように構成される。本明細書で使用される場合、「分類する」という用語は、反射特徴を少なくとも1つのカテゴリに割り当てることを指し得る。本明細書で使用される場合、「真の特徴」という用語は、回折格子のゼロ次の反射特徴を指し得る。本明細書で使用される場合、「偽の特徴」という用語は、高次の回折格子の反射特徴、すなわち、次数≧1の反射特徴を指し得る。回折格子のゼロ次は、高次の偽の特徴より常に明るい。
評価装置は、偽の特徴を排除し、縦方向座標zDPRを使用することによって、真の特徴のための深度マップを生成するように構成される。本明細書で使用される場合、「深度」という用語は、物体と光センサとの間の距離を指し得、縦方向座標によって与えられ得る。本明細書で使用される場合、「深度マップ」という用語は、深度の空間分布を指し得る。ディスプレイ装置は、シーン、例えば顔から3Dマップを生成するために使用されてよい。
構造化光法は、通常、カメラと、微細な点格子、例えば数千点を有するプロジェクタを使用する。よく知られたプロジェクタパターンが、シーン上の点パッチの対応を見つけるために使用される。距離情報は、点の対応が解決されていれば、三角測量によって得られる。カメラがディスプレイの背後にある場合、回折によって画像は空間的に歪む。そのため、歪んだ画像上で点パターンを見出だすことは困難な作業である。構造化光法と比較して、本発明は、ディスプレイの回折格子による影響を直接的に受けないビームプロファイルを評価するために、深度から光子比技術を使用することを提案する。歪みはビームプロファイルに影響しない。
深度マップは三角測量、及び/又はデフォーカスからの深度及び/又は構造化光などのさらなる深度測定技術を使用することによってさらに精密化されることができる。評価装置は、三角測量及び/又はデフォーカスからの深度及び/又は構造化光技術を使用して、反射特徴のそれぞれについて少なくとも1つの第2縦方向座標ztriangを決定するように構成されてよい。
評価装置は、照射特徴と反射特徴の変位を決定するように適合されてよい。評価装置は、マッチングされた照射特徴と、選択された反射特徴の変位を決定するように適合されてよい。評価装置、例えば評価装置の少なくとも1つのデータ処理装置は、特に照射画像及び第1画像のそれぞれの画像位置を比較することによって、照射特徴及び反射特徴の変位を決定するように構成されてよい。本明細書で使用される場合、「変位」という用語は、照射画像における画像位置と第1画像における画像位置との間の差を指す。評価装置は、第2縦方向座標と変位との間の所定の関係を使用することによって、マッチングした特徴の第2縦方向座標を決定するように適合されてよい。評価装置は、三角測量法を使用することによって所定の関係を決定するように適合され得る。第1画像内の選択された反射特徴の位置と、マッチングした照射特徴の位置、及び/又は、選択された反射特徴とマッチングした照射特徴の相対変位が既知である場合、対応する物体特徴の縦方向座標は、三角測量によって決定され得る。したがって、評価装置は、例えば後続及び/又は列ごとに、反射特徴を選択するように適合することができ、照射特徴の各潜在的位置について三角測量を使用して対応する距離値を決定するように適合され得る。変位及び対応する距離値は、評価装置の少なくとも1つの記憶装置に記憶され得る。評価装置は、一例として、少なくとも1つのプロセッサ、少なくとも1つのDSP、少なくとも1つのFPGA及び/又は少なくとも1つのASICなどの少なくとも1つのデータ処理装置を含むことができる。さらに、第2縦方向座標zと変位との間の少なくとも1つの予め決定された又は決定可能な関係を記憶するために、所定の関係を記憶するための1つ以上のルックアップテーブルを提供するなど、少なくとも1つのデータ記憶装置が提供され得る。評価装置は、カメラ及び/又はディスプレイ装置の内因性及び/又は外因性の較正のためのパラメータを記憶するように適合され得る。評価装置は、ツァイカメラ較正を実行するなどによって、カメラ及び/又はディスプレイ装置の内因性及び/又は外因性の較正のためのパラメータを生成するように適合され得る。評価装置は、転送装置の焦点距離、放射レンズの歪み係数、放射レンズの歪みの中心座標、走査とデジタル化のハードウェアタイミングの不完全性に起因する不確実性を説明するためのスケールファクタ、世界座標とカメラ座標間の変換の回転角度、世界座標とカメラ座標間の変換の並進コンポーネント、開口角、イメージセンサ形式、主点、スキュー係数、カメラ中心、カメラ向き、ベースライン、カメラ及び/又は照射源間の回転又は並進パラメータ、開口部、焦点距離などの、パラメータを計算及び/又は推定するように適合され得る。
評価装置は、第2縦方向座標ztriangと縦方向座標zDPRの結合縦方向座標を決定するように構成されてよい。結合縦方向座標は、第2縦方向座標ztriangと縦方向座標zDPRの平均値であり得る。結合縦方向座標は、深度マップの決定のために使用されることができる。
ディスプレイ装置は、さらなる照射源を含んでいてよい。さらなる照射源は、少なくとも1つの発光ダイオード(LED)を含み得る。さらなる照射源は、視覚的スペクトル範囲内の光を生成するように構成されてよい。光センサは、シーンの少なくとも1つの二次元画像を含む少なくとも1つの第2画像を決定するように構成されてよい。さらなる照射源は、第2画像の画像化のための追加の照射を提供するように構成されてよい。例えば、ディスプレイ装置の構成は、追加のフラッド照射LEDによって拡張されることができる。さらなる照射源は、LEDを用いて、特に、照射パターンなしで、顔などのシーンを照射してよく、また、光センサは、二次元画像をキャプチャするように構成されてよい。二次元画像は、顔検出及び検証アルゴリズムに使用され得る。ディスプレイのインパルス応答が既知である場合、光センサによってキャプチャされた歪んだ画像は修復されることができる。評価装置は、回折格子関数gで第2画像I(I=I*g)をデコンボリューションすることによって、少なくとも1つの補正された画像Iを決定するように構成されてよい。回折格子関数は、インパルス応答とも呼ばれる。歪みのない画像は、デコンボリューションアプローチ、例えば、Van-Cittert又はWienerデコンボリューションによって復元され得る。ディスプレイ装置は、
を決定するように構成されてよい。例えば、ディスプレイ装置は、小さな単一の輝点を含む照射パターンで黒いシーンを照射するように構成されてよい。キャプチャされた画像は、回折格子関数であり得る。この手順は、キャリブレーション中など、1度だけ実行され得る。ディスプレイを通した画像化であっても補正された画像を決定するために、ディスプレイ装置は、画像をキャプチャするように構成され、キャプチャされたインパルス応答gによるデコンボリューションアプローチを使用する。結果として得られる画像は、ディスプレイのアーチファクトが少ない再構成画像であり得、例えば顔認識などのいくつかのアプリケーションに使用されることができる。
評価装置は、反射特徴の少なくとも1つのビームプロファイル、好ましくは複数の反射特徴のビームプロファイルを評価することによって、物体の少なくとも1つの材料特性mを決定するように構成され得る。ビームプロファイルを評価することによって少なくとも1つの材料特性を決定することの詳細に関しては、WO2020/187719を参照し、その内容は参照により含まれるものとする。
本明細書で使用される場合、「材料特性」という用語は、材料の特徴付け及び/又は識別及び/又は分類のために構成された、材料の少なくとも1つの任意の特性を指す。例えば、材料特性は、粗さ、材料への光の透過深度、生物学的材料又は非生物学的材料として材料を特徴付ける特性、反射率、鏡面反射率、拡散反射率、表面特性、透光性の尺度、散乱、具体的には、後方散乱挙動などからなる群から選択される特性であってよい。少なくとも1つの材料特性は、散乱係数、透光性、透明性、ランバート表面反射からの偏差、スペックルなどからなる群から選択される特性であってもよい。本明細書で使用される場合、「少なくとも1つの材料特性を識別する」という用語は、材料特性を決定すること、材料特性を物体に割り当てることの1つ以上を指す。評価装置は、予め定義された及び/又は予め決定された材料特性のルックアップリスト及び/又はルックアップテーブルなどのリスト及び/又はテーブルを含む少なくとも1つのデータベースを含んでよい。材料特性のリスト及び/又はテーブルは、本発明によるディスプレイ装置を使用して少なくとも1つの試験測定を行うことにより、例えば既知の材料特性を有するサンプルを使用して材料試験を行うことにより、決定及び/又は生成されることができる。材料特性のリスト及び/又はテーブルは、製造業者サイトで、及び/又はディスプレイ装置のユーザによって、決定及び/又は生成されることができる。材料特性は、例えば、材料名、生物学的材料又は非生物学的材料などの材料グループ、透光性材料又は非透光性材料、金属又は非金属、皮膚又は非皮膚、毛皮又は非毛皮、カーペット又は非カーペット、反射性又は非反射性、鏡面反射性又は非鏡面反射性、泡又は非泡、毛髪又は非毛髪、粗さグループなどの1つ以上などの材料分類にさらに割り当てられてよい。評価装置は、材料特性及び関連する材料名及び/又は材料グループを含むリスト及び/又はテーブルを含む少なくとも1つのデータベースを含んでよい。
例えば、この理論に拘束されることを望まないが、人間の皮膚は、表面反射と呼ばれる表面の逆反射によって生成される部分と、逆反射の拡散部分と呼ばれる皮膚を透過する光からの非常に拡散した反射によって生成される部分と、を含む逆散乱プロファイルとも呼ばれる反射プロファイルを有し得る。人間の皮膚の反射プロファイルに関しては、「Lasertechnikinder Medizin:Grundlagen、Systeme、Anwendungen」、「WirkungvonLaserstrahlung auf Gewebe」1991年,10171~266頁,Juergen Eichler,Theo Seiler,Springer Verlag,ISBN 0939~0979を参照されたい。皮膚の表面反射は、波長が近赤外に向かって増加するのにつれて増加する可能性がある。さらに、透過深度は、波長が可視光から近赤外に向かって増加するとともに増加する可能性がある。逆反射の拡散部分は、光の透過深度の増加とともに増加する可能性がある。これらの特性は、逆散乱プロファイルを分析することによって、皮膚を他の材料から区別するために使用されることができる。
具体的には、評価装置は、反射特徴のビームプロファイル(反射ビームプロファイルとも呼ばれる)を、少なくとも1つの予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルと比較するように構成されてよい。予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルは、テーブル又はルックアップテーブルに記憶されてよく、例えば経験的に決定されてもよく、及び一例として、ディスプレイ装置の少なくとも1つのデータ記憶装置に記憶されてもよい。例えば、予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルは、ディスプレイ装置を備えるモバイル装置の初期起動時に決定されてもよい。例えば、予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルは、例えばソフトウェアによって、具体的にはアプリストア等からダウンロードされたアプリによって、モバイル装置の少なくとも1つのデータ記憶装置に記憶されてよい。反射特徴は、反射ビームプロファイルと、予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルとが同一である場合に、生体組織によって生成されるものとして識別されてよい。比較は、反射ビームプロファイルと、予め決定された又は予め定義されたビームプロファイルとを、それらの強度中心がマッチングするように重ね合わせることを含むことができる。比較は、反射ビームプロファイルと、予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルとの間の偏差、例えば、点間距離の二乗和を決定することを含んでよい。評価装置は、決定された偏差を少なくとも1つの閾値と比較するように構成されてよく、決定された偏差が閾値より低く及び/又は閾値に等しい場合、表面は生体組織として示され、及び/又は生体組織の検出が確認される。閾値は、テーブル又はルックアップテーブルに記憶されてよく、例えば経験的に決定されてもよく、及び一例として、ディスプレイ装置の少なくとも1つのデータ記憶装置に記憶されてもよい。
追加的に又は代替的に、反射特徴が生物組織によって生成されたかどうかを識別するために、評価装置は、そのエリアの画像に少なくとも1つの画像フィルタを適用するように構成されることができる。本明細書でさらに使用される場合、「画像」という用語は、二次元関数f(x,y)を指し、ここで、輝度及び/又は色の値は、画像内の任意のx,y位置に対して与えられる。位置は、記録ピクセルに対応して離散化されてよい。また、輝度及び/又は色は、光センサのビット深度に対応して離散化されてよい。本明細書で使用される場合、「画像フィルタ」という用語は、ビームプロファイル及び/又はビームプロファイルの少なくとも1つの特定領域に適用される少なくとも1つの数学演算を指す。具体的には、画像フィルタФは、画像f又は画像内の関心領域を、実数Ф(f(x,y))=φにマッピングし、ここでφは特徴、特に材料特徴を示している。画像はノイズの影響を受ける可能性があり、特徴についても同様である。したがって、特徴はランダム変数であってよい。特徴は正規分布に従ってもよい。特徴が正規分布に従っていない場合は、ボックスコックス変換(Box-Cox-Transformation)などによって正規分布にされるように変換されてもよい。
評価装置は、少なくとも1つの材料依存画像フィルタФを画像に適用することによって、少なくとも1つの材料特徴φ2mを決定するように構成され得る。本明細書で使用される場合、「材料依存」画像フィルタという用語は、材料依存の出力を有する画像を指す。材料依存画像フィルタの出力は、本明細書では「材料特徴φ2m」又は「材料依存特徴φ2m」と示される。材料特徴は、反射特徴を生成したエリアの表面の少なくとも1つの材料特性に関する少なくとも1つの情報であってもよく、又はそれを含んでいてもよい。
材料依存画像フィルタは、輝度フィルタ;スポット形状フィルタ;二乗ノルム勾配;標準偏差;ガウスフィルタ又はメディアンフィルタなどの平滑性フィルタ;グレーレベル発生ベースのコントラストフィルタ;グレーレベル発生ベースのエネルギーフィルタ;グレーレベル発生ベースの均一性フィルタ;グレーレベル発生ベースの非類似性フィルタ;ローのエネルギーフィルタ;閾値領域フィルタ;もしくはこれらの線形結合;からなる群から選択された少なくとも1つのフィルタ、又は、輝度フィルタ、スポット形状フィルタ、二乗ノルム勾配、標準偏差、平滑性フィルタ、グレーレベル発生ベースのエネルギーフィルタ、グレーレベル発生ベースの均一性フィルタ、グレーレベル発生ベースの非類似性フィルタ、ローのエネルギーフィルタ、もしくは閾値領域フィルタのうちの1つ以上に相関するさらなる材料依存画像フィルタФ2other、又は、|ρФ2other,Фm|≧0.40によるそれらの線形結合、ここで、Фは、輝度フィルタ、スポット形状フィルタ、二乗ノルム勾配、標準偏差、平滑性フィルタ、グレーレベル発生ベースのエネルギーフィルタ、グレーレベル発生ベースの均一性フィルタ、グレーレベル発生ベースの非類似性フィルタ、ローのエネルギーフィルタ、もしくは閾値領域フィルタのうちの1つ以上、又はそれらの線形結合であり得る。さらなる材料依存画像フィルタФ2otherは、材料依存画像フィルタФの1つ以上と、|ρФ2other,Фm|≧0.60、好ましくは|ρФ2other,Фm|≧0.80によって相関していてもよい。
材料依存画像フィルタは、仮説検証を通過する少なくとも1つの任意のフィルタΦであり得る。本明細書で使用される場合、「仮説検証を通過する」という用語は、ヌル仮説Hが棄却され、代替仮説Hが受け入れられるという事実を指す。仮説検証は、予め定義されたデータセットに画像フィルタを適用することによって、画像フィルタの材料依存性を検証することを含んでいてよい。データセットは、複数のビームプロファイル画像を含んでいてよい。本明細書で使用される場合、「ビームプロファイル画像」という用語は、Nガウス放射状基底関数の合計を指し、
式中、Nガウス放射状基底関数のそれぞれは、
によって、定義される。指数因子は、全ての画像の全てのガウス関数で同一である。
で同一である。データセット内のビームプロファイル画像のそれぞれは、材料分類と距離に対応していてよい。材料分類は、「材料A」、「材料B」などのラベルであってよい。ビームプロファイル画像は、
に関する上記の式を、以下のパラメータテーブルと組み合わせて使用することによって生成されることができる:
のピクセルに対応する整数である。画像は、32×32のピクセルサイズを有することができる。ビームプロファイル画像のデータセットは、
の連続的な記述を得るために、パラメータセットと組み合わせて、
に対する上述の式を使用することによって生成され得る。32×32画像の各ピクセルの値は、
のx,yに対して、0,...,31からの整数値を挿入することによって得ることができる。例えば、ピクセル(6,9)の場合、
が計算され得る。
続いて、各画像
についてフィルタΦに対応する
が計算されることができ、
式中zは、事前定義されたデータセットからの
に対応する距離値である。これにより、対応する生成された
を有するデータセットが得られる。仮説検証では、フィルタが材料分類を区別しないヌル仮説を使用してよい。ヌル仮説は、
で与えられてよく、ここで
は、
に対応する各材料群の期待値である。
は材料群を表す。仮説検証は、フィルタが少なくとも2つの材料分類を区別するということを代替仮説として用いることができる。その代替仮説は
によって与えられ得る。本明細書で使用される場合、「材料分類を区別しない」という用語は、材料分類の期待値が同一であることを指す。本明細書で使用される場合、「材料分類を区別する」という用語は、材料分類の少なくとも2つの期待値が異なることを指す。本明細書で使用される場合、「少なくとも2つの材料分類を区別する」は、「適切な材料分類」と同義で使用される。仮説検証は、生成された特徴値に関する少なくとも1つの分散分析(ANOVA)を含み得る。特に、仮説検証は、
についての特徴値の平均値、すなわち、

に対して、
を求めることを含んでもよく、ここで

は、事前に定義されたデータセットにおける各J材料の特徴値の数を示す。仮説検証は、
を決定することを含む。仮説検証は、
内の平均平方和を決定することを含んでいてよい。
仮説検証は、以下の間の平均平方和を決定することを含んでよい。
仮説検証は、F-テストの実行を含んでいてよい。
ここで、
は正則化された不完全ベータ関数
であり、ここでオイラーベータ関数
は不完全ベータ関数である。画像フィルタは、p値であるpが予め定義された有意水準よりも小さいか等しい場合、仮説検証を通過し得る。フィルタは、p≦0.075、好ましくはp≦0.05、より好ましくはp≦0.025、最も好ましくはp≦0.01である場合、仮説検証を通過し得る。例えば、予め定義された有意水準がα=0.075の場合、画像フィルタはp値がα=0.075より小さい場合に仮説検証を通過することができる。この場合、ヌル仮説Hが拒否され、代替仮説Hが受け入れられることができる。画像フィルタは、このように少なくとも2つの材料分類を区別する。このように、画像フィルタは仮説検証を通過する。
以下では、反射画像が少なくとも1つの反射特徴、特にスポット画像を含むと仮定して、画像フィルタについて説明する。スポット画像
は、
によって与えられることができ、画像fの背景は既に差し引かれることができる。しかし、他の反射特徴が可能であり得る。
例えば、材料依存画像フィルタは、輝度フィルタであってよい。輝度フィルタは、スポットの輝度測定値を材料特徴として返すことができる。材料特徴は、
によって決定され得、式中、fはスポット画像である。スポットの距離はzで示され、ここで、zは、例えば、デフォーカスからの深度技術又は光子比からの深度技術を用いて、及び/又は三角測量技術を用いて得られる。材料の表面法線は
によって与えられ、少なくとも3つの測定点にまたがる表面の法線として得られる。ベクトル
は、光源の方向ベクトルである。スポットの位置が、デフォーカスからの深度技術又は光子比からの深度技術を用いて、及び/又は光源の位置がディスプレイ装置のパラメータとして知られている三角測量技術を用いることによって知られているため、
は、スポットの位置と光源の位置の間の差分ベクトルである。
例えば、材料依存画像フィルタは、スポット形状に依存した出力を有するフィルタであってよい。この材料依存画像フィルタは、材料の透光性に相関する値を材料特徴として返すことができる。材料の透光性は、スポットの形状に影響を与える。材料特徴は、
によって与えられ、式中、
はスポットの高さhに対する重みであり、HはHeavyside関数、すなわち
である。スポット高さhは、以下によって決定され得、
式中、B
を有するスポットの内円である。
例えば、材料依存画像フィルタは、二乗ノルム勾配であってよい。この材料依存画像フィルタは、材料特徴としてのスポットのソフトとハードの遷移及び/又は粗さの測定値に相関する値を返してよい。材料特徴は、
によって、定義されてよい。例えば、材料依存画像フィルタは、標準偏差であってもよい。スポットの標準偏差は、
によって、決定されてよく、式中、μは

によって与えられる平均値である。
例えば、材料依存画像フィルタは、ガウスフィルタ又はメディアンフィルタなどの平滑性フィルタであってよい。平滑性フィルタの一実施形態では、この画像フィルタは、体積散乱が拡散散乱材料と比較して少ないスペックルコントラストを示すという観察を参照することができる。この画像フィルタは、材料特徴としてスペックルコントラストに対応するスポットの平滑性を定量化することができる。材料特徴は、
によって、決定されてよく、式中、
は平滑化関数であり、例えばメディアンフィルタ又はやガウスフィルタなどである。この画像フィルタは、上述の式で説明したように、距離zによる除算を含んでよい。距離zは、例えば、デフォーカスからの深度技術又は光子比からの深度技術を用いて、及び/又は、三角測量技術を用いて決定されてよい。これにより、フィルタが距離の影響を受けなくなることが可能である。平滑化フィルタの一実施形態では、平滑化フィルタは、抽出されたスペックルノイズパターンの標準偏差に基づいてよい。スペックルノイズパターンNは、
によって、経験的な方法で記述されることができる。式中、
は、スペックル除去したスポットの画像である。
は、スペックルパターンをモデル化したノイズ項である。スペックル除去した画像の計算は困難な場合がある。したがって、スペックル除去した画像は、fの平滑化バージョン、すなわち、
によって近似化されてよく、式中、
は、ガウスフィルタ又はやメディアンフィルタのような平滑化演算子である。したがって、スペックルパターンの近似は、
によって、与えられてよく、このフィルタの材料特徴は、
によって、決定されてよく、式中、Varは分散関数を表す。
例えば、画像フィルタは、グレーレベル発生ベースのコントラストフィルタであってよい。この材料フィルタは、グレーレベル発生マトリックス
に基づいてよく、ここで
はグレー結合(g,g)=[f(x,y),f(x,y)]、]の発生率であり、関係ρは、ρ(x,y)=(x+a,y+b)であって、(x,y)と(x,y)の間の距離を定義し、aとbは0,1から選択される。
グレーレベル発生ベースのコントラストフィルタの材料特徴は、
によって与えられてよい。
例えば、画像フィルタは、グレーレベル発生ベースのエネルギーフィルタであってよい。この材料フィルタは、上記で定義されたグレーレベル発生マトリックスに基づいている。
グレーレベル発生ベースのエネルギーフィルタの材料特徴は、
によって与えられてよい。
例えば、画像フィルタは、グレーレベル発生ベースの均一性フィルタであってよい。この材料フィルタは、上記で定義されたグレーレベル発生マトリックスに基づいている。グレーレベル発生ベースの均一性フィルタの材料特徴は、
によって与えられてよい。
例えば、画像フィルタは、グレーレベル発生ベースの非類似性フィルタであってよい。この材料フィルタは、上記で定義されたグレーレベル発生マトリックスに基づいている。グレーレベル発生ベースの非類似性フィルタの材料特徴は、
によって与えられてよい。
例えば、画像フィルタは、ローエネルギーフィルタであってよい。この材料フィルタは、ローベクトルL=[1,4,6,4,1]及びE=[-1,-2,0,-2,-1]及び材料L(E及びE(Lに基づいている。画像fはこれらのマトリックス:
で畳み込まれている。
ここで、ローのエネルギーフィルタの材料特徴は、
によって、決定されてよい。
例えば、材料依存の画像フィルタは、閾値領域フィルタであってよい。この材料特徴は、画像平面内の2つのエリアに関連してよい。第1エリアΩ1、は、関数fがfの最大値のα倍よりも大きいエリアであってもよい。第2エリアΩ2、は、関数fがfの最大値のα倍よりも小さいが、fの最大値のε倍の閾値よりも大きいエリアであってよい。好ましくは、αは0.5、εは0.05であり得る。スペックル又はノイズのために、エリアはスポット中心の内円と外円に単純に対応していない場合がある。例えば、Ω1は、外円のスペックル又は接続されていないエリアを含み得る。材料特徴は、
によって、決定されてよく、式中、Ω1={x|f(x)>α・max(f(x))}及びΩ2={x|ε・max(f(x))<f(x)<α・max(f(x))}である。
評価装置は、反射特徴を生成した表面の材料特性を決定するために、材料特徴φ2mと反射特徴を生成した表面の材料特性との間の少なくとも1つの所定の関係を用いるように構成されてよい。所定の関係は、経験的関係、半経験的関係、及び分析的に導出された関係のうちの1つ以上であってよい。評価装置は、例えばルックアップリスト又はルックアップテーブルなどの、所定の関係を記憶するための少なくとも1つのデータ記憶装置を備えてよい。
評価装置は、対応する材料特性が少なくとも1つの予め決定された又は予め定義された基準を満たす場合に、生体組織を照射することによって生成されたものとして反射特徴を識別するように構成される。反射特徴は、材料特性が「生体組織」を示す場合に、生体組織によって生成されたものとして識別されることができる。反射特徴は、材料特性が少なくとも1つの閾値又は範囲を下回る又は等しい場合に、生体組織によって生成されたものとして識別されてよく、決定された偏差が閾値を下回る及び/又は等しい場合に、反射特徴は生体組織によって生成されたと識別され、及び/又は生体組織の検出が確認される。少なくとも1つの閾値及び/又は範囲は、テーブル又はルックアップテーブルに記憶されてもよく、少なくとも1つの閾値及び/又は範囲は、例えば経験的に決定されてもよく、及び、少なくとも1つの閾値及び/又は範囲は、一例としてディスプレイ装置の少なくとも1つのデータ記憶装置に記憶されてもよい。評価装置は、そうでなければ、反射特徴を背景であるとして識別するように構成される。したがって、評価装置は、深度情報と、材料特性例えば皮膚の「イエス」又は「ノー」を各投影スポットに割り当てるように構成されてもよい。
材料特性は、縦方向座標zに関する情報がφ2mの評価に考慮され得るように、縦方向座標zの決定後にφ2mを評価することによって決定されてよい。
さらなる態様では、本発明は、ディスプレイ装置を通しての深度測定のための方法を開示し、そこでは、本発明によるディスプレイ装置が使用される。本方法は、以下:
a)少なくとも1つの照射源を使用することによって、複数の照射特徴を含む少なくとも1つの照射パターンを少なくとも1つのシーンに投影するステップであって、前記照射源は、ディスプレイの前方に前記照射パターンの伝播方向に配置される、ステップと;
b)少なくとも1つの光センサを使用することによって、前記照射特徴による照射に応答して前記シーンによって生成された複数の反射特徴を含む少なくとも1つの第1画像を決定するステップであって、前記光センサは少なくとも1つの感光エリアを有し、前記光センサは前記ディスプレイの前方に前記照射パターンの伝播方向に配置され、前記反射特徴のそれぞれが少なくとも1つのビームプロファイルを含んでいる、ステップと;
c)少なくとも1つの評価装置を使用することによって、前記第1画像を評価するステップであって、前記評価は以下のサブステップ:
C1)前記第1画像の前記反射特徴を識別し、前記識別された反射特徴を輝度に関してソートするサブステップと;
C2)ビームプロファイルの分析により、前記反射特徴ごとに少なくとも1つの縦方向座標zDPRを決定するサブステップと;
C3)前記縦方向座標zDPRを使用することにより、反射特徴を対応する照射特徴に明確にマッチングするサブステップであって、前記マッチングは、最も明るい反射特徴から始めて、前記反射特徴の輝度を減少させて実行されるサブステップと;
C4)照射特徴とマッチングする反射特徴を真の特徴として分類し、照射特徴とマッチングしない反射特徴を偽の特徴として分類するサブステップと;
C5)偽の特徴を排除し、前記縦方向座標zDPRを使用することにより、前記真の特徴の深度マップを生成するサブステップと、を含む、
ステップと、を含む。
方法ステップは、所定の順序で実行されてもよく、又は異なる順序で実行されてもよい。さらに、列挙されていない1つ以上の追加の方法ステップが存在してもよい。さらに、方法ステップの1つ、1つより多く、又は、全てさえも、繰り返し実行されてよい。詳細、選択肢、及び定義については、上述したディスプレイ装置を参照することができる。したがって、具体的には、上記で説明されたように、本方法は、上記で与えられ又は以下でさらに詳細に与えられる1つ以上の実施形態によるなどの、本発明によるディスプレイ装置の使用を含むことができる。
少なくとも1つの評価装置は、例えば本発明による方法の方法ステップの1つ又は複数又は全てさえも実行又はサポートするように構成された少なくとも1つのコンピュータプログラムなどの、少なくとも1つのコンピュータプログラムを実行するように構成され得る。一例として、物体の位置を決定する1つ以上のアルゴリズムが、実装され得る。
本発明のさらなる態様においては、上記で与えられた又は以下でさらに詳細に与えられる1つ以上の実施形態などによる、本発明によるディスプレイ装置の使用が、交通技術における位置測定;娯楽用途;セキュリティ用途;監視用途;安全用途;ヒューマンマシンインターフェース用途;追跡用途;写真用途;画像化又はカメラ用途;少なくとも1つの空間マップを生成するためのマッピング用途;車両用のホーミング又は追跡ビーコン検出器;屋外用途;モバイル用途;通信用途;マシンビジョン用途;ロボット用途;品質管理用途;製造用途、からなる群から選択される使用目的のために、提案される。
本発明のディスプレイ装置及び装置のさらなる使用に関しては、WO2018/091649A1、WO2018/091638A1及びWO2018/091640A1が参照され、その内容は参照によって含まれる。
全体として、本発明の文脈において、以下の実施形態が好ましいと考えられる。
実施形態1:
- 少なくとも1つのシーンに複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成された少なくとも1つの照射源と;
- 少なくとも1つの感光エリアを有する少なくとも1つの光センサであって、前記光センサは、前記照射特徴による照射に応答して前記シーンによって生成された複数の反射特徴を含む少なくとも1つの第1画像を決定するように構成されている、少なくとも1つの光センサと;
- 情報を表示するように構成された少なくとも1つの透光性ディスプレイであって、前記照射源と前記光センサが、前記ディスプレイの前に前記照射パターンの伝播方向に配置されている、透光性ディスプレイと;
- 少なくとも1つの評価装置であって、前記評価装置は、前記第1画像を評価するように構成され、前記第1画像の前記評価は、前記第1画像の前記反射特徴を識別し、前記識別された反射特徴を輝度に関してソートすることを含み、前記反射特徴の各々は、少なくとも1つのビームプロファイルを含み、前記評価装置は、それらのビームプロファイルの分析によって前記反射特徴の各々について少なくとも1つの縦方向座標zDPRを決定するように構成されており、前記評価装置は、前記縦方向座標zDPRを使用することにより、反射特徴を対応する照射特徴に明確にマッチングするように構成されており、前記マッチングは、最も明るい反射特徴から始めて、前記反射特徴の輝度を減少して実行され、前記評価装置は、照射特徴とマッチングする反射特徴を真の特徴として分類し、照射特徴とマッチングしない反射特徴を偽の特徴として分類するように構成されおり、前記評価装置は、前記偽の特徴を排除し、及び、前記縦方向座標zDPRを使用し前記真の特徴について深度マップを生成するように構成されている、少なくとも1つの評価装置と、
を備える、ディスプレイ装置。
実施形態2:前記評価装置は、三角測量及び/又はデフォーカスからの深度及び/又は構造化光技術を使用して、前記反射特徴のそれぞれについて少なくとも1つの第2縦方向座標ztriangを決定するように構成されている、先行する実施形態によるディスプレイ装置。
実施形態3:前記評価装置は、前記第2縦方向座標ztriangと前記縦方向座標zDPRの結合縦方向座標を決定するように構成され、前記結合縦方向座標は、前記第2縦方向座標ztriangと前記縦方向座標zDPRの平均値であり、前記結合縦方向座標は、前記深度マップの決定のために使用される、先行する実施形態によるディスプレイ装置。
実施形態4:前記照射源は、少なくとも1つのレーザプロジェクタを備え、前記レーザプロジェクタは、少なくとも1つのレーザ源と少なくとも1つの回折光学素子(DOE)を含む、先行する実施形態のいずれか1つによるディスプレイ装置。
実施形態5:前記照射源は、前記照射源から前記ディスプレイを通って前記シーンまで通過するビーム経路を有する少なくとも1つの光ビームを生成するように構成され、前記ディスプレイは、前記光ビームが、前記ディスプレイによる回折を受け、その結果、点パターンが生じるように、格子として機能するように構成されている、先行する実施形態のいずれか1つによるディスプレイ装置。
実施形態6:前記ディスプレイの配線は、前記格子のギャップ及び/又はスリット及びリッジを形成するように構成されている、先行する実施形態によるディスプレイ装置。
実施形態7:前記照射パターンは、周期的な点パターンを含む、先行する実施形態のいずれか1つによるディスプレイ装置。
実施形態8:前記照射パターンは、低い点密度を有し、前記照射パターンは、視野あたり2500個以下の点を有する、先行する実施形態のいずれか1つによるディスプレイ装置。
実施形態9:前記評価装置は、光子比からの深度技術を使用することによって、前記反射特徴のそれぞれについて、前記ビームプロファイルの情報を決定するように構成されている、先行する実施形態のいずれか1つによるディスプレイ装置。
実施形態10:前記光センサは、少なくとも1つのCMOSセンサを含む、先行する実施形態のいずれか1つによるディスプレイ装置。
実施形態11:前記ディスプレイ装置は、さらなる照射源を含み、前記さらなる照射源は、少なくとも1つの発光ダイオード(LED)を含む、先行する実施形態のいずれか1つによるディスプレイ装置。
実施形態12:前記さらなる照射源は、視覚的スペクトル範囲内の光を生成するように構成されている、先行する実施形態によるディスプレイ装置。
実施形態13:前記光センサは、前記シーンの少なくとも1つの二次元画像を含む少なくとも1つの第2画像を決定するように構成され、前記さらなる照射源は、前記第2画像の画像化のための追加の照射を提供するように構成されている、先行する2つの実施形態のいずれか1つによるディスプレイ装置。
実施形態14:前記評価装置は、回折格子関数gで前記第2画像Iをデコンボリューションすることによって、少なくとも1つの補正された画像Iを決定するように構成され、ここでI=I*gである、先行する実施形態によるディスプレイ装置。
実施形態15:透光性のディスプレイを通しての深度測定のための方法であって、先行する実施形態のいずれか1つによる少なくとも1つのディスプレイ装置が使用され、以下のステップ:
a)少なくとも1つの照射源を使用することによって、複数の照射特徴を含む少なくとも1つの照射パターンを少なくとも1つのシーンに投影するステップであって、前記照射源は、ディスプレイの前方に前記照射パターンの伝播方向に配置される、ステップと;
b)少なくとも1つの光センサを使用することによって、前記照射特徴による照射に応答して前記シーンによって生成される複数の反射特徴を含む少なくとも1つの第1画像を決定するステップであって、前記光センサは少なくとも1つの感光エリアを有し、前記光センサは前記ディスプレイの前方に前記照射パターンの伝播方向に配置され、前記反射特徴のそれぞれは少なくとも1つのビームプロファイルを含んでいる、ステップと;
c)少なくとも1つの評価装置を使用することによって、前記第1画像を評価するステップであって、前記評価は以下のサブステップ:
C1)前記第1画像の前記反射特徴を識別し、前記識別された反射特徴を輝度に関してソートするサブステップと;
C2)ビームプロファイルの分析により、前記反射特徴ごとに少なくとも1つの縦方向座標zDPRを決定するサブステップと;
C3)前記縦方向座標zDPRを使用することにより、反射特徴を対応する照射特徴に明確にマッチングするサブステップであって、前記マッチングは、最も明るい反射特徴から始めて、前記反射特徴の輝度を減少させて実行されるサブステップと;
C4)照射特徴とマッチングする反射特徴を真の特徴として分類し、照射特徴とマッチングしない反射特徴を偽の特徴として分類するサブステップと;
C5)偽の特徴を排除し、前記縦方向座標zDPRを使用することにより、前記真の特徴の深度マップを生成するサブステップと、
を含むステップと、
を含む、ディスプレイ装置を介した深度測定のための方法。
実施形態16:ディスプレイ装置に関する先行する実施形態のいずれか1つによるディスプレイ装置の使用であって、使用目的が:交通技術における位置測定;娯楽用途;セキュリティ用途;監視用途;安全用途;ヒューマンマシンインターフェース用途;追跡用途;写真用途;画像化又はカメラ用途;少なくとも1つの空間のマップを生成するためのマッピング用途;車両用のホーミング又は追跡ビーコン検出器;屋外用途;モバイル用途;通信用途;マシンビジョン用途;ロボット用途;品質管理用途;製造用途、からなる群から選択される、使用。
本発明のさらなる任意の詳細及び特徴は、従属請求項と関連して続く好ましい例示的な実施形態の説明から明らかである。この文脈では、特定の特徴は、個別に実施されても、又は他の特徴と組み合わせて実施されてもよい。本発明は、例示的な実施形態に限定されない。例示的な実施形態は、図に模式的に示されている。個々の図における同一の符号は、同一の要素又は同一の機能を有する要素、又はその機能に関して互いに対応する要素を指している。
具体的には、以下の図の中で:
図1A及び図1Bは、本発明によるディスプレイ装置の実施形態を示す図である。 図2A~2Bは、ディスプレイ装置の少なくとも1つの光センサで決定された第1画像の実施形態を示す図である。 図3A~3Cは、ディスプレイ装置の少なくとも1つの光センサで決定された第1画像のさらなる実施形態を示す図である。 ディスプレイ装置を使用した補正された2D画像の決定を示す図である。 図5A~5Cは、ディスプレイを使用してキャプチャされた歪んだ2D画像と、ディスプレイを使用せずにキャプチャされた2D画像と、補正後の2D画像を示す図である。
発明を実施する形態
実施形態の詳細な説明
図1Aは、本発明によるディスプレイ装置110の一実施形態を非常に概略的に示している。ディスプレイ装置110は、情報を表示するように構成された少なくとも1つの透光性ディスプレイ112を有している。ディスプレイ112は、少なくとも1つの画像、少なくとも1つの図、少なくとも1つのヒストグラム、少なくとも1つのテキスト、少なくとも1つの記号などの情報項目を表示するように構成された任意の形状の装置であり得る。ディスプレイ112は、少なくとも1つのモニタ又は少なくとも1つのスクリーンであり得る。ディスプレイ112は、任意の形状、好ましくは長方形の形状を有してよい。例えば、ディスプレイ装置110は、テレビ装置、スマートフォン、ゲームコンソール、パーソナルコンピュータ、ラップトップ、タブレット、少なくとも1つの仮想現実装置、又はそれらの組み合わせからなる群から選択される少なくとも1つの装置であってよい。
ディスプレイ装置110は、少なくとも1つのシーンに、複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成された少なくとも1つの照射源114を備える。シーンは、顔などの物体又は空間領域を指し得る。シーンは、少なくとも1つの物体及びその周囲の環境を含み得る。
照射源114は、シーンを直接的又は間接的に照射するように適合されてよく、照射パターンは、シーンの表面によって反射又は散乱され、それによって、少なくとも部分的に光センサに向けられる。照射源114は、例えば、光ビームをシーンに向けることによってシーンを照射するように適合されてよく、シーンは光ビームを反射する。照射源114は、シーンを照射するための照射光ビームを生成するように構成されてよい。
照射源114は、少なくとも1つの光源を含んでよい。照射源114は、複数の光源を含んでいてもよい。照射源114は、人工照射源、特に少なくとも1つのレーザ源、及び/又は少なくとも1つの白熱灯、及び/又は少なくとも1つの半導体光源、例えば少なくとも1つの発光ダイオード、特に有機及び/又は無機発光ダイオードを含み得る。一例として、照射源によって放出される光は、300~1100nm、特に500~1100nmの波長を有し得る。追加的に又は代替的に、780nm~3.0μmの範囲などの赤外スペクトル範囲の光が使用され得る。具体的には、シリコンフォトダイオードが適用可能な特には700nm~1100nmの範囲の近赤外領域部分の光が使用されることができる。照射源114は、赤外領域で、少なくとも1つの照射パターンを生成するように構成されてよい。近赤外領域の光を使用することは、光が人間の目では検出されないか、又はわずかにしか検出されないが、シリコンセンサ、特に標準的なシリコンセンサによって検出されることを可能にする。照射源114は、単一波長で光を放出するように構成されることができる。具体的には、波長は、近赤外領域にあってよい。他の実施形態では、照射は、他の波長チャネルでの追加の測定を可能にする複数の波長を有する光を放出するように適合されてよい。
照射源114は、少なくとも1つの多重ビーム光源であってよく、又は、それを含んでいてもよい。例えば、照射源114は、少なくとも1つのレーザ源と1つ以上の回折光学素子(DOE)を含んでいてよい。具体的には、照射源114は、少なくとも1つのレーザ及び/又はレーザ源を備えていてよい。様々なタイプのレーザ、例えば、半導体レーザ、ダブルヘテロ構造レーザ、外部キャビティレーザ、分離封じ込めヘテロ構造レーザ、量子カスケードレーザ、分散ブラッグ(bragg)反射器レーザ、ポラリトンレーザ、ハイブリッドシリコンレーザ、拡張キャビティダイオードレーザ、量子ドットレーザ、ボリュームブラッググレーティングレーザ、インジウムヒ素レーザ、トランジスタレーザ、ダイオード励起レーザ、分散フィードバックレーザ、量子ウェルレーザ、バンド間カスケードレーザ、ガリウムヒ素レーザ、半導体リングレーザ、拡張キャビティダイオードレーザ、又は垂直キャビティ面発光レーザなど、が採用されてよい。追加的に又は代替的に、LED及び/又は電球などの非レーザ光源が使用されてもよい。照射源は、照射パターンを生成するように適合された1つ以上の回折光学素子(DOE)を含んでよい。例えば、照射源114は、点群を生成及び/又は投影するように適合されてよく、例えば、照射源は、少なくとも1つのデジタル光処理プロジェクタ、少なくとも1つのLCoSプロジェクタ、少なくとも1つの空間光変調器;少なくとも1つの回折光学素子;発光ダイオードの少なくとも1つのアレイ;レーザ光源の少なくとも1つのアレイ、のうちの1つ以上を含み得る。それらの一般的に定義されたビームプロファイル及び取扱い性の他の特性を考慮すると、照射源114として少なくとも1つのレーザ源の使用が特に好ましい。照射源114は、ディスプレイ装置110のハウジング116に一体化されてよい。
さらに、照射源114は、変調された光又は変調されていない光を放出するように構成されてよい。複数の照射源114を使用する場合、異なる照射源は異なる変調周波数を有することができ、該異なる変調周波数は、以下にさらに詳細に概説するように、後に、光ビームを区別するために使用されることができる。
照射パターンはシーンの少なくとも一部を照射するように適合された少なくとも1つの照射特徴を含む少なくとも1つの任意のパターンであり得る。照射パターンは、単一の照射特徴を含んでよい。照射パターンは、複数の照射特徴を含んでよい。照射パターンは、少なくとも1つの点パターン;少なくとも1つの線パターン;少なくとも1つのストライプパターン;少なくとも1つの市松模様パターン;周期的又は非周期的な特徴の配置を含む少なくとも1つのパターン、からなる群から選択されてよい。照射パターンは、三角形のパターン、長方形のパターン、六角形パターン、又はさらに凸状のタイル状パターンなどの規則的及び/又は一定及び/又は周期的なパターンを含んでよい。照射パターンは、少なくとも1つの点;少なくとも1つの線;平行線又は交差線などの少なくとも2つの線;少なくとも1つの点と1つの線;周期的又は非周期的な特徴の少なくとも1つの配置;少なくとも1つの任意の形状の特徴からなる群から選択される少なくとも1つの照射特徴を示してよい。照射パターンは:少なくとも1つの点パターン、特に擬似ランダム点パターン;ランダム点パターン又は準ランダムパターン;少なくとも1つのソボル(Sobol)パターン;少なくとも1つの準周期的パターン;少なくとも1つの既知の特徴を含む少なくとも1つのパターン;少なくとも1つの規則的なパターン;少なくとも1つの三角形パターン;少なくとも1つの六角形パターン;少なくとも1つの長方形パターン;凸状の均一なタイル状体(tiling)を含む少なくとも1つのパターン;少なくとも1つの線を含む少なくとも1つの線パターン;平行線又は交差線などの少なくとも2つの線を含む少なくとも1つの線パターン、からなる群から選択される少なくとも1つのパターンを含むことができる。例えば、照射源は、点群を生成及び/又は投影するように適合され得る。照射源114は、照射パターンが複数の点パターンを含むことができるように点群を生成するように適合された少なくとも1つの光プロジェクタを含み得る。照射源114は、照射源114によって生成された少なくとも1つの光ビームから照射パターンを生成するように適合された少なくとも1つのマスクを含むことができる。
照射パターンの2つの特徴間の距離及び/又は少なくとも1つの照射特徴の面積は、画像内の錯乱円に依存し得る。上記で概説したように、照射源は、少なくとも1つの照射パターンを生成するように構成された少なくとも1つの光源を含んでよい。具体的には、照射源114は、レーザ放射を生成するように指定された少なくとも1つのレーザ源及び/又は少なくとも1つのレーザダイオードを含む。照射源114は、少なくとも1つの回折光学素子(DOE)を含んでよい。ディスプレイ装置110は、少なくとも1つの周期的な点パターンを投影するように適合された、少なくとも1つのレーザ源及びDOEなどの少なくとも1つの点プロジェクタを含んでよい。例えば、投影される照射パターンは、周期的な点パターンであり得る。投影された照射パターンは、低い点密度を有していてよい。例えば、照射パターンは、低い点密度を有する少なくとも1つの周期的な点パターンを含み得、該照射パターンは、視野あたり2500個以下の点を有する。55×38°の視野において通常10k~30kの点密度を有する構造化光と比較して、本発明による照射パターンは、より低密度であり得る。これにより、提案された技術は、構造化光と比較して周囲光により少なく依存するように、点あたりのパワーを増やすことができる。
ディスプレイ装置110は、少なくとも1つの感光エリア120を有する少なくとも1つの光センサ118を有している。光センサ118は、照射特徴による照射に応答してシーンによって生成される複数の反射特徴を含む、例えば図2A~図2C及び図3A~図3Cに示される少なくとも1つの第1画像122を決定するように構成されている。ディスプレイ装置110は、光センサ118を有する単一のカメラを備え得る。ディスプレイ装置110は、それぞれが光センサ118、又は複数の光センサ118を含む複数のカメラを備え得る。
光センサ118は、具体的には、少なくとも1つの光検出器、好ましくは無機光検出器、より好ましくは無機半導体光検出器、最も好ましくはシリコン光検出器であってもよく、又はそれらを含んでいてもよい。具体的には、光センサ118は、赤外スペクトル範囲において感度を有してよい。マトリックスの全てのピクセル、又はマトリックスの光センサの少なくとも一群は、具体的には同一であってよい。マトリックスの同一のピクセルの一群は、具体的には、異なるスペクトル範囲について提供されてもよく、又は全てのピクセルは、スペクトル感度に関して同一であってもよい。さらに、ピクセルは、サイズ及び/又はそれらの電子的又は光電子的特性に関して同一であってもよい。具体的には、光センサ118は、赤外スペクトル範囲、好ましくは700nm~3.0マイクロメートルの範囲に感度を有する少なくとも無機フォトダイオードであってもよく、又はそれらを含んでいてもよい。具体的には、光センサ118は、シリコンフォトダイオードが適用可能な特に700nm~1100nmの範囲の近赤外領域の部分で感度を有してよい。光センサに使用され得る赤外光センサは、例えば、ドイツ,D-67056 Ludwigshafen am RheinのtrinamiX GmbHのHertzstueck(登録商標)というブランド名で市販されている赤外光センサなど、市販の赤外光センサであってよい。したがって、一例として、光センサ118は、固有の光起電型の少なくとも1つの光センサ、より好ましくは、Geフォトダイオード、InGaAsフォトダイオード、拡張InGaAsフォトダイオード、InAsフォトダイオード、InSbフォトダイオード、HgCdTeフォトダイオード、からなる群から選択される少なくとも1つの半導体フォトダイオードを含み得る。追加的又は代替的に、光センサ118は、外因性光起電型の少なくとも1つの光センサ、より好ましくは、Ge:Auフォトダイオード、Ge:Hgフォトダイオード、Ge:Cuフォトダイオード、Ge:Znフォトダイオード、Si:Gaフォトダイオード、Si:Asフォトダイオードからなる群から選択される少なくとも1つの半導体フォトダイオードを含み得る。追加的又は代替的に、光センサ118は、PbSもしくはPbSeセンサなどの少なくとも1つの光導電センサ、ボロメータ、好ましくはVOボロメータ及びアモルファスSiボロメータからなる群から選択されるボロメータを含み得る。
光センサ118は、紫外、可視、又は赤外スペクトル範囲の1つ以上で感度を有してよい。具体的には、光センサは、500nm~780nm、最も好ましくは650nm~750nm、又は690nm~700nmの可視スペクトル範囲で感度を有してよい。具体的には、光センサ118は近赤外領域で感度を有してよい。具体的には、光センサ118は、シリコンフォトダイオードが適用可能な特に700nm~1000nmの範囲の近赤外領域の部分で感度を有してよい。光センサは、具体的には、赤外スペクトル範囲、具体的には780nm~3.0μmの範囲で感度を有してよい。例えば、光センサは、それぞれ独立に、フォトダイオード、フォトセル、光伝導体、フォトトランジスタ又はそれらの任意の組み合わせからなる群から選択される少なくとも1つの要素であってもよく、又はそれらを含んでもよい。例えば、光センサ118は、CCDセンサ要素、CMOSセンサ要素、フォトダイオード、フォトセル、光導電体、フォトトランジスタ又はそれらの任意の組み合わせからなる群から選択される少なくとも1つの要素であってもよく、又はそれを含んでもよい。他の任意のタイプの感光性要素を使用してもよい。感光性要素は、一般に、完全に又は部分的に無機材料で作製されることができ、及び/又は、完全に又は部分的に有機材料で作製されることができる。最も一般的には、市販のフォトダイオード、例えば、無機半導体フォトダイオードなどの1つ以上のフォトダイオードが使用され得る。
光センサ118は、ピクセルのマトリックスを有する少なくとも1つのセンサ要素を有していてよい。したがって、一例として、光センサ118は、ピクセル化された光学装置の一部であるか、又は、それを構成してもよい。例えば、光センサ118は、少なくとも1つのCCD装置及び/又はCMOS装置であってもよく、及び/又は、それらを含んでいてもよい。一例として、光センサ118は、ピクセルのマトリックスを有し、各ピクセルが感光エリアを形成する少なくとも1つのCCD装置及び/又はCMOS装置の一部であるか、又は、それを構成してもよい。センサ要素は、一体の単一装置として形成されてもよいし、又はいくつかの装置の組み合わせとして形成されてもよい。マトリックスは、具体的には、1つ以上の行及び1つ以上の列を有する長方形のマトリックスであってもよく、又はそれを含んでいてもよい。行と列は、具体的には長方形方式に配置され得る。しかしながら、非長方形の配置などの他の配置も可能である。一例として、円形の配置も可能であり、そこでは要素は中心点のまわりに同心の円又は楕円に配置される。例えば、マトリックスは、ピクセルの単一の行であってもよい。他の配置も可能である。
マトリックスのピクセルは、具体的には、サイズ、感度、並びに他の光学的、電気的及び機械的特性のうちの1つ以上で等しくてよい。マトリックスの全ての光センサ118の感光エリア120は、具体的には、共通の平面内に配置されてよく、該共通平面は、好ましくは、物体からディスプレイ装置110に伝播する光ビームが該共通平面上に光スポットを生成するように、シーンに面している。感光エリア120は、具体的には、それぞれの光センサ118の表面上に位置してよい。しかしながら、他の実施形態も実現可能である。光センサ118は、例えば、少なくとも1つのCCD及び/又はCMOS装置を含むことができる。一例として、光センサ118は、ピクセル化された光学装置の一部であってもよく、又はそれを構成してもよい。一例として、光センサ118は、ピクセルのマトリックスを有し、各ピクセルが感光エリア120を形成する少なくとも1つのCCD及び/又はCMOS装置の一部であってもよく、又はそれを構成してもよい。
ディスプレイ装置110は、情報を表示するように構成された少なくとも1つの透光性ディスプレイ112を備える。照射源114及び光センサ118は、ディスプレイ112の前方に照射パターンの伝播方向に配置される。照射源114と光センサ118は、互いに関して固定された位置に配置されてよい。例えば、ディスプレイ装置110の構成は、光センサ118とレンズシステムを備えたカメラと、照射源114としてのレーザプロジェクタを備えることができる。レーザプロジェクタとカメラは、透光性ディスプレイの背後に、シーンによって反射された光の伝播方向に、固定されてよい。レーザプロジェクタは、ドットパターンを生成し、ディスプレイ112を通して照射してよい。カメラは、ディスプレイを通して写すことができる。しかし、透光性ディスプレイの背後に配置され、シーンによって反射される光の伝播方向に配置される照射源114と光センサ118の構成は、ディスプレイ112の回折格子がシーン及び第1画像に複数のレーザポイントを生成する結果となり得る。これにより、第1画像上のこれらの複数のスポットは、有用な距離情報を含まない可能性がある。ディスプレイ装置110は、少なくとも1つの評価装置124を含む。評価装置124は、回折格子のゼロ次の反射特徴、すなわち真の特徴を見つけて評価するように構成されてよく、及び、より高次の反射特徴、すなわち偽の特徴を無視することができる。
評価装置124は、第1画像を評価するように構成される。評価装置124は、少なくとも1つのデータ処理装置を、より好ましくは少なくとも1つのプロセッサ及び/又は少なくとも1つの特定用途向け集積回路を使用することによって、含むことができる。したがって、一例として、少なくとも1つの評価装置124は、多数のコンピュータコマンドを含んでその上に記憶されたソフトウェアコードを有する少なくとも1つのデータ処理装置を含んでいてもよい。評価装置は、指定された操作の1つ以上を実行するための1つ以上のハードウェア要素を提供してもよく、及び/又は、指定された操作の1つ以上を実行するためにその上で実行されているソフトウェアを有する1つ以上のプロセッサを提供してもよい。操作は、画像を評価することを含む。具体的には、ビームプロファイルを決定し及び表面を表示することは、少なくとも1つの評価装置によって実行され得る。したがって、一例として、1つ以上の命令が、ソフトウェア及び/又はハードウェアで実装されることができる。したがって、例として、評価装置124は、上述の評価を実行するように構成された1つ以上のコンピュータ、特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、又はフィールドプログラマブルゲートアレイ(FPGA)などの1つ以上のプログラマブル装置から構成されていてもよい。しかしながら、追加的又は代替的に、評価装置はまた、完全に又は部分的にハードウェアによって具現化されてもよい。
第1画像の評価は、第1画像の反射特徴を特定することを含んでいる。評価装置124は、反射特徴を識別するために、少なくとも1つの画像分析及び/又は画像処理を実行するように構成され得る。画像分析及び/又は画像処理は、少なくとも1つの特徴検出アルゴリズムを使用してよい。画像分析及び/又は画像処理は、以下:フィルタリング;少なくとも1つの関心領域の選択;センサ信号によって生成された画像と少なくとも1つのオフセットとの間の差分画像の形成;センサ信号によって生成された画像を反転することによるセンサ信号の反転;異なる時間にセンサ信号によって生成された画像間の差分画像の形成;背景補正;カラーチャネルへの分解;色相への分解;飽和;輝度チャネル;周波数分解;特異値分解;ブロブ検出器の適用;コーナー検出器の適用;ヘッセフィルタの行列式の適用;主曲率ベースの領域検出器の適用;最大安定極値領域検出器の適用;一般化されたハフ変換の適用;稜線検出器の適用;アフィン不変特徴検出器の適用;アフィン適応の関心点演算子の適用;ハリスアフィン領域検出器の適用;ヘッセアフィン領域検出器の適用;スケール不変特徴変換の適用;スケールスペース極値検出器の適用;局所特徴検出器の適用;高速化堅牢特徴アルゴリズムの適用;勾配位置及び方向のヒストグラムアルゴリズムの適用;方向付けられた勾配記述子のヒストグラムの適用;Dericheエッジ検出器の適用;差動エッジ検出器の適用;時空関心点検出器の適用;モラベックコーナー検出器の適用;キャニーエッジ検出器の適用;ガウスフィルタのラプラス演算子の適用;差分ガウスフィルタの適用;ソーベル(Sobel)演算子の適用;ラプラス演算子の適用;シャール演算子の適用;プレウィット演算子の適用;ロバーツ演算子の適用;キルシュ演算子の適用;ハイパスフィルタの適用;ローパスフィルタの適用;フーリエ変換の適用;ラドン変換の適用;ハフ変換の適用;ウェーブレット変換の適用;閾値処理;バイナリ画像の生成、のうちの1つ以上を含み得る。関心領域は、ユーザが手動で決定してもよく、又は、光センサによって生成された画像内の特徴を認識するなどによって、自動的に決定されてもよい。
例えば、照射源114は、複数の照射領域が、光センサ118、例えばCMOS検出器上に生成されるように、点群を生成及び/又は投影するように構成されてよい。さらに、例えばスペックル及び/又は外来光及び/又は多重反射によるなどの外乱が、光センサ118に存在し得る。評価装置124は、少なくとも1つの関心領域、例えば、物体の縦方向座標の決定に使用される光ビームによって照射される1つ以上のピクセルを、決定するように適合され得る。例えば、評価装置124は、フィルタリング方法、例えば、ブロブ分析及び/又はエッジフィルタ及び/又は物体認識方法を実行するように適合されてよい。
評価装置124は、少なくとも1つの画像補正を行うように構成されてよい。画像補正は、少なくとも1つの背景減算を含み得る。評価装置124は、例えば、さらなる照射なしの画像化によって、ビームプロファイルから背景光からの影響を除去するように適合されてよい。
反射特徴の各々は、少なくとも1つのビームプロファイルを含む。ビームプロファイルは、台形ビームプロファイル;三角形ビームプロファイル;円錐ビームプロファイル及びガウシアンビームプロファイルの線形結合からなる群から選択され得る。評価装置は、ビームプロファイルの分析により、反射特徴の各々についてビームプロファイル情報を決定するように構成される。
評価装置124は、ビームプロファイルの分析によって各反射特徴の少なくとも1つの縦方向座標zDPRを決定するように構成されている。例えば、ビームプロファイルの分析は、ヒストグラム分析ステップ、差分測定の計算、ニューラルネットワークの適用、機械学習アルゴリズムの適用のうちの少なくとも1つを含み得る。評価装置124は、特に、より大きな角度での記録、エッジなどの記録からノイズ又は非対称性を除去するために、ビームプロファイルを対称化及び/又は正規化及び/又はフィルタリングするように構成されることができる。評価装置124は、空間周波数分析及び/又は中央値フィルタリングなどによってなど、高い空間周波数を除去することによって、ビームプロファイルをフィルタリングすることができる。集約は、光スポットの強度の中心によって実行されてよく、中心までの同じ距離にある全ての強度を平均化することができる。評価装置124は、特に記録された距離による強度差を考慮するように、ビームプロファイルを最大強度に正規化するように構成されてよい。評価装置124は、例えば、照射なしの画像化によって、ビームプロファイルから背景光の影響を除去するように構成されてもよい。
評価装置124は、光子比からの深度技術を使用することによって、反射特徴のそれぞれについて縦方向座標zDPRを決定するように構成され得る。光子比からの深度(DPR)技術に関しては、WO2018/091649A1、WO2018/091638A1及びWO2018/091640A1を参照し、その全内容は参照により含まれるものとする。
評価装置124は、反射特徴のそれぞれのビームプロファイルを決定するように構成されることができる。ビームプロファイルを決定は、光センサ118によって提供される少なくとも1つの反射特徴を識別すること、及び/又は光センサ118によって提供される少なくとも1つの反射特徴を選択すること、及び反射特徴の少なくとも1つの強度分布を評価することを含むことができる。一例として、画像の領域は、画像を通る軸又は線に沿ってなど、三次元強度分布又は二次元強度分布などの強度分布を決定するために使用され、評価されてよい。一例として、光ビームによる照射の中心は、最高の照射を有する少なくとも1つのピクセルを決定することなどによって決定され得、断面軸が照射の中心を通って選択され得る。強度分布は、照射の中心を通るこの断面軸に沿った座標の関数としての強度分布であり得る。他の評価アルゴリズムも可能である。
反射特徴の1つのビームプロファイルの分析は、ビームプロファイルの少なくとも1つの第1エリア及び少なくとも1つの第2エリアを決定することを含み得る。ビームプロファイルの第1エリアは、エリアA1であり得、ビームプロファイルの第2エリアは、エリアA2であり得る。評価装置124は、第1エリアと第2エリアとを積分するように構成されてよい。評価装置は、積分された第1エリアと積分された第2エリアを除算すること、積分された第1エリアと積分された第2エリアの倍数を除算すること、積分された第1エリアと積分された第2エリアの線形結合を除算することのうちの1以上によって、結合信号、特に商Qを導出するように構成され得る。評価装置124は、ビームプロファイルの少なくとも2つのエリアを決定するように、及び/又は、ビームプロファイルを、ビームプロファイルの異なるエリアを含む少なくとも2つのセグメントに分割するように、構成されてもよく、エリアが一致しない限り、エリアの重なりは可能である。例えば、評価装置124は、2つ、3つ、4つ、5つ、又は最大10個のエリアなど、複数のエリアを決定するように構成されてよい。評価装置124は、光スポットをビームプロファイルの少なくとも2つのエリアに分割するように、及び/又は、ビームプロファイルを、ビームプロファイルの異なるエリアを含む少なくとも2つのセグメントに分割するように、構成されてよい。評価装置124は、少なくとも2つのエリアについて、それぞれのエリアにわたるビームプロファイルの積分を決定するように構成されてよい。評価装置124は、決定された積分の少なくとも2つを比較するように構成されてよい。具体的には、評価装置124は、ビームプロファイルの少なくとも1つの第1エリアと少なくとも1つの第2エリアを決定するように構成されてよい。ビームプロファイルの第1エリアとビームプロファイルの第2エリアは、隣接する領域又は重複する領域のいずれか一方又は両方であってよい。ビームプロファイルの第1エリアとビームプロファイルの第2エリアは、領域が一致していなくてよい。例えば、評価装置124は、CMOSセンサのセンサ領域を、少なくとも2つのサブ領域に分割するように構成されてよく、評価装置は、CMOSセンサのセンサ領域を、少なくとも1つの左側部分と少なくとも1つの右側部分、及び/又は少なくとも1つの上部分と少なくとも1つの下部分、及び/又は少なくとも1つの内部分と少なくとも1つの外部分、とに分割するように構成され得る。
追加的又は代替的に、ディスプレイ装置110は、少なくとも2つの光センサ118を備えてよく、第1光センサ及び第2光センサの感光エリアは、第1光センサが反射特徴のビームプロファイルの第1エリアを決定するよう適合され、第2光センサが反射特徴のビームプロファイルの第2エリアを決定するよう適合されるように配置され得る。評価装置124は、第1エリアと第2エリアとを積分するように適合されていてよい。
一実施形態では、A1は、光センサ上の特徴点の全体又は完全なエリアに対応し得る。A2は、光センサ上の特徴点の中心エリアであり得る。中心エリアは一定値であってよい。中心エリアは、特徴点の全エリアと比べてより小さくてもよい。例えば、円形の特徴点の場合、中心エリアは、特徴点の全半径の0.1~0.9、好ましくは全半径の0.4~0.6の半径を有してよい。
評価装置124は、第1エリアと第2エリアを除算すること、第1エリアと第2エリアの倍数を除算すること、第1エリアと第2エリアの線形結合を除算することのうちの1つ以上によって商Qを導出するように構成されてよい。評価装置124は、
によって商Qを導出するように構成されてよく、式中、x及びyは横方向座標、A1、A2はそれぞれビームプロファイルの第1エリア及び第2エリア、E(x、y)はビームプロファイルを表す。
評価装置124は、縦方向座標を決定するために、商Qと縦方向座標の間の少なくとも1つの所定の関係を用いるように構成されてよい。所定の関係は、経験的関係、半経験的関係、及び分析的に導出された関係のうちの1つ以上であってよい。評価装置は、例えばルックアップリスト又はルックアップテーブルなどの所定の関係を記憶するための少なくとも1つのデータ記憶装置を備えてよい。
評価装置124は、ゼロ次と高次の全ての反射特徴について距離を計算する少なくとも1つの光子比からの深度アルゴリズムを実行するように構成されてよい。
第1画像の評価は、識別された反射特徴を輝度に関してソートすることを含む。ソートすることは、輝度に関して、特に、最大の輝度を有する反射特徴から始めて、続いて、輝度が減少する反射特徴へと、反射特徴のシーケンスをさらなる評価のために割り当てることを含み得る。最も明るい反射特徴がDPRの計算に優先される場合は、縦方向座標zDPRの決定の堅牢性を高めることができる。これは主に、回折格子のゼロ次の反射特徴が、より高次の偽の特徴よりも常に明るいためである。
評価装置124は、縦方向座標zDPR使用することによって、反射特徴を対応する照射特徴に明確にマッチングするように構成されている。光子比からの深度技術を用いて決定された縦方向座標は、いわゆる対応問題を解決するために用いられることができる。そのようにして、反射特徴ごとの距離情報は、既知のレーザプロジェクタグリッドの対応関係を見出すのに使用されることができる。
反射特徴に対応する照射特徴は、エピポーラ幾何学を使用して決定され得る。エピポーラ幾何学の説明については、例えば、X.Jiang,H.Bunke:“Dreidimensionales Computersehen”シュプリンガー、ベルリンハイデルベル,1997年の第2章を参照されたい。エピポーラ幾何学では、照射画像、すなわち、歪みのない照射パターンと第1画像が、異なる空間位置及び/又は固定距離を有する空間方向で決定された画像であり得ると想定することができる。距離は、ベースラインとも呼ばれる相対距離であり得る。照射画像は、参照画像としても示される場合がある。評価装置124は、参照画像内のエピポーラ線を決定するように適合されてよい。参照画像と第1画像の相対位置は既知であり得る。例えば、参照画像と第1画像の相対位置は、評価装置の少なくとも1つの記憶ユニットに記憶されてよい。評価装置124は、第1画像の選択された反射特徴からそれが発する現実世界の特徴へ延びる直線を決定するように適合され得る。したがって、直線は、選択された反射特徴に対応する、可能な物体特徴を含み得る。直線とベースラインはエピポーラ平面を展開する。参照画像が第1画像とは異なる相対的配置で決定されるため、対応する可能な物体の特徴は、参照画像内のエピポーラ線と呼ばれる直線上に画像化され得る。エピポーラ線は、エピポーラ平面と参照画像の交差であり得る。したがって、第1画像の選択された特徴に対応する参照画像の特徴は、エピポーラ線上に位置する。
照射特徴を反射したシーンの物体までの距離に応じて、照射特徴に対応する反射特徴は、第1画像122内で変位され得る。参照画像は、選択された反射特徴に対応する照射特徴が画像化されるであろう少なくとも1つの変位領域を含んでよい。変位領域は、1つの照射特徴のみを含んでよい。変位領域は、複数の照射特徴を含んでよい。変位領域は、エピポーラ線又はエピポーラ線の一部を含むことができる。変位領域は、複数のエピポーラ線又は複数のエピポーラ線の複数の部分を含むことができる。変位領域は、エピポーラ線に沿って延在してもよく、エピポーラ線に直交して延在してもよく、又はその両方であってもよい。評価装置124は、エピポーラ線に沿って照射特徴を決定するように適合されてよい。評価装置124は、z±εに対応するエピポーラ線に沿った変位領域、又はエピポーラ線に直交する変位領域を決定するために、結合信号Qから反射特徴の縦方向座標z及び誤差間隔±εを決定するように適合されていてよい。結合信号Qを用いた距離測定の測定不確実性は、測定不確実性が方向によって異なる可能性があるため、第2画像において非円形の変位領域を生じる可能性がある。具体的には、1つ又は複数のエピポーラ線に沿った測定不確実性は、1つ又は複数のエピポーラ線に対して直交する方向における測定不確実性よりも大きくなる可能性がある。変位領域は、1つ又は複数のエピポーラ線に対して直交する方向に拡張を含み得る。評価装置124は、選択された反射特徴を、変位領域内の少なくとも1つの照射特徴とマッチングするように適合されてよい。評価装置124は、決定された縦方向座標zDPRを考慮した少なくとも1つの評価アルゴリズムを使用することによって、第1画像の選択された特徴を変位領域内の照射特徴とマッチングするように適合されてよい。評価アルゴリズムは、線形スケーリングアルゴリズムであってよい。評価装置124は、変位領域に最も近い、及び/又は変位領域内のエピポーラ線を決定するように適合され得る。評価装置は、反射特徴の画像位置に最も近いエピポーラ線を決定するように適合され得る。エピポーラ線に沿った変位領域の範囲は、エピポーラ線に直交する変位領域の範囲よりも大きいことがあり得る。評価装置124は、対応する照射特徴を決定する前に、エピポーラ線を決定するように適合され得る。評価装置124は、各反射特徴の画像位置の周りの変位領域を決定し得る。評価装置124は、例えば、変位領域に最も近いエピポーラ線、及び/又は変位領域内のエピポーラ線、及び/又はエピポーラ線に直交する方向に沿った変位領域に最も近いエピポーラ線を割り当てることなどにより、反射特徴の各画像位置の各変位領域にエピポーラ線を割り当てるように適合され得る。評価装置124は、割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられた変位領域内の照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域内の照射特徴を決定することによって、反射特徴に対応する照射特徴を決定するように適合され得る。
追加的に又は代替的に、評価装置124は以下のステップ:
- 各反射特徴の画像位置に対する変位領域を決定すること;
- 変位領域に最も近いエピポーラ線、及び/又は変位領域内のエピポーラ線、及び/又はエピポーラ線に直交する方向に沿った変位領域に最も近いエピポーラ線を割り当てることによるなど、各反射特徴の変位領域にエピポーラ線を割り当てること;
- 割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられた変位領域内の照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域内の照射特徴を割り当てることによるなど、各反射特徴に少なくとも1つの照射特徴を割り当て及び/又は決定すること、
を実行するように構成されてもよい。
追加的に又は代替的に、評価装置124は、例えば反射特徴及び/又は照射画像内のエピポーラ線の距離を比較することによって、及び/又は、照射特徴のε加重距離及び/又は照射画像内のエピポーラ線の誤差加重距離を比較することにより、そして、より短い距離及び/又はε加重距離のエピポーラ線及び/又は照射特徴を、照射特徴及び/又は反射特徴に割り当てられることなどにより、複数のエピポーラ線及び/又は反射特徴に割り当てられる照射特徴の間で決定するように適合されていてもよい。
上述したように、回折格子により、複数の反射特徴、例えば、各照射特徴について1つの真の特徴と複数の偽の特徴が生成される。マッチングは、最も明るい反射特徴から始めて、反射特徴の輝度を減少させながら行われる。同じマッチングされた照射特徴には他の反射特徴を割り当てることはできない。ディスプレイのアーチファクトのため、生成された偽の特徴は一般に真の特徴よりも暗い。反射特徴を輝度によってソートすることにより、より明るい反射特徴が、対応マッチングには優先される。照射特徴の対応関係が既に使用されている場合、偽の特徴は、使用された、つまりマッチングした照射特徴に割り当てることができない。
図2Aは、単一の光スポッを含む照射パターンについて、ディスプレイ112なしのシミュレートされた第1画像122を示している。図2Bは、ディスプレイ112の背後にある光センサ118によってキャプチャされた第1画像122を示す。回折格子が複数のスポットを生成していることが観察される。図2Bでは、真の特徴は参照符号126で示され、例示的な偽の特徴は参照符号128で示されている。図2Cは、ディスプレイ112の背後にある光センサ118によってキャプチャされた第1画像122のさらなる例を示し、この場合は、照射パターンは投影されたレーザグリッドである。複数のスポットが回折格子に起因して現れている。
図3Aは、投影されたレーザスポットを有するシーンのさらなる例示的な第1画像122を示している。回折格子130のゼロ次と高次132の反射特徴が示されている。図3B及び図3Cは、反射特徴と照射特徴のマッチングを示している。図3B及び3Cの左側部分には、第1画像122が示され、右側部分には、2つの照射特徴を含む対応する照射パターンが示されている。第1画像122は、6つの反射特徴を含むことができる。評価装置124は、第1画像122における反射特徴を識別し、それらを輝度に関してソートするように構成されてよい。図3Bに示すように、反射特徴のうちの2つは、他の反射特徴と比較してより明るくてよい。評価装置124は、ビームプロファイル分析を開始し、照射特徴と円134で示された2つのより明るい反射特徴のうちの1つとのマッチングを開始してよい。2つのより明るい反射特徴の各々は、矢印で示された1つの照射特徴とマッチングされてよい。評価装置124は、前記マッチングした特徴を真の特徴として分類してよい。図3Cに示されるように、照射パターンの2つの照射特徴は、より明るい反射特徴と既にマッチングされている。同じマッチングされた照射特徴には他の反射特徴を割り当てることはできない。反射特徴を輝度でソートすることで、より明るい反射特徴が対応マッチングには優先される。照射特徴の対応関係が既に使用されている場合、偽の特徴を、使用された照射特徴、すなわちマッチングされた照射特徴に割り当てることはできない。したがって、円136で示される2つの残りの反射特徴は、対応する照射特徴を有さず、パターンのどの点にも割り当てることができない。前記残りの反射特徴は、評価装置124によって偽の特徴として分類される。
評価装置124は、偽の特徴を排除し、縦方向座標zDPRを使用することによって、真の特徴のための深度マップを生成するように構成される。ディスプレイ装置110は、シーン、例えば顔のシーンから、3Dマップを生成するために使用されてよい。
深度マップは、三角測量及び/又はデフォーカスからの深度及び/又は構造化光などのさらなる深度測定技術を使用することによってさらに精密化されることができる。評価装置は、三角測量及び/又はデフォーカスからの深度及び/又は構造化光技術を使用して、反射特徴のそれぞれについて少なくとも1つの第2縦方向座標ztriangを決定するように構成されてよい。評価装置124は、第2縦方向座標ztriangと縦方向座標zDPRの結合縦方向座標を決定するように構成されてよい。結合縦方向座標は、第2縦方向座標ztriangと縦方向座標zDPRの平均値であり得る。結合縦方向座標は、深度マップの決定のために使用されることができる。
図1Bに示されるように、ディスプレイ装置110は、さらなる照射源138を含んでいてよい。さらなる照射源138は、少なくとも1つの発光ダイオード(LED)を含み得る。さらなる照射源138は、視覚的スペクトル範囲内の光を生成するように構成されてよい。光センサ118は、シーンの少なくとも1つの二次元画像を含む少なくとも1つの第2画像を決定するように構成されてよい。さらなる照射源138は、第2画像の画像化のための追加の照射を提供するように構成されてよい。例えば、ディスプレイ装置110の構成は、追加のフラッド照射LEDによって拡張されることができる。さらなる照射源138は、LEDを用いて、特に、照射パターンなしで、顔などのシーンを照射してよく、光センサ118は、二次元画像をキャプチャするように構成されてよい。二次元画像は、顔検出及び検証アルゴリズムに使用され得る。
ディスプレイ112のインパルス応答が既知である場合、光センサ118によってキャプチャされた歪んだ画像は修復されることができる。評価装置124は、回折格子関数gで第2画像I(I=I*g)をデコンボリューションすることによって、少なくとも1つの補正された画像Iを決定するように構成されてよい。回折格子関数は、インパルス応答とも呼ばれる。歪みのない画像は、デコンボリューションアプローチ、例えば、Van-Cittert又はWienerデコンボリューションによって復元され得る。
図4に示されるように、ディスプレイ装置110は、回折格子関数gを決定するように構成されることができる。ディスプレイ装置110は、参照符号140で示される小さな単一の輝点を有する照射パターンで、黒いシーンを照射するように構成されてよい。キャプチャされた画像142は、回折格子関数であり得る。この手順は、較正時などに1回だけ実行されてよい。ディスプレイ112を通して画像化する場合でも補正された画像を決定するために、ディスプレイ装置110は、画像をキャプチャし、キャプチャされたインパルス応答gを用いてデコンボリューションアプローチを使用するように構成されてよい。結果として得られる画像は、ディスプレイのアーチファクトが少ない再構成画像であってよく、いくつかのアプリケーション、例えば顔認識に使用されることができる。図5A~図5Cは、光センサ118でキャプチャされた二次元画像の例を示す。図5Aでは、例示的なシーンは、ディスプレイ112の背後に設けられた光センサ118でキャプチャされた。図5Bでは、例示的なシーンは、ディスプレイ112なしで光センサ118でキャプチャされた。図5Cは、デコンボリューションアプローチで再構成された画像を示している。
符号の説明
110 ディスプレイ装置
112 ディスプレイ
114 照射源
116 ハウジング
118 光センサ
120 感光エリア
122 第1画像
124 評価装置
126 真の特徴
128 偽の特徴
130 ゼロ次回折格子
132 高次
134 円
136 円
138 さらなる照射源
140 黒いシーンを照射すること
142 キャプチャされた画像
DE202018003644U1 US9,870,024B2 US10,057,541B2 US10,215,988B2 WO2018/091649A1 WO2018/091638A1 WO2018/091640A1 WO2019/042956A1

Claims (16)

  1. - 少なくとも1つのシーンに、複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成された少なくとも1つの照射源(114)と;
    - 少なくとも1つの感光エリア(120)を有する少なくとも1つの光センサ(118)であって、前記光センサ(118)は、前記照射特徴による照射に応答して前記シーンによって生成される複数の反射特徴を含む少なくとも1つの第1画像(122)を決定するように構成されている、少なくとも1つの光センサ(118)と;
    - 光ビームを前記光センサ(118)に導く転送装置と;
    - 情報を表示するように構成された少なくとも1つの透光性ディスプレイ(112)であって、前記照射源(114)と前記光センサ(118)が、前記透光性ディスプレイ(112)の前で前記照射パターンの伝播方向に配置されている、少なくとも1つの透光性ディスプレイ(112)と;
    - 少なくとも1つの評価装置(124)であって、前記評価装置(124)は、前記第1画像(122)を評価するように構成され、前記第1画像(122)の前記評価は、前記第1画像(122)の前記反射特徴を識別し、前記識別された反射特徴を輝度に関してソートすることを含み、前記反射特徴の各々は、少なくとも1つのビームプロファイルを含み、前記評価装置(124)は、光子比からの深度(DPR)を使用して前記ビームプロファイルの分析によって前記反射特徴の各々の少なくとも1つの前記転送装置の光軸に沿った座標である縦方向座標zDPRを決定するように構成されている、少なくとも1つの評価装置(124)と、
    を備えているディスプレイ装置(110)であって、
    前記評価装置(124)は、前記縦方向座標zDPRを使用することにより、反射特徴を対応する照射特徴に明確にマッチングするように構成されており、前記マッチングは、最も明るい反射特徴から始めて、前記反射特徴の輝度を減少して実行され、前記評価装置(124)は、前記照射特徴とマッチングする反射特徴を真の特徴として分類し、前記照射特徴とマッチングしない反射特徴を偽の特徴として分類するように構成されおり、前記評価装置(124)は、前記偽の特徴を除くように、及び、前記縦方向座標zDPRを使用して前記真の特徴についての深度マップを生成するように構成されている、ディスプレイ装置(110)。
  2. 前記評価装置(124)は、三角測量及び/又はデフォーカスからの深度及び/又は構造化光技術を使用して、前記反射特徴のそれぞれについて少なくとも1つのさらなる第2縦方向座標ztriangを決定するように構成されている、請求項1に記載のディスプレイ装置(110)。
  3. 前記評価装置(124)は、前記第2縦方向座標ztriangと前記縦方向座標zDPRの結合縦方向座標を決定するように構成され、前記結合縦方向座標は、前記第2縦方向座標ztriangと前記縦方向座標zDPRの平均値であり、前記結合縦方向座標は、前記深度マップの生成のために使用される、請求項2に記載のディスプレイ装置(110)。
  4. 前記照射源(114)は、少なくとも1つのレーザプロジェクタを備え、前記レーザプロジェクタは、少なくとも1つのレーザ源と少なくとも1つの回折光学素子(DOE)を含む、請求項1~3のいずれか1項に記載のディスプレイ装置(110)。
  5. 前記照射源(114)は、前記照射源(114)から前記透光性ディスプレイ(112)を通って前記シーンまで通過するビーム経路を有する少なくとも1つの光ビームを生成するように構成され、前記透光性ディスプレイ(112)は、前記光ビームが、前記透光性ディスプレイ(112)による回折を受けることによって、前記照射パターンを生じるように、格子として機能するように構成されている、請求項1~4のいずれか1項に記載のディスプレイ装置(110)。
  6. 前記透光性ディスプレイ(112)の配線は、前記格子のギャップ及び/又はスリット、及びリッジを形成するように構成されている、請求項5に記載のディスプレイ装置(110)。
  7. 前記照射パターンは、周期的な点パターンを含む、請求項1~6のいずれか1項に記載のディスプレイ装置(110)。
  8. 前記照射パターンは、低い点密度を有し、前記照射パターンは、視野あたり2500個以下の点を有する、請求項1~7のいずれか1項に記載のディスプレイ装置(110)。
  9. 前記評価装置(124)は、光子比からの深度技術を使用することによって、前記反射特徴のそれぞれについて、前記ビームプロファイルの情報を決定するように構成されている、請求項1~8のいずれか1項に記載のディスプレイ装置(110)。
  10. 前記光センサ(118)は、少なくとも1つのCMOSセンサを含む、請求項1~9のいずれか1項に記載のディスプレイ装置(110)。
  11. 前記ディスプレイ装置(110)は、さらなる照射源(138)を含み、前記さらなる照射源(138)は、少なくとも1つの発光ダイオード(LED)を含む、請求項1~10のいずれか1項に記載のディスプレイ装置(110)。
  12. 前記さらなる照射源(138)は、視覚的スペクトル範囲内の光を生成するように構成されている、請求項11に記載のディスプレイ装置(110)。
  13. 前記光センサ(118)は、前記シーンの少なくとも1つの二次元画像を含む少なくとも1つの第2画像を決定するように構成され、前記さらなる照射源(138)は、前記第2画像の画像化のための追加の照射を提供するように構成されている、請求項11又は12に記載のディスプレイ装置(110)。
  14. 前記評価装置(124)は、回折格子関数gで前記第2画像をデコンボリューションすることによって、少なくとも1つの補正された画像Iを決定するように構成され、ここでデコンボリューション前の前記第2画像を第2画像Iとすると、I=I*gである、請求項13に記載のディスプレイ装置(110)。
  15. 透光性のディスプレイ(112)を通しての深度測定のための方法であって、請求項1~14のいずれか1項に記載の少なくとも1つのディスプレイ装置(110)が使用され、以下のステップ:
    a)少なくとも1つの照射源(114)を使用することによって、複数の照射特徴を含む少なくとも1つの照射パターンを少なくとも1つのシーンに投影するステップであって、前記照射源(114)は、ディスプレイ(112)の前方に前記照射パターンの伝播方向に配置される、ステップと;
    b)少なくとも1つの光センサ(118)を使用することによって、前記照射特徴による照射に応答して前記シーンによって生成された複数の反射特徴を含む少なくとも1つの第1画像(122)を決定するステップであって、前記光センサ(118)は少なくとも1つの感光エリア(120)を有し、前記光センサ(118)は前記ディスプレイ(112)の前方に前記照射パターンの伝播方向に配置され、前記反射特徴のそれぞれが少なくとも1つのビームプロファイルを含んでいる、ステップと;
    c)少なくとも1つの評価装置(124)を使用することによって、前記第1画像(122)を評価するステップであって、前記評価は以下のサブステップ:
    C1)前記第1画像(122)の前記反射特徴を識別し、前記識別された反射特徴を輝度に関してソートするサブステップと;
    C2)ビームプロファイルの分析により、前記反射特徴ごとに少なくとも1つの縦方向座標zDPRを決定するサブステップと;
    C3)前記縦方向座標zDPRを使用することにより、反射特徴を対応する照射特徴に明確にマッチングするサブステップであって、前記マッチングは、最も明るい反射特徴から始めて、前記反射特徴の輝度を減少させて実行されるサブステップと;
    C4)照射特徴とマッチングする反射特徴を真の特徴として分類し、照射特徴とマッチングしない反射特徴を偽の特徴として分類するサブステップと;
    C5)偽の特徴を排除し、前記縦方向座標zDPRを使用することにより、前記真の特徴の深度マップを生成するサブステップと、を含む、
    ステップと、を含む方法。
  16. ディスプレイ装置に関する請求項1~14のいずれか1項に記載のディスプレイ装置(110)の使用であって、使用目的が:交通技術における位置測定;娯楽用途;セキュリティ用途;監視用途;安全用途;ヒューマンマシンインターフェース用途;追跡用途;写真用途;画像化用途又はカメラ用途;少なくとも1つの空間のマップを生成するためのマッピング用途;車両用のホーミング又は追跡ビーコン検出器;屋外用途;モバイル用途;通信用途;マシンビジョン用途;ロボット用途;品質管理用途;製造用途、からなる群から選択される、使用。
JP2022531483A 2019-11-27 2020-11-26 ディスプレイによる深度測定 Active JP7736686B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2025138532A JP2025172795A (ja) 2019-11-27 2025-08-21 ディスプレイによる深度測定

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP19211927.9 2019-11-27
EP19211927 2019-11-27
PCT/EP2020/083468 WO2021105265A1 (en) 2019-11-27 2020-11-26 Depth measurement through display

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2025138532A Division JP2025172795A (ja) 2019-11-27 2025-08-21 ディスプレイによる深度測定

Publications (2)

Publication Number Publication Date
JP2023503517A JP2023503517A (ja) 2023-01-30
JP7736686B2 true JP7736686B2 (ja) 2025-09-09

Family

ID=68731727

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022531483A Active JP7736686B2 (ja) 2019-11-27 2020-11-26 ディスプレイによる深度測定
JP2025138532A Pending JP2025172795A (ja) 2019-11-27 2025-08-21 ディスプレイによる深度測定

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2025138532A Pending JP2025172795A (ja) 2019-11-27 2025-08-21 ディスプレイによる深度測定

Country Status (6)

Country Link
US (3) US11989896B2 (ja)
EP (1) EP4066152A1 (ja)
JP (2) JP7736686B2 (ja)
KR (1) KR20220103962A (ja)
CN (1) CN114746905A (ja)
WO (1) WO2021105265A1 (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11860292B2 (en) 2016-11-17 2024-01-02 Trinamix Gmbh Detector and methods for authenticating at least one object
JP7390739B2 (ja) 2019-03-07 2023-12-04 オーティーアイ ルミオニクス インコーポレーテッド 核生成抑制コーティングを形成するための材料およびそれを組み込んだデバイス
KR102831863B1 (ko) 2019-04-18 2025-07-10 오티아이 루미오닉스 인크. 핵 생성 억제 코팅 형성용 물질 및 이를 포함하는 디바이스
JP7576337B2 (ja) 2019-05-08 2024-11-01 オーティーアイ ルミオニクス インコーポレーテッド 核生成抑制コーティングを形成するための材料およびそれを組み込んだデバイス
CN114342068A (zh) 2019-08-09 2022-04-12 Oti照明公司 包含辅助电极和分区的光电子装置
KR20260036028A (ko) 2019-12-24 2026-03-13 오티아이 루미오닉스 인크. 캡핑 층을 포함하는 발광 장치 및 그 제조방법
IT202000017488A1 (it) * 2020-07-17 2022-01-17 Thales Alenia Space Italia Spa Con Unico Socio Unita' ottica per un sistema metrologico ottico proiettivo per la determinazione di grandezze relative a assetto e/o posizione e la comunicazione di dati
JP7508150B2 (ja) * 2020-07-22 2024-07-01 上海図漾信息科技有限公司 深度データ測定機器及び構造化光投影ユニット
WO2022123431A1 (en) 2020-12-07 2022-06-16 Oti Lumionics Inc. Patterning a conductive deposited layer using a nucleation inhibiting coating and an underlying metallic coating
CN115314605A (zh) * 2021-05-06 2022-11-08 浙江宇视科技有限公司 一种相机快门同步实现方法、装置和设备
CN117836806A (zh) 2021-08-23 2024-04-05 特里纳米克斯股份有限公司 从明暗恢复形状
US20240402342A1 (en) * 2021-10-26 2024-12-05 Trinamix Gmbh Extended material detection involving a multi wavelength projector
US20250094377A1 (en) * 2022-01-10 2025-03-20 Christoph HELDEIS Device, especially input device, and method for changing the controlling unit for data transmission
US20250104467A1 (en) 2022-02-15 2025-03-27 Trinamix Gmbh System for identifying a subject
EP4479832A1 (en) 2022-02-15 2024-12-25 trinamiX GmbH Method for providing user-related and/or process-related information by a display device
US20250104389A1 (en) 2022-02-15 2025-03-27 Trinamix Gmbh Method and device for characterizing an object for authentication
CN118696352A (zh) 2022-02-15 2024-09-24 特里纳米克斯股份有限公司 用于识别显示设备的系统
WO2023156478A1 (en) 2022-02-15 2023-08-24 Trinamix Gmbh Method for operating a display device, and display device having a secure authentication process
CN114460594B (zh) * 2022-04-14 2022-06-14 宜科(天津)电子有限公司 一种基于三角测距的图像的去噪方法
CN117562578A (zh) * 2022-08-08 2024-02-20 深圳心寰科技有限公司 并行计算加速的基于超声斑块追踪的速度成像方法
WO2024170254A1 (en) 2023-02-15 2024-08-22 Trinamix Gmbh Authentication system for vehicles
CN116597289B (zh) * 2023-04-18 2025-09-09 北京工业大学 基于ToF成像模型的透明材质分类方法
US12205257B2 (en) * 2023-04-21 2025-01-21 Lenovo (Singapore) Pte. Ltd. Method and device for reducing image noise
CN116597007A (zh) * 2023-05-22 2023-08-15 四川中科友成科技有限公司 一种光斑中心对准调整方法、装置、计算机设备及介质
CN121794727A (zh) 2023-08-25 2026-04-03 特里纳米克斯股份有限公司 生物特征识别系统
WO2025068196A1 (en) 2023-09-29 2025-04-03 Trinamix Gmbh Biometric recognition dataset generation
WO2025090075A1 (en) * 2023-10-24 2025-05-01 Google Llc Depth camera using display encoded dot pattern
WO2025214794A1 (en) 2024-04-09 2025-10-16 Trinamix Gmbh Spectroscopic device for vehicles
WO2025237936A1 (en) 2024-05-14 2025-11-20 Trinamix Gmbh Driver monitoring
WO2025247861A1 (en) 2024-05-29 2025-12-04 Trinamix Gmbh Seat belt monitoring system
WO2025252691A1 (en) 2024-06-07 2025-12-11 Trinamix Gmbh Surface property determination
WO2026022081A1 (en) 2024-07-26 2026-01-29 Trinamix Gmbh Material authentication system
WO2026027430A1 (en) 2024-08-02 2026-02-05 Trinamix Gmbh Material authentication system
WO2026027429A1 (en) 2024-08-02 2026-02-05 Trinamix Gmbh Material authentication system

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000003445A (ja) 1998-06-15 2000-01-07 Toshiba Corp 情報抽出方法および情報抽出装置および記録媒体
US20030112447A1 (en) 2001-12-19 2003-06-19 General Electric Company Method and device for reduction in noise in images from shiny parts
JP2008249432A (ja) 2007-03-29 2008-10-16 Fukuoka Institute Of Technology 非静止物体の三次元画像計測装置、三次元画像計測方法および三次元画像計測プログラム
JP2011029704A (ja) 2009-07-21 2011-02-10 Sony Corp 画像処理装置、画像処理方法及び撮像装置
WO2019042956A1 (en) 2017-08-28 2019-03-07 Trinamix Gmbh DETECTOR FOR DETERMINING A POSITION OF AT LEAST ONE OBJECT
JP2019185347A (ja) 2018-04-09 2019-10-24 株式会社デンソー 物体認識装置、及び、物体認識方法

Family Cites Families (49)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW472225B (en) * 2001-06-08 2002-01-11 Shiu-Hua Huang Sequential type projection apparatus
US6919965B2 (en) * 2002-03-09 2005-07-19 Kimberly-Clark Worldwide, Inc. Apparatus and method for making and inspecting pre-fastened articles
EP1516156B1 (en) * 2002-05-30 2019-10-23 AMO Manufacturing USA, LLC Tracking torsional eye orientation and position
US7744534B2 (en) * 2002-06-07 2010-06-29 Verathon Inc. 3D ultrasound-based instrument for non-invasive measurement of amniotic fluid volume
US7103212B2 (en) * 2002-11-22 2006-09-05 Strider Labs, Inc. Acquisition of three-dimensional images by an active stereo technique using locally unique patterns
US7257248B2 (en) * 2003-03-27 2007-08-14 General Electric Company Non-contact measurement system and method
US7874917B2 (en) * 2003-09-15 2011-01-25 Sony Computer Entertainment Inc. Methods and systems for enabling depth and direction detection when interfacing with a computer program
US7593593B2 (en) * 2004-06-16 2009-09-22 Microsoft Corporation Method and system for reducing effects of undesired signals in an infrared imaging system
JP2006047067A (ja) * 2004-08-03 2006-02-16 Funai Electric Co Ltd 人体検出装置及び人体検出方法
JP2006172600A (ja) * 2004-12-15 2006-06-29 Hitachi Ltd 3次元情報記録方法及び再生方法
US20100054545A1 (en) * 2005-06-02 2010-03-04 Larry Elliott Method and apparatus for displaying properties onto an object or life form
JP2009524849A (ja) 2006-01-24 2009-07-02 ザ トラスティーズ オブ コロンビア ユニヴァーシティ イン ザ シティ オブ ニューヨーク シーン画像および奥行き形状を取り込んで補償画像を生成するためのシステム、方法、および媒体
US9582883B2 (en) * 2006-06-16 2017-02-28 Lyle G. Shirley Method and apparatus for remote sensing and comparing utilizing radiation speckle
EP2375227A1 (en) * 2010-04-09 2011-10-12 Siemens Aktiengesellschaft Measurement of three-dimensional motion characteristics
KR101781533B1 (ko) * 2010-12-23 2017-09-27 삼성디스플레이 주식회사 영상 촬영 장치 및 이의 영상 촬영 방법
CN202120033U (zh) * 2011-05-19 2012-01-18 红蝶科技(深圳)有限公司 一种三维图像显示装置
US9310843B2 (en) * 2013-01-02 2016-04-12 Apple Inc. Electronic devices with light sensors and displays
US10268885B2 (en) * 2013-04-15 2019-04-23 Microsoft Technology Licensing, Llc Extracting true color from a color and infrared sensor
DE102013013791B4 (de) * 2013-08-14 2015-03-26 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zum berührungslosen Vermessen von Oberflächenkonturen
CA2934528C (en) 2013-12-17 2022-06-28 Marsupial Holdings Inc. Integrated microoptic imager, processor, and display
JP6304628B2 (ja) * 2014-05-12 2018-04-04 パナソニックIpマネジメント株式会社 表示装置および表示方法
KR101592995B1 (ko) * 2014-09-25 2016-02-18 엘지전자 주식회사 차량 및 그 동작 방법
US20160295116A1 (en) * 2015-04-01 2016-10-06 Semiconductor Components Industries, Llc Multi-functional displays
US9870024B2 (en) * 2015-10-30 2018-01-16 Essential Products, Inc. Camera integrated into a display
US10560679B2 (en) * 2016-08-30 2020-02-11 Microsoft Technology Licensing, Llc Deformation detection and automatic calibration for a depth imaging system
CN109791052B (zh) * 2016-09-28 2023-06-27 通腾全球信息公司 使用数字地图对点云的数据点进行分类的方法和系统
EP3542179B1 (en) * 2016-11-17 2021-03-24 trinamiX GmbH Detector for optically detecting at least one object
JP6658625B2 (ja) * 2017-03-08 2020-03-04 オムロン株式会社 3次元形状計測装置及び3次元形状計測方法
JP7008942B2 (ja) * 2017-12-21 2022-01-25 株式会社安川電機 較正方法及び較正装置
CN112384951B (zh) * 2018-05-09 2024-10-15 特里纳米克斯股份有限公司 用于确定至少一个存储单元中的填充水平的方法和装置
CN116778368B (zh) * 2018-06-25 2025-09-26 苹果公司 使用语义分割的平面检测
US10867408B1 (en) * 2018-07-23 2020-12-15 Apple Inc. Estimation of spatial relationships between sensors of a multi-sensor device
CN109190484A (zh) * 2018-08-06 2019-01-11 北京旷视科技有限公司 图像处理方法、装置和图像处理设备
DE202018003644U1 (de) 2018-08-07 2018-08-17 Apple Inc. Elektronische Vorrichtung mit einer von einer selbstausrichtenden Klammeranordnung gehaltenen Sichtsystemanordnung
US11158074B1 (en) * 2018-10-02 2021-10-26 Facebook Technologies, Llc Depth sensing using temporal coding
CN109451106B (zh) * 2018-11-16 2020-06-12 Oppo广东移动通信有限公司 电子装置
US11290628B2 (en) * 2018-12-27 2022-03-29 Dynascan Technology Corp. Display apparatus
CN210093396U (zh) * 2019-01-17 2020-02-18 深圳市光鉴科技有限公司 用于屏下的3d摄像头模组及电子设备
WO2020169727A1 (en) * 2019-02-20 2020-08-27 Trinamix Gmbh Detector with a projector for illuminating at least one object
WO2020183711A1 (ja) * 2019-03-14 2020-09-17 オムロン株式会社 画像処理装置及び3次元計測システム
CN113574406B (zh) 2019-03-15 2025-05-27 特里纳米克斯股份有限公司 用于识别至少一种材料特性的检测器
CN111856866A (zh) * 2019-04-30 2020-10-30 中强光电股份有限公司 投影装置及其操作方法
CN114008615A (zh) * 2019-06-28 2022-02-01 麦克赛尔株式会社 3维认证装置、3维认证系统、便携型信息终端以及3维认证方法
US11627262B2 (en) * 2019-11-04 2023-04-11 Fotonation Limited Handheld computing device
CN111325193B (zh) * 2020-04-22 2023-05-16 上海箩箕技术有限公司 一种显示和输入装置
US11641460B1 (en) * 2020-04-27 2023-05-02 Apple Inc. Generating a volumetric representation of a capture region
US11163970B1 (en) * 2020-06-16 2021-11-02 Google Llc Optical fingerprint system with varying integration times across pixels
US11555694B2 (en) * 2020-07-17 2023-01-17 Systemes Pavemetrics Inc. Method and system for controlling a laser profiler
EP4244659A1 (en) * 2020-11-13 2023-09-20 trinamiX GmbH Depth measurement through display

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000003445A (ja) 1998-06-15 2000-01-07 Toshiba Corp 情報抽出方法および情報抽出装置および記録媒体
US20030112447A1 (en) 2001-12-19 2003-06-19 General Electric Company Method and device for reduction in noise in images from shiny parts
JP2008249432A (ja) 2007-03-29 2008-10-16 Fukuoka Institute Of Technology 非静止物体の三次元画像計測装置、三次元画像計測方法および三次元画像計測プログラム
JP2011029704A (ja) 2009-07-21 2011-02-10 Sony Corp 画像処理装置、画像処理方法及び撮像装置
WO2019042956A1 (en) 2017-08-28 2019-03-07 Trinamix Gmbh DETECTOR FOR DETERMINING A POSITION OF AT LEAST ONE OBJECT
JP2019185347A (ja) 2018-04-09 2019-10-24 株式会社デンソー 物体認識装置、及び、物体認識方法

Also Published As

Publication number Publication date
EP4066152A1 (en) 2022-10-05
JP2025172795A (ja) 2025-11-26
JP2023503517A (ja) 2023-01-30
US11989896B2 (en) 2024-05-21
KR20220103962A (ko) 2022-07-25
US12406384B2 (en) 2025-09-02
WO2021105265A1 (en) 2021-06-03
CN114746905A (zh) 2022-07-12
US20240005538A1 (en) 2024-01-04
US20220398759A1 (en) 2022-12-15
US20250356516A1 (en) 2025-11-20

Similar Documents

Publication Publication Date Title
JP7736686B2 (ja) ディスプレイによる深度測定
US20230078604A1 (en) Detector for object recognition
JP7728777B2 (ja) ジェスチャ認識
US20230403906A1 (en) Depth measurement through display
US20240402342A1 (en) Extended material detection involving a multi wavelength projector
US12492982B2 (en) Enhanced material detection by stereo beam profile analysis
JP2024512247A (ja) 顔ロック解除のための光学的皮膚検出
US20240013416A1 (en) Shape-from-shading
CN118984949A (zh) 8位转换
EP4405636A1 (en) Emitter array with two or more independently driven areas

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250701

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20250730

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250828

R150 Certificate of patent or registration of utility model

Ref document number: 7736686

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150