JP7558242B2 - デジタル病理学分析結果の格納および読み出し方法 - Google Patents
デジタル病理学分析結果の格納および読み出し方法 Download PDFInfo
- Publication number
- JP7558242B2 JP7558242B2 JP2022200094A JP2022200094A JP7558242B2 JP 7558242 B2 JP7558242 B2 JP 7558242B2 JP 2022200094 A JP2022200094 A JP 2022200094A JP 2022200094 A JP2022200094 A JP 2022200094A JP 7558242 B2 JP7558242 B2 JP 7558242B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- regions
- cells
- pixels
- sub
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/695—Preprocessing, e.g. image segmentation
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Molecular Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Image Analysis (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Description
に関する。また、本開示は、中解像度(mid-resolutionまたはmedium-resolution)分析手法すなわち類似特性(たとえば、染色強度、染色有無、および/または質感)を有するピクセルを「副領域」にグループ化する手法を用いて、生体と関連付けられたデータを分析および格納する自動化システムおよび方法に関する。
析手法を用いて、画像特性(たとえば、質感、強度、または色のうちの少なくとも1つ)が類似する複数の副領域へと画像をセグメント化することにより、不規則形状の細胞に対応するデータを導出するシステムおよび方法を提供する。
標本の画像から導出された画像分析データを格納する方法であって、(a)画像から、1つまたは複数の特徴測定基準を導出するステップと、(b)画像を複数の副領域にセグメント化するステップであり、各副領域が、染色有無、染色強度、または局所質感のうちの少なくとも1つにおいて実質的に均一なピクセルを含む、ステップと、(c)複数のセグメント化副領域に基づいて、複数の表現オブジェクトを生成するステップと、(d)複数の表現オブジェクトそれぞれを導出特徴測定基準と関連付けるステップと、(e)関連付け導出特徴測定基準と併せて、各表現オブジェクトの座標をデータベースに格納するステップと、を含む、方法である。当業者には当然のことながら、少なくともステップ(a)および(b)は、如何なる順序で実行されるようになっていてもよい。いくつかの実施形態において、画像を複数の副領域にセグメント化するステップは、スーパーピクセルを導出することを含む。いくつかの実施形態において、スーパーピクセルは、ピクセルを局所k平均クラスタリングでグループ化し、(ii)連結成分アルゴリズムを用いて小さな分離領域を大きな最近接スーパーピクセルへと統合することにより導出される。任意特定の理論に縛られることを望むことなく、(副領域としての)スーパーピクセルは、それぞれが知覚的に矛盾のない単位となるように、すなわち、スーパーピクセル中のすべてのピクセルの色および質感が均一となり得るように、知覚的に意味あるものと考えられる。いくつかの実施形態において、連結成分標識化では、画像をスキャンし、ピクセル連結度に基づいて、そのピクセルを成分へとグループ化する。すなわち、連結成分のすべてのピクセルが類似のピクセル強度値を共有し、何らかの方法で互いに連結されている。
プは、サンプリンググリッドを画像に重ね合わせることであり、サンプリンググリッドが、所定のサイズおよび形状を有する非重畳エリアを規定する、ことを含む。いくつかの実施形態において、副領域は、M×Nのサイズを有し、Mが、50ピクセル~100ピクセルの範囲であり、Nが50ピクセル~およそ100ピクセルの範囲である。
たす副領域の外形を含む。いくつかの実施形態において、表現オブジェクトは、種子点を含む。いくつかの実施形態において、種子点は、複数の副領域それぞれの重心を演算することにより導出される。いくつかの実施形態において、導出特徴測定基準は、染色強度であり、各生成表現オブジェクト外形内のすべてのピクセルの平均染色強度が演算される。いくつかの実施形態において、導出特徴測定基準は、発現スコアであり、各生成副領域内のエリアに対応する平均発現スコアが複数の生成表現オブジェクトと関連付けられる。いくつかの実施形態において、この方法は、データベースから、格納座標および関連付け特徴測定基準データを読み出すステップと、読み出しデータを画像に投影するステップとをさらに含む。いくつかの実施形態において、対応する副領域内の分析結果(たとえば、強度、面積)は、当該副領域のピクセルデータを表す平均ピクセル測定結果の形態で格納可能である。
れる。いくつかの実施形態において、生物学的サンプルは、膜ステインおよび核ステインにより染色される。いくつかの実施形態において、生物学的サンプルは、少なくともFA
Pにより染色され、1つまたは複数の導出特徴測定基準が、FAP染色強度またはFAP百分率正値性の少なくとも一方を含む。いくつかの実施形態においては、副領域内のすべてのピクセルに関して、平均FAP百分率正値性が計算される。いくつかの実施形態においては、副領域内のすべてのピクセルに関して、平均FAP染色強度が計算される。いくつかの実施形態において、サンプルは、FAPおよびH&Eにより染色される。いくつかの実施形態において、サンプルは、FAPならびに別の核もしくは膜ステインにより染色される。
ル画像(たとえば、特定のステインの画像チャネル画像)へと分離される。いくつかの実施形態においては、画像分析に先立って、関心領域が選択される。
像から、不規則形状の細胞に対応するデータを導出するシステムであって、(i)1つまたは複数のプロセッサと、(ii)1つまたは複数のプロセッサに結合されたメモリであり、1つまたは複数のプロセッサにより実行された場合に、(a)画像から、1つまたは複数の特徴測定基準を導出することと、(b)画像内の複数の副領域を生成することであり、各副領域が、色、輝度、および/または質感から選択される類似特質を備えたピクセルを有する、ことと、(c)複数の生成副領域に基づいて、一連の表現オブジェクトを演算することと、(d)画像からの1つまたは複数の導出特徴測定基準を一連の演算表現オブジェクトそれぞれの計算座標と関連付けることと、を含む動作を1つまたは複数のプロセッサに実行させるコンピュータ実行可能命令を格納した、メモリと、を備えた、システムである。いくつかの実施形態において、副領域は、(i)隣り合うピクセル、(ii)知覚的に意味ある類似の特性(たとえば、色、輝度、および/または質感)を有するピクセル、および(iii)生物学的特性(たとえば、生物学的構造、生物学的構造の染色特性、細胞特性、細胞のグループ)に関して実質的に均質なピクセルをグループ化することによって形成される。いくつかの実施形態において、副領域のピクセルは、関心生体(たとえば、不規則形状の細胞であり、線維芽細胞およびマクロファージが挙げられるが、これらに限定されない)に関して、類似の特性および記述統計値を有する。
、スーパーピクセルを導出することを含む。いくつかの実施形態において、スーパーピクセルは、グラフベースの手法または勾配上昇ベースの手法の一方を用いて導出される。いくつかの実施形態において、スーパーピクセルは、ピクセルを局所k平均クラスタリングでグループ化し、(ii)連結成分アルゴリズムを用いて小さな分離領域を大きな最近接スーパーピクセルへと統合することにより導出される。
たす副領域の外形を含む。いくつかの実施形態において、表現オブジェクトは、種子点を含む。いくつかの実施形態において、このシステムは、1つまたは複数の導出特徴測定基準および関連付け計算表現オブジェクトの座標をデータベースに格納する命令をさらに含む。いくつかの実施形態において、1つまたは複数の導出特徴測定基準は、百分率正値性、Hスコア、または染色強度から選択される少なくとも1つの発現スコアを含む。いくつかの実施形態において、不規則形状の細胞に対応するデータは、画像内の関心領域に対して導出される。いくつかの実施形態において、関心領域は、医療専門家によりアノテーションされた画像のエリアである。
する命令を格納した非一時的コンピュータ可読媒体であって、命令が、(a)生物学的サンプルの画像から1つまたは複数の特徴測定基準を導出する命令であり、生物学的サンプ
ルが、少なくとも1つのステインを含む、命令と、(b)類似特質を有するピクセルのグループ化によって画像を一連の副領域に分割する命令であり、特質が、色、輝度、および/または質感から選択される、命令と、(c)一連の分割副領域に基づいて、複数の表現オブジェクトを演算する命令と、(d)画像からの1つまたは複数の導出特徴測定基準を複数の演算表現オブジェクトそれぞれの計算座標と関連付ける命令と、を含む、非一時的コンピュータ可読媒体である。
ーピクセルを演算することを含む。いくつかの実施形態において、スーパーピクセルは、正規化カットアルゴリズム、凝集型クラスタリングアルゴリズム、クイックシフトアルゴリズム、ターボピクセルアルゴリズム、または単純線形反復クラスタリングアルゴリズムのうちの1つを用いて演算される。いくつかの実施形態において、スーパーピクセルは、単純反復クラスタリングを用いて生成され、スーパーピクセルサイズパラメータが、およそ40ピクセル~およそ400ピクセルに設定され、稠密度パラメータが、およそ10~およそ100に設定される。いくつかの実施形態において、スーパーピクセルは、ピクセルを局所k平均クラスタリングでグループ化し、(ii)連結成分アルゴリズムを用いて小さな分離領域を大きな最近接スーパーピクセルへと統合することにより演算される。
染色され、1つまたは複数の導出特徴測定基準が、FAP染色強度またはFAP百分率正値性の少なくとも一方を含む。いくつかの実施形態においては、副領域内のすべてのピクセルに関して、平均FAP百分率正値性が計算される。いくつかの実施形態においては、副領域内のすべてのピクセルに関して、平均FAP染色強度が計算される。いくつかの実施形態において、表現オブジェクトは、ポリゴン外形および種子点の少なくとも一方を含む。いくつかの実施形態において、メモリは、1つまたは複数の導出特徴測定基準および関連付け計算表現オブジェクトの座標をデータベースに格納する命令を含む。いくつかの実施形態において、メモリは、格納情報を生物学的サンプルの画像に投影する命令をさらに含む。
の位置または外形では規定不可能な生体の分析結果を格納する改良されたソリューションを提供することを示した。さらに、本出願人らは、本明細書に記載のシステムおよび方法が、ピクセルレベルの高解像度分析手法と比較して、分析結果を格納する格納空間を低減可能であると考える。特定のピクセルおよびその周りのピクセルの分析結果が一体的に副領域に格納され、副領域中のピクセルが類似の特性または特質(たとえば、色、輝度、質感)を有するためである。さらに、本出願人らは、数千個のピクセルから、分析結果の読み出しおよび報告の大幅な高速化を可能にするより少数で扱いやすい数の副領域へと、生成副領域が画像の複雑性を低減可能であることから、上記システムおよび方法が演算上効率的であると考える。また、本出願人らは、分析結果の格納および表現に対して、副領域が小さ過ぎることも大き過ぎることもないため、表現上効率的であるとも考える。最後に、本出願人らは、特に低解像度分析手法と比較して、本明細書に開示のシステムおよび方法が精度を向上可能であると考える。生成副領域は、大領域表現からの情報の格納と比較して、生物学的に関連する関心物体の特性または統計学的情報を記述するためである(すなわち、副領域は、染色有無、染色強度、および質感が可能な限り均一なピクセルを含む)。上記および他の利点については、本明細書において別途説明される。
一要素の識別には、同じ参照番号を使用している。
に請求の如何なる方法においても、そのステップまたは動作の順序は、当該ステップまたは動作が列挙された順序に必ずしも限定されないことが了解されるものとする。
上の別段の明確な指定のない限り、複数の指示対象を含む。同様に、単語「または(or)」は、文脈上の別段の明確な指定のない限り、「および(and)」を含むことが意図される。用語「含む(includes)」は、「AまたはBを含む(includes A or B)」がA、B、またはAおよびBを含むことを意味するように、包含的に定義される。
「および/または(and/or)」と同じ意味を有することが了解されるものとする。たとえば、リストにおいて項目を分離する場合、「または(or)」または「および/または(and/or)」は、包含的であるものと解釈され、多数または一覧の要素と、任意選択として付加的なリスト外の項目と、のうちの少なくとも1つを包含し、また、2つ以上を包含することも可能であるものとする。「~のうちの1つだけ(only one
of)」もしくは「~のうちのちょうど1つだけ(exactly one of)」等の別段の明確な指定がなされた用語または特許請求の範囲において使用される「~から成る(consisting of)」という用語のみ、多数または一覧の要素のうちのちょうど1つの要素の包含を表す。一般的に、本明細書における用語「または(or)」は、「either」、「one of」、「only one of」、または「exactly one of」等の排他的な用語が先行する場合に排他的な選択肢(すなわち、「一方または他方であるが、両方ではない(one or the other but not both)」)を示す旨の解釈のみがなされるものとする。特許請求の範囲において使用される「~から本質的に成る(consisting essentially of)」は、特許法の分野において使用される場合の通常の意味を有するものとする。
、「有する(having)」等は、区別なく使用され、同じ意味を有する。同様に、「備える(comprises)」、「含む(includes)」、「有する(has)」等は、区別なく使用され、同じ意味を有する。具体的に、これらの用語はそれぞれ、「備える(comprising)」の米国特許法における一般的な定義と矛盾なく定義されているため、「少なくとも以下の(at least the following)」を意味するオープンな用語として解釈され、また、付加的な特徴、限界、態様等を除外しないものと解釈される。このため、たとえば「構成要素a、b、およびcを有するデバイス(a device having components a, b, and c)」は、当該デバイスが少なくとも構成要素a、b、およびcを具備することを意味する。同様に、表現「ステップa、b、およびcを含む方法(a method involving steps a, b, and c)」は、当該方法が少なくともステップa、b、およびcを含むことを意味する。さらに、本明細書においては、ステップおよびプロセスが特定の順序で説明される可能性があるものの、当業者であれば、ステップおよびプロセスの順序が変動し得ることが認識されよう。
ast one)」は、一覧の1つまたは複数の要素を参照して、要素一覧における要素のうちのいずれか1つまたは複数から選択される少なくとも1つの要素を意味するが、要素一覧に具体的に掲載されたありとあらゆる要素のうちの少なくとも1つを必ずしも含まず、また、要素一覧における要素の如何なる組み合わせも除外しないことが了解されるものとする。また、この定義によれば、表現「少なくとも1つ(at least one)」が参照する要素一覧内で具体的に識別された要素と関係するか否かに関わらず、これらの要素以外の要素が任意選択として存在し得る。このため、非限定的な一例として、「AおよびBのうちの少なくとも1つ(at least one of A and B)」(または同等に、「AまたはBのうちの少なくとも1つ(at least one of A or B)」もしくは「Aおよび/またはBのうちの少なくとも1つ(at least one of A and/or B)」)は、一実施形態において、少なくとも1つ(任意選択として、2つ以上)のA(Bは存在せず(任意選択として、B以外の要素を含む))、別の実施形態において、少なくとも1つ(任意選択として、2つ以上)のB(Aは存在せず(任意選択として、A以外の要素を含む))、さらに別の実施形態において、少なくとも1つ(任意選択として、2つ以上)のAおよび少なくとも1つ(任意選択として、2つ以上)のB(任意選択として、他の要素を含む)等を表し得る。
ple)」(本明細書においては、用語「生物標本(biological specimen)」もしくは「標本(specimen)」と区別なく使用される)または「組織サンプル(tissue sample)」(本明細書においては、用語「組織標本(tissue specimen)」と区別なく使用される)は、ウイルスを含む任意の有機体から得られた生体分子(タンパク質、ペプチド、核酸、脂質、糖質、またはこれらの組み合わせ等)を含む任意のサンプルを表す。有機体の他の例としては、哺乳類(たとえば、ヒト、猫、犬、馬、牛、および豚等の家畜動物、ならびにマウス、ラット、および霊長類等の実験動物)、昆虫、環形動物、クモ形類動物、有袋動物、爬虫類、両生類、バクテリア、および菌類が挙げられる。生物学的サンプルには、組織サンプル(たとえば、組織切片および組織の針生検標本)、細胞サンプル(たとえば、パップ塗抹標本もしくは血液塗抹標本等の細胞学的塗抹標本または顕微解剖により得られた細胞のサンプル)、または細胞分画、細胞片、もしくは細胞小器官(たとえば、細胞を溶解させ、遠心分離等によって細胞成分を分離したもの)を含む。生物学的サンプルの他の例としては、血液、血清、尿、精液、糞便物質、脳脊髄液、間質液、粘液、涙、汗、膿、(たとえば、外科生検もしくは針生検により得られた)生検組織、乳頭吸引液、耳垢、母乳、膣液、唾液、スワブ(口腔スワブ等)、または第1の生物学的サンプルから導出された生体分子を含む任意の物質が挙げられる。特定の実施形態において、本明細書における用語「生物学的サンプル(biological sample)」は、被験者から得られた腫瘍またはその一部から作成されたサンプル(均質化または液化サンプル)を表す。
ーカ(marker)」は、何らかの生物学的状態または条件の測定可能なインジケータを表す。特に、バイオマーカは、特に染色可能で、細胞の生物学的特徴(たとえば、細胞の種類または細胞の生理学的状態)を示すタンパク質またはペプチド(たとえば、表面タンパク質)であってもよい。免疫細胞マーカは、哺乳類の免疫反応に関する特徴を選択的に示すバイオマーカである。バイオマーカは、疾患もしくは病気の処置に対する身体の反応の決定または被験者が疾患もしくは病気に罹りやすくされているかの判定に用いられるようになっていてもよい。がんに関して、バイオマーカは、体内のがんの有無を示す生物学的物質を表す。バイオマーカは、腫瘍から分泌される分子またはがんの存在に対する身体の具体的反応であってもよい。がんの診断、予後診断、および疫学には、遺伝子バイオマーカ、後成的バイオマーカ、プロテオームバイオマーカ、グリコミックバイオマーカ、および撮像バイオマーカを使用可能である。このようなバイオマーカは、血液または血清等の非侵襲的に収集された生体液において検査され得る。複数の遺伝子およびタンパク質ベースのバイオマーカが患者ケアにおいてすでに使用されており、AFP(肝臓がん)、BCR-ABL(慢性骨髄性白血病)、BRCA1/BRCA2(乳がん/卵巣がん)、BRAF V600E(黒色腫/大腸がん)、CA-125(卵巣がん)、CA19.9(膵臓がん)、CEA(大腸がん)、EGFR(非小細胞肺がん)、HER-2(乳がん)、KIT(消化管間質系腫瘍)、PSA(前立腺特異抗原)、S100(黒色腫)、その他多くが挙げられるが、これらに限定されない。バイオマーカは、(早期がんを識別する)診断法および/または(がんの進行の予想ならびに/または特定の処置に対する被験者の反応および/もしくはがんの再発の可能性の予測を行う)予後診断法として有用と考えられる。
書における理解の通り、光学センサまたはセンサアレイ等によって生物学的組織サンプルから取得された生の画像データまたは前処理された画像データを含む。特に、画像データは、ピクセル行列を含んでいてもよい。本明細書において、用語「免疫組織化学(immunohistochemistry)」は、抗体等の特定の結合剤との抗原の相互作用を検出してサンプル中の抗原の有無または分布を決定する方法を表す。サンプルは、抗体-抗原結合を可能にする条件下で抗体と接触される。抗体-抗原結合は、抗体に接合された検出可能な標識による検出(直接検出)または主抗体と特異的に結合する副抗体に接合された検出可能な標識による検出(間接検出)が可能である。本明細書において、「マスク(mask)」は、デジタル画像の派生語であって、マスクの各ピクセルが2進値(たとえば、「1」もしくは「0」(または、「真」もしくは「偽」))として表される。デジタル画像に前記マスクを重ねることにより、デジタル画像に適用される別途処理ステップにおいては、2進値のうちの特定の1つのマスクピクセルにマッピングされたデジタル画像のすべてのピクセルが隠蔽、削除、あるいは無視またはフィルタリング除去される。たとえば、真あるいは偽の閾値を上回る強度値を元の画像のすべてのピクセルに割り当て、「偽」でマスクされたピクセルが重なるすべてのピクセルを除去することによって、元のデジタル画像からマスクが生成され得る。「マルチチャネル画像」は、本明細書における理解の通り、異なるスペクトル帯における蛍光あるいは検出可能性によってマルチチャネル画像のチャネルのうちの1つを構成する特定の蛍光染料、量子ドット、色原体等によって、核および組織構造等の異なる生物学的構造が同時に染色される生物学的組織サンプルから得られたデジタル画像を含む。
[00054]本出願人らは、たとえば線維芽細胞またはマクロファージ等、不規則形状を有
する生体の分析結果をデータベース等の非一時的メモリに格納するシステムおよび方法を開発した。分析結果は、データベースまたはメモリから後で読み出され、他の下流プロセスにおいてさらに分析または使用されるようになっていてもよい。また、分析結果は、入力画像または他の導出画像に投影されるようになっていてもよいし、他の手段により視覚
化されるようになっていてもよい。また、本開示は、(たとえば、単純形状のサイズの増減またはスーパーピクセルアルゴリズムのパラメータの調整によって)生成副領域のサイズを調整可能とすることによって、調整可能な詳細レベルでの分析結果の格納および報告を容易化し得る。このことは、関心グローバル領域からの平均的な分析結果が保存される本明細書に記載の低解像度分析手法と比較して、効率および精度を向上可能であると考えられる。
小さな領域(副領域)を用いて分析結果を格納する中解像度分析手法に基づく。副領域としては、単純形状(たとえば、円形、正方形)も可能であるし、複雑形状(たとえば、スーパーピクセル)も可能であり、スライド全体にまたがる各小領域の局所的な分析結果を格納するのに利用される。本中解像度手法により規定される副領域は、類似(または、均質)の特性(たとえば、染色有無(すなわち、特定のステインの有無)、染色強度(すなわち、ステインの相対強度(または、量))、局所質感(すなわち、画像または画像の選択領域における色または強度の空間的配置に関する情報))を有するピクセルをグループ化して、不規則形状の物体の識別を可能にする。いくつかの実施形態において、中解像度手法における副領域は、およそ50~およそ100ピクセルの範囲のサイズまたはおよそ2,500ピクセル2~およそ10,000ピクセル2のピクセル面積を有する。当然のことながら、副領域は、如何なるサイズを有していてもよく、このサイズは、実施される分析の種類および/または調査される細胞の種類に基づいていてもよい。
析手法と低解像度分析手法との間にあるため、データが副領域レベルで収集されるとともに、副領域は、低解像度手法における関心領域よりも比例的に小さく、また、高解像度分析手法におけるピクセルよりも明らかに大きい。「高解像度分析」は、画像データがピクセルレベルまたは実質的にピクセルレベルで取り込まれることを意味する。一方、「低解像度分析」は、少なくとも500ピクセル×500ピクセルのサイズを有する領域または250,000ピクセル2より大きなサイズを有するエリア等、領域レベル分析を表す。当業者には当然のことながら、低解像度分析手法は、多くの生体(たとえば、複数の不規則形状の細胞)を包含することになる。
サイズを有する生体の分析および格納を表し得る。本開示は、線維芽細胞またはマクロファージに限定されず、サイズまたは形状が十分に規定されていない任意の生体へと拡張可能であることが了解されるものとする。
ンで構成された構造骨組または間質を構成する細胞である。これらの細胞は、動物において最も一般的な種類の結合組織であり、創傷治癒に重要である。線維芽細胞は、さまざまな形状およびサイズのほか、活性化および非活性化の形態となる(たとえば、図5A~図5D参照)。線維芽細胞が活性化形態である(接尾辞「blast」が代謝的に活性な細胞を表す)一方、線維化関連細胞は、低活性と考えられる。ただし、線維芽細胞および線維化関連細胞の両者が異なるものとして指定されず、単に線維芽細胞と称する場合もある。線維芽細胞は、粗面小胞体の豊富さおよび相対的に大きなサイズによって、線維化関連細胞から形態学的に区別可能である。さらに、線維芽細胞は、それぞれの隣接細胞と接触すると考えられ、これらの接触は、分離細胞の形態を歪ませ得る付着と考えられる。本明細書に提示の中解像度分析手法は、これらの形態学的差異を考慮することができ、線維芽細胞、マクロファージ、および他の不規則な生体に関する情報を格納するのに最適と考えられる。
理学システム200を示している。デジタル病理学システム200は、撮像装置12(たとえば、標本を載せた顕微鏡スライドをスキャンする手段を有する装置)およびコンピュータ14を備えることにより、撮像装置12およびコンピュータが一体的に(たとえば、ネットワーク20を介して直接または間接的に)通信可能に結合されていてもよい。コンピュータシステム14には、デスクトップコンピュータ、ラップトップコンピュータ、タブレット等、デジタル電子回路、ファームウェア、ハードウェア、メモリ、コンピュータ記憶媒体、コンピュータプログラムもしくは命令セット(たとえば、プログラムがメモリまたは記憶媒体に格納されている場合)、1つもしくは複数のプロセッサ(プログラムされたプロセッサを含む)、ならびにその他任意のハードウェア、ソフトウェア、もしくはファームウェアモジュール、またはこれらの組み合わせを含み得る。たとえば、図1に示されるコンピュータシステム14は、表示装置16および筐体18を有するコンピュータを備えていてもよい。コンピュータは、2進形態のデジタル画像を(メモリ内など、ローカルに、サーバ、または別のネットワーク接続デバイスに)格納可能である。また、デジタル画像は、行列状のピクセルへと分割可能である。ピクセルは、ビット深度により規定された1つまたは複数のビットのデジタル値を含み得る。当業者には当然のことながら、他のコンピュータデバイスまたはシステムが利用されるようになっていてもよく、また、本明細書に記載のコンピュータシステムは、付加的な構成要素(たとえば、標本分析装置、顕微鏡、他の撮像システム、自動化スライド作成機器等)に対して通信可能に結合されていてもよい。これらの付加的な構成要素および利用可能な種々コンピュータ、ネットワーク等の一部については、本明細書において別途説明される。
の画像源)としては、1つまたは複数の画像取り込み装置が挙げられるが、これに限定されない。画像取り込み装置には、カメラ(たとえば、アナログカメラ、デジタルカメラ等)、光学素子(たとえば、1つまたは複数のレンズ、センサ焦点レンズ群、顕微鏡対物レンズ等)、撮像センサ(たとえば、電荷結合素子(CCD)、相補型金属酸化膜半導体(CMOS)画像センサ等)、写真フィルム等を含み得るが、これらに限定されない。デジタルの実施形態において、画像取り込み装置は、オンザフライフォーカシングを証明するように協働する複数のレンズを具備し得る。画像センサ(たとえば、CCDセンサ)が標本のデジタル画像を取り込み可能である。いくつかの実施形態において、撮像装置12は、明視野撮像システム、マルチスペクトル撮像(MSI)システム、または蛍光顕微鏡システムである。デジタル化された組織データは、たとえばVENTANA MEDICAL SYSTEMS,Inc.(Tucson、Arizona)によるVENTANA iScan HTスキャナ等の画像スキャンシステムまたは他の好適な撮像機器により生成されるようになっていてもよい。付加的な撮像デバイスおよびシステムについては、本明細書において別途説明される。当業者には当然のことながら、撮像装置12により取得されるデジタルカラー画像は従来、原色ピクセルで構成され得る。各色付きピクセルは、それぞれ同数のビットを含む3つのデジタル成分上でコード化可能であり、各成分が原色(一般的には、赤色、緑色、または青色で、用語「RGB」成分としても表される)に対応する。
ジュールの概要を示している。いくつかの実施形態において、デジタル病理学システムは、1つもしくは複数のプロセッサ203ならびに少なくとも1つのメモリ201を有するコンピュータデバイス200またはコンピュータ実装方法を採用しており、少なくとも1つのメモリ201は、1つまたは複数のプロセッサによる実行によって、1つまたは複数のモジュール(たとえば、モジュール202および205~209)における命令(または、格納データ)を1つまたは複数のプロセッサに実行させる非一時的コンピュータ可読命令を格納している。
ージ等、不規則形状を有する生体の分析および/またはデータベース等の非一時的メモリへの分析結果の格納を行うコンピュータ実装方法を提供する。この方法は、たとえば(a)画像取得モジュール202を動作させて、マルチチャネル画像データ(たとえば、1つまたは複数のステインにより染色された生物学的サンプルの取得画像)を生成または受信するステップ(ステップ300)と、(b)画像分析モジュール205を動作させて、取得画像内の特徴から1つまたは複数の測定基準を導出するステップ(ステップ310)と、(c)セグメント化モジュール206を動作させて、取得画像を複数の副領域にセグメント化するステップ(ステップ320)と、(d)表現オブジェクト生成モジュール207を動作させて、副領域を識別するポリゴン、中心種子、または他のオブジェクトを生成するステップ(ステップ330)と、(e)標識化モジュール208を動作させて、1つまたは複数の導出測定基準を生成表現オブジェクトと関連付けるステップ(ステップ340)と、(f)表現オブジェクトおよび関連する測定基準をデータベース209に格納するステップ(ステップ350)とを含んでいてもよい。当業者には当然のことながら、ワークフローには、付加的なモジュールまたはデータベースが組み込まれていてもよい。たとえば、画像処理モジュールの動作によって、特定のフィルタを取得画像に適用するようにしてもよいし、組織サンプル内の特定の組織学的および/または形態学的構造を識別するようにしてもよい。また、関心領域選択モジュールの利用によって、分析する画像の特定の部分を選択するようにしてもよい。同様に、分離モジュールの動作によって、特定のステインまたはバイオマーカに対応する画像チャネル画像を提供するようにしてもよい。
[00064]いくつかの実施形態において、デジタル病理学システム200は、最初のステ
ップとして、図2を参照するに、画像取得モジュール202を動作させて、1つまたは複数のステインを有する生物学的サンプルの画像または画像データを取り込む。いくつかの実施形態において、受信または取得画像は、RGB画像またはマルチスペクトル画像(たとえば、多重化明視野および/または暗視野画像)である。いくつかの実施形態において、取り込まれた画像は、メモリ201に格納される。
間等で撮像装置12により取得されるようになっていてもよい。いくつかの実施形態において、画像は、本明細書に記載の通り、標本を載せた顕微鏡スライドの画像データを取り込み可能な顕微鏡等の器具から取得される。いくつかの実施形態において、画像は、画像タイルをスキャンし得るような2DスキャナまたはVENTANA DP 200スキャナ等のラインごとに画像をスキャン可能なラインスキャナを用いて取得される。あるいは、画像は、事前に取得(たとえば、スキャン)され、メモリ201に格納された(または、この点に関して、ネットワーク20経由でサーバから読み出された)画像であってもよい。
もよく、結果として画像または画像データは、1つまたは複数のステインそれぞれに対応する信号を含む。このため、本明細書に記載のシステムおよび方法は、単一のステイン(たとえば、ヘマトキシリン)の推定または正規化が可能であるが、生物学的サンプル内のステインの数に制限はない。実際、生物学的サンプルは、任意のカウンタステインの追加または包含として、2つ以上のステインの多重アッセイにおいて染色されていてもよい。
または細胞膜バイオマーカに対して染色されるようになっていてもよい。さまざまな目的に適したステインの選定において組織構造を染色するとともにガイドする方法は、たとえ
ばSambrook et al.「Molecular Cloning:A Laboratory Manual(分子クローニング:実験室マニュアル)」,Cold Spring Harbor Laboratory Press(1989)およびAusubel et al.「Current Protocols in Molecular Biology(分子生物学における現在の慣習)」,Greene Publishing Associates and Wiley-Intersciences(1987)に記載されており、それぞれの開示内容が参照により本明細書に組み込まれる。
ンパク質(FAP)を含む1つまたは複数のバイオマーカの存在に対して、組織サンプルがIHCアッセイにおいて染色される。線維芽細胞の細胞株におけるFAPの過剰発現は、悪性挙動を促進すると考えられる。腫瘍微小環境の必須成分であり、がん関連線維芽細胞(CAF)として指定されることが多い間質線維芽細胞は、増殖、血管形成、侵入、残存、および免疫抑制等の複数のメカニズムによって、腫瘍形成および進行を促進し得ることが示されている。任意特定の理論に縛られることを望むことなく、がん細胞が間質線維芽細胞を活性化させるとともにFAPの発現を誘発し、これががん細胞の増殖、侵入、および移動に影響を及ぼすと考えられる。FAPは、乳房、肺、結腸直腸、卵巣、膵臓、および頭頚部を含む人間の上皮細胞がんの90%にて、反応性間質線維芽細胞に激しく発現すると考えられる。このため、腫瘍の臨床的挙動に対して、FAPの量が重要な予後診断を提示する可能性が最も高い(これは、導出後に生成副領域または表現オブジェクトと関連付け可能なある種の測定基準の一例である)。
は3,3’-ジアミノベンジジン(DAB)が挙げられる。また、当業者には当然のことながら、任意の生物学的サンプルが1つまたは複数のフルオロフォアにより染色されるようになっていてもよい。いくつかの実施形態において、組織サンプルは、主ステイン(たとえば、ヘマトキシリン)により染色される。いくつかの実施形態においては、特定のバイオマーカについて、組織サンプルがIHCアッセイにおいて染色される。また、サンプルは、1つまたは複数の蛍光染料により染色されるようになっていてもよい。
ッセイプラットフォームにおいて処理される。市場には、染色/アッセイプラットフォームとしての使用に適した多様な商品が存在しており、一例として、Ventana Medical Systems,Inc.(Tucson、AZ)のDiscovery(商標)製品がある。また、カメラプラットフォームとしては、明視野顕微鏡(Ventana Medical Systems,Inc.のVENTANA iScan HTまたはVENTANA DP 200スキャナ等)または1つもしくは複数の対物レンズおよびデジタル撮像装置を有する任意の顕微鏡が挙げられる。さまざまな波長で画像を取り込む他の技術が用いられるようになっていてもよい。当技術分野においては、染色された生物標本の撮像に適した別のカメラプラットフォームが知られており、Zeiss、Canon、Applied Spectral Imaging等の企業から市販されている。また、このようなプラットフォームは、本開示のシステム、方法、および装置における使用に対して容易に適応可能である。
ようにマスクされる。いくつかの実施形態においては、非組織領域を組織領域からマスクするように組織領域マスクが生成される。いくつかの実施形態においては、組織領域を識別するとともに、背景領域(たとえば、撮像源からの白色光のみが存在する場所等、サンプルのないガラスに対応する全スライド画像の領域)を自動的または半自動的に(すなわ
ち、最小限のユーザ入力で)除外することによって、組織領域マスクが形成されるようになっていてもよい。当業者には当然のことながら、非組織領域の組織領域からのマスキングのほか、組織マスキングモジュールは、特定の組織種または腫瘍が疑われる領域に属するものとして識別された組織の一部等、必要に応じて他の関心エリアをマスクするようにしてもよい。いくつかの実施形態においては、入力画像において非組織領域から組織領域をマスクすることにより組織領域マスキング画像を生成するのにセグメント化技術が用いられる。好適なセグメント化技術としては、先行技術から既知のものがある(「Digital Image Processing(デジタル画像処理)」,Third Edition,Rafael C.Gonzalez,Richard E.Woods,chapter 10,page 689および「Handbook of Medical Imaging(医用画像ハンドブック)」,Processing and Analysis,Isaac N.Bankman Academic Press,2000,chapter 2参照)。いくつかの実施形態においては、画像中のデジタル化組織データとスライドとの識別に画像セグメント化技術が利用されるが、この場合、組織が前景に、スライドが背景に対応する。いくつかの実施形態においては、構成要素が全スライド画像中の関心エリア(AoI)を演算することにより、分析される背景の非組織エリアの量を制限しつつ、AoI中のすべての組織領域を検出する。たとえば、組織データと非組織または背景データとの境界を決定するのに、広範な画像セグメント化技術(たとえば、HSVカラーベース画像セグメント化、Lab画像セグメント化、平均シフトカラー画像セグメント化、領域拡張、レベル設定法、高速マーチング法等)が使用され得る。また、構成要素は、セグメント化に少なくとも部分的に基づいて、組織データに対応するデジタル化スライドデータの部分の識別に使用可能な組織前景マスクを生成可能である。あるいは、構成要素は、組織データに対応しないデジタル化スライドデータの部分の識別に用いられる背景マスクを生成可能である。
とえば、非組織領域)中の非組織背景ノイズを除去するのに、組織領域マスクが用いられるようになっていてもよい。いくつかの実施形態において、組織領域マスクの生成には、輝度が所与の閾値を上回るピクセルが1に設定され、閾値を下回るピクセルが0に設定されて、組織領域マスクが生成されるように、低分解能入力画像の輝度の演算、輝度画像の生成、輝度画像への標準偏差フィルタの適用、フィルタリング輝度画像の生成、およびフィルタリング輝度画像への閾値の適用といった動作のうちの1つまたは複数を含む(ただし、これらの動作に限定されない)。組織領域マスクの生成に関する付加的な情報および例については、「An Image Processing Method and System for Analyzing a Multi-Channel Image Obtained from a Biological Tissue Sample Being Stained by Multiple Stains(複数のステインにより染色される生物学的組織サンプルから得られたマルチチャネル画像を分析する画像処理方法およびシステム)」という名称のPCT/EP/2015/062015に開示されており、そのすべての開示内容が参照により本明細書に組み込まれる。
サンプルの部分(たとえば、線維芽細胞の濃度が高い関心領域)を選択するのに、関心領域識別モジュールが用いられるようになっていてもよい。図13は、いくつかの実施形態に係る、領域選択のステップを示したフローチャートである。ステップ420において、領域選択モジュールは、識別された関心領域または視野を受信する。いくつかの実施形態において、関心領域は、本開示のシステムまたは本開示のシステムに対して通信可能に結合された別のシステムのユーザにより識別される。あるいは、他の実施形態において、領域選択モジュールは、ストレージ/メモリから関心領域の箇所または識別情報を読み出す。いくつかの実施形態において、ステップ430に示されるように、領域選択モジュールは、たとえばPCT/EP2015/062015に記載の方法によって、視野(FOV)または関心領域(ROI)を自動的に生成するが、そのすべての開示内容が参照により本明細書に組み込まれる。いくつかの実施形態において、関心領域は、画像中または画像のいくつかの所定基準または特質に基づいてシステムにより自動的に決定される(たとえば、3つ以上のステインにより染色された生物学的サンプルの場合は、ステインを2つだけ含む画像のエリアを識別する)。ステップ440において、領域選択モジュールは、ROIを出力する。
[00075]いくつかの実施形態においては、入力として受信された画像内の特徴から、特
定の測定基準(たとえば、FAP陽性面積、FAP陽性強度)が導出される(ステップ300)(図3参照)。導出測定基準は、本明細書において生成される副領域と相関されるようになっていてもよく(ステップ320、330、および340)、また、測定基準(または、その平均、標準偏差等)および副領域の場所が一体としてデータベースに格納され(ステップ350)、後々の読み出しおよび/または下流処理が行われるようになっていてもよい。本明細書に記載の手順およびアルゴリズムは、線維芽細胞および/もしくはマクロファージからの測定基準の導出を含めた、さまざまな種類の細胞もしくは細胞核からの測定基準の導出、および/もしくはさまざまな種類の細胞もしくは細胞核の分類を行うように構成されていてもよい。
または検出核(検出核の周りの画像パッチ等)および/もしくは細胞膜(当然のことながら、入力画像内で利用されるバイオマーカによって決まる)からの特徴の抽出によって導出される。他の実施形態においては、細胞膜染色、細胞質染色、および/または(たとえば、膜染色エリアと非膜染色エリアとを識別するための)強調染色を分析することによって、測定基準が導出される。本明細書において、用語「細胞質染色(cytoplasmic staining)」は、細胞の細胞質領域の形態学的特質を有するパターンに配置されたピクセル群を表す。本明細書において、用語「膜染色(membrane staining)」は、細胞膜の形態学的特質を有するパターンに配置されたピクセル群を表す。本明細書において、用語「強調染色(punctate staining)」は、細胞の膜エリアに散らばったスポット/ドットとして現れる局在化した染色強度が格納されたピクセル群を表す。当業者には当然のことながら、細胞の核、細胞質、および膜は、特質が異なるため、異なる染色の組織サンプルが異なる生物学的特徴を明らかにし得る。実際、当業者には当然のことながら、細胞表面の特定の受容体は、膜または細胞質に対して局在化した染色パターンを有し得る。このため、「膜」染色パターンは、「細胞質」染色パターンとは分析的に異なる。同様に、「細胞質」染色パターンおよび「核」染色パターンも分析的に異なる。たとえば、間質細胞はFAPにより強く染色され得るが、腫瘍上皮細胞はEpCAMにより強く染色され、一方、サイトケラチンはPanCKにより染色され得る。このため、画像分析中は、異なるステインの利用によって、異なる細胞腫が差別化および区別されるようになっていてもよく、また、異なる測定基準が導出されるようになっていてもよい。
および細胞質の識別および/またはスコアリングを行う方法については、米国特許第7,760,927号(「’927特許」)に記載されており、そのすべての開示内容が参照により本明細書に組み込まれる。たとえば、’927特許は、バイオマーカにより染色された生物組織の入力画像中の複数のピクセルを同時に識別する自動化方法であって、細胞質および細胞膜ピクセルの同時識別のための入力画像の前景における複数のピクセルの第1の色平面を考慮するステップであり、入力画像が、当該入力画像の背景部分を除去するとともに当該入力画像のカウンタ染色成分を除去するように処理済みである、ステップと
、デジタル画像の前景において細胞質と細胞膜のピクセル間の閾値レベルを決定するステップと、である場合に、前景からの選択ピクセルおよびその8つの隣接ピクセルを用いて、同時に、選択ピクセルがデジタル画像における細胞質ピクセルであるか、細胞膜ピクセルであるか、または遷移ピクセルであるかを、決定閾値レベルを用いて決定するステップと、を含む、方法を記載する。さらに、’927特許は、選択ピクセルおよびその8つの隣接ピクセルを用いて同時に決定するステップが、選択ピクセルとその8つの隣接ピクセルとの積の平方根を決定することと、積を決定閾値レベルと比較することと、比較に基づいて、細胞膜用の第1のカウンタ、細胞質用の第2のカウンタ、または遷移ピクセル用の第3のカウンタをインクリメントすることと、第1のカウンタ、第2のカウンタ、または第3のカウンタが所定の最大値を超えているかを判定し、超えている場合は、所定の最大値を超えたカウンタに基づいて、選択ピクセルを分類することと、を含む旨を記載する。核のスコアリングのほか、’927特許は、それぞれ演算細胞質ピクセル体積指標、細胞質ピクセル中央値強度、膜ピクセル体積、および膜ピクセル中央値強度等に基づく細胞質および膜のスコアリングに関する例を提供する。
の方法がPCT公開WO2017/037180(「’180公開」)に記載されており、そのすべての開示内容が参照により本明細書に組み込まれる。さらに、’180公開は、膜染色の領域が細胞質染色および/または強調染色と混合された場合の生物学的サンプル中の関心検体の膜染色を定量化する方法を記載する。これを実現するため、’180公開は、(A)検体染色パターンに基づいて、組織または細胞学的サンプルのデジタル画像を複数の異なる領域にセグメント化するステップであり、複数の領域が、少なくとも1つの複合染色領域すなわち少なくとも1つの第2の生物学的区画中の検体陽性染色と混合された第1の生物学的区画中の検体陽性染色を有する画像の領域を含み、前記第1の生物学的区画および前記少なくとも1つの第2の生物学的区画が、分析的に異なる、ステップと、(B)ステップ(A)とは別個に、候補生物学的区画すなわち少なくとも第1の生物学的区画に対応するデジタル画像中のピクセルクラスタを識別するステップと、(C)ステップ(A)および(B)とは別個に、検体染色に対応するピクセルクラスタを高強度ビン、低強度ビン、および背景強度ビンにセグメント化することによって検体強度マップを生成するステップと、(D)複合染色領域内の候補生物学的区画を検体強度マップからの適当なビンと整合させて、各複合染色領域の分析的に関連する部分を識別するステップと、(E)複合染色領域の分析的に関連する部分における検体染色を定量化するステップと、によって、分析的に異なる生物学的区画の検体染色と染色が混合された領域(たとえば、(i)瀰漫性膜染色が細胞質染色と混合された領域または(ii)瀰漫性膜染色が強調染色と混合された領域)における生物学的区画の検体染色を定量化する方法を記載する。そして、区画または染色強度定量化のエリアが決定され得るように、任意の識別区画中のピクセルを定量化可能である。また、’180公開は、膜固有発現レベルのスコアリングを記載する。
れ、特定のバイオマーカの百分率正値性測定基準またはHスコア測定基準が得られる。核を識別することによって、対応する細胞が識別され得る。他の実施形態においては、関連する核それぞれを周囲の染色膜と関連付けることによって、細胞がスコアリングされる。核の周りの染色膜の有無に基づいて、たとえば非染色(核の周りに染色膜が見つからない)、部分染色(細胞の核の一部が染色膜に囲まれる)、または完全染色(核の全体が染色膜に囲まれる)として細胞が分類されるようになっていてもよい。
核とを自動的に区別することによって、腫瘍核が自動的に識別される。当技術分野においては、組織の画像中の候補核を識別する多くの方法が知られている。たとえば、放射対称
に基づく方法であって、本明細書に記載の通り、Ruifrok et al.により記述されたカラーデコンボリューションを用いて取得されたヘマトキシリン画像チャネルまたはバイオマーカ画像チャネル等に対して、同じく本明細書に記載の通り、Parvin
et al.の放射対称に基づく方法を適用することにより自動候補核検出が実行され得る。例示的な一実施形態においては、本発明の譲受人に譲渡された同時係属特許出願WO2014/140085A1に記載の通り、放射対称に基づく核検出動作が使用され、そのすべての内容が参照により本明細書に組み込まれる。他の方法が米国特許出願公開第2017/0140246号に記載されており、その開示内容が参照により本明細書に組み込まれる。
れる。他の候補核は、(たとえば、リンパ球核および間質核の識別によって)さらに分類されるようになっていてもよい。いくつかの実施形態においては、学習済みの教師あり分類器が腫瘍核の識別に適用される。たとえば、学習済み教師あり分類器は、核の特徴に関するトレーニングによって腫瘍核を識別した後、テスト画像において候補核を腫瘍核または非腫瘍核として分類するように適用される。任意選択として、学習済み教師あり分類器は、別途トレーニングによって、リンパ球核および間質核等、異なるクラスの非腫瘍核を区別するようにしてもよい。いくつかの実施形態において、腫瘍核の識別に用いられる学習済み教師あり分類器は、ランダムフォレスト分類器である。たとえば、ランダムフォレスト分類器のトレーニングは、(i)腫瘍および非腫瘍核のトレーニングセットを生成し、(ii)それぞれの核の特徴を抽出し、(iii)抽出した特徴に基づいて腫瘍核と非腫瘍核とを区別するようにランダムフォレスト分類器をトレーニングすることによって行われ得る。そして、トレーニングしたランダムフォレスト分類器の適用により、テスト画像において、核を腫瘍核および非腫瘍核に分類するようにしてもよい。任意選択として、ランダムフォレスト分類器は、別途トレーニングによって、リンパ球核および間質核等、異なるクラスの非腫瘍核を区別するようにしてもよい。
の検出および/または核のセグメント化を行うように処理される。たとえば、当業者に共通して既知の技術を用いた放射対称投票に基づいて核中心を検出する命令が与えられるようになっていてもよい(Parvin,Bahram,et al.「Iterative voting for inference of structural saliency and characterization of subcellular events(構造的特徴の推定および細胞内事象の特性化のための反復投票)」,Image Processing,IEEE Transactions on 16.3(2007):615-623(すべての開示内容が参照により本明細書に組み込まれる)参照)。いくつかの実施形態においては、放射対称を用いた核の検出によって核の中心が検出された後、細胞中心の周りのステインの強度に基づいて核が分類される。たとえば、画像内で画像の大きさが演算されるようになっていてもよく、選択領域内の大きさの合計を加算することによって、各ピクセルにおける1つまたは複数の投票が蓄積される。核の実際の場所を表す領域中の局所中心を見つけるのに、平均シフトクラスタリングが用いられるようになっていてもよい。放射対称投票に基づく核検出は、カラー画像強度データに対して実行され、核が、サイズおよび偏心度が変動する楕円形状の斑点であるという推測的な領域知識を明示的に使用する。これを実現するため、入力画像中の色強度と併せて、画像勾配情報も放射対称投票に使用され、適応セグメント化プロセスとの組み合わせによって、細胞核の正確な検出および位置特定を行う。本明細書において、「勾配(gradient)」は、たとえば特定のピクセルを囲むピクセル集合の強度値勾配を考慮することにより前記特定ピクセルに対して計算されたピクセルの強度勾配である。各勾配は、デジタル画像の2つの直交エッジによってx軸およびy軸が規定される座標系に対して、特定の「配向」を有していてもよい。たとえば、核種子検出には、細胞核の内側に存在すると仮定され、細胞核の位置特定の開始点として機能する点として種子を規定することを伴う。第1のステップでは、放射対称に基づく高堅牢な手法を用いて細胞核に類似する楕円形状の斑点、構造を検出することにより、各細胞核と関連付けられた種子点を検出する。放射対称手法は、カーネルベースの投票手順を用いることにより、勾配画像上で動作する。投票カーネルを通じて投票を蓄積した各ピクセルを処理することによって、投票応答行列が生成される。カーネルは、当該特定ピクセルにおいて演算された勾配方向、最大および最小核サイズの予想範囲、ならびに投票カーネル角度(通常、[π/4,π/8]の範囲)に基づく。結果としての投票空間において、所定の閾値よりも高い投票値を有する極大の場所は、種子点として保存される。無関係な種子については、後続のセグメント化または分類プロセスにおいて破棄されるようになっていてもよい。
とえば、H&EまたはIHC画像の一方の特定の画像チャネルから画像の大きさが演算されるようになっていてもよく、また、特定された大きさの周りの各ピクセルには、当該ピクセルの周りの領域内の大きさの合計に基づく多くの投票が割り当てられていてもよい。あるいは、平均シフトクラスタリング演算の実行によって、核の実際の場所を表す投票画像内の局所中心を見つけるようにしてもよい。他の実施形態においては、核セグメント化の使用により、形態学的演算および局所閾値化を介した当該核の現在既知の中心に基づいて、核全体をセグメント化するようにしてもよい。さらに他の実施形態においては、モデルベースのセグメント化の利用によって、核を検出するようにしてもよい(すなわち、トレーニングデータセットから核の形状モデルを学習し、これを先行知識として用いることにより、テスト画像において核をセグメント化する)。
た閾値を用いてセグメント化される。たとえば、核領域のピクセル強度が変動すると考えられることから、識別された核の周りの領域におけるセグメント化には、大津法が用いられるようになっていてもよい。当業者には当然のことながら、大津法は、クラス内分散を最小限に抑えることにより最適な閾値を決定するのに用いられるが、当業者には既知である。より具体的に、大津法は、クラスタリングベースの画像閾値化すなわちグレーレベル画像の2値画像への減縮を自動的に実行するのに用いられる。アルゴリズムは、画像が二峰性ヒストグラムに従う2クラスのピクセル(前景ピクセルおよび背景ピクセル)を含むものと仮定する。そして、(ペアワイズ2乗距離の合計が一定であるため)2つのクラスの結合散布(クラス内分散)が最小または等価になるように分離する最適な閾値を計算することによって、それぞれのクラス内分散が最大となる。
核を識別する画像中の識別核のスペクトルおよび/または形状の特徴を自動的に分析することを含む。たとえば、第1のステップにおいては、第1のデジタル画像中で斑点が識別されるようになっていてもよい。本明細書において、「斑点(blob)」としては、たとえば一部の特性(たとえば、強度またはグレー値)が一定であるか、または、所定の値範囲内で変動するデジタル画像の領域が可能である。ある意味では、斑点中のすべてのピクセルが互いに類似すると考えられる。たとえば、デジタル画像上の位置の関数の導関数に基づく差分法および極値に基づく方法を用いて斑点が識別されるようになっていてもよい。核斑点は、おそらくは第1のステインにより染色された核によって生成されたことをピクセルおよび/または外形状が示す斑点である。たとえば、斑点の放射対称の評価によって、当該斑点を核斑点として識別すべきか、その他任意の構造(たとえば、染色アーチファクト)として識別すべきかを判定することも可能である。たとえば、斑点が非常に長い形状であり、放射対称ではない場合、前記斑点は、核斑点としてではなく、染色アーチファクトとして識別されるようになっていてもよい。本実施形態によれば、「核斑点」と識別された斑点は、候補核として識別され、前記核斑点が核を表すかを判定するようにさらに分析可能なピクセル集合を表していてもよい。いくつかの実施形態においては、任意の種類の核斑点が「識別核」として直接使用される。いくつかの実施形態においては、識別核または核斑点にフィルタリング演算が適用されて、バイオマーカ陽性腫瘍細胞に属さない核を識別するとともに、識別済みの核一覧から前記識別非腫瘍核を除去するか、または、最初から前記核を識別核一覧に追加しない。たとえば、識別核斑点の付加的なスペクトルおよび/または形状の特徴の分析によって、核または核斑点が腫瘍細胞の核であるか否かを判定するようにしてもよい。たとえば、リンパ球の核は、他の組織細胞(たとえば、肺細胞)の核よりも大きい。腫瘍細胞が肺組織に由来する場合は、正常な肺の細胞核の平均的なサイズまたは直径よりもはるかに大きな最小サイズまたは直径のすべての核斑点を識別することによって、リンパ球の核が識別される。リンパ球の核に関する識別核斑点は、識別済みの核の集合から除去(すなわち、「フィルタリング除去」)されるようになっていてもよい。非腫瘍細胞の核のフィルタリング除去によって、この方法の精度は向上し得る。バイオマーカによれば、ある程度までは非腫瘍細胞もバイオマーカを表し得るため、腫瘍細胞に由来しない第1のデジタル画像において強度信号を生成可能である。腫瘍細胞に属さない核を識別して、識別済みの核全体からフィルタリング除去することにより、バイオマーカ陽性腫瘍細胞を識別する精度が向上し得る。上記および他の方法が米国特許出願公開第2017/0103521号に記載されており、そのすべての開示内容が参照により本明細書に組み込まれる。いくつかの実施形態においては、種子が検出されたら、局所適応閾値化方法が用いられるようになっていてもよく、検出中心周りの斑点が生成される。いくつかの実施形態においては、他の方法が具現化されるようになっていてもよく、たとえば、マーカベースの分水嶺アルゴリズムの使用によって、検出核中心周りの核斑点を識別することも可能である。上記および他の方法が同時係属出願PCT/EP2016/051906(WO2016/120442として公開)に記載されており、そのすべての開示内容が参照により本明細書に組み込まれる。
形態測定基準を使用して、画像内の特徴が関心構造に対応するかを判定することができる(「特徴測定基準」と総称する)。画像特質測定基準(画像内の特徴から導出)としては、たとえば色、色バランス、強度等が挙げられる。形態測定基準(画像内の特徴から導出)としては、たとえば特徴サイズ、特徴色、特徴配向、特徴形状、特徴(たとえば、隣り合う特徴)間の関係または距離、別の解剖学的構造に対する特徴の関係または距離等が挙げられる。本明細書に記載の通り、分類器のトレーニングには、画像特質測定基準、形態測定基準、および他の測定基準を使用可能である。画像特徴から導出される測定基準の具体例が以下に示される。
[00088]本明細書において、「形態特徴(morphology feature)」
は、たとえば核の形状または寸法を示す特徴である。任意特定の理論に縛られることを望むことなく、形態特徴は、細胞またはその核のサイズおよび形状に関する何らかの不可欠な情報を提供すると考えられる。たとえば、核斑点もしくは種子に含まれるピクセルまたは核斑点もしくは種子を囲むピクセルに対してさまざまな画像分析アルゴリズムを適用することにより、形態特徴が演算され得る。いくつかの実施形態において、形態特徴としては、面積、短軸および長軸の長さ、周長、半径、中実性等が挙げられる。
[00090]本明細書において、「外観特徴(appearance feature)」
は、たとえば核の識別に用いられる核斑点もしくは種子に含まれるピクセルまたは核斑点もしくは種子を囲むピクセルのピクセル強度値を比較することにより特定の核に対して演算された特徴であって、比較されるピクセル強度が異なる画像チャネル(たとえば、背景チャネル、バイオマーカの染色のためのチャネル等)から導出される。いくつかの実施形
態において、外観特徴から導出される測定基準は、異なる画像チャネルから演算されたピクセル強度および勾配の大きさの百分位数値(たとえば、10番目、50番目、および95番目の百分位数値)から演算される。たとえば、まず初めに、関心核を表す核斑点内の画像チャネル(たとえば、HTX、DAB、輝度という3つのチャネル)の複数のICそれぞれのピクセル値のX百分位数値(X=10、50、95)の数Pが識別される。外観特徴測定基準を演算することは、導出された測定基準が核領域の特性を表すほか、核の周りの膜領域も表し得るため、好都合と考えられる。
[00092]「背景特徴(background feature)」は、たとえば細胞質
中の外観および/もしくはステイン有無を示す特徴ならびに当該背景特徴が画像から抽出された核を含む細胞の細胞膜特徴である。たとえば、核斑点または核を表す種子を識別し、識別さされた細胞集合に直接隣り合うピクセルエリア(たとえば、核斑点境界周りの20ピクセル(およそ9ミクロン)厚のリボン)を分析することにより、この核を有する細胞に直接隣り合うエリアと一体的に、当該細胞の細胞質および膜中の外観およびステイン有無を取り込むことによって、デジタル画像に示される核および対応する細胞の背景特徴および対応する測定基準が演算され得る。これらの測定基準は、核外観特徴に類似するが、それぞれの核境界周りのおよそ20ピクセル(およそ9ミクロン)厚のリボンにおいて演算されるため、識別核を有する細胞に直接隣り合うエリアと一体的に、当該細胞の細胞質および膜中の外観およびステイン有無が取り込まれる。任意特定の理論に縛られることを望むことなく、リボンサイズが選択されるのは、核の識別に有用な情報の提供に使用可能な核周りの十分な量の背景組織エリアを当該リボンが取り込むと考えられるためである。これらの特徴は、J.Kong,et al.「A comprehensive framework for classification of nuclei in digital microscopy imaging: An application to diffuse gliomas(デジタル顕微鏡撮像における核の分類のための包括的枠組み:瀰漫性グリオーマへの適用)」,ISBI,2011,pp.2128-2131に開示の特徴と類似しており、そのすべての開示内容が参照により本明細書に組み込まれる。これらの特徴は、周囲の組織が(H&E染色組織サンプル等における)間質であるか上皮であるかを判定するのに使用可能と考えられる。また、任意特定の理論に縛られることを望むことなく、これらの背景特徴は、組織サンプルが適当な膜染色剤により染色される場合に有用な膜染色パターンを取り込むと考えられる。
[00094]いくつかの実施形態において、色から導出される測定基準としては、色比率R
/(R+G+B)または色主成分が挙げられる。他の実施形態において、色から導出される測定基準としては、各色の局所統計値(平均/中央値/分散/標準偏差)および/または局所画像ウィンドウ中の色強度相関が挙げられる。
[00096]ある特定の特性値を有する隣り合う細胞群は、病理組織学的スライド画像にお
いて表されるグレーの色付き細胞の黒白の色調間に設定される。色特徴の相関がサイズクラスのインスタンスを規定するため、これら色付き細胞の強度は、その周囲の暗色細胞のクラスタから影響を受ける細胞を決定する。質感特徴の例がPCT公開WO2016/075095に記載されており、そのすべての開示内容が参照により本明細書に組み込まれる。
[00098]いくつかの実施形態において、空間特徴としては、細胞の局所密度、2つの隣
り合う検出細胞間の平均距離、および/または細胞からセグメント化領域までの距離が挙
げられる。
[000100]当業者には当然のことながら、測定基準は、核特徴からも導出され得る。このような核特徴の演算は、Xing et al.「Robust Nucleus/Cell Detection and Segmentation in Digital
Pathology and Microscopy Images: A Comprehensive Review(デジタル病理学・顕微鏡画像における堅牢な核/細胞検出およびセグメント化:包括的レビュー)」,IEEE Rev Biomed Eng 9,234-263,January 2016に記載されており、そのすべての開示内容が参照により本明細書に組み込まれる。当然のことながら、特徴の演算の基礎としては、当業者に既知の他の特徴も考慮および使用され得る。
[000107]中解像度分析手法では、生物学的に意味ある関心領域を取り込むように規定された入力画像内の副領域を生成するセグメント化アルゴリズムを採用する。画像分析モジュール205による入力画像からの測定基準の導出(ステップ310)の後には、セグメント化生成モジュール206の利用によって、入力画像を複数の副領域にセグメント化する(ステップ320)。
Linear Unmixing in Light Microscopy(光学顕微鏡法におけるスペクトル撮像および線形分離)」,Adv Biochem Engin/Biotechnol(2005)95:245-265およびC.L.Lawson and R.J.Hanson「Solving least squares Problems(最小2乗問題の解法)」,Prentice Hall,1974,C
hapter 23,p.161に線形分離が記載されており、そのすべての開示内容が参照により本明細書に組み込まれる)。本明細書においては、他の分離方法が開示される(Ruifok et. al.「Quantification of histochemical staining by color deconvolution(カラーデコンボリューションによる組織化学的染色の定量化)」,Anal Quant Cytol Histol.2001 Aug;23(4):291-9(すべての開示内容が参照により本明細書に組み込まれる)も参照)。
セグメント(ピクセル群)へと画像を分割すると考えられる。各スーパーピクセルは、低レベルグループ化プロセスによって得られ、知覚的に矛盾のない単位を有する。すなわち、スーパーピクセルに含まれる生体中のすべてのピクセルが染色有無(たとえば、スーパーピクセルに存在するピクセルが特定種のステインのものである)、染色強度(たとえば、ピクセルが一定の相対強度値または値の範囲を有する)、および質感(たとえば、ピクセルが色または強度に関する特定の空間配置を有する)について可能な限り均一である。各スーパーピクセルの局所分析結果は、デジタル病理学画像上に分析結果を表すように格納および報告可能である。
and Jitendra Malik「Normalized cuts and image segmentation(正規化カットおよび画像セグメント化)」,IEEE Transactions on Pattern Analysis and
Machine Intelligence,(PAMI),22(8):888-9
05,Aug 2000(すべての開示内容が参照により本明細書に組み込まれる)参照)。Alastair Moore,Simon Prince,Jonathan Warrell,Umar Mohammed,and Graham Jones「Superpixel Lattices(スーパーピクセル格子)」,IEEE Computer Vision and Pattern Recognition (CVPR),2008は、より小さな垂直または水平領域へと画像を分割する最適経路またはシームを見つけることによって、グリッドに従うスーパーピクセルを生成する方法を記載する。最適経路は、グラフカット法を用いることにより見つかる。(Shai Avidan and Ariel Shamir「Seam carving for content-aware image resizing(内容を意識した画像サイズ調整のためのシームカービング)」,ACM Transactions on Graphics (SIGGRAPH),26(3),2007(開示内容が参照により本明細書に組み込まれる)参照)。クイックシフト(A.Vedaldi and S.Soatto「Quick shift and kernel methods for mode seeking(モード探索のためのクイックシフトおよびカーネル方法)」,European Conference on Computer Vision(ECCV),2008(開示内容が参照により本明細書に組み込まれる)参照)は、モード探索セグメント化方式を使用する。これは、medoid shift手順を用いてセグメント化を初期化する。その後、Parzen密度推定値を増大させる最も近い隣接点へと特徴空間の各点を移動させる。ターボピクセル法では、レベルセットベースの幾何学的フローを用いて、一組の種子位置を徐々に拡張させる(A.Levinshtein,A.Stere,K.Kutulakos,D.Fleet,S.Dickinson,and K.Siddiqi「Turbopixels: Fast superpixels using geometric flows(ターボピクセル:幾何学的フローを用いた高速スーパーピクセル)」,IEEE Transactions on Pattern Analysis and Machine Intelligence(PAMI),2009(開示内容が参照により本明細書に組み込まれる)参照)。幾何学的フローは、画像平面上でスーパーピクセルを規則的に分布させることを目的として、局所的な画像勾配に依拠する。ターボピクセルスーパーピクセルは、他の方法と異なり、均一なサイズ、稠密性、および境界追従を有するように制約される。スーパーピクセルを生成するさらに他の方法については、Radhakrishna Achanta「SLIC Superpixels Compared to State-of-the-art(最新技術との比較によるSLICスーパーピクセル)」,Journal of Latex Class Files,Vol.6,No.1,December 2011に記載されている(そのすべての開示内容が参照により本明細書に組み込まれる)。
とする。次に、SLICアルゴリズムの主要なステップは、以下の通りである。
[000126](3)クラスタ中心を更新する。対応するクラスタにおける全ピクセルの平均として、各クラスタ中心を設定する。
[000128](5)後処理。分離領域のサイズが最小サイズSmin未満の場合は、CCAの使用により、分離領域を近くのスーパーピクセルに再度割り当てる。
ることは、dsがdfよりも有意であることを示す。これら2つの距離の寄与を直接記述する同等の統合距離DIは、以下により与えられ得る。
[000140]副領域生成モジュールによって副領域が生成された(ステップ320)後は、
モジュール207を用いて、副領域ごとに表現オブジェクトまたは関心点が決定される(ステップ330)。いくつかの実施形態において、表現オブジェクトは、関心細胞または関心細胞群(たとえば、線維芽細胞またはマクロファージ)に関する副領域またはスーパーピクセルの外形である。他の実施形態において、表現オブジェクトは、種子点である。本明細書に記載の通り、本開示の目的は、類似の染色有無、染色強度、および/または局所質感を有する副領域に基づいて関心細胞(不規則形状の細胞)を特性化するとともに、これらの均質特性の副領域を自動的にデータベースに保存することである。表現オブジェクトまたはその座標は、生成副領域を格納する1つの方法である。図9Aおよび図9Bは、関心生体を含むスーパーピクセルのポリゴン外形および中心種子の例を提供する。
nd carcinoma-associated fibroblasts(がん細胞およびがん関連線維芽細胞に関する多重化-明視野IHC画像の自動全スライド分析)」,Proc.SPIE 10140,Medical Imaging 2017:Digital Pathology,1014007(2017/03/01)に詳しく記載されており、そのすべての開示内容が参照により本明細書に組み込まれる。
[000148]セグメント化モジュール206を用いて副領域が生成され、モジュール207を用いて表現オブジェクトが演算された後は、標識化モジュール208を用いて、画像分析モジュール202から導出された測定基準等(ステップ310)、表現オブジェクトのアノテーション、標識化、またはデータとの関連付けがなされる(ステップ330)。標識化モジュール208は、本明細書に記載の通り、データを格納する非一時的メモリであるデータベース209を生成するようにしてもよい。いくつかの実施形態において、データベース209は、入力として受信された画像、任意のポリゴンおよび/もしくは種子点の座標、ならびに画像分析による任意の関連データもしくはラベルを格納する(図11参照)。
。当該副領域の当該平均ピクセルは、当該副領域の表現オブジェクトと関連付けられていてもよく、また、当該データが一体としてメモリに格納されていてもよい。
[000155]当業者には当然のことながら、格納された分析結果および関連する生物学的特徴は、後で読み出し可能であり、データは、さまざまなフォーマット(たとえば、分析結果のヒストグラムプロット)で報告または視覚化されるようになっていてもよい。より具体的に、表現オブジェクトの座標データおよび関連する画像分析データは、データベース209から読み出され、別途分析に用いられるようになっていてもよい。いくつかの実施形態において、また、一例として、表現オブジェクトは、全スライド画像内またはユーザアノテーション領域中の分析結果の視覚化または報告のため、データベースから読み出し可能である。図12に示されるように、全スライドスーパーピクセルから読み出されたFAP強度のヒストグラム中のプロットによって、関連付けまたは付与された画像分析結果を報告可能である。あるいは、全スライド画像、視野画像、または別途精査用に医療専門家によりアノテーションされた画像の一部においてデータを視覚化可能である。
[000157]本開示のシステム200は、組織標本に対して1つまたは複数の作成プロセスを実行可能な標本処理装置に接続されていてもよい。作成プロセスとしては、標本の脱パラフィン化、標本の調節(たとえば、細胞調節)、標本の染色、抗原読み出しの実行、免疫組織化学染色(標識化を含む)もしくは他の反応の実行、ならびに/またはin-situハイブリダイゼーション(たとえば、SISH、FISH等)染色(標識化を含む)もしくは他の反応の実行のほか、顕微鏡法、微量分析法、質量分光法、または他の分析方法のために標本を作成する他のプロセスが挙げられるが、これらに限定されない。
ができる。いくつかの実施形態において、撮像装置は、明視野撮像スライドスキャナである。明視野撮像装置の1つとして、Ventana Medical Systems,Inc.が販売するiScan HT and DP200(Griffin)明視野スキャナがある。自動化された実施形態において、撮像装置は、「IMAGING SYSTEM AND TECHNIQUES(撮像システムおよび技法)」という名称の国際特許出願PCT/US2010/002772号(特許公開WO2011/049608)または2011年9月9日に出願された「IMAGING SYSTEMS,CASSETTES, AND METHODS OF USING THE SAME(撮像システム、カセット、およびこれらの使用方法)」という名称の米国特許出願第61/533,114号に開示されるようなデジタル病理学デバイスである。国際特許出願PCT/US2010/002772および米国特許出願第61/533,114号のすべてが参照により本明細書に組み込まれる。
にコンピュータ記憶媒体上に符号化されたコンピュータプログラム命令の1つまたは複数のモジュールとして実装され得る。本明細書に記載のモジュールはいずれも、プロセッサにより実行されるロジックを含んでいてもよい。本明細書において、「ロジック(logic)」は、プロセッサの動作に影響を及ぼすように適用され得る命令信号および/またはデータの形態を有する如何なる情報をも表す。ソフトウェアは、ロジックの一例である。
[000176]分離は、混合ピクセルの測定スペクトルが一群の構成スペクトルすなわち端成分および一組の対応する断片すなわち個体に分解されて、当該ピクセルに存在する各端成分の割合を示す手順である。具体的に、分離プロセスでは、標準型の組織およびステインの組み合わせに関して周知の基準スペクトルを用いて、ステイン固有のチャネルを抽出することにより、個々のステインの局所濃度を決定することができる。分離では、制御画像から読み出された基準スペクトルまたは観察中の画像から推定された基準スペクトルを使用するようにしてもよい。各入力ピクセルのコンポーネント信号を分離することによって、H&E画像におけるヘマトキシリンチャネルおよびエオシンチャネルまたはIHC画像におけるジアミノベンジジン(DAB)チャネルおよびカウンタステイン(たとえば、ヘマトキシリン)チャネル等、ステイン固有のチャネルを読み出しおよび分析可能となる。用語「分離(unmixing)」および「カラーデコンボリューション(color deconvolution)」(または、「デコンボリューション(deconvolution)」)等(たとえば、「deconvolving」、「unmixed」)は、当技術分野において区別なく使用される。いくつかの実施形態において、多重画像は、線形分離を用いる分離モジュールによって分離される。線形分離については、たとえばZimmermann「Spectral Imaging and Linear Unmixing in Light Microscopy(光学顕微鏡法におけるスペクトル撮像および線形分離)」,Adv Biochem Engin/Biotechnol(2005)95:245-265およびC.L.Lawson and R.J.Hanson「Solving least squares Problems(最小2乗問題の解法)」,PrenticeHall,1974,Chapter 23,p.161に記載されており、そのすべての開示内容が参照により本明細書に組み込まれる。線形ステイン分離においては、任意のピクセルにおける測定スペクトル(S(λ))がステインスペクトル成分の線形混合と考えられ、当該ピクセルにおいて表される個々のステインの色基準(R(λ))の割合または重み(A)の合計に等しい。
[000178]より一般的には、以下のような行列の形態で表し得る。
[000180]取得されたM個のチャネル画像およびN個の個別ステインが存在する場合は、本明細書において導出される通り、M×N行列Rの列が最適色系であり、N×1ベクトルAが個別ステインの割合の未知数であり、M×1ベクトルSがピクセルにおいて測定されたマルチチャネルスペクトルベクトルである。これらの式において、各ピクセルの信号(
S)は、多重画像および基準スペクトルすなわち最適色系の取得中に測定され、本明細書に記載の通りに導出される。さまざまなステインの寄与(Ai)は、測定スペクトルにおける各点への寄与を計算することによって決定可能である。いくつかの実施形態においては、以下一組の式を解くことにより測定スペクトルと計算スペクトルとの2乗差を最小化する逆最小2乗フィッティング手法を用いて解が得られる。
[000182]この式において、jは検出チャネルの数を表し、iはステインの数に等しい。線形方程式の解では、条件付き分離によって、重み(A)の合計が1になることが多い。
Separation(画像適応的な生理学的に妥当な色分離)」という名称のWO2014/195193に記載された方法を用いて分離が実現されるが、そのすべての開示内容が参照により本明細書に組み込まれる。一般的に、WO2014/195193は、反復的に最適化された基準ベクトルを用いて入力画像のコンポーネント信号を分離することによる分離方法を記載する。いくつかの実施形態においては、アッセイの特質に固有の予想結果または理想的結果に対して、アッセイからの画像データの相関によって、品質測定基準が決定される。低品質画像または理想的結果に対する相関が不十分な場合は、行列Rの1つまたは複数の基準列ベクトルが調整され、生理学的および解剖学的要件に整合する良質の画像を相関が示すまで、調整された基準ベクトルを用いて分離が反復的に繰り返される。測定画像データに適用されて品質測定基準を決定するルールを規定するのに、解剖学的情報、生理学的情報、およびアッセイ情報が用いられるようになっていてもよい。この情報には、組織の染色方法、染色を意図した組織内構造もしくは染色を意図しなかった組織内構造、ならびに処理対象のアッセイに固有の構造、ステイン、およびマーカ間の関係を含む。反復的プロセスによって、関心構造および生物学的に関連する情報を正確に識別し、ノイズも不要なスペクトルも一切ないため分析に適した画像を生成し得るステイン固有のベクトルが得られる。基準ベクトルは、探索空間内で調整される。探索空間は、基準ベクトルがステインを表すのに取り得る値の範囲を規定する。探索空間は、既知または一般に発生する問題を含む多様な代表的トレーニングアッセイをスキャンし、当該トレーニングアッセイに対して、高品質な基準ベクトル集合を決定することにより決定されるようになっていてもよい。
[000186]以下を用いた実験によって、FAP陽性面積の結果の精度を比較した。
[000187]1)FAP陽性高解像度分析。この測定のため、0.465マイクロメートルのピクセルサイズの空間解像度にて、高倍率(20X)で閾値化後のすべてのFAP陽性ピクセルが蓄積された。その後、関心領域のピクセルごとのFAP陽性面積として、予備アノテーション領域から選択された報告面積が求められた。
得ることが了解されるものとする。より詳細には、本開示の主旨から逸脱することなく、上記開示内容、図面、および添付の特許請求の範囲内において、主題の組み合せ構成の構成要素部品および/または配置における合理的な変形および改良が可能である。構成要素部品および/または配置における変形および改良のほか、当業者には、代替的な使用も明らかとなるであろう。
Claims (12)
- 少なくとも1つのステインで染色された生物標本の画像からの不規則形状の細胞に対応するデータを導出するための方法であって、
前記画像によって描写された細胞の核を識別し、前記識別された核に基づいて少なくとも1つの発現スコアを計算することにより、前記画像から1つ又は複数の特徴測定基準(feature metrics)を導出するステップであって、前記少なくとも1つの発現スコアは、前記画像によって描写された前記細胞のうちバイオマーカ陽性細胞である細胞の割合に基づいて計算される、ステップと、
前記画像の中の複数の副領域を識別するための画像セグメント化アルゴリズムを用いて前記画像をセグメント化するステップと、
前記複数の副領域の中の副領域の組に対応する一連の表現(representation)オブジェクトを計算するステップと、
を含み、
前記一連の表現オブジェクトの各表現オブジェクトは、前記副領域の組のうちの対応する副領域の境界を定義し、
前記副領域の組の中の各副領域は、閾値を超えるステインの量を識別し、
識別された前記ステインの量に基づいて特定の細胞の種類を識別し、
前記画像からの前記導出された1つ又は複数の特徴測定基準を、前記一連の表現オブジェクトの各々の計算された座標と対応付ける、
方法。 - 前記特定の細胞の種類が、線維芽細胞、又は、マクロファージを含む、請求項1に記載の方法。
- 前記導出された1つ又は複数の特徴測定基準、及び、対応付けられた表現オブジェクト座標を、データベースに記憶するステップを更に含む、請求項1または2に記載の方法。
- 前記一連の表現オブジェクトの中の各表現オブジェクトが、更に、対応する種子点によって識別される、請求項1から3のいずれかに記載の方法。
- 一連の表現オブジェクトを計算するステップが、前記複数の副領域から前記副領域の組を識別し、前記複数の副領域の中の少なくとも1つの副領域を除外するために、閾値化アルゴリズムを適用するステップを含む、請求項1から4のいずれかに記載の方法。
- 前記画像が、2つ又はそれより多い色チャネルを含み、
前記副領域の組を識別することが、前記閾値化アルゴリズムを、前記画像の、前記2つ又はそれより多い色チャネルの、1つの色チャネルに適用することを含む、請求項5に記載の方法。 - 一連の表現オブジェクトを計算するステップが、前記複数の副領域から前記副領域の組を識別し、前記複数の副領域の中の少なくとも1つの副領域を除外するために、1つ又は複数画像フィルタを適用するステップを含む、請求項1から4のいずれかに記載の方法。
- 前記画像が、RGB画像、又は、マルチスペクトル画像である、請求項1から7のいずれかに記載の方法。
- 前記生物標本が、1つ又は複数のバイオマーカの存在に対して、IHCアッセイの中で染色される、請求項1から8のいずれかに記載の方法。
- 前記1つ又は複数のバイオマーカが、線維芽細胞活性化タンパク質(FAP)を含む、請求項9に記載の方法。
- 請求項1から10のいずれかによる前記方法に向けられた動作を実行するためにプロセッサを制御するための複数の命令を記憶するコンピュータ読み取り可能媒体であって、前記命令が、請求項1から10のいずれかに規定された1つ又は複数のステップを含む、コンピュータ読み取り可能媒体。
- 請求項1から10のいずれかによる前記方法を実行するための手段を備え、
少なくとも1つのプロセッサ及びメモリを更に備える、
コンピュータシステム。
Applications Claiming Priority (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201762595143P | 2017-12-06 | 2017-12-06 | |
| US62/595,143 | 2017-12-06 | ||
| JP2020530584A JP7197584B2 (ja) | 2017-12-06 | 2018-12-04 | デジタル病理学分析結果の格納および読み出し方法 |
| PCT/EP2018/083434 WO2019110561A1 (en) | 2017-12-06 | 2018-12-04 | Method of storing and retrieving digital pathology analysis results |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020530584A Division JP7197584B2 (ja) | 2017-12-06 | 2018-12-04 | デジタル病理学分析結果の格納および読み出し方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023030033A JP2023030033A (ja) | 2023-03-07 |
| JP7558242B2 true JP7558242B2 (ja) | 2024-09-30 |
Family
ID=64604651
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020530584A Active JP7197584B2 (ja) | 2017-12-06 | 2018-12-04 | デジタル病理学分析結果の格納および読み出し方法 |
| JP2022200094A Active JP7558242B2 (ja) | 2017-12-06 | 2022-12-15 | デジタル病理学分析結果の格納および読み出し方法 |
Family Applications Before (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020530584A Active JP7197584B2 (ja) | 2017-12-06 | 2018-12-04 | デジタル病理学分析結果の格納および読み出し方法 |
Country Status (4)
| Country | Link |
|---|---|
| EP (1) | EP3721372A1 (ja) |
| JP (2) | JP7197584B2 (ja) |
| CN (2) | CN111448569B (ja) |
| WO (1) | WO2019110561A1 (ja) |
Families Citing this family (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112347823B (zh) * | 2019-08-09 | 2024-05-03 | 中国石油天然气股份有限公司 | 沉积相边界识别方法及装置 |
| WO2021037872A1 (en) | 2019-08-28 | 2021-03-04 | Ventana Medical Systems, Inc. | Label-free assessment of biomarker expression with vibrational spectroscopy |
| US20230081232A1 (en) * | 2020-02-17 | 2023-03-16 | 10X Genomics, Inc. | Systems and methods for machine learning features in biological samples |
| CN112070041B (zh) * | 2020-09-14 | 2023-06-09 | 北京印刷学院 | 一种基于cnn深度学习模型的活体人脸检测方法和装置 |
| CN112329765B (zh) * | 2020-10-09 | 2024-05-24 | 中保车服科技服务股份有限公司 | 文本检测的方法及装置、存储介质及计算机设备 |
| WO2022107435A1 (ja) * | 2020-11-20 | 2022-05-27 | コニカミノルタ株式会社 | 画像解析方法、画像解析システム及びプログラム |
| CN112785713B (zh) * | 2021-01-29 | 2024-06-14 | 广联达科技股份有限公司 | 一种布置光源的方法、装置、设备及可读存储介质 |
| US12322659B2 (en) * | 2021-03-04 | 2025-06-03 | Applied Materials, Inc. | Pixel classification of film non-uniformity based on processing of substrate images |
| CN113469939B (zh) * | 2021-05-26 | 2022-05-03 | 透彻影像(北京)科技有限公司 | 一种基于特性曲线的her-2免疫组化自动判读系统 |
| US11830622B2 (en) | 2021-06-11 | 2023-11-28 | International Business Machines Corporation | Processing multimodal images of tissue for medical evaluation |
| WO2023026742A1 (ja) * | 2021-08-25 | 2023-03-02 | 浜松ホトニクス株式会社 | 色素画像取得方法、色素画像取得装置、及び色素画像取得プログラム |
| CN113763370B (zh) * | 2021-09-14 | 2024-09-06 | 佰诺全景生物技术(北京)有限公司 | 数字病理图像的处理方法、装置、电子设备及存储介质 |
| CN114216821A (zh) * | 2021-11-15 | 2022-03-22 | 深圳基本半导体有限公司 | 一种微纳米金属材料的尺寸分析方法、设备及存储介质 |
| CN115201092B (zh) * | 2022-09-08 | 2022-11-29 | 珠海圣美生物诊断技术有限公司 | 细胞扫描图像的获取方法和装置 |
| KR102579826B1 (ko) * | 2022-12-09 | 2023-09-18 | (주) 브이픽스메디칼 | 인공지능 기반 진단 보조 정보 제공 방법, 장치 및 시스템 |
| CN116188423B (zh) * | 2023-02-22 | 2023-08-08 | 哈尔滨工业大学 | 基于病理切片高光谱图像的超像素稀疏解混检测方法 |
| CN117272393B (zh) * | 2023-11-21 | 2024-02-02 | 福建智康云医疗科技有限公司 | 一种区域性内网扫码跨医院查阅医学影像的方法 |
| CN119517265B (zh) * | 2024-10-20 | 2025-05-06 | 北京回龙观医院(北京心理危机研究与干预中心) | 一种大脑皮层分泌物质检测方法 |
| CN121504929B (zh) * | 2026-01-13 | 2026-04-10 | 宝鸡昂迈威金属科技股份有限公司 | 基于机器视觉的钛合金环件表面微裂纹缺陷检测系统 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008104432A (ja) | 2006-10-27 | 2008-05-08 | Mitsui Eng & Shipbuild Co Ltd | 細胞分別処理機能を有するフローサイトメータ、および生細胞分別処理方法 |
| JP2009528835A (ja) | 2006-03-06 | 2009-08-13 | ゼティク テクノロジーズ リミテッド | 細胞の表現型を特定するための方法および組成物 |
| WO2012043498A1 (ja) | 2010-09-30 | 2012-04-05 | 日本電気株式会社 | 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 |
| JP2014533509A (ja) | 2011-11-17 | 2014-12-15 | セルスケープ・コーポレーション | 細胞を取得し、解析するための方法、装置及びキット |
| US20150339818A1 (en) | 2012-05-11 | 2015-11-26 | Dako Denmark A/S | Method and Apparatus for Image Scoring and Analysis |
| WO2016150873A1 (en) | 2015-03-20 | 2016-09-29 | Ventana Medical Systems, Inc. | System and method for image segmentation |
Family Cites Families (26)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5595707A (en) | 1990-03-02 | 1997-01-21 | Ventana Medical Systems, Inc. | Automated biological reaction apparatus |
| US20030211630A1 (en) | 1998-02-27 | 2003-11-13 | Ventana Medical Systems, Inc. | Automated molecular pathology apparatus having independent slide heaters |
| JP3847559B2 (ja) | 1998-02-27 | 2006-11-22 | ベンタナ・メデイカル・システムズ・インコーポレーテツド | 独立スライド加熱器を有する自動化分子病理学装置 |
| US6582962B1 (en) | 1998-02-27 | 2003-06-24 | Ventana Medical Systems, Inc. | Automated molecular pathology apparatus having independent slide heaters |
| WO2002077903A2 (en) * | 2001-03-26 | 2002-10-03 | Cellomics, Inc. | Methods for determining the organization of a cellular component of interest |
| US20050136549A1 (en) * | 2003-10-30 | 2005-06-23 | Bioimagene, Inc. | Method and system for automatically determining diagnostic saliency of digital images |
| US7760927B2 (en) | 2003-09-10 | 2010-07-20 | Bioimagene, Inc. | Method and system for digital image based tissue independent simultaneous nucleus cytoplasm and membrane quantitation |
| JP4496943B2 (ja) * | 2004-11-30 | 2010-07-07 | 日本電気株式会社 | 病理診断支援装置、病理診断支援プログラム、病理診断支援装置の作動方法、及び病理診断支援システム |
| CA2607609C (en) * | 2005-05-13 | 2014-07-15 | Tripath Imaging, Inc. | Methods of chromogen separation-based image analysis |
| CA2842661C (en) | 2009-10-19 | 2016-02-23 | Ventana Medical Systems, Inc. | Imaging system and techniques |
| CA2807244A1 (en) | 2010-08-27 | 2012-03-01 | University Of Zurich | A novel diagnostic and therapeutic target in inflammatory and/or cardiovascular diseases |
| WO2012105281A1 (ja) | 2011-01-31 | 2012-08-09 | 日本電気株式会社 | 情報処理システム、情報処理方法、情報処理装置及びその制御方法とその制御プログラムを格納した記憶媒体 |
| AU2013251312B2 (en) | 2012-04-27 | 2018-03-22 | Takeda Pharmaceutical Company Limited | Anti-GCC antibody molecules and use of same to test for susceptibility to GCC-targeted therapy |
| AU2013369439B2 (en) * | 2012-12-28 | 2019-01-17 | Cleveland Clinic Foundation | Image analysis for breast cancer prognosis |
| DK2973397T3 (en) | 2013-03-15 | 2017-10-02 | Ventana Med Syst Inc | Tissue-object-based machine learning system for automated assessment of digital whole-slide glass |
| US10242248B2 (en) | 2013-06-03 | 2019-03-26 | Ventana Medical Systems, Inc. | Image adaptive physiologically plausible color separation |
| CN103426169B (zh) * | 2013-07-26 | 2016-12-28 | 西安华海盈泰医疗信息技术有限公司 | 一种医学图像的分割方法 |
| WO2015113895A1 (en) * | 2014-01-28 | 2015-08-06 | Ventana Medical Systems, Inc. | Adaptive classification for whole slide tissue segmentation |
| WO2015124777A1 (en) | 2014-02-21 | 2015-08-27 | Ventana Medical Systems, Inc. | Medical image analysis for identifying biomarker-positive tumor cells |
| EP3550514B1 (en) | 2014-02-21 | 2020-11-25 | Ventana Medical Systems, Inc. | Group sparsity model for image unmixing |
| EP3155592B1 (en) | 2014-06-10 | 2019-09-11 | Leland Stanford Junior University | Predicting breast cancer recurrence directly from image features computed from digitized immunohistopathology tissue slides |
| EP3175389B1 (en) | 2014-07-28 | 2024-05-15 | Ventana Medical Systems, Inc. | Automatic glandular and tubule detection in histological grading of breast cancer |
| CA2965564C (en) | 2014-11-10 | 2024-01-02 | Ventana Medical Systems, Inc. | Classifying nuclei in histology images |
| CA2969038C (en) * | 2014-12-03 | 2023-07-04 | Ventana Medical Systems, Inc. | Methods, systems, and apparatuses for quantitative analysis of heterogeneous biomarker distribution |
| WO2016120442A1 (en) | 2015-01-30 | 2016-08-04 | Ventana Medical Systems, Inc. | Foreground segmentation and nucleus ranking for scoring dual ish images |
| AU2016313775A1 (en) | 2015-09-02 | 2018-02-08 | Ventana Medical Systems, Inc. | Automated analysis of cellular samples having intermixing of analytically distinct patterns of analyte staining |
-
2018
- 2018-12-04 JP JP2020530584A patent/JP7197584B2/ja active Active
- 2018-12-04 CN CN201880079402.1A patent/CN111448569B/zh active Active
- 2018-12-04 WO PCT/EP2018/083434 patent/WO2019110561A1/en not_active Ceased
- 2018-12-04 CN CN202311034131.7A patent/CN117038018A/zh active Pending
- 2018-12-04 EP EP18814573.4A patent/EP3721372A1/en active Pending
-
2022
- 2022-12-15 JP JP2022200094A patent/JP7558242B2/ja active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009528835A (ja) | 2006-03-06 | 2009-08-13 | ゼティク テクノロジーズ リミテッド | 細胞の表現型を特定するための方法および組成物 |
| JP2008104432A (ja) | 2006-10-27 | 2008-05-08 | Mitsui Eng & Shipbuild Co Ltd | 細胞分別処理機能を有するフローサイトメータ、および生細胞分別処理方法 |
| WO2012043498A1 (ja) | 2010-09-30 | 2012-04-05 | 日本電気株式会社 | 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 |
| JP2014533509A (ja) | 2011-11-17 | 2014-12-15 | セルスケープ・コーポレーション | 細胞を取得し、解析するための方法、装置及びキット |
| US20150339818A1 (en) | 2012-05-11 | 2015-11-26 | Dako Denmark A/S | Method and Apparatus for Image Scoring and Analysis |
| WO2016150873A1 (en) | 2015-03-20 | 2016-09-29 | Ventana Medical Systems, Inc. | System and method for image segmentation |
Also Published As
| Publication number | Publication date |
|---|---|
| EP3721372A1 (en) | 2020-10-14 |
| CN111448569B (zh) | 2023-09-26 |
| CN111448569A (zh) | 2020-07-24 |
| JP2023030033A (ja) | 2023-03-07 |
| CN117038018A (zh) | 2023-11-10 |
| JP2021506003A (ja) | 2021-02-18 |
| WO2019110561A1 (en) | 2019-06-13 |
| JP7197584B2 (ja) | 2022-12-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7558242B2 (ja) | デジタル病理学分析結果の格納および読み出し方法 | |
| US12293517B2 (en) | Systems for cell shape estimation | |
| JP7273215B2 (ja) | 画像処理のための自動アッセイ評価および正規化 | |
| JP7534461B2 (ja) | 細胞の分類のためのシステムおよび方法 | |
| US11682192B2 (en) | Deep-learning systems and methods for joint cell and region classification in biological images | |
| JP7231631B2 (ja) | 腫瘍空間異質性およびインターマーカ異質性の計算方法 | |
| CN112823376B (zh) | 图像增强以实现改善的核检测和分割 | |
| US11959848B2 (en) | Method of storing and retrieving digital pathology analysis results | |
| JP2020502534A (ja) | 一次染色および免疫組織化学画像に基づくコンピュータ採点 | |
| JP7214756B2 (ja) | ステイン集合体における信号の定量 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230112 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230116 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20231115 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231117 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240115 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240409 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240703 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240910 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240917 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7558242 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |



