KR20120121373A - 물체 인식 방법 및 인식 장치 - Google Patents

물체 인식 방법 및 인식 장치 Download PDF

Info

Publication number
KR20120121373A
KR20120121373A KR1020120043869A KR20120043869A KR20120121373A KR 20120121373 A KR20120121373 A KR 20120121373A KR 1020120043869 A KR1020120043869 A KR 1020120043869A KR 20120043869 A KR20120043869 A KR 20120043869A KR 20120121373 A KR20120121373 A KR 20120121373A
Authority
KR
South Korea
Prior art keywords
image
fisheye
fisheye image
database
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020120043869A
Other languages
English (en)
Other versions
KR101374643B1 (ko
Inventor
다카히로 기타구치
구니히코 스즈키
도시아키 우에지마
Original Assignee
히따찌 죠오호오 쯔우신 엔지니어링 가부시끼가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 히따찌 죠오호오 쯔우신 엔지니어링 가부시끼가이샤 filed Critical 히따찌 죠오호오 쯔우신 엔지니어링 가부시끼가이샤
Publication of KR20120121373A publication Critical patent/KR20120121373A/ko
Application granted granted Critical
Publication of KR101374643B1 publication Critical patent/KR101374643B1/ko
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/754Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/11Technique with transformation invariance effect

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Vascular Medicine (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

어안 화상에 대하여, 투영 변환이나 보정 연산에 의한 화상의 변환을 행하지 않고, 어안 화상의 왜곡된 화상을 그대로 이용하여 물체의 인식을 행할 수 있도록 한다.
물체의 인식을 행하는 대상 어안 화상(110)의 왜곡의 방향에 맞추어 영역을 분할하고(120), 물체 인식부(130)가 각각의 영역마다 준비한 데이터베이스(140)를 사용하여 물체 인식을 행한다. 또한, 대상 어안 화상(100)에 회전 처리를 행한 복수의 대상 어안 화상에 대해서도 동일한 처리를 행하고, 검출 좌표 역변환부(150)가 얻은 물체 위치를 역회전에 의해 원래의 위치로 되돌리고, 그 얻은 결과를 검출 결과로서 출력한다. 이로써, 물체 인식의 검출 정밀도의 향상, 데이터베이스의 데이터량의 삭감이 가능하다. 또한, 어안 화상에 대한 물체 인식을 위한 데이터베이스 작성에는, 데이터베이스 작성에 필요로 하는 물체 화상을 회전시킨 것을 이용한다.

Description

물체 인식 방법 및 인식 장치 {OBJECT RECOGNITION METHOD AND RECOGNITION APPARATUS}
본 발명은 물체 인식 방법 및 인식 장치에 관한 것이며, 특히, 어안 렌즈(fish-eye lens)에 의해 촬영된 화상 내에 촬영되어 있는 인물을 포함한 물체를 인식하는 물체 인식 방법 및 인식 장치에 관한 것이다.
어안 렌즈는 시야각이 넓다는 장점을 가지는 동시에, 촬영한 화상의 중심에서 바깥쪽으로 갈수록 큰 왜곡을 포함한다는 단점도 가진다. 이 때문에, 어안 렌즈에 의해 촬영된 화상 내에 촬영되어 있는 물체를 인식하기 위한 방법으로서, 왜곡이 없거나 왜곡이 적은 평면 화상에 대하여 사용되고 있는 종래 기술에 의한 물체 인식 방법은 그대로 사용할 수 없다.
평면 화상에 대하여 사용되고 있는 종래 기술에 의한 물체 인식 방법을, 어안 렌즈에 의해 촬영된 화상 내에 촬영되어 있는 물체를 인식하기 위해 사용 가능하게 하기 위해, 일반적으로는 어안 렌즈를 사용하여 촬영한 왜곡 화상의 왜곡을 보정한 화상으로 변환하는 기술이 알려져 있고, 시스템 등에의 응용이 도모되고 있다.
또한, 평면 화상에 대하여 사용되고 있는 종래 기술에 의한 물체 인식에 있어서도, 신속하고 정확하게 인식하기 위한 연구가 도모되고 있다.
그리고, 왜곡이 있는 화상에서 왜곡이 없는 화상으로의 변환 등의 촬영 화상의 변환 방법에 관한 종래 기술로서, 예를 들면, 아래의 특허 문헌 1, 2, 3 등에 기재된 기술이 알려져 있다. 즉, 특허 문헌 1에 기재된 기술은 왜곡이 있는 화상에서 왜곡이 없는 화상으로, 실시간으로 변환하는 방법에 관한 기술이며, 특허 문헌 2에 기재된 기술은 어안 렌즈를 사용한 촬영에 의해 얻은 왜곡 원형 화상(distorted circular image)에서 원하는 임의의 부분을 잘라내고, 왜곡이 적은 평면 정측 화상(plane regular image)으로의 변환을 가능하게 하는 것이다. 또한, 특허 문헌 3에 기재된 기술은, 왜곡이 있는 어안 화상의 중요성이 높은 중심부를 투시 투영에 가깝게, 주변부를 적당히 왜곡시키면서 넓은 화각으로 할 수 있도록 한 촬상 화상의 변환 방법에 관한 것이다.
[선행 기술 문헌]
[특허 문헌]
특허 문헌 1: 일본 특허공개공보 제2004-227470호
특허 문헌 2: 일본 특허공개공보 제2010-62790호
특허 문헌 3: 일본 특허공개공보 제2010-67172호
어안 렌즈에 의해 촬영한 화상을 사용하여 물체의 인식을 행하는 기술은, 전술한 바와 같이, 어안 렌즈에 의해 촬영한 화상을 평면 화상으로의 변환을 행한 후에 물체의 인식을 행하고 있고, 이 때문에, 평면 화상을 사용하여 화상의 변환을 행하지 않고 물체의 인식을 행하는 기술에 비하여 많은 하드웨어 자원, 또는 소프트웨어 자원을 소비하게 되고, 또한 어안 렌즈에 의해 촬영한 화상의 평면 화상 으로의 변환에 적지 않은 시간을 요하게 된다.
전술한 바와 같은 상황으로부터, 예를 들면, 물체의 인식을 신속히 행할 필요가 있는 운전 지원 등의 즉응성을 필요로 하는 기술 분야에서는, 평면 화상으로의 변환을 필요로 하는 어안 화상의 사용이 주저되고 있다.
일반적으로, 어안 렌즈에 의해 촬영된 큰 시야각, 예를 들면, 180도의 시야각으로 포착된 어안 화상은 평면 화상으로 변환됨으로써 무한대의 크기를 가지는 화상이 된다는 것이 알려져 있다. 즉, 어안 화상에서 평면 화상으로 변환된 화상은 원래의 어안 화상에 비해 큰 크기를 가지는 것이 된다.
이 때문에, 어안 화상을 평면 화상으로 변환하여 이용하는 경우, 통상, 변환하는 화상의 범위를 어안 화상 전체로 하지 못하고, 일부만을 변환하는 방법이 채용되고 있다. 그리고, 특허 문헌 2에는, 어안 화상의 일부를 잘라내어 평면 화상으로 변환하는 방법으로 해결할 수 없었던 왜곡이나 잘라낼 수 있는 개소의 제한에 대한 해결책이 제안되어 있다. 그러나, 어안 화상의 일부만을 변환하는 방법은 어안 렌즈에 의한 큰 시야각라는 장점을 충분히 다 살릴 수 없는 것이다.
한편, 어안 화상에서 평면 화상으로의 변환을 행하지 않고 물체의 인식을 행하려고 하는 경우, 검출 대상이 되는 물체의 화상이 어안 화상의 바깥쪽에 위치하면 할수록 크게 왜곡되기 때문에, 평면 화상을 사용하는 물체 인식 방법을 적용해도 충분한 검출 정밀도를 얻을 수 없는 것이 될 수밖에 없다.
이 때문에, 어안 화상을 그대로 이용하여 물체의 인식을 행하려고 하는 경우, 사용하는 데이터베이스에 저장하는 물체 데이터로서, 어안 화상 상에 나타나는 왜곡을 가진 물체 데이터를 사용하는 것을 생각할 수 있다. 그러나, 이 경우, 어안 화상 상에 나타나는 모든 패턴의 왜곡을 망라한 데이터베이스를 작성하여야 하고, 데이터베이스의 작성에, 평면 화상을 이용하는 경우의 데이터베이스의 작성에 비하여 큰 노력이 필요하게 된다.
또한, 전술한 경우, 다양한 패턴의 왜곡을 가진 데이터를 저장하기 위한 데이터베이스가 필요로 하는 하드웨어 자원도, 왜곡을 고려하지 않는 때에 비해 큰 것이 된다.
또한, 전술한 경우, 모든 패턴의 왜곡을 가지는 화상 데이터를 저장한 데이터베이스를, 어안 화상 상의 임의의 어느 영역 내의 물체의 화상의 검출에 그대로 이용하는 것은, 전술한 데이터베이스가 대상이 되는 영역의 왜곡과 유사하지 않은 왜곡을 가지는 물체의 데이터도 포함하는 데이터베이스이기 때문에, 충분한 검출 정밀도를 가지고 물체의 검출을 행할 수 없는 것이 될 수밖에 없다.
본 발명의 목적은, 전술한 바와 같은 종래부터의 기술의 문제점을 감안하여, 어안 화상을 평면 화상으로 변환하지 않고, 어안 화상을 그대로 이용하여 물체의 인식을 행할 수 있도록 한 물체 인식 방법 및 인식 장치를 제공하는 것에 있다.
본 발명에 의하면 상기 목적은, 어안 카메라에 의해 촬영된 어안 화상을 그대로 이용하여 어안 화상 내에 포함된 물체를 인식하는 물체 인식 장치에서의 물체 인식 방법에 있어서, 상기 물체 인식 장치는, 상기 어안 카메라로부터 입력되는 어안 화상으로부터 어안 화상 내에 포함된 검출하고 싶은 대상 물체를 인식하는 물체 인식부와; 입력되는 어안 화상의 왜곡의 방향에 맞추어 상기 입력되는 어안 화상을 복수로 분할하는 분할 영역을 정해 복수의 분할 영역으로 분할하고, 상기 분할된 분할 영역마다 대응하는 검출하고 싶은 대상 물체의 인식에 사용하는 영역별 데이터베이스를 포함하여 구성되며, 상기 물체 인식부는, 상기 입력되는 어안 화상의 분할 영역마다에 대응하는 상기 영역별 데이터베이스를 사용하여 입력된 상기 어안 화상으로부터 상기 어안 화상 내에 포함된 검출하고 싶은 대상 물체의 검출 인식을 행함으로써 달성된다.
본 발명에 의하면, 어안 화상을 평면 화상으로 변환하지 않고, 넓은 시야각을 가지는 어안 화상 전체를 사용하여 물체의 인식을 행할 수 있으므로, 신속하고 정밀도가 높은 물체의 인식을 행하는 것이 가능해진다.
도 1은 본 발명의 제1 기본 사상에 의한 인식 방법에서의 어안 화상의 영역의 분할 방법을 설명하는 도면이다.
도 2는 어안 화상을 그 중심을 기준으로 하여 8개의 영역에 분할한 경우의 각 영역에서의 물체의 찍히는 방식의 상위를 설명하는 도면이다.
도 3은 본 발명의 제2 기본 사상에 의한 인식 방법에서의 어안 화상의 회전 방법을 설명하는 도면이다.
도 4는 지면에 대하여 수직인 위쪽에서의 촬영의 예와 그때 촬영된 어안 화상의 예를 나타낸 도면이다.
도 5는 대상으로 하는 어안 화상을 회전시킴으로써, 어안 화상에 포함된 검출하고 싶은 대상 물체의 인식을 행하는 것이 가능해지는 것을 설명하는 도면이다.
도 6은 하나의 데이터베이스 작성용의 화상으로부터 복수의 데이터베이스 작성용의 화상 데이터를 작성하는 방법을 설명하는 도면이다.
도 7은 어느 영역의 데이터베이스의 화상 데이터로부터 다른 영역용의 데이터베이스의 화상 데이터를 작성하는 방법을 설명하는 도면이다.
도 8은 본 발명의 제3 기본 사상에 의한 물체의 인식 방법을 설명하는 도면이다.
도 9는 본 발명의 일 실시예에 의한 물체 인식 장치의 기능 구성을 나타낸 블록도이다.
도 10은 본 발명의 일 실시예에 의한 물체 인식 장치의 하드웨어 구성을 나타낸 블록도이다.
도 11은 도 10에 나타낸 물체 인식 장치에서의 어안 카메라의 설치예를 나타낸 도면이다.
도 12는 어안 카메라에 의해 촬영한 화상 내의 물체의 인식을 행하기 위해 사용하는 데이터베이스의 작성 방법을 설명하는 도면(그 1)이다.
도 13은 어안 카메라에 의해 촬영한 화상 내의 물체의 인식을 행하기 위해 사용하는 데이터베이스의 작성 방법을 설명하는 도면(그 2)이다.
이하, 본 발명에 의한 물체 인식 방법 및 인식 장치의 실시예를 도면을 참조하여 상세하게 설명한다. 본 발명은 어안 화상을 평면 화상으로 변환하지 않고, 넓은 시야각을 가지는 어안 화상 전체를 사용하여 인물을 포함한 물체의 인식을 행할 수 있게 하는 것이다.
여기서는, 먼저, 본 발명의 구체적인 실시예를 설명하기 전에, 본 발명의 기본 사상에 의한 물체의 인식 방법에 대하여 도면을 참조하여 설명한다.
본 발명의 제1 기본 사상에 의한 방법은, 어안 화상의 왜곡에 대응하기 위해 어안 화상의 왜곡의 방향에 맞추어 어안 화상을 복수의 영역으로 분할하고, 분할한 어안 화상의 영역 각각에 대응하는 데이터베이스를 준비하고, 이들 데이터베이스를 구분하여 사용해 물체의 검출을 행하는 방법이다.
도 1은 본 발명의 제1 기본 사상에 의한 인식 방법에서의 어안 화상의 영역의 분할하는 방법을 설명하는 도면이고, 도 2는 어안 화상을 그 중심을 기준으로 하여 8개의 영역으로 분할한 경우의 각 영역에서의 물체의 찍히는 방식의 상위를 설명하는 도면이다.
본 발명의 제1 기본 사상에 의한 인식 방법에서의 어안 화상의 영역을 분할하는 방법은, 도 1에 도 1의 (a) ? 도 1의 (e)로서 몇 개의 예를 나타내고 있듯이, 어안 화상의 중심을 기준으로 하여, 중심으로부터의 거리와 왜곡의 방향에 의해 복수의 분할 영역을 정하여 어안 화상을 복수의 영역으로 분할한다는 것이다. 도 1의 (a)에 나타낸 예는, 어안 화상의 중심을 기준으로 하여 방사상으로 8개의 분할 영역을 정하여 어안 화상을 8개의 영역 (A) ? 영역 (H)로 어안 화상을 분할한 예이다. 또한, 도 1의 (b) ? 도 1의 (e)에 나타낸 예는, 전술한 바와 동일한 사상으로 어안 화상을 분할한 예이다.
그리고, 이후의 설명에서는, 도 1의 (a)에 나타낸 분할예를 사용하여 설명을 계속하지만, 도 1의 (b) ? 도 1의 (e)에 나타낸 예의 경우도 동일하므로, 이들 분할예에 대한 설명을 생략한다.
도 1의 (a)에 나타낸 바와 같이, 어안 화상을 그 중심을 기준으로 하여 8개의 영역으로 분할한 경우, 도 2에 나타낸 바와 같이, 영역마다 영역 내의 물체의 찍히는 방식이 상이하다. 도 2에는 분할한 영역 (A)과 영역 (H)가 찍혀있다. 평면 화상에서는 동일한 형상을 가지는 물체로서의 인물의 형상을 나타내고 있지만, 어안 화상 왜곡에 의해 영역마다 인물의 형상이 상이하다.
이 때문에, 검출 대상 데이터를 저장한 하나의 데이터베이스를 사용하여 물체의 검출을 행한 경우, 예를 들면, 영역 (H)에 찍혀 있는 인물을 검출할 수 있어도, 영역 (H)에 찍혀 있던 인물이 영역 (A)로 이동한 경우, 왜곡 방식이 상이하므로 어안 화상에의 찍히는 방식이 크게 달라져, 그 인물을 검출할 수 없게 될 가능성이 생기게 된다.
그래서, 본 발명의 제1 기본 사상에서는, 각 분할 영역마다, 즉 8개의 영역(A) ? 영역(H)마다, 대응하는 8개의 데이터베이스를 준비하고, 분할 영역마다 대응하는 데이터베이스와의 화상 비교를 행하여(도 1의 (a)에 나타낸 예의 경우, 8회의 화상 비교 처리를 행함) 물체의 검출을 행하는 것으로 한다. 이로써, 평면 화상으로 동일한 형상을 가지는 물체이면, 어떤 영역에 그 물체가 존재하는 경우라도, 확실하게 그 물체의 검출을 행하는 것이 가능해진다. 그리고, 분할 영역마다 그 영역에 대응한 데이터베이스의 작성의 방법에 대해서는 후술한다.
다음에, 본 발명의 제2 기본 사상에 의한 물체의 인식 방법에 대해 설명한다. 본 발명의 제2 기본 사상에 의한 방법은, 천공(天空) 방향 또는 지면에 대하여 수직인 방향으로 촬영된 어안 화상을 회전시켜, 물체의 인식을 행하는 방법이다.
일반적으로, 어안 화상은, 물체가 찍혀 있는 화상의 위치에 따라 왜곡의 방향이나 강도가 상이하다는 성질을 가진다. 이 왜곡의 강도는, 어안 렌즈의 외주 방향으로부터 들어오는 광에 의해 형성되는 화상의 중심으로부터 바깥쪽에 위치하는 물체의 화상일수록 커진다. 지금, 어떤 2개의 물체의 화상에 대하여 비교하여 보면, 같은 정도로 화상 중심에서 떨어져 있는 물체의 화상이면, 왜곡의 차이는 그 방향에만 한정된다. 그리고, 왜곡의 방향은 천공 방향 촬영 시 또는 지면에 대하여 수직인 방향으로 촬영 시, 어느 쪽의 경우도, 화상 중심을 중심으로 하는 원의 접선 방향에 가까운 것이므로, 검출 대상이 되는 물체와 마찬가지로 중심으로부터 같은 정도로 떨어져 있고, 또한 유사한 형상의 물체를 기초로 하여 작성된 데이터를 포함하는 데이터베이스를 사용하여 물체의 검출을 행하여 물체의 인식을 행하려고 하는 경우, 어안 화상의 중심을 기점으로 화상을 회전시킴으로써, 화상이 어느 회전 각도로 회전된 때에, 물체의 검출이 가능하게 되어 물체의 인식을 행할 수 있게 된다.
따라서, 검출 대상이 되는 물체의 화상을 포함하는 어안 화상의 회전 화상을 복수 사용함으로써, 어안 화상 상의 모든 패턴의 왜곡을 망라한 데이터베이스를 작성할 필요 없이, 물체의 인식이 가능해진다. 또한, 어안 화상을 이용하는 물체 인식 방법을 사용하는 시스템을 실제로 운용할 때는, 모든 패턴의 왜곡을 망라한 데이터 베이스가 아니라, 몇 가지 왜곡을 가진 데이터로 이루어지는 데이터베이스를 사용하는 것이 현실적이라고 생각된다. 그리고, 어안 화상을 회전시켜 물체 인식을 행하는 본 발명의 제2 기본 사상에 의한 물체의 인식 방법을 이용함으로써, 모든 패턴의 왜곡을 망라한 데이터베이스를 사용하는 방법에 비하여, 용이하게 인식 정밀도의 향상을 도모하는 것이 가능해진다.
도 3은 본 발명의 제2 기본 사상에 의한 인식 방법에서의 어안 화상의 회전 방법을 설명하는 도면이고, 도 4는 지면에 대하여 수직인 위쪽에서의 촬영의 예와 그 때 촬영된 어안 화상의 예를 나타낸 도면이고, 도 5는 대상으로 하는 어안 화상을 회전시킴으로써, 어안 화상에 포함된 검출하고 싶은 물체의 인식을 행하는 것이 가능해짐을 설명하는 도면이다.
도 3에는, 도 3의 (a)에 나타낸 대각 어안 화상을 회전시킨 예를 도 3의 (b) ? 도 3의 (d)로서, 또한 도 3의 (e)에 나타낸 원주 어안 화상을 회전시킨 예를 도 3의 (f) ? 도 3의 (h)로서 나타내고 있다.
물체 인식의 처리를 행하는 화상 영역은, 가로로 긴 형상을 가지기 때문에, 도 3의 (a)에 나타낸 바와 같은 가로로 긴 대각 어안 화상의 경우, 그대로 회전시키면, 화상이 묘사된 좌우측의 일부의 화상이 처리 영역으로부터 벗어나 사라지게 된다. 이 때문에, 가로로 긴 대각 어안 화상을 회전시키는 경우에는, 화상의 일부가 회전에 의해 사라지지 않도록, 처리 가능한 화상 영역을 확장하고 후에 회전을 행하도록 한다. 즉, 도 3의 (b)에 나타낸 바와 같이, 처리 가능한 화상 영역을 회색으로 나타낸 영역까지 확장하고, 이 영역 내에서 촬영된 어안 화상을 회전시키는 것으로 한다. 이로써, 도 3의 (c), 도 3의 (d)에 나타낸 바와 같이, 도 3의 (a)에 나타낸 바와 같은 대각 어안 화상을 어떻게 회전시킨 경우에도, 화상의 일부가 처리 가능한 영역 밖이 되어 사라지는 것을 방지할 수 있다.
또한, 도 3의 (e)에 나타낸 바와 같은 원주 어안 화상의 경우, 화상이 묘사된 부분은 회전에 의해 처리 가능한 영역으로부터 벗어나는 일은 없으므로, 도 3의 (f) ? 도 3의 (h)에 나타낸 바와 같이 그대로 회전을 행할 수 있다.
도 4의 (a)에는, 지면에 대하여 수직인 위쪽에서의 촬영의 예를 나타내고, 여기에 나타낸 예는, 예를 들면, 방의 천정에 설치한 카메라로부터 바닥면에 있는 복수의 인물 A, B 등을 촬영하는 상태를 나타내고 있다. 이와 같은 상태에서 촬영된 원주 어안 화상은, 예를 들면, 도 4의 (b)에 나타낸 바와 같은 것이 된다. 이 도 4의 (b)에 나타낸 예는, 촬영된 원주 어안 화상면과 지면(방의 바닥면)이 평행하고, 원주 어안 화상의 중심 O를 중심으로 하여, 화상을 도 4의 (c)에 나타낸 바와 같이, 반시계 방향으로 회전시킨 경우에, 각 인물의 왜곡 방식은 중심으로부터의 거리에 의해 정해져 있어, 회전시키는 것에 의해서도 그 왜곡 방식은 변하지 않게 된다. 따라서, 화상을 회전시켜도, 물체의 인식을 행할 수 있게 된다.
다음에, 어안 화상을 회전시킴으로써, 그 어안 화상에 포함된 검출하고 싶은 물체를 인식할 수 있음을 도 5를 참조하여 설명한다.
도 5에 나타낸 예는, 지표에서 천공 방향을 향해 촬영한 도 5의 (a)에 나타낸 바와 같은 원주 어안 화상을 대상으로 하는 어안 화상으로서, 이 어안 화상에 포함된 검출하고 싶은 물체의 인식을 행하는 것으로 하고 있다. 그리고, 검출하고 싶은 물체의 화상 데이터로서, 도 5의 (b) ? 도 5의 (d)에 나타낸 바와 같은 화상의 화상 데이터가 데이터베이스에 유지되어 있는 것으로 한다. 그리고, 도 5에서는, 회전에 의해 물체의 인식이 가능하다는 것을 나타낸 것이며, 여기서는 제1 사상에 서의, 영역별 데이터베이스는 취급하지 않는다.
도 5의 (a)에 나타낸 바와 같은 어안 화상으로부터 이 화상 내에 포함된 도 5의 (b) ? 도 5의 (d)에 나타낸 바와 같은 화상 데이터를 가지는 물체의 인식을 행하는 경우, 도 5의 (a)에 나타낸 바와 같은 어안 화상을 반시계 방향으로 회전시키면서, 이 어안 화상과 도 5의 (b) ? 도 5의 (d)에 나타낸 바와 같은 화상의 화상 데이터를 가지는 데이터베이스를 비교 대조하여 물체의 인식을 행하게 된다. 즉, 도 5의 (a)에 나타낸 바와 같은 어안 화상을, 도 5의 (e) ? 도 5의 (h)에 나타낸 바와 같이 반시계 방향으로 조금씩 회전시키면서, 회전시킨 화상과 도 5의 (b) ? 도 5의 (d)에 나타낸 바와 같은 화상 데이터를 가지는 데이터베이스를 비교 대조하여 간다.
그리고, 회전시키지 않은 도 5의 (e)에 나타낸 화상과 도 5의 (b) ? 도 5의 (d)에 나타낸 데이터베이스의 화상 데이터를 비교 대조한 경우, 도 5의 (b) ? 도 5의 (d)에 나타낸 데이터베이스의 화상 데이터와 일치(위치, 방향도 포함한 일치)하는 물체의 화상이 도 5의 (e)에 나타낸 화상 중에서 발견할 수 없으므로, 도 5의 (i)에 나타내고 있는 바와 같이, 미검출이 된다. 또한, 도 5의 (e)에 나타낸 화상을 반시계 방향으로 회전시킨 도 5의 (f)에 나타낸 화상과 도 5의 (b) ? 도 5의 (d)에 나타낸 데이터베이스의 화상 데이터를 비교 대조한 경우도, 전술한 경우와 마찬가지로, 도 5의 (b) ? 도 5의 (d)에 나타낸 데이터베이스의 화상 데이터와 일치(위치, 방향도 포함한 일치)하는 물체의 화상이 도 5의 (f)에 나타낸 화상 중에서 발견할 수 없으므로, 도 5의 (j)에 나타내고 있는 바와 같이, 미검출이 된다.
또한, 도 5의 (f)에 나타낸 화상을 반시계 방향으로 회전시킨 도 5의 (g)에 나타낸 화상과 도 5의 (b) ? 도 5의 (d)에 나타낸 데이터베이스의 화상 데이터를 비교 대조한 경우, 도 5의 (b)에 나타낸 데이터베이스의 화상 데이터와 일치(위치, 방향도 포함한 일치)하는 물체의 화상을 도 5의 (g)에 나타낸 화상 중에서 발견할 수 있어, 도 5의 (k)에 나타내고 있는 바와 같이, 검출이 된다. 또한, 도 5의 (g)에 나타낸 화상을 반시계 방향으로 회전시킨 도 5의 (h)에 나타낸 화상과 도 5의 (b) ? 도 5의 (d)에 나타낸 데이터베이스의 화상 데이터를 비교 대조한 경우, 전술한 경우와 마찬가지로, 도 5의 (c)에 나타낸 데이터베이스의 화상 데이터와 일치(위치, 방향도 포함한 일치)하는 물체의 화상을 도 5의 (h)에 나타낸 화상 중에서 발견할 수가 있어, 도 5의 (l)에 나타내고 있는 바와 같이, 검출이 된다.
전술한 바와 같이, 본 발명의 제2 기본 사상에 의한 인식 방법은, 대상이 되는 어안 화상에서는, 도 5의 (b) ? 도 5의 (d)에 나타낸 바와 같은 화상 데이터를 가지는 데이터베이스를 사용한 경우, 물체의 검출을 행할 수 없지만, 대상이 되는 어안 화상을 어느 각도 회전시킨 화상의 경우에 검출 가능해진다. 따라서, 물체가 검출되었을 때, 그 검출 결과와 그때의 대상이 되는 어안 화상의 회전 각도로부터, 대상이 되는 어안 화상 중의 검출된 물체의 위치를 구할 수 있다.
여기서, 제1 기본 사상에 의한 방법을 위한, 분할 영역마다 그 영역에 대응하는 데이터베이스의 작성의 방법에 대하여 설명한다. 제2 기본 사상의 근거인, "2개의 물체의 화상에 대하여 비교하여 보면, 같은 정도로 화상 중심으로부터 떨어져 있는 물체의 화상이면, 왜곡의 차이는 그 방향에만 한정된다"는 것에 의해, 데이터베이스 작성용의 화상에 대하여, 회전을 가함으로써, 데이터베이스용 화상을 복수 개 생성하는 것이 가능하다고 할 수 있다. 제2 기본 사상의 근거만을 사용한 데이터베이스의 작성 방법을 설명한 것이 도 6이며, 또 제1 기본 사상에 의한 방법을 위한 영역별 데이터베이스의 작성 방법을 설명한 것이 도 7이다. 이하, 상세하게 설명한다.
도 6은 하나의 데이터베이스 작성용의 화상으로부터 복수의 데이터베이스 작성용의 화상 데이터를 작성하는 방법을 설명하는 도면이다.
도 6에서는, 지면에서 천공 방향에 대하여 수직인 방향으로 촬영된 어안 화상에 대한 물체의 인식에 사용하는 데이터베이스의 작성에 대하여 설명한다. 이 경우의 데이터베이스의 작성은, 이미 설명한 바와 같이, 어안 화상 상의 위치와 왜곡의 방향에 의한 성질보다, 데이터베이스에 저장하는 화상 데이터의 근원(source)이 되는 화상을 회전시킨 것을, 근원이 되는 화상 데이터에 가함으로써 행할 수 있다. 이와 같은 방법을 이용함으로써, 데이터베이스에 사용하는 화상 데이터 수집의 노력을 삭감할 수 있다. 도 6에 나타낸 예에서는, 하나의 데이터로부터 데이터베이스 작성용의 복수의 데이터를 작성하고 있고, 어안 화상으로부터 작성된 데이터베이스용의 데이터에 대하여, 90도의 회전을 가함으로써, 데이터베이스에 사용하는 데이터를 또한 작성하고 있다.
도 6에서, 도 6의 (a)에는, 데이터베이스 작성용의 천공 방향을 촬영한 어안 화상의 예를 나타내고 있다. 데이터베이스의 작성시, 먼저, 검출하고 싶은 대상 물체의 화상으로서, 도 6의 (a)에 나타낸 어안 화상의 점선으로 둘러싼 3개의 화상을 추출하고, 이들 물체의 화상의 화상 데이터를 근원 화상 데이터로서, 도 6의 (b) ? 도 6의 (d)에 나타낸 바와 같이 작성한다. 다음에, 도 6의 (b) ? 도 6의 (d)에 나타낸 어안 화상 데이터를 90도씩 회전시켜, 도 6의 (b)에 나타낸 화상 데이터로부터 도 6의 (e) ? 도 6의 (g)에 나타낸 바와 같은 화상 데이터를 작성하고, 이들의 화상 데이터에 근원이 되는 도 6의 (b)에 나타낸 화상 데이터를 가함으로써, 데이터베이스용의 데이터를 작성하고, 또한 도 6의 (c)에 나타낸 화상 데이터로부터 도 6의 (h) ? 도 6의 (j)에 나타낸 바와 같은 화상 데이터를 작성하고, 이들의 화상 데이터에 근원이 되는 도 6의 (c)에 나타낸 화상 데이터를 가함으로써, 하나의 데이터베이스를 작성하고, 또한 도 6의 (d)에 나타낸 화상 데이터로부터 도 6의 (k) ? 도 6의 (m)에 나타낸 바와 같은 화상 데이터를 작성하고, 이들의 화상 데이터에 근원이 되는 도 6의 (d)에 나타낸 화상 데이터를 가함으로써, 1개의 데이터 베이스를 작성한다.
도 7은 어느 영역의 데이터베이스의 화상 데이터로부터 다른 영역용의 데이터베이스의 화상 데이터를 작성하는 방법을 설명하는 도면이다. 여기서 설명하는 예는, 어느 영역용의 데이터베이스의 화상 데이터로부터 회전에 의해 다른 영역용의 데이터베이스의 화상 데이터를 만드는 경우의 예이다.
데이터베이스 작성용의 어안 화상으로서, 도 7의 (a), 도 7의 (b)에 나타낸 바와 같은 어안 화상을 사용하는 것으로 한다. 또한, 이 경우의 화상의 분할이 도 7의 (c)에 나타낸 바와 같이 행해지는 것으로 한다.
그리고, 데이터베이스 작성시, 먼저, 도 7의 (a), 도 7의 (b)에 나타낸 어안 화상으로부터 분할 영역 (C)용의 데이터베이스의 화상 데이터로서, 도 7의 (d), 도 7의 (e)에 나타낸 바와 같은 화상 데이터를 작성하고, 또한 이들의 화상 데이터를 다른 분할 영역용의 데이터베이스용으로 사용하는 화상 데이터를 작성하기 위한 근원이 되는 화상 데이터로서 사용하는 것으로 한다. 다음에, 도 7의 (d), 도 7의 (e)에 나타낸 분할 영역 (C)용의 데이터베이스의 화상 데이터를 반시계 방향으로 90도 회전시켜, 도 7의 (f), 도 7의 (g)에 나타낸 바와 같은 화상 데이터를 작성하고, 이들의 화상 데이터를 분할 영역 (E)용의 데이터베이스의 화상 데이터로 한다. 또한, 도 7의 (f), 도 7의 (g)에 나타낸 분할 영역(E)용의 데이터베이스의 화상 데이터를 반시계 방향으로 90도 회전시켜, 도 7의 (h), 도 7의 (i)에 나타낸 바와 같은 화상 데이터를 작성하고, 이들의 화상 데이터를 분할 영역 (G)용의 데이터베이스의 화상 데이터로 한다. 또한, 도 7의 (h), 도 7의 (i)에 나타낸 분할 영역 (G)용의 데이터베이스의 화상 데이터를 반시계 방향으로 90도 회전시켜, 도 7의 (j), 도 7의 (k)에 나타낸 바와 같은 화상 데이터를 작성하고, 이들의 화상 데이터를 분할 영역 (A)용의 데이터베이스의 화상 데이터로 한다.
그리고, 분할 영역 (D), (F), (H), (B), (I)용의 데이터베이스에 사용하는 화상 데이터도, 전술한 바와 마찬가지로 작성할 수 있다. 이렇게 하여, 화상 데이터를 작성함으로써, 영역 사이에서의 인식 정밀도의 균등화를 도모할 수 있다.
다음에, 본 발명의 제3 기본 사상에 의한 물체의 인식 방법에 대해 설명한다. 본 발명의 제3 기본 사상에 의한 방법은, 전술한 본 발명의 제1 및 제2 기본 사상에 의한 물체의 인식 방법을 병용하는 방법이다. 본 발명의 제1 및 제2 기본 사상에 의한 물체의 인식 방법을 병용한 본 발명의 제3 기본 사상에 의한 물체의 인식 방법에 의하면, 대상이 되는 어안 화상이 필요로 하는 회전 횟수를 저감시킬 수 있고, 물체 검출에 필요한 시간을 단축할 수 있는 동시에, 영역 분할 시의 물체의 인식에 있어 영역 경계 부근에 위치하고 있는 물체가 미검출될 가능성이 있다는 문제도 해결할 수 있다.
도 8은 본 발명의 제3 기본 사상에 의한 물체의 인식 방법을 설명하는 도면이며, 다음에, 이에 대하여 설명한다.
도 8에서, 도 8의 (a)에는, 도 1을 참조하여 전술한 어안 화상을 8개의 영역으로 분할하여 물체의 인식을 행하는 방법에서의 도 1의 (a)에 나타낸 것과 같은 것을 대상으로 하는 어안 화상을 나타내고, 검출하고 싶은 대상 물체인 인물이 영역 (B)과 영역 (C)의 경계 위치에 촬영되어 존재하는 것으로 하고 있다. 그리고, 물체의 검출을 위한 분할 영역(C)에 대응하는 데이터베이스로서, 대상 물체인 인물이 영역 (C)의 중앙, 영역 (B)와 영역 (C)의 경계, 영역 (C)와 영역 (D)의 경계에 위치하고 있는 경우에 대응하도록 도 8의 (b) ? 도 8의 (d)에 나타낸 검출하고 싶은 물체의 화상의 화상 데이터를 가지는 데이터베이스가 준비되어 있다.
그리고, 전술한 본 발명의 제1 기본 사상에 의한 물체 인식 방법의 경우와 마찬가지로, 8개의 분할 영역의 각 분할 영역마다 각각의 왜곡 방식을 가지는 데이터베이스를 준비한다. 먼저 설명한 영역별 데이터베이스 작성 방법을 이용했을 때, 각 분할 영역마다 데이터베이스의 차이는 왜곡의 방향만이라고 생각될 수 있기 때문에, 본 발명의 제3 기본 사상에 의한 물체의 인식 방법에서는, 모든 영역을 대상으로 하는 어안 화상을 회전시키는 각도의 합계는 도 1의 (a)의 분할 방법인 경우, 360÷8=45에서, 영역 사이 각도인 45도까지의 회전을 행하면 충분하다. 이것은, 만약, 15도의 회전 각도로 도 8 (C)의 중앙부에서 검출할 수 있는 대상이 있는 경우, 합계 360도까지의 회전을 행하는 경우, 60도 회전한 도 8 (D)의 중앙부, 105도 회전한 도 8 (E)의 중앙부, 150도 회전한 도 8 (F)의 중앙부, 195도 회전한 도 8 (G)의 중앙부, 240도 회전한 도 8 (H)의 중앙부, 285도 회전한 도 8 (A)의 중앙부, 330도 회전한 도 8 (B)의 중앙부와 8회의 중복 검출을 행하기 때문이다.
도 8의 (a)에 나타낸 바와 같은 어안 화상으로부터 이 화상의 분할 영역 (C) 내에 포함된 도 8의 (b) ? 도 8의 (d)에 나타낸 바와 같은 화상 데이터를 가지는 물체의 인식을 행하는 경우, 도 8의 (a)에 나타낸 바와 같은 어안 화상을 조금씩 회전시키면서, 이 어안 화상과, 도 8의 (b) ? 도 8의 (d)에 나타낸 바와 같은 화상의 화상 데이터를 가지는 데이터베이스를 비교 대조하여 물체의 인식을 행하게 된다. 이 경우, 전술한 바와 같이 화상의 회전은, 영역 사이 각도인 45도까지의 회전일 수 있다. 그리고, 대상이 되는 어안 화상의 회전은 화상을 회전시킬 뿐이며, 영역이 회전하는 것은 아니다.
그리고, 회전시키지 않은 도 8의 (e)에 나타낸 화상과, 도 8의 (b) ? 도 8의 (d)에 나타낸 데이터베이스의 화상 데이터를 비교 대조한 경우, 도 8의 (b) ? 도 8의 (d)에 나타낸 데이터베이스의 화상 데이터와 일치(위치, 방향도 포함한 일치)하는 물체의 화상이 도 8의 (e)에 나타낸 화상 중에서 발견될 수 없기 때문에, 도 8의 (g)에 나타내고 있는 바와 같이, 미검출이 된다. 또한, 검출하고 싶은 대상 물체인 인물이 영역(B)과 영역(C)의 경계 위치에서 촬영되어 존재하고 있는 경우, 영역(B)과 영역(C)의 각각의 영역에 대응한 데이터베이스를 사용해도, 대상이 되는 물체의 검출을 행할 수 없을 가능성이 높다.
그러나, 도 8의 (e)에 나타낸 화상을 조금씩 반시계 방향으로 회전시켜 가면, 도 8의 (f)에 나타낸 바와 같이, 대상이 되는 물체의 화상이 분할 영역의 대략 중앙에 위치하게 되어, 도 8의 (b) ? 도 8의 (d)에 나타낸 데이터베이스의 화상 데이터와 비교 대조한 경우, 도 8의 (h)에 나타내고 있는 바와 같이, 검출할 수 있게 된다.
이상의 설명에서는, 데이터베이스의 화상 데이터로서, 도 8의 (b) ? 도 8의 (d)에 나타내고 있는 3개의 화상 데이터를 가진다고 했지만, 분할 영역 (C) 내에서 보다 미세한 회전 위치에서의 화상 데이터를 준비하여 데이터베이스를 작성하면, 보다 정밀도 높은 물체의 인식을 행하는 것이 가능해진다.
도 9는 본 발명의 일 실시예에 의한 물체 인식 장치의 기능 구성을 나타낸 블록도이다. 여기에서의 본 발명의 실시예는, 어안 렌즈를 사용하여 촬영한 원주 어안을 8개의 영역으로 분할하고, 전술한 제1 기본 사상 및 제3 기본 사상으로 물체 인식을 행하는 것으로 하여 설명한다.
도 9에 나타낸 본 발명의 실시예에 의한 물체 인식 장치는, 회전 처리를 행한 복수의 대상 어안 화상(110)을 저장한 메모리, 물체 인식부(130), 대상 어안 화상의 분할 영역 (A ? H) 각각에 대응하는 영역별 데이터베이스(140), 및 인식된 물체의 인식 좌표를 원래의 대상 어안 화상(100)의 좌표로 변환하는 검출 좌표 역변환부(150)를 포함하여 구성되어 있다.
전술한 바와 같이 구성되는 본 발명의 실시예에 의한 물체 인식 장치에서, 먼저, 물체 인식의 대상이 되는 어안 화상(100)을 회전시킨 복수의 화상을 생성한다. 또한, 여기서는, 대상 화상의 영역 분할 수를 화상 중심을 기준으로 8개의 분할 영역으로 나누고 있다. 이것을, 도 9에 화상에 적응한 영역 분할 방법(120)으로 나타내고 있다. 도 9에서는, 회전한 대상 어안 화상(110)은, 15도의 회전 각도를 사용함으로써 45÷15=3에서, 3개의 화상으로 했지만, 어안 화상(100)을 15도보다 작은 각도로 회전시켜, 복수 개의 화상을 작성하고, 메모리 내에 유지해도 된다. 그리고, 여기서 주의해야 할 점은, 회전한 복수의 어안 화상(110)은 화상만이 회전되어 있고, 분할 영역의 위치에 대해서는 회전되지 않은 것이라는 점이다.
전술한 본 발명의 실시예에 의한 물체 인식 장치를 사용하여, 전술한 제1 기본 사상으로 물체 인식을 행하는 경우, 물체 인식부(130)는 메모리 내에 저장된 복수 개의 물체 인식을 행하는 대상 어안 화상 각각에 대하여, 각각의 어안 화상의 각 분할 영역 (A ? H)마다, 대응하는 분할 영역용의 영역별 데이터베이스(140)를 사용하고, 그 데이터베이스에 포함된 검출하고 싶은 물체의 화상 데이터와 대상 어안 화상의 화상 데이터의 비교를 행하여 물체의 검출 인식을 행한다. 그 후, 검출 좌표 역변환부(150)는, 물체 데이터가 회전된 어느 어안 화상의 어떤 좌표 위치에 존재한다고 검출되었는지의 정보로부터, 대상 어안 화상(100)의 물체의 존재하는 좌표 위치로 변환하여 출력한다.
그리고, 전술한 본 발명의 실시예에 의한 물체 인식 장치를 사용하여, 전술한 제1 기본 사상으로 물체 인식을 행하는 경우의 가장 단순한 구성의 경우, 대상 어안 화상(100)을 그대로 대상 어안 화상(110)으로서 메모리에 저장하고, 그 하나의 어안 화상(110)에 대해서만, 물체 인식부(130)가 전술한 바와 마찬가지로, 그 어안 화상의 각 분할 영역마다 대응하는 영역용의 영역별 데이터베이스(140)를 사용하여 물체 검출을 행하도록 하면 된다.
또한, 전술한 본 발명의 실시예에 의한 물체 인식 장치를 사용하여, 전술한 제3 기본 사상으로 물체 인식을 행하는 경우, 대상 어안 화상을 45도보다 작은 각도로 45도의 범위에서 회전시킨 복수의 회전 처리를 행한 대상 어안 화상(110)을 작성하여 메모리에 저장하고, 이들 복수의 대상 어안 화상(110) 각각에 대하여, 물체 인식부(130)가, 전술한 바와 마찬가지로, 그 어안 화상의 각 분할 영역마다 대응하는 영역용의 영역별 데이터베이스(140)를 사용하여 물체 검출을 행하도록 하면 된다.
예를 들면, 전술한 대상 어안 화상을 회전시키는 45도보다 작은 각도를 15도로 하면, 15도 단위로 대상 어안 화상(100)을 회전시키고, 45÷15=3에서 0도 회전 화상, 15도 회전 화상, 30도 회전 화상의 3개의 회전 처리를 행한 대상 어안 화상(110)을 생성하여, 메모리에 저장하여, 3개의 대상 어안 화상(110)의 각각에 대하여, 물체 인식부(130)가 전술한 바와 마찬가지로, 그 어안 화상의 각 분할 영역마다 대응하는 영역용의 영역별 데이터베이스(140)를 사용하여 물체 검출을 행하도록 하면 된다.
그리고, 위의 설명에서는, 대상 어안 화상의 회전 각도를 15도 단위로 하였으나, 이 회전 각도는 용도에 따라 결정하면 된다. 그리고, 검출 좌표 역변환부(150)는 15도 회전 화상, 30도 회전 화상으로 검출한 물체 좌표를, 15도 역회전, 30도 역회전에 의해 대상 어안 화상(100) 상의 어디에 있는지를 구함으로써, 어안 화상(100)에서의 인식한 물체의 좌표 위치를 출력한다.
도 10은 본 발명의 일 실시예에 의한 물체 인식 장치의 하드웨어 구성을 나타낸 블록도이다.
본 발명의 실시예에 의한 물체 인식 장치는, 어안 화상을 촬영하는 입력 장치로서의 어안 카메라(210)와, 어안 카메라(210)에 의해 촬영된 어안 화상에 포함된 검출하고 싶은 대상 물체를 검출 인식하는 어안 물체 인식 장치(200)를 포함하여 구성된다. 또한, 어안 물체 인식 장치(200)는, 어안 화상을 불러오는(fetch) 인터페이스인 화상 입력부(220), 화상 입력부(220)가 불러온 화상에 회전을 가하는 화상 회전부(230), 데이터베이스 저장용 메모리(240), 데이터베이스 저장용 메모리(240)에 저장된 영역별 데이터베이스(241), 어안 화상 내에 포함된 검출하고 싶은 대상 물체를 검출 인식하는 물체 인식부(250), 물체 인식부(250)에 의해 얻은 검출 좌표를 회전 전의 좌표로 변환하는 검출 좌표 변환부(260), 및 검출 결과를 출력하는 검출 결과 출력부(270)를 포함하여 구성되어 있다. 또한, 물체 인식부(250)는 물체의 인식을 행하는 물체 인식 알고리즘부(251)와, 화상 입력부(220)로부터의 회전시키지 않은 화상 및 화상 회전부(230)로부터의 회전된 화상을 저장하는 화상 저장용 메모리(252)를 포함하여 구성되어 있다.
전술한 바와 같이 구성되는 본 발명의 실시예에 의한 물체 인식 장치에서, 어안 카메라(210)에 의해 촬영되어 얻어진 어안 화상의 데이터는, 어안 물체 인식 장치(200)에 입력되어 화상 입력부(220)에 의해 불러 들여져, 화상 입력부(220)를 통하여 화상 회전부(230)에 입력된다. 화상 회전부(230)에 입력된 어안 화상 데이터는 화상 회전부(230)에 의해 회전되어, 복수의 회전 후 화상 데이터로 생성되고, 이들 화상 데이터와 화상 입력부로부터의 회전되지 않은 어안 화상 데이터가 물체 인식부(250) 내의 화상 저장용 메모리(252)에 저장된다. 그리고, 물체 인식부(250) 내의 물체 인식 알고리즘부(251)는 화상 저장용 메모리(252)에 저장되어 있는 회전시키지 않은 화상 데이터 및 회전시킨 복수의 화상 데이터 각각에 대하여, 메모리(240)에 저장되어 있는 영역별 데이터베이스(241)를 사용하여 물체 인식의 처리를 행한다. 물체 인식 알고리즘부(251)에 의한 물체의 검출 결과는 검출 좌표 변환부(260)에 입력된다. 그리고, 검출 좌표 변환부(260)는 입력된 검출 결과인 물체의 검출 좌표를 회전 전의 좌표로 변환한 후, 그 결과를 검출 결과 출력부(270)를 통하여 어안 물체 인식 장치(200)의 외부에 출력시킨다.
도 11은 도 10에 나타낸 물체 인식 장치에 있어서의 어안 카메라(210)의 설치예를 나타낸 도면이다.
도 10에 나타낸 물체 인식 장치에서의 어안 카메라(210)의 설치 위치는, 특히 제약되는 것은 아니지만, 도 11에 나타낸 예에서는, 어안 카메라(210)는 방의 천정에 설치되어 바닥면에 수직인 방향으로 렌즈가 향해 있다. 그리고, 방의 바닥 상에는, 물체 인식의 대상이 되는 물체로서 2명의 인물이 존재하고 있다. 도 11에 나타낸 물체 인식 장치는, 전술한 바와 같이 설치되어 있는 어안 카메라(210)가 촬영한 어안 화상으로부터 2명의 인물의 존재를 인식하는 것이다.
도 12, 도 13은 어안 카메라에 의해 촬영한 화상 내의 물체의 인식을 행하기 위해 사용하는 데이터베이스의 작성 방법을 설명하는 도면이다. 도 12, 도 13은 데이터베이스의 작성 방법을 설명하는 일련의 것이므로, 이하에서는, 이들을 계속하여 설명한다. 또한, 여기서 설명하는 예는, 원주 어안 렌즈를 사용하여 촬영된 화상을, 도 1의 (a)에 나타내고 설명한 것과 같은 화상의 중심으로부터 외주 방향으로 8개의 영역으로 분할하고, 각각의 영역마다 대응하는 영역별 데이터베이스를 작성하는 예이다.
먼저, 물체 인식에 의해 검출시키고 싶은 물체인 대상 물체를 포함한 도 12의 (a)에 나타낸 바와 같은 어안 화상(300)을, 데이터베이스 작성에 사용하는 어안 화상으로서 복수 개 준비한다. 다음에, 데이터베이스 작성에 사용하는 복수 개 준비한 어안 화상(300) 중 하나인 도 12의 (c)에 나타낸 바와 같은 어안 화상에 대하여 회전을 가하여, 이 어안 화상 내에 포함된 대상 물체가 도 12의 (b)에 나타낸 분할 영역 (A) 내지 (H) 중 어느 하나의 영역의 중앙에 위치하도록 한다.
다음에, 도 12의 (c)에 나타낸 어안 화상을 회전시켜 도 12의 (d), 도 12의 (e)에 나타낸 바와 같은 어안 화상(330, 340)을 생성한다. 이 어안 화상(330, 340)의 생성은, 도 12의 (c)에 나타낸 어안 화상에 포함된 검출할 수 있었으면 하는 대상 물체(321, 322)가 분할 영역 (A), (F)의 중앙에 대상 물체(331, 341)로서 위치하도록 행해진다.
그리고, 도 13의 (f)에 나타낸 어안 화상(330)의 분할 영역(C)의 중앙에 위치한 대상 물체(331)를, 도 13의 (g)에 나타낸 바와 같이 대상 물체의 화상(350)으로서 잘라낸다. 이 대상 물체의 화상(350)은, 0도 회전, 90도 회전, 180도 회전, 270도 회전되어, 도 13의 (h)에 나타낸 바와 같이, 대상 물체의 화상(351 ? 354)이 되고, 이들 대상 물체의 화상(351 ? 354)이 대응하는 데이터베이스용의 화상으로서, 화상 데이터가 되어 데이터베이스용의 데이터로서 사용된다.
또한, 도 13의 (f)에 나타낸 어안 화상(330)을 45도 회전시켜 도 13의 (i)에 나타낸 바와 같은 어안 화상(360)을 작성한다. 이 어안 화상(360) 내에는, 어안 화상(330) 내의 대상 물체(331)가 분할 영역(D)의 중앙으로 이동하여 위치하고 있다. 또, 어안 화상(360)은 도 12의 (c)에 나타낸 어안 화상(320)으로부터 도 12의 (d)에 나타낸 어안 화상(330)을 생성했을 때의 회전 각도에 45도를 더하여 작성할 수도 있다.
그리고, 도 13의 (i)에 나타낸 어안 화상(360)의 분할 영역(D)의 중앙에 위치한 대상 물체(361)를, 도 13의 (j)에 나타낸 바와 같이 대상 물체의 화상(370)으로서 잘라낸다. 이 대상 물체의 화상(370)은, 0도 회전, 90도 회전, 180도 회전, 270도 회전되어, 도 13의 (k)에 나타낸 바와 같이, 대상 물체의 화상(371 ? 374)이 되고, 이들의 대상 물체의 화상(371 ? 374)이 대응하는 데이터베이스용의 화상으로서, 화상 데이터가 되어 데이터베이스용의 데이터로서 사용된다.
전술한 바와 같은 데이터베이스의 작성 방법에 의하면, 어안 화상 상의 하나의 데이터베이스용 데이터로부터 복수의 데이터를 작성할 수 있고, 데이터베이스의 작성에 필요한 근원이 되는 어안 화상의 매수를 감소시킬 수 있다.
전술한 데이터베이스의 작성 방법은, 영역별 데이터베이스용의 데이터를 작성하는 것으로서 설명하였으나, 영역별 데이터베이스가 아니라, 단일의 데이터베이스용의 데이터의 작성만을 행하려는 경우에는, 대상 물체를 포함한 어안 화상으로부터, 도 12의 (c)에 나타낸 어안 화상(320)의 작성을 행하지 않고, 도 12의 (a)에 나타낸 어안 화상(300)으로부터 대상 물체를 잘라내고, 작성하려는 개수에 따라 회전을 가하여 데이터의 작성을 행하면 된다.
이상, 본 발명의 실시예를 설명하였으나, 본 발명은 전술한 본 발명의 실시예에 한정되지 않고, 본 발명의 요지를 벗어나지 않는 범위에서 사용하는 어안 렌즈, 물체 인식 알고리즘, 영역 분할 방법, 데이터베이스용 데이터를 잘라내는 방법, 회전 각도 및 회전 횟수 중 적어도 하나에 변경을 가하여 변형할 수 있다.
200: 어안 물체 인식 장치
210: 어안 카메라
220: 화상 입력부
230: 화상 회전부
240: 메모리
241: 영역별 데이터베이스
250: 물체 인식부
251: 물체 인식 알고리즘
252: 화상 저장용 메모리
260: 검출 좌표 변환부
270: 검출 결과 출력부

Claims (8)

  1. 어안 카메라에 의해 촬영된 어안 화상을 그대로 이용하여 어안 화상 내에 포함된 물체를 인식하는 물체 인식 장치에서의 물체 인식 방법에 있어서,
    상기 물체 인식 장치는, 상기 어안 카메라로부터 입력되는 어안 화상으로부터 어안 화상 내에 포함된 검출하고 싶은 대상 물체를 인식하는 물체 인식부와, 입력되는 어안 화상의 왜곡의 방향에 맞추어 상기 입력되는 어안 화상을 복수로 분할하는 분할 영역을 정해 복수의 분할 영역으로 분할하고, 상기 분할된 분할 영역마다 대응하는 검출하고 싶은 대상 물체의 인식에 사용하는 영역별 데이터베이스를 포함하여 구성되고,
    상기 물체 인식부는, 상기 입력되는 어안 화상의 분할 영역마다 대응하는 상기 영역별 데이터베이스를 사용하여 입력된 상기 어안 화상으로부터 상기 어안 화상 내에 포함된 검출하고 싶은 대상 물체의 검출 인식을 행하는, 물체 인식 방법.
  2. 제1항에 있어서,
    상기 물체 인식 장치는 상기 입력되는 어안 화상을 회전시키는 화상 회전부를 더 포함하고,
    상기 화상 회전부는 상기 입력되는 어안 화상을 미리 정해진 각도씩 회전시켜, 회전된 복수의 어안 화상을 작성하고,
    상기 물체 인식부는, 상기 입력되는 회전되지 않은 어안 화상 및 상기 회전된 복수의 어안 화상 각각에 대하여, 상기 분할 영역마다 검출하고 싶은 대상 물체의 검출 인식을 행하는, 물체 인식 방법.
  3. 제2항에 있어서,
    상기 물체 인식 장치는 검출 좌표 변환부를 더 포함하고,
    상기 검출 좌표 변환부는, 상기 물체 인식부에 의해 검출 인식된 대상 물체가 상기 회전되지 않은 어안 화상과 상기 회전된 복수의 어안 화상 중 어느 어안 화상으로부터 검출되었는지에 따라, 검출 결과인 물체의 검출 좌표를 회전전 어안 화상의 좌표로 변환하는, 물체 인식 방법.
  4. 제1항 내지 제3항 중 어느 한 항에 있어서,
    상기 영역별 데이터베이스는, 검출하고 싶은 대상 물체가 찍혀있는 데이터베이스 작성에 사용하는 어안 화상을 회전시키고, 검출하고 싶은 대상 물체의 데이터를 잘라냄으로써 작성하는, 물체 인식 방법.
  5. 어안 카메라에 의해 촬영된 어안 화상을 그대로 이용하여 어안 화상 내에 포함된 물체를 인식하는 물체 인식 장치에 있어서,
    상기 어안 카메라로부터 입력되는 어안 화상으로부터 어안 화상 내에 포함된 검출하고 싶은 대상 물체를 인식하는 물체 인식부, 및
    입력되는 어안 화상의 왜곡의 방향에 맞추어 상기 입력되는 어안 화상을 복수로 분할하는 분할 영역을 정하여 복수의 분할 영역으로 분할하고, 상기 분할된 분할 영역마다 대응하는 검출하고 싶은 대상 물체의 인식에 사용하는 영역별 데이터베이스
    를 포함하고,
    상기 물체 인식부는, 상기 입력되는 어안 화상의 분할 영역마다 대응하는 상기 영역별 데이터베이스를 사용하여 입력된 상기 어안 화상으로부터 상기 어안 화상 내에 포함된 검출하고 싶은 대상 물체의 검출 인식을 행하는, 물체 인식 장치.
  6. 제5항에 있어서,
    상기 입력되는 어안 화상을 회전시키는 화상 회전부를 더 포함하고,
    상기 화상 회전부는, 상기 입력되는 어안 화상을 미리 정해진 각도씩 회전시켜 회전된 복수의 어안 화상을 작성하고,
    상기 물체 인식부는, 상기 입력되는 회전되지 않은 어안 화상 및 상기 회전된 복수의 어안 화상 각각에 대하여, 상기 분할 영역마다 검출하고 싶은 대상 물체의 검출 인식을 행하는, 물체 인식 장치.
  7. 제6항에 있어서,
    검출 좌표 변환부를 더 포함하고,
    상기 검출 좌표 변환부는, 상기 물체 인식부에 의해 검출 인식된 대상 물체가 상기 회전되지 않은 어안 화상과 상기 회전된 복수의 어안 화상 중 어느 어안 화상으로부터 검출되었는지에 따라, 검출 결과인 물체의 검출 좌표를 회전전 어안 화상의 좌표로 변환하는, 물체 인식 장치.
  8. 제5항 내지 제7항 중 어느 한 항에 있어서,
    상기 영역별 데이터베이스는, 검출하고 싶은 대상 물체가 찍혀 있는 데이터베이스 작성에 사용하는 어안 화상을 회전시키고, 검출하고 싶은 대상 물체의 데이터를 잘라냄으로써 작성된 것인, 물체 인식 장치.
KR1020120043869A 2011-04-26 2012-04-26 물체 인식 방법 및 인식 장치 Expired - Fee Related KR101374643B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JPJP-P-2011-098347 2011-04-26
JP2011098347A JP5739722B2 (ja) 2011-04-26 2011-04-26 物体認識方法及び認識装置

Publications (2)

Publication Number Publication Date
KR20120121373A true KR20120121373A (ko) 2012-11-05
KR101374643B1 KR101374643B1 (ko) 2014-03-14

Family

ID=46229179

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120043869A Expired - Fee Related KR101374643B1 (ko) 2011-04-26 2012-04-26 물체 인식 방법 및 인식 장치

Country Status (5)

Country Link
US (1) US20120274782A1 (ko)
EP (1) EP2518663A3 (ko)
JP (1) JP5739722B2 (ko)
KR (1) KR101374643B1 (ko)
CN (1) CN102831386B (ko)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2645701A1 (en) * 2012-03-29 2013-10-02 Axis AB Method for calibrating a camera
JP5975966B2 (ja) 2013-10-30 2016-08-23 京セラドキュメントソリューションズ株式会社 画像形成装置
JP6156212B2 (ja) * 2014-03-18 2017-07-05 株式会社デンソー 物体検出装置
JP2015210702A (ja) * 2014-04-28 2015-11-24 キヤノン株式会社 画像処理装置及び画像処理方法
JP6074750B2 (ja) * 2014-05-23 2017-02-08 パナソニックIpマネジメント株式会社 画像切替装置、画像切替システム、及び画像切替方法
CN104167002B (zh) * 2014-08-28 2017-01-11 中国矿业大学 鱼眼图像的有效区域提取方法
JP6548900B2 (ja) * 2015-01-20 2019-07-24 株式会社デンソーテン 画像生成装置、画像生成方法及びプログラム
JP2016171526A (ja) * 2015-03-13 2016-09-23 株式会社東芝 画像センサ、人検出方法、制御システム、制御方法及びコンピュータプログラム
JP6732509B2 (ja) * 2016-04-15 2020-07-29 キヤノン株式会社 画像処理装置、画像処理装置の制御方法及びプログラム
IL247101B (en) * 2016-08-03 2018-10-31 Pointgrab Ltd Method and system for determining present in the image
JP6727998B2 (ja) * 2016-09-08 2020-07-22 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
EP3523777A4 (en) * 2016-12-06 2019-11-13 SZ DJI Technology Co., Ltd. SYSTEM AND METHOD FOR CONFIGURING A WIDE ANGLE IMAGE
JP6688277B2 (ja) * 2017-12-27 2020-04-28 本田技研工業株式会社 プログラム、学習処理方法、学習モデル、データ構造、学習装置、および物体認識装置
EP3819864A4 (en) 2018-07-02 2021-08-18 Konica Minolta, Inc. TARGET OBJECT DETECTION PROGRAM AND TARGET OBJECT DETECTION DEVICE
WO2020022780A1 (en) * 2018-07-25 2020-01-30 Samsung Electronics Co., Ltd. Method and apparatus for establishing device connection
CN109840883B (zh) * 2019-01-10 2022-12-23 达闼机器人股份有限公司 一种训练物体识别神经网络的方法、装置及计算设备
JP7005546B2 (ja) 2019-03-15 2022-01-21 株式会社東芝 画像認識装置、画像認識方法および画像認識プログラム
CN110009684A (zh) * 2019-04-15 2019-07-12 云南民族大学 一种用于捣固作业下轨枕定位方法
WO2020250387A1 (ja) * 2019-06-13 2020-12-17 日本電気株式会社 画像処理装置、画像処理方法及びプログラム
JP7414456B2 (ja) * 2019-10-11 2024-01-16 日立造船株式会社 情報処理装置、同一性判定方法、および同一性判定プログラム
WO2021102911A1 (zh) * 2019-11-29 2021-06-03 深圳市大疆创新科技有限公司 一种图像检测方法、图像检测设备及存储介质
CN115136188A (zh) * 2020-03-05 2022-09-30 索尼半导体解决方案公司 信息处理装置和信息处理方法
CN111754394B (zh) * 2020-06-29 2022-06-10 苏州科达科技股份有限公司 鱼眼图像中的对象检测方法、装置及存储介质
US11640701B2 (en) * 2020-07-31 2023-05-02 Analog Devices International Unlimited Company People detection and tracking with multiple features augmented with orientation and size based classifiers
CN112101361B (zh) * 2020-11-20 2021-04-23 深圳佑驾创新科技有限公司 针对鱼眼图像的目标检测方法、装置、设备和存储介质
JP7708572B2 (ja) * 2021-03-30 2025-07-15 本田技研工業株式会社 移動体の制御装置、制御方法及びプログラム
US11763497B2 (en) 2021-10-19 2023-09-19 Toyota Motor Engineering & Manufacturing North America, Inc. Methods and systems for generating simulated datasets for fisheye camera applications
CN114359834B (zh) * 2022-01-06 2025-01-21 腾讯科技(深圳)有限公司 数据处理方法及装置、电子设备、可读介质、产品
JP7642593B2 (ja) 2022-09-12 2025-03-10 キヤノン株式会社 画像処理装置および画像処理方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2723118B2 (ja) * 1992-08-31 1998-03-09 インターナショナル・ビジネス・マシーンズ・コーポレイション 2次元オブジェクトの認識に用いるためのニューラル・ネットワーク及び光学式文字認識装置
US5987161A (en) * 1994-06-30 1999-11-16 Texas Instruments Incorporated Apparatus and method for identifying defective objects
US6658145B1 (en) * 1997-12-31 2003-12-02 Cognex Corporation Fast high-accuracy multi-dimensional pattern inspection
US6850646B1 (en) * 1997-12-31 2005-02-01 Cognex Corporation Fast high-accuracy multi-dimensional pattern inspection
JP3698420B2 (ja) * 2001-06-12 2005-09-21 シャープ株式会社 画像監視装置及び画像監視方法及び画像監視処理プログラム
JP2004227470A (ja) 2003-01-27 2004-08-12 Victor Co Of Japan Ltd 画像変換方法及び画像変換用コンピュータプログラム
US7274832B2 (en) * 2003-11-13 2007-09-25 Eastman Kodak Company In-plane rotation invariant object detection in digitized images
JP2006197034A (ja) * 2005-01-11 2006-07-27 Sumitomo Electric Ind Ltd 画像認識システム、撮像装置及び画像認識方法
JP2007025767A (ja) * 2005-07-12 2007-02-01 Nikon Corp 画像認識システムと画像認識方法、および画像認識プログラム
US7613357B2 (en) * 2005-09-20 2009-11-03 Gm Global Technology Operations, Inc. Method for warped image object recognition
KR101014572B1 (ko) * 2007-08-27 2011-02-16 주식회사 코아로직 영상 왜곡 보정 방법 및 그 보정 방법을 채용한 영상처리장치
US8068674B2 (en) * 2007-09-04 2011-11-29 Evolution Robotics Retail, Inc. UPC substitution fraud prevention
JP4629131B2 (ja) 2008-09-03 2011-02-09 大日本印刷株式会社 画像変換装置
JP5215097B2 (ja) 2008-09-12 2013-06-19 公立大学法人首都大学東京 撮像画像の変換方法
JP2010123373A (ja) * 2008-11-19 2010-06-03 Panasonic Electric Works Co Ltd 照明システム
CN101866425A (zh) * 2010-06-02 2010-10-20 北京交通大学 基于鱼眼摄像头的人体检测方法
US9007432B2 (en) * 2010-12-16 2015-04-14 The Massachusetts Institute Of Technology Imaging systems and methods for immersive surveillance

Also Published As

Publication number Publication date
CN102831386A (zh) 2012-12-19
KR101374643B1 (ko) 2014-03-14
US20120274782A1 (en) 2012-11-01
EP2518663A2 (en) 2012-10-31
JP2012230546A (ja) 2012-11-22
CN102831386B (zh) 2015-12-16
EP2518663A3 (en) 2014-12-31
JP5739722B2 (ja) 2015-06-24

Similar Documents

Publication Publication Date Title
KR101374643B1 (ko) 물체 인식 방법 및 인식 장치
JP6872877B2 (ja) イメージ生成方法及び装置
JP2022514912A (ja) センサのキャリブレーション方法、装置、システム、車両、機器及び記憶媒体
US20210358157A1 (en) Three-dimensional measurement system and three-dimensional measurement method
US11122195B2 (en) Camera parameter estimation device, method, and program
WO2018102990A1 (en) System and method for rectifying a wide-angle image
JP6739937B2 (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
CN114743264B (zh) 拍摄行为检测方法、装置、设备及存储介质
WO2016163492A1 (ja) 位置特定装置、位置特定方法及びプログラム
JP5783567B2 (ja) 直線検出装置、直線検出方法、直線検出プログラム及び撮影システム
JP5700221B2 (ja) マーカ判定装置、マーカ判定検出システム、マーカ判定検出装置、マーカ、マーカ判定方法及びそのプログラム
JP5477518B1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5783569B2 (ja) 直線検出装置、直線検出方法、直線検出プログラム及び撮影システム
JP5700220B2 (ja) マーカ生成装置、マーカ生成検出システム、マーカ生成検出装置、マーカ、マーカ生成方法及びそのプログラム
EP3494545B1 (en) Methods and apparatus for codeword boundary detection for generating depth maps
JP2012008657A (ja) 物体形状生成装置及び方法
US11836218B2 (en) System and method for object detection and dimensioning
JP2018092507A (ja) 画像処理装置、画像処理方法及びプログラム
KR20220026876A (ko) 위성 영상 표적 식별 장치, 방법, 컴퓨터 판독 가능한 기록매체 및 컴퓨터 프로그램
JP7571862B2 (ja) 画像処理装置、画像処理方法、プログラム
CN113330275B (zh) 相机信息计算装置、系统、相机信息计算方法及记录介质
JP4792939B2 (ja) パターンマッチング方法、パターンマッチング装置
KR102780432B1 (ko) 전방위 이미지 처리 방법 및 이를 수행하는 서버
KR20200064888A (ko) 다중시점의 영상 교정 방법 및 장치
Andrade et al. A robust methodology for outdoor optical mark recognition

Legal Events

Date Code Title Description
A201 Request for examination
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

PN2301 Change of applicant

St.27 status event code: A-5-5-R10-R13-asn-PN2301

St.27 status event code: A-5-5-R10-R11-asn-PN2301

FPAY Annual fee payment

Payment date: 20170116

Year of fee payment: 4

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

FPAY Annual fee payment

Payment date: 20180202

Year of fee payment: 5

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 5

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 6

FPAY Annual fee payment

Payment date: 20200213

Year of fee payment: 7

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 7

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 8

PC1903 Unpaid annual fee

St.27 status event code: A-4-4-U10-U13-oth-PC1903

Not in force date: 20220311

Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

PC1903 Unpaid annual fee

St.27 status event code: N-4-6-H10-H13-oth-PC1903

Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

Not in force date: 20220311

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000