JP2019109751A - 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム - Google Patents

情報処理装置、システム、情報処理装置の制御方法、及び、プログラム Download PDF

Info

Publication number
JP2019109751A
JP2019109751A JP2017242877A JP2017242877A JP2019109751A JP 2019109751 A JP2019109751 A JP 2019109751A JP 2017242877 A JP2017242877 A JP 2017242877A JP 2017242877 A JP2017242877 A JP 2017242877A JP 2019109751 A JP2019109751 A JP 2019109751A
Authority
JP
Japan
Prior art keywords
information
product
customer
display
purchase
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017242877A
Other languages
English (en)
Other versions
JP2019109751A5 (ja
JP7038543B2 (ja
Inventor
長井 健太郎
Kentaro Nagai
健太郎 長井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017242877A priority Critical patent/JP7038543B2/ja
Priority to US16/210,728 priority patent/US11481789B2/en
Priority to CN201811519093.3A priority patent/CN110033298B/zh
Publication of JP2019109751A publication Critical patent/JP2019109751A/ja
Publication of JP2019109751A5 publication Critical patent/JP2019109751A5/ja
Application granted granted Critical
Publication of JP7038543B2 publication Critical patent/JP7038543B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0201Market modelling; Market analysis; Collecting market data
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241Advertisements
    • G06Q30/0251Targeted advertisements
    • G06Q30/0255Targeted advertisements based on user history
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/94Hardware or software architectures specially adapted for image or video understanding
    • G06V10/945User interactive design; Environments; Toolboxes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/53Recognition of crowd images, e.g. recognition of crowd congestion

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Strategic Management (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】顧客が商品を選択した順序と、商品の選択に要した時間等の情報を提供可能な技術を提供可能にする情報処理装置、システム、情報処理装置の制御方法、及びプログラムを提供する。【解決手段】システム10における情報処理装置200であって、店舗内に配置された撮像装置100A、100Bから提供された情報に基づき、店舗に来店した顧客の店舗内での動線情報を生成する動線情報生成手段と、顧客が店舗において購入した商品に関連する購入商品情報を取得する取得手段と、購入商品情報に基づき、前記動線情報と購入した商品とを顧客に関連づけて購入情報を生成する購入情報生成手段と、購入情報に基づき、購入した商品の選択に要した時間及び購入した商品を選択した順序との関連において、顧客または商品に関する情報を表示するための表示用情報を生成する表示用情報生成手段と、を備える。【選択図】図1

Description

本発明は情報処理装置、システム、情報処理装置の制御方法、及び、プログラムに関する。
近年、ネットワークカメラは、店舗内の監視・防犯用途はもちろんのこと、ネットワークカメラから得られる画像の解析を活用したセキュリティ用途以外のアプリケーションにも広がりを見せている。例えば、小売店のレジ前にネットワークカメラを設置しておき、ネットワークカメラから得られる映像から、顧客の特徴(顔、年齢、性別など)を抽出し、その顧客の特徴とレジでの購入情報を関連付けてマーケティング分析に活用するシステムが登場しつつある。また、そのほかのアプリケーションではカメラの画像から特定の人物を追跡して店舗内におけるその人物の動きを追跡し動線として記録、店舗内のレイアウト改善に役立てるなどの応用例を開示している。
これらをさらに応用し、特許文献1では、店舗内における顧客の行動から、マーケティングに役立つデータを収集する顧客行動記録装置と方法を開示している。この技術は、施設内を移動する人物を撮像する施設内カメラとレジにおける購入記録を紐つけるシステムを開示している。これにより店内における顧客の行動と購入情報を紐つけることができ、店内のレイアウト変更やマーケティングに利用することができる。
また、特許文献2においては監視カメラとレジとは別にレジに人物特徴取得用のカメラを設置していることを特徴としている。これにより顧客の個人的特徴、例えば、年齢や性別といった詳細な顧客データを分析することが可能になりさらに詳細なマーケティングが可能となる。
このように、ネットワークカメラは従来の監視・防犯用途の範囲を超え、そこからいかに有益な情報を抽出できるかが重要な点になりつつある。
特開2006−350701号公報 特開2010−113692号公報
上記抽出する情報として、顧客がどのような順で商品を選択したか、また、商品を選択する際にどれだけの時間をかけたかといった情報を抽出できれば、顧客の来店目的や、商品の購入動機を推定することが可能となるため非常に有益である。
そこで、本発明は、顧客が商品を選択した順序や、商品の選択に要した時間等の情報を提供可能な技術を提供可能にすることを目的とする。
上記課題を解決するための発明は、情報処理装置であって、
店舗内に配置された撮像装置から提供された情報に基づき、前記店舗に来店した顧客の店舗内での動線情報を生成する動線情報生成手段と、
前記顧客が前記店舗において購入した商品に関連する購入商品情報を取得する取得手段と、
前記購入商品情報に基づき、前記動線情報と前記購入した商品とを前記顧客に関連づけて購入情報を生成する購入情報生成手段と、
前記購入情報に基づき、前記購入した商品の選択に要した時間、及び、前記購入した商品を選択した順序との関連において、顧客または商品に関する情報を表示するための表示用情報を生成する表示用情報生成手段と
を備え、
前記動線情報は、前記店舗内における複数の商品設置場所のそれぞれにおける前記顧客の滞在時間と、前記顧客が前記店舗内で前記商品設置場所を経由した順序の情報を含み、
前記表示用情報生成手段は、前記購入情報における前記購入した商品と当該商品が設置された前記商品設置場所との関連づけに従い、前記複数の商品設置場所のそれぞれにおける前記顧客の滞在時間に基づき前記購入した商品の選択に要した時間を決定し、前記商品設置場所を経由した前記順序に基づき前記購入した商品を選択した順序を決定することを特徴とする。
本発明によれば、顧客が商品を選択した順序や、商品の選択に要した時間等の情報を提供可能な技術を提供することができる。
発明の実施形態に対応するシステムの構成例を示した図。 発明の実施形態が適用可能な店舗の一例を示す図、及び、発明の実施形態に対応する情報処理装置200のハードウェア構成例を示す図。 発明の実施形態に対応する、システム10における情報処理装置200が実行する処理の一例を示すフローチャート。 発明の実施形態に対応する購入情報のデータ構成の一例を示す図。 発明の実施形態に対応する情報表示装置500に表示される画面の一例を示す図。 発明の実施形態に対応する情報表示装置500に表示される画面の他の一例を示す図。
図1は、発明の実施形態に対応するシステム10の構成例を示す図である。当該システム10は、ネットワークカメラ100A/100B、情報処理装置200、データベース装置300、POS(Point Of Sales)レジ端末400、情報表示装置500、広告表示装置600がネットワーク回線であるLAN700によって相互接続されて構成されている。図1に示したシステム10の構成要素は、あくまで一例であって、これら以外の構成要素が更に追加されても良い。以下、各構成要素について説明する。
まず、ネットワークカメラ100は、撮像センサ部101、現像処理部102、符号化部103、画像処理部104、LANインタフェース(I/F)部105を含むように構成することができる。本実施形態では、2種類のネットワークカメラを使用することができる。第1のネットワークカメラ100Aは、店内を移動する顧客の動線を追跡する動線追跡カメラであって、顧客の店舗内での移動や動作といった行動を表す追跡情報を生成する。第2のネットワークカメラ100Bは、店舗に来店した人物に関する情報を抽出するための画像を撮像する人物特定用カメラである。以下、2種類のネットワークカメラを用いた実施形態を説明するが、必ずしも2種類を用いなくてもよく、第1のネットワークカメラで撮像した画像から人物の情報を抽出してもよい。
以下、第1のネットワークカメラ100Aの各構成要素には参照番号に「A」を付け、第2のネットワークカメラ100Bの各構成要素には参照番号に「B」を付ける。
撮像センサ部101A/101Bは、撮像面に結像された光像を光電変換してアナログ画像信号を出力するCMOS等の撮像素子、及び、アナログ画像信号をデジタル画像信号に変換するA/D変換器を含んで構成される。現像処理部102A/102Bは、撮像センサ部101A/101Bから出力されたデジタル画像信号に対して、所定の現像処理を実行する。現像処理には、例えば、ディベイヤ処理、ホワイトバランス処理、階調変換処理、エッジ強調補正処理、キズ補正、ノイズ除去、拡大縮小処理、YCbCr形式への色変換などの処理を含むことができる。
符号化部103A/103Bは、現像処理部102A/102Bが出力したデジタル画像信号を圧縮・符号化して、情報処理装置200に提供する配信用の画像データを生成する。生成される画像データには、ネットワークカメラ100A/101Bの識別情報(カメラID)、設置場所の情報(位置情報)、撮影時刻情報等が含まれる。符号化部103A/103Bは画像データ生成時にフレームレートの設定も行う。ここで、配信用の画像圧縮方式は、例えば、H.264、H.265、MJPEGまたはJPEGなどの規格に基づくことができる。さらに、mp4やavi形式などを含む任意の形式の画像データを生成しても良い。
画像処理部104A/104Bは、現像処理部102A/102Bから出力されたデジタル画像についてそれぞれ対応する画像処理を行う。第1のネットワークカメラ100Aにおける画像処理部104Aは、画像認識処理を行って追跡情報を生成する。ここでの画像認識処理によれば、パターン認識・メディア理解として知られる技術を用いて、デジタル画像から被写体である顧客の移動や動作を認識し追跡することができる。具体的には、背景差分、テンプレートマッチング,相関法,特徴追跡法等を用いた種々の公知の画像認識処理手法を用いることができる。画像処理部104Aは、検出した人物のデジタル画像における位置及び大きさを示す情報を追跡情報に含める。
なお、顧客を人物として画像認識することのみによらず、顧客の付属物であるショッピングカートやバスケットを画像認識することによって追跡情報を作成してもよい。様々な人物像に比べて形状が定まっているショッピングカートやバスケットであれば画像認識が容易だからである。さらに、ショッピングカートやバスケットに1次元バーコード、2次元バーコード等のタグを備えておくことにより、画像処理部104Aでの処理を簡便かつ確実なものとすることができ、複数の追跡対象の混同を防ぐことができる。また、追跡情報が検出された顧客の画像データを含む場合、当該画像データは、符号化部103で行うのと同様に圧縮符号化処理が施され、例えば静止画の場合にはJPEG画像データが含まれる。
このようにして、追跡情報は、検出した顧客のデジタル画像における位置及び大きさの情報とともに、当該人物を撮影した第1のネットワークカメラ100AのカメラID、及び撮影時刻情報等を含むように生成され、第1のネットワークカメラ100Aから情報処理装置200に送信される。
第2のネットワークカメラ100Bにおける画像処理部104Bは、デジタル画像を解析して、被写体となっている顧客の人物特徴を示す情報を生成する。人物特徴とは、たとえば、顧客を一定のカテゴリに分類するための属性を含むことができ、具体的には性別や年齢層などがあげられる。画像処理部104Bは、被写体の外見的特徴に基づいて、性別や年齢層を判定することができる。
また、さらに詳細に顧客個人を特定してもよい。その場合、例えば、画像検索用に、予め各顧客の顔画像等を顧客情報データベース310に登録しておくことができる。ネットワークカメラ100Bは情報処理装置200を介して顧客情報データベース310に登録されている顔画像のうち、デジタル画像から抽出した顔画像と一致する画像を検索し、対応する顧客を特定しても良い。顧客情報データベース310において顧客が特定できた場合には、顧客の人物特徴を示す情報を当該顧客の識別情報とすることができる。
デジタル画像の解析結果として取得した人物特徴の情報は、解析対象となった画像データと共に情報処理装置200に送信する。その際、当該画像データは、符号化部103で行うのと同様に圧縮符号化処理が施され、例えば静止画の場合にはJPEG画像データが含まれる。検出された人物情報及び撮像画像内におけるその座標情報は、当該人物を撮影したネットワークカメラ100BのカメラID、位置情報、及び撮影時刻情報等と共に、情報処理装置200に提供される。ネットワークカメラ100Bが生成し、情報処理装置に提供するこの情報を「人物特徴情報」という。
ここで、画像処理部104A/104Bは、ネットワークカメラ100A/100Bが備えている構成以外に、外部装置、例えば情報処理装置200が備えていても良い。その場合、画像処理部104A/104Bが実行する機能の一部または全部を情報処理装置200が実行し、残りの機能をネットワークカメラ100A/100Bで実行してもよい。
LAN I/F部105A/105Bは、符号化部103A/103Bから出力された画像データや、画像処理部104A/104Bが生成した追跡情報や人物特徴情報を、LAN700を介して情報処理装置200に送信するための通信インタフェースである。LAN I/F部105A/105Bは、例えば、NFSやCIFSなどのネットワークファイルシステム、または、UDPやTCPなどのネットワーク通信プロトコルを使用して、通信相手との間でデータのやり取りの調整を行う。
次に、情報処理装置200の構成について説明する。情報処理装置200は、LAN インタフェース(I/F)部201、復号部202、動線情報生成部203、データベース管理部204、購入情報生成部205、表示用情報生成部206、広告表示制御部207を含み、相互にシステムバス208で接続されるように構成することができる。
LAN I/F部201は、LAN700を介してネットワークカメラ100A/100Bや情報表示装置500等と通信する。復号部202はネットワークカメラ100からLAN700を介して取得した画像データや、追跡情報や人物特徴情報に含まれる画像データを、伸張し復号してデジタル画像信号を復元する。復号されたデジタル画像信号はデータベース管理部204を介して画像情報データベース340に保存される。ここで、情報処理装置200が画像処理部104A/104Bを有するような実施形態では、画像処理部104A/104Bがシステムバス208と接続されるように設けることができる。画像処理部104A/104Bは、復号部202が復号した画像データから人物の特徴情報を抽出し、また、人物の追跡情報を生成する。
動線情報生成部203は、複数台の第1のネットワークカメラ100Aから受信した追跡情報および当該カメラ100Aの物理的な設置位置、高さ、および向きに関するに基づいて、顧客が店舗に入店してから退店するまでの店舗内の動線を表す動線情報を生成する。ネットワークカメラ100Aの物理的な設置位置、高さ、および向きに関する情報は後述の店舗情報に含まれている。生成した動線情報は購入情報生成部205に提供する。データベース管理部204は、データベース装置300のデータベース310から340のそれぞれの登録情報を管理する。例えば、各データベースの登録情報を更新し、各データベースから登録情報を抽出し、必要に応じて各処理部に提供するといった処理を行う。
購入情報生成部205は、動線情報生成部203が生成した動線情報、第2のネットワークカメラ100Bから受信した人物特徴情報、POSレジ端末400から受信した購入商品情報に基づき、店舗に来店した顧客毎の購入情報を生成する。生成した購入情報は購入情報データベース320に蓄積しておき、表示用情報生成部206が情報表示装置500に提供する表示用情報を生成する際に参照される。
表示用情報生成部206は、購入情報生成部205が生成し、購入情報データベース320に格納された購入情報に基づき、情報表示装置500に提供する表示用情報を生成する。当該表示用情報を用いた情報表示装置500における表示の一例は、図5及び図6を参照して後述する。広告表示制御部207は、店舗内の所定位置に配置された広告表示装置600における広告表示を制御する。
データベース装置300は、情報処理装置200が本実施形態に対応する処理を実行するに際して参照する情報が登録されたデータベースであって、顧客情報データベース310、購入情報データベース320、店舗情報データベース330、画像情報データベース340等を含むことができる。データベース装置300は情報処理装置200に接続される構成となっているが、ネットワークインターフェースを備え、LAN700上に接続されていてもよい。その場合、情報処理装置200とデータベース装置300との通信は、LAN I/F部201を介して行われる。
顧客情報データベース310は、本システム10が適用される店舗に会員登録している顧客の情報を登録しているデータベースである。当該顧客情報データベース310には、例えば、顧客を識別するための顧客識別情報(ID)、会員番号(顧客IDと同じでもよい)、氏名、顧客の性別、年齢の他、住所、電話番号、電子メールアドレス、職業などの任意の個人情報が含まれる。また、画像認識により当該顧客を認識可能とする場合には、顧客の顔画像データが登録されていてもよい。また、顧客IDは、会員カードに記録されている情報であって、POSレジ端末400において会員カードから読み取ることができる。読み取られた会員情報は情報処理装置200に提供され、顧客情報データベース310において会員情報を特定するために用いられる。
購入情報データベース320には、一回の来店における購入実績を店舗への入店から退店までの動線情報と関連づけた購入情報を顧客毎に登録するデータベースである。当該データベースの登録内容は、図4を参照して後述する。店舗情報データベース330は、本システム10が適用される店舗に関する店舗情報が登録される。店舗情報には、店舗内のレイアウトに関する情報、例えば、店舗内でネットワークカメラ100Aによる撮影対象となる領域の情報、商品棚の配置に関する情報、各商品棚に陳列されている商品に関する情報、ネットワークカメラ100Aの配置位置の情報等が含まれる。ネットワークカメラ100Aの配置位置の情報とは、具体的には、ネットワークカメラ100Aの物理的な設置位置、高さ、および向きに関する情報である。店舗情報は、特に、各ネットワークカメラ100Aで撮影された画像から検出された人物の画像内での位置を、店舗内のレイアウトにおける物理的位置に変換するための情報を含む。画像情報データベース340には、ネットワークカメラ100Aや100Bで撮影された画像が保存される。
POSレジ端末400は、店舗内で購入する商品を会計するための情報処理装置であって、商品のバーコード情報を読み取って顧客が購入した商品を一意に特定することができる。購入商品情報は、会計を行った時刻情報とともに情報処理装置200に送信される。顧客が店舗の会員の場合、POSレジ端末400は、提示された会員カードから顧客IDを読み取って、情報処理装置200に送信する。これにより、情報処理装置200は、顧客情報データベース310において顧客情報を特定することが可能となる。なお、会員カードは、あくまで一例であって、個人を一意に特定可能な識別情報を取得することが可能なカードであれば他の種類のカードであってもよい。その場合には、当該識別情報が顧客IDとして顧客情報データベース310に登録される。
情報表示装置500は、情報処理装置200から送信された情報を表示する装置であって、例えばパーソナルコンピュータ(PC)やタブレット端末、スマートフォン端末等により実現することができる。情報表示装置500は、LAN700との接続を有線、無線のうち、いずれにおいて行ってもよい。無線は、例えばIEEE802.11の無線LANの規格に従うことができる。情報表示装置500は、表示対象の項目を指定するための入力操作を受け付けることができ、受付けた入力操作に基づく項目の情報を情報処理装置200に送信する。情報処理装置200は、当該項目の情報に基づいて、表示用の情報を生成し、情報表示装置500に提供する。
広告表示装置600は、情報処理装置200の広告表示制御部207による制御に基づき、店舗内の所定の商品等に関する広告を表示するための表示端末であり、例えばパーソナルコンピュータ(PC)やタブレット端末等により実現することができる。
図1に示すシステム10構成において、ネットワークカメラ100A/100Bの台数は1台以上の任意の数とすることができ、台数に限定はない。情報処理装置200、データベース装置300及び情報表示装置500は、単一の装置により実現される場合だけでなく、それぞれ複数の装置が協働して各機能を実現してもよい。
本実施形態のシステム10は、例えば、図2(A)に示すような所定の店舗20に対して適用することができる。店舗20内には、商品設置場所として複数の商品棚21が配置されており、それぞれの棚には商品が設置されている。当該商品の種類は問わない。また、商品は販売対象の商品に限られるものではなく、例えばレンタル商品であっても良い。どこの棚にどの商品が配列されているのかは、店舗情報データベース330内に予めテーブル化されている。店舗20内は、棚と棚との間には空間が設けられているので、その空間を顧客が行きかうことができるようになっている。
顧客の挙動は一台以上の動線追跡カメラ100Aにより追跡することができる。動線追跡カメラ100Aは店舗20内の一部、あるいはすべての範囲において顧客の様子を撮影可能に設置されている。動線追跡カメラ100Aが複数台設置されている場合には、複数台で店舗20内の全域の画像を撮影することができればよい。
レジカウンターにはPOSレジ端末400が設置されている。顧客が商品を購入する場合には、レジカウンターにおいて精算を行うが、その際の様子は、人物特定用カメラ100Bにより撮影され、人物特定処理が行われる。これにより買い物をした顧客と購入した商品とを関連づけることができる。人物特定用カメラ100Bは、店舗20の入口に設置されていても良く、入店した人物を撮影して、顧客の性別や年齢層などを特定する人物特定処理を行うことができる。このように、カメラ100Bは、顧客の人物特徴を取得することが目的であるため、顧客が必ず通り、かつ人物特徴を取得するのに十分な品質の画像が撮像可能な箇所に設置されることが望ましい。
図2(A)では、システム10を適用する施設を商品を販売する店舗20として示しているが、商品設置場所は商品棚である必要はない。その代わりに、例えば、商品をディスプレイするためのショーウィンドゥあるいは広告やデジタルサイネージなどのディスプレイスペースであってもよい。また、入店した顧客に対する販売促進のためのものであってもよい。また、POSレジ端末400は一台に限らず複数台あってもよい。
次に、本実施形態に対応するシステム10を構成する情報処理装置200の概略構成を説明する。図2(B)は、情報処理装置200のハードウェア構成の一例を示すブロック図である。上述した情報処理装置としてのデータベース装置300、POSレジ端末400、情報表示装置500及び広告表示装置600も、同様或いは同等のハードウェア構成として構成しても良い。
図2(B)において、CPU210は、ハードディスク装置(以下、HDと呼ぶ)215に格納されているアプリケーションプログラム、オペレーティングシステム(OS)や制御プログラム等を実行し、RAM212にプログラムの実行に必要な情報、ファイル等を一時的に格納する制御を行う。また、ネットワークカメラ100から提供され、RAM212に記憶された検出人物情報、及び、データベース装置300から取得した情報に基づき本実施形態に対応する処理を実行する。さらには、インタフェース(I/F)218を介した外部の情報表示装置500とのデータ送受信を制御する。なお、後述する図3における処理もCPU210が対応する処理プログラムを実行することにより装置全体を制御して実現される。
ROM211は、内部に基本I/Oプログラムの他、所定の処理を実行するアプリケーションプログラム等の各種データを記憶する。RAM212は各種データを一時記憶し、CPU210の主メモリ、ワークエリア等として機能する。また、ネットワークカメラ100A/100Bやデータベース装置300から受信した情報を一時的に記憶する。
外部記憶ドライブ213は、記録媒体へのアクセスを実現するための外部記憶ドライブであり、メディア(記録媒体)214に記憶されたプログラム等を本コンピュータシステムにロードすることができる。尚、メディア214は、例えば、フロッピー(登録商標)ディスク(FD)、CD−ROM、CD−R、CD−RW、PCカード、DVD、Blu−ray(登録商標)、ICメモリカード、MO、メモリスティック等を利用することができる。
外部記憶装置215は、本実施形態では大容量メモリとして機能するHD(ハードディスク)を用いている。HD215には、アプリケーションプログラム、OS、制御プログラム、関連プログラム等が格納される。なお、ハードディスクの代わりに、フラッシュ(登録商標)メモリ等の不揮発性記憶装置を用いても良い。
指示入力装置216は、キーボードやポインティングデバイス(マウス等)、タッチパネル等がこれに相当する。なお、POSレジ端末400として構成する場合には、指示入力装置216にはバーコードリーダーを含むことができる。出力装置217は、指示入力装置216から入力されたコマンドや、それに対する情報処理装置200の応答出力等を出力する。出力装置217にはディスプレイ、スピーカ、ヘッドフォン端子等を含むことができる。システムバス219は、情報処理装置200内のデータの流れを司る。
インタフェース(以下、I/Fという)218は、外部装置とのデータのやり取りを仲介する役割を果たす。具体的に、I/F218は、無線通信モジュールを含むことができ、当該モジュールはアンテナシステム、RF送受信器、1つ以上の増幅器、同調器、1つ以上の発振器、デジタル信号プロセッサ、CODECチップセット、加入者識別モジュールカード、メモリなどを含む、周知の回路機構を含むことができる。また、有線接続のための有線通信モジュールを含むことができる。有線通信モジュールは1つ以上の外部ポートを介して他のデバイスとの通信を可能とする。また、データを処理する様々なソフトウェアコンポーネントを含むことができる。外部ポートは、イーサネット、USBやIEEE1394等を介して、直接的に、又はネットワークを介して間接的に他のデバイスと結合する。尚、以上の各装置と同等の機能を実現するソフトウェアにより、ハードウェア装置の代替として構成することもできる。
本実施形態に対応する処理を実行するために対応するプログラムを動作させる度に、既にプログラムがインストールされているHD215からRAM212にロードするようにしてもよい。また、本実施形態に係るプログラムをROM211に記録しておき、これをメモリマップの一部をなすように構成し、直接CPU210で実行することも可能である。さらに、メディア214から対応プログラム及び関連データを直接RAM212にロードして実行させることもできる。
次にシステム10を利用して、ネットワークカメラ100A、100B、POSレジ端末400から得られた情報に基づき購入情報を生成し、当該購入情報に基づき情報表示装置500のための表示用情報を生成する処理の詳細について図3のフローチャートを参照して説明する。該フローチャートに対応する処理は、例えば、購入情報生成部205、或いは、表示用情報生成部206として機能する1以上のプロセッサが対応するプログラム(ROM等に格納)を実行することにより実現できる。
まず、S301において、情報処理装置200は、複数の動線追跡カメラ100Aから追跡情報を取得する。また、店舗情報データベース330から店舗情報を取得する。本実施形態では、複数の動線追跡カメラ100Aにより店舗20全体をカバーしているので動線追跡カメラ100A単体では、撮影範囲が限定されており、店舗20内での顧客の全ての移動を追跡できるわけではない。そこで、続くS302において動線情報生成部203は、各動線追跡カメラ100Aから取得した追跡情報を合成し、また、店舗情報を参照することにより顧客毎の入店から退店までの動線情報を生成する。複数のカメラを用いた施設内の顧客の動線情報を取得する方法は公知の技術を用いることができるので、ここでは詳細については説明を省略する。このとき、レジに滞在した時刻の情報を合わせて生成しておく。動線情報生成部203は生成した動線情報を購入情報生成部205に提供する。
次に、S303において、購入情報生成部205は人物特定用カメラ100Bから人物特徴情報を取得する。このとき購入情報生成部205は、人物特徴情報に顔等の画像データが含まれる場合には、当該画像に基づき人物の性別、年齢層等の人物情報を改めて判定し、人物特徴情報に含まれる人物の特徴情報を修正してもよい。
続くS304において、購入情報生成部205はPOSレジ端末400から購入商品情報を取得する。当該購入商品情報には、顧客が購入した商品名、レジで会計を行った時刻(商品の購入時刻に相当する)等が含まれる。また、顧客が店舗の会員カードを持参していた場合に、当該会員カードから取得した顧客を特定するための情報(例えば、顧客ID)を含めることもできる。
続くS305では、購入情報生成部205は、S302における動線情報、S303における人物特徴情報、S304における購入商品情報を来店した顧客毎に関連づけて、顧客毎の購入情報を生成する。具体的に、動線情報に基づけば、顧客がレジで会計をしていた時間帯が特定できるので、商品の購入時刻がその時間帯に合致する顧客の動線情報を、当該時間帯に含まれる購入商品情報と関連づけることができる。また、人物特徴情報についても、当該人物特徴情報を生成するために用いた撮像画像を人物特定用カメラ100Bで撮像した時刻に基づいて、購入商品情報及び動線情報と関連づけることができる。但し、購入商品情報に会員情報が含まれている場合には、人物特徴情報よりもより詳細な顧客情報を利用することができるので、人物特徴情報を関連づけなくてもよい。生成した購入情報は、購入情報データベース320に格納される。
S301からS305までの処理に基づく購入情報の生成は来店した全ての顧客について行われ、生成された購入情報が購入情報データベース320に蓄積される。購入情報のデータ構造については図4を参照して後述する。
続くS306では、表示用情報生成部206が、情報表示装置500において画面表示する際の表示条件を、情報表示装置500から受信する。表示条件の指定或いは切替えについては、情報表示装置500を操作するユーザから操作入力を受付けることができる。受付けた操作内容に基づく表示条件は情報表示装置500から情報処理装置200に送信される。表示条件には、商品、表示対象期間、顧客の属性等の情報が含まれる。これらは任意に組み合わせて表示条件とすることができる。詳細は、図5及び図6を参照して説明する。
続くS307では、S307において受信した表示条件に従って、表示用情報生成部206が購入情報データベース320から購入情報を抽出し、表示条件に対応した表示用情報を生成する。続く、S308では、S307で表示用情報生成部206が生成した表示用情報を、LAN I/F部201を介して情報表示装置500に送信する。
次に、図4を参照して、顧客毎の購入情報のデータ構造の一例を説明する。図4に示すように、購入情報には、来店日の情報、入店時刻、退店時刻、性別、年齢(年齢層)、顧客IDといった情報が含まれる。このほかに、当該顧客の氏名、住所、電子メールアドレス、職業、趣味・嗜好等の属性情報が含まれていてもよい。動線情報における顧客が店内を移動した経路及び商品棚21の前で立ち止まった時間に基づいて、どの順序で商品棚21に立ち寄り(経由し、或いは、訪問し)、どのくらいの時間そこに滞在したか、またその商品棚21に陳列されているいずれの商品を購入したかの情報が含まれる。
このように、購入情報によれば、顧客がどの商品棚21にどれだけの時間滞在したかが分かる。この滞在時間は商品を選択するために要した時間と相関することが期待できるため、これを商品選択時間の指標とする。最終的にレジで会計され、購入された商品を、該当商品が陳列されている商品棚21と結びつけることで、商品の購入順序と商品の選択時間とを同時に記録することができる。
上記では、個々の動線追跡カメラ100Aで生成された動線情報から、情報処理装置200が顧客毎の店舗20全体における動線情報を生成する場合について説明した。これ以外にも他の発明の実施形態において、カメラ側では動線情報の生成は行わず、情報処理装置200側で個々の動線追跡カメラ100Aからの撮影画像に基づきカメラ毎の動線情報を生成し、これらを統合して入退動線情報を生成しても良い。
また、図4に示した例は、商品の購入が可能な店舗における例であるが、商品を販売しない展示会会場、或いは、展示会場内の展示ブースにおいては、購入商品の情報は登録されない。しかし、そのような場合であっても、ブース内の特定箇所に立ち寄った順序やその滞在時間を同時に記録することができる。
まず、図5(A)は特定の顧客について、当該顧客が購入した実績のある商品について、購入に要する時間を、当該商品を選択した順序と関連づけて表示した画面の一例である。このような表示を行うための表示用情報は、情報表示装置500において表示条件として特定の顧客IDが選択された場合に生成される。
表示条件として特定の顧客IDと、表示対象期間が指定されると、当該顧客IDが割り当てられた購入情報のうち、表示対象期間に属する購入情報が購入情報データベース320から取得される。そして、当該顧客による購入時期が表示対象期間内に属する商品が特定され、当該商品を購入した順序及び、選択時間が個々に特定され、表示用情報が生成される。
図5(A)のような表示形態によれば、特定の顧客に関してその購入傾向を観察することができる。画面の左側には顧客を特定するための情報が表示され、そこには、例えば、顧客ID、性別、年代(年齢層)、表示対象期間、購入実績のある商品情報が含まれる。これ以外にも、顧客の氏名などを表示してもよい。
画面右側には、商品毎の購入順序及び選択時間を示す散布図(プロット)が表示される。散布図の縦軸は当該顧客が入店からレジ会計を行い出店するまでの時系列(店舗内における滞在時間の先後)に対応し、当該商品棚21における商品の選択順序(商品選択順序、或いは、商品購入順序の先後)を示す。入店から出店するまでの時間は、顧客やその時々の状況に応じてさまざまに変化するが、このグラフでは入店から出店までの滞在時間に基づいて正規化して表示する。横軸は当該商品を選択(購入)するために経過した時間(商品選択時間の長短)を示す。そして、その結果購入された商品が該当の点にプロットされる。
発明の実施形態では、各顧客について取得した購入情報を蓄積しておき、顧客毎の購入意識の傾向を観察することができる。図5(A)では、表示対象期間に属する過去の購入情報に基づき購入結果を重ねてプロットしているので、同じ商品が何度もプロットされる。図5(A)に示すような表示結果に従えば、当該顧客に関する商品購入傾向を読み取ることができる。ここではその一例として、商品選択順序の先後と、滞在時間(選択時間)の長短とに基づいてプロットを四分割して考える。
プロット内の左上のエリア501は顧客が来店して早い順番で購入し、かつ商品選択にも時間をかけていない商品である。このような商品は顧客にとって、来店時にすでにその商品の購入を決定していたと判断される。言い換えると、顧客はこの商品を目的に来店したといえる。このような、顧客にとって来店目的になるような訴求力の強い商品のことを以下ではカテゴリIの商品と呼ぶ。
プロット内の右上のエリア502は顧客が来店して早い時間で購入しているが、その商品選択には時間がかかっている。このような商品は顧客にとって、来店時には具体的な商品購入を決定していなかったが、その商品の種類に関しては購入を想定していたことを示している。このような、顧客にとって特定の定番商品はないものの、来店目的になりえる商品をカテゴリIIの商品と呼ぶ。
プロット内の左下のエリア503は顧客が来店して遅い順番で購入している。これは、顧客は購入に関して特に来店時に意欲的ではなかったが、選択時間が短いことから顧客にとっては選択の余地の少ない定番商品であるといえる。このように強い購入動機はないものの、商品選択において選択の余地が少ないものを以下ではカテゴリIIIの商品と呼ぶ。
最後にプロット内の右下のエリア504は顧客が来店して遅い順番で購入しかつ選択に時間をかけている商品であることから、顧客にとっては購入に意欲的ではなく、かつその商品を購入する必要性は高くない商品であるといえる。以下ではこれをカテゴリIVの商品と呼ぶ。
このように、顧客の商品の選択順とその商品を選ぶのに要した選択時間をプロットすることでより詳細な商品に対する購入意識の傾向、さらには来店目的を知ることができる。
たとえば図5(A)の例でいえば、商品Aというものはこの顧客にとって定番であり、来店して早い時間に選択していることから購入意欲の高い商品であることがうかがえる。一方で商品Bおよび商品B'は来店時間が経過してから最後の方で選択している。これはその商品の購入意欲が高くないが購入する必要性は高いとみなされている商品である。選択時間が長く、商品Bと商品B'が混ざっているということは、特に商品にこだわりがなくその都度状況(気分など)に応じて選択されていることを示す。
図5(A)は、顧客毎の購入意識の傾向を示していたが、顧客単位ではなく、顧客の人物属性、例えば、年齢層、性別といった顧客の属性によって分類することもできる。このような分類によれば、一定の客層の購入意識の傾向を観察することが可能となる。そこで、図5(B)では、特定の商品について、特定の属性を有する顧客が購入に要する時間を、当該商品を選択した順序と関連づけて表示する画面の一例を示す。
表示条件として商品名(或いは商品識別情報)と、表示対象期間、表示すべき顧客属性が指定されると、指定された商品名の商品の購入実績のある顧客の購入情報のうち、表示対象期間に属し、かつ、指定された顧客属性を満たす購入情報が購入情報データベース320から取得される。そして、当該商品について、商品を購入した順序及び、選択時間が個々に特定され、表示用情報が生成される。
図5(B)のような表示形態によれば、商品毎に、所定の属性を有する顧客の購入傾向を観察することができる。画面の左側には商品を特定するための情報が表示され、そこには、例えば、商品名や商品識別情報、商品が陳列されている商品棚21の情報が含まれる。また、表示対象期間が示され、当該期間内の購入実績に基づいた表示が行われる。
さらに、表示される顧客の属性を示す情報が表示される。図5(B)の場合、10代歳男性、20代歳男性、30代歳男性が示されている。図5(B)で示した属性の例はあくまで一例であって、指定される表示条件に従い他の年齢層を含めることもできるし、女性を含めることもできる。また、男性、女性両方を対象とすることもできる。或いは、性別は問わずに年代のみを含めることもできる。また、年齢層をより細分化することもできる。例えば、10歳毎の属性で表示した後に20代が更に選択された場合、5歳毎、1歳毎というように段階的に細分化して表示を行うようにしても良い。さらには、年齢、性別以外の属性に基づいて表示を行うことができる。例えば、職業、居住地域等に基づく表示を行ってもよい。
画面右側には、顧客の属性毎に、当該商品を購入のために選択した順序、及び、当該商品を選択するのに要した時間(商品棚21の前に滞在した時間)を示す散布図が表示される。散布図の縦軸は、当該商品を購入した顧客が入店からレジ会計を行い出店するまでの時系列(店舗内における滞在時間の先後)に対応し、当該商品棚21における商品の選択順序(商品選択順序、或いは、商品購入順序の先後)を示す。図5(A)と同様、この時間は顧客によって異なるため、入店時と出店時までの滞在時間に基づいて正規化している。横軸は当該商品を選択するのに経過した時間(商品選択時間の長短)、商品棚21の前に滞在した時間(滞在時間の長短)を示す。
図5(B)においても、図5(A)におけるカテゴリ分類が有効である。図5(B)に示した商品の場合、前述のカテゴリI、すなわち多くの顧客が比較的入店後早い時期にほとんど選択をせずに購入している商品とみなすことができる。換言すると、少なくともこの属性(男性)に関してはこの商品を目的に来店している人が多く、特に10代から30代の顧客にその傾向が顕著であることがわかる。これはこの商品は10から30代向けのターゲット商品として適切であることがわかる。また、これを目的に来店する顧客が多いことからも非常に訴求力が強い商品として、売り場面積を拡大し目立つ場所への設置に好適である。このように商品がどのカテゴリに所属するかを判別することが可能となり、商品の入荷や配置換えの参照とすることができる。
さらに、商品、表示対象期間、属性についての表示条件を任意の組み合わせにおいて指定し、カテゴリIに属する割合が他のカテゴリに属する割合よりも一定以上高いもののみを表示することもできる。例えば、直近1週間の期間において、男性20代でカテゴリIに属する割合の高い商品を表示することができる。このような表示結果からは、20代の男性に訴求力のある商品を容易に判定することができる。また、直近1週間の期間において、商品Aを購入した顧客のうちカテゴリIに属する顧客属性を表示することができる。このような表示結果からは、商品Aがどのような属性を有する顧客に対して訴求力を有するのかを容易に判定することができる。
上記においては、特定の顧客、或いは、特定の商品について散布図を含む表示情報を生成していたが、これら以外にも例えば、商品自体が陳列されている商品棚21について表示情報を生成することもできる。
次に、図6(A)は、特定の商品棚21について、当該商品棚21に配置された商品の選択に要する時間を、当該商品棚21を訪れた順番と関連づけて表示する画面の一例を示す。なお、図6(A)では、商品棚21で立ち止まったものの商品を選択しなかった場合を含めて表示している。
表示条件として商品棚21を特定する情報(商品棚のID、或いは、番号等)と、表示対象期間が指定されると、指定された商品棚21に立ち寄った実績のある顧客の購入情報のうち、表示対象期間に属する購入情報が購入情報データベース320から取得される。そして、当該顧客が表示対象期間内に、当該商品棚21に立ち寄った順序、及び、立ち寄った時間、商品棚21に陳列されているいずれかの商品を購入した場合には当該商品が個々に特定され、表示用情報が生成される。
図6(A)のような表示形態によれば、商品棚21毎に、店舗20を訪問した顧客がどの順序でその商品棚21に立ち寄り(経由し、或いは、訪問し)、そこで商品を実際に選択しているかどうか、また、当該商品棚21にどの程度滞在しているのかといった傾向を観察することができる。画面の左側には商品棚21を特定するための情報が表示され、そこには、例えば、商品棚21の識別情報、当該商品棚21にある商品のうち購入実績のある商品の情報(商品名や商品識別情報)が含まれる。また、当該商品棚21から商品が選択されなかった場合の滞在時間を示すために「購入なし」を示す情報も含まれる。さらに、表示対象期間が示され、当該期間内の購入実績に基づいた表示が行われる。また、表示条件に応じて、商品棚21を切り替えたり、商品棚21に陳列されている商品のうち、特定の商品のみを選択して表示したりするようにしてもよい。或いは、「購入なし」の場合のみを選択することもできる。
画面右側には、商品棚毎に、当該商品棚21に立ち寄った(経由した、訪問した)順序、及び、当該商品棚21に滞在した時間(当該商品棚の商品を選択するのに要した時間)を示す散布図が表示される。散布図の縦軸は、当該商品を購入した顧客が入店からレジ会計を行い出店するまでの時系列(店舗内における滞在時間の先後)に対応し、各商品棚21を経由した順序(商品棚21の経由順序の先後)、或いは、当該商品棚21の商品の選択順序(商品選択順序の先後)を示す。図5と同様、この時間は顧客によって異なるため、入店時と出店時までの滞在時間に基づいて正規化している。横軸は商品棚21の前に滞在した時間(滞在時間の長短)、或いは、当該商品棚21の商品を選択するのに経過した時間(商品選択時間の長短)を示す。
図6(A)では、商品棚A−1に陳列された商品を例にとっている。図6(A)の表示結果に従えば、全体的な傾向として商品棚A−1に陳列されている商品はカテゴリIもしくはカテゴリIIに近い商品が多いが、すべての商品が同じ傾向ではない。商品AはカテゴリIの中でも特にその傾向が強い。また、商品A'はそれほど大きな傾向が見えていない。このことから商品Aはこの商品を目的に来店する顧客が多いことを示し、商品替えの際に商品Aの位置をさらに目立つ場所に変えることが推奨される。この商品棚A−1は比較的早くに顧客が訪れることが多いために店内の中でも入店しやすい位置に配置することが望まれる。このように商品の購入傾向から商品配列に関する知見を得ることが可能である。
また、図6(A)の表示形態では、商品棚21に立ち寄るだけの顧客と、実際に商品を購入している顧客とを同時に表示することができる。このような表示形態において、仮に当該商品棚21は商品を購入する客よりもただ立ち寄るだけの顧客の方が多い場合、そこに陳列する商品の内容を見直すことの示唆を得ることができる。
本実施形態では、発明の適用対象を商品を販売する店舗20を例としているので、店舗20内の商品設置場所である商品棚21ごとに図6(A)のような陳列されている商品の傾向を観察することが可能となる。これに対して、発明の適用対象を商品を販売しない展示会会場、或いは、展示会場内の展示ブースとした場合には、商品そのものを購入することはできないので、展示商品毎の傾向を示すことはできない。しかし、ブースの特定箇所に立ち寄った場合に、立ち寄った順序や滞在時間を表示するソリューションとして有用である。
上述の図6(A)のような画面表示によれば、ある商品棚21について商品毎にカテゴリ属性を判定することができるが、当該カテゴリ属性を商品単位ではなく、商品棚単位に判定することも可能である。図6(A)に示した例では、商品棚A−1は、カテゴリIに属する商品が多いので、このような商品棚21についてはカテゴリIと判別することができる。他の商品棚21についても、その商品棚21に属している商品数が最も多いカテゴリを商品棚21の属性とすることができる。
このようにして全ての商品棚21についてカテゴリ属性を判定し、商品棚21の位置にカテゴリ属性を表示した画面表示の一例を図6(B)に示す。図6(B)では、店内すべての棚をカテゴリI〜IVのいずれかのカテゴリに分類して表示している。このような表示結果を参照することで、カテゴリIの棚は顧客が来店時の目的としている商品が多いため、これを目立つように、かつ店内に分散させることで顧客の動線を形成するための示唆を得ることが可能となる。カテゴリIIの棚も、顧客が来店時に早く訪れるが、その位置で滞留する傾向にあるため、棚の前のスペースを多めにとる必要があるとの示唆を得ることが可能となる。カテゴリIIIの棚は生活必需品系であり、人が滞留する時間は短いので設置場所の自由度は高い。一方で、カテゴリIVの棚は、その棚に陳列されている商品を目的に顧客が来店しているとは言い難いが、人が滞留しやすい傾向があるため、設置場所を配慮する必要がある。また、売り上げ自体が少なければカテゴリIIIもカテゴリIVも商品配列を見直すための候補となりうる。
以上のように本実施形態では、同じ商品を購入した履歴に関してもその順番と、それを選択(購入を決断)するのに要した時間との相関を図示化することができる。これにより、店舗20内における商品の位置付けを図示化することができる。
また、売り上げと相関を取ることも可能であり、さらには購入に至らない商品に関しても統計を取ることができるため、より緻密な広告販売戦略をとることができる。例えば、店舗20を訪問する動機付けになり得るカテゴリI商品の近傍に広告表示装置600を配置し、広告表示制御部207が、顧客が店舗20を訪問した際には購入する可能性が高いカテゴリIII商品の広告を広告表示装置600に表示させる。これにより、カテゴリI商品を購入するために店舗20を訪問した顧客に対して、カテゴリIIIの商品の存在を思い出させて、購買意欲を刺激することができる。或いは、カテゴリIの商品の商品棚21では滞在時間が短いため、立ち寄る順番が早く、かつ、滞在時間の長いカテゴリIIの商品棚21の近傍に広告表示装置600を配置して、カテゴリIIIの商品の広告を提供しても良い。また、これらの棚と滞留時間のデータを用いて、店内における商品の棚替えをした際の顧客の動線・滞留シミュレーションも実施することが可能であり、より最適化した店内構造のデータ取得に役立つ。本件で示した実施例はいくまで一例であり、その表示手法と相関を取るデータ及び利用方法は様々な形態をとることが可能である。
以上の発明の実施形態によれば、顧客がどのような順で商品を選択したかのみならず、商品の選択にどれだけの時間をかけたかの情報を提供することが可能となる。これにより、顧客が購入した商品が、どのような動機を持って選択されたかを知ることができる。例えば、他の購入商品に先だって短い選択時間で直ちに選択されたような商品で、同様のパターンで繰り返し購入されている商品は、顧客が当該商品を購入することを目的で来店する商品と言える。また、同様に短い選択時間で選択したような商品は、選択順序が仮に後であったとしても、顧客にとっては必需品で、ついでがあれば購入する種類の商品と推測することができる。一方、選択に時間がかかり、順番も後ろの商品であって、購入頻度の高くない商品は、顧客がそのときにたまたま購入した商品であって、当該商品の購入はユーザの来店の目的にはなりにくい商品といえる。上記は顧客単位だけでなく、複数の顧客について特定の属性毎に傾向を分析することにより、ある属性に共通する傾向を観察することも可能となる。
さらには、商品棚21での滞在時間は商品を購入した場合には商品の選択時間とみなすことができる一方で、商品の購入がなかった場合には、滞在時間が長いにもかかわらず、商品の購入には到らなかったと推定することができる。これにより、選択の末購入に至らなかった商品あるいは商品種目を把握することも可能となる。
このように、本実施形態によれば、店舗20内の商品がどのような動機で購入されているのか、或いは、商品がどのような顧客にとってどのような性質を有する商品であるのかを把握することが可能となる。さらに、売り上げが少ない商品に関しても、そもそもそれらが興味を持たれているかそうでないのかを知ることができるため、店内の商品替えやレイアウト変更時におけるマーケット情報となる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
10:システム、100:ネットワークカメラ、200:情報処理装置、300:データベース装置、400:POSレジ端末、500:情報表示装置、600:広告表示装置、700:LAN

Claims (15)

  1. 情報処理装置であって、
    店舗内に配置された撮像装置から提供された情報に基づき、前記店舗に来店した顧客の店舗内での動線情報を生成する動線情報生成手段と、
    前記顧客が前記店舗において購入した商品に関連する購入商品情報を取得する取得手段と、
    前記購入商品情報に基づき、前記動線情報と前記購入した商品とを前記顧客に関連づけて購入情報を生成する購入情報生成手段と、
    前記購入情報に基づき、前記購入した商品の選択に要した時間、及び、前記購入した商品を選択した順序との関連において、顧客または商品に関する情報を表示するための表示用情報を生成する表示用情報生成手段と
    を備え、
    前記動線情報は、前記店舗内における複数の商品設置場所のそれぞれにおける前記顧客の滞在時間と、前記顧客が前記店舗内で前記商品設置場所を経由した順序の情報を含み、
    前記表示用情報生成手段は、前記購入情報における前記購入した商品と当該商品が設置された前記商品設置場所との関連づけに従い、前記複数の商品設置場所のそれぞれにおける前記顧客の滞在時間に基づき前記購入した商品の選択に要した時間を決定し、前記商品設置場所を経由した前記順序に基づき前記購入した商品を選択した順序を決定する、
    ことを特徴とする情報処理装置。
  2. 前記表示用情報生成手段は、前記表示用情報に、前記購入した商品の選択に要した時間に関連する軸と、前記商品を選択した順序又は前記商品設置場所を経由した順序に関連する軸とに基づく散布図を含めることを特徴とする請求項1に記載の情報処理装置。
  3. 前記購入情報生成手段は、前記購入情報を、前記店舗内に配置された撮像装置により撮影された前記顧客の画像から判定された当該顧客の属性と更に関連づけ、
    前記属性は、性別及び年齢層を少なくとも含むことを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記購入商品情報が、商品を購入した前記顧客を識別する識別情報を含む場合に、
    前記購入情報生成手段は、前記購入情報を、前記識別情報から特定される顧客の属性と更に関連づけ、
    前記属性は、前記顧客の識別情報、性別及び年齢を少なくとも含むことを特徴とする請求項1または2に記載の情報処理装置。
  5. 前記表示用情報生成手段は、前記表示用情報を、特定の顧客について生成された複数の購入情報から、該特定の顧客が過去に購入した商品について、当該購入した商品の選択に要した時間、及び、当該商品を選択した順序を表示するための情報として生成することを特徴とする請求項4に記載の情報処理装置。
  6. 前記表示用情報生成手段は、前記表示用情報を、特定の商品を購入した顧客について生成された複数の購入情報から、該特定の商品について、当該商品の選択に要した時間、及び、当該商品を選択した順序を表示するための情報として生成することを特徴とする請求項3または4に記載の情報処理装置。
  7. 前記表示用情報生成手段は、前記特定の商品を購入した顧客のうち、所定の属性を有する顧客について生成された複数の購入情報に基づいて前記表示用情報を生成することを特徴とする請求項6に記載の情報処理装置。
  8. 前記表示用情報生成手段は、前記表示用情報を、特定の商品設置場所を訪れた顧客について生成された複数の購入情報から、該特定の商品設置場所について、当該商品設置場所に配置された商品の選択に要した時間、及び、当該商品設置場所を訪れた順番を表示するための情報として生成することを特徴とする請求項1から4のいずれか1項に記載の情報処理装置。
  9. 前記表示用情報生成手段は、前記表示用情報を、前記特定の商品設置場所を訪れた顧客が前記特定の商品設置場所に配置された商品を購入しなかった場合の前記顧客の前記商品設置場所における滞在時間を、前記商品設置場所に配置された商品の選択に要した時間と共に表示するための情報として生成することを特徴とする請求項8に記載の情報処理装置。
  10. 前記表示用情報を生成するための条件を取得する取得手段を更に備え、
    前記表示用情報生成手段は、前記条件に含まれる、商品、顧客、前記商品の購入時期の少なくともいずれかに関する指定に基づいて、前記表示用情報を生成することを特徴とする請求項1から9のいずれか1項に記載の情報処理装置。
  11. 表示用情報生成手段は、前記店舗内の複数の商品設置場所のそれぞれを、各商品設置場所を訪れた顧客について生成された複数の購入情報に基づき、前記滞在時間の長短と、前記順序の先後とに基づいて複数のカテゴリに分類し、前記商品設置場所のそれぞれについて分類されたカテゴリを表示するための情報を、前記表示用情報として更に生成することを特徴とする請求項1から10のいずれか1項に記載の情報処理装置。
  12. 前記店舗内に設置された広告表示装置における広告表示を制御する広告表示制御手段を更に備え、
    前記広告表示装置は、前記複数のカテゴリのうち、前記順序が先のカテゴリが割り当てられた商品設置場所の近傍に設置され、
    前記広告表示制御手段は、前記順序が後のカテゴリが割り当てられた商品設置場所にある商品の広告を表示するように前記広告表示装置を制御することを特徴とする請求項11に記載の情報処理装置。
  13. 請求項1から12のいずれか1項に記載の情報処理装置と、
    店舗内を撮像して画像を生成し、前記画像に含まれる前記店舗に来店した顧客の前記店舗内での動きを追跡して生成した情報を前記情報処理装置に提供する撮像装置と、
    前記情報処理装置が生成した表示用情報を表示する表示装置と
    を備えるシステム。
  14. 情報処理装置の制御方法であって、
    動線情報生成手段が、店舗内に配置された撮像装置から提供された情報に基づき、前記店舗に来店した顧客の店舗内での動線情報を生成する工程と、
    取得手段が、前記顧客が前記店舗において購入した商品に関連する購入商品情報を取得する工程と、
    購入情報生成手段が、前記購入商品情報に基づき、前記動線情報と前記購入した商品とを前記顧客に関連づけて購入情報を生成する工程と、
    表示用情報生成手段が、前記購入情報に基づき、前記購入した商品の選択に要した時間、及び、前記購入した商品を選択した順序との関連において、顧客または商品に関する情報を表示するための表示用情報を生成する工程と
    を含み、
    前記動線情報は、前記店舗内における複数の商品設置場所のそれぞれにおける前記顧客の滞在時間と、前記顧客が前記店舗内で前記商品設置場所を経由した順序の情報を含み、
    前記表示用情報を生成する工程では、前記購入情報における前記購入した商品と当該商品が設置された前記商品設置場所との関連づけに従い、前記複数の商品設置場所のそれぞれにおける前記顧客の滞在時間に基づき前記購入した商品の選択に要した時間が決定され、前記商品設置場所を経由した前記順序に基づき前記購入した商品を選択した順序が決定される、ことを特徴とする情報処理装置の制御方法。
  15. コンピュータを請求項1から12のいずれか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
JP2017242877A 2017-12-19 2017-12-19 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム Active JP7038543B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017242877A JP7038543B2 (ja) 2017-12-19 2017-12-19 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム
US16/210,728 US11481789B2 (en) 2017-12-19 2018-12-05 Information processing apparatus, system, control method for information processing apparatus, and non-transitory computer-readable storage medium
CN201811519093.3A CN110033298B (zh) 2017-12-19 2018-12-12 信息处理设备及其控制方法、系统和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017242877A JP7038543B2 (ja) 2017-12-19 2017-12-19 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム

Publications (3)

Publication Number Publication Date
JP2019109751A true JP2019109751A (ja) 2019-07-04
JP2019109751A5 JP2019109751A5 (ja) 2020-12-24
JP7038543B2 JP7038543B2 (ja) 2022-03-18

Family

ID=66816182

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017242877A Active JP7038543B2 (ja) 2017-12-19 2017-12-19 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム

Country Status (3)

Country Link
US (1) US11481789B2 (ja)
JP (1) JP7038543B2 (ja)
CN (1) CN110033298B (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021106531A1 (ja) * 2019-11-29 2021-06-03 サトーホールディングス株式会社 情報処理装置、情報処理方法、プログラム、および、コンピュータ可読記録媒体
WO2021152818A1 (ja) * 2020-01-31 2021-08-05 株式会社オプティム 顧客購買分析システム、顧客購買分析方法、およびプログラム
JP2021152721A (ja) * 2020-03-24 2021-09-30 東芝テック株式会社 情報収集装置及びその制御プログラム
WO2022195913A1 (ja) * 2021-03-16 2022-09-22 サトーホールディングス株式会社 表示システム、制御装置、及び制御プログラム
JP7215767B1 (ja) 2021-08-24 2023-01-31 Necプラットフォームズ株式会社 決済装置、決済方法および決済プログラム
JP2023074191A (ja) * 2021-11-17 2023-05-29 株式会社バンダイナムコアミューズメント 顧客分析装置、顧客分析プログラム、および顧客分析システム
JP2023135236A (ja) * 2022-03-15 2023-09-28 サトーホールディングス株式会社 情報処理装置、情報処理方法、および、プログラム
JP2023135230A (ja) * 2022-03-15 2023-09-28 サトーホールディングス株式会社 情報処理装置、情報処理方法、および、プログラム

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11836752B2 (en) * 2018-07-30 2023-12-05 Ncr Corporation Consumer tracking and engagement processing
US11386647B2 (en) 2019-10-25 2022-07-12 7-Eleven, Inc. System and method for processing a refund request arising from a shopping session in a cashierless store
US11023728B1 (en) 2019-10-25 2021-06-01 7-Eleven, Inc. Machine learning algorithm trained to identify algorithmically populated shopping carts as candidates for verification
US10922555B1 (en) 2019-10-25 2021-02-16 7-Eleven, Inc. Customer-based video feed
US11017229B2 (en) 2019-10-25 2021-05-25 7-Eleven, Inc. System and method for selectively verifying algorithmically populated shopping carts
US11380091B2 (en) 2019-10-25 2022-07-05 7-Eleven, Inc. System and method for populating a virtual shopping cart based on a verification of algorithmic determinations of items selected during a shopping session in a physical store
JP7740227B2 (ja) * 2020-03-13 2025-09-17 日本電気株式会社 処理装置、処理方法及びプログラム
JP7428241B2 (ja) * 2020-04-24 2024-02-06 日本電気株式会社 処理装置、処理方法及びプログラム
JP2022034829A (ja) * 2020-08-19 2022-03-04 トヨタ自動車株式会社 情報処理装置、及び、情報処理方法
CN111915380B (zh) * 2020-08-31 2021-05-14 杭州拼便宜网络科技有限公司 一种商品陈列路径生成方法、装置、设备及存储介质
US12400451B1 (en) * 2020-12-11 2025-08-26 Amazon Technologies, Inc. Generating actionable metrics from sensor data
US20230067937A1 (en) * 2021-08-24 2023-03-02 Marielectronics Oy System and method for monitoring people in the store
JP7276419B1 (ja) * 2021-12-24 2023-05-18 富士通株式会社 情報処理プログラム、情報処理方法、および情報処理装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060010027A1 (en) * 2004-07-09 2006-01-12 Redman Paul J Method, system and program product for measuring customer preferences and needs with traffic pattern analysis
JP2006185293A (ja) * 2004-12-28 2006-07-13 Hitachi Software Eng Co Ltd 顧客情報収集システム
JP2010002997A (ja) * 2008-06-18 2010-01-07 Toshiba Tec Corp 人物行動分析装置及び人物行動分析プログラム
CN103534720A (zh) * 2010-07-15 2014-01-22 日升研发控股有限责任公司 基于购物者在商店中的位置在第一关键时刻影响产品选择

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4068505B2 (ja) * 2003-05-26 2008-03-26 Necシステムテクノロジー株式会社 顧客購買行動分析システム
JP4330478B2 (ja) * 2004-03-31 2009-09-16 富士通株式会社 商品情報提供方法および商品情報提供装置
KR20040078636A (ko) * 2004-08-23 2004-09-10 안재명 매장 관리 시스템
BRPI0610100A2 (pt) * 2005-04-29 2010-05-25 Springboard Retail Networks Licensing Srl sistemas e métodos para gerenciar informações do usuário através de uma rede
JP2006350701A (ja) 2005-06-16 2006-12-28 Toshiba Tec Corp 伝言処理システム
US8189926B2 (en) * 2006-12-30 2012-05-29 Videomining Corporation Method and system for automatically analyzing categories in a physical space based on the visual characterization of people
JP2009003701A (ja) * 2007-06-21 2009-01-08 Denso Corp 情報システム及び情報処理装置
US10163113B2 (en) * 2008-05-27 2018-12-25 Qualcomm Incorporated Methods and apparatus for generating user profile based on periodic location fixes
US8502869B1 (en) * 2008-09-03 2013-08-06 Target Brands Inc. End cap analytic monitoring method and apparatus
JP2010113692A (ja) 2008-11-10 2010-05-20 Nec Corp 顧客行動記録装置及び顧客行動記録方法並びにプログラム
US20100185487A1 (en) * 2009-01-21 2010-07-22 Sergio Borger Automatic collection and correlation of retail metrics
US8412656B1 (en) * 2009-08-13 2013-04-02 Videomining Corporation Method and system for building a consumer decision tree in a hierarchical decision tree structure based on in-store behavior analysis
JP2011253344A (ja) * 2010-06-02 2011-12-15 Midee Co Ltd 購買行動分析装置、購買行動分析方法、およびプログラム
US10360593B2 (en) * 2012-04-24 2019-07-23 Qualcomm Incorporated Retail proximity marketing
WO2014102797A1 (en) * 2012-12-30 2014-07-03 Wiseye Video System Ltd. Distributed business intelligence system and method of operation thereof
US20140195302A1 (en) * 2013-01-10 2014-07-10 Oracle International Corporation Guided walkthrough provider
US20140249887A1 (en) * 2013-03-01 2014-09-04 Rapidblue Solutions Oy System for monitoring customers within retail premises
CN103473691B (zh) * 2013-06-17 2016-09-07 展讯通信(上海)有限公司 一种三维购物平台与外部平台的数据交换方法
WO2015010086A2 (en) * 2013-07-19 2015-01-22 eyeQ Insights System for monitoring and analyzing behavior and uses thereof
JP5967553B2 (ja) * 2014-06-16 2016-08-10 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 店舗内又は店舗間における顧客の購買行動を推定する方法、並びに、そのコンピュータ・システム及びコンピュータ・プログラム
EP3165878A4 (en) * 2014-07-02 2018-03-14 Sony Corporation Information processing device, information processing method, and program
US20170124621A1 (en) * 2014-08-26 2017-05-04 Sk Planet Co., Ltd. Product information providing device, product information providing method, product information providing system, and non-transitory computer readable storage medium having computer program recorded thereon
JP6653413B2 (ja) * 2015-02-04 2020-02-26 パナソニックIpマネジメント株式会社 購買分析装置及び購買分析方法
US10217120B1 (en) * 2015-04-21 2019-02-26 Videomining Corporation Method and system for in-store shopper behavior analysis with multi-modal sensor fusion
US10713670B1 (en) * 2015-12-31 2020-07-14 Videomining Corporation Method and system for finding correspondence between point-of-sale data and customer behavior data
US10937039B2 (en) * 2016-01-21 2021-03-02 International Business Machines Corporation Analyzing a purchase decision
US20170315208A1 (en) * 2016-05-02 2017-11-02 Mojix, Inc. Joint Entity and Object Tracking Using an RFID and Detection Network
CN106447460A (zh) * 2016-10-17 2017-02-22 北京京东尚科信息技术有限公司 基于购物车的物品唤醒方法和装置
US20190108561A1 (en) * 2017-10-05 2019-04-11 Mindtree Ltd. Purchase Intent Determination And Real Time In-store Shopper Assistance

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060010027A1 (en) * 2004-07-09 2006-01-12 Redman Paul J Method, system and program product for measuring customer preferences and needs with traffic pattern analysis
JP2006185293A (ja) * 2004-12-28 2006-07-13 Hitachi Software Eng Co Ltd 顧客情報収集システム
JP2010002997A (ja) * 2008-06-18 2010-01-07 Toshiba Tec Corp 人物行動分析装置及び人物行動分析プログラム
CN103534720A (zh) * 2010-07-15 2014-01-22 日升研发控股有限责任公司 基于购物者在商店中的位置在第一关键时刻影响产品选择
JP2014507690A (ja) * 2010-07-15 2014-03-27 サンライズ アール アンド ディー ホールディングス,エルエルシー 小売店での買い物客の所在地に基づいた最初の決定的瞬間に買い物客の製品選択に影響を与えるシステム

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021086579A (ja) * 2019-11-29 2021-06-03 サトーホールディングス株式会社 情報処理装置およびプログラム
JP7203713B2 (ja) 2019-11-29 2023-01-13 サトーホールディングス株式会社 情報処理装置およびプログラム
WO2021106531A1 (ja) * 2019-11-29 2021-06-03 サトーホールディングス株式会社 情報処理装置、情報処理方法、プログラム、および、コンピュータ可読記録媒体
US12299721B2 (en) 2019-11-29 2025-05-13 Sato Holdings Kabushiki Kaisha Information processing apparatus, information processing method, program, and computer-readable recording medium
WO2021152818A1 (ja) * 2020-01-31 2021-08-05 株式会社オプティム 顧客購買分析システム、顧客購買分析方法、およびプログラム
JP6984957B1 (ja) * 2020-01-31 2021-12-22 株式会社オプティム 顧客購買分析システム、顧客購買分析方法、およびプログラム
JP7516082B2 (ja) 2020-03-24 2024-07-16 東芝テック株式会社 情報収集装置及びその制御プログラム
JP2021152721A (ja) * 2020-03-24 2021-09-30 東芝テック株式会社 情報収集装置及びその制御プログラム
WO2022195913A1 (ja) * 2021-03-16 2022-09-22 サトーホールディングス株式会社 表示システム、制御装置、及び制御プログラム
JP2022142075A (ja) * 2021-03-16 2022-09-30 サトーホールディングス株式会社 表示システム、制御装置、及び制御プログラム
US12299188B2 (en) 2021-03-16 2025-05-13 Sato Holdings Kabushiki Kaisha Display system, control apparatus, and control program
JP7654429B2 (ja) 2021-03-16 2025-04-01 サトーホールディングス株式会社 表示システム、制御装置、及び制御プログラム
JP7215767B1 (ja) 2021-08-24 2023-01-31 Necプラットフォームズ株式会社 決済装置、決済方法および決済プログラム
JP2023030699A (ja) * 2021-08-24 2023-03-08 Necプラットフォームズ株式会社 決済装置、決済方法および決済プログラム
JP2023074191A (ja) * 2021-11-17 2023-05-29 株式会社バンダイナムコアミューズメント 顧客分析装置、顧客分析プログラム、および顧客分析システム
JP7763640B2 (ja) 2021-11-17 2025-11-04 株式会社バンダイナムコエクスペリエンス 顧客分析装置、顧客分析プログラム、および顧客分析システム
JP2023135230A (ja) * 2022-03-15 2023-09-28 サトーホールディングス株式会社 情報処理装置、情報処理方法、および、プログラム
JP2023135236A (ja) * 2022-03-15 2023-09-28 サトーホールディングス株式会社 情報処理装置、情報処理方法、および、プログラム

Also Published As

Publication number Publication date
US20190188734A1 (en) 2019-06-20
CN110033298A (zh) 2019-07-19
JP7038543B2 (ja) 2022-03-18
US11481789B2 (en) 2022-10-25
CN110033298B (zh) 2024-01-09

Similar Documents

Publication Publication Date Title
JP7038543B2 (ja) 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム
US20110199486A1 (en) Customer behavior recording device, customer behavior recording method, and recording medium
JP4778532B2 (ja) 顧客情報収集管理システム
JP7586161B2 (ja) 情報処理システム、商品推薦方法、およびプログラム
JP4125634B2 (ja) 顧客情報収集管理方法及びそのシステム
US9418352B2 (en) Image-augmented inventory management and wayfinding
JP2010002997A (ja) 人物行動分析装置及び人物行動分析プログラム
US20130328765A1 (en) Signage system and display method by the same
US10740743B2 (en) Information processing device and screen setting method
JP5780348B1 (ja) 情報提示プログラム及び情報処理装置
JP2010140287A (ja) 購買行動分析装置、方法及びコンピュータプログラム
JP6557702B2 (ja) 顧客分析システム
JP2005309951A (ja) 販売促進支援システム
JP2018156150A (ja) 情報処理装置、情報処理方法、端末、情報処理システム及びプログラム
JP2023153148A (ja) セルフレジシステム、購入商品管理方法および購入商品管理プログラム
JP7608581B2 (ja) 情報提供装置及びその制御プログラム
JP2005031963A (ja) レイアウト評価・提案システム、その方法、そのプログラム及び該プログラムを記録した媒体
JP2018025882A (ja) 情報処理装置及びその制御方法、表示装置、コンピュータプログラム
JP7315046B2 (ja) セルフレジシステム、購入商品管理方法および購入商品管理プログラム
JP2016024601A (ja) 情報処理装置、情報処理システム、情報処理方法、商品推薦方法、およびプログラム
JP2023046892A (ja) 情報処理装置及びプログラム
JP2026052841A (ja) 販売促進支援システム、販売促進支援装置、販売促進支援方法、及びプログラム
JP2026014507A (ja) 販売データ処理装置及び情報処理プログラム
US20240221008A1 (en) Processing apparatus, processing method, and non-transitory storage medium
JP2023118949A (ja) セルフレジシステム、購入商品管理方法および購入商品管理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201111

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201111

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220308

R151 Written notification of patent or utility model registration

Ref document number: 7038543

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151