JP2020042344A - データ処理装置、データ処理方法及びデータ処理プログラム - Google Patents
データ処理装置、データ処理方法及びデータ処理プログラム Download PDFInfo
- Publication number
- JP2020042344A JP2020042344A JP2018167016A JP2018167016A JP2020042344A JP 2020042344 A JP2020042344 A JP 2020042344A JP 2018167016 A JP2018167016 A JP 2018167016A JP 2018167016 A JP2018167016 A JP 2018167016A JP 2020042344 A JP2020042344 A JP 2020042344A
- Authority
- JP
- Japan
- Prior art keywords
- data
- metadata
- data processing
- etl
- sensing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
図1は、本実施の形態に従うデータ処理装置(データ処理サーバ)100の概要を説明するための図である。図1に示されるように、データ処理サーバ100は、ネットワークを介してセンシングデータDB(database)200及びETLツール(ETLサーバ)400に接続されている。センシングデータDB200には、種々のセンシングデータが蓄積されている。データ処理サーバ100は、センシングデータDB200から入力されたセンシングデータに処理を施すことによって、出力データを生成する。
図2は、本実施の形態に従うデータ処理サーバ100を含む分析用データ生成システム10の構成の一例を示す図である。分析用データ生成システム10は、製造現場等に設置されたセンサが生成したセンシングデータに基づいて、データ分析担当者が利用する分析用データを生成するシステムである。
図4は、データ処理サーバ100のハードウェア構成の一例を示す図である。なお、本実施の形態において、データ処理サーバ100は、たとえば、汎用コンピュータによって実現される。
<4−1.データ処理サーバ及びETLサーバのソフトウェア構成>
図5は、データ処理サーバ100のソフトウェア構成の一例、及び、ETLサーバ400のソフトウェア構成の一例を示す図である。図5に示されるように、データ処理サーバ100は、データ形式変換部102と、データ分離部104と、メタデータ変換部106と、メタデータ送信部108とを含んでいる。データ形式変換部102、データ分離部104、メタデータ変換部106及びメタデータ送信部108の各々は、制御部170(図4)が制御プログラム181を実行することよって実現されるソフトウェアモジュールである。
図6は、データ形式変換部102の詳細構成を示す図である。図6に示されるように、データ形式変換部102は、データ形式判定部110と、第1変換部112と、第2変換部114とを含んでいる。
図8は、メタデータ変換部106の詳細構成を示す図である。図8に示されるように、メタデータ変換部106は、問合せ部120と、ID変換部122と、値変換部124とを含んでいる。
ETLサーバ400においてセンシングデータのIDが変更されている場合には、変更後のIDにメタデータのIDを変更するようにID変換部122へ指示を出力する。また、問合せ部120は、ETLサーバ400においてセンシングデータの値が変更されている場合には、変更後の値と整合の取れる値にメタデータの値を変更するように値変換部124へ指示を出力する。
<5−1.データ形式変換処理>
図10は、データ形式変換部102におけるデータ形式変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、センシングデータDB200に蓄積されているデータがデータ形式変換部102に入力された場合に制御部170(データ形式変換部102)によって開始される。
図11は、メタデータ変換部106におけるメタデータ変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、メタデータ変換部106へメタデータが入力された場合に制御部170(メタデータ変換部106)によって開始される。
以上のように、本実施の形態に従うデータ処理サーバ100において、制御部170は、ETLサーバ400においてセンシングデータ(実データ)に施された処理に応じた処理をメタデータに施すように構成されている。したがって、データ処理サーバ100によれば、既存のETLツールを使用した場合であっても、センシングデータ(実データ)とメタデータとの関係性を正常に保つことができる。
以上、実施の形態について説明したが、本発明は、上記実施の形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて、種々の変更が可能である。以下、変形例について説明する。但し、以下の変形例は適宜組合せ可能である。
上記実施の形態においては、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータがセンシングデータであるとした。しかしながら、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータは、必ずしもセンシングデータである必要はない。たとえば、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータは、ショッピングサイトにおける各ユーザの購買履歴データや、ゲームサイトにおける各ユーザのスコアデータ等のセンシングデータ以外のデータであってもよい。
上記実施の形態においては、データ処理サーバ100において生成されたメタデータが分析用データDB300へ出力された。しかしながら、データ処理サーバ100において生成されたメタデータの出力先は、分析用データDB300に限定されない。たとえば、データ処理サーバ100において生成されたメタデータは、ETLサーバ400のロード部406へ出力されてもよい。この場合には、ロード部406がセンシングデータ及びメタデータを対応付けて、分析用データDB300へ出力する。
上記実施の形態において、メタデータ変換部106は、ID変換部122及び値変換部124の双方を含んだ。しかしながら、メタデータ変換部106は、必ずしもID変換部122及び値変換部124の双方を含む必要はない。たとえば、メタデータ変換部106は、ID変換部122及び値変換部124のいずれか一方のみを含んでもよい。
Claims (6)
- データ処理装置の外部に設けられたETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータに処理を施すように構成されたデータ処理装置であって、
プログラムを記憶するように構成されたメモリと、
前記プログラムを実行するように構成されたプロセッサとを備え、
前記プログラムは、前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップを前記プロセッサに実行させるように構成されている、データ処理装置。 - 前記実データ及び前記メタデータの各々には、共通のID(identification)が含まれており、
前記プログラムは、前記ETLツールにおいて前記実データに含まれているIDが変更された場合に、前記メタデータに含まれているIDを前記実データに含まれている変更後のIDに変更するステップを前記プロセッサに実行させるように構成されている、請求項1に記載のデータ処理装置。 - 前記実データには、ID(identification)に対応付けられた値が含まれており、
前記メタデータには、IDに対応付けられ、かつ、前記実データの属性を示す値が含まれており、
前記プログラムは、前記ETLツールにおいて前記実データに含まれている値が変更された場合に、前記メタデータに含まれている値を、前記実データに含まれている変更後の値と整合の取れる値に変更するステップを前記プロセッサに実行させるように構成されている、請求項1又は請求項2に記載のデータ処理装置。 - 前記実データは、センサによって生成されたセンシングデータである、請求項1から請求項3のいずれか1項に記載のデータ処理装置。
- ETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータに処理を施すデータ処理方法であって、
前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップを含む、データ処理方法。 - ETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータの処理をプロセッサに実行させるデータ処理プログラムであって、
前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップを前記プロセッサに実行させるように構成されている、データ処理プログラム。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018167016A JP7127439B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
| PCT/JP2019/006422 WO2020049757A1 (ja) | 2018-09-06 | 2019-02-21 | データ処理装置、データ処理方法及びデータ処理プログラム |
| CN201980053093.5A CN112567348B (zh) | 2018-09-06 | 2019-02-21 | 数据处理装置、数据处理方法和计算机可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018167016A JP7127439B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2020042344A true JP2020042344A (ja) | 2020-03-19 |
| JP7127439B2 JP7127439B2 (ja) | 2022-08-30 |
Family
ID=69723113
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018167016A Active JP7127439B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
Country Status (3)
| Country | Link |
|---|---|
| JP (1) | JP7127439B2 (ja) |
| CN (1) | CN112567348B (ja) |
| WO (1) | WO2020049757A1 (ja) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH03132834A (ja) * | 1989-10-13 | 1991-06-06 | Internatl Business Mach Corp <Ibm> | データベースのアクセス・プランの選択方法及び無効方法 |
| JP2014096177A (ja) * | 2014-01-22 | 2014-05-22 | Fujitsu Ltd | データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体 |
| WO2014122732A1 (ja) * | 2013-02-06 | 2014-08-14 | 株式会社日立製作所 | 計算機システム、メタデータ管理方法及び記録媒体 |
Family Cites Families (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3674569B2 (ja) * | 2001-10-04 | 2005-07-20 | オムロン株式会社 | センサ管理装置、センサ管理装置の制御プログラム、このプログラムを記録したコンピュータ読み取り可能な記録媒体、センサ管理装置の制御方法 |
| US7401064B1 (en) * | 2002-11-07 | 2008-07-15 | Data Advantage Group, Inc. | Method and apparatus for obtaining metadata from multiple information sources within an organization in real time |
| JP4717464B2 (ja) * | 2005-02-18 | 2011-07-06 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
| JP5023018B2 (ja) * | 2008-08-21 | 2012-09-12 | 株式会社日立製作所 | ストレージシステム及びデータ管理方法 |
| CN101364240B (zh) * | 2008-10-14 | 2010-07-21 | 杭州华三通信技术有限公司 | 元数据管理方法及装置 |
| CN101567890A (zh) * | 2009-06-05 | 2009-10-28 | 成都市华为赛门铁克科技有限公司 | 元数据传输方法、客户端设备及服务器设备 |
| US9213706B2 (en) * | 2013-06-13 | 2015-12-15 | DataGravity, Inc. | Live restore for a data intelligent storage system |
| US10476711B2 (en) * | 2014-01-16 | 2019-11-12 | Sony Corporation | Data processing devices and data processing methods |
| US20160231936A1 (en) * | 2015-02-11 | 2016-08-11 | Eugene Edwin Nelson | In-memory variable meta data system and method |
| US9866684B2 (en) * | 2015-02-16 | 2018-01-09 | Microsoft Technology Licensing, Llc | Process for real-time data exchange between users on a phone call |
-
2018
- 2018-09-06 JP JP2018167016A patent/JP7127439B2/ja active Active
-
2019
- 2019-02-21 CN CN201980053093.5A patent/CN112567348B/zh active Active
- 2019-02-21 WO PCT/JP2019/006422 patent/WO2020049757A1/ja not_active Ceased
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH03132834A (ja) * | 1989-10-13 | 1991-06-06 | Internatl Business Mach Corp <Ibm> | データベースのアクセス・プランの選択方法及び無効方法 |
| WO2014122732A1 (ja) * | 2013-02-06 | 2014-08-14 | 株式会社日立製作所 | 計算機システム、メタデータ管理方法及び記録媒体 |
| JP2014096177A (ja) * | 2014-01-22 | 2014-05-22 | Fujitsu Ltd | データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Non-Patent Citations (1)
| Title |
|---|
| 小田 利彦、他3名: "センシングデータ流通市場におけるメタデータの定義・生成・活用の一方式", 一般社団法人 人工知能学会 第32回全国大会論文集 1C3-OS-8B-01, JPN6021004812, 8 June 2018 (2018-06-08), JP, pages 1 - 2, ISSN: 0004700926 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112567348B (zh) | 2024-05-31 |
| CN112567348A (zh) | 2021-03-26 |
| JP7127439B2 (ja) | 2022-08-30 |
| WO2020049757A1 (ja) | 2020-03-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2020049758A1 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
| CN111567060B (zh) | 质量检查装置、质量检查方法及程序 | |
| CN111602123A (zh) | 预处理判定装置、预处理判定方法以及程序 | |
| JP2020042344A (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
| WO2020049759A1 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
| JP6468377B1 (ja) | 出力管理装置、出力管理方法及びプログラム | |
| US11927928B2 (en) | Output management apparatus, output management method, and program | |
| JP6477936B1 (ja) | データ処理装置、データ処理方法及びプログラム | |
| JP2019139552A (ja) | セッション制御装置、セッション制御方法及びプログラム | |
| WO2019159482A1 (ja) | 候補抽出装置、候補抽出方法及びプログラム | |
| JP2019169946A (ja) | 品質チェック装置、品質チェック方法及びプログラム | |
| WO2019159486A1 (ja) | セッション制御装置、セッション制御方法及びプログラム | |
| JP2020008928A (ja) | ゲートウェイ装置及びデータ転送方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201214 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210330 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220208 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220328 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220719 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220801 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7127439 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |