JPH10214270A - 情報蓄積装置および情報蓄積再生装置 - Google Patents

情報蓄積装置および情報蓄積再生装置

Info

Publication number
JPH10214270A
JPH10214270A JP9029545A JP2954597A JPH10214270A JP H10214270 A JPH10214270 A JP H10214270A JP 9029545 A JP9029545 A JP 9029545A JP 2954597 A JP2954597 A JP 2954597A JP H10214270 A JPH10214270 A JP H10214270A
Authority
JP
Japan
Prior art keywords
information
time
section
user input
compression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9029545A
Other languages
English (en)
Other versions
JP3733984B2 (ja
Inventor
Satoru Ichimura
哲 市村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP02954597A priority Critical patent/JP3733984B2/ja
Priority to US09/014,163 priority patent/US6188831B1/en
Publication of JPH10214270A publication Critical patent/JPH10214270A/ja
Application granted granted Critical
Publication of JP3733984B2 publication Critical patent/JP3733984B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N5/926Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation
    • H04N5/9261Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N5/926Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation
    • H04N5/9265Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation with processing of the sound signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Memory System (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

(57)【要約】 【課題】 重要区間の音声信号または画像信号は高品質
で保存しつつ、蓄積媒体の使用容量を削減できるように
する。 【解決手段】 時系列情報記憶部4に、情報入力手段
1、2から入力された音声情報または画像情報を記憶す
る。時系列情報記憶部4に記憶された音声情報が、予め
設定された所定の条件に合致する区間を条件一致区間検
出部3で検出する。検出された条件一致区間のうち、当
該条件一致区間内にユーザ入力情報があった区間を重要
区間とし、この重要区間と、他の区間とで、圧縮率ある
いは圧縮方式を変更して、時系列情報記憶手段に記憶さ
れている音声情報または画像情報のデータ量を圧縮する
圧縮手段を設ける。圧縮は、時系列情報記憶部4での保
存期間が所定期間を経過した後、あるいは時系列情報記
憶部4の蓄積媒体の使用容量が所定値を越えたとき、ま
たは、空き容量が所定値以下になったときに行う。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、例えば会議録記
録システムや取材記録システムのように、会議や取材で
の会話音声、会議や取材風景の画像と、それらに関係す
る会議メモや取材メモなどの情報を記憶蓄積する情報蓄
積装置に関する。
【0002】
【従来の技術】従来から、会議や講演、取材、インタビ
ュー、電話やテレビ電話を使用した会話、テレビ映像、
監視カメラ映像等の記録を、デジタルディスク、デジタ
ルスチルカメラ、ビデオテープ、半導体メモリなどに記
録し、再生する装置が提案されている。これらの装置を
用いて情報の蓄積を行なえば、記録すべき情報の要点の
みを記録者が筆記等して記録する方法に比べ、入力情報
である音声や画像を漏らさず記録できるという利点があ
る。
【0003】これらの装置には、コンピュータネットワ
ークを介して伝送されたデジタル信号を蓄積媒体に記録
するものや、ビデオカメラやマイクからのアナログ入力
信号をそのまま蓄積媒体に記録するものや、符号化して
デジタル信号に変換し、記録するものなどがある。
【0004】しかしながら、記録された音声や画像の中
から欲しい部分を瞬時に検索することができないという
問題点があった。
【0005】この問題点に対し、記録者が任意のタイミ
ングで所定のボタンを押すことによって入力音声信号ま
たは画像信号中の重要部分にチェックマークを付け、重
要部分を検索し易くするテープレコーダやVTRが提案
されている。
【0006】しかし、この場合のチェックマークは、単
に、重要部分の位置を特定するためのものであり、それ
ぞれのチェックマークが音声信号または画像信号のいず
れの区間部分に対応しているか示すことはできないため
に、チェックした部分音声信号また部分画像信号を全て
再生して内容を確認しなければならないという問題があ
った。さらに、話しを聞いている時にボタンを押すとい
う不自然な行動をとらなければならず、話しに集中でき
ないという問題もあった。
【0007】そのため、順次入力される音声信号または
画像信号と、任意のタイミングで記録者が入力したペン
やキーボードによるユーザ入力情報とを対応付けて蓄積
記録し、再生する装置が提案されている。これらの装置
を用いれば、記録者がメモを取るようにペンやキーボー
ドで入力を行なうとともに、音声信号または画像信号を
記録しておけば、後で、入力されたメモを参照すること
により、音声信号または画像信号の再生したい箇所を容
易に選択して再生することができる。
【0008】例えば、特開平7−182365号公報、
特開平6−176171号公報、特開平6−34314
6号公報、ACM CHI’94 プロシーディング
pp.58−pp.64(”Marquee: A T
ool For Real−Time Video L
ogging”)等には、記録の際に、音声信号または
画像信号とユーザ入力情報とを時間刻印に基づいて対応
付け、再生の際に、画面に表示されたユーザ入力情報の
1つを指定することにより、その指定されたユーザ入力
情報が記録された時刻に記録された音声信号または画像
信号を再生する装置が記載されている。
【0009】さらに、特開平6−276478公報に
は、順次入力される音声信号または画像信号と、任意の
タイミングで記録者が指示した静止画映像とを、時間刻
印に基づいて対応付け、再生する装置が提案されてい
る。
【0010】また、特開平6−205151号公報に
は、ユーザ入力が一定時間途切れたことを検知したタイ
ミングで、入力音声信号または入力画像信号にインデッ
クスを付加して記録し、再生の際に、画面に表示された
特定のユーザ入力情報の一つを指定することにより、そ
の指定されたユーザ入力情報に対応したインデックス部
分からの音声信号または画像信号を再生する装置が記載
されている。
【0011】しかしながら、前述の特開平7−1823
65号公報、特開平6−176171号公報、特開平6
−205151号公報、ACM CHI’94 プロシ
ーディング pp.58−pp.64(”Marque
e: A Tool ForReal−Time Vi
deo Logging”)、特開平6−276478
号公報に記載されている情報蓄積装置では、入力される
全ての音声信号または画像信号を圧縮せずに記録する仕
組みになっているため、限られた記録容量の中に長時間
の入力音声信号または入力画像信号を記録することは困
難であるという問題があった。一般に、順次入力される
音声信号または画像信号などの時系列データを長時間に
渡って記録する場合には、必要な記憶容量は膨大なもの
になるからである。
【0012】公知の方法として、音声信号や画像信号を
常に圧縮しながら記憶媒体に記憶する方法が提案されて
いるが、入力されたすべての音声信号または画像信号は
同じ圧縮率で記憶されるのが一般的である。この方式の
場合、重要部分のみを高音質/高画質で記録して記憶容
量を節約するというようなことができず、後から参照さ
れる可能性の少ない情報を大量に記録してしまったり、
重要な情報にもかかわらず記憶容量の関係で記録できな
いという問題があった。
【0013】例えば、インタビューの風景を、Vide
o for Windows (”Microsoft
Video for Windows 1.0 ユー
ザーズガイド” pp.57−59, pp.102−
108)を用いて長時間記録しているような場合におい
て、記憶容量を節約する目的で画像信号を5秒間に1フ
レームだけ記憶するように間引き圧縮率を設定していた
とする。このとき、記録者が、記録時に重要だと感じた
部分を後から再生したいと思ったとしても、5秒間に1
フレームの画像信号しか再生できないため、話者が話し
ながら行なった動き(ジェスチャなど)や、話しぶり
や、微妙なニュアンスを再現できないという問題があ
る。逆に、入力される画像信号を、1秒間30フレーム
ですべて記憶したとした場合、長時間のインタビューを
記憶するためには前述したように記憶容量が膨大になる
ため、実現が非常に困難である。
【0014】そこで、特開平2−305053号公報と
特開平7−15519号公報には、記憶媒体の空き容量
がある量以下になったと認識された場合に、既に記憶さ
れている音声情報を再圧縮することによって、記憶媒体
の空き領域を確保する音声情報蓄積装置が述べられてい
る。
【0015】また、特開平5−64144号公報と特開
平5−134907号公報には、画像記憶媒体の使用量
(データ記憶量)が予め定めた量を超えた場合に、既に
記憶されている画像情報の古いフレームから順に圧縮し
たり、フレームを間引いたりして、記憶容量を節約しよ
うとする情報蓄積装置が述べられている。これらは、後
に記憶された情報ほど重要な情報であると見なすことに
よって、先に記憶された情報を新しい入力情報によって
上書きしたり、先に記憶された情報ほど圧縮率を高くし
たりして、記憶容量を節約する装置である。
【0016】また、特開平6−149902号公報記載
の動画像記録装置は、自動シーンチェンジ検出を行な
い、長いシーンほど重要なシーンであると見なすことに
よって、ダイジェストを生成する際には、ユーザが指定
した時間長になるように、高い重要度を持ったシーンか
ら順に抽出する装置である。この公報記載の装置で生成
されたダイジェストに含まれたシーンのみを残し、ダイ
ジェストに含まれなかったシーンを削除するように構成
すれば、重要情報を失うことなく記憶容量を節約するこ
とができる。
【0017】一方、特開平3−90968号公報と特開
平6−149902号公報には、ユーザが指定した時間
長になるように映像のダイジェストを自動生成する装置
が提案されている。特開平3−90968号公報記載の
装置は、シーン毎の重要度をユーザが予めエディタから
入力しておき、ダイジェストを生成する際には、ユーザ
が指定した時間長になるように、高い重要度を持ったシ
ーンから順に抽出する装置である。この装置の場合も、
生成されたダイジェストに含まれたシーンのみを残すよ
うに構成すれば、重要情報を失うことなく記憶容量を節
約できる。
【0018】
【発明が解決しようとする課題】しかしながら、特開平
2−305053号公報と特開平7−15519号公報
に記載の装置は、記憶されていた音声信号を、全体に渡
って同じ圧縮率で再圧縮する装置であり、記録している
内容の重要箇所のみを部分的に圧縮率を低くし高音質で
記録するというようなことはできないという問題があっ
た。
【0019】また、会議、講演、取材、インタビュー等
を記憶蓄積する情報蓄積装置において、特開平5−64
144号公報または特開平5−134907号公報に記
載されているように、ただ単に、新しい記録を重要情報
として残し、古い記録を不要情報として消去するように
構成したとすると、重要な会議や重要な取材等の記録
が、先に記録されたという理由だけで、新しい入力情報
によって上書きされてしまうという問題があった。一般
に、会議や取材が行なわれた日時だけに基づいて、その
会議内容や取材内容の重要度を判定することはできない
からである。
【0020】また、シーンの長さによってシーンの重要
度を判定する特開平6−149902号公報記載の装置
については、会議や講演を無人カメラで撮影しているよ
うな時には、カットチェンジやシーンチェンジによって
シーンを切り分けることが非常に困難であり、シーンの
長さを検出できないという問題があった。くわえて、会
議や講演を撮影しているような場合には、短いシーンの
中にでも重要な発言が含まれることがあるため、シーン
の長さだけに基づいて、その会議内容や取材内容の重要
度を判定することはできないという問題があった。
【0021】さらに、ユーザが予めシーン毎の重要度を
エディタから入力するという特開平3−90968号公
報記載の装置についても、会議や講演を無人カメラで撮
影しているような時には、カットチェンジやシーンチェ
ンジによってシーンを切り分けることが非常に困難であ
るという問題があった。くわえて、撮影が終了した後
に、エディタから重要度を入力するという作業は非常に
煩わしく、会議や講演を記録するという用途には適さな
いという問題があった。
【0022】ところで、公知の技術として、記録時に情
報の取捨選択を行ない、重要と認識された情報のみを記
録したり、圧縮率を変化させて記録する装置が提案され
ている。たとえば、特開平7−129187号公報に
は、音声取り込みキーを押したときの前後の音声信号を
一定時間分だけ記録する装置が記載されている。また、
特開平6−343146号公報には、ユーザ入力があっ
たタイミングで一定時間だけ映像信号を記録する方法が
記載されている。また、さらに、市販されてるテープレ
コーダの中には、無音区間は音声を記憶しないという無
音区間検出機能を持ったものがある。
【0023】しかしながら、これらの装置は、一旦記録
した後の情報を再圧縮するための手段を持たないため、
情報の保存期間の長さによって段階的に圧縮率を変化さ
せたり、記憶媒体の空き記憶容量の変化に応じて動的に
圧縮率を変えたりといったことができず、記憶されてい
る画像または音声情報を再圧縮する方法に比べて、圧縮
効率が極めて悪いという問題があった。
【0024】また、特開平7−129187号公報およ
び特開平6−343146号公報に述べられているよう
に、トリガを検出した時の少し前の時系列情報を記録す
るためには、入力された時系列情報を一時記録するため
の記録用バッファメモリが必要となるため、装置が複雑
かつ高価になるという問題があった。
【0025】さらに、これらの装置では、再生できるの
は記録された一定時間内の信号に厳密に限られるため
に、例えばインタビューを記録しているような場合、記
録者によるユーザ入力があったタイミングで入力された
部分以外の動画像を全く再生できないという問題や、話
者の発言を開始部分から記録することができなかった
り、話者が話し終えないうちに記録が終了してしまうと
いう問題があった。
【0026】この発明は、上記の問題点を解決したもの
で、入力音声信号または入力画像信号のうち特徴的な事
象が起こっている重要期間の音声信号または画像信号を
検出し、この重要期間の音声信号または画像信号を限ら
れた蓄積媒体の中に数多く記憶し、重要期間以外の音声
または画像信号であっても少ないデータ量で長時間記憶
できるようにし、さらに重要部分の最初から最後までを
確実に再生できるようにすることを課題としている。
【0027】
【課題を解決するための手段】上記課題を解決するため
に、請求項1の発明による情報蓄積装置においては、ユ
ーザ入力手段と、前記ユーザ入力手段から入力されるユ
ーザ入力情報を検出するユーザ入力情報検出手段と、記
憶すべき音声情報または画像情報を入力するための時系
列情報入力手段と、前記時系列情報入力手段から入力さ
れた前記音声情報または前記画像情報を記憶する時系列
情報記憶手段と、前記時系列情報記憶手段に記憶された
音声情報または画像情報のデータ量を圧縮する手段であ
って、前記ユーザ入力情報検出手段によって検出された
ユーザ入力情報により定められる区間と、他の区間と
で、圧縮率あるいは圧縮方式を変更して、前記時系列情
報記憶手段に記憶された前記音声情報または前記画像情
報のデータ圧縮を行う圧縮手段と、を備えることを特徴
とする。
【0028】また、請求項2の発明による情報蓄積装置
においては、ユーザ入力手段と、前記ユーザ入力手段か
ら入力されるユーザ入力情報を検出するユーザ入力情報
検出手段と、記憶すべき音声情報または画像情報を入力
するための時系列情報入力手段と、前記時系列情報入力
手段から入力された前記音声情報または前記画像情報を
記憶する時系列情報記憶手段と、前記時系列情報記憶手
段に記憶された前記音声情報または前記画像情報のデー
タ量を圧縮する手段であって、前記ユーザ入力情報検出
手段により前記ユーザ入力情報が検出された時点の近傍
区間と、他の区間とで、圧縮率あるいは圧縮方式を変更
して、前記時系列情報記憶手段に記憶された前記音声情
報または前記画像情報のデータ圧縮を行う圧縮手段と、
を備えることを特徴とする。
【0029】また、請求項3の発明による情報蓄積装置
においては、ユーザ入力手段と、前記ユーザ入力手段か
ら入力されるユーザ入力情報を検出するユーザ入力情報
検出手段と、記憶すべき音声情報または画像情報を入力
するための時系列情報入力手段と、前記時系列情報入力
手段から入力された前記音声情報または前記画像情報を
記憶する時系列情報記憶手段と、前記ユーザ入力情報検
出手段で検出されたユーザ入力情報によって定められる
区間を示す区間情報と、当該区間情報に対応する前記音
声情報または前記画像情報の前記時系列情報記憶手段に
おける記憶位置との対応関係を記憶する対応関係記憶手
段と、前記時系列情報記憶手段に記憶された前記音声情
報または前記画像情報のデータ量を圧縮する手段であっ
て、前記対応関係記憶手段に記憶された前記ユーザ入力
情報によって定められる区間と、他の区間とで、圧縮率
あるいは圧縮方式を変更して、前記時系列情報記憶手段
に記憶された前記音声情報または画像情報のデータ圧縮
を行う圧縮手段と、を備えることを特徴とする。
【0030】請求項4の発明においては、請求項1、請
求項2、または請求項3に記載の情報蓄積装置おいて、
前記ユーザ入力情報によって定められる区間の画像情報
は、前記圧縮手段により、他の区間の画像情報よりも高
画質を保つデータ圧縮を施すようにしたことを特徴とす
る。
【0031】請求項5の発明による情報蓄積装置におい
ては、ユーザ入力手段と、前記ユーザ入力手段から入力
されるユーザ入力情報を検出するユーザ入力情報検出手
段と、記憶すべき音声情報または画像情報を入力するた
めの時系列情報入力手段と、前記時系列情報入力手段か
ら入力された前記音声情報または前記画像情報を記憶す
る時系列情報記憶手段と、前記時系列情報入力手段から
の前記音声情報または前記画像情報が、予め設定された
所定の条件に合致する区間を検出する条件一致区間検出
手段と、前記時系列情報記憶手段に記憶された音声情報
または画像情報のデータ量を圧縮する手段であって、前
記ユーザ入力情報検出手段で検出された前記ユーザ入力
情報と前記条件一致区間検出手段で検出された前記条件
一致区間とによって定められる区間と、他の区間とで、
圧縮率あるいは圧縮方式を変更して、前記時系列情報記
憶手段に記憶された前記音声情報または前記画像情報の
データ圧縮を行う圧縮手段と、を備えることを特徴とす
る。
【0032】請求項6の発明による情報蓄積装置におい
ては、ユーザ入力手段と、前記ユーザ入力手段から入力
されるユーザ入力情報を検出するユーザ入力情報検出手
段と、記憶すべき音声情報または画像情報を入力するた
めの時系列情報入力手段と、前記時系列情報入力手段か
ら入力された前記音声情報または前記画像情報を記憶す
る時系列情報記憶手段と、センサからの情報を検出する
ためのセンサ情報検出手段と、前記センサ情報検出手段
からのセンサ情報が、予め設定された所定の条件に合致
する区間を検出する条件一致区間検出手段と、前記時系
列情報記憶手段に記憶された音声情報または画像情報の
データ量を圧縮する手段であって、前記ユーザ入力情報
検出手段で検出された前記ユーザ入力情報と前記条件一
致区間検出手段で検出された前記条件一致区間とによっ
て定められる区間と、他の区間とで、圧縮率あるいは圧
縮方式を変更して、前記時系列情報記憶手段に記憶され
た前記音声情報または前記画像情報のデータ圧縮を行う
圧縮手段と、を備えることを特徴とする。
【0033】請求項7の発明による情報蓄積装置におい
ては、ユーザ入力手段と、前記ユーザ入力手段から入力
されるユーザ入力情報を検出するユーザ入力情報検出手
段と、記憶すべき音声情報または画像情報を入力するた
めの時系列情報入力手段と、前記時系列情報入力手段か
ら入力された前記音声情報または前記画像情報を記憶す
る時系列情報記憶手段と、前記時系列情報入力手段から
の前記音声情報または画像情報が、予め設定された所定
の条件に合致する区間を検出する条件一致区間検出手段
と、前記ユーザ入力情報検出手段で検出されたユーザ入
力情報と前記条件一致区間検出手段で検出された条件一
致区間とから定められる区間を示す区間情報と、当該区
間情報に対応する前記音声情報または前記画像情報の前
記時系列情報記憶手段における記憶位置との対応関係を
記憶する対応関係記憶手段と、前記時系列情報記憶手段
に記憶された音声情報または画像情報のデータ量を圧縮
する手段であって、前記対応関係記憶手段に記憶された
前記ユーザ入力情報と前記条件一致区間とによって定め
られる区間と、他の区間とで、圧縮率あるいは圧縮方式
を変更して、前記時系列情報記憶手段に記憶された前記
音声情報または前記画像情報のデータ圧縮を行う圧縮手
段と、を備えることを特徴とする。
【0034】請求項8の発明による情報蓄積装置におい
ては、ユーザ入力手段と、前記ユーザ入力手段から入力
されるユーザ入力情報を検出するユーザ入力情報検出手
段と、記憶すべき音声情報または画像情報を入力するた
めの時系列情報入力手段と、前記時系列情報入力手段か
ら入力された前記音声情報または前記画像情報を記憶す
る時系列情報記憶手段と、センサからの情報を検出する
ためのセンサ情報検出手段と、前記センサ情報検出手段
からのセンサ情報が、予め設定された所定の条件に合致
する区間を検出する条件一致区間検出手段と、前記ユー
ザ入力情報検出手段で検出されたユーザ入力情報と前記
条件一致区間検出手段で検出された条件一致区間とから
定められる区間を示す区間情報と、当該区間情報に対応
する前記音声情報または前記画像情報の前記時系列情報
記憶手段における記憶位置との対応関係を記憶する対応
関係記憶手段と、前記時系列情報記憶手段に記憶された
音声情報または画像情報のデータ量を圧縮する手段であ
って、前記対応関係記憶手段に記憶された前記ユーザ入
力情報と前記条件一致区間とによって定められる区間
と、他の区間とで、圧縮率あるいは圧縮方式を変更し
て、前記時系列情報記憶手段に記憶された前記音声情報
または前記画像情報のデータ圧縮を行う圧縮手段と、を
備えることを特徴とする。
【0035】請求項9の発明においては、請求項5、請
求項6、請求項7、または、請求項8に記載の情報蓄積
装置において、前記ユーザ入力情報と前記条件一致区間
とによって定められる区間の画像情報は、前記圧縮手段
により、他の区間の画像情報よりも高画質を保つデータ
圧縮を施すようにしたことを特徴とする。
【0036】
【作用】上記の構成の請求項1の発明においては、ユー
ザ入力情報検出手段で検出されたユーザ入力情報により
定められる区間は、例えば重要な情報区間として、他の
区間とは異なる圧縮率あるいは圧縮方式で、圧縮する。
この場合、異なる圧縮率あるいは圧縮方式には、「圧縮
する」と、「圧縮しない」という場合も含むものであ
る。
【0037】これにより、例えば前記重要区間の音声情
報あるいは画像情報は高品質で蓄積記憶される。前記他
の区間は、それに比較して高圧縮率で音声情報あるいは
画像情報が記憶される。したがって、重要な区間の情報
は、高品質を保って保存しながら、時系列情報記憶手段
の使用容量を削減することができる。
【0038】請求項2の発明においては、特にユーザ入
力情報が検出された時点近傍が、例えば重要区間とされ
て、他の区間よりも高品質を保って保存される。
【0039】請求項3の発明においては、ユーザ入力情
報により定められる区間を示す区間情報と、当該区間情
報に対応する前記音声情報または前記画像情報の前記時
系列情報記憶手段における記憶位置との対応関係が対応
関係記憶手段により記憶されている。このため、圧縮手
段で圧縮するに当たって、例えば高品質を保つべき前記
区間情報と、当該区間の音声情報または画像情報との対
応付けが、この対応関係記憶手段の記憶内容にしたがっ
て容易に行える。
【0040】請求項4の発明においては、前記ユーザ入
力情報によって定められる区間の画像情報は、特に高品
質を保つようにされるので、後の時点で再生したとき
に、重要な区間の画像情報を高品質で再生することがで
きる。
【0041】請求項5の発明においては、条件一致区間
検出手段で、予め音声情報または画像情報について設定
された条件に合致する区間が検出される。そして、この
条件一致区間のうち、ユーザ入力情報検出手段で検出さ
れたユーザ入力情報により定められる区間の音声情報ま
たは画像情報が、例えば重要区間として、他の区間とは
異なる圧縮率あるいは圧縮方式で圧縮される。
【0042】請求項6の発明においては、条件一致区間
検出手段で、センサ情報について設定された所定の条件
に合致する区間が検出される。そして、この条件一致区
間のうち、ユーザ入力情報検出手段で検出されたユーザ
入力情報により定められる区間の音声情報または画像情
報が、例えば重要区間として、他の区間とは異なる圧縮
率あるいは圧縮方式で圧縮される。
【0043】請求項7および請求項8の発明において
は、ユーザ入力情報検出手段で検出されたユーザ入力情
報と条件一致区間検出手段で検出された条件一致区間と
から定められる区間を示す区間情報と、当該区間情報に
対応する前記音声情報または前記画像情報の前記時系列
情報記憶手段における記憶位置との対応関係が対応関係
記憶手段に記憶されている。したがって、請求項3の場
合と同様にして、圧縮手段で圧縮するに当たって、例え
ば高品質を保つべき前記区間情報と、当該区間の音声情
報または画像情報との対応付けが、この対応関係記憶手
段の記憶内容にしたがって容易に行える。
【0044】請求項9の発明の情報蓄積装置において
は、ユーザ入力情報および条件一致区間とによって定め
られる区間の画像情報は、特に高品質を保つようにされ
るので、後の時点で再生したときに、重要な区間の画像
情報を高品質で再生することができる。
【0045】
【発明の実施の形態】以下、図面を参照して、この発明
の実施の形態について説明する。
【0046】[第1の実施の形態]第1の実施の形態
は、この発明による情報蓄積装置を会議記録に適用した
場合である。
【0047】概して、数日前に行なわれた会議を後から
参照する可能性に比べて、1カ月前に行なわれた会議を
参照する可能性は極めて低い。参照する可能性の小さく
なった映像情報などの会議情報を高品質で蓄積したまま
にしておくことは、メモリ容量を節約するという面で非
常に非効率的であり、適当なタイミングで、削除または
間引き圧縮等を施し、情報量を削減することが望まし
い。
【0048】しかし、昔の会議記録であっても、重要な
場面については、話者が話しながら行なった動き(ジェ
スチャなど)や、話しぶりや、微妙なニュアンスを再現
したいという要求がある。したがって、このような特徴
的な事象が起こっている重要期間の音声信号または画像
信号は、高品質のままで保存しておくようにすることが
要求される。
【0049】第1の実施の形態では、会議について音声
情報および映像情報を記録し、その記録時点から1ヶ月
が経過したときに、記録した会議映像の中の重要部分の
映像だけを高品質のまま残し、その他の部分は高圧縮率
で圧縮するという、圧縮処理を施す例について説明す
る。
【0050】この第1の実施の形態によれば、後述する
ように、重要な部分の映像を再生した場合には、スムー
スな動きの高品質の動画が再生され、その他の部分を再
生した場合には、いわゆる駒落しであって、動きがぎこ
ちない動画となる。しかし、重要場面以外の部分を高圧
縮率で圧縮できるので、蓄積保存すべき情報量は非常に
少なくなる。
【0051】この例においては、会議参加者がメモをと
った時点や、会議参加者間での対話が活発であった時点
は、会議の重要場面であるとする。この重要場面をとら
えて、会議参加者がメモをとった時点や、会議参加者間
での対話が活発であった時点の周辺のみを高品質で保存
し、それ以外の部分を高圧縮率で圧縮することで、会議
映像を保存するための情報量を大幅に少なくすることが
できる。
【0052】なお、この実施の形態では、説明をわかり
やすくするために、電子会議装置20は、蓄積媒体27
に蓄積された画像情報のみを圧縮し、蓄積媒体27に蓄
積された音声情報は圧縮しないように構成する。
【0053】図2は、この実施の形態の場合の会議風景
を示すもので、20は、電子会議装置である。この電子
会議装置20は、マーカーペンでホワイトボードに書き
込むのと同じ感覚で、プロジェクタスクリーン上に電子
ペン23を使用して自在に書き込みを行なうことがで
き、議論の過程や、結論を電子ファイルとして記憶蓄積
することができるものである。このため、電子会議装置
20は、パーソナルコンピュータ(図示せず)を内蔵す
る。
【0054】なお、電子会議装置20は、パーソナルコ
ンピュータを介して、例えばISDNによるネットワー
クに接続することにより、会議の過程の音声情報や画像
情報を遠隔地間で同時に共有し、あたかも同じ部屋で会
議を行なっているような環境を実現することも可能であ
る。
【0055】そして、この電子会議装置20は、表示画
面21を備える。この表示画面21への画像の表示方式
は、スクリーンに背面から投射して表示する、いわゆる
プロジェクション方式である。さらに、この電子会議装
置20は、表示画面21上の電子ペン23の接触入力座
標位置を検出する機能を備えており、検出された接触入
力座標位置は、ユーザ入力情報として、パーソナルコン
ピュータに入力され、蓄積媒体27に記憶蓄積される。
【0056】また、会議の場における音声情報や画像情
報などの時系列情報の入力のために、電子会議装置20
は音声入力端子および画像入力端子を備える。この実施
の形態においては、会議出席者の各々に割り当てられた
マイクロホン25により収音された複数の会議出席者2
9の発言の音声信号は、一旦、音声信号解析器26に入
力され、音声信号解析器26の出力が電子会議装置20
の音声入力端子に入力される。
【0057】音声信号解析器26は、複数のマイクロホ
ン25から入力された音声信号を解析し、入力音声信号
がどのマイクロホンから入力されたのかを識別して、そ
の識別結果を音声信号と共に電子会議装置20に対し出
力するものである。また、ビデオカメラ24で撮影され
た紙文書や会議風景の画像信号は、電子会議装置20の
画像入力端子に入力される。
【0058】なお、順次入力される時系列情報は、ビデ
オカメラ/マイクロホン/ビデオデッキ/テープレコー
ダ/センサ等から入力されたアナログ信号でもよいし、
それを符号化したデジタル信号でもよい。さらには、計
算機ネットワーク/計算機バスを通じて入力されるデジ
タル信号でもよい。すなわち、時間の経過とともに順次
入力される情報は、いずれもこの発明でいう時系列情報
に相当する。
【0059】電子会議装置20の表示画面21には、当
該電子会議装置20の画像入力端子に接続されているビ
デオカメラ24からの画像情報による画像と、この電子
会議装置20のパーソナルコンピュータを通じて入力さ
れる電子文書の画像とが、図2に示すように、それぞれ
別のウインドウ画像22A、22Bとして表示される。
この表示画面21に表示される画像情報も、前記ユーザ
入力情報および音声情報と関連付けされて記憶蓄積され
る。
【0060】また、この電子会議装置20に内蔵のパー
ソナルコンピュータは、機能的に情報圧縮蓄積装置をそ
の内部に備える。この情報圧縮蓄積装置は、前記ユーザ
入力情報と、会議風景を撮影するビデオカメラ24から
の画像情報と、マイクロホン25からの音声情報とを、
記憶媒体27に記憶蓄積し、この記憶媒体27に記憶蓄
積された音声または画像情報を、以下に説明するように
して圧縮することができる。
【0061】そして、蓄積媒体27に蓄積された画像情
報は、ユーザからの再生要求に応じて表示画面21に表
示されるとともに、蓄積媒体27に蓄積された音声情報
がスピーカ28から再生される。電子会議装置20は、
このための再生部を備える。この再生部は、表示画面2
1に表示されたユーザ入力情報のうちから、ユーザが任
意のユーザ入力情報を指定した際に、この指定されたユ
ーザ入力情報が入力された時刻に記録された音声情報ま
たは画像情報を、蓄積媒体27から読み出し、再生する
ものである。
【0062】なお、ユーザが任意のユーザ入力情報を指
定した際に、この指定されたユーザ入力情報が入力され
た時刻に表示画面21に表示されていた画像を、蓄積媒
体27から読み出して再生して表示画面21に表示する
ようにしてもよい。
【0063】図1は、この実施の形態の情報蓄積装置
を、その機能を中心にして示したブロック図である。す
なわち、この実施の形態の情報蓄積装置は、システムバ
スに対して、音声情報入力部1、画像情報入力部2、条
件一致区間検出部3、時系列情報記憶部4、対応関係記
憶部5、圧縮部6、時刻情報記憶部7、再生部8、制御
部9、表示部10、ユーザ入力情報検出部11、再生指
定部12が、それぞれ接続されて構成される。この例の
場合、音声情報入力部1の出力端は、条件一致区間検出
部3にも接続される。
【0064】図1の各部はそれぞれ別のブロックとして
構成されていてもよいし、1つのブロックが幾つかの部
を含むように構成されていてもよい。また、1つの部
が、幾つかのブロックに分割されて実装されていても構
わない。
【0065】音声情報入力部1は、マイクロホン25か
らの音声信号を受けてデジタル音声信号に変換し、シス
テムバスに送出すると共に、条件一致区間検出部3に送
出する。
【0066】画像情報入力部2は、ビデオカメラ24か
らの画像信号を受け付ける。ビデオカメラ24からの画
像信号がデジタル信号であれば、それを受け付けてシス
テムバスに送出する。また、入力画像信号がデジタル信
号でなければ、画像情報入力部2は、入力画像信号をデ
ジタル画像信号に変換してシステムバスに出力する。
【0067】条件一致区間検出部3は、音声情報入力部
1からのデジタル音声信号を監視して、予め定められて
いる条件に合致する音声区間を検出する。この例では、
所定レベル以上の音声信号入力が有り、かつ、この入力
音声信号から活発な対話のパターンを検出したことを条
件として条件一致区間を検出する。これにより、会議参
加者が活発に議論を交わした区間を条件一致区間として
検出するようにする。この条件一致区間検出部3は、音
声信号解析器26と電子会議装置20の一部とがその役
割を果たす。
【0068】所定レベル以上の音声信号の有無を検知す
る方法としては、図3に示すように、条件一致区間検出
部3は、入力される音声レベルが所定のレベル以上にな
ったことを検知して話者の発言の開始点を認識し、音声
レベルが所定の閾値レベル以下になったことを検知して
話者の発言の終了点を認識する検出機能を持つ。
【0069】ただし、図3に示すように、音声レベルが
閾値レベルと交差する音声レベル変化点F101そのも
のを発言の開始点または終了点とすると、発言の最初の
部分と最後の部分が条件一致区間に含まれないので、音
声レベルが小レベルから大レベルに変化するときの変化
点F101よりも一定時間T1だけ前の時点F100を
発言開始点とし、また、音声信号レベルが大レベルから
小レベルに変化するときの変化点F101よりも一定時
間T2だけ後の時点F102を発言終了点とする。
【0070】なお、この実施の形態において、ある時刻
における音声レベルとは、その時刻の前後の音声レベル
を平滑化した値であり、例えば、ある時刻の前後の2秒
間の瞬間音声レベルの平均値である。
【0071】この実施の形態では、図2に示されるよう
に、マイクロホン25を発言者毎に設置し、発言者各自
のマイクロホンからの音声入力レベルを音声信号解析器
11で比較することで、音声信号解析器11が、入力音
声信号を発信した話者を特定する。
【0072】発言者を特定する方法としては、この他に
も、音声信号の特徴(声紋など)から話者を特定しても
よいし、画像情報による顔や口の動きから発言者を特定
してもよい。その場合には、マイクロホンは、会議出席
者のすべてに対応して複数本設ける必要はなく、1本あ
るいは会議出席者の数よりも少ない複数本でよい。ま
た、複数のマイクロホンを設置し、それらのマイクロホ
ンから入力される音声信号の位相差を解析して音源の位
置を検知して、発言者を特定するようにすることもでき
る。
【0073】条件一致区間検出部3は、1人の話者が発
言を終了してから、他の話者が発言を開始するまでの時
間が短いほど、活発な対話が行なわれていると判断す
る。また、1人の話者が発言を終了しないうちに、他の
話者が発言を開始した場合にも、活発な対話が行なわれ
ていると判断する。
【0074】図4は、条件一致区間検出部3が、対話が
活発な区間を認識する処理を図示したものである。この
図は、1人の話者が発言を終了してから、他の話者が発
言を開始するまでの時間が短いほど、活発な対話が行な
われていると判断する場合である。各話者からの所定レ
ベル以上の音声信号を当該話者の発言区間SPと認識
し、この発言区間SPが、図4中点線の丸印で囲むよう
に、複数の話者の間で、短時間の間に交替しているパタ
ーンを、活発な対話パターンとして検出する。
【0075】条件一致区間検出部3は、このように短時
間に発言者が交替しているパターンを検出するために、
1人の話者が発言を終了してから、予め定めた設定時間
以内に話者が交代したかどうかを検出する。例えば、こ
の設定時間は0.5秒とされる。この設定時間は、ユー
ザが変更することができるようにしてもよい。
【0076】また、この実施の形態では、1人の話者が
発言を終了しないうちに、他の話者が発言を開始したた
め発言区間SPが一部重なるパターンも、早い話者交代
のパターンとして検出する。
【0077】そして、条件一致区間検出部3では、早い
話者交代のパターンが所定回数、例えば3回以上継続し
たか否かにより、対話が活発な区間を認定するようにす
る。例えば、図4に示す例の場合には、区間PPには、
早い話者交代のパターンが4回続くので、この区間PP
を対話の活発な区間として検出する。すなわち、この4
回続く早い話者交代のパターンを含む発言区間の始まり
F200を、対話が活発な区間の開始点とし、早い話者
交代のパターンを含む発言区間の終わりF201を、対
話が活発な区間の終了点とする。
【0078】対応関係記憶部5は、ユーザが例えば電子
ペン23により入力したユーザ入力情報と、このユーザ
入力情報の画面上での表示位置を特定する情報(例え
ば、X−Y座標軸上の絶対座標や相対座標など)と、こ
のユーザ入力情報と前記条件一致区間検出部3で検出さ
れた条件一致区間とにより定められる区間を重要区間と
して、この区間内に入力された音声情報または画像情報
の、時系列情報記憶部4内での記憶アドレスとを対応付
けて記憶する。
【0079】この実施の形態では、前記重要区間の情報
として、対応関係記憶部5には、ユーザ入力情報が入力
された時点を含む条件一致区間の開始アドレスと終了ア
ドレスとを記憶するようにしている。すなわち、対応関
係記憶部5は、それぞれのユーザ入力情報を特定する情
報と、それぞれのユーザ入力情報と条件一致区間検出部
3の検出結果とによって特定される区間を重要区間と
し、この重要区間の音声情報または画像情報の、前記時
系列情報記憶部4における記憶アドレスとを対応させて
記憶するものである。この対応関係記憶部5も、例えば
ディスク記憶媒体や半導体メモリ等で構成される。
【0080】圧縮部6は、この実施の形態においては、
前記時系列情報記憶部4に蓄積された画像情報のデータ
圧縮を行なう。この場合、圧縮部6は、対応関係記憶部
5からのユーザ入力情報と条件一致区間検出部3の検出
結果とによって特定される区間の情報に基づいて、デー
タ圧縮率またはデータ圧縮方法を動的に可変できるよう
に構成されている。
【0081】また、この実施の形態においては、圧縮部
6は、動画の画像情報を想定して、この動画の画像情報
を所定時間長または所定フレーム数を1つの処理単位と
して扱う。例えば、連続した10フレームの画像列を1
つの単位部分画像列として圧縮処理を行なうが、前記ユ
ーザ入力情報と条件一致区間検出部3の検出結果とによ
って特定される区間以外の区間の画像情報は、前記10
フレームの中の先頭の1フレームだけを残して、他のフ
レームの情報を破棄するという間引き圧縮処理を行な
い、一方、前記ユーザ入力情報と条件一致区間検出部3
の検出結果とによって特定される区間では、画像情報に
ついての前記の間引き処理を行なわず、前記10フレー
ム全部を記憶するようにする。
【0082】したがって、前記ユーザ入力情報と条件一
致区間検出部3の検出結果とによって特定される区間以
外の区間の画像情報を再生した場合、いわゆる駒落しで
あって、動きがぎこちない動画となるが、情報量は非常
に少なくなる。一方、前記ユーザ入力情報と条件一致区
間検出部3の検出結果とによって特定される区間の画像
情報を再生した場合、スムースな動きの高品質の動画が
再生されることになる。
【0083】時刻情報記憶部7は、入力された音声信号
および画像信号が、時系列情報記憶部4に記録開始され
た時刻を記憶するためのもので、例えばディスク記憶媒
体や半導体メモリ等で構成される。
【0084】さらに、時刻情報記憶部7は、前記記録開
始時刻からの経過時間を測定する機能を持つ。このた
め、この時刻情報記憶部7には、図示しない時計回路部
からの現在時刻情報が供給される。そして、この実施の
形態では、この時刻情報記憶部7は、前記記録開始時刻
からの経過時間が予め定められた所定時間以上となった
ときに、圧縮部6で時系列情報記憶部4の画像情報の前
述したような圧縮を開始する契機となる圧縮トリガタイ
ミング信号を出力する。
【0085】再生部8は、前述したように、時系列情報
記憶部4に記憶されている音声信号や画像信号を再生す
る機能部である。
【0086】制御部9は、この例の電子会議装置20の
全体の処理動作を制御するものである。
【0087】表示部10は、前述した表示画面21を備
えるプロジェクション方式の表示装置部分である。そし
て、この例では、ペン/タブレット一体型入出力装置を
も兼用する構成とされている。なお、この表示部10と
しては、例えばCRTモニタや、液晶モニタで構成する
こともできる。
【0088】ユーザ入力情報検出部11は、例えば表示
画面21に貼付されたタブレットにより構成され、電子
ペン23によるユーザ入力を検出し、そのペン筆跡情報
をユーザ入力情報として出力する。このとき、表示部1
0の表示画面21には、ペン筆跡情報に応じたペン軌跡
が表示される。
【0089】なお、ユーザ入力情報としては、ペン(ま
たはマウス/トラックボール/タッチパネルなど)から
の筆跡あるいは図形(線、四角形、円などのオブジェク
ト)の他に、筆跡データを文字認識したコード情報、キ
ーボードからのコード情報でもよい。また、表示されて
いるユーザ入力情報を移動/複写/削除したという編集
情報、ページ切り替えを行ったという情報、スチルカメ
ラのシャッターを押したという情報、仮想的な消しゴム
が用いられたという情報など、ユーザ入力情報が表示さ
れない性質のものであってもよく、この場合は、そのユ
ーザ入力情報の存在を示す所定のしるしを表示部3に表
示する。すなわち、入力される時系列情報(例えば、音
声信号または画像信号)が存在する間に、ユーザが計算
処理能力を持つ装置に対して行った入力は、いずれもこ
の発明でいうユーザ入力情報に相当する。
【0090】再生指定部12は、蓄積記憶したユーザ入
力情報、音声情報、画像情報を、ユーザ入力情報を指定
して再生する際に使用される。この再生指定部12は、
後述するように、表示画面21に表示されたユーザ入力
情報のうちから、タブレットを通じてユーザが指定を行
ったときに、その指定部分を再生部分として検出するも
のである。
【0091】[記録時の動作]次に、以上のような構成
の情報蓄積装置の例としての電子会議装置20における
記録時の動作について説明する。図5は、この実施の形
態における記録時の動作を、その際の各種情報の流れ、
および、各部の出力の流れと共に説明する図である。
【0092】会議が始まり、マイクロホン25からの音
声信号およびカメラ24からの画像信号が、電子会議装
置20に供給されると、音声信号および画像信号は、時
系列情報記憶部4に順次に蓄積記憶される。また、音声
信号は、条件一致区間検出部3にも入力される。
【0093】条件一致区間検出部3は、前述したよう
に、マイクロホン25からの音声情報の音声レベルと所
定の閾値レベルとを比較して、会議出席者の発言開始点
と発言終了点とを検出し、その間の区間を話者の発言区
間SPとする。そして、この発言区間SPの複数の会議
出席者間の、短時間の交替や一部重なりを検出して、対
話が活発な区間を条件一致区間として検出する。そし
て、検出した条件一致区間の開始点および終了点の情報
が、対応関係記憶部5に供給される。
【0094】図6は、条件一致区間検出部3の動作を説
明するフローチャートである。
【0095】条件一致区間検出部3に、音声情報入力部
1からの音声信号がデジタル信号として供給されると、
ステップS100において、前述の発言区間SPの検出
と、発話者の特定が行なわれる。発話者の特定方法とし
ては、前述したように、発言者毎に設置されたマイクロ
ホン25からの音声入力レベルを音声信号解析器26で
比較することで実施される。
【0096】このステップS100の後、ステップS1
01において、一部重なりを含む短時間に発言者が交替
しているパターンを認識し、早い話者交代のパターンが
検出された場合には、ステップS102に進み、そのパ
ターンが所定回数以上継続したかどうかを判別する。前
述したように、早い話者交代のパターンが3回以上連続
して検出されたときに、そのパターンを含む発言区間を
活発な対話が行なわれている区間であると認識するよう
に予め条件が設定されていた場合には、前述した図4の
例であれば、区間PPを、対話が活発な区間として検出
し、ステップS103に進む。
【0097】ステップS103では、対話が活発な区間
として検出した区間を、条件一致区間として特定する。
すなわち、例えば図4の例では、対話が活発な区間の始
まりを、区間PPの始まりF200とし、対話が活発な
区間の終りを、区間PPの終わりF201として、区間
PPを対話が活発な区間(条件一致区間)であると特定
する。なお、条件一致区間を特定する情報としては、当
該区間の始まりあるいは終りの一方の情報と、区間の長
さの情報であってもよい。
【0098】続いてステップS104では、ステップS
103において特定された条件一致区間を対応関係記憶
部5に出力し、その後ステップS100に戻って、新た
な条件一致区間の検出を始める。また、ステップS10
2において、早い話者交代のパターンが所定回数以下で
あると認識された場合にも、ステップS100に戻っ
て、新たな条件一致区間の検出を始める。
【0099】一方、ユーザ入力情報検出部11が、ペン
筆跡情報(ユーザ入力情報)の入力を検出すると、検出
されたペン筆跡情報は、表示部10に表示されると共
に、対応関係記憶部5に記憶蓄積される。
【0100】図7は、ユーザ入力情報検出部11の動作
を説明するフローチャートである。ユーザ入力情報検出
部11は、電子ペン23が表示画面21に接触した座標
位置をユーザ入力情報として検出し(ステップS20
0)、検出したユーザ入力情報を、逐次、表示部10に
出力して表示すると共に、対応関係記憶部5に出力して
ユーザ入力情報を記憶する(ステップS201)。
【0101】図8は、ユーザ入力情報検出部11の検出
結果であるペン筆跡入力情報と、条件一致区間検出部3
の検出結果である条件一致区間と、画像情報を記憶した
時系列記憶部4の記憶状態(圧縮処理を施す前の状態)
を対応付けて説明する図である。これらの情報の対応関
係情報は、前述したように、対応関係記憶部5に記憶さ
れる。
【0102】対応関係記憶部5は、前述したように、ユ
ーザ入力情報が入力された時点を含む条件一致区間を、
入力音声情報または画像情報の重要区間として記憶す
る。すなわち、条件一致区間であっても、その条件一致
区間内にユーザ入力情報が検出されなかった場合には、
その条件一致区間を重要区間としては認識しない。例え
ば、図8では、時刻t0から時刻t1内の条件一致区間
内ではユーザ入力情報が検出されなかったため、この条
件一致区間は重要区間とは認識されず、ユーザ入力情報
としてのペン筆跡の入力時点を含む時刻t1から時刻t
2までの条件一致区間が重要区間として特定されること
になる。そして、時刻t1から時刻t2までに時系列情
報記憶部4に記憶された画像情報(アドレスa1からア
ドレスa2までの画像情報)は、入力画像情報の中の重
要区間の情報であるので、後述する圧縮処理を施した時
にでも高品質に保たれる。
【0103】図9は、対応関係記憶部5に記憶された対
応関係情報の例である。この図9に示すように、ユーザ
が入力したペン筆跡情報としては、ユーザ入力情報を一
意に特定する識別子とユーザ入力情報の種類を特定する
情報が記憶されており、表示画面21上の表示位置とし
ては、3つのX−Y座標(20、30)(30、40)
(60、10)と座標情報の終端を表すnilとが記憶
されている。また、時系列情報記憶部4上の記憶アドレ
スとしては、ユーザ入力情報と条件一致区間とによって
特定されたアドレスa1(開始点アドレス)およびアド
レスa2(終了点アドレス)が記憶されている。
【0104】もちろん、対応関係記憶部5に記憶される
のは、ペン筆跡情報、表示座標、記憶アドレスそのもの
ではなく、それらを特定する特定情報であってもよい
し、対応関係記憶部5のデータ記憶構造はテーブルの形
式でなく、リスト構造などの他の記憶構造で構成されて
もかまわない。
【0105】また、この例のように、マルチプルライン
などを表現するまとまった座標点列を1つのペン筆跡情
報として記憶させておけば、再生時にその座標点列のう
ちの、いずれかが指定されれば、その座標点列に対応す
るペン筆跡情報が特定できるようになり、同じ記憶アド
レスから音声または画像を再生できるようになる。
【0106】図10および図11は、対応関係記憶部5
の動作を説明するフローチャートであるが、前述した記
録動作に関与するステップは、ステップS300〜ステ
ップS303の部分である。そして、ステップS30
4、ステップS305の部分は、後述する圧縮時の動作
に関与する部分であり、また、図11のステップS30
6〜ステップS309の部分は後述する再生時の動作に
関与する部分である。
【0107】すなわち、この記録時においては、ステッ
プS300において、条件一致区間検出部3から、条件
一致区間を示す情報が入力されたかどうかを検出し、条
件一致区間の入力が検出されなかった場合には、ステッ
プS304およびステップS306を経由してステップ
S300に戻り、条件一致区間を示す情報の入力有無の
検出を行う。
【0108】ステップS300において、条件一致区間
検出部3からの条件一致区間の入力が検出された場合に
は、ステップS301に進む。ステップS301では、
当該条件一致区間内にユーザ入力情報が検出されたか否
か判定し、当該条件一致区間内にユーザ入力情報が検出
されたと判定された場合には、ステップS302に進
む。
【0109】ステップS302では、前記重要区間(ユ
ーザ入力情報が入力された時点を含む条件一致区間)に
対応して時系列情報記憶部4に記憶されている音声情報
または画像情報の、時系列情報記憶部4における記憶ア
ドレスを取得するために、時系列情報記憶部4に対し、
前記ユーザ入力情報および前記条件一致区間を示す情報
と、記憶アドレスの問い合わせ要求を出力し、その返答
を待つ。
【0110】時系列情報記憶部4からの返答が返される
とステップS303に進み、前記ユーザ入力情報と、こ
のユーザ入力情報の表示部10上における表示位置と、
このユーザ入力情報および前記条件一致区間に対応して
時系列情報記憶部4に記憶されている音声情報および画
像情報の、時系列情報記憶部4における記憶アドレスと
を対応づけて記憶する。
【0111】ステップS303の次には、ステップS3
04およびステップS306を経由してステップS30
0に戻り、次の条件一致区間を示す情報の入力有無の検
出を行う。
【0112】次に、このときの対応する時系列情報記憶
部4の動作を、図12のフローチャートを参照して説明
する。この処理ルーチンのステップS400〜S404
の部分が記録時の動作の部分であり、ステップS40
5,S406は再生時の動作部分である。
【0113】すなわち、図12において、時系列情報記
憶部4の記録時の動作を説明すると、まず、この記録動
作が開始となると、時系列情報記憶部4は、ステップS
400において、音声情報および画像情報の記憶開始時
刻を時刻情報記憶部7に出力して、記録させる。次に、
ステップS401、ステップS402と順次に進み、入
力される画像情報と音声情報との入力を受け、順次記憶
する。
【0114】そして、次のステップS403では、対応
関係記憶部5から、前記重要区間(ユーザ入力情報が入
力された時点を含む条件一致区間)に対応する記憶アド
レスの要求が到来したか否かを判別し、当該要求が到来
したことを検出したときにはステップS404に進む。
このステップS404では、重要区間に対応する音声情
報および画像情報の記憶アドレスを、対応関係記憶部5
に返答する。
【0115】ステップS403で重要区間に対応する記
憶アドレスの要求は到来していないと判別された後、ま
たステップS404の後は、ステップS405を経由し
てステップS401に戻り、画像情報と音声情報の記憶
を続ける。
【0116】時刻情報記憶部7は、時系列情報記憶部4
の前記ステップS400での処理による記憶開始時刻の
情報を受信して、当該記憶開始時刻の記憶を行う。
【0117】図13は、時刻情報記憶部7の動作を説明
するフローチャートであり、また、図14は、時刻情報
記憶部7の記憶構造を説明するための図である。図13
において、ステップS500およびステップS501
が、記録時の処理であり、時系列情報記憶部4から供給
された、音声情報および画像情報の記憶開始時刻をステ
ップS500において検出し、ステップS501におい
てこの記憶開始時刻を時刻情報記憶部7に記憶する。
【0118】後述するように、時刻情報記憶部7は、音
声情報および画像情報が時系列情報記憶部4に記録され
てからの経過時間(すなわち情報保存時間)が、所定の
時間以上になった場合に、対応関係記憶部5に対し圧縮
処理開始指示を出力する。図13のステップS502お
よびステップS503は、その処理部であり、この圧縮
開始指示処理については後述する。
【0119】時刻情報記憶部7は、音声情報および画像
情報を格納したファイルの名前と、記憶開始時刻との関
係を、図14のようなテーブルで管理している。この例
では、1つの会議の記録が1つのファイルに記録されて
いる。ファイル名は各会議記録に付与されたファイル名
称であり、図14のIDは各会議記録ファイルを識別す
る識別子(この例では番号)である。
【0120】なお、この記憶開始時刻の記憶形式はテー
ブル形式に限られず、リスト構造やスタック構造等であ
っても構わない。さらに、音声情報および画像情報を格
納したファイルやファイル名の中に、記憶開始時刻を特
定する情報を記憶しておくように構成しても構わない。
【0121】例えば、図15に示すように、ファイルサ
イズが5Mバイトを越える場合には、圧縮処理開始まで
の時間を1ヶ月とし、5Mバイトに満たない場合には、
圧縮処理開始までの時間を2ヶ月にする。また、ファイ
ル拡張子が、.AVIのファイルの場合には、圧縮処理開始
までの時間を1ヶ月とし、ファイル拡張子が、.mpgのフ
ァイルの場合には、圧縮処理開始までの時間を2ヶ月と
する。これらの場合には、圧縮処理開始までの時間を各
ファイル毎に指定する必要がなくなり、ユーザの手間が
省けるという効果がある。
【0122】以上のようにして、この実施の形態におい
ては、会議が開始され、会議記録が開始されると、その
開始時点の時刻が、時刻情報記憶部7に記憶されると共
に、会議開始時点(記憶開始時点に対応)から画像情報
および音声情報が時系列情報記憶部4に記憶される。
【0123】そして、会議進行中にユーザ入力情報検出
部11でユーザ入力情報が検出されると、それが表示画
面21上の位置情報と共に、対応関係記憶部5に順次に
記憶される。さらに、会議進行中の音声情報について、
条件一致区間検出部3で、条件一致区間が、対話が活発
な区間として検出され、かつ、条件一致区間内でユーザ
入力情報が検出部11で検出されると、対応関係記憶部
5に、そのユーザ入力があった条件一致区間を重要区間
として、この重要区間を特定する情報と、対応する時系
列情報記憶部の記憶アドレスとが対応付けて記憶され
る。
【0124】[圧縮時の動作]次に、圧縮時の動作につ
いて説明する。この第1の実施の形態では、時系列情報
記憶部4に記憶した画像情報および/または音声情報
は、記憶してから所定期間経過したときには、重要度が
小さくなるとして情報圧縮して、時系列情報記憶部4の
メモリに、空き容量を形成するようにするが、その区間
内でユーザ入力情報が検出された条件一致区間は、重要
区間として、この区間は圧縮せず、あるいは、圧縮率を
低くして高品質を保つようにする。
【0125】図16は、この実施の形態における情報圧
縮時の動作を、その際の各種情報の流れ、および、各部
の出力の流れと共に説明する図である。
【0126】時刻情報記憶部7は、音声情報および画像
情報が時系列情報記憶部4に記録されてからの経過時間
が、所定の時間以上になった場合に、対応関係記憶部5
に対し圧縮処理開始指示を出力する。
【0127】すなわち、図13の時刻情報記憶部7の処
理ルーチンのステップS502において、図示しない時
計回路部から供給される現在時刻と、時刻情報記憶部7
に記憶されている記憶開始時刻とを比較し、情報の保存
時間が所定の時間を経過したかどうかを判定する。所定
の時間が経過したと判定されたときには、ステップS5
03に進み、対応関係記憶部5に圧縮処理開始を要求す
る。
【0128】そして、この要求を出した後に、あるいは
ステップS502で所定の時間を経過していないと判定
されたときには、ステップS500に戻る。
【0129】例えば、前記所定の時間が、1ヶ月と定め
てあった場合には、圧縮処理開始要求が記憶開始時点か
ら1ヶ月後に発生し、時系列情報記憶部4に新規に蓄積
された情報は、1ヶ月後に圧縮処理を施されることとな
る。例えば、図12に示した1996年4月25日13
時30分に記録されたファイル名「file10」の音
声情報および画像情報は、1996年5月25日13時
30分に前述の圧縮処理を施されることになる。
【0130】この圧縮処理が実行されるまでの時間は、
この例では、時刻情報記憶部7に対して固定的に与える
ようにするが、この時間はユーザが変更できるようにす
ることができる。また、この圧縮処理の開始のタイミン
グは、設定された時間の近辺であればよく、システムが
アイドリング状態になるのを待って圧縮処理を行なうよ
うに構成してもよい。また、圧縮を施すまでの時間を、
各ファイル毎に、変えて設定してもよい。
【0131】なお、音声情報および画像情報を格納した
ファイルやファイル名の中に、記憶開始時刻を特定する
情報を記憶しておくように構成しても構わない。
【0132】対応関係記憶部5は、時刻情報記憶部7か
ら圧縮開始指示が入力されると、図10のステップS3
04でその入力を検出する。圧縮開始指示が検出された
場合には、ステップS305に進み、ユーザ入力があっ
た前記条件一致区間である重要区間を特定する情報のそ
れぞれと、それぞれの重要区間に対応して前記時系列情
報記憶部4に記憶されている音声情報および画像情報
の、前記時系列情報記憶部4における記憶アドレスとを
圧縮部6に出力する。すなわち、図9に示したユーザ入
力情報ごとの情報の、一つの会議についてのすべてを一
括して圧縮部6に出力する。
【0133】なお、もちろん、各重要区間を特定する情
報と、該重要区間に対応した記憶アドレスとの組を、1
組1組づつ、順次圧縮部6に出力するように構成しても
よい。また、音声情報および画像情報を格納した時系列
情報記憶部4のファイルの中に、前記重要区間を特定す
る情報のそれぞれと、それぞれの重要区間に対応してフ
ァイルに記憶されている音声情報および画像情報の、該
ファイルにおける記憶アドレスとを記憶しておくように
構成しても構わない。
【0134】対応関係記憶部5からの入力を受信した圧
縮部6は、前記時系列情報記憶部4に蓄積された画像情
報のデータ圧縮を行なう。この場合、圧縮部6は、対応
関係記憶部5からの条件一致区間を示す情報に基づい
て、データ圧縮率またはデータ圧縮方法を動的に可変し
て圧縮を実行する。
【0135】この実施の形態の場合には、重要区間の情
報については、データ圧縮を行わずに高品質を維持し、
また、重要区間以外の区間の画像情報について、データ
圧縮を行うようにする。このため、図16に示すよう
に、圧縮部6は、時系列情報記憶部4から、重要区間以
外の区間の部分画像列を取得して、それをデータ圧縮
し、圧縮後の圧縮画像列を時系列情報記憶部4に書き戻
すようにする。
【0136】図17は、この圧縮部6の動作を説明する
フローチャートである。以下、このフローチャートおよ
び説明図を用いて、圧縮動作の詳細な説明を行なう。
【0137】時刻情報記憶部7は、前述の図13に示し
たフローチャートのステップS503において、音声情
報および画像情報が時系列情報記憶部4に記録されてか
らの経過時間(すなわち情報保存時間)が、所定の時間
以上になった場合に、対応関係記憶部5に対し圧縮処理
開始指示を出力する。
【0138】対応関係記憶部5は、時刻情報記憶部7か
ら圧縮開始指示が入力されると、図10のステップS3
04でその入力を検出する。圧縮開始指示が検出された
場合には、ステップS305に進み、ユーザ入力情報が
検出された条件一致区間である重要区間の図9に示した
情報のそれぞれと、それぞれの重要区間に対応して前記
時系列情報記憶部4に記憶されている音声情報または画
像情報の、前記時系列情報記憶部4における記憶アドレ
スとを圧縮部6に出力する。
【0139】圧縮部6は、対応関係記憶部5からの圧縮
開始要求を受信すると、ステップS600によって、こ
れを検出し、ステップS601に進む。ステップS60
1では、対応関係記憶部5から入力される、重要区間の
それぞれと、それぞれの重要区間に対応して前記時系列
情報記憶部4に記憶されている音声情報および画像情報
の、前記時系列情報記憶部4における記憶アドレスとを
入力し、圧縮部6の、図示しないワークメモリに記憶す
る。ワークメモリは、記憶媒体として、例えば半導体メ
モリを用いる。
【0140】なお、重要区間と、該重要区間に対応した
記憶アドレスとの組を、1組1組、順次圧縮部6に出力
するように構成してもよい。また、音声情報および画像
情報を格納したファイルの中に、前記重要区間のそれぞ
れと、それぞれの重要区間に対応してファイルに記憶さ
れている音声情報および画像情報の、該ファイルにおけ
る記憶アドレスとを記憶しておくように構成しても構わ
ない。
【0141】圧縮部6は、前記ワークメモリに記憶され
ている、重要区間と記憶アドレスの複数組を参照して、
時系列情報記憶部4に記憶されている画像情報の圧縮を
行なう。
【0142】ステップS602では、10フレームの部
分画像列を、1つの単位部分画像列として、重要区間以
外の区間の部分画像列を、時系列情報記憶部4から圧縮
部6に順次読み出す。この実施の形態においては、重要
区間に対応した画像情報を圧縮しないために、重要区間
以外の画像情報のみを読み出して、圧縮する。もっと
も、重要区間の画像情報も圧縮する場合には、重要区間
の画像情報を含めて読み出して圧縮する必要があること
は言うまでもない。
【0143】図18は、時系列情報記憶部4に記憶され
た画像情報のうち、重要区間として認識された画像情報
(アドレスa1からアドレスa2)を高品質で保存し、
それ以外の区間を高圧縮率で圧縮した場合の例を示した
図である。この例の場合には、重要でない区間の画像情
報は、連続した10フレームの中の先頭の1フレームだ
けを残して、他のフレームの情報を破棄するという間引
き圧縮処理が行なわれ、一方、重要区間の画像情報は、
前記の間引き処理を行なれず、前記連続10フレーム全
部が記憶されるようになる。
【0144】ステップS603では、10フレームの部
分画像列の、この例では先頭の1フレームだけを残し
て、他の9フレームを消去するというフレーム間引き処
理を行なう。そして、次のステップS604において、
そのフレーム間引き後の圧縮画像列を時系列情報記憶部
4に書き戻す。
【0145】そして、次のステップS605では、会議
の記録が蓄積されている前記ファイルに対する圧縮処理
が終了したどうかを判定し、ファイル全体の圧縮処理が
完了した場合には、ステップS600に戻って次の圧縮
開始指示を待つ。圧縮すべき部分が残っている場合には
ステップS602に戻って、前記圧縮処理を繰り返す。
【0146】この圧縮処理によって、前述した図18に
図示したような空きメモリが生成される。すなわち、ア
ドレスa1からアドレスa2の間のメモリ領域の画像デ
ータは、重要区間のデータであるので、圧縮前と比べて
変化がない。一方、アドレスa0からアドレスa1、お
よび、アドレスa2からアドレスa3に蓄積されていた
画像列は、重要区間ではないのでフレーム間引き圧縮の
対象となり、圧縮画像列によって置き換えられる。そし
て、情報量が減ったことにより、図18に示すように、
時系列情報記憶部4の記憶媒体には、空きメモリ領域が
生成される。
【0147】なお、時系列データが、記憶媒体内で連続
して記憶されていることが望ましい場合には、生成され
た空きメモリの部分を前後の時系列データによって詰め
るようにする等して、メモリの隙間をなくすようにして
もよい。
【0148】[再生時の動作]次に、再生時の動作につ
いて説明する。
【0149】この例においては、表示部10に表示され
た複数のペン筆跡情報の中の1つをユーザがペンを用い
て指定(ポインティング)することにより、時系列情報
記憶部4に記憶された音声信号または画像信号のうち、
そのペン筆跡情報が入力された時点の近辺前後に入力さ
れた音声信号または画像信号のみを部分的に再生可能と
されている。
【0150】また、そのペン筆跡情報が入力された時点
の前後に入力された音声信号または画像信号のうちの、
対話が活発な区間の最初にさかのぼって音声信号または
画像信号を再生できるように構成されている。
【0151】この例の場合、指定に用いる再生指定部1
2としては、この実施の形態のように、入力用のペンと
兼用されている。
【0152】なお、再生指定部12としては、マウス、
トラックボール、カーソルキー、タッチパネル等を用い
ることもできる。また、ペン筆跡情報の指定方法として
は、ポインティングによる指定、囲み(閉曲線や楕円な
どによる囲み)による指定、識別子入力による指定、表
示されている項目の下に線を引くような指定などによる
ものでもよい。
【0153】また、囲みによる指定や下線による指定を
行なった結果、複数のペン筆跡情報が選択された場合に
は、なんらかの優先順位に基づいて1つを特定するよう
にすることもできる。例えば、選択された中で最も早く
入力されたペン筆跡情報や、最も左上に表示されたペン
筆跡情報を自動的に選ぶ等、候補をリスト状に表示して
ユーザに再度選択を求めるようにしてもよい。
【0154】さらに、特開平6−276478公報や特
開平6−205151号公報に記載されているように、
特定の順番(例えば時系列)で静止画画像を並べ、それ
ら目次画像の中から1つを指定するようにしても構わな
い。
【0155】表示部10の表示画面21上の表示位置
は、X−Y座標によって特定できるので、ペンなどの再
生指定部12によってある表示位置が指定されると、そ
の表示位置に対応するX−Y座標が特定される。
【0156】このようにして、再生指定部12から再生
要求があると、対応関係記憶部5での動作の図11のフ
ローチャートのステップS306においてそれが検出さ
れ、ステップS307に進み、再生指定部12から得ら
れた指定座標と、対応関係記憶部5に記憶されているX
−Y座標から算出されるX−Y座標群(図9のペン筆跡
座標を端点とするマルチプルラインを構成する全ての点
座標群)とを比較して、対応するペン筆跡情報を特定す
る。
【0157】続いて、ステップS308において、この
ペン筆跡情報に対応した音声信号または画像信号の再生
開始アドレスおよび再生終了アドレスを、対応関係記憶
部5から取得し、ステップS309に進んで、その再生
開始アドレスおよび再生終了アドレスと、再生要求とを
時系列情報記憶部4に出力する。
【0158】その後、再生開始/終了アドレスと再生要
求とを受け取った時系列情報記憶部4は、図12のフロ
ーチャートのステップS405において、その入力を検
知し、ステップS406に進んで、再生部8に出力す
る。
【0159】再生部8は、以上の動作によって求まった
時系列情報記憶部4の再生開始アドレスから再生終了ア
ドレスまでの音声情報または画像情報の再生を開始す
る。例えば、図9のID1000のマルチプルラインが
指定された場合には、このマルチプルラインに対応す
る、記憶アドレスa1から記憶アドレスa2までの音声
情報または画像情報が再生される。
【0160】なお、前記座標比較の際に、少しずれた座
標ともマッチングするようにしておけば、指定時に多少
ずれた座標点を指定しても、所望の記憶アドレスを取得
できるようになる。また、ユーザ入力情報が表示されな
い性質のものであった場合にでも、そのユーザ入力情報
の存在を示す所定のしるしが表示部10に表示されてい
るので、同様の方法によって所望の記憶アドレスを取得
できる。また、所定時間間隔内に連続入力された複数の
座標点列を1つのペン筆跡情報として記憶させておけ
ば、例えば、1行の文字列を1つのペン筆跡情報と見な
すことができるため、文字列を構成する座標点列のうち
いずれかが指定されれば、同じ記憶アドレスから音声ま
たは画像を再生できる。
【0161】再生時には再生速度を変化させたり少し巻
き戻ししてゆっくり再生したい場合がよくあるので、早
送り機能、巻き戻し機能、スロー再生機能、一時停止機
能を再生部8に具備してもよいし、時間軸上のスライド
バーを設け、現在再生している時刻を示すポインタをス
ライドバーに表示したりバーをスライドさせることによ
って再生位置を指定できるようにしてもよい。
【0162】また、再現する速度に関して、必ずしも記
録された時刻情報の通りに再現する必要はなく、記録さ
れた順序関係だけは守って速度を上げて再現するように
してもよいし、話者の発言が記録されている区間だけを
間引いて再生するようにしてもよい。例えば、図8の時
刻t0から時刻t1、および、時刻t2から時刻t3の
区間は倍速再生し、重要区間である時刻t1から時刻t
2の区間は記憶された速度で、いわゆるノーマル再生す
るようなことができる。
【0163】さらに、再生を一時停止した後、指示部に
よって再生を再び指示できるようにしてもよいし、新た
なユーザ入力情報を追記できるようにしてもよい。
【0164】以上に述べた第1の実施の形態では、早い
話者交代のパターンが所定個数以上連続して検出された
時に、そのパターンを含む発言区間の両端を、条件一致
区間の両端とするようにしているが、早い話者交代のパ
ターンを含む発言区間の開始時点の所定時間前の時点を
条件一致区間の始まりとしてもよいし、早い話者交代の
パターンを含む発言区間の所定個数前の発言区間を含め
て条件一致区間としてもよい。
【0165】また、早い話者交代のパターンを含む発言
区間の終了時点の所定時間後の時点を条件一致区間の終
わりとしてもよいし、早い話者交代のパターンを含む発
言区間の所定個数後の発言区間を含めて条件一致区間と
してもよい。
【0166】さらに、「扉の閉まる音」というような、
単発的な音声信号を条件一致区間検出部3によって検出
するようにすることもできる。この場合には、単発的な
音声信号を検出した時点の所定時間前の時点を条件一致
区間の開始点として検出し、該単発的な音声信号を検出
した時点の所定時間後の時点を条件一致区間の終了点と
して検出するように構成する。また、外部センサからの
単発的なトリガ信号を条件一致区間検出部3によって検
出する場合にも、同様に構成すればよい。な対話のパタ
ーンを検出する場合について説明したが、この他にも、
さらに、条件一致区間検出部3が検出する事象は、音
声の有無、発言者の交替に限らず、音声信号の中の予め
登録されたキーワードの出現、音声信号の中の予め登録
された音声パターンの出現、音声信号の中の予め登録さ
れた文字列の出現、画像信号の中の状態変化、外部セン
サが検知した状態の変化、カメラワークまたはカメラワ
ークの変化などでもよい。
【0167】例えば、笑い声のパターン、拍手のパター
ンなどの特徴的な音声パターンを登録しておき、入力音
声信号からこれらのパターンを認識し、これらのパター
ンを含む区間を条件一致区間として検出するように構成
することもできる。この場合には、条件一致区間検出部
3には、公知のパターン認識技術、例えば、音声信号の
パワーまたは周波数成分の時間的遷移を解析する技術な
どを用いて、パターン認識を行なうパターン認識手段が
設けられる。
【0168】また、例えば、条件一致区間検出部3によ
って話者の交代を検出する場合には、図19に示すよう
に、ユーザ入力情報の入力が検出された時点tpから所
定時間前にさかのぼった時点t1を特定し、この時点t
1に最も近い話者交代時点tsを条件一致区間の始まり
とする。そして、この条件一致区間の始まりtsから所
定時間経過した時点teを条件一致区間の終りとするよ
うにする。図19に示した例では、ユーザ入力情報の入
力が検出された時点tpと条件一致区間の始まりt1と
の時間間隔(tp−t1)は130秒であり、条件一致
区間の長さ(te−ts)は180秒である。
【0169】入力される時系列情報(例えば、音声情報
または画像情報)の変化、または入力される時系列情報
が存在する間に外部センサが検知した信号の変化を検出
する装置も、いずれもこの発明でいう条件一致区間検出
部3に相当する。その変化点を検出条件とする場合、終
了点としては、その変化点から予め定めた一定時間とす
ることができる。
【0170】また、この実施の形態では、圧縮部6は、
画像の間引き圧縮を行う構成になっているが、画像情報
の圧縮時に、記憶時間、フレーム内圧縮の圧縮率、フレ
ーム間圧縮の圧縮率、間欠記録の時間間隔、色情報間引
き率、輝度情報間引き率等の少なくとも一つを動的に変
更する装置であればよい。特に、動画像情報を圧縮する
方法としては、フレーム内での圧縮法とフレーム間の圧
縮法があり、フレーム内の圧縮法としてはベクトル量子
化を用いた方法と離散コサイン変換を用いた方法などが
ある。フレーム間の圧縮法としては前後フレームの画像
情報の差分のみを記録する方法などがある。すなわち、
単位時間あたりの情報量をより少ない情報量に変換する
装置は、いずれもこの発明でいう圧縮部6に相当する。
【0171】また、この実施の形態では、重要区間以外
の区間の画像情報であっても、情報量の少ない駒落し映
像として保存するように構成しているが、もちろん、重
要区間以外の区間の画像情報または音声情報を、蓄積媒
体から消去するようにしても構わない。
【0172】また、重要区間の情報と、重要区間以外の
区間の情報とを、別々の蓄積媒体に分けて保存するよう
にしてもよい。例えば、情報の記録時は、重要区間の情
報と重要区間以外の区間の情報とを同一の磁気ディスク
に蓄積するようにし、情報の圧縮時に、重要区間の情報
のみを前記磁気ディスクに残し、重要区間以外の区間の
情報を光磁気ディスクや磁気テープに移動するように構
成する。一般的に、光磁気ディスクや磁気テープは、磁
気ディスクに比べて、情報へのアクセス速度は遅いが大
量の情報を安価に蓄積することができるという特徴を有
しているため、情報量の少なくなった重要区間以外の区
間の情報を蓄積するために適している。
【0173】また、この実施の形態では、音声情報は圧
縮しない場合について説明したが、画像情報同様、音声
も圧縮することが可能である。その場合には、音声情報
の圧縮時に、記憶時間、サンプリング周波数、符号化ビ
ット数の少なくとも一つを動的に変更するように構成す
ればよい。
【0174】以上の例では、初期状態において表示部1
0上に何も表示されている情報がない場合について説明
したが、この発明の適用範囲はこの例に留まらず、例え
ば初期状態でいくらかのユーザ入力情報が既に表示され
ており、それに追加や変更を施す場合もこの発明の適用
範囲に含まれる。ただしこの場合には、再生のために指
定できるユーザ入力情報は、初期状態からの変位部分の
みとなる。
【0175】また、この発明の装置の用途としては、記
録していた音声情報または画像情報を再生する際に、ユ
ーザ入力情報をも画面上に順次再現させてゆく使いかた
がある。表示部10の表示を、指定部によって特定され
たペン筆跡情報が入力された時点の表示に一旦戻し、音
声または画像情報とペン筆跡情報とを同期させて再現す
るものである。表示画面をその時点の表示に戻す方法と
しては、表示画面のUNDOをその時点まで繰り返して
もよいし、画面を一旦消去した後、対応関係記憶部5に
記憶されているユーザ入力情報をその時点まで高速に順
次描画してもよい。
【0176】[第2の実施の形態]この第2の実施の形
態においても、前述と同様に、説明を簡単にするため
に、圧縮対象は画像のみとして、以下に説明する。
【0177】この第2の実施の形態では、入力画像情報
を時系列情報記憶部4に蓄積する際に、例えば低周波数
帯域と、高周波数帯域というように、周波数帯域別に記
憶しておき、時刻情報記憶部7から圧縮開始指示を受信
したときに、画像の高周波数帯域を削除することによ
り、画像情報の圧縮を行うように構成する。この第2の
実施の形態は、画像の高周波数帯域は、いわゆる画像の
ディテールに関与する成分であり、これを削除しても基
本的な画像内容の把握については影響が少ないことを利
用するものである。
【0178】第1の実施の形態では、図16で示される
ように、時系列情報記憶部4の部分画像列を読み出し、
圧縮部6で圧縮処理を施した後、再び時系列情報記憶部
4に書き込む構成としたが、この第2の実施の形態で
は、入力画像情報を時系列情報記憶部4に蓄積する際に
周波数帯域別に記憶しておき、時刻情報記憶部7から圧
縮開始指示を受信した時に、画像の高周波数帯域を削除
するように構成する。この場合には、時系列情報記憶部
4から部分画像列を読み出したり、画像圧縮処理を施し
たり、時系列情報記憶部4に書き戻したりする必要がな
くなるため、圧縮処理時のシステムの負荷を軽減するこ
とができる。
【0179】また、この第2の実施の形態では、前記の
周波数帯域別に入力画像情報を記憶する方法において、
前記ユーザ入力検出部11が検出したユーザ入力情報入
力時点と前記条件一致区間検出部3とによって定められ
る重要区間(ユーザ入力情報が入力された時点を含む条
件一致区間)と、重要区間以外の区間とで、時系列情報
記憶部4に蓄積する際の周波数帯域の分け方を変えるよ
うに構成する。具体的には、重要区間以外の区間の画像
情報のみを周波数帯域別に記憶し、重要区間の画像情報
は通常の方法(周波数帯域別の記憶はしない)で記憶す
る。
【0180】図20は、この第2の実施の形態における
記録時の動作を、その際の各種情報の流れ、および、各
部の出力の流れと共に説明した図である。この第2の実
施の形態の構成は、第1の実施の形態について説明した
図1および図5と比較すると、構成要素として、周波数
帯域別画像生成部13が追加されている点が異なってい
る。
【0181】この周波数帯域別画像生成部13は、この
例では、ハイパスフィルタと、ローパスフィルタとを含
んで構成される。そして、この第2の実施の形態の場
合、条件一致区間検出部3は、第1の実施の形態の場合
と同様な方法で、入力音声情報から条件一致区間を検出
し、その条件一致区間を特定する情報を、対応関係記憶
部5に供給すると共に、周波数帯域別画像生成部13に
供給する。また、ユーザ入力情報検出部11で検出され
たユーザ入力情報が、この周波数帯域別画像生成部13
に供給される。
【0182】周波数帯域別画像生成部13は、条件一致
区間検出部3からの条件一致区間を特定する情報と、ユ
ーザ入力情報検出部11からのユーザ入力情報とを受け
て、前記重要区間と、他の区間とで、時系列情報記憶部
4に出力する画像信号を変更するようにする。
【0183】図21は、この第2の実施の形態における
周波数帯域別画像生成部13での処理を説明するフロー
チャートである。
【0184】図21に示すように、周波数帯域別画像生
成部13は、ステップS700で音声情報または画像情
報の入力を受ける。そして、次のステップS701にお
いて、条件一致区間検出部3からの条件一致区間を特定
する情報、すなわち、この例では、条件一致区間の始め
の時点の情報と終りの時点の情報と、ユーザ入力情報と
により、当該条件一致区間は重要区間であるか否か判断
する。
【0185】重要区間であると判別された区間の画像情
報に関しては、ステップS701からステップS703
に進んで、そのまま時系列情報記憶部4に画像情報を出
力し、入力画像情報を通常の、周波数帯域別に分けない
記憶フォーマットで時系列情報記憶部4に記憶させるよ
うにする。
【0186】一方、ステップS701において、重要区
間以外の区間であると判別された場合には、ステップS
702に進み、入力画像情報を高周波数帯域の情報と、
低周波数帯域の情報とに分けて、周波数帯域別画像情報
を生成する処理を実行する。生成された周波数帯域別画
像情報は、ステップS703において、時系列情報記憶
部4に対して出力され、記憶される。以下、ステップS
700〜S703を繰り返す。
【0187】図22は、画像情報記録時(画像情報圧縮
前)の時系列情報記憶部4の記憶状態を説明した図であ
る。図で示されるように、この第2の実施の形態の場合
の時系列情報記憶部4は、重要区間の画像情報を記憶す
るメモリ部4Maと、重要区間以外の区間の画像情報を
記憶するメモリ部4Mbとを備える。これらメモリ部4
Maおよび4Mbは、それぞれ別々の記憶媒体であって
も良いし、一つの記憶媒体のメモリ領域を分割したもの
であってもよい。
【0188】時系列情報記憶部4の、重要区間の画像情
報を記憶するメモリ部4Maには、画像情報は周波数帯
域分割されずに記憶されている。そして、重要区間以外
の区間の画像情報を記憶するメモリ部4Mbは、さら
に、高域部記憶メモリと、低域部記憶メモリとに領域分
割され、それぞれ画像情報の高周波数帯域成分と、低周
波数帯域成分とが、対応付けられて記憶されている。す
なわち、図22において、高域部記憶メモリの領域a1
〜a6の記憶内容と、低域部記憶メモリの領域a1〜a
4の記憶内容とは、同一区間の画像信号の高周波数成分
と、低周波数成分とを示している。時系列情報記憶部4
は、この周波数帯域成分の対応関係も管理している。
【0189】図22において、各メモリ領域a1,a
2,…内に「・」が付与されているのは、画像列が記憶
されていることを示しており、「・」が無いメモリ領域
は空きメモリ領域を意味している。
【0190】この第2の実施の形態においても、時刻情
報記憶部7で時系列情報記憶部4の記憶内容の保存期間
を監視し、例えば1ヶ月のような所定の期間を保存期間
が経過したときに、時刻情報記憶部7は圧縮処理開始指
示を出力し、画像情報圧縮を実行させる。
【0191】図23は、この第2の実施の形態における
情報圧縮時の動作を、その際の各種情報の流れ、およ
び、各部の出力の流れと共に説明した図である。また、
図24は、この第2の実施の形態における圧縮処理を説
明するフローチャートである。
【0192】すなわち、この実施の形態の場合、時刻情
報記憶部7からの圧縮開始指示は、圧縮部6に直接供給
される。そして、圧縮部6では、図24のフローチャー
トに示すように、この圧縮開始指示を受け取って、音声
情報および画像情報が時系列情報記憶部4に記録されて
からの経過時間、すなわち情報保存時間が、所定の時間
以上になったことをステップS800において検出した
場合には、ステップS801に進む。ステップS801
では、時系列情報記憶部4に対して、重要区間以外の区
間を記憶しているメモリ部4Mbから、高周波数帯域を
削除する処理を行なう指示を送る。
【0193】この例では、時系列情報記憶部4は、この
圧縮部6からの高周波数成分削除指示を受けて、条件一
致区間以外の区間の画像情報を記憶するメモリ部4Mb
の高域部記憶メモリの記憶内容をすべて削除する。
【0194】図25は、画像情報圧縮後の時系列情報記
憶部4の記憶状態を説明した図である。圧縮処理前の記
憶状態が、前述の図22に示したような状態であった場
合には、圧縮部6からの高周波数成分削除指示を受け
て、時系列情報記憶部4は、重要区間以外の区間の画像
情報を記憶するメモリ部4Mbの中の、高周波数帯域画
像成分を記憶する高域部記憶メモリの領域a1〜a6か
ら画像情報を全て削除する。この結果、時系列情報記憶
部4においては、図25において、網点で示した領域a
1〜a6の部分が、空きメモリ領域として生成される。
【0195】この生成された空きメモリ領域は、重要区
間以外の区間を記憶する記憶メモリ領域として再利用さ
れても構わないし、重要区間を記憶する記憶メモリ領域
として充当するようにしても構わない。
【0196】以上に説明した処理によって、圧縮処理を
施した後には、ユーザ入力情報が検出された時点近傍
で、かつ、活発に議論が交わされていた部分の映像を再
生した場合には、スムースな動きの高品質の動画が再生
され、その他の部分を再生した場合には、いわゆる低画
質映像であって、画質の低い動画となる。しかし、あま
り重要でない部分を選択して高圧縮率で圧縮できるの
で、蓄積すべき情報量は非常に少なくなる。
【0197】この第2の実施の形態の以上の説明では、
周波数帯域別に入力画像情報を記憶する方法について説
明したが、例えば特開平6−178250号公報に述べ
られているように、入力画像情報を時系列情報記憶部4
に蓄積する際に、画像信号を輝度信号成分と、色差信号
や搬送色信号(色副搬送波信号)などの色信号成分とに
分けて、別々の領域に記憶しておき、時刻情報記憶部7
から圧縮開始指示が発生したときに、色信号成分のみを
消去するように構成してもよい。この場合にも、部分画
像列を読み出したり、書き戻したりする必要がなくなる
ため、圧縮処理の速度を早めることができる。
【0198】また、入力画像情報を周波数帯域別に時系
列情報記憶部4に蓄積する際に、重要区間の画像情報
と、重要区間以外の区間の画像情報の低周波数帯域成分
とを、記憶媒体の連続した領域に記憶し、重要区間以外
の区間の画像情報の高周波数帯域成分を、記憶媒体の別
の領域に記憶するように構成してもよい。この場合に
は、圧縮時に重要区間以外の区間の画像情報の高周波数
帯域成分を消去しても、圧縮後の時系列データが、記憶
媒体内で連続するため、再生速度の低下を防ぐことがで
きる。
【0199】さらに、この第2の実施の形態では、音声
情報は圧縮しない構成になっているが、音声情報を同様
にして圧縮することもできる。例えば、特開平7−15
519号公報に記載されているように、入力音声情報を
時系列情報記憶部4に蓄積する際に周波数帯別に記憶し
ておき、圧縮部6が、時刻情報記憶部7から圧縮開始指
示を受信したときに、音声の高周波数帯域を削除するよ
うに構成してもよい。この場合も、重要区間以外の区間
の音声情報の高周波数帯域成分を優先的に削除するよう
に構成するとよい。
【0200】[第3の実施の形態]第1の実施の形態、
および、第2の実施の形態では、音声情報または画像情
報が時系列情報記憶部4に記録されてからの経過時間
が、例えば1ヵ月というような所定の時間以上になった
場合に、1度だけ圧縮処理を行う例について説明した。
しかしながら、1度だけ圧縮処理を行うよりも、段階的
に複数回に分けて圧縮を施した方が、より効果的に蓄積
媒体を節約できる場合がある。例えば、会議を記録する
場合、1週間前に行われた会議を後から参照する可能性
に比べて、1ヶ月前に行われた会議を参照する可能性は
低く、また同様に、1ヶ月前に行われた会議を後から参
照する可能性に比べると、半年前に行われた会議を参照
する可能性は低い。このように、後から参照される可能
性がより低くなった場合に、より少ない情報量で蓄積す
るように構成すれば、効果的に蓄積媒体を節約できるよ
うにすることができる。
【0201】この第3の実施の形態では、画像情報が時
系列情報記憶部4に記録されてからの経過時間に応じ
て、圧縮率または圧縮方法を変更し、情報を段階的に圧
縮する例について説明する。ただし、昔の会議記録映像
であっても、重要な場面については、画像信号を高品質
のままで保存しておく必要があるため、第1の実施の形
態または第2の実施の形態と同様、記録した会議映像の
中で、ユーザ入力情報が検出された時点近傍で、かつ、
活発に議論が交わされていた部分の映像だけを高品質の
まま残し、その他の部分を高圧縮率で圧縮するようにす
る。
【0202】すなわち、この第3の実施の形態において
も、前記ユーザ入力検出部11と前記条件一致区間検出
部3とによって、第1の実施の形態の場合と同様な方法
で、ユーザ入力情報と入力音声情報とから重要区間を特
定する。
【0203】この第3の実施の形態では、第2の実施の
形態と同様に、入力画像情報を時系列情報記憶部4に蓄
積する際に周波数帯域別に記憶しておく。このため、こ
の第2の実施の形態と同様に、周波数帯域別画像生成部
13が設けられるが、この第3の実施の形態の場合にお
いては、周波数帯域は、高周波数帯域と、中周波数帯域
と、低周波数帯域との3帯域に画像情報を分割して、時
系列情報記憶部4に記憶するようにする。この場合の周
波数帯域別画像生成部13は、高域用のハイパスフィル
タと、中域用のバンドパスフィルタと、低域用のローパ
スフィルタとで構成される。
【0204】また、この第3の実施の形態においては、
重要区間と、重要区間以外の区間との区別なく、画像信
号は周波数帯域を3帯域に分けて記憶するようにする。
【0205】図26は、画像情報記録時(画像情報圧縮
前)の時系列情報記憶部4の記憶状態を説明した図であ
る。すなわち、この例では、時系列情報記憶部4の重要
区間の画像情報を記憶するメモリ部4Maおよび重要区
間以外の区間の画像情報を記憶するメモリ部4Mbのそ
れぞれは、図26に示すように、高域部記憶メモリ、中
域部記憶メモリ、低域部記憶メモリを有し、それぞれの
メモリ領域に、該当区間の画像情報の高域成分、中域成
分、低域成分が、それぞれ記憶されるものである。
【0206】そして、この第3の実施の形態において
も、時刻情報記憶部7は、記憶時からの時間経過を監視
して、所定時間経過したときに圧縮開始指示を、圧縮部
6に出力するようにするが、圧縮開始指示は、予め設定
された複数の経過時間、例えば1週間後、1ヶ月後、半
年後、のそれぞれの時点で出力するようにする。このと
き、各圧縮開始指示に、それがどの時点の圧縮開始指示
であって、いずれの周波数帯域成分を圧縮するかのデー
タを付加して圧縮部6に供給するようにする。
【0207】図27は、時刻情報記憶部7に記憶された
圧縮時刻管理テーブルの例を示す図である。この図27
に示されるように、例えば、一番先に消去される画像デ
ータは、重要区間以外の区間の高周波数帯域部分であ
り、情報の記録後、1週間経過時に消去される。また、
情報の記録後、1ヶ月が経過したときには、重要区間以
外の区間の中周波数帯域部分と、重要区間の高周波数帯
域部分とが消去される。また、情報の記録後、半年が経
過したときには、重要区間以外の区間の低周波数帯域部
分と、重要区間の中周波数帯域部分とが消去される。な
お、重要区間の低周波数帯域部分に関しては、ユーザか
らの明示的な消去指示が与えられない限り自動的には消
去されないようになっている。
【0208】圧縮部6は、時刻情報記憶部7からの前記
圧縮開始指示を受信したときに、その指示内容を解析
し、その解析結果により時系列情報記憶部4に対して、
いずれの記憶メモリの内容を削除するかの圧縮指示を出
す。時系列情報記憶部4は、この圧縮指示に応じて、画
像情報の段階的な圧縮処理を実行する。具体的には、前
記図27のテーブルの消去時期にしたがった各部記憶メ
モリの内容消去を実行する。
【0209】図28、図29、図30は、画像情報圧縮
前に図26のように画像情報が記録されている状態か
ら、それぞれ、1週間、1ヶ月、半年が経過したとき
の、時系列情報記憶部4の記憶状態を説明した図であ
る。これらの図26、図28、図29、図30におい
て、各メモリ領域a1,a2,…内に「・」が付与され
ているのは、画像列が記憶されていることを示してお
り、「・」が無いメモリ領域は空きメモリ領域を意味し
ている。
【0210】すなわち、1週間経過のときには、図28
に示すように、時系列情報記憶部4では、重要区間以外
の区間の画像情報を記憶するメモリ部4Mbの高域部記
憶メモリの内容がすべて消去されて、空きメモリ領域と
される。
【0211】また、1ヶ月経過のときには、図29に示
すように、重要区間の画像情報を記憶するメモリ部4M
aの高域部記憶メモリの内容と、重要区間以外の区間の
画像情報を記憶するメモリ部4Mbの中域部記憶メモリ
の内容がすべて消去される。
【0212】さらに、半年経過のときには、図30に示
すように、重要区間の画像情報を記憶するメモリ部4M
aの中域部記憶メモリの内容と、重要区間以外の区間の
画像情報を記憶するメモリ部4Mbの低域部記憶メモリ
の内容がすべて消去される。この結果、時系列情報記憶
部4の記憶内容は、重要区間の画像情報を記憶するメモ
リ部4Maの低域部記憶メモリの内容のみが残る。
【0213】こうして、これらの図25〜図27で示さ
れるように、時系列情報記憶部4には、時間の経過に伴
い、より少ない情報量で画像情報が蓄積されるようにな
る。
【0214】なお、この第3の実施の形態の上述の例で
は、時刻情報記憶部7の圧縮時刻の管理にテーブルを使
用したが、もちろん、管理テーブルの代わりに、リスト
やスタックの構造であっても構わない。
【0215】さらに、時刻情報記憶部7で、テーブルや
リスト等で圧縮時刻および圧縮対象を管理するのではな
く、情報の保存時間をパラメータとした数式演算によ
り、任意の時刻における情報の圧縮率を算出し、この圧
縮率に関する情報を圧縮部6に送って情報圧縮を実行さ
せるように構成することもできる。
【0216】例えば、yを情報量保持率(%)、xを時
刻(経過日数)とすると、時刻情報記憶部7では、 y=90exp(−Ax)+10 …(1) ただしAは定数で、A>0であるで表される上記演算式
(1)によって、特定の時刻における情報量保持率を求
め、この情報量保持率の情報を圧縮率に関する情報とし
て、圧縮部6に供給する。ここで、情報量保持率は、特
定の時刻における情報量の、その情報が始めに記録され
たときの情報量に対する割合を指す。
【0217】圧縮部6は、時刻情報記憶部7からの、こ
の情報量保持率に基づき、圧縮率を設定し、その圧縮率
により時系列情報記憶部4に蓄積されている画像情報を
圧縮する。この場合、時刻情報記憶部7は、ある周期で
段階的に再圧縮を実行させるように圧縮開始指示を、前
記周期で繰り返し発生する。
【0218】なお、この第3の実施の形態は、第2の実
施の形態の変形として説明したが、第1の実施の形態の
変形として実施することも、もちろんできる。
【0219】[第4の実施の形態]この第4の実施の形
態は、条件一致区間検出部3での検出条件が、入力され
る音声信号の中に予め登録されたキーワードが出現した
こと、または、入力される音声信号の中に予め登録され
た音声パターンが出現したこと、である場合である。
【0220】まず、条件一致区間検出部3での検出条件
が、入力される音声信号の中に予め登録されたキーワー
ドが出現したことである場合について説明する。
【0221】この場合、条件一致区間検出部3は、音声
認識手段と、登録されたキーワードを記憶するメモリ
と、音声認識結果とメモリに予め登録されたキーワード
とを比較して両者の一致を検出するキーワード一致検出
手段とを備える。メモリには、ユーザが予めキーワード
を登録しておく。
【0222】そして、情報記録時には、条件一致区間検
出部3は、入力された音声信号を音声認識手段により順
次文字列情報に変換し、形態素解析するなどして、その
文字列情報から語句を抽出する。そして、この抽出した
語句を、「宿題」「アクションアイテム」「課題」「結
論」「決定」「重要」「まとめ」などの、メモリに予め
登録されている文字列キーワードと比較する。
【0223】入力音声信号から抽出された語句が、予め
登録されていた文字列キーワードのいずれかと一致した
場合には、この文字列キーワードの検出時点は、条件一
致区間の開始点となる。
【0224】条件一致区間の終了点を定めるために、こ
の第4の実施の形態においては、各キーワード文字列毎
に、キーワードが検出されたときから、どれだけの時間
の画像信号を高画質で記録するかを決めるキーワード有
効期間が、図31のようなテーブルに設定されている。
条件一致区間の開始点に、キーワード有効期間を加えた
時点が、条件一致区間の終了点となる。
【0225】そして、時系列情報記憶部4に蓄積されて
いる画像情報を、前述したように所定時間経過後に圧縮
する際には、前記ユーザ入力検出部11が検出したユー
ザ入力情報入力時点を含む前記条件一致区間の開始点か
ら終了点までの区間を重要区間と見なして、この区間の
画像情報を高画質で保存し、それ以外の区間を高圧縮率
で圧縮するようにする。圧縮方式は、第1〜第3の実施
の形態のいずれの方法も採用できる。
【0226】また、さらに、各キーワード文字列毎に重
要度を設定できるようにしておけば、各キーワード文字
列の重要度に応じた異なる圧縮率で画像信号を圧縮する
ことが可能である。
【0227】次に、入力される音声信号の中に、予め登
録された音声パターンが出現したことを検出条件とし
て、条件一致区間検出部3が条件一致区間を検出する場
合について説明する。
【0228】音声認識によってキーワードを検出するこ
とが困難な場合にも、笑い声のパターン、拍手のパター
ン、活発な対話のパターンなどの特徴的な音声信号のパ
ターンであれば、これらのパターンを認識できる場合が
ある。そこで、この特徴的な音声パターンが出現したこ
とをも、検出条件として条件一致区間検出部3は検出す
るようにする。
【0229】この場合には、条件一致区間検出部3に
は、笑い声のパターン、拍手のパターン、活発な対話の
パターンなどの特徴的な音声信号パターンが予め登録さ
れて記憶されるメモリが設けられる。そして、公知のパ
ターン認識技術、例えば、音声信号のパワーまたは周波
数成分の時間的遷移を解析する技術などを用いて、パタ
ーン認識を行なうパターン認識手段が設けられる。
【0230】予め登録されている特徴的な音声信号のパ
ターンと、順次入力される音声信号から抽出される音声
信号のパターンとを比較して、その一致あるいはその類
似度から、当該特徴パターンを認識するようにする。パ
ターン認識の認識率を上げるために、話者毎に、音声パ
ターンを登録しておいてもよい。
【0231】入力音声信号から抽出された音声信号のパ
ターンが、予め登録されている特徴的な音声信号パター
ンのいずれかと一致したと判定された場合には、音声信
号パターンの検出時点は、条件一致区間の開始点とな
る。
【0232】また、条件一致区間の終了点を定めるため
に、各音声信号パターン毎に、パターンが検出された時
からどれだけの時間の画像信号を高画質で保存するかを
決める音声信号パターン有効期間が、図32に示すよう
なテーブルに設定されている。条件一致区間の開始点
に、音声信号パターン有効期間を加えた時点が、条件一
致区間の終了点となる。
【0233】そして、前記ユーザ入力検出部11が検出
したユーザ入力情報入力時点と前記条件一致区間検出部
3とによって定められる重要区間(ユーザ入力情報が入
力された時点を含む条件一致区間の開始点から終了点ま
で)と、重要区間以外の区間とで、圧縮率または圧縮方
法を変えて、前記時系列情報記憶部4に記憶されている
画像情報を圧縮するようにする。
【0234】この場合も、時系列情報記憶部4に蓄積さ
れている画像情報を、前述したように所定時間経過後に
圧縮する際に、前記重要区間の画像情報は、高画質で保
存し、その他の区間の画像情報は、情報量を大幅に削減
するように圧縮する。圧縮方式は、第1〜第3の実施の
形態のいずれの方法も採用できる。
【0235】この実施の形態では、入力音声信号から抽
出されたキーワードや音声信号のパターンが、予め登録
されているキーワードや特徴的な音声信号パターンのい
ずれかと一致したと判定された時点を、条件一致区間の
開始点と判定したが、キーワードや音声信号のパターン
が検出された時点より前の画像情報を含めて高画質で保
存することもできる。例えば、笑い声のパターンや、拍
手のパターンが出現する時の前には、そのパターンが出
現する原因が存在することが普通であり、その原因とな
る事象を高画質で保存するようにすることができる。こ
の場合には、特徴的な音声信号パターンが出現した時点
より所定時間前の時点を、条件一致区間の開始点とする
ことで、パターンが出現した原因となる事象を高画質で
保存し、それ以外の区間を高圧縮率で圧縮するように構
成する。
【0236】[第5の実施の形態]この第5の実施の形
態は、条件一致区間検出部3での検出条件が、入力され
る画像信号の中に予め登録された文字列が出現したこ
と、または、入力される画像信号の中に状態変化が出現
したこと、である場合である。
【0237】まず、入力される画像信号の中に予め登録
されたキーワードが出現したことを条件一致区間検出部
3が検出する場合について説明する。
【0238】この場合、条件一致区間検出部3は、画像
認識手段と、登録された文字列のキーワードを記憶する
メモリと、画像認識結果とメモリに予め登録されたキー
ワードとを比較して両者の一致を検出するキーワード一
致検出手段とを備える。メモリには、ユーザが予めキー
ワードを登録しておく。
【0239】そして、情報記録時には、条件一致区間検
出部3は、ホワイトボードなどに書かれた文字を画像認
識手段により順次文字列情報に変換し、その文字列情報
から語句を抽出する。そして、この抽出した語句を、
「宿題」「アクションアイテム」「課題」「結論」「決
定」「重要」「まとめ」などの、メモリに予め登録され
ている文字列キーワードと比較する。もちろん、コンピ
ュータからの出力を表示する電子ホワイトボードのよう
に、表示される画像信号がコンピュータからの出力であ
る場合には、コンピュータから入力される情報(文字コ
ード情報など)を入力画像信号としてもよい。
【0240】入力画像信号から抽出された語句が、予め
登録されていた文字列キーワードのいずれかと一致した
場合には、この文字列キーワードの検出時点は、条件一
致区間の開始点となる。
【0241】条件一致区間の終了点を定めるために、こ
の第5の実施の形態においては、各キーワード文字列毎
に、キーワードが検出された時からどれだけの時間の画
像信号を高画質で記録するかを決めるキーワード有効期
間が、前記図31と同様にして、キーワードと対応して
メモリに設定されている。
【0242】そして、前記ユーザ入力検出部11が検出
したユーザ入力情報入力時点と前記条件一致区間検出部
3とによって定められる重要区間(ユーザ入力情報が入
力された時点を含む条件一致区間の開始点から終了点ま
で)と、重要区間以外の区間とで、圧縮率または圧縮方
法を変えて、前記時系列情報記憶部4に記憶されている
画像情報を圧縮するようにする。
【0243】この場合には、文字列キーワードが出現し
た時点より所定時間前の時点を、条件一致区間の開始点
とすることで、文字列キーワードが出現した原因となる
事象を高画質で保存し、それ以外の区間を高圧縮率で圧
縮するように構成することができる。
【0244】次に、入力される画像信号の中に状態変化
が出現したことを検出条件として、条件一致区間検出部
3が条件一致区間を検出する場合について説明する。
【0245】画像認識によって文字列キーワードを検出
することが困難な場合にも、入力される画像情報から動
き、輝度変化、色分布変化などの状態変化を検出できる
場合がある。そこで、この第5の実施の形態では、この
画像の前記のような状態変化をも、検出条件として条件
一致区間検出部3は検出するようにする。
【0246】この場合には、条件一致区間検出部3に
は、画像信号の状態変化のパターンが予め登録されてい
る記憶メモリが設けられる。そして、公知のパターン認
識技術、状態変化のパターン認識を行なうパターン認識
手段が設けられる。例えば、ホワイトボードや書画映像
などを記録している最中に、加筆やページ切り替えがあ
ったことを認識することは、特開平4−286293号
公報に記載されているように、公知のフレーム間差分検
出技術によって可能である。
【0247】そして、上記のように予め登録しておいた
これらの画像信号の状態変化のパターンを、順次入力さ
れる画像信号から抽出される画像信号の状態変化と比較
する。抽出された画像信号の状態変化のパターンが、予
め登録されていた状態変化のパターンのいずれかと一致
した場合には、この状態変化の検出時点は、条件一致区
間の開始点となる。
【0248】以下、第4の実施の形態の場合と同様の処
理によって、前記ユーザ入力検出部11が検出したユー
ザ入力情報入力時点と前記条件一致区間検出部3が検出
した条件一致区間とによって定められる重要区間と、重
要区間以外の区間とで、圧縮率または圧縮方法を変え
て、前記時系列情報記憶部4に記憶されている画像情報
を圧縮する。
【0249】[第6の実施の形態]この第6の実施の形
態は、条件一致区間検出部3が、外部センサによって予
め定めた状態変化を検出する場合である。すなわち、こ
の実施の形態では、音声信号からの条件一致区間の検出
では困難な事象を条件として、条件一致区間を検出する
場合や、入力される音声信号に含まれない情報に状態変
化が起きた場合を条件として条件一致区間を検出するた
めに、外部センサを設ける。
【0250】以下に説明するこの実施の形態では、外部
センサが、場所を検出する場合について説明する。すな
わち、以下の例では、役員会議室、応接会議室、一般会
議室のように、会議室に応じた重要度を与えておき、重
要な会議室の会議記録ほど、高品質で情報保全を計るよ
うにする。
【0251】音声信号または画像信号が入力された場所
が、どの会議室で会議が行なわれたかという情報は、例
えばGPS(グローバル・ポジショニング・システム)
などの位置測定装置から出力される位置情報を解析する
ことにより得られる。GPSを用いた場合には、音声信
号または画像信号が入力された場所の緯度/経度を測定
し、その情報と、各会議室が存在する予め記憶されてい
る緯度/経度とを比較することによって、前記音声信号
または画像信号が入力された会議室を特定できる。
【0252】また、GPS以外にも、会議室や廊下など
の任意の場所に、それぞれ場所に固有のビットパターン
を発振する赤外線送受信機を設置するという、特開平7
−141389号公報記載の赤外線送受信機を用いるこ
ともできる。この場合には、音声信号または画像信号が
入力されたときに、近くの赤外線送信機が発振するビッ
トパターンを受信し、そのパターンから会議室を識別す
る。
【0253】以下に説明する例では、赤外線送受方式を
用いる場合について説明する。この場合、条件一致区間
検出部3は、赤外線信号認識手段と、登録された場所名
を記憶するメモリと、赤外線信号を認識した結果から判
定された場所名とメモリに予め登録された場所名とを比
較して両者の一致を検出する場所一致検出手段とを備え
る。メモリには、ユーザが予め場所名を登録しておく。
【0254】そして、情報記録時には、条件一致区間検
出部3は、入力された赤外線信号を、赤外線信号認識手
段により場所名に変換する。そして、この変換した場所
名を、メモリに予め登録されている場所名と比較する。
そして、条件一致区間検出部3は、場所を検出する場合
においては、同じ場所に留まっていると認識された期間
の最初を条件一致区間の開始点として検出し、同じ場所
に留まっていると認識された期間の最後を条件一致区間
の終了点として検出する。
【0255】対応関係記憶部5には、重要区間とされる
ユーザ入力情報があった条件一致区間を特定する情報と
して、当該区間の開始点および終了点と、場所名とを記
憶する。場所名に代えて対応する識別子を記憶するよう
にすることもできる。また、対応関係記憶部5は、それ
ぞれの重要区間と、その区間に時系列情報記憶部4に記
憶される音声信号および画像信号の記憶アドレスとを対
応付けて記憶する。
【0256】この例においては、時刻情報記憶部7は、
記憶保持期間が所定期間以上となったときに、対応関係
記憶部5に圧縮開始指示を出力する。対応関係記憶部5
は、この圧縮開始指示を受けて、重要区間を特定する情
報として、当該区間の情報と場所名あるいは場所の識別
子を圧縮部6に送る。
【0257】圧縮部6は、予め登録された会議室名(場
所名)と、各会議室の重要度とを対応させて記憶してい
るテーブルを備える。図33は、このテーブルの例であ
る。圧縮部6は、対応関係記憶部5からの場所名あるい
は識別子を用いて、このテーブルを参照し、当該条件一
致区間の会議室名を検出する。そして、その会議室名に
割り当てられた重要度を抽出し、この重要度に応じた圧
縮率で、対応する重要区間の画像信号を圧縮する。すな
わち、重要度の高い場所で記録された情報ほど、圧縮時
に、高品質を保って保存する。
【0258】このようにすることで、例えば、役員会議
室で行なわれた重要会議の記録映像を、他の会議室で行
なわれた会議映像よりも、高画質で保存しておくという
ようなことができる。
【0259】以上では、外部センサにより場所を検出す
る場合について説明したが、センサが人を判別するよう
にしてもよい。例えば、会議出席者に微弱無線発信機を
取り付けると共に、会議室に無線受信機を取り付ける。
そして、会議出席者が会議室に入室している期間を、前
記無線受信機によって検知し、この期間だけを高画質で
保存するように構成する。
【0260】さらに、会議出席者ごとに異なる信号を前
記微弱無線発信機によって発信するようにして、誰が入
室しているかを識別することができるようにすれば、特
定の人物が入室している期間だけを高画質で保存するよ
うに構成することもできる。
【0261】また、単に物理的な場所、人名だけでな
く、「ある会議に出席していた」、「ある人と一緒にい
た」など、複数のセンサの検出結果を組み合せて得られ
る事象から、前記条件一致区間を特定するようにしても
よい。
【0262】さらに、「扉の開閉」というような、単発
的なセンサ入力信号(トリガ)を条件一致区間検出部3
によって検出する場合には、トリガを検出した時点の所
定時間前の時点を条件一致区間の開始点として検出し、
該トリガを検出した時点の所定時間後の時点を条件一致
区間の終了点として検出するように構成する。扉の開閉
を検出するためには、扉に開閉検出センサを取り付ける
ことで実施できる。
【0263】[第7の実施の形態]この第7の実施の形
態は、条件一致区間検出部3が、ビデオカメラの動き
(以下、カメラワークという)を検出する場合である。
【0264】例えば、人物をズームアップで撮影してい
るような場合には、重要な画像を撮っていることが多
く、カメラ24がズームインしている期間の音声信号ま
たは画像信号を高音質/高画質で記憶したいことが多
く、カメラがズームインしている期間の音声または画像
信号を高音質/高画質で記憶したい場合がある。
【0265】そこで、以下に説明する例では、同じ倍率
で撮影している区間を条件一致区間として、その倍率と
共に検出するようにする。そして、倍率の高い条件一致
区間ほど重要な画像であるとして、重要度を定め、倍率
に応じて高品質になるように、後の情報圧縮を行うよう
にする。これにより、倍率の高い、カメラ24がズーム
アップしている区間の画像は、高品質に保たれる。
【0266】以下に、この第7の実施の形態の場合の一
例について説明する。
【0267】この例の場合のビデオカメラ17は、カメ
ラの倍率として、1倍、5倍、10倍の3つの倍率モー
ドに設定でき、ズームリングの操作に応じて、カメラ操
作情報として倍率を示す情報を出力する。このカメラ操
作情報は、条件一致区間検出部3に供給される。上述し
たように、条件一致区間検出部3は、このカメラ操作情
報から、カメラの倍率を同じ区間を条件一致区間とし、
その倍率と共に検出する。
【0268】すなわち、条件一致区間検出部3は、カメ
ラワークを検出する場合においては、カメラ操作信号の
倍率の変化点の時刻を条件一致区間の開始点として検出
し、次にカメラ操作信号の倍率が変化した時刻を条件一
致区間の終了点として検出する。したがって、この条件
一致区間の終了点は、次の条件一致区間の開始点と同一
時刻である。この条件一致区間の情報と、倍率の情報と
は、対応関係記憶部5に、当該条件一致区間の画像情報
および音声情報の時系列情報記憶部の記憶アドレスと対
応つけて記憶される。
【0269】図34は、カメラ倍率と、条件一致区間の
関係を示す図である。この図31において、T0,T
1,T2,T3はそれぞれ条件一致区間である。倍率が
1倍である区間T0,T3は、ズームリングが操作され
ないノーマル倍率の区間である。図31の例では、時点
t1でズームリングが操作されて、ズームイン操作開始
となり、その始め区間T1は、倍率が5倍であり、時点
t2で倍率が10倍にアップし、時点t3で倍率が1倍
となって、ズームイン操作終了となる。
【0270】この実施の形態では、圧縮部6では、カメ
ラの倍率の、1倍、5倍、10倍の3つの倍率モードに
対して、それぞれの倍率モード時の画像間引き圧縮率
を、1フレーム/秒、5フレーム/秒、10フレーム/
秒、に設定している。
【0271】前述の実施の形態と同様に、画像情報が時
系列情報記憶部4に記録されてからの経過時間が、所定
の時間以上になった場合に、対応関係記憶部5に時刻情
報記憶部から圧縮開始指示が与えられて実行される。こ
のとき、対応関係記憶部5は、それぞれの重要区間とし
ての条件一致区間の情報と、倍率と、時系列情報記憶部
の記憶アドレスに組を、圧縮部6に送る。圧縮部6は、
取得した倍率の情報から、この場合、図34の区間T1
が重要区間であるばあいには、5フレーム/秒で、区間
T2が重要区間である場合には10フレーム/秒で、そ
れ以外の区間T0,T3が重要区間である場合には1フ
レーム/秒で圧縮する。
【0272】そして、前述の実施の形態と同様の処理に
より、重要区間と、重要区間以外の区間とで、圧縮率あ
るいは圧縮方法を変えて、前記時系列情報記憶部4に記
憶されている画像情報を圧縮する。
【0273】以上のようにして、この実施の形態の場合
には、カメラワークまたはカメラワークの変化に応じ
て、重要場面の画像信号と、重要でない場面の画像信号
の圧縮率を変えて情報を保存することができる。
【0274】なお、条件一致区間検出部3は、カメラの
操作情報からカメラワークまたはその変化を検知する場
合に限らず、カメラからの画像信号から検知するように
することもできる。
【0275】カメラからの画像信号から検出することが
できるカメラワークとしては、パンニング、チルティン
グ、ズーミング、ブーミング、トリミング、ドリーイン
グ、カット開始、カット終了などがあり、これらのカメ
ラワークを検出する際には、入力される画像信号を画像
認識して検出するようにする。また、これらのカメラワ
ークも、特開平6−165009号公報や特開平7−2
45754号公報に記載されているように、カメラ操作
に使用したボタンなどの操作信号を検出しても、もちろ
んよい。
【0276】[第8の実施の形態]この第8の実施の形
態では、時系列情報記憶部4に記憶された音声情報また
は画像情報が、ユーザによって頻繁に参照(アクセス)
されたか否かという参照状態に基づいて、圧縮率または
圧縮方法を変えて情報を圧縮する場合について説明す
る。一般に、頻繁に参照された情報は重要な情報である
ことから、頻繁に参照された区間の画像情報は高画質で
保存し、参照される頻度が低かった画像情報は高圧縮率
で圧縮し、少ない情報量で保存するようにする。
【0277】記憶媒体に蓄積された音声情報または画像
情報が、ユーザによってどれくらいの頻繁でアクセスさ
れたかという参照状態を記憶しておき、その参照状態に
基づいて、圧縮率を変更する。このために、第8の実施
の形態では、ユーザからの参照頻度を記憶するための参
照状態記憶部を備えている。
【0278】この第8の実施の形態では、前記参照状態
記憶手段は、前記時系列情報記憶手段4に記憶された画
像情報の、ユーザによって映像再生された区間と、その
区間の映像再生された回数とを、情報の参照状態として
記憶する。
【0279】図35は、時系列情報記憶部4の記憶状態
を説明した図である。図において、区間T2、T4、T
6は、前記ユーザ入力検出部11が検出したユーザ入力
情報入力時点と前記条件一致区間検出部3が検出した条
件一致区間とによって定められる重要区間であり、その
外の区間T1、T3、T5、T7は、重要区間以外の区
間である。これらの区間に関する情報は、前述したよう
に対応関係記憶部5に記憶されている。
【0280】図36は、参照状態記憶部の記憶状態の例
を示した図である。参照状態記憶部は、時系列情報記憶
部4に画像情報が記憶されてから現時点までに、何回、
その区間T1〜T7の画像情報がアクセスされたか、す
なわち、何回その区間の映像が再生されたかを記憶して
いる。
【0281】そして、画像情報が時系列情報記憶部4に
記録されてからの経過時間(すなわち情報保存時間)
が、所定の時間以上になった場合に、時刻情報記憶部7
から圧縮開始指示が発生すると、参照状態記憶部は、図
36の参照回数のテーブルの情報を圧縮部6に送る。圧
縮部6は、図37に示される圧縮率設定テーブルを備え
る。この圧縮率設定テーブルは、参照回数に対して、条
件一致区間および条件一致区間以外の区間のそれぞれに
設定される圧縮率の対応テーブルである。
【0282】圧縮部6は、図37の圧縮率設定テーブル
を参照して、各区間毎の画像圧縮率を決定し、圧縮部6
は、この圧縮率で時系列情報記憶部4に記憶された画像
情報を圧縮する。
【0283】例えば、図35の区間T1は、重要区間以
外の区間であり、図36のテーブルで示されるように参
照された回数が0回であるので、図37の圧縮率設定テ
ーブルに基づいて、画像圧縮率は90%に設定される。
すなわち、区間T1は、重要区間以外の区間であり、か
つ、ユーザからアクセスされたことがない区間であるの
で、あまり重要でない区間であることがわかる。したが
って、圧縮時に90%の高圧縮率で圧縮する。
【0284】一方、図35の区間T6は、重要区間であ
り、図36のテーブルで示されるように参照された回数
が5回であるので、図37の圧縮率設定テーブルに基づ
いて、画像圧縮率は10%に設定される。すなわち、区
間T6は、重要区間であり、かつ、ユーザから5回もア
クセスされた区間であるので、非常に重要な区間である
と見なせる。したがって、圧縮時には、ほとんど圧縮を
行なわず、高画質で画像情報を保存する。
【0285】この実施の形態では、参照状態記憶部は、
区間と参照回数の関係をテーブルの形式で記憶したが、
もちろん、リストやスタック等、他の形式で記憶しても
構わない。また、圧縮率設定テーブルの中の数値は、ユ
ーザが設定できるようにしてもよい。
【0286】さらに、この実施の形態では、図36が示
すように、参照状態記憶部は、各区間とその区間の参照
回数とを対応させて記憶するようになっているが、この
情報蓄積再生装置では、表示部10に表示された複数の
ユーザ入力情報の中の1つをユーザがペンを用いて指定
することにより、時系列情報記憶部4に記憶された音声
または画像情報を部分的に再生するようになっているの
で、前記参照状態記憶部は、各ユーザ入力情報と、その
ユーザ入力情報が再生のために指定された回数とを対応
させて記憶するようにしてもよい。すなわち、頻繁に指
定されたユーザ入力情報は重要な情報であることから、
頻繁に参照されたユーザ入力情報に対応した画像情報は
高画質で保存し、参照される頻度が低かったユーザ入力
情報に対応した画像情報は高圧縮率で圧縮し少ない情報
量で保存するようにする。
【0287】[第9の実施の形態]第9の実施の形態
は、ユーザ入力検出部11の検出結果に基づいてユーザ
入力情報の重要度を決定し、この重要度に基づき圧縮率
を部分的に変更する場合である。
【0288】重要とみなされるユーザ入力情報として
は、赤色で書かれたペン筆跡情報、丸で囲まれた文字
列、アンダーラインの引かれた文字列、などがある。こ
れらのユーザ入力情報の特徴を予め登録しておき、任意
のタイミングで入力されるユーザ入力情報の特徴と比較
して、いずれのユーザ入力情報であるかを識別する。そ
して、その識別結果を対応関係記憶部5に記憶するよう
にする。
【0289】すなわち、この第9の実施の形態において
は、対応関係記憶部5は、ユーザが入力したユーザ入力
情報と、該ユーザ入力情報の重要度と、このユーザ入力
情報の画面上で表示位置を特定する情報(例えば、X−
Y座標軸上の絶対座標や相対座標など)と、このユーザ
入力情報が入力された時に入力された音声情報または画
像情報の、時系列情報記憶部4内での記憶アドレスとを
対応付けて記憶する構成となっている。
【0290】この第9の実施の形態の動作を、赤色で書
かれたペン筆跡情報を重要ユーザ入力情報とする場合の
例について、図38を参照しながら説明する。この例で
は、入力ペンとして、赤色入力ペンおよび黒色入力ペン
の2種類が使用できる。この場合には、入力ペンの色
と、ユーザ入力情報の重要度とを対応させて記憶するメ
モリ(図示せず)が備わっている。
【0291】ユーザ入力検出部11によってペン筆跡情
報の入力が検出されると、ユーザ入力情報検出部11に
おいて、その入力されたペン筆跡情報が赤色かどうかが
調べられる。
【0292】そして、入力されたペン筆跡情報が、黒色
だった場合には、図38において、時点t1から時点t
2までの区間の画像信号を10フレーム/秒で画像情報
を保存するように設定し、赤色であった場合には30フ
レーム/秒で当該区間の画像情報を保存するように設定
する。すなわち、圧縮処理時に、ペン筆跡が赤色である
ときは、黒色であったときに比べて、より高画質で画像
情報を保存する。
【0293】なお、上記の例において、黒色だった場合
には、時点t1から時点t2までの区間を10フレーム
/秒で保存するように設定し、赤色であった場合には1
つ前の発言開始点t0から時点t2までの区間を10フ
レーム/秒で保存するようにしてもよい。すなわち、こ
の場合は、ユーザ入力情報の重要度に応じて、高画質保
存区間の長さを変化させるようにする。
【0294】以上の説明では、入力ペンの色と、ユーザ
入力情報の重要度とを予め対応させて記憶する構成であ
る場合について説明したが、この第9の実施の形態にお
いては、これに限られず、ユーザ入力情報の重要度を自
動的に決定するようにすることもできる。ここでは、音
声情報または画像情報の記録期間内に入力されたユーザ
入力情報の入力個数、入力頻度、入力パターンを、ユー
ザ入力情報の種類毎に検出して、この検出結果に基づい
てユーザ入力情報の重要度を自動的に決定する場合につ
いて説明する。
【0295】例えば、音声情報または画像情報が記録さ
れている間に、青色で書かれたペン筆跡情報の個数が3
000個、黒色で書かれたペン筆跡情報の個数が120
個であった場合に、青色で書かれたペン筆跡情報の個数
と黒色で書かれたペン筆跡情報の個数とを比較して、数
の少ないほうのペン筆跡情報を重要ユーザ入力情報とす
る。
【0296】さらに、青色で書かれたペン筆跡情報の個
数が300個、黒色で書かれたペン筆跡情報の個数が1
20個、赤色で書かれたペン筆跡情報の個数が30個で
あった場合には、重要度が高い順に、赤色、黒色、青色
となるようにする。
【0297】例えば、青色ペン、黒色ペン、赤色ペンの
筆跡情報の入力個数が、それぞれ、3000個、100
個、30個であった場合には、画像の圧縮率を300
0:120:30、すなわち、10:4:1の比になる
ように設定して、圧縮処理を実行するようにする。な
お、音声情報または画像情報の記録時に決定されたユー
ザ入力情報の重要度は、図39のフローチャートに示す
動作により、記憶メモリに記憶され、音声情報および画
像情報の圧縮時に参照される。
【0298】図39のフローチャートについて説明す
る。すなわち、まず、ステップS900においては、ペ
ン筆跡情報の入力があるか否か判断され、ペン筆跡情報
の入力が検知されると、次のステップS901に進む。
ステップS901では、検出されたユーザ入力情報とし
てのペン筆跡情報が対応関係記憶部5と、表示部10と
に出力される。次にステップS902に進み、入力され
たペン筆跡情報についてのペンの色を判別して、ペンの
色ごとにペン筆跡情報の個数をカウント値をインクリメ
ントする。次に、ステップS903では、会議情報のす
べての記録が終了したか否か判断し、終了していなけれ
ば、ステップS900に戻る。終了していれば、ステッ
プS904に進み、前述したぺンの色毎の圧縮率を算出
し、その算出結果を記憶メモリに記憶するようにする。
【0299】入力ペンの色と、ユーザ入力情報の重要度
とを予め対応させて記憶していた場合には、普段使用し
ているペンの色とは違うペンを主に使用した際に、筆記
者の予期した画質/音質とは異なる圧縮率あるいは圧縮
方法で音声情報または画像情報が記録されてしまうとい
う問題があるが、上述したように、ユーザ入力情報の入
力個数、入力頻度、入力パターンに基づいてユーザ入力
情報の重要度を自動的に決定した場合には、普段とは違
う色のペンを主に使用した際にでも、筆記者が予期した
圧縮率または圧縮方法で音声情報または画像情報が記録
されるという効果がある。
【0300】さらに、ユーザ入力情報の入力個数、入力
頻度、入力パターンに基づいてユーザ入力情報の重要度
を自動的に決定した場合には、予め重要度を登録してい
ないユーザ入力情報が入力された場合でも、ユーザ入力
情報の入力個数、入力パターンに基づいて、ユーザ入力
情報の重要度を決定することもできる。例えば、重要度
を登録していない色のペンが使用された場合にでも、こ
の色のペンのユーザ入力情報の重要度を決定することが
できるという効果がある。
【0301】[第10の実施の形態]以上の説明では、
音声情報または画像情報が時系列情報記憶部4に記録さ
れてからの経過時間(すなわち情報保存時間)が、所定
の時間以上になった場合に圧縮処理を開始するようにし
たが、この第10の実施の形態では、時系列情報記憶部
4における空き領域がある値以下になったと認識された
タイミング、または、時系列情報記憶部4における記憶
量がある値以上になったと認識されたタイミングで、前
記圧縮処理を開始するようにする。
【0302】したがって、記憶時の処理動作は、前述の
各実施の形態と同様であるが、情報圧縮時の動作が異な
る。
【0303】図40は、第10の実施の形態における情
報圧縮時の動作を、その際の各種情報の流れ、および、
各部の出力の流れと共に説明する図である。この実施の
形態の場合、情報蓄積装置は記憶量検出手段14を備え
ており、この記憶量検出手段14は、画像情報が予め登
録した記憶容量を超えて記録されたことを検出した場合
に、前記対応関係記憶部5に対し圧縮処理開始指示を出
力する。この圧縮処理開始指示の後の動作については、
前述の各実施の形態と同様に行うことができる。
【0304】図41は、第10の実施の形態における記
憶量検出部のフローチャートである。ステップS100
0において、情報記憶量が所定の量を超えたことが検出
された場合には、ステップS1001に進んで、対応関
係記憶部5に、圧縮処理開始指示を出力する。例えば、
記憶媒体の記憶容量の90%を超えて情報を記録しよう
とした時に前記圧縮処理を実行するように、記憶量検出
部(図示せず)に設定しておいたとする。この場合、記
憶量が記憶媒体の90%に達した時に、前記記憶量検出
部は、圧縮処理開始指示を出力する。
【0305】記憶量検出部14から圧縮開始指示を受信
した対応関係記憶部5は、前記ユーザ入力検出部11が
検出したユーザ入力情報入力時点と前記条件一致区間検
出部3とによって定められる重要区間のそれぞれと、そ
れぞれの重要区間に対応して前記時系列情報記憶部4に
記憶されている画像情報の、前記時系列情報記憶部4に
おける記憶アドレスとを圧縮部6に出力し、前記圧縮部
6は、前記時系列情報記憶部4に蓄積された画像情報の
データ圧縮を行なう。もちろん、この場合、新たな画像
信号を記録しながら、圧縮処理をバックグラウンドで実
行しても構わない。
【0306】また、この実施の形態の場合、画像情報の
データ量が予め定められた記憶容量に収まるように、圧
縮率あるいは圧縮方式を設定するようにしてもよい。例
えば、記憶媒体の記憶容量の90%を超えて情報を記録
しようとしたときに、前記圧縮処理によって、記憶媒体
の使用量が30%にまで減少するように設定しておく。
この設定値から、重要区間および重要区間以外の区間の
圧縮率を算出するように構成する。
【0307】例えば、時系列情報記憶部4に非圧縮画像
が10000フレーム分、蓄積されていたとする。この
10000フレームの内分けは、重要区間が2000フ
レーム、重要区間以外の区間が8000フレームとす
る。
【0308】このときに、3000フレームにまで画像
情報を減らすようにフレーム間引き圧縮処理を施す場合
について説明する。また、条件として、重要区間の圧縮
率と重要区間以外の区間の圧縮率の比が、1:10にな
るように予め定めてあったとする。
【0309】この場合、重要区間の圧縮率をaとすれ
ば、重要区間以外の区間の圧縮率は10aである。
【0310】2000a+8000×10a=3000 を満たす圧縮率aは0.0366であるから、重要区間
の圧縮率と重要区間以外の区間の圧縮率は、それぞれ、
3.66%と36.6%となる。
【0311】時系列情報記憶部4に記憶されている非圧
縮画像10000フレームを、重要区間と、重要区間以
外の区間とで分けて、それぞれの圧縮率でフレーム間引
き圧縮を施せば、所望の3000フレームにまで画像情
報を減らすことができる。
【0312】[第11の実施の形態]公知の技術とし
て、記録時に情報の取捨選択を行ない、重要と認識され
た情報のみを記録したり、圧縮率を変化させて記録する
装置が知られている。たとえば、特開平7−12918
7号公報には、音声取り込みキーを押した時の前後の音
声を一定時間分だけ記録する装置が記載されている。ま
た、特開平6−343146号公報には、ユーザ入力が
あったタイミングで一定時間だけ映像を記録する方法が
記載されている。
【0313】しかしながら、特開平7−129187号
公報記載の装置や特開平6−343146号公報記載の
装置のように、記録時に情報の取捨選択を行なう方法で
は、例えば、会議の中で最も数多く発言した人を特定
し、この特定した人の発言部分の音声情報または画像情
報のみを高品質で保存するといったようなことや、ユー
ザが指定した時間長になるように高い重要度を持ったシ
ーンから順に抽出してダイジェストを作成するといった
ようなことができない。すなわち、音声情報または画像
情報の記録終了後に初めて得られる情報、または、記録
しながらでは得られない情報を元にして、音声情報また
は画像情報の圧縮を行なうことができないという問題が
あった。
【0314】この実施の形態では、音声情報または画像
情報の記録終了後に初めて得られる情報に基づいて圧縮
方法や圧縮率を設定する場合について説明する。
【0315】例えば、会議の場面において、話者の発話
が長く継続している場面は、連絡事項を伝達している場
面であったり、まとまった意見を発言している場面であ
ったり、議論のまとめを行なっている場面であったり
と、重要な発言が述べられている場面であることが多
い。そこで、1つの会議を撮影した後に、発言時間の長
い場面から順に高い重要度を割り当てる。このとき、重
要度の高い場面には低い圧縮率を割り当て、重要度の低
い場面には高い圧縮率を割り当てる。
【0316】そして、前記ユーザ入力検出部11が検出
したユーザ入力情報入力時点と前記条件一致区間検出部
3とによって定められる重要区間を、前記重要度に応じ
た圧縮率で圧縮する。また、第4の実施の形態の場合と
同様の処理によって、前記重要区間と、重要区間以外の
区間とで、圧縮率または圧縮方法を変えて、前記時系列
情報記憶部4に記憶されている画像情報を圧縮する。こ
れによって、情報圧縮時には、長い発言部分を高音質/
高画質で保存し、短い発言部分を高圧縮率で圧縮するよ
うにする。
【0317】また、他の例として、例えば、予め登録さ
れた音声キーワードが、会議の中でどの位の時間に渡っ
て用いられたかを記憶しておき、使用時間の長いキーワ
ードから順に高い重要度を割り当てるようにしてもよ
い。例えば、会議の場面においては、長時間議論された
議論は重要な議論であることが多い。そこで、議論の内
容を推定できるようなキーワードを予め登録しておき、
そのキーワードを入力音声信号の中から検出するように
する。
【0318】そして、特定のキーワードが長時間に渡っ
て使用されたことを検出することにより、そのキーワー
ドに対応した議論が長時間なされたと認識し、このキー
ワード出現区間を重要部分と見なす。情報圧縮時には、
高い重要度を割り当てられた区間を高音質/高画質で保
存し、重要度の低いその他の区間を高圧縮率で圧縮する
ようにする。
【0319】[第12の実施の形態]以上に説明した第
1の実施の形態〜第11の実施の形態は、便宜上、ユー
ザ入力情報の入力が一人の記録者によりなされる場合を
想定して行なってきたが、情報蓄積再生装置が内蔵する
コンピュータがネットワークで接続されている場合や、
複数の入力端末が情報蓄積再生装置に接続されている場
合には、複数のユーザにより入力されたユーザ入力情報
を合わせて検出するようにもできる。
【0320】例えば、会議室に複数の会議参加者が集ま
り、各自が会議のメモをとっているような場合、各個人
が入力するユーザ入力情報、および、ユーザ入力情報が
入力されるタイミングはまちまちである。特開平6−3
43146号公報には、会議参加者毎に別々に音声を記
録/保持する方法が記載されているが、カメラ1台とマ
イク1台で会議室の様子を撮影しているような場合に
は、各個人が別々に音声または画像信号の記録の複製を
保持することは冗長である。
【0321】複数のユーザにより入力されたユーザ入力
情報を合わせてユーザ入力情報検出部11によって検出
するようにし、入力される音声または画像信号を同一の
時系列情報記憶部4に記憶するように構成することで、
ユーザ個別に音声または画像信号を蓄積する必要がなく
なり、記憶容量の節約ができる。
【0322】なお、検出したユーザ入力情報は、各記録
者毎に、別々の対応関係記憶部5に記憶されてもよい
し、同じ対応関係記憶部5に記憶されてもよい。
【0323】図42は、記録者Aおよび記録者Bの2人
の記録者が存在しており、別々のタイミングでペン筆跡
情報を入力した場合の例を説明した図である。すなわ
ち、対話が活発な区間(時点t0から時点t1の間)に
おいて記録者Aがペン入力をしたので、当該時点t0か
ら時点t1の区間の画像情報は、10フレーム/秒で圧
縮されている。また、対話が活発な区間(時点t2から
時点t3の間)において記録者Bがペン入力したので、
当該時点t2から時点t3の区間の画像情報は、10フ
レーム/秒で圧縮されている。そして、これらの区間以
外の区間、時点t1から時点t2および時点t3から時
点t4の画像情報は、1フレーム/秒で圧縮されてい
る。
【0324】この場合、図42のように、入力される画
像信号は、記録者Aと記録者Bとで、同一の時系列情報
記憶部4に記憶される。このように、ユーザ個別に音声
信号または画像信号を蓄積する必要がなくなる。さら
に、記録者あるいは入力端末を識別することによって、
ユーザ入力情報の重要度を決定するようにすれば、この
重要度に基づき圧縮率を部分的に変更することも可能で
ある。
【0325】そして、そのように、記録者あるいは入力
端末を識別するようにした場合には、音声信号または画
像信号を再生する場合に、記録者毎に間引き箇所を変え
て再生することも可能となる。例えば、記録者Aが再生
要求を発行した場合には、図42の時点t0から時点t
1の区間は記憶された速度で普通速度再生し、それ以外
の区間は倍速再生する。また、記録者Bが再生要求を発
行した場合には、時点t2から時点t3の区間は記憶さ
れた速度で普通速度再生し、それ以外の区間は倍速再生
する。
【0326】[第13の実施の形態]以上の実施の形態
では、条件一致区間検出部3によって条件一致区間を検
出し、その検出結果とユーザ入力情報検出部11が検出
したユーザ入力情報とから時系列情報の重要区間を決定
し、この重要区間に基づいて、圧縮部6は、時系列情報
記憶部4に記憶された時系列情報を圧縮するようにし
た。
【0327】これに対して、この第13の実施の形態で
は、ユーザ入力情報検出部11が検出したユーザ入力情
報のみから時系列情報の重要区間を決定し、この重要区
間に基づいて、圧縮部6は、時系列情報記憶部4に記憶
された時系列情報を圧縮するようにする。すなわち、こ
の例の場合の情報蓄積再生装置は、条件一致区間検出部
3を備えない。
【0328】図43は、この第13の実施の形態におけ
る記録時の動作を、その際の各種情報の流れ、および、
各部の出力の流れと共に説明する図である。
【0329】すなわち、この第13の実施の形態の場合
には、会議が始まると、音声信号および画像信号が時系
列情報記憶部4に順次に記憶される。時刻情報記憶部7
は、時系列情報記憶部4からの記憶開始の情報を受け
て、記憶開始時刻を記憶する。そして、ユーザ入力情報
検出部11によりユーザ入力情報が検出されると、その
ユーザ入力情報、例えばペン筆跡情報が表示部10に送
られ、表示画面21に表示される。
【0330】また、ユーザ入力情報は、対応関係記憶部
5に送られる。対応関係記憶部5は、当該ユーザ入力情
報を記憶するとともに、重要区間を決定し、その重要区
間の情報を時系列情報記憶部4に送出する。
【0331】この第13の実施の形態においては、図4
4に示すように、ユーザ入力情報が検出された時点(図
ではペン筆跡入力時点)の所定時間TB前の時点t1を
重要区間の開始点とし、前記ユーザ入力情報が検出され
た時点の所定時間TF後の時点t2を重要区間の終了点
とする。すなわち、時点t1から時点t2が重要区間と
して特定されることになる。
【0332】この例の場合、例えば、時間TBは3分と
され、時間TFは1分とされる。なお、この、重要区間
の開始点と終了点を定める時間TBと時間TFは、ユー
ザが自由に変更できるようにしてもよい。
【0333】重要区間情報を対応関係記憶部5から取得
した時系列情報記憶部4は、時点t1および時点t2に
対応する、時系列情報記憶部4に記憶された画像情報の
記憶アドレスa1およびアドレスa2を対応関係記憶部
5に返送する。対応関係記憶部5は、この記憶アドレス
a1,a2を、前記ユーザ入力情報に対応付けて記憶す
る。
【0334】図45は、第13の実施の形態における圧
縮時の動作を、その際の各種情報の流れ、および、各部
の出力の流れと共に説明する図である。
【0335】会議情報の記憶時から所定時間の経過を時
刻情報記憶部7で検知すると、時刻情報記憶部7は、圧
縮開始指示を対応関係記憶部5に出力する。圧縮開始指
示を受けた対応関係記憶部5は、重要区間情報として時
系列情報記憶部4の記憶アドレスa1,a2を圧縮部6
に送る。圧縮部6は、この重要区間の画像情報、すなわ
ち、時点t1から時点t2に時系列情報記憶部4に記憶
された画像情報(アドレスa1からアドレスa2)を、
他の区間とは異なる圧縮率あるいは圧縮方法で圧縮す
る。
【0336】この例の場合にも、重要区間の画像情報
は、圧縮処理を施したときにでも高品質に保たれるよう
にされている。すなわち、第1の実施の形態と同様にし
て、圧縮部6は、例えば連続した10フレームの画像列
を1つの単位部分画像列として扱い、前記重要区間以外
の区間の画像情報は、10フレームの中の先頭の1フレ
ームだけを残して、他のフレームの情報を破棄するとい
う間引き圧縮処理を行ない、一方、前記重要区間では、
画像情報についての前記の間引き処理を行なわず、10
フレーム全部を記憶するようにする。
【0337】[第14の実施の形態]以上に説明した情
報蓄積再生装置は、表示画面に表示されたユーザ入力情
報の1つを指定することにより、その指定されたユーザ
入力情報に対応する音声情報または画像情報を検索する
ことができる装置であり、記録された時系列情報とユー
ザ入力情報から、会議のポイントになる部分を収集し、
会議議事録を作成するというような場面で利用すること
ができる。
【0338】しかし、ユーザ入力情報のすべてが同じ重
要度を有しているわけではなく、また、ユーザ入力情報
に対応して記録されている時系列情報も、同様に同じ重
要度を備えているわけではない。したがって、検索のた
めの手がかりとして、単にユーザ入力情報のみを表示す
るだけでは、そのうちのどのユーザ入力情報がどのよう
な意義や重要度を持っているか、また、それに対応して
蓄積されている時系列情報がどのようなものかを知る手
がかりがない。
【0339】このため、表示画面にユーザ入力情報のみ
を表示した時には、すべてのユーザ入力情報について、
対応する音声情報または画像情報をすべて再生しない
と、各ユーザ入力情報に対応する音声情報または画像情
報のそれぞれがどのような意義や重要度をもっているか
を特定することができない。
【0340】この第14の実施の形態では、ユーザ入力
情報と、ユーザ入力情報に対応して記憶されている音声
情報または画像情報の時系列情報記憶部4における圧縮
状態についての情報とを、表示画面上で対応させて表示
するようにする。ユーザは、この表示画面から、圧縮率
が低い情報を、ユーザ入力情報を指定することによって
選択することにより、主要な会議情報を抽出した会議議
事録が作成可能となる。すなわち、高品質で記憶されて
いる情報は、通常、重要部分として検出した情報である
ので、記録された音声情報または画像情報の圧縮状態を
見ることによって、情報の意義や重要度を知ることがで
きる。
【0341】この第14の実施の形態では、情報蓄積再
生装置において、表示部10が、ペン筆跡情報が検出さ
れたときに入力された画像情報の、時系列情報記憶部4
における圧縮状態を、前記ペン筆跡情報の表示位置によ
って特定される表示位置に表示する例について説明す
る。
【0342】すなわち、この第14の実施の形態におい
ては、表示部10は、図46に示すように、時系列情報
記憶部4に記憶された画像情報が、フルモーション動画
像(30フレーム/秒)で保存されている部分の時間の
長さと、記録画像の圧縮率を示す語句(”フルモーショ
ン”)とを表示するようにする。このように表示画面2
1にフルモーション動画像の記録時間が表示されている
ので、再生する時に、その場面を見るために(その記録
を再生するために)、記録の先頭時点から、どの位の時
間が必要なのかをユーザが簡単に知ることができる。ま
た、圧縮率を示す語句が表示されているので、検索者が
必要とする時系列情報かどうかが簡単にわかるという利
点がある。
【0343】図46の例においては、ペン筆跡情報はP
aとPbの2つが存在する。1つのペン筆跡情報(図4
6の、「abcde」または「xyz」)を囲む最小矩
形(図46で破線で示すクリッピング枠)Wを算出し、
そのクリッピング枠Wの右端から、距離dだけ右方向に
離れ、かつ、クリッピング枠Wの半分の高さの位置に並
ぶように、それぞれのペン筆跡情報Pa,Pbに対応し
て記憶されている画像情報の、時系列情報記憶部4にお
ける圧縮状態情報を表示している。圧縮状態情報として
は、この他にも、記憶時刻、圧縮率または間欠記録の時
間間隔などを表示してもよい。
【0344】この実施の形態では、図46で示されるよ
うに、圧縮率を示す語句を左右括弧で囲み、ペン筆跡情
報Pa,Pbの右端に表示するようにしたが、その表示
位置はペン筆跡情報Pa,Pbの右端に限られない。す
なわち、各ペン筆跡情報Pa,Pbと、圧縮状態情報と
が対応していることを、表示上明らかにわかるように表
示すればよい。例えば、ペン筆跡情報Pa,Pbに隣接
した上下左右いずれかの位置に圧縮状態情報を表示した
り、参照番号のみをペン筆跡情報Pa,Pbに隣接した
位置に表示し、脚注や余白に、参照番号と圧縮状態情報
とを表示してもよい。
【0345】図47は、この実施の形態における情報圧
縮時の動作を、その際の各種情報の流れ、および、各部
の出力の流れと共に説明する図である。図47に示され
るように、圧縮時に、圧縮部6から出力された圧縮状態
情報を表示部10に出力することで、ユーザ筆跡情報
と、それぞれのユーザ筆跡情報に対応して記憶されてい
る画像情報の時系列情報記憶部4における圧縮状態情報
とを、表示画面上で対応させて表示するようにしてい
る。
【0346】また、この第14の実施の形態において
は、前述した第3の実施の形態の説明で述べたように、
時系列情報記憶部4に記憶されてからの経過時間に応
じ、画像情報または音声情報を段階的に圧縮するような
場合には、圧縮率に応じてユーザ入力情報の表示を随時
更新するようにすることもできる。
【0347】このようにする場合の具体的な処理につい
て、次に説明する。図48は、この例の場合において、
対応関係記憶部5に記憶された圧縮状態情報を説明する
図であり、対応関係記憶部5には、図9に示した情報の
他に、各ユーザ入力情報としてのペン筆跡に関する圧縮
状態情報が記憶されている。この圧縮状態情報として
は、この例では、「フルモーション」(間引き無し)を
示す情報と、その重要区間の時間長とが記憶される。
【0348】なお、圧縮状態情報としては、例えば、音
声情報または画像情報の記憶時間、フレーム内圧縮の圧
縮率、フレーム間圧縮の圧縮率、間欠記録の時間間隔、
色情報間引き率、輝度情報間引き率などを用いることも
できる。
【0349】図49および図50は、この例の場合の対
応関係記憶部5の処理ルーチンを示すフローチャートで
ある。図10および図11に示した第1の実施の形態の
場合の対応関係記憶部5の処理ルーチンと比較すると、
ステップS1010〜ステップS1012は、ステップ
S300〜ステップS302と、まったく同様である。
また、ステップS1014は、ステップS304に対応
し、ステップS1011〜ステップ1013の部分は、
ステップS306〜309と、まったく同様である。
【0350】この例の場合には、図10のステップS3
03に対応するステップS1013の対応付け記憶処理
の部分と、ステップS305に対応するステップS10
15〜1017の圧縮開始指示があったときの処理が異
なる。すなわち、ステップS1013においては、対応
関係記憶部5には、ユーザ入力情報と、ユーザ入力情報
の表示位置の情報と、重要区間の時系列情報記憶部4内
の記憶アドレスと、その区間の圧縮状態情報とを対応付
けて記憶する。
【0351】また、時刻情報記憶部7から圧縮開始指示
があったときには、ステップS1015において圧縮状
態情報を更新する。そして、ステップS1016に進
み、圧縮部6に重要区間情報と、各重要区間に対応した
時系列情報記憶部4内の記憶アドレスと、圧縮状態情報
とを出力する。そして、ステップS1017に進み、表
示部10により、表示画面21にユーザ入力情報と、更
新された圧縮状態情報とを、前述の図46に示したよう
に表示するものである。
【0352】なお、以上の例では、ユーザ入力情報の表
示位置に対応した位置に圧縮状態情報を表示する場合に
ついて説明したが、圧縮状態に応じて、対応するユーザ
入力情報の表示書式を変えて表示するようにしてもよ
い。
【0353】ここでは、説明を分かりやすくするため
に、ユーザ入力情報はキーボードから入力された文字情
報のみとする。この場合、表示部10は、キーボードか
ら入力された文字列情報を、その文字列情報が入力され
たとき入力された画像情報の、時系列情報記憶部4にお
ける圧縮状態に応じた文字書式で表示場合について説明
する。
【0354】図51に示す例は、圧縮状態に応じて表示
される文字の領域を異なる表示色で表示するようにする
場合である。例えば、当該文字が入力されたときに入力
された画像情報の時系列情報記憶部4における圧縮状態
がフルモーション動画像(30f/s;30フレーム/
秒)で記憶されている場合には、その文字を含む矩形領
域Gaは、第1の表示色例えば青色で表示する。また、
当該文字が入力されたときに入力された画像情報が間引
き圧縮(例えば10f/s;10フレーム/秒)されて
時系列情報記憶部4に記憶されている場合には、その文
字を含む矩形領域Gbは、第2の表示色例えば緑色で表
示する。
【0355】図51において、INDXは、各色表示に対応
する圧縮状態をユーザに知らせるためのインデックスで
ある。この場合、予め圧縮状態に対応した色は、テーブ
ル(図示せず)に設定しておくようにする。このテーブ
ルの色は、ユーザが変更可能とすることができる。
【0356】文字表示書式としては、色の他にも、文字
フォント、文字サイズ、アンダーライン、網かけなどを
圧縮状態毎に設定可能としてもよい。また、行間隔、字
間、インデント幅(タブ幅)など、レイアウトに関する
属性を圧縮状態に応じて変更してもよい。例えば、キー
ボードから入力された文字列を、圧縮状態に応じたイン
デント幅で行頭を自動的にずらして表示するといったこ
とができる。また、文字表示書式以外の表示書式を設定
してもよく、ユーザ入力情報がペン筆跡情報の場合に
は、線種、太さなどを圧縮状態に応じて変更可能として
もよい。
【0357】さらに、通常は圧縮状態情報を表示せず、
ユーザの要求があった場合にのみ、表示するようにして
もよい。例えば、図52に示すように、マウスポインタ
を任意の文字列情報の表示の上に一定時間以上静止させ
ることで、その文字列情報(ユーザ入力情報)を指定さ
せるようにし、この指定されたタイミングで、指定され
た文字列情報に対応して時系列情報記憶部4に記憶され
ている画像情報の圧縮状態を吹き出し表示wdにより表
示するようにすることができる。
【0358】また、通常は非表示であった圧縮状態情報
を表示する場合に、ユーザ入力情報の指定を必要としな
い方法であってもよい。例えば、表示されているページ
に含まれている圧縮状態情報を、すべて表示するための
ボタンを備えてもよい。さらに、表示されているページ
に表示されている圧縮状態情報をすべて非表示にするた
めのボタンを備えてもよい。
【0359】以上説明した、第1の実施の形態から第1
4の実施の形態は、各実施の形態の説明中に明記したほ
かにも、適宜組み合わせて実施することが可能である。
【0360】以上説明した実施の形態からは、次に示す
ような効果が得られる。
【0361】(1)ユーザ入力情報検出部がユーザから
入力されるペン筆跡などのユーザ入力情報を検出し、こ
のユーザ入力情報を検出したタイミングによって特定さ
れる区間情報に基づいて、圧縮率または間欠記録の時間
間隔を変更して時系列情報記憶部に記憶された音声情報
または画像情報を圧縮するように構成したことにより、
音声情報または画像情報のうちの、重要部分のみを限ら
れた蓄積媒体の中に数多く保存でき、かつ、重要部分以
外の音声情報または画像情報であっても少ないデータ量
で長時間保存できる効果がある。
【0362】(2)また、ユーザ入力情報を検出した時
点の近傍区間と、他の区間とで、圧縮率または間欠記録
の時間間隔を変更して時系列情報記憶部に記憶された音
声情報または画像情報を圧縮するように構成したことに
より、音声情報または画像情報のうちの、重要部分のみ
を高品質で限られた蓄積媒体の中に数多く保存できる効
果がある。
【0363】(3)また、対応関係記憶部を備え、ユー
ザ入力情報によって定められる区間を示す区間情報と、
当該区間情報に対応する音声情報または画像情報の時系
列情報記憶部における記憶位置との対応関係を記憶する
ように構成したことにより、情報圧縮時において、ユー
ザ入力情報によって定められる区間と、当該区間に対応
する音声情報または画像情報の時系列情報記憶部におけ
る記憶位置とを対応付けする処理が不要となり、音声情
報または画像情報を圧縮する際のシステムの負荷を軽減
できる効果がある。
【0364】(4)また、ユーザ入力情報検出部がユー
ザから入力されるユーザ入力情報を検出し、このユーザ
入力情報を検出したタイミングに基づいて、圧縮率また
は間欠記録の時間間隔を動的に変更して時系列情報記憶
部に記憶された画像情報を圧縮するように構成したこと
により、画像情報のうちの、特徴的な事象が起こってい
る重要部分のみを高画質で保存でき、かつ、重要部分以
外の画像情報であっても少ないデータ量で長時間保存で
きる効果がある。
【0365】(5)また、条件一致区間検出部を備え、
条件一致区間検出部によって情報入力手段からの音声情
報または画像情報が予め設定された所定の条件に合致す
る条件一致区間を検出するようし、ユーザ入力情報を検
出したタイミングとこの条件一致区間とによって定めら
れる区間と、他の区間とで、圧縮率または圧縮方式を変
更して、時系列情報記憶部に記憶された音声情報または
画像情報を圧縮するように構成したことにより、音声情
報または画像情報のうちの、重要部分の最初から最後ま
でを確実に高品質で保存できる効果がある。
【0366】(6)また、条件一致区間検出部がセンサ
情報に基づいて条件一致区間を検出し、この検出結果と
ユーザ入力情報検出部の検出結果とに基づいて、圧縮率
または間欠記録の時間間隔を動的に変更して時系列情報
記憶部に記憶された音声情報または画像情報を圧縮する
ように構成した場合には、音声信号または画像信号の状
態変化の検出が困難な事象が起きた場合や、入力される
音声信号または画像信号に含まれない情報に状態変化が
起きた場合にでも、音声情報または画像情報のうちの、
特徴的な事象が起こっている重要部分のみを限られた蓄
積媒体の中に数多く保存でき、かつ、重要部分以外の音
声情報または画像情報であっても少ないデータ量で長時
間保存できる効果がある。
【0367】(7)また、対応関係記憶部を備え、対応
関係記憶部によって、ユーザ入力情報検出部で検出され
たユーザ入力情報と条件一致区間検出部で検出された条
件一致区間とから定められる区間を示す区間情報と、当
該区間情報に対応する音声情報または画像情報の時系列
情報記憶部における記憶位置との対応を記憶するように
構成したことにより、情報圧縮時において、ユーザ入力
情報が検出されたタイミングと条件一致区間とによって
定められる区間と、当該区間に対応する音声情報または
画像情報の時系列情報記憶部における記憶位置とを対応
付けする処理が不要となり、音声情報または画像情報を
圧縮する際のシステムの負荷を軽減できる効果がある。
【0368】(8)また、条件一致区間検出部がセンサ
情報に基づいて条件一致区間を検出し、この検出結果と
ユーザ入力情報検出部の検出結果とから定められる区間
を示す区間情報を対応関係記憶部に記憶し、この区間情
報に基づいて、圧縮率または間欠記録の時間間隔を動的
に変更して時系列情報記憶部に記憶された音声情報また
は画像情報を圧縮するように構成した場合には、音声信
号または画像信号の状態変化の検出が困難な事象が起き
た場合や、入力される音声信号または画像信号に含まれ
ない情報に状態変化が起きた場合にでも、音声情報また
は画像情報のうちの、特徴的な事象が起こっている重要
部分のみを限られた蓄積媒体の中に数多く保存でき、さ
らに、音声情報または画像情報を圧縮する際のシステム
の負荷を軽減できる効果がある。
【0369】(9)また、ユーザ入力情報を検出したタ
イミングと条件一致区間検出部の検出結果とに基づい
て、圧縮率または間欠記録の時間間隔を動的に変更して
時系列情報記憶部に記憶された画像情報を圧縮するよう
に構成した場合には、画像情報のうちの、特徴的な事象
が起こっている重要部分のみを高画質で保存でき、か
つ、重要部分以外の画像情報であっても少ないデータ量
で長時間保存できる効果がある。
【0370】(10)また、任意のタイミングで記録者
が入力したペンやキーボードによるユーザ入力情報を表
示する表示部と、表示部に表示されたユーザ入力情報の
うち1つを指定する指定部と、時系列情報記憶部に記憶
された音声情報または画像情報のうち、前記指定部によ
って指定されたユーザ入力情報に対応して記憶されてい
る部分の音声情報または画像情報を再生する再生部とを
備えるように構成した場合には、記録者がメモをとるよ
うにペンやキーボードで入力を行なうとともに音声また
は画像信号を記録しておけば、後で、入力されたメモを
参照することにより音声または画像信号の再生したい箇
所を容易に選択して再生することができる効果がある。
【0371】(11)また、ユーザ入力情報を表示する
表示部と、表示部に表示されたユーザ入力情報のうち1
つを指定する指定部と、この指定部によって指定された
ユーザ入力情報に対応して記憶されている部分の音声情
報または画像情報を再生する再生部と、条件一致区間検
出部とを備えるように構成した場合には、指定されたユ
ーザ入力情報に対応した音声情報または画像情報の、重
要部分の最初から最後までを確実に再生できる効果があ
る。
【0372】(12)また、入力される音声信号の有無
または音声信号レベルを条件一致区間検出部によって検
出するように構成した場合には、音声が発せられている
区間の音声または画像情報を、最初から最後まで高音質
/高画質で保存でき、かつ、音声が発せられていない区
間の音声または画像情報であっても少ないデータ量で保
存でき、かつ、発言が始まった時点にまでさかのぼって
再生を開始できる効果がある。
【0373】(13)また、入力される音声の発信者ま
たは発信者の交替を条件一致区間検出部によって検出す
るように構成した場合には、特定の発信者の音声または
画像情報を、最初から最後まで高音質/高画質で保存で
き、かつ、その他の発信者の音声情報または画像情報で
あっても少ないデータ量で保存でき、発信者が交替した
時点にまでさかのぼって再生を開始できる効果がある。
【0374】(14)また、入力される音声情報の中に
予め登録されたキーワードまたはパターンが出現したこ
とを条件一致区間検出部によって検出するように構成し
た場合には、予め登録されたキーワードまたはパターン
が頻繁に出現した期間に記憶された音声情報または画像
情報を、最初から最後まで高音質/高画質で保存でき、
かつ、その他の部分の音声または画像情報であっても少
ないデータ量で保存でき、キーワードが頻繁に出現した
重要期間の開始時点にまでさかのぼって再生を開始でき
る効果がある。
【0375】(15)また、入力される画像情報の中に
予め登録された文字列または状態変化が出現したことを
条件一致区間検出部によって検出するように構成した場
合には、入力される画像情報に、予め登録された文字列
が出現した場合や、輝度変化、色分布変化、画像認識結
果によって得られる特徴量変化などの状態変化が起きた
場合に、その事象が起きたタイミングの前後の音声情報
または画像情報を高音質/高画質で保存でき、その他の
部分の音声情報または画像情報であっても少ないデータ
量で保存でき、かつ、その事象を検出した時点以前にま
でさかのぼって再生を開始できる効果がある。
【0376】(16)また、音声信号または画像信号が
入力された場所、または、センサ情報が検出された場所
を条件一致区間検出部によって検出するように構成した
場合には、重要な会議を特定の会議室で行なっているよ
うな場合、重要な場所で撮影された重要事象の音声また
は画像を、高音質/高画質で保存でき、かつ、それ以外
の場所で撮影された音声または画像情報であっても少な
いデータ量で保存でき、かつ、重要な場所で撮影された
音声情報または画像情報の撮影開始時点にまでさかのぼ
って再生を開始できる効果がある。
【0377】(17)また、外部センサによって特定の
人を検出するように構成した場合には、特定の人の音声
情報または画像情報を、最初から最後まで高音質/高画
質で保存でき、かつ、その他の人の音声または画像情報
であっても少ないデータ量で保存でき、かつ、特定の人
の音声情報または画像情報の最初から再生を開始できる
効果がある。
【0378】(18)また、カメラ操作信号またはカメ
ラ操作信号の変化を条件一致区間検出部によって検出す
るように構成した場合には、重要な音声または画像をア
ップでカメラ撮影しているような場合、ズームインして
いる期間の音声または画像を、高音質/高画質で保存で
き、かつ、それ以外の期間の音声または画像情報であっ
ても少ないデータ量で保存でき、かつ、ズームイン操作
が開始された時点以前にまでさかのぼって再生を開始で
きる効果がある。
【0379】(19)また、音声情報または画像情報が
時系列情報記憶部に記録されてからの経過時間(すなわ
ち情報保存時間)が、所定の時間以上になった場合に圧
縮処理を開始するように構成した場合には、参照する可
能性の大きい最近の音声または画像情報を、高音質/高
画質で保存でき、かつ、昔に記録された音声または画像
情報であっても少ないデータ量で記憶できる効果があ
る。また、音声情報または画像情報が時系列情報記憶部
に記録されてからの経過時間(すなわち情報保存時間)
に応じて段階的に圧縮を施すように構成した場合には、
後から参照される可能性がより低くなった場合に、より
少ない情報量で蓄積できるので、より効果的に蓄積媒体
を節約できる効果がある。
【0380】(20)また、時系列情報記憶部における
空き領域がある値以下になったと認識されたタイミン
グ、または、時系列情報記憶部における記憶量がある値
以上になったと認識されたタイミングで圧縮処理を開始
するように構成した場合には、新たに入力される音声ま
たは画像情報が時系列情報記憶部の記憶容量を超えて入
力される場合にでも、入力を継続できる効果がある。
【0381】(21)また、入力音声情報または入力画
像情報を時系列情報記憶部に蓄積する際に周波数帯域別
に記憶しておき、圧縮時に、高周波数帯域を削除するよ
うに構成した場合には、圧縮のために時系列情報記憶部
から情報を読み出したり、時系列情報記憶部に情報を書
き戻したりする必要がなくなるため、圧縮処理時のシス
テムの負荷を軽減できる効果がある。
【0382】(22)また、入力音声情報または入力画
像情報を周波数帯域別に時系列情報記憶部に蓄積する際
に、条件一致区間検出部が検出した条件一致区間と、条
件一致区間以外の区間とで、周波数帯域の分け方を変え
て記憶するように構成した場合には、条件一致区間以外
の区間の画像情報のみを周波数帯域別に記憶し、条件一
致区間の画像情報は通常の方法(周波数帯域別の記憶は
しない)で記憶するというように、入力音声情報または
入力画像情報を周波数帯域別に分ける処理を少なくする
ことができるので、システムの負荷を軽減できる効果が
ある。
【0383】(23)また、入力画像情報を時系列情報
記憶部に蓄積する際に輝度情報と色差情報に分けて記憶
し、圧縮時に、時系列情報記憶部に記憶された画像情報
の色差情報を削除するように構成した場合には、圧縮の
ために時系列情報記憶部から情報を読み出したり、時系
列情報記憶部に情報を書き戻したりする必要がなくなる
ため、圧縮処理時のシステムの負荷を軽減できる効果が
ある。
【0384】(24)また、時系列情報記憶部に記憶さ
れた音声情報または画像情報が、ユーザによってどのく
らいの頻度で参照(アクセス)されたかという参照状態
に基づいて、圧縮量または圧縮方法を変えて情報を圧縮
するように構成した場合には、頻繁に参照された情報は
重要な情報であることから、頻繁に参照された区間の音
声情報または画像情報は高品質で保存し、参照される頻
度が低かった音声情報または画像情報は高圧縮率で圧縮
し少ない情報量で保存することができる効果がある。
【0385】(25)また、条件一致区間検出部が検出
した検出結果を組み合わせて音声情報または画像情報の
重要度を決定し、この重要度に基づき、条件一致区間と
他の区間とで圧縮量あるいは圧縮方式を部分的または段
階的に変更して、音声情報または画像情報のデータ圧縮
を行なうように構成した場合には、様々な事象が組み合
わさった複雑な事象に応じた圧縮率または間欠記録の時
間間隔で音声または画像情報を記憶できる効果がある。
【0386】(26)また、ユーザ入力情報検出手段が
検出した検出結果に基づいてユーザ入力情報の重要度を
決定し、この重要度に基づき、圧縮率あるいは圧縮方式
を部分的または段階的に変更して、音声情報または画像
情報のデータ圧縮を行なうように構成した場合には、例
えば、赤色ペン等で記入した筆跡などの重要情報が入力
されたタイミングで記録された音声情報または画像情報
を、他の部分に比べてより高音質/高画質で保存してお
ける効果がある。
【0387】(27)また、ユーザ入力情報が検出され
た時に入力された音声または画像信号の時系列情報記憶
部における圧縮状態を、ユーザ入力情報の表示と関連を
持った状態で表示するように構成したので、記憶されて
いる音声または画像を再生または検索する前に、その場
面を再生するためにどの位の時間が必要なのかをユーザ
が簡単に知ることができたり、再生する音声または画像
が、必要とするメディア形式で保存されているかどうか
を容易に知ることができる効果がある。
【0388】(28)また、ユーザ入力情報が検出され
た時に入力された音声または画像信号の時系列情報記憶
部における圧縮状態を、ユーザ入力情報の表示位置によ
って特定される表示位置に表示するように構成したの
で、それぞれのユーザ入力情報に対応した部分の音声情
報または画像情報の圧縮状態を、一覧できる効果があ
る。
【0389】(29)また、指定部によって指定された
ユーザ入力情報についてのみ、対応する音声情報または
画像情報の圧縮状態を表示するように構成したので、ユ
ーザ要求があった場合にのみ圧縮状態を画面表示でき、
表示画面が繁雑になるという問題を抑えられる効果があ
る。
【0390】(30)また、ユーザ入力情報が検出され
たときに入力された音声または画像信号の、時系列情報
記憶部における圧縮状態に応じ、ユーザ入力情報の表示
書式を変えて表示するように構成した場合には、記憶さ
れている音声または画像を再生または検索する前に、そ
の場面を再生するためにどの位の時間が必要なのかをユ
ーザが簡単に知ることができたり、再生する音声または
画像が、必要とするメディア形式で保存されているかど
うかを容易に知ることができる効果がある。
【0391】(31)また、音声情報または画像情報の
データ量が予め定められた記憶容量に収まるように、圧
縮量または圧縮方式を設定できるように構成した場合に
は、圧縮後のデータは、入力された音声情報または画像
情報の中の重要な部分のみを高品質で記憶した、所望記
憶サイズのダイジェストとなる効果がある。
【0392】
【発明の効果】以上説明したように、この発明による情
報蓄積装置によれば、例えば会議情報を蓄積する場合に
おいて、ユーザ入力情報と、音声や画像の変化と、セン
サ検知信号の変化とを、適宜組み合わせて、特徴的な事
象が起こっている区間である重要区間を検出し、この重
要区間は、高品質を保って音声情報や画像情報などの時
系列情報を蓄積し、他の区間は、高圧縮率で圧縮して時
系列情報記憶部に蓄積するようにするので、記憶容量が
少ないメモリであっても長時間分の時系列情報を蓄積す
ることができる。
【0393】しかも、重要区間の時系列情報は、高品質
を保って蓄積されているので、これを再生したときに、
情報内容を適切かつ確実に把握することが可能である。
したがって、例えば、情報量の多い会議情報の記録蓄積
を行う場合に適用すると、会議内容を適切に把握するた
めに必要な情報は重要区間として高品質で記憶されてい
るため、全体としての情報量は、削減されていても、会
議内容を適格に把握することができる。
【図面の簡単な説明】
【図1】この発明による情報蓄積装置の一実施の形態を
説明するための機能ブロックである。
【図2】この発明の実施の形態が適用されるシステムの
概要を説明する図である。
【図3】第1の実施の形態における条件一致区間検出部
の、音声レベル検出動作の説明のための図である。
【図4】第1の実施の形態における条件一致区間検出部
の、活発な対話区間を検出する動作の説明のための図で
ある。
【図5】第1の実施の形態の情報記録時の動作の流れを
示す図である。
【図6】第1の実施の形態における条件一致区間検出部
の処理ルーチンの一例を示すフローチャートである。
【図7】第1の実施の形態におけるユーザ入力情報検出
部の処理ルーチンの一例を示すフローチャートである。
【図8】第1の実施の形態における、ペン筆跡入力情報
と、条件一致区間と、時系列記憶部の記憶状態とを対応
付けて説明する図である。
【図9】第1の実施の形態における、対応関係記憶部に
記憶された対応関係情報の、ペン筆跡1つ分の記憶状態
を示す図である。
【図10】第1の実施の形態における対応関係記憶部の
処理ルーチンの一例の一部を示すフローチャートであ
る。
【図11】第1の実施の形態における対応関係記憶部の
処理ルーチンの一例の一部を示すフローチャートであ
る。
【図12】第1の実施の形態における時系列情報記憶部
の処理ルーチンの一例のフローチャートである。
【図13】第1の実施の形態における時刻情報記憶部の
処理ルーチンの一例のフローチャートである。
【図14】第1の実施の形態における時刻情報記憶部の
記憶構造の一例を説明する図である。
【図15】第1の実施の形態における時刻情報記憶部の
記憶構造の他の例を説明する図である。
【図16】第1の実施の形態における情報圧縮時の動作
の流れを示す図である。
【図17】第1の実施の形態における圧縮部の処理ルー
チンの一例のフローチャートである。
【図18】第1の実施の形態の、時系列情報記憶部に記
憶された画像情報の、圧縮前の記憶状態と、圧縮後の記
憶状態とを比較して説明する図である。
【図19】第1の実施の形態において検出する条件一致
区間の他の例を説明するための図である。
【図20】第2の実施の形態の情報記録時の動作の流れ
を示す図である。
【図21】第2の実施の形態における周波数帯域別画像
生成部の処理ルーチンの一例のフローチャートである。
【図22】第2の実施の形態における時系列情報記憶部
の、圧縮処理前のメモリ記憶状態を説明する図である。
【図23】第2の実施の形態における情報圧縮時の動作
の流れを示す図である。
【図24】第2の実施の形態における圧縮処理ルーチン
の一例フローチャートである。
【図25】第2の実施の形態における時系列情報記憶部
の、圧縮処理後のメモリ記憶状態を説明する図である。
【図26】第3の実施の形態における時系列情報記憶部
の、情報記録時点のメモリ記憶状態を説明する図であ
る。
【図27】第3の実施の形態における、段階的な圧縮を
実行する時刻を管理する、圧縮時刻管理テーブルであ
る。
【図28】第3の実施の形態における時系列情報記憶部
の、1週間経過後のメモリ記憶状態を説明する図であ
る。
【図29】第3の実施の形態における時系列情報記憶部
の、1ヵ月経過後のメモリ記憶状態を説明する図であ
る。
【図30】第3の実施の形態における時系列情報記憶部
の、半年後のメモリ記憶状態を説明する図である。
【図31】第4の実施の形態における、音声信号の中に
予め登録されたキーワードが出現したことを検出する場
合の、キーワード有効期間を管理するテーブルの例を示
す図である。
【図32】第4の実施の形態における、音声信号の中に
予め登録された音声信号パターンが出現したことを検出
する場合の、パターン有効期間を管理するテーブルの例
を示す図である。
【図33】第6の実施の形態における条件一致区間検出
部が場所を検出する場合の、場所と場所の重要度を対応
づけて管理するテーブルの例を示す図である。
【図34】第7の実施の形態における、条件一致区間検
出部がカメラワークを検出する場合の、圧縮率設定処理
を説明する図である。
【図35】第8の実施の形態における時系列情報記憶部
の記憶状態の例を示す図である。
【図36】第8の実施の形態における参照状態記憶部の
記憶状態を管理するテーブルの例を示す図である。
【図37】第8の実施の形態における圧縮率設定テーブ
ルの記憶状態を管理するテーブルの例を示す図である。
【図38】第9の実施の形態における、入力されたペン
筆跡の色と、時系列情報記憶部の記憶状態とを対応させ
て説明した図である。
【図39】第9の実施の形態におけるユーザ入力情報検
出部の処理ルーチンの例を示す図である。
【図40】第10の実施の形態の情報圧縮時の動作の流
れを示す図である。
【図41】第10の実施の形態における記憶量検出部の
動作のフローチャートである。
【図42】第12の実施の形態における、複数のユーザ
により入力されたユーザ入力情報を合わせて検出する場
合の動作を説明する図である。
【図43】第13の実施の形態における情報記録時の動
作の流れを示す図である。
【図44】第13の実施の形態における、ユーザ入力情
報が検出された時点の前後の区間を重要区間と定める場
合の動作を説明する図である。
【図45】第13の実施の形態における情報圧縮時の動
作の流れを示す図である。
【図46】第14の実施の形態における、時系列情報記
憶部の圧縮状態を表示した例を示した図である。
【図47】第14の実施の形態の情報圧縮時の動作の流
れを示す図である。
【図48】第14の実施の形態における、対応関係記憶
部に記憶された対応関係情報の、ペン筆跡1つ分の記憶
状態を示す図である。
【図49】第14の実施の形態における対応関係記憶部
の処理ルーチンの一例の一部のフローチャートである。
【図50】第14の実施の形態における対応関係記憶部
の処理ルーチンの一例の一部のフローチャートである。
【図51】第14の実施の形態における、時系列情報記
憶部の圧縮状態に応じて、表示書式を変更した例を示し
た図である。
【図52】第14の実施の形態における、時系列情報記
憶部の圧縮状態を、ユーザによって要求された際に表示
した例を示した図である。
【符号の説明】
1 音声情報入力部 2 画像情報入力部 3 条件一致区間検出部 4 時系列情報記憶部 5 対応関係記憶部 6 圧縮部 7 時刻情報記憶部 8 再生部 9 制御部 10 表示部 11 ユーザ入力情報検出部 12 再生指示部 13 周波数帯域別画像生成部 14 記憶量検出部 20 電子会議装置 21 モニター装置の表示画面 23 電子ペン 24 カメラ 25 マイクロホン 26 音声信号解析器 27 蓄積媒体 28 スピーカ 29 会議参加者

Claims (35)

    【特許請求の範囲】
  1. 【請求項1】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報 検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 前記時系列情報記憶手段に記憶された音声情報または画
    像情報のデータ量を圧縮する手段であって、前記ユーザ
    入力情報検出手段によって検出されたユーザ入力情報に
    より定められる区間と、他の区間とで、圧縮率あるいは
    圧縮方式を変更して、前記時系列情報記憶手段に記憶さ
    れた前記音声情報または前記画像情報のデータ圧縮を行
    う圧縮手段と、 を備える情報蓄積装置。
  2. 【請求項2】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 前記時系列情報記憶手段に記憶された前記音声情報また
    は前記画像情報のデータ量を圧縮する手段であって、前
    記ユーザ入力情報検出手段により前記ユーザ入力情報が
    検出された時点の近傍区間と、他の区間とで、圧縮率あ
    るいは圧縮方式を変更して、前記時系列情報記憶手段に
    記憶された前記音声情報または前記画像情報のデータ圧
    縮を行う圧縮手段と、 を備えることを特徴とする情報蓄積装置。
  3. 【請求項3】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 前記ユーザ入力情報検出手段で検出されたユーザ入力情
    報によって定められる区間を示す区間情報と、当該区間
    情報に対応する前記音声情報または前記画像情報の前記
    時系列情報記憶手段における記憶位置との対応関係を記
    憶する対応関係記憶手段と、 前記時系列情報記憶手段に記憶された前記音声情報また
    は前記画像情報のデータ量を圧縮する手段であって、前
    記対応関係記憶手段に記憶された前記ユーザ入力情報に
    よって定められる区間と、他の区間とで、圧縮率あるい
    は圧縮方式を変更して、前記時系列情報記憶手段に記憶
    された前記音声情報または画像情報のデータ圧縮を行う
    圧縮手段と、 を備えることを特徴とする情報蓄積装置。
  4. 【請求項4】請求項1、請求項2、または請求項3に記
    載の情報蓄積装置おいて、 前記ユーザ入力情報によって定められる区間の画像情報
    は、前記圧縮手段により、他の区間の画像情報よりも高
    画質を保つデータ圧縮を施すようにしたことを特徴とす
    る情報蓄積装置。
  5. 【請求項5】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 前記時系列情報入力手段からの前記音声情報または前記
    画像情報が、予め設定された所定の条件に合致する区間
    を検出する条件一致区間検出手段と、 前記時系列情報記憶手段に記憶された音声情報または画
    像情報のデータ量を圧縮する手段であって、前記ユーザ
    入力情報検出手段で検出された前記ユーザ入力情報と前
    記条件一致区間検出手段で検出された前記条件一致区間
    とによって定められる区間と、他の区間とで、圧縮率あ
    るいは圧縮方式を変更して、前記時系列情報記憶手段に
    記憶された前記音声情報または前記画像情報のデータ圧
    縮を行う圧縮手段と、 を備えることを特徴とする情報蓄積装置。
  6. 【請求項6】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 センサからの情報を検出するためのセンサ情報検出手段
    と、 前記センサ情報検出手段からのセンサ情報が、予め設定
    された所定の条件に合致する区間を検出する条件一致区
    間検出手段と、 前記時系列情報記憶手段に記憶された音声情報または画
    像情報のデータ量を圧縮する手段であって、前記ユーザ
    入力情報検出手段で検出された前記ユーザ入力情報と前
    記条件一致区間検出手段で検出された前記条件一致区間
    とによって定められる区間と、他の区間とで、圧縮率あ
    るいは圧縮方式を変更して、前記時系列情報記憶手段に
    記憶された前記音声情報または前記画像情報のデータ圧
    縮を行う圧縮手段と、 を備えることを特徴とする情報蓄積装置。
  7. 【請求項7】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 前記時系列情報入力手段からの前記音声情報または画像
    情報が、予め設定された所定の条件に合致する区間を検
    出する条件一致区間検出手段と、 前記ユーザ入力情報検出手段で検出されたユーザ入力情
    報と前記条件一致区間検出手段で検出された条件一致区
    間とから定められる区間を示す区間情報と、当該区間情
    報に対応する前記音声情報または前記画像情報の前記時
    系列情報記憶手段における記憶位置との対応関係を記憶
    する対応関係記憶手段と、 前記時系列情報記憶手段に記憶された音声情報または画
    像情報のデータ量を圧縮する手段であって、前記対応関
    係記憶手段に記憶された前記ユーザ入力情報と前記条件
    一致区間とによって定められる区間と、他の区間とで、
    圧縮率あるいは圧縮方式を変更して、前記時系列情報記
    憶手段に記憶された前記音声情報または前記画像情報の
    データ圧縮を行う圧縮手段と、 を備えることを特徴とする情報蓄積装置。
  8. 【請求項8】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 センサからの情報を検出するためのセンサ情報検出手段
    と、 前記センサ情報検出手段からのセンサ情報が、予め設定
    された所定の条件に合致する区間を検出する条件一致区
    間検出手段と、 前記ユーザ入力情報検出手段で検出されたユーザ入力情
    報と前記条件一致区間検出手段で検出された条件一致区
    間とから定められる区間を示す区間情報と、当該区間情
    報に対応する前記音声情報または前記画像情報の前記時
    系列情報記憶手段における記憶位置との対応関係を記憶
    する対応関係記憶手段と、 前記時系列情報記憶手段に記憶された音声情報または画
    像情報のデータ量を圧縮する手段であって、前記対応関
    係記憶手段に記憶された前記ユーザ入力情報と前記条件
    一致区間とによって定められる区間と、他の区間とで、
    圧縮率あるいは圧縮方式を変更して、前記時系列情報記
    憶手段に記憶された前記音声情報または前記画像情報の
    データ圧縮を行う圧縮手段と、 を備えることを特徴とする情報蓄積装置。
  9. 【請求項9】請求項5、請求項6、請求項7、または、
    請求項8に記載の情報蓄積装置において、 前記ユーザ入力情報と前記条件一致区間とによって定め
    られる区間の画像情報は、前記圧縮手段により、他の区
    間の画像情報よりも高画質を保つデータ圧縮を施すよう
    にしたことを特徴とする情報蓄積装置。
  10. 【請求項10】請求項1、請求項2、または請求項4に
    記載の情報蓄積装置において、 前記ユーザ入力情報検出手段で検出された前記ユーザ入
    力情報を表示画面に表示する表示手段と、 前記ユーザ入力情報と、前記ユーザ入力情報の前記表示
    画面上の表示位置を特定するための情報と、前記ユーザ
    入力情報検出手段で前記ユーザ入力情報が検出された時
    点で入力された前記音声情報または前記画像情報の前記
    時系列情報記憶手段における記憶位置との対応関係を記
    憶する対応関係記憶手段と、 前記表示画面に表示されたユーザ入力情報に関連する表
    示部分を指定する指定手段と、 この指定手段により指定されたユーザ入力情報によって
    特定される、前記対応関係記憶手段に記憶されている音
    声情報または画像情報の前記時系列情報記憶手段におけ
    る記憶位置に基づいて特定される音声情報または画像情
    報の所定の部分を再生する再生手段と、 を具備することを特徴とする情報蓄積装置。
  11. 【請求項11】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 前記ユーザ入力情報検出手段で検出された前記ユーザ入
    力情報を表示画面に表示する表示手段と、 前記表示画面に表示されたユーザ入力情報に関連する表
    示部分を指定する指定手段と、 前記ユーザ入力情報と、前記ユーザ入力情報の前記表示
    画面上の表示位置を特定するための情報と、前記ユーザ
    入力情報検出手段で前記ユーザ入力情報が検出された時
    点で入力された前記音声情報または前記画像情報の前記
    時系列情報記憶手段における記憶位置との対応関係を記
    憶する対応関係記憶手段と、 前記時系列情報記憶手段に記憶された前記音声情報また
    は前記画像情報のデータ量を圧縮する手段であって、前
    記対応関係記憶手段に記憶された前記ユーザ入力情報に
    よって定められる区間と、他の区間とで、圧縮率あるい
    は圧縮方式を変更して、前記時系列情報記憶手段に記憶
    された前記音声情報または画像情報のデータ圧縮を行う
    圧縮手段と、 前記指定手段により指定されたユーザ入力情報によって
    特定される、前記対応関係記憶手段に記憶されている音
    声情報または画像情報の前記時系列情報記憶手段におけ
    る記憶位置に基づいて特定される音声情報または画像情
    報の所定の部分を再生する再生手段と、 を具備することを特徴とする情報蓄積再生装置。
  12. 【請求項12】請求項11に記載の情報蓄積再生装置に
    おいて、 前記ユーザ入力情報によって定められる区間の画像情報
    は、前記圧縮手段により、他の区間の画像情報よりも高
    画質を保つデータ圧縮を施すようにしたことを特徴とす
    る情報蓄積再生装置。
  13. 【請求項13】請求項5、請求項6、または、請求項9
    に記載の情報蓄積装置において、 前記ユーザ入力情報を表示する表示手段と、 前記ユーザ入力情報と、前記ユーザ入力情報の前記表示
    手段上の表示位置を特定するための情報と、前記ユーザ
    入力情報検出手段で検出された前記ユーザ入力情報と前
    記条件一致区間検出手段で検出された前記条件一致区間
    とによって定められる区間を示す区間情報と、当該区間
    情報に対応する前記音声情報または画像情報の前記時系
    列情報記憶手段における記憶位置との対応関係を記憶す
    る対応関係記憶手段と、 前記表示手段に表示されたユーザ入力情報に関連する表
    示部分を指定する指定手段と、 前記指定手段により指定されたユーザ入力情報によって
    特定される、前記対応関係記憶手段に記憶されている音
    声情報または画像情報の前記時系列情報記憶手段におけ
    る記憶位置に基づいて特定される音声情報または画像情
    報の所定の部分を再生する再生手段と、 を具備する情報蓄積装置。
  14. 【請求項14】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 前記時系列情報入力手段からの前記音声情報または画像
    情報が、予め設定された所定の条件に合致する区間を検
    出する条件一致区間検出手段と、 前記ユーザ入力情報を表示する表示手段と、 前記ユーザ入力情報と、前記ユーザ入力情報の前記表示
    手段上の表示位置を特定するための情報と、前記ユーザ
    入力情報検出手段で検出された前記ユーザ入力情報と前
    記条件一致区間検出手段で検出された前記条件一致区間
    とによって定められる区間を示す区間情報と、当該区間
    情報に対応する前記音声情報または画像情報の前記時系
    列情報記憶手段における記憶位置との対応関係を記憶す
    る対応関係記憶手段と、 前記時系列情報記憶手段に記憶された音声情報または画
    像情報のデータ量を圧縮する手段であって、前記対応関
    係記憶手段に記憶された前記ユーザ入力情報と前記条件
    一致区間とによって定められる区間と、他の区間とで、
    圧縮率あるいは圧縮方式を変更して、前記時系列情報記
    憶手段に記憶された前記音声情報または前記画像情報の
    データ圧縮を行う圧縮手段と、 前記表示手段に表示されたユーザ入力情報に関連する表
    示部分を指定する指定手段と、 前記指定手段により指定されたユーザ入力情報によって
    特定される、前記対応関係記憶手段に記憶されている音
    声情報または画像情報の前記時系列情報記憶手段におけ
    る記憶位置に基づいて特定される音声情報または画像情
    報の所定の部分を再生する再生手段と、 を備えることを特徴とする情報蓄積再生装置。
  15. 【請求項15】ユーザ入力手段と、 前記ユーザ入力手段から入力されるユーザ入力情報を検
    出するユーザ入力情報検出手段と、 記憶すべき音声情報または画像情報を入力するための時
    系列情報入力手段と、 前記時系列情報入力手段から入力された前記音声情報ま
    たは前記画像情報を記憶する時系列情報記憶手段と、 センサからの情報を検出するためのセンサ情報検出手段
    と、 前記センサ情報検出手段からのセンサ情報が、予め設定
    された所定の条件に合致する区間を検出する条件一致区
    間検出手段と、 前記ユーザ入力情報と、前記ユーザ入力情報の前記表示
    手段上の表示位置を特定するための情報と、前記ユーザ
    入力情報検出手段で検出された前記ユーザ入力情報と前
    記条件一致区間検出手段で検出された前記条件一致区間
    とによって定められる区間を示す区間情報と、当該区間
    情報に対応する前記音声情報または画像情報の前記時系
    列情報記憶手段における記憶位置との対応関係を記憶す
    る対応関係記憶手段と、 前記時系列情報記憶手段に記憶された音声情報または画
    像情報のデータ量を圧縮する手段であって、前記対応関
    係記憶手段に記憶された前記ユーザ入力情報と前記条件
    一致区間とによって定められる区間と、他の区間とで、
    圧縮率あるいは圧縮方式を変更して、前記時系列情報記
    憶手段に記憶された前記音声情報または前記画像情報の
    データ圧縮を行う圧縮手段と、 前記表示手段に表示されたユーザ入力情報に関連する表
    示部分を指定する指定手段と、 前記指定手段により指定されたユーザ入力情報によって
    特定される、前記対応関係記憶手段に記憶されている音
    声情報または画像情報の前記時系列情報記憶手段におけ
    る記憶位置に基づいて特定される音声情報または画像情
    報の所定の部分を再生する再生手段と、 を備えることを特徴とする情報蓄積再生装置。
  16. 【請求項16】請求項5、請求項7、請求項9、または
    請求項13に記載の情報蓄積装置において、 前記条件一致区間検出手段は、前記音声情報の音声信号
    レベルと予め定められた閾値とを比較し、その比較結果
    に基づいて前記条件一致区間の開始点または終了点を検
    出することを特徴とする情報蓄積装置。
  17. 【請求項17】請求項5、請求項7、請求項9、または
    請求項13に記載の情報蓄積装置において、 前記条件一致区間検出手段は、前記音声情報において、
    音声の特定の発信者または発信者の交替を検出し、その
    検出結果に基づいて前記条件一致区間の開始点または終
    了点を検出することを特徴とする情報蓄積装置。
  18. 【請求項18】請求項5、請求項7、請求項9、または
    請求項13に記載の情報蓄積装置において、 前記条件一致区間検出手段は、前記時系列情報入力手段
    から入力される前記音声情報において、予め定められた
    特定のキーワードまたは特定のパターンを検出して、そ
    の検出結果に基づいて前記条件一致区間の開始点または
    終了点を検出することを特徴とする情報蓄積装置。
  19. 【請求項19】請求項5、請求項7、請求項9、または
    請求項13に記載の情報蓄積装置において、 前記条件一致区間検出手段は、前記時系列情報入力手段
    から入力される前記画像情報において、予め定められた
    特定の文字列または状態変化を検出して、その検出結果
    に基づいて前記条件一致区間の開始点または終了点を検
    出することを特徴とする情報蓄積装置。
  20. 【請求項20】請求項6または請求項8に記載の情報蓄
    積装置において、 前記センサ情報検出手段は、前記音声情報または画像情
    報が入力された場所、または、前記センサ情報が検出さ
    れた場所に関する情報を検出し、 前記条件一致区間検出手段は、このセンサ情報に基づい
    て、前記条件一致区間の開始点または終了点を検出する
    ことを特徴とする情報蓄積装置。
  21. 【請求項21】請求項6または請求項8に記載の情報蓄
    積装置において、 前記センサ情報検出手段は、前記外部センサによって特
    定の人を検出し、 前記条件一致区間検出手段は、このセンサ情報に基づい
    て、前記条件一致区間の開始点または終了点を検出する
    ことを特徴とする情報蓄積装置。
  22. 【請求項22】請求項6または請求項8に記載の情報蓄
    積装置において、 前記センサ情報検出手段は、カメラ操作信号またはカメ
    ラ操作信号の変化を検出し、 前記条件一致区間検出手段は、このセンサ情報に基づい
    て、前記条件一致区間の開始点または終了点を検出する
    ことを特徴とする情報蓄積装置。
  23. 【請求項23】請求項1、請求項2、請求項3、請求項
    4、請求項5、請求項6、請求項7、請求項8、または
    請求項9に記載の情報蓄積装置において、 前記音声情報または画像情報が前記時系列情報記憶手段
    に記憶された時刻を示す時刻情報を記憶する時刻情報記
    憶手段をさらに具備し、 前記圧縮手段は、前記時刻情報記憶手段に記憶された前
    記時刻情報によって定められる時刻からの経過時間が、
    予め定められた時間を過ぎた時に前記圧縮処理を実行す
    ることを特徴とする情報蓄積装置。
  24. 【請求項24】請求項1、請求項2、請求項3、請求項
    4、請求項5、請求項6、請求項7、請求項8、または
    請求項9に記載の情報蓄積装置において、 前記圧縮手段は、前記時系列情報記憶手段における空き
    領域がある値以下になったと認識されたとき、または、
    前記時系列情報記憶手段における記憶量がある値以上に
    なったと認識されたときに、前記圧縮処理を実行するこ
    とを特徴とする情報蓄積装置。
  25. 【請求項25】請求項1、請求項2、請求項3、請求項
    4、請求項5、請求項6、請求項7、請求項8、または
    請求項9に記載の情報蓄積装置において、 前記時系列情報記憶手段は、前記情報入力手段から入力
    された前記音声情報または画像情報を、周波数帯域別に
    記憶し、 前記圧縮手段は、圧縮時に、前記時系列情報記憶手段に
    記憶された前記音声情報または画像情報の高周波数帯域
    を削除することを特徴とする情報蓄積装置。
  26. 【請求項26】請求項5、請求項6、請求項7、請求項
    8、または請求項9に記載の情報蓄積装置において、 前記時系列情報記憶手段は、前記情報入力手段から入力
    された前記音声情報または画像情報を、周波数帯域別に
    記憶し、この記憶の際に、前記ユーザ入力情報と前記条
    件一致区間検出手段が検出した条件一致区間とによっ
    て、定められる区間と、他の区間とで、周波数帯域の分
    け方を変えて記憶することを特徴とする情報蓄積装置。
  27. 【請求項27】請求項1、請求項2、請求項3、請求項
    4、請求項5、請求項6、請求項7、請求項8、または
    請求項9に記載の情報蓄積装置において、 前記時系列情報記憶手段は、前記画像情報入力手段から
    入力された前記画像情報を、輝度情報と色情報とに分け
    て記憶し、 前記圧縮手段は、圧縮時に、前記時系列情報記憶手段に
    記憶された前記画像情報の色情報を削除することを特徴
    とする情報蓄積装置。
  28. 【請求項28】請求項1、請求項2、請求項3、請求項
    4、請求項5、請求項6、請求項7、請求項8、または
    請求項9に記載の情報蓄積装置において、 前記時系列情報記憶手段に記憶された音声情報または画
    像情報の、所定時間内に所定回数以上ユーザから参照さ
    れた区間と、前記所定時間内に前記所定回数以上ユーザ
    から参照されなかった区間とを区別する情報を記憶する
    参照状態記憶手段をさらに具備し、 前記圧縮手段は、前記参照状態記憶手段に記憶された情
    報に基づいて、所定時間内に所定回数以上ユーザから参
    照された区間と、所定時間内に所定回数以上ユーザから
    参照されなかった区間とで、圧縮率あるいは圧縮方式を
    変えて、前記時系列情報記憶手段に記憶された前記音声
    情報または画像情報を圧縮することを特徴とする情報蓄
    積装置。
  29. 【請求項29】請求項5、請求項6、請求項7、請求項
    8、または請求項9に記載の情報蓄積装置において、 前記圧縮手段は、前記条件一致区間検出手段が検出した
    検出結果を組み合わせて音声情報または画像情報の重要
    度を決定し、この重要度に基づき、前記条件一致区間検
    出手段での検出結果から定められる区間と他の区間とで
    圧縮量あるいは圧縮方式を変更して、前記時系列情報記
    憶手段に記憶された前記音声情報または画像情報を圧縮
    することを特徴とする情報蓄積装置。
  30. 【請求項30】請求項1、請求項2、請求項3、請求項
    4、請求項5、請求項6、請求項7、請求項8、または
    請求項9に記載の情報蓄積装置において、 前記圧縮手段は、前記ユーザ入力情報検出手段の検出結
    果に基づいてユーザ入力情報の重要度を決定し、この重
    要度に基づき、圧縮率あるいは圧縮方式を変更して、前
    記時系列情報記憶手段に記憶された前記音声情報または
    画像情報を圧縮することを特徴とする情報蓄積装置。
  31. 【請求項31】前記ユーザ入力情報検出手段で検出され
    たユーザ入力情報を表示すると共に、前記ユーザ入力情
    報検出手段で前記ユーザ入力情報が検出されたときに前
    記時系列情報入力手段より入力された音声情報または画
    像情報の、前記時系列情報記憶手段における圧縮状態
    を、前記検出されたユーザ入力情報の表示との関連を持
    った状態で表示する表示手段を備えることを特徴とする
    請求項10、請求項11、請求項12、請求項13、請
    求項14、または請求項15に記載の情報蓄積装置また
    は情報蓄積再生装置。
  32. 【請求項32】前記表示手段は、前記ユーザ入力情報検
    出手段で検出されたユーザ入力情報を表示すると共に、
    前記ユーザ入力情報検出手段で前記ユーザ入力情報が検
    出されたときに前記時系列情報入力手段より入力された
    音声情報または画像情報の、前記時系列情報記憶手段に
    おける圧縮状態を、前記検出されたユーザ入力情報の表
    示位置によって特定される表示位置に表示することを特
    徴とする請求項10、請求項11、請求項12、請求項
    13、請求項14、または請求項15に記載の情報蓄積
    装置または情報蓄積再生装置。
  33. 【請求項33】前記表示手段は、前記指定手段により前
    記表示画面に表示された前記ユーザ入力情報が指定され
    た場合に、指定されたユーザ入力情報について、このユ
    ーザ入力情報が前記ユーザ入力情報検出手段により検出
    されたときに入力された音声情報または画像情報の、前
    記時系列情報記憶手段における圧縮状態を表示すること
    を特徴とする請求項10、請求項11、請求項12、請
    求項13、請求項14、または請求項15に記載の情報
    蓄積装置または情報蓄積再生装置。
  34. 【請求項34】前記ユーザ入力情報検出手段で前記ユー
    ザ入力情報が検出されたときに入力された音声情報また
    は画像情報の、前記時系列情報記憶手段における圧縮状
    態に応じて、前記ユーザ入力情報の表示書式を変えて表
    示する表示手段を備えることを特徴とする請求項10、
    請求項11、請求項12、請求項13、請求項14、ま
    たは請求項15に記載の情報蓄積装置または情報蓄積再
    生装置。
  35. 【請求項35】請求項1、請求項2、請求項3、請求項
    4、請求項5、請求項6、請求項7、請求項8、または
    請求項9に記載の情報蓄積装置において、 前記圧縮手段は、前記音声情報または画像情報のデータ
    量が予め定められた記憶容量に収まるように、前記ユー
    ザ入力情報または前記条件一致区間により定められる区
    間と、その他の区間の圧縮率あるいは圧縮方式を設定し
    て、前記時系列情報記憶手段に記憶された前記音声情報
    または画像情報のデータ量を圧縮することを特徴とする
    情報蓄積装置。
JP02954597A 1997-01-29 1997-01-29 情報蓄積装置および情報蓄積方法 Expired - Fee Related JP3733984B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP02954597A JP3733984B2 (ja) 1997-01-29 1997-01-29 情報蓄積装置および情報蓄積方法
US09/014,163 US6188831B1 (en) 1997-01-29 1998-01-27 Data storage/playback device and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP02954597A JP3733984B2 (ja) 1997-01-29 1997-01-29 情報蓄積装置および情報蓄積方法

Publications (2)

Publication Number Publication Date
JPH10214270A true JPH10214270A (ja) 1998-08-11
JP3733984B2 JP3733984B2 (ja) 2006-01-11

Family

ID=12279109

Family Applications (1)

Application Number Title Priority Date Filing Date
JP02954597A Expired - Fee Related JP3733984B2 (ja) 1997-01-29 1997-01-29 情報蓄積装置および情報蓄積方法

Country Status (2)

Country Link
US (1) US6188831B1 (ja)
JP (1) JP3733984B2 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002044585A (ja) * 2000-04-11 2002-02-08 Neowave Co Ltd コンピュータを利用した講義録画/再生方法
JP2002095640A (ja) * 2000-09-26 2002-04-02 Toshiba Corp 医用画像診断装置
JP2002344916A (ja) * 2001-05-22 2002-11-29 Takahisa Inoue フォーカスグループインタビュー実行システム及びその実行方法及びフォーカスグループインタビュー実行プログラム
JP2004080750A (ja) * 2002-06-19 2004-03-11 Microsoft Corp ホワイトボードおよび音声のキャプチャのためのシステムおよび方法
JP2004514160A (ja) * 2000-10-06 2004-05-13 ハイワイアード・テクノロジーズ・インコーポレーテッド ミキシングメディアメッセージングシステムのための方法及び装置
JP2005244524A (ja) * 2004-02-25 2005-09-08 Pioneer Electronic Corp 議事録ファイル生成方法、議事録ファイル管理方法、会議サーバおよびネットワーク会議システム
JP2006221617A (ja) * 2005-01-17 2006-08-24 Toshiba Corp 監査ログ管理機能を有する医用機器
JP2008281715A (ja) * 2007-05-09 2008-11-20 Canon Inc 表示制御装置および表示制御方法
US7630613B2 (en) 2002-01-18 2009-12-08 Sony Corporation Information-signal process apparatus and information-signal processing method
US7702513B2 (en) 2002-09-19 2010-04-20 Canon Kabushiki Kaisha High quality image and audio coding apparatus and method depending on the ROI setting
JP2011077883A (ja) * 2009-09-30 2011-04-14 Fujifilm Corp 画像ファイル生成方法、そのプログラム、その記録媒体および画像ファイル生成装置
JP2012123519A (ja) * 2010-12-07 2012-06-28 Fuji Xerox Co Ltd 画像処理システム、画像処理装置及び画像処理プログラム
JP2014014091A (ja) * 2013-08-02 2014-01-23 Nec Corp コミュニケーションプレイバックシステム用端末装置、サーバ、プログラム
JP2014171187A (ja) * 2013-03-05 2014-09-18 Canon Inc 監視カメラシステム
US8918708B2 (en) 1998-05-07 2014-12-23 Astute Technology, Llc Enhanced capture, management and distribution of live presentations
JP2018005461A (ja) * 2016-06-30 2018-01-11 京セラドキュメントソリューションズ株式会社 情報処理装置、及び画像形成装置

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3360598B2 (ja) * 1998-02-18 2002-12-24 ミノルタ株式会社 画像システム
US7174083B1 (en) * 1998-12-30 2007-02-06 Xerox Corporation Systems and methods for using structured representations to index recordings of activity
US6330025B1 (en) 1999-05-10 2001-12-11 Nice Systems Ltd. Digital video logging system
US6424789B1 (en) * 1999-08-17 2002-07-23 Koninklijke Philips Electronics N.V. System and method for performing fast forward and slow motion speed changes in a video stream based on video content
WO2001029798A1 (en) * 1999-10-21 2001-04-26 Yoichi Tanaka Audio/video processing system and computer-readable recorded medium on which program for realizing the system is recorded
US6920281B1 (en) 2000-06-30 2005-07-19 Koninklijke Philips Electronics N.V. Video memory manager for use in a video recorder and method of operation
GB0024114D0 (en) * 2000-10-03 2000-11-15 Pace Micro Tech Plc Recompression of data for PVRs (Personal Video Recorders)
US7200859B1 (en) * 2000-11-22 2007-04-03 Digeo, Inc. Apparatus and method for intelligent multimedia compression and distribution
ES2253531T5 (es) * 2001-01-03 2018-09-26 Nice Systems Limited Gestión del almacenamiento sobre la base del contenido
JP2004532548A (ja) * 2001-03-19 2004-10-21 サウンドピックス・インク Jpegファイル内のデータ保存システム及び方法
US7130864B2 (en) * 2001-10-31 2006-10-31 Hewlett-Packard Development Company, L.P. Method and system for accessing a collection of images in a database
CN1618071B (zh) * 2001-12-15 2012-01-04 汤姆森特许公司 基于时间预约的服务质量设置
US20030131362A1 (en) * 2002-01-09 2003-07-10 Koninklijke Philips Electronics N.V. Method and apparatus for multimodal story segmentation for linking multimedia content
FR2837341A1 (fr) * 2002-03-15 2003-09-19 Thomson Licensing Sa Procede et systeme de lecture d'informations enregistrees dans un appareil audiovisuel
JP4215197B2 (ja) * 2002-04-12 2009-01-28 パナソニック株式会社 画像符号化方法および画像復号化方法
US20040028025A1 (en) * 2002-08-06 2004-02-12 Fen-Man Chang System and method for providing a two-way audio communication via a web browser
US7197189B2 (en) * 2003-05-15 2007-03-27 Hewlett-Packard Development Company, L.P. System and method having removable storage medium with data compression
US7260278B2 (en) * 2003-11-18 2007-08-21 Microsoft Corp. System and method for real-time whiteboard capture and processing
US7394974B2 (en) 2004-01-26 2008-07-01 Sony Corporation System and method for associating presented digital content within recorded digital stream and method for its playback from precise location
JP2005277445A (ja) * 2004-03-22 2005-10-06 Fuji Xerox Co Ltd 会議映像処理装置、会議映像処理方法およびプログラム
JP2006311154A (ja) * 2005-04-27 2006-11-09 Sony Corp 撮像装置、この装置の処理方法およびその方法をコンピュータに実行させるプログラム
US7639873B2 (en) * 2005-07-28 2009-12-29 Microsoft Corporation Robust shot detection in a video
US7644364B2 (en) * 2005-10-14 2010-01-05 Microsoft Corporation Photo and video collage effects
JP2007215054A (ja) * 2006-02-10 2007-08-23 Fuji Xerox Co Ltd 会議情報を記録できる電子装置
US7945142B2 (en) * 2006-06-15 2011-05-17 Microsoft Corporation Audio/visual editing tool
US7921116B2 (en) * 2006-06-16 2011-04-05 Microsoft Corporation Highly meaningful multimedia metadata creation and associations
JP2009049550A (ja) * 2007-08-15 2009-03-05 Hitachi Ltd ゲートウェイ装置
US7986848B2 (en) * 2007-09-11 2011-07-26 International Business Machines Corporation Methods, systems, and computer program products for a multi-resolution storage scheme for historical data
US20100318203A1 (en) * 2009-06-16 2010-12-16 Brooks Mitchell T Audio Recording Apparatus
US9015043B2 (en) * 2010-10-01 2015-04-21 Google Inc. Choosing recognized text from a background environment
EP3117295A4 (en) * 2014-03-14 2017-10-25 Atronix Engineering, Inc. Zooming user interface for a material handling control system
US10381046B2 (en) * 2014-07-16 2019-08-13 United States Bankruptcy Court For The District Of Utah Apparatus and methods for recording audio and video
US9886633B2 (en) * 2015-02-23 2018-02-06 Vivint, Inc. Techniques for identifying and indexing distinguishing features in a video feed
CN105828131B (zh) * 2016-03-22 2019-02-22 Oppo广东移动通信有限公司 一种视频分享方法及通信终端
DE102016107206A1 (de) * 2016-04-19 2017-10-19 Technisat Digital Gmbh Verfahren zum Aufzeichnen von Medieninhalt mittels einer Empfangseinrichtung sowie eine Empfangseinrichtung
JP2017215807A (ja) * 2016-05-31 2017-12-07 富士ゼロックス株式会社 プログラムおよび情報処理装置
US20180070008A1 (en) * 2016-09-08 2018-03-08 Qualcomm Incorporated Techniques for using lip movement detection for speaker recognition in multi-person video calls
CN111078755B (zh) * 2019-12-19 2023-07-28 远景智能国际私人投资有限公司 时序数据的存储查询方法、装置、服务器及存储介质
US12530616B2 (en) 2021-01-26 2026-01-20 Oracle International Corporation Machine learning traceback-enabled decision rationales as models for explainability
US12007759B2 (en) * 2021-06-28 2024-06-11 Oracle International Corporation Geometric aging data reduction for machine learning applications
US11601136B2 (en) * 2021-06-30 2023-03-07 Bank Of America Corporation System for electronic data compression by automated time-dependent compression algorithm
CN119211001B (zh) * 2024-09-11 2025-11-07 浙江九州未来信息科技有限公司 一种ipmi控制台会话回放的解决方法

Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02305053A (ja) * 1989-05-18 1990-12-18 Matsushita Electric Ind Co Ltd 音声蓄積装置
JPH04347977A (ja) * 1991-05-24 1992-12-03 Kyocera Corp 撮影位置等を記録再生可能なスチルビデオカメラシステム
JPH04354485A (ja) * 1991-05-31 1992-12-08 Sony Corp 映像記録装置
JPH0564144A (ja) * 1991-07-08 1993-03-12 Olympus Optical Co Ltd 画像メモリ装置
JPH06153199A (ja) * 1992-11-06 1994-05-31 Kubota Corp 画像による監視装置
JPH06205151A (ja) * 1993-01-07 1994-07-22 Fuji Xerox Co Ltd 電子会議システム
JPH06266632A (ja) * 1993-03-12 1994-09-22 Toshiba Corp 電子会議システムの情報処理方法及び同装置
JPH06343146A (ja) * 1993-03-15 1994-12-13 Toshiba Corp 再生装置及び再生方法
JPH0798734A (ja) * 1993-02-04 1995-04-11 Matsushita Electric Ind Co Ltd 作業状況管理装置
JPH07182365A (ja) * 1993-12-24 1995-07-21 Hitachi Ltd マルチメディア会議録作成支援装置および方法
JPH07191690A (ja) * 1993-12-24 1995-07-28 Canon Inc 議事録作成装置及び多地点議事録作成システム
JPH08111859A (ja) * 1994-10-12 1996-04-30 Hitachi Ltd 対話監視システム
JPH08167274A (ja) * 1994-12-09 1996-06-25 Sanyo Electric Co Ltd 画像記録方法、画像記録装置および画像記録媒体
JPH08297624A (ja) * 1995-02-28 1996-11-12 Toshiba Corp 電子会議システム
JPH099202A (ja) * 1995-06-23 1997-01-10 Ricoh Co Ltd 索引生成方法、索引生成装置、索引付け装置、索引付け方法、ビデオ議事録生成方法、フレーム編集方法及びフレーム編集装置
JPH1049515A (ja) * 1996-08-02 1998-02-20 Fuji Xerox Co Ltd 情報表示装置および情報蓄積再生装置
JPH10191245A (ja) * 1996-12-24 1998-07-21 Fuji Xerox Co Ltd 情報蓄積装置
JP3230569B2 (ja) * 1996-04-24 2001-11-19 富士ゼロックス株式会社 情報蓄積装置、情報蓄積方法および情報蓄積再生装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2752716B2 (ja) 1989-09-01 1998-05-18 日本電信電話株式会社 動画像ダイジェスト自動生成方式
GB9100732D0 (en) 1991-01-14 1991-02-27 Xerox Corp A data access system
JPH05134907A (ja) 1991-11-13 1993-06-01 Hitachi Ltd 情報記憶装置
JPH06149902A (ja) 1992-11-09 1994-05-31 Matsushita Electric Ind Co Ltd 動画像記録媒体、動画像記録装置、及び動画像再生装置
JP3300097B2 (ja) 1993-03-24 2002-07-08 オリンパス光学工業株式会社 電子カメラ
JPH0715519A (ja) 1993-06-21 1995-01-17 Matsushita Electric Ind Co Ltd 音声蓄積装置
JPH07129187A (ja) 1993-10-29 1995-05-19 Toshiba Corp 文書作成装置及び音声データ記録再生方法
US5613032A (en) * 1994-09-02 1997-03-18 Bell Communications Research, Inc. System and method for recording, playing back and searching multimedia events wherein video, audio and text can be searched and retrieved

Patent Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02305053A (ja) * 1989-05-18 1990-12-18 Matsushita Electric Ind Co Ltd 音声蓄積装置
JPH04347977A (ja) * 1991-05-24 1992-12-03 Kyocera Corp 撮影位置等を記録再生可能なスチルビデオカメラシステム
JPH04354485A (ja) * 1991-05-31 1992-12-08 Sony Corp 映像記録装置
JPH0564144A (ja) * 1991-07-08 1993-03-12 Olympus Optical Co Ltd 画像メモリ装置
JPH06153199A (ja) * 1992-11-06 1994-05-31 Kubota Corp 画像による監視装置
JPH06205151A (ja) * 1993-01-07 1994-07-22 Fuji Xerox Co Ltd 電子会議システム
JPH0798734A (ja) * 1993-02-04 1995-04-11 Matsushita Electric Ind Co Ltd 作業状況管理装置
JPH06266632A (ja) * 1993-03-12 1994-09-22 Toshiba Corp 電子会議システムの情報処理方法及び同装置
JPH06343146A (ja) * 1993-03-15 1994-12-13 Toshiba Corp 再生装置及び再生方法
JPH07182365A (ja) * 1993-12-24 1995-07-21 Hitachi Ltd マルチメディア会議録作成支援装置および方法
JPH07191690A (ja) * 1993-12-24 1995-07-28 Canon Inc 議事録作成装置及び多地点議事録作成システム
JPH08111859A (ja) * 1994-10-12 1996-04-30 Hitachi Ltd 対話監視システム
JPH08167274A (ja) * 1994-12-09 1996-06-25 Sanyo Electric Co Ltd 画像記録方法、画像記録装置および画像記録媒体
JPH08297624A (ja) * 1995-02-28 1996-11-12 Toshiba Corp 電子会議システム
JPH099202A (ja) * 1995-06-23 1997-01-10 Ricoh Co Ltd 索引生成方法、索引生成装置、索引付け装置、索引付け方法、ビデオ議事録生成方法、フレーム編集方法及びフレーム編集装置
JP3230569B2 (ja) * 1996-04-24 2001-11-19 富士ゼロックス株式会社 情報蓄積装置、情報蓄積方法および情報蓄積再生装置
JPH1049515A (ja) * 1996-08-02 1998-02-20 Fuji Xerox Co Ltd 情報表示装置および情報蓄積再生装置
JPH10191245A (ja) * 1996-12-24 1998-07-21 Fuji Xerox Co Ltd 情報蓄積装置

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9837077B2 (en) 1998-05-07 2017-12-05 Echo 360 Continuing Education, Llc Enhanced capture, management and distribution of live presentations
US8918708B2 (en) 1998-05-07 2014-12-23 Astute Technology, Llc Enhanced capture, management and distribution of live presentations
JP2002044585A (ja) * 2000-04-11 2002-02-08 Neowave Co Ltd コンピュータを利用した講義録画/再生方法
JP2002095640A (ja) * 2000-09-26 2002-04-02 Toshiba Corp 医用画像診断装置
JP2004514160A (ja) * 2000-10-06 2004-05-13 ハイワイアード・テクノロジーズ・インコーポレーテッド ミキシングメディアメッセージングシステムのための方法及び装置
JP2002344916A (ja) * 2001-05-22 2002-11-29 Takahisa Inoue フォーカスグループインタビュー実行システム及びその実行方法及びフォーカスグループインタビュー実行プログラム
US7630613B2 (en) 2002-01-18 2009-12-08 Sony Corporation Information-signal process apparatus and information-signal processing method
JP2004080750A (ja) * 2002-06-19 2004-03-11 Microsoft Corp ホワイトボードおよび音声のキャプチャのためのシステムおよび方法
US7702513B2 (en) 2002-09-19 2010-04-20 Canon Kabushiki Kaisha High quality image and audio coding apparatus and method depending on the ROI setting
JP2005244524A (ja) * 2004-02-25 2005-09-08 Pioneer Electronic Corp 議事録ファイル生成方法、議事録ファイル管理方法、会議サーバおよびネットワーク会議システム
JP2006221617A (ja) * 2005-01-17 2006-08-24 Toshiba Corp 監査ログ管理機能を有する医用機器
JP2008281715A (ja) * 2007-05-09 2008-11-20 Canon Inc 表示制御装置および表示制御方法
JP2011077883A (ja) * 2009-09-30 2011-04-14 Fujifilm Corp 画像ファイル生成方法、そのプログラム、その記録媒体および画像ファイル生成装置
JP2012123519A (ja) * 2010-12-07 2012-06-28 Fuji Xerox Co Ltd 画像処理システム、画像処理装置及び画像処理プログラム
JP2014171187A (ja) * 2013-03-05 2014-09-18 Canon Inc 監視カメラシステム
JP2014014091A (ja) * 2013-08-02 2014-01-23 Nec Corp コミュニケーションプレイバックシステム用端末装置、サーバ、プログラム
JP2018005461A (ja) * 2016-06-30 2018-01-11 京セラドキュメントソリューションズ株式会社 情報処理装置、及び画像形成装置

Also Published As

Publication number Publication date
JP3733984B2 (ja) 2006-01-11
US6188831B1 (en) 2001-02-13

Similar Documents

Publication Publication Date Title
JP3733984B2 (ja) 情報蓄積装置および情報蓄積方法
JP3230569B2 (ja) 情報蓄積装置、情報蓄積方法および情報蓄積再生装置
US5894306A (en) Data display device and data record/playback device displaying consecutive data and user input in association with each other
JP3526067B2 (ja) 再生装置及び再生方法
JP3185505B2 (ja) 会議録作成支援装置
JP3143125B2 (ja) マルチメディア・イベントを記録再生するシステムおよび方法
JP4240235B2 (ja) 時系列情報の特定区間決定装置、情報蓄積装置および情報蓄積再生装置
JP4096132B2 (ja) 時系列情報の特定区間決定装置、情報蓄積装置および情報蓄積再生装置
US7848493B2 (en) System and method for capturing media
US6560399B2 (en) Image recording and reproducing device and a medium storing an image recording and reproducing program
CN100462975C (zh) 信息演示方法和信息演示装置
US6154218A (en) Method for generating, managing and displaying information retrieval data on information processing system
JP2001256335A (ja) 会議記録システム
JP2019068300A (ja) ダイジェストデータ生成装置、ダイジェストデータ再生装置、ダイジェストデータ生成システム、ダイジェストデータ生成方法及びプログラム
US20010046096A1 (en) Redactable recording apparatus
JP4216308B2 (ja) 通話装置および通話プログラム
JP3960646B2 (ja) 情報蓄積装置および情報蓄積方法
JP2004173058A (ja) 会議情報可視化方法、装置、プログラムおよび該プログラムを記録した記録媒体
JPH099202A (ja) 索引生成方法、索引生成装置、索引付け装置、索引付け方法、ビデオ議事録生成方法、フレーム編集方法及びフレーム編集装置
JP2005167822A (ja) 情報再生装置及び情報再生方法
JP2007066018A (ja) 情報処理方法及び情報処理装置
JP2002171477A (ja) 素材処理装置、番組制作方法、番組シミュレーション方法および番組配信方法
JP3523784B2 (ja) 対話型画像操作表示装置および方法並びにプログラム格納媒体
CN115552889A (zh) 信息处理设备、生成方法和程序
Imai et al. Hypermedia conversation recording to preserve informal artifacts in realtime collaboration

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050330

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050712

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050905

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050928

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051011

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091028

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101028

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101028

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111028

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111028

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S802 Written request for registration of partial abandonment of right

Free format text: JAPANESE INTERMEDIATE CODE: R311802

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111028

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111028

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121028

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121028

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131028

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees