JPH08255073A - 数値フォーマット変換装置 - Google Patents
数値フォーマット変換装置Info
- Publication number
- JPH08255073A JPH08255073A JP7350962A JP35096295A JPH08255073A JP H08255073 A JPH08255073 A JP H08255073A JP 7350962 A JP7350962 A JP 7350962A JP 35096295 A JP35096295 A JP 35096295A JP H08255073 A JPH08255073 A JP H08255073A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- exponent
- digital
- output
- generating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims abstract description 8
- 238000006243 chemical reaction Methods 0.000 claims description 18
- 238000010586 diagram Methods 0.000 description 3
- 244000025254 Cannabis sativa Species 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000000034 method Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 240000001749 Quercus lobata Species 0.000 description 1
- 235000013400 Quercus lobata Nutrition 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/14—Conversion to or from non-weighted codes
- H03M7/24—Conversion to or from floating-point codes
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Analogue/Digital Conversion (AREA)
- Complex Calculations (AREA)
Abstract
(57)【要約】
【課題】 種々の固定小数点数値フォーマット及び浮動
小数点数値フォーマットをサポートし、信号処理経路の
必要性に応じて、数値フォーマットを固定小数点から浮
動小数点に、浮動小数点から固定小数点に、又は浮動小
数点から別の浮動小数点に変換する。 【解決手段】 デジタルべき指数信号発生手段12〜1
8は、入力デジタル信号と、この入力デジタル信号の数
値フォーマット及び出力デジタル信号の数値フォーマッ
トで決まるべき指数範囲及びべき指数オフセットとか
ら、デジタルべき指数信号Ef を発生する。デジタル仮
数信号発生手段14、20〜30は、入力デジタル信
号、べき指数範囲及びべき指数オフセットからデジタル
仮数信号を発生する。この際、出力数値フォーマットが
浮動小数点のときには、デジタルべき指数信号及びデジ
タル仮数信号により出力デジタル信号を発生し、出力数
値フォーマットが固定小数点フォーマットのときには、
デジタル仮数信号により出力デジタル信号を発生する。
小数点数値フォーマットをサポートし、信号処理経路の
必要性に応じて、数値フォーマットを固定小数点から浮
動小数点に、浮動小数点から固定小数点に、又は浮動小
数点から別の浮動小数点に変換する。 【解決手段】 デジタルべき指数信号発生手段12〜1
8は、入力デジタル信号と、この入力デジタル信号の数
値フォーマット及び出力デジタル信号の数値フォーマッ
トで決まるべき指数範囲及びべき指数オフセットとか
ら、デジタルべき指数信号Ef を発生する。デジタル仮
数信号発生手段14、20〜30は、入力デジタル信
号、べき指数範囲及びべき指数オフセットからデジタル
仮数信号を発生する。この際、出力数値フォーマットが
浮動小数点のときには、デジタルべき指数信号及びデジ
タル仮数信号により出力デジタル信号を発生し、出力数
値フォーマットが固定小数点フォーマットのときには、
デジタル仮数信号により出力デジタル信号を発生する。
Description
【0001】
【発明の属する技術分野】本発明は、デジタル信号処理
に関し、特に、種々の固定小数点数値フォーマット及び
浮動小数点数値フォーマットをサポートし、信号処理経
路における必要性に応じてフォーマット間の変換を行う
信号処理用数値フォーマット変換装置に関する。
に関し、特に、種々の固定小数点数値フォーマット及び
浮動小数点数値フォーマットをサポートし、信号処理経
路における必要性に応じてフォーマット間の変換を行う
信号処理用数値フォーマット変換装置に関する。
【0002】
【従来の技術】ほとんどのデジタル信号処理は、固定小
数点2進数値フォーマットにより表される一連の数値サ
ンプルの形式で表現される信号により行われている。こ
のフォーマットは、比較的簡単なために一般的であり、
最も一般的な信号処理動作は、加算、減算、比較及び乗
算の如きハードウェアにより実現できる。信号の制御が
容易であるこの数値フォーマットの他の利点には、丸め
込み誤差に対する良好な制御、固定された制限範囲、全
範囲にわたる一定の分解能などがある。
数点2進数値フォーマットにより表される一連の数値サ
ンプルの形式で表現される信号により行われている。こ
のフォーマットは、比較的簡単なために一般的であり、
最も一般的な信号処理動作は、加算、減算、比較及び乗
算の如きハードウェアにより実現できる。信号の制御が
容易であるこの数値フォーマットの他の利点には、丸め
込み誤差に対する良好な制御、固定された制限範囲、全
範囲にわたる一定の分解能などがある。
【0003】
【発明が解決しようとする課題】しかし、2乗、平方
根、対数、指数及び除算の如き多くの一般的でない信号
処理動作にとって、固定範囲及び一定の分解能は大きな
欠点でもある。結果の精度を維持するために、固定小数
点フォーマットを用いた場合、これら動作の各々には、
数値サンプルのワードのサイズを大きく拡大するか縮小
することが必要である。例えば、16ビット数を2乗し
た結果、32ビットが必要になる。したがって、これら
の場合、浮動小数点数値フォーマットがより適切であ
る。残念なことに、浮動小数点数値フォーマットにおい
て加算、減算及び比較動作を実現することは非常に困難
であるので、多くの場合にこれらを行うのが非常に高価
になる。
根、対数、指数及び除算の如き多くの一般的でない信号
処理動作にとって、固定範囲及び一定の分解能は大きな
欠点でもある。結果の精度を維持するために、固定小数
点フォーマットを用いた場合、これら動作の各々には、
数値サンプルのワードのサイズを大きく拡大するか縮小
することが必要である。例えば、16ビット数を2乗し
た結果、32ビットが必要になる。したがって、これら
の場合、浮動小数点数値フォーマットがより適切であ
る。残念なことに、浮動小数点数値フォーマットにおい
て加算、減算及び比較動作を実現することは非常に困難
であるので、多くの場合にこれらを行うのが非常に高価
になる。
【0004】しばしばデジタル信号処理環境において、
信号を表すベクトル又は虚数の大きさが必要になる。こ
の大きさを求めるには、2つの直交ベクトル成分を各信
号源から得て、デジタル整数値を与える。一般的にはリ
ード・オンリ・メモリのルックアップ・テーブルによ
り、これら整数値の各々を2乗し、これら2乗を加算
し、その結果の平方根を求める。リード・オンリ・メモ
リの入力数が制限されているので、平方根の和を浮動小
数点数に変換することが望ましい。平方根を扱うには、
ルックアップ・テーブルをアクセスするビット数が過大
にならないように、浮動小数点数のべき指数を制限する
必要がある。これには、べき指数のサイズを決め、制限
及びシフトを行う付加回路が必要になる。
信号を表すベクトル又は虚数の大きさが必要になる。こ
の大きさを求めるには、2つの直交ベクトル成分を各信
号源から得て、デジタル整数値を与える。一般的にはリ
ード・オンリ・メモリのルックアップ・テーブルによ
り、これら整数値の各々を2乗し、これら2乗を加算
し、その結果の平方根を求める。リード・オンリ・メモ
リの入力数が制限されているので、平方根の和を浮動小
数点数に変換することが望ましい。平方根を扱うには、
ルックアップ・テーブルをアクセスするビット数が過大
にならないように、浮動小数点数のべき指数を制限する
必要がある。これには、べき指数のサイズを決め、制限
及びシフトを行う付加回路が必要になる。
【0005】デジタル・ビデオ効果環境における他の例
は、ビデオ画像の入力フレームからどのピクセルの組み
合わせをアクセスして、対応するピクセルを出力する必
要があるかを決定する際に、逆アドレス指定を行う。こ
れには、デジタル整数を与える3つの信号源が必要であ
る。2つの信号源からの数値を第3の信号源からの数値
で除算するが、浮動小数点数値フォーマットに変換する
必要がある。その結果から2つのアドレスを得るには、
固定小数点数値フォーマットに戻す変換が必要である。
従来は、数値フォーマットの各々に対して、特定の回路
が必要であった。
は、ビデオ画像の入力フレームからどのピクセルの組み
合わせをアクセスして、対応するピクセルを出力する必
要があるかを決定する際に、逆アドレス指定を行う。こ
れには、デジタル整数を与える3つの信号源が必要であ
る。2つの信号源からの数値を第3の信号源からの数値
で除算するが、浮動小数点数値フォーマットに変換する
必要がある。その結果から2つのアドレスを得るには、
固定小数点数値フォーマットに戻す変換が必要である。
従来は、数値フォーマットの各々に対して、特定の回路
が必要であった。
【0006】そこで、種々の固定小数点数値フォーマッ
ト及び浮動小数点数値フォーマットをサポートして、信
号処理経路の必要性に応じて、数値フォーマット間の変
換を行うハードウェアが必要とされている。
ト及び浮動小数点数値フォーマットをサポートして、信
号処理経路の必要性に応じて、数値フォーマット間の変
換を行うハードウェアが必要とされている。
【0007】したがって、本発明の目的は、種々の固定
小数点数値フォーマット及び浮動小数点数値フォーマッ
トをサポートし、信号処理経路の必要性に応じて数値フ
ォーマット間での変換を行う信号処理用数値フォーマッ
ト変換装置の提供にある。
小数点数値フォーマット及び浮動小数点数値フォーマッ
トをサポートし、信号処理経路の必要性に応じて数値フ
ォーマット間での変換を行う信号処理用数値フォーマッ
ト変換装置の提供にある。
【0008】
【課題を解決するための手段】本発明によれば、数値フ
ォーマット変換装置は、2つの入力端及び2つの出力端
を具えている。一方の入力端は、浮動小数点数値入力フ
ォーマットに対してべき指数部分を受けると共に、固定
小数点数値入力フォーマットに対してゼロを受ける。ま
た、他方の入力端は、浮動小数点数値入力フォーマット
に対して仮数部分を受けると共に固定小数点数値入力フ
ォーマットに対して固定小数点数値を受ける。所望出力
数値フォーマットに応じて、最小べき指数、最大べき指
数及びべき指数オフセットの値を定数として装置に入力
する。これら定数に応答して、入力数値を所望出力数値
フォーマットに変換する。出力端の一方は、浮動小数点
数値出力フォーマットに対してべき指数値を与えるが、
固定小数点数値出力フォーマットに対しては、この出力
端の一方を用いない。他方の出力端は、浮動小数点数値
出力フォーマットに対して仮数値を与えるが、固定小数
点数値出力フォーマットに対しては固定小数点数値を与
える。
ォーマット変換装置は、2つの入力端及び2つの出力端
を具えている。一方の入力端は、浮動小数点数値入力フ
ォーマットに対してべき指数部分を受けると共に、固定
小数点数値入力フォーマットに対してゼロを受ける。ま
た、他方の入力端は、浮動小数点数値入力フォーマット
に対して仮数部分を受けると共に固定小数点数値入力フ
ォーマットに対して固定小数点数値を受ける。所望出力
数値フォーマットに応じて、最小べき指数、最大べき指
数及びべき指数オフセットの値を定数として装置に入力
する。これら定数に応答して、入力数値を所望出力数値
フォーマットに変換する。出力端の一方は、浮動小数点
数値出力フォーマットに対してべき指数値を与えるが、
固定小数点数値出力フォーマットに対しては、この出力
端の一方を用いない。他方の出力端は、浮動小数点数値
出力フォーマットに対して仮数値を与えるが、固定小数
点数値出力フォーマットに対しては固定小数点数値を与
える。
【0009】本発明のその他の目的、利点及び新規な特
徴は、特許請求の範囲及び添付図を参照した以下の詳細
説明から明らかになろう。
徴は、特許請求の範囲及び添付図を参照した以下の詳細
説明から明らかになろう。
【0010】
【発明の実施の形態】図1は、本発明の第1実施例のブ
ロック図である。入力信号の信号データ小数点の値を表
し、浮動小数点数値フォーマットではsnnnnnnn
×2**Eの如き各デジタル・データ・ワードは、Mビッ
ト又は数ビットのべき指数部分Eと、Nビット又は数ビ
ットの符号(s)のある仮数部分snnnnnnnを具
えている(なお、2**Eは、2のE乗を表す)。固定小
数点数値では、べき指数部分Eはゼロである。べき指数
部分Eをべき指数オフセット定数と共にオフセット加算
回路12に入力する。このオフセット加算回路12は、
浮動小数点入力フォーマットに対してべき指数のバイア
スを加算し、固定小数点入力フォーマットに対して2進
小数点位置を定義して、オフセットべき指数Eo を発生
する。範囲[−1、1−2**(N−1)]内のNビット
の符号付き端数部分の形式である仮数部分(符号ビット
部分)を、カウンタ14に入力する。このカウンタ14
は、符号ビットの数マイナス1を計数して、シフトべき
指数Es を出力する。オフセット成分Eo 及びシフトべ
き指数Es を出力加算回路16に入力し、Eo からEs
を減算して、クリップされていない出力べき指数Er
(中間べき指数信号)を発生する。次に、クリップされ
ていない出力べき指数Er を、ユーザが制御した最大及
び最小べき指数定数と共に、出力べき指数クリップ回路
18に入力する。クリップ回路18は、クリップされて
いない出力べき指数Er が所望べき指数範囲(最大及び
最小べき指数定数で決まる)の外ならば、このべき指数
Er をかかる最大又は最小べき指数定数レベルにクリッ
プして、最終出力べき指数Ef を発生する。なお、加算
回路12、16及びカウンタ14が組み合わせ手段を構
成し、この組み合わせ手段及びクリップ回路18がデジ
タルべき指数信号発生手段を構成する。
ロック図である。入力信号の信号データ小数点の値を表
し、浮動小数点数値フォーマットではsnnnnnnn
×2**Eの如き各デジタル・データ・ワードは、Mビッ
ト又は数ビットのべき指数部分Eと、Nビット又は数ビ
ットの符号(s)のある仮数部分snnnnnnnを具
えている(なお、2**Eは、2のE乗を表す)。固定小
数点数値では、べき指数部分Eはゼロである。べき指数
部分Eをべき指数オフセット定数と共にオフセット加算
回路12に入力する。このオフセット加算回路12は、
浮動小数点入力フォーマットに対してべき指数のバイア
スを加算し、固定小数点入力フォーマットに対して2進
小数点位置を定義して、オフセットべき指数Eo を発生
する。範囲[−1、1−2**(N−1)]内のNビット
の符号付き端数部分の形式である仮数部分(符号ビット
部分)を、カウンタ14に入力する。このカウンタ14
は、符号ビットの数マイナス1を計数して、シフトべき
指数Es を出力する。オフセット成分Eo 及びシフトべ
き指数Es を出力加算回路16に入力し、Eo からEs
を減算して、クリップされていない出力べき指数Er
(中間べき指数信号)を発生する。次に、クリップされ
ていない出力べき指数Er を、ユーザが制御した最大及
び最小べき指数定数と共に、出力べき指数クリップ回路
18に入力する。クリップ回路18は、クリップされて
いない出力べき指数Er が所望べき指数範囲(最大及び
最小べき指数定数で決まる)の外ならば、このべき指数
Er をかかる最大又は最小べき指数定数レベルにクリッ
プして、最終出力べき指数Ef を発生する。なお、加算
回路12、16及びカウンタ14が組み合わせ手段を構
成し、この組み合わせ手段及びクリップ回路18がデジ
タルべき指数信号発生手段を構成する。
【0011】出力仮数又は固定小数点数値のフォーマッ
トを設定するために、クリップされていない出力べき指
数Er を最小べき指数定数と共にクリップ加算回路20
に入力して、最小べき指数定数からEr を減算して、ク
リップべき指数Ec を発生する。このクリップべき指数
Ec をクリップ回路22に入力する。このクリップ回路
22は、クリップ・モード・コマンドが制御する。浮動
小数点出力フォーマットでは、クリップ回路22は、負
の値をゼロにクリップする。漸次のアンダーフローが望
ましくない浮動小数点出力フォーマットでは、クリップ
回路22は、正の値が検出されると、正出力信号を発生
する。固定小数点出力フォーマットでは、負の結果をク
リップしない。シフト加算回路24は、シフトべき指数
値Es をクリップされた値Ec から減算して、クリップ
されていないシフト制御信号を発生する。このクリップ
されていないシフト制御信号をシフト・クリップ回路2
6に入力して、制御信号がNより大きければ、クリップ
されていないシフト制御信号をNにクリップする。シフ
ト・クリップ回路26からのクリップされたシフト制御
信号を、仮数部分と共に符号拡張バレル・シフト器28
に入力する。このバレル・シフト器28は、クリップさ
れたシフト制御信号に応じて仮数部分を右方向にシフト
して、クリップされていない出力仮数信号を発生する。
クリップされていない出力仮数信号は、出力仮数クリッ
プ回路30に入力する。この出力仮数クリップ回路30
への他の入力は、クリップされていない出力べき指数E
r が最大べき指数値によりクリップされたときに発生す
る出力べき指数クリップ回路18からの最大クリップ信
号と、クリップ回路22からの正出力信号と、バレル・
シフト器28からのオーバーフロー(OVFL)出力と
である。なお、これら信号がクリップ範囲を定める。ク
リップされていない出力仮数信号は、クリップ回路30
により、正の場合に最大レベルにクリップされ、負の場
合に最小レベルにクリップされて、浮動小数点数値フォ
ーマットで出力仮数信号を発生するか、固定小数点数値
フォーマットで出力固定小数点数値信号を発生する。な
お、加算回路20及びクリップ回路22がクリップされ
たべき指数信号発生手段を構成し、カウンタ14、加算
回路24及びシフト・クリップ回路26がシフト制御信
号生成手段を構成する。また、これらクリップされたべ
き指数信号発生手段及びシフト制御信号生成手段がシフ
ト制御信号発生手段を構成する。そして、このシフト制
御信号発生手段、バレル・シフト器28及びクリップ回
路30がデジタル仮数信号発生手段を構成する。
トを設定するために、クリップされていない出力べき指
数Er を最小べき指数定数と共にクリップ加算回路20
に入力して、最小べき指数定数からEr を減算して、ク
リップべき指数Ec を発生する。このクリップべき指数
Ec をクリップ回路22に入力する。このクリップ回路
22は、クリップ・モード・コマンドが制御する。浮動
小数点出力フォーマットでは、クリップ回路22は、負
の値をゼロにクリップする。漸次のアンダーフローが望
ましくない浮動小数点出力フォーマットでは、クリップ
回路22は、正の値が検出されると、正出力信号を発生
する。固定小数点出力フォーマットでは、負の結果をク
リップしない。シフト加算回路24は、シフトべき指数
値Es をクリップされた値Ec から減算して、クリップ
されていないシフト制御信号を発生する。このクリップ
されていないシフト制御信号をシフト・クリップ回路2
6に入力して、制御信号がNより大きければ、クリップ
されていないシフト制御信号をNにクリップする。シフ
ト・クリップ回路26からのクリップされたシフト制御
信号を、仮数部分と共に符号拡張バレル・シフト器28
に入力する。このバレル・シフト器28は、クリップさ
れたシフト制御信号に応じて仮数部分を右方向にシフト
して、クリップされていない出力仮数信号を発生する。
クリップされていない出力仮数信号は、出力仮数クリッ
プ回路30に入力する。この出力仮数クリップ回路30
への他の入力は、クリップされていない出力べき指数E
r が最大べき指数値によりクリップされたときに発生す
る出力べき指数クリップ回路18からの最大クリップ信
号と、クリップ回路22からの正出力信号と、バレル・
シフト器28からのオーバーフロー(OVFL)出力と
である。なお、これら信号がクリップ範囲を定める。ク
リップされていない出力仮数信号は、クリップ回路30
により、正の場合に最大レベルにクリップされ、負の場
合に最小レベルにクリップされて、浮動小数点数値フォ
ーマットで出力仮数信号を発生するか、固定小数点数値
フォーマットで出力固定小数点数値信号を発生する。な
お、加算回路20及びクリップ回路22がクリップされ
たべき指数信号発生手段を構成し、カウンタ14、加算
回路24及びシフト・クリップ回路26がシフト制御信
号生成手段を構成する。また、これらクリップされたべ
き指数信号発生手段及びシフト制御信号生成手段がシフ
ト制御信号発生手段を構成する。そして、このシフト制
御信号発生手段、バレル・シフト器28及びクリップ回
路30がデジタル仮数信号発生手段を構成する。
【0012】固定小数点数値出力フォーマットでは、最
小及び最大べき指数定数を共に−Pに設定する。なお、
Pは、整数ビットの数値であり、符号ビットを計数しな
い。これら整数ビットは、出力における2進小数点の左
にある。浮動小数点出力では、最小及び最大べき指数定
数が、浮動小数点出力のべき指数信号が変化する範囲を
定義する。べき指数が大きすぎる数値を、最大正浮動小
数点レベル又は最小負浮動小数点レベルにクリップして
もよい。べき指数が小さすぎる数値のべき指数信号は、
最小べき指数レベルにクリップされて、非正規化とし、
べき指数信号のレベルが小さくなるにつれて、徐々にゼ
ロとなる。この処理は、漸次のアンダーフローとして知
られている。最小べき指数定数よりも小さいべき指数信
号に対して漸次アンダーフローにならない浮動小数点出
力フォーマットを維持するために、クリップ回路22か
らの正出力信号を用いて、仮数出力信号をゼロにクリッ
プする。固定小数点出力信号をクリップすることなくオ
ーバーフローできる固定小数点出力フォーマットを維持
するために、最大クリップ信号及びバレル・シフト器2
8からのオーバーフロー信号が出力を最大レベルにクリ
ップしないように禁止する。
小及び最大べき指数定数を共に−Pに設定する。なお、
Pは、整数ビットの数値であり、符号ビットを計数しな
い。これら整数ビットは、出力における2進小数点の左
にある。浮動小数点出力では、最小及び最大べき指数定
数が、浮動小数点出力のべき指数信号が変化する範囲を
定義する。べき指数が大きすぎる数値を、最大正浮動小
数点レベル又は最小負浮動小数点レベルにクリップして
もよい。べき指数が小さすぎる数値のべき指数信号は、
最小べき指数レベルにクリップされて、非正規化とし、
べき指数信号のレベルが小さくなるにつれて、徐々にゼ
ロとなる。この処理は、漸次のアンダーフローとして知
られている。最小べき指数定数よりも小さいべき指数信
号に対して漸次アンダーフローにならない浮動小数点出
力フォーマットを維持するために、クリップ回路22か
らの正出力信号を用いて、仮数出力信号をゼロにクリッ
プする。固定小数点出力信号をクリップすることなくオ
ーバーフローできる固定小数点出力フォーマットを維持
するために、最大クリップ信号及びバレル・シフト器2
8からのオーバーフロー信号が出力を最大レベルにクリ
ップしないように禁止する。
【0013】和及びキャリー・ビットを発生する3方向
(three-way )半加算器の単一レベルにより3方向加算
を実現し、単一の(N−1)ビット加算器を用いてキャ
リーを和ビットに加算する既知の方法のいくつかのアプ
リケーションにより、縦続接続加算器12、16、20
を組み合わせてもよい。本発明の第2実施例の図2に示
すように、図1の加算回路20と類似したシフト加算回
路20’において、オフセットべき指数信号Eo を最小
べき指数定数から減算してもよい。その結果のクリップ
べき指数信号Ec'をマルチプレックサ32に入力する。
その第2入力は、否定回路34が否定した符号付きべき
指数信号Es である。比較回路36は、クリップされて
いない出力べき指数信号Er を最小べき指数定数と比較
して、マルチプレックサ32用の選択信号及び出力クリ
ップ回路30用の制御信号を発生する。マルチプレック
サ32は、図1のクリップ回路22のゼロへのクリップ
を実現する。マルチプレックサ32の出力は、図1のよ
うなシフト・クリップ回路26に入力する。勿論、別の
必要性に応じてこの設計を変更する多くの方法がある。
なお、図2においては、カウンタ14、加算回路2
0’、クリップ回路26、マルチプレックサ32、否定
回路34、比較回路36が、シフト制御信号発生手段を
構成する。
(three-way )半加算器の単一レベルにより3方向加算
を実現し、単一の(N−1)ビット加算器を用いてキャ
リーを和ビットに加算する既知の方法のいくつかのアプ
リケーションにより、縦続接続加算器12、16、20
を組み合わせてもよい。本発明の第2実施例の図2に示
すように、図1の加算回路20と類似したシフト加算回
路20’において、オフセットべき指数信号Eo を最小
べき指数定数から減算してもよい。その結果のクリップ
べき指数信号Ec'をマルチプレックサ32に入力する。
その第2入力は、否定回路34が否定した符号付きべき
指数信号Es である。比較回路36は、クリップされて
いない出力べき指数信号Er を最小べき指数定数と比較
して、マルチプレックサ32用の選択信号及び出力クリ
ップ回路30用の制御信号を発生する。マルチプレック
サ32は、図1のクリップ回路22のゼロへのクリップ
を実現する。マルチプレックサ32の出力は、図1のよ
うなシフト・クリップ回路26に入力する。勿論、別の
必要性に応じてこの設計を変更する多くの方法がある。
なお、図2においては、カウンタ14、加算回路2
0’、クリップ回路26、マルチプレックサ32、否定
回路34、比較回路36が、シフト制御信号発生手段を
構成する。
【0014】N=8及び0.1011010×2**−6
の入力値に対する動作においては、べき指数範囲を[2
**2、2**−4]に変換するのが望ましい。最大べき指
数定数を2に設定し、最小べき指数定数を−4に設定す
る。べき指数オフセット定数は、ゼロに設定する。−6
のべき指数定数を図1の回路に入力し、Eo =−6、E
s =0、Er =−6及びEc =2とする。−6は−4よ
りも小さいので、出力べき指数信号Ef を−4にクリッ
プする。べき指数部分を2位置だけ右にシフトして、
0.0010110の出力仮数又は0.0010110
×2**−4の出力信号データ・ワードを発生する。
の入力値に対する動作においては、べき指数範囲を[2
**2、2**−4]に変換するのが望ましい。最大べき指
数定数を2に設定し、最小べき指数定数を−4に設定す
る。べき指数オフセット定数は、ゼロに設定する。−6
のべき指数定数を図1の回路に入力し、Eo =−6、E
s =0、Er =−6及びEc =2とする。−6は−4よ
りも小さいので、出力べき指数信号Ef を−4にクリッ
プする。べき指数部分を2位置だけ右にシフトして、
0.0010110の出力仮数又は0.0010110
×2**−4の出力信号データ・ワードを発生する。
【0015】浮動小数点数値フォーマット信号を固定小
数点[2**0]に変換するには、最大及び最小べき指数
の両方をゼロに設定し、べき指数オフセット定数もゼロ
に設定する。次に、E=−6、Eo =−6、Es =0、
Er =−6、Ec =6とし、Ef を用いない。仮数部分
を6ビット右にシフトして、出力仮数信号用の出力デー
タ・ワードとして、固定小数点表記で00000001
又は0.00000001にする。
数点[2**0]に変換するには、最大及び最小べき指数
の両方をゼロに設定し、べき指数オフセット定数もゼロ
に設定する。次に、E=−6、Eo =−6、Es =0、
Er =−6、Ec =6とし、Ef を用いない。仮数部分
を6ビット右にシフトして、出力仮数信号用の出力デー
タ・ワードとして、固定小数点表記で00000001
又は0.00000001にする。
【0016】他の例では、べき指数範囲は、[2**−
8、2**−13]である。次に、最大べき指数定数=−
8、最小べき指数定数=−13、べき指数オフセット定
数=0、E=Eo =−6、Es =0、Er =−6、Ec
=−7(ゼロにクリップされる)、Ef =−8である。
出力クリップ回路30にて、仮数部分をその最大にクリ
ップして、0.1111111の出力仮数信号データ・
ワードを発生する。浮動小数点数値出力データ・ワード
は、0.1111111×2**−8となる。
8、2**−13]である。次に、最大べき指数定数=−
8、最小べき指数定数=−13、べき指数オフセット定
数=0、E=Eo =−6、Es =0、Er =−6、Ec
=−7(ゼロにクリップされる)、Ef =−8である。
出力クリップ回路30にて、仮数部分をその最大にクリ
ップして、0.1111111の出力仮数信号データ・
ワードを発生する。浮動小数点数値出力データ・ワード
は、0.1111111×2**−8となる。
【0017】最後の例として、べき指数範囲を[2**1
4、2**−7]に制限する。次に、最大べき指数定数は
14であり、最小べき指数は−7であり、べき指数オフ
セット定数はゼロであり、E=Eo =−6、Es =0、
Er =−6、Ef =−6及びEc =−1(ゼロにクリッ
プされる)である。仮数部分はシフトされないので、出
力浮動小数点数値データ・ワードは、入力浮動小数点数
値データ・ワード、即ち、0.1011010×2**−
6に等しい。
4、2**−7]に制限する。次に、最大べき指数定数は
14であり、最小べき指数は−7であり、べき指数オフ
セット定数はゼロであり、E=Eo =−6、Es =0、
Er =−6、Ef =−6及びEc =−1(ゼロにクリッ
プされる)である。仮数部分はシフトされないので、出
力浮動小数点数値データ・ワードは、入力浮動小数点数
値データ・ワード、即ち、0.1011010×2**−
6に等しい。
【0018】べき指数が範囲[2**4、2**−1]内の
浮動小数点数値データ・ワードに変換すべき0101.
1010の如き固定小数点入力データ・ワードでは、最
大べき指数定数は4であり、最小べき指数定数は−1で
あり、固定小数点入力フォーマットでの2進小数点の位
置を示すべき指数オフセット定数は3であり、E=0、
Eo =3、Es =0、Er =3、Ec =−4及びEf =
3である。Ec を0にクリップするので、入力は、シフ
トされないままであり、出力仮数データ・ワードにな
る。浮動小数点出力データ・ワードは、0.10110
10×2**3になる。
浮動小数点数値データ・ワードに変換すべき0101.
1010の如き固定小数点入力データ・ワードでは、最
大べき指数定数は4であり、最小べき指数定数は−1で
あり、固定小数点入力フォーマットでの2進小数点の位
置を示すべき指数オフセット定数は3であり、E=0、
Eo =3、Es =0、Er =3、Ec =−4及びEf =
3である。Ec を0にクリップするので、入力は、シフ
トされないままであり、出力仮数データ・ワードにな
る。浮動小数点出力データ・ワードは、0.10110
10×2**3になる。
【0019】上述したベクトル大きさ場合では、2つの
16ビット整数信号X及びYが夫々の乗算器に入力し
て、32ビットのX及びYの2乗を発生する。これらX
及びYの2乗を加算回路に入力して、33ビットのこれ
ら2乗の和を発生する。次に、この33ビットの整数デ
ジタル・データ・ワードを本発明の数値フォーマット変
換装置に入力して、16ビット浮動小数点デジタル・デ
ータ・ワードを発生する。このデジタル・データ・ワー
ドをアドレスとして用いて、リード・オンリ・メモリ・
ルックアップ・テーブルをアクセスする。このルックア
ップ・テーブルは、固定小数点フォーマット・データ・
ワードとして、その結果の2乗の平方根を出力する。乗
算器、加算回路及び数値フォーマット変換装置をハード
ウェアで単一のASIC(用途限定集積回路)上に実現
してもよい。同様に、数値フォーマット変換装置を、除
算回路と関連して単一のASIC上に実現して、整数デ
ータ・ワードを除算用の浮動小数点データ・ワードに変
換し、出力用に固定小数点データ・ワードに戻してもよ
い。
16ビット整数信号X及びYが夫々の乗算器に入力し
て、32ビットのX及びYの2乗を発生する。これらX
及びYの2乗を加算回路に入力して、33ビットのこれ
ら2乗の和を発生する。次に、この33ビットの整数デ
ジタル・データ・ワードを本発明の数値フォーマット変
換装置に入力して、16ビット浮動小数点デジタル・デ
ータ・ワードを発生する。このデジタル・データ・ワー
ドをアドレスとして用いて、リード・オンリ・メモリ・
ルックアップ・テーブルをアクセスする。このルックア
ップ・テーブルは、固定小数点フォーマット・データ・
ワードとして、その結果の2乗の平方根を出力する。乗
算器、加算回路及び数値フォーマット変換装置をハード
ウェアで単一のASIC(用途限定集積回路)上に実現
してもよい。同様に、数値フォーマット変換装置を、除
算回路と関連して単一のASIC上に実現して、整数デ
ータ・ワードを除算用の浮動小数点データ・ワードに変
換し、出力用に固定小数点データ・ワードに戻してもよ
い。
【0020】
【発明の効果】よって、本発明は、ASICで実現可能
な信号処理用の数値フォーマット変換装置を提供でき
る。この数値フォーマット変換装置は、入力として、第
1数値フォーマットの信号デジタル・データ・ワードを
受け、第2数値フォーマットに応じて、指定したべき指
数範囲及びべき指数オフセット定数の関数として、べき
指数信号及び仮数/固定小数点信号を出力して、入力信
号データ・ワードを固定小数点から浮動小数点への変
換、浮動小数点から固定小数点への変換、又は浮動小数
点から別の浮動小数点データ・ワードへの変換が可能に
なる。
な信号処理用の数値フォーマット変換装置を提供でき
る。この数値フォーマット変換装置は、入力として、第
1数値フォーマットの信号デジタル・データ・ワードを
受け、第2数値フォーマットに応じて、指定したべき指
数範囲及びべき指数オフセット定数の関数として、べき
指数信号及び仮数/固定小数点信号を出力して、入力信
号データ・ワードを固定小数点から浮動小数点への変
換、浮動小数点から固定小数点への変換、又は浮動小数
点から別の浮動小数点データ・ワードへの変換が可能に
なる。
【図1】本発明による信号処理用数値フォーマット変換
装置の第1実施例のブロック図である。
装置の第1実施例のブロック図である。
【図2】本発明による信号処理用数値フォーマット変換
装置の第2実施例のブロック図である。
装置の第2実施例のブロック図である。
12、16、20、20’、24 加算回路 14 カウンタ 18、22、30 クリップ回路 26 シフト・クリップ回路 28 バレル・シフト器 32 マルチプレックサ 34 否定回路 36 比較回路 12、14、16、18 デジタルべき指数信号発生手
段 14、20、22、24、26、28、30 デジタル
仮数信号発生手段 12、16 組み合わせ手段 14、20、22、24、26 シフト制御信号発生手
段 14、20’、26、32、36 シフト制御信号発生
手段
段 14、20、22、24、26、28、30 デジタル
仮数信号発生手段 12、16 組み合わせ手段 14、20、22、24、26 シフト制御信号発生手
段 14、20’、26、32、36 シフト制御信号発生
手段
───────────────────────────────────────────────────── フロントページの続き (72)発明者 デーヴィッド・エイ・オーマン アメリカ合衆国 カリフォルニア州 95945グラス・バレー オーク・リッヂ・ ドライブ 21474 (72)発明者 ジェフリィ・ジェイ・ウォーカー アメリカ合衆国 カリフォルニア州 95945グラス・バレー コナウェイ・アベ ニュー 128
Claims (9)
- 【請求項1】 第1数値フォーマットの入力デジタル信
号を第2数値フォーマットの出力デジタル信号に変換す
る装置であって、 上記入力デジタル信号と、上記第1及び第2数値フォー
マットで決まるべき指数範囲及びべき指数オフセットと
から、デジタルべき指数信号を発生するデジタルべき指
数信号発生手段と、 上記入力デジタル信号、上記べき指数範囲及び上記べき
指数オフセットからデジタル仮数信号を発生し、上記第
2数値フォーマットが浮動小数点数値フォーマットのと
きに上記デジタルべき指数信号及び上記デジタル仮数信
号により上記出力デジタル信号を発生し、上記第2数値
フォーマットが固定小数点数値フォーマットのときに上
記デジタル仮数信号により上記出力デジタル信号を発生
するデジタル仮数信号発生手段とを具えた数値フォーマ
ット変換装置。 - 【請求項2】 上記デジタルべき指数信号発生手段は、 上記デジタル信号のデジタルべき指数部分をデジタルべ
き指数オフセット定数及び上記デジタル信号の符号ビッ
ト部分と組み合わせて、中間べき指数信号を発生する組
み合わせ手段と、 デジタル最小べき指数定数及びデジタル最大べき指数定
数により決まるべき指数範囲に応じて上記中間べき指数
信号をクリップして、上記デジタルべき指数信号を発生
する手段とを具えたことを特徴とする請求項1の数値フ
ォーマット変換装置。 - 【請求項3】 上記組み合わせ手段は、 上記デジタルべき指数オフセット定数を上記デジタルべ
き指数部分と加算してオフセットべき指数信号を発生す
る第1加算回路と、 上記符号ビット部分からシフトべき指数信号を発生する
手段と、 上記オフセットべき指数信号から上記シフトべき指数信
号を減算して上記中間べき指数信号を発生する第2加算
回路とを具えたことを特徴とする請求項2の数値フォー
マット変換装置。 - 【請求項4】 上記デジタル仮数信号発生手段は、 上記中間べき指数信号、上記デジタル最小べき指数定数
及び上記符号ビット部分に応じてシフト制御信号を発生
するシフト制御信号発生手段と、 上記シフト制御信号に応じて、上記デジタル仮数部分か
ら上記デジタル出力仮数信号を発生する手段とを具えた
ことを特徴とする請求項2の数値フォーマット変換装
置。 - 【請求項5】 上記シフト制御信号発生手段は、 上記デジタル最小べき指数定数に応じて上記中間べき指
数信号からクリップされたべき指数信号を発生するクリ
ップされたべき指数信号発生手段と、 上記符号ビット部分に応じて上記クリップされたべき指
数信号から上記シフト制御信号を生成するシフト制御信
号生成手段とを具えたことを特徴とする請求項4の数値
フォーマット変換装置。 - 【請求項6】 上記クリップされたべき指数信号発生手
段は、 上記デジタル最大べき指数定数から上記中間べき指数信
号を減算して、クリップべき指数信号を発生する第3加
算回路と、 上記クリップべき指数信号をクリップして、上記クリッ
プされたべき指数信号を発生する手段とを具えた請求項
5の数値フォーマット変換装置。 - 【請求項7】 上記シフト制御信号生成手段は、 上記符号ビット部分からシフトべき指数信号を抽出する
手段と、 上記クリップされたべき指数信号から上記シフトべき指
数信号を減算して、シフト制御べき指数信号を発生する
第4加算回路と、 上記シフト制御べき指数信号をクリップして、上記シフ
ト制御信号を発生する手段とを具えた請求項5の数値フ
ォーマット変換装置。 - 【請求項8】 上記シフト制御信号発生手段は、 上記デジタル最小べき指数定数から上記オフセットべき
指数信号を減算して、クリップべき指数信号を発生する
第3加算回路と、 上記中間べき指数信号を上記デジタル最小べき指数定数
と比較して選択信号を発生する手段と、 上記選択信号に応じて、上記符号ビット部分から得た否
定シフトべき指数信号及び上記クリップべき指数信号の
間で選択を行い、シフト制御べき指数信号を発生する手
段と、 上記シフト制御べき指数信号をクリップして、上記シフ
ト制御信号を発生する手段とを具えたことを特徴とする
請求項4の数値フォーマット変換装置。 - 【請求項9】 第1数値フォーマットの入力デジタル信
号を第2数値フォーマットの出力デジタル信号に変換す
る装置であって、 上記第1数値フォーマットが固定小数点数値フォーマッ
トのときにゼロである上記入力デジタル信号のデジタル
べき指数信号部分にデジタル・オフセットべき指数定数
を加算して、オフセットべき指数信号を発生する手段
と、 上記入力デジタル信号からシフトべき指数信号を抽出す
る手段と、 上記オフセットべき指数信号から上記シフトべき指数信
号を減算して、出力べき指数信号を発生する手段と、 最小べき指数デジタル定数及び最大べき指数デジタル定
数で決まるべき指数範囲に上記出力べき指数信号をクリ
ップして、最終出力べき指数信号を発生する出力べき指
数信号クリップ手段と、 上記最小べき指数デジタル定数から上記出力べき指数信
号を減算して、クリップべき指数信号を発生する手段
と、 上記クリップべき指数信号をクリップして、クリップさ
れたべき指数信号を発生するクリップべき指数信号クリ
ップ手段と、 上記クリップされたべき指数信号から上記シフトべき指
数信号を減算してシフト制御信号を発生する手段と、 上記シフト制御信号を制限して、制限されたシフト制御
信号を発生する手段と、 上記制限されたシフト制御信号の制御により上記入力デ
ジタル信号をシフトして、出力仮数信号を発生するシフ
ト手段と、 上記出力べき指数信号クリップ手段からの最大クリップ
信号、上記クリップべき指数信号クリップ手段からの制
御信号及び上記シフト手段からのオーバーフロー信号に
応じて上記出力仮数信号をクリップして、最終出力仮数
信号を発生する手段とを具え、 上記第2数値フォーマットが浮動小数点数値フォーマッ
トのときに上記出力デジタル信号が上記最終べき指数信
号及び上記最終仮数信号であり、上記第2数値フォーマ
ットが固定小数点フォーマットのときに上記出力デジタ
ル信号が上記最終出力仮数信号であることを特徴とする
数値フォーマット変換装置。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US08/366,274 US5619198A (en) | 1994-12-29 | 1994-12-29 | Number format conversion apparatus for signal processing |
| US08/366,274 | 1994-12-29 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH08255073A true JPH08255073A (ja) | 1996-10-01 |
| JP2884057B2 JP2884057B2 (ja) | 1999-04-19 |
Family
ID=23442369
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP7350962A Expired - Lifetime JP2884057B2 (ja) | 1994-12-29 | 1995-12-25 | 数値フォーマット変換装置 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US5619198A (ja) |
| JP (1) | JP2884057B2 (ja) |
| DE (1) | DE19549066A1 (ja) |
| GB (1) | GB2296802B (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012205005A (ja) * | 2011-03-24 | 2012-10-22 | Semiconductor Components Industries Llc | 浮動小数点数のビット長変換回路およびそれを用いた振動補正制御回路 |
Families Citing this family (22)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6144977A (en) * | 1995-07-10 | 2000-11-07 | Motorola, Inc. | Circuit and method of converting a floating point number to a programmable fixed point number |
| US6249798B1 (en) * | 1996-10-10 | 2001-06-19 | Institute For The Development Of Emerging Architectures, L.L.C. | Method, apparatus and computer system for directly transferring and translating data between an integer processing unit and a floating point processing unit |
| KR19980082906A (ko) * | 1997-05-09 | 1998-12-05 | 김영환 | 부동 소수점 숫자의 정수형으로의 변환 방법 |
| US6298367B1 (en) | 1998-04-06 | 2001-10-02 | Advanced Micro Devices, Inc. | Floating point addition pipeline including extreme value, comparison and accumulate functions |
| US6131104A (en) * | 1998-03-27 | 2000-10-10 | Advanced Micro Devices, Inc. | Floating point addition pipeline configured to perform floating point-to-integer and integer-to-floating point conversion operations |
| US7242414B1 (en) * | 1999-07-30 | 2007-07-10 | Mips Technologies, Inc. | Processor having a compare extension of an instruction set architecture |
| US6912559B1 (en) | 1999-07-30 | 2005-06-28 | Mips Technologies, Inc. | System and method for improving the accuracy of reciprocal square root operations performed by a floating-point unit |
| US7346643B1 (en) * | 1999-07-30 | 2008-03-18 | Mips Technologies, Inc. | Processor with improved accuracy for multiply-add operations |
| US6405232B1 (en) | 1999-08-19 | 2002-06-11 | National Semiconductor Corporation | Leading bit prediction with in-parallel correction |
| US6490606B1 (en) | 1999-08-19 | 2002-12-03 | National Semicondcutor Corporation | Rounding denormalized numbers in a pipelined floating point unit without pipeline stalls |
| US6801924B1 (en) | 1999-08-19 | 2004-10-05 | National Semiconductor Corporation | Formatting denormal numbers for processing in a pipelined floating point unit |
| US6415308B1 (en) | 1999-08-19 | 2002-07-02 | National Semiconductor Corporation | Converting negative floating point numbers to integer notation without two's complement hardware |
| US6523050B1 (en) | 1999-08-19 | 2003-02-18 | National Semiconductor Corporation | Integer to floating point conversion using one's complement with subsequent correction to eliminate two's complement in critical path |
| US6205462B1 (en) | 1999-10-06 | 2001-03-20 | Cradle Technologies | Digital multiply-accumulate circuit that can operate on both integer and floating point numbers simultaneously |
| US6996596B1 (en) | 2000-05-23 | 2006-02-07 | Mips Technologies, Inc. | Floating-point processor with operating mode having improved accuracy and high performance |
| JP4086459B2 (ja) * | 2000-11-13 | 2008-05-14 | Necエレクトロニクス株式会社 | 固定小数点データ生成方法及び固定小数点データ生成回路 |
| US6587070B2 (en) * | 2001-04-03 | 2003-07-01 | Raytheon Company | Digital base-10 logarithm converter |
| US6981009B2 (en) * | 2002-07-09 | 2005-12-27 | Silicon Integrated Systems Corp. | Apparatus and method for computing a logarithm of a floating-point number |
| CN107608716B (zh) * | 2011-04-01 | 2020-12-15 | 英特尔公司 | 向量友好指令格式及其执行 |
| US9792087B2 (en) | 2012-04-20 | 2017-10-17 | Futurewei Technologies, Inc. | System and method for a floating-point format for digital signal processors |
| US9431987B2 (en) * | 2013-06-04 | 2016-08-30 | Sony Interactive Entertainment America Llc | Sound synthesis with fixed partition size convolution of audio signals |
| US9916130B2 (en) * | 2014-11-03 | 2018-03-13 | Arm Limited | Apparatus and method for vector processing |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB1388593A (en) * | 1971-04-22 | 1975-03-26 | Olivetti & Co Spa | Output format control for electronic computers |
| US4589067A (en) * | 1983-05-27 | 1986-05-13 | Analogic Corporation | Full floating point vector processor with dynamically configurable multifunction pipelined ALU |
| JPS61123928A (ja) * | 1984-09-05 | 1986-06-11 | Hitachi Ltd | 浮動小数点データ処理装置 |
| JPH0644225B2 (ja) * | 1986-03-27 | 1994-06-08 | 日本電気株式会社 | 浮動小数点丸め正規化回路 |
| JPH04290122A (ja) * | 1991-03-19 | 1992-10-14 | Fujitsu Ltd | 数値表現変換装置 |
-
1994
- 1994-12-29 US US08/366,274 patent/US5619198A/en not_active Expired - Fee Related
-
1995
- 1995-12-25 JP JP7350962A patent/JP2884057B2/ja not_active Expired - Lifetime
- 1995-12-29 GB GB9526664A patent/GB2296802B/en not_active Expired - Fee Related
- 1995-12-29 DE DE19549066A patent/DE19549066A1/de not_active Withdrawn
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012205005A (ja) * | 2011-03-24 | 2012-10-22 | Semiconductor Components Industries Llc | 浮動小数点数のビット長変換回路およびそれを用いた振動補正制御回路 |
Also Published As
| Publication number | Publication date |
|---|---|
| GB9526664D0 (en) | 1996-02-28 |
| GB2296802A (en) | 1996-07-10 |
| JP2884057B2 (ja) | 1999-04-19 |
| GB2296802B (en) | 1999-06-16 |
| DE19549066A1 (de) | 1996-07-04 |
| US5619198A (en) | 1997-04-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2884057B2 (ja) | 数値フォーマット変換装置 | |
| US7188133B2 (en) | Floating point number storage method and floating point arithmetic device | |
| US4727508A (en) | Circuit for adding and/or subtracting numbers in logarithmic representation | |
| US4682302A (en) | Logarithmic arithmetic logic unit | |
| US5222037A (en) | Floating-point processor for performing an arithmetic operation on fixed-point part data with high speed rounding of a result | |
| US5185713A (en) | Product adder for perfoming multiplication of floating point data and addition of fixed point data | |
| US10019231B2 (en) | Apparatus and method for fixed point to floating point conversion and negative power of two detector | |
| JPH04290122A (ja) | 数値表現変換装置 | |
| JPH01125626A (ja) | 逆数計算方法 | |
| JPH0635680A (ja) | 対数を計算するディジタル回路及びコンピュータシステムを動作させる方法 | |
| US5111421A (en) | System for performing addition and subtraction of signed magnitude floating point binary numbers | |
| US4594680A (en) | Apparatus for performing quadratic convergence division in a large data processing system | |
| US4956799A (en) | Trigonometric function arithmetic processor using pseudo-division | |
| US5337266A (en) | Method and apparatus for fast logarithmic addition and subtraction | |
| US5282156A (en) | Leading one anticipator and floating point addition/subtraction apparatus employing same | |
| US9767073B2 (en) | Arithmetic operation in a data processing system | |
| US6151612A (en) | Apparatus and method for converting floating point number into integer in floating point unit | |
| JPH11212768A (ja) | 対数値算出回路 | |
| US4977534A (en) | Operation circuit based on floating-point representation with selective bypass for increasing processing speed | |
| US10310809B2 (en) | Apparatus and method for supporting a conversion instruction | |
| GB2621136A (en) | Floating point number decoder | |
| JPS62197868A (ja) | パイプライン構成の直線近似変換回路 | |
| JP2645422B2 (ja) | 浮動小数点演算処理装置 | |
| JP4163967B2 (ja) | 浮動小数点演算装置 | |
| US4716538A (en) | Multiply/divide circuit for encoder PCM samples |