JPH07248902A - 浮動小数点演算装置とその誤差補正方法および線形計画問題最適化装置とその最適解の求解方法 - Google Patents

浮動小数点演算装置とその誤差補正方法および線形計画問題最適化装置とその最適解の求解方法

Info

Publication number
JPH07248902A
JPH07248902A JP4092694A JP4092694A JPH07248902A JP H07248902 A JPH07248902 A JP H07248902A JP 4092694 A JP4092694 A JP 4092694A JP 4092694 A JP4092694 A JP 4092694A JP H07248902 A JPH07248902 A JP H07248902A
Authority
JP
Japan
Prior art keywords
exponent
unit
result
calculation
floating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP4092694A
Other languages
English (en)
Inventor
Naoto Honda
直人 本多
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP4092694A priority Critical patent/JPH07248902A/ja
Publication of JPH07248902A publication Critical patent/JPH07248902A/ja
Withdrawn legal-status Critical Current

Links

Abstract

(57)【要約】 【目的】 浮動小数点演算装置とその誤差補正方法およ
びその浮動小数点演算装置を備えた線形計画問題最適化
装置とその最適解の求解方法に関し,演算結果の誤差の
影響が後続の演算に影響しないようにすることを目的と
する。 【構成】 正規化浮動小数点数の指数保持部A(10)と,
演算結果の正規化浮動小数点数の指数保持部B(13)と,
演算結果を補正するかしないかの判定基準の閾値を保持
する閾値保持部(11)と,演算前の該指数と演算後の該指
数の比較結果と該閾値を比較し,演算結果の補正を行う
かあるいは行わないかを判定する指数比較部(12)と,指
数比較部(12)の比較結果に基づいて演算結果を補正する
演算結果変更部(14)とを備え,演算前の該指数と該演算
後の該指数の比較結果が該閾値より大きい場合には,演
算結果を0に補正する構成を持つ。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は,浮動小数点演算装置と
その誤差補正方法およびその浮動小数点演算装置を備え
た線形計画問題最適化装置とその最適解の求解方法に関
する。
【0002】コンピュータにより浮動小数点演算を行う
場合には,計算桁が有限であることに起因する誤差を生
じる場合がある。特に線形計画問題最適化装置では,最
適解を得るまでに膨大な量の浮動小数点演算を必要とす
るので,その過程で上記の数値誤差が累積され,そのた
め,掃き出し回数の増加等で計算時間が長くなったり,
無限ループを生じ最適解に収束しないことがしばしば起
こる(掃き出しについては後述する)。
【0003】
【従来の技術】従来はそのような誤差に基づく障害を回
避するため,掃き出し点を選択する場合にできるだけ誤
差を発生させない掃き出し点を選択するようにしてい
た。また,誤差が発生した場合には,ある定められた値
以下の小さな値は0とするように,決められた小さな値
(トレランス値)を境にまるめ処理補正を行う程度であ
った。
【0004】図7,図8により,シンプレックス法によ
る線形計画問題の最適解の求め方について説明する。線
形計画問題は,図7 (a)に示す,制約条件,,,
において,目的関数のzを最大にする解,x1 ,x
2 ,・・・,xk を求める問題である。
【0005】ここで,図7 (b)に示すように,スラック
変数を導入して標準形の連立方程式とする(スラック変
数については例題を参照)。このとき,d1 ≧0 ,d
2 ≧0,・・・,dm ≧0とする。
【0006】シンプレックス法は,このとき図7 (c)に
示すように,x1 ,x2 ,・・・,xn の係数および定
数項の作る行列に次の操作を行って最適解を求める方法
である。
【0007】ステップ1 c1 , c2 ,・・・,cn
中で負の成分がなければ, それはすでに最適解であり,
処理を終了する。負の成分があれば, その絶対値が最大
なものをとる。それをcs とする。
【0008】ステップ2 第s列中,ais>0となるa
isをすべて求める。 ステップ3 ステップ2で求めたaisについてdi /a
isを計算し,最小のものをとる。最小のものが2つ以上
あるときはいずれでも良い。それをarsとする。
【0009】ステップ4 arsをピボットとするピボッ
ト変形を行いステップ1に戻る(ピボット変形について
は例題参照)。 図8により,上記の方法について,例題により説明す
る。
【0010】図8 (a)のの制約条件を元に,目的関数
を最大とするx,yを求める。問題式 (a)に対してス
ラック変数(x3 ,x4 )を導入して,標準形とし,z
も変数にして図8 (b)の連立方程式を得る。
【0011】そこで,x1 ,x2 ,x3 ,x4 の係数お
よび定数項からなる行列を作る(図8 (c))。図8 (c)
の行列に対してステップ1を実行する。
【0012】cs は(3,2)成分の c2 =−4であ
る。ステップ2で求める第2列中正であるものは,a12
=1とa22=3である。ステップ3で,20/1=20
と32/3=10.66・・・を比較する。32/3の
方が小さいのでars=a22をピボットとする。
【0013】ステップ4でa22をピボットとしてピボッ
ト変形を行うことにより図8 (d)の行列を得る(ピボッ
ト変形は (d)のようにピボットとした要素a22のある列
において,ピボットとした要素を1とし,他は0とする
変形である。この処理を掃き出しと称する)。
【0014】ここで,ステップ1に戻る。 c1 =−1/
3が負の項であるので,ステップ2へ進む。a11=4/
3>0,a21=2/3>0である。ステップ3で,(2
8/3)/(4/3)=28/4=7,(32/3)/
(2/3)=32/2=16である。7の方が小さいの
で,ars=a11=4/3をピボットとする。
【0015】ステップ4で,a11をピボットとしてピボ
ット変形を行い,図8 (e)の行列を得る(掃き出しをす
る)。ステップ1にもどる。 c1 ≧0,・・・, c4
0,即ち全部非負なので終了する。
【0016】x3 =0,x4 =0として,図8 (f)を最
適解とする。このとき目的関数zの値はz=45であっ
て,最大である(上記において,シンプレックス方の説
明は,紀伊國屋書店発行,伊藤 昇,岩井 齋良,岩堀
長慶,上林 達治,関野 薫,高橋 秀一著,「経済
系・工学系のための行列とその応用」を参照した)。
【0017】図9は従来の線形計画問題最適化装置で使
用される浮動小数点演算装置の加減算処理のフローチャ
ートを示す。図示の番号に従って説明する。
【0018】S1 正規化された浮動小数点データを入
力する。 S2 加算もしくは減算をする。 S3 小さな値についてまるめ処理をする。
【0019】S4 演算結果を出力する。
【0020】
【発明が解決しようとする課題】上記のように,変数が
多い場合は,線形計画問題の最適解を求めるためには,
膨大な数の演算処理を行わなければならない。そのた
め,コンピュータの桁の精度が有限であることに起因す
る誤差が累積され,掃き出し回数の増加,処理がループ
して最適解に収束しない等を生じる場合があった。
【0021】誤差の影響について,図10により説明す
る。図10は浮動小数点演算における誤差の問題点の説
明図である。図10 (a)は浮動小数点演算における正規
化の説明図である。
【0022】浮動小数点演算では,数値は全て正規化し
て,有効数字を小数点以下第1位から始まるように仮数
部と指数部に分けて表すようにする。例えば,有効数字
4桁の1234は0.1234×104 とし,符号部を
正負の符号,指数部を104 の指数4,仮数部を仮数1
234として表す。
【0023】次に図10により,浮動小数点演算によ
り,A−B=C,C×1000=Dを計算する場合の誤
差について説明する。Bは他の演算処理により求められ
るものとする。
【0024】Bは正規化されて,B=0.4×10が正
しい値であるが,Bの算出処理において誤差を生じ,正
規化して0.39999999×10が求められたもの
とする。
【0025】図10において, Aのデータ入力をする。そして,に正規化された
浮動小数点数Aが入力される。
【0026】 Bの算出処理がなされる。そして,
に正規化された浮動小数点数Bが入力される。Bは0.
4×10が正しい値(望まれる値)であるが,演算誤差
のために,0.39999999×10が算出され,
に入力される。
【0027】において,C=A−Bが算出され,正規
化されて,C=0.1×10-6が求められる。望まれる
正しいCの値は,C=0.4×10−0.4×10=0
であるが,Bの算出処理の誤差のため,C=0.1×
10-6が算出される。
【0028】でC×1000=Dの処理がなされる。
の演算結果Cにより,D=0.1×10-3が求めら
れ,で出力される。のBの算出処理でBが正しく求
められていれば,D=0であるはずであるが,誤差を生
じているためでBの誤差が拡大されて出力される。
【0029】本発明は,浮動小数点演算において,演算
結果の誤差の影響が後続の演算に影響しないようにし,
特に,線形計画問題に適用して有効な浮動小数点演算装
置と誤差補正方法およびその線形計画問題最適化装置と
その最適解の求解方法を提供することを目的とする。
【0030】
【課題を解決するための手段】浮動小数点(特に,倍精
度の浮動小数点)加減算では,演算結果が演算前の数値
と比較して非常に小さい値(0に近い値)となる場合が
ある。例えば,演算前の指数部の値が10(データ値が
10桁)から0(データ値が1桁)に変化するような場
合である。これは,コンピュータの演算桁が有限である
ことに基づく誤差により生じたものである場合が多く,
本来は等しいはずの2数が,誤差により非常に小さい値
を生じたものであり,正しくは0であるものと考えられ
る。
【0031】本発明は,このように加減算の前後で,指
数部の値が大きく変化して,小さい値を生じた場合は演
算結果を0とするようにした。この処理を相対誤差補正
と称する。
【0032】図1は本発明の基本構成を示す。図1にお
いて,1は浮動小数点演算装置である。
【0033】2は演算データ入力部であって,正規化デ
ータを入力するものである。3は演算データ保持部であ
って,正規化された入力データを符号部,指数部,仮数
部に分けて保持するものである。
【0034】4は演算部であって,加減算をするもので
ある。5は正規化処理部である。6は演算結果保持部で
ある。
【0035】7は相対誤差補正部であって,演算の前後
の指数部の変化を判定し,変化の程度に従って演算結果
を補正するものである。8は演算結果出力部である。
【0036】10は指数保持部Aであって,入力された
演算データの指数部の値を保持するものである。11は
閾値保持部であって,演算結果を変更するかしないかを
判定するための閾値を保持するものである。
【0037】12は指数比較部であって,演算前の入力
データの指数部と演算結果の指数部を比較するものであ
る。13は指数保持部Bであって,演算結果の指数部の
値を保持するものである。
【0038】14は演算結果変更部であって,演算結果
を補正するものである。
【0039】
【作用】図2を参照し,図1の本発明の基本構成の動作
を説明する。図2は本発明の基本構成の動作例を示す。
【0040】演算データ入力部2は正規化された演算デ
ータを入力する。図2の場合,A=0.4×10であ
り,B=0.39999999×10が入力される。演
算データ保持部3はそれぞれの入力データを符号部,指
数部,仮数部に分けて保持する。演算部4はA,Bを減
算し,正規化処理部5は正規化処理をし,演算結果保持
部6は正規化した演算結果0.1×10-6を符号部,指
数部,仮数部に分けて保持する(指数部の表し方は説明
の都合上便宜的に図示のように表したものである)。
【0041】一方,指数保持部A(10)は,演算データ保
持部3に保持されているデータの指数部(値01)を取
り出し保持する。また,指数保持部B(13)は演算結果保
持部6に保持されている指数部の値(−6)を取り出し
て保持する。そして,指数比較部12は例えば,指数保
持部A(10)の取り出した指数と,指数保持部B(13)の取
り出した指数の差をとり,閾値保持部11に保持されて
いる値5と比較する。そして,指数部の差が閾値より大
きい場合には,演算結果変更部14に演算結果の補正を
指示する。図の場合指数の差が7であり,閾値が5であ
るので,演算結果変更部14に演算結果の補正を指示す
る。
【0042】演算結果変更部14は,指数比較部12の
指示に従い,補正指示があれば演算結果保持部6に保持
されている演算結果を0に変更し,0を出力する。変更
指示がなければ,演算結果保持部6に保持している値を
出力する。
【0043】本発明は,演算結果の値が大きい値でも,
指数部の値が大きく変化して得られたものであって本来
0であるべきものである場合には,そのことを判定し,
0に正しく補正する。
【0044】従って,本発明によれば,線形計画問題最
適化装置のような多次元の連立方程式の解をもとめるよ
うな演算処理に対して正確な演算処理を行うことができ
るようになる。
【0045】
【実施例】図3は本発明の浮動小数点演算装置を備えた
線形計画問題最適化装置の構成実施例を示す。
【0046】図3において,20は線形計画問題最適化
装置であって,シンプレックス法により線形計画問題の
最適解を求める線形計画問題最適解求解手段と,本発明
の相対誤差補正部をもつ浮動小数点演算装置を備えたも
のである。
【0047】21はCPUである。22は主記憶であ
る。23は入力手段であって,演算データ,制約条件,
目的関数等を入力するものである。
【0048】24は出力手段であって,演算結果を出力
するディスプレイ,印刷装置等である。25は浮動小数
点演算装置である。
【0049】26は乗除算部であって,乗算もしくは除
算を行うものである。27は加減算部であって,加算も
しくは減算をするものである。28は相対誤差補正部で
あって,前述のものである。
【0050】30は線形計画問題最適解求解手段であっ
て,シンプレックス法により線形計画問題の最適解を求
めるものである。31はステップ1である(前記参
照)。
【0051】32はステップ2である(前記参照)。3
3はステップ3である(前記参照)。34はステップ4
であって,掃き出し処理を行うものである(前記参
照)。
【0052】35は制約条件である。36は目的関数で
ある。37は演算データである。
【0053】図3の構成において,線形計画問題最適解
求解手段30は,浮動小数点演算装置25を使用して,
制約条件35と演算データ37に基づいてステップ1(3
1),ステップ2(32)ステップ3(32),ステップ4(34)に
従って目的関数36の最適解を求める。浮動小数点演算
装置25においては,相対誤差補正部28は,加減算処
理の演算結果について,前述の相対誤差を判定し,補正
が必要であれば,演算結果を0に補正し,浮動小数点演
算を行う。
【0054】図4は本発明の浮動小数点演算装置の実施
例のフローチャートである。図4は倍精度の浮動小数点
演算装置の場合の動作である。 S1 倍精度浮動小数点数の加減算処理を開始する。
【0055】S2 倍精度浮動小数点数の指数部を取り
出す(指数部の値をmとする。演算データが2数以上あ
る場合には,そのいずれでも良い)。 S3 倍精度浮動小数点数の加算または減算を行う。
【0056】S4 倍精度浮動小数点数の指数部を取り
出す(取り出した値をnとする)。 S5 m−nを求め,m−nとある値(閾値)と比較す
る。m−n≧ある値であればS6に進み,m−n<ある
値であれば,処理を終了する。
【0057】S6 演算前の指数と演算後の指数の差m
−nがある値より大きいので,演算結果CをC=0.0
とする。 図5により,本発明の浮動小数点演算装置の実施例を説
明する。
【0058】図5は本発明の浮動小数点演算装置により
連立方程式を解く場合の例である。図5において,各浮
動小数はC言語の関数printf(“%e”,浮動小
数変数名)で出力させた値である。浮動小数点数は32
ビットで宣言してあるものとする。相対誤差補正で用い
る判定値(閾値)は5とする。
【0059】(a)の連立方程式を解くものとする。(a)の
(2) 式の右辺の値は0.1を100回加算処理して得ら
れたものである。計算方法は次のとおりである。
【0060】int i; float rhs2=0.0; for(i=1;i<=100;i++) rhs2+=0.01; 正しい演算結果は1であるが,演算誤差のため図示のよ
うに,9.999993e−01となったものである
(e−01は10-1を表す)。
【0061】(a)式について掃き出し計算を行い,解く
と (b)式が得られる。そこで, (a)式を解くのに本発明
の相対誤差補正を行いながら解くと次のようになる。
【0062】(c)式において( (c)式は (a)式に同じで
ある),下線の部分について掃き出しをする。そこで,
(2) −(1) を計算すると右辺の計算は (d)になる。ここ
で, (d)の演算結果に対して相対誤差補正を行う。
【0063】(2) 式の右辺9.999993e−01の
指数部を取り出すとm=−1である。(あるいは(1) 式
の右辺1.000000e+00の指数部を取り出して
m=0でも良い)。計算後の値の−6.556511e
−07の指数部を取り出すとn=−7である。次にそれ
ぞれの指数部の差を求めると,m−n=−1−(−7)
=6である(あるいはm−n=0−(−7)=7)。
【0064】この値を判定値(閾値)と比較すると5よ
りも大きい。そのため, (d)式の右辺の値を誤差補正し
て0とし, (f)式を得る。その結果,正しい (g)式が得
られる。
【0065】次に, (g)式のyについて掃き出しを行
う。即ち, (g)式の(1) −(2) ’/2.00000e+
00を計算すると,(h) 式が得られる。
【0066】従って,相対誤差補正を行うことにより正
しい式が得られる( (b)式の(2) ”の右辺の値が正しい
値に補正されている)。図6は本発明の効果の測定結果
を示す。
【0067】図6は,シンプレックス法により,マトリ
ックスの大きさが数十×数十〜数千×数千の81個の線
形計画問題最適化のための例題に対して,本発明の方法
と従来の方法とで掃き出し回数と掃き出し時間を求めた
ものである。改善率は改善量を相対誤差補正なしの量
(従来の方法による量)で本発明の方法による場合を割
ったものである。
【0068】掃き出し回数および掃き出し時間が,本発
明の方法により改善されることが示されている。
【0069】
【発明の効果】本発明は,演算結果の値が大きい値で
も,指数部の値が大きく変化して得られたものであって
本来0であるべきものである場合には,そのことを判定
し,0に正しく補正するので,従来,行われていたよう
な,演算結果が,あらかじめ定められた小さな値を基準
に補正するのでなく,演算の前後の値の大きさの変化に
より誤差の補正をするので,確実な誤差の補正を行うこ
とができるようになる。そのため,本発明によれば,線
形計画問題最適化装置のような多次元の連立方程式の解
をもとめるような演算処理に対して正確な演算処理を行
うことができるようになるとともに,演算速度も高速化
される。
【図面の簡単な説明】
【図1】本発明の基本構成を示す図である。
【図2】本発明の基本構成の動作例を示す図である。
【図3】本発明の浮動小数点演算装置を備えた線形計画
問題最適化装置の構成実施例を示す。
【図4】本発明の浮動小数点演算装置の実施例のフロー
チャートを示す図である。
【図5】本発明の実施例を示す図である。
【図6】本発明の効果の測定結果を示す図である。
【図7】線形計画問題の最適解の求め方を示す図であ
る。
【図8】例題(シンプレックス法)を示す図である。
【図9】従来の線形計画問題最適化装置で使用される浮
動小数点演算装置の加減算処理のフローチャートを示す
図である。
【図10】浮動少数点演算における誤差の問題点につい
ての説明図である。
【符号の説明】
1 :浮動小数点演算装置 2 :演算データ入力部 3 :演算データ保持部 4 :演算部(加減算) 5 :正規化処理部 6 :演算結果保持部 7 :相対誤差補正部 8 :演算結果出力部 10:指数保持部A 11:閾値保持部 12:指数比較部 13:指数保持部B 14:演算結果変更部

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】 正規化浮動小数点数の加減算を行う浮動
    小数点演算装置において,入力された正規化浮動小数点
    数の指数保持部A(10)と,演算結果の正規化浮動小数点
    数の指数保持部B(13)と,演算結果を補正するかしない
    かの判定基準の閾値を保持する閾値保持部(11)と,演算
    前の該指数と演算後の該指数の比較結果と該閾値を比較
    し,演算結果の補正を行うかあるいは行わないかを判定
    する指数比較部(12)と,指数比較部(12)の比較結果に基
    づいて演算結果を補正する演算結果変更部(14)とを備え
    た,ことを特徴とする浮動小数点演算装置。
  2. 【請求項2】 正規化浮動小数点数の加減算を行う浮動
    小数点演算装置における誤差補正方法において,入力さ
    れた正規化浮動小数点数の指数と演算結果の正規化浮動
    小数点数の指数との比較結果と,あらかじめ定めた閾値
    との比較結果に基づいて,演算結果を補正することを特
    徴とする浮動小数点演算装置の誤差補正方法。
  3. 【請求項3】 請求項1に記載の浮動小数点演算装置を
    備えた線形計画問題最適化装置において,制約条件と目
    的関数を保持し制約条件のもとに最適解を求める線形計
    画問題求解手段を備え,該線形計画問題求解手段により
    該浮動小数点演算装置(1) において浮動小数点演算をす
    ることにより最適解を求めることを特徴とする線形計画
    問題最適化装置。
  4. 【請求項4】 請求項1に記載の浮動小数点演算装置
    (1) を備えた線形計画問題最適化装置における最適解の
    求解方法において,入力された浮動小数点数の指数部
    と,演算結果の正規化浮動小数点数の指数部とを比較
    し,該比較結果をあらかじめ定めた閾値と比較し,その
    結果に基づいて演算結果を補正しながら該最適解を求め
    ることを特徴とする線形計画問題最適化装置における最
    適解の求解方法。
JP4092694A 1994-03-11 1994-03-11 浮動小数点演算装置とその誤差補正方法および線形計画問題最適化装置とその最適解の求解方法 Withdrawn JPH07248902A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4092694A JPH07248902A (ja) 1994-03-11 1994-03-11 浮動小数点演算装置とその誤差補正方法および線形計画問題最適化装置とその最適解の求解方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4092694A JPH07248902A (ja) 1994-03-11 1994-03-11 浮動小数点演算装置とその誤差補正方法および線形計画問題最適化装置とその最適解の求解方法

Publications (1)

Publication Number Publication Date
JPH07248902A true JPH07248902A (ja) 1995-09-26

Family

ID=12594115

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4092694A Withdrawn JPH07248902A (ja) 1994-03-11 1994-03-11 浮動小数点演算装置とその誤差補正方法および線形計画問題最適化装置とその最適解の求解方法

Country Status (1)

Country Link
JP (1) JPH07248902A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011248890A (ja) * 2010-05-28 2011-12-08 International Business Maschines Corporation 10進浮動小数点の量子例外検出

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011248890A (ja) * 2010-05-28 2011-12-08 International Business Maschines Corporation 10進浮動小数点の量子例外検出
US8219605B2 (en) 2010-05-28 2012-07-10 International Business Machines Corporation Decimal floating-pointing quantum exception detection
KR101464810B1 (ko) * 2010-05-28 2014-11-24 인터내셔널 비지네스 머신즈 코포레이션 십진 부동소수점 퀀텀 익셉션 검출

Similar Documents

Publication Publication Date Title
TWI526928B (zh) 向量浮點引數之減少
CN120780271A (zh) 基于定点数开方的数据输出方法、设备和存储介质
EP1207460A2 (en) Method and apparatus for solving simultaneous linear equations
EP3716043A1 (en) Information processor, information processing method, and program
CN112860218A (zh) 用于fp16浮点数据和int8整型数据运算的混合精度运算器
JPH07248902A (ja) 浮動小数点演算装置とその誤差補正方法および線形計画問題最適化装置とその最適解の求解方法
JP5949002B2 (ja) 画像マッチング方法、およびこの方法を用いた画像マッチング装置およびプログラム
CN119378274A (zh) 交曲线求交方法及装置、电子设备及存储介质
Sarra et al. On the numerical solution of chaotic dynamical systems using extend precision floating point arithmetic and very high order numerical methods
Melquiond Plotting in a formally verified way
US7941473B2 (en) Calculation apparatus and storage medium in which calculation program is stored
JP2004005395A (ja) 演算処理装置、半導体デバイス
JPS63186329A (ja) 三角関数前処理装置
Geyer et al. Efficient and mathematically robust operations for certified neural networks inference
CN113157538B (zh) Spark运行参数的确定方法、装置、设备和存储介质
JP2752948B2 (ja) 浮動小数点演算装置
EP1324233A2 (en) Grid convergence solution computation system
CN114817839B (zh) 一种针对基-2^kFFT旋转因子常数值确定的图解算法
JPH10133856A (ja) 丸め機能付き乗算方法及び乗算器
TW201643813A (zh) 點雲拼接系統及方法
CN120215875A (zh) 基于跳零思想的cordic算法优化方法及相关装置
JP2002215384A (ja) 多入力加減算回路
US6035314A (en) Information processing method
JP2003067178A (ja) データ演算処理装置及びデータ演算処理プログラム
JP2024174571A (ja) 指標計算装置、方法及びプログラム

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20010605