検証スレッド１４
- 841 名前： 名も無き軍師 投稿日：2008/02/13(水) 22:47:19 ID:uqO/smHY
- そうですな、誰も厳密な数字が欲しいわけではなくて
比較するときの目安が欲しいだけだから適度に楽な値で十分
誤差は演算よりはやければはやいほど、結果に大きな影響を与えてしまうので
定数類はもう少し下位の桁まであると良いかもね
例)
四捨五入して 23.45 は 5 の部分が誤差を含んでいる
23.45＋23.45 を計算すると 46.90 になるが誤差を含んでいる桁は .90 の２桁に増える
あらかじめ計算する値を 23.445 のように１桁多く状態で四捨五入しておくと、23.890 と
なり、この四捨五入の結果は 23.89 で誤差は 9 の桁のみが含んでいる状態に済む
掛け算を計算すると誤差を含んでしまう桁数は飛躍的に増えるから
JavaScript で何桁ぐらいまで扱えるかしらないけど、それなりの桁数を指定しておくのも悪くない