τρ 検証スレッド５ οκ
- 455 名前： 名も無き軍師 投稿日：2003/11/12(水) 16:11 ID:lG.6M7CQ
- >>453
言語とコンパイラによるなぁ。
C言語だと、整数型同士の演算は整数なので、
int a=3; int b=2;
float f = a/b;
とした時に f=1.0 になる。a/b = 3/2 = 1 な。
より高級な言語だと、除算は問答無用に小数にしてくれるのもあったような。
とりあえず確証は無いが自信を持っていえることは、
除算を全て整数にする専用のルーチンなんぞ用意していないであろう。
ということだ。
整数か小数かで結果は変わるけれどそれは1とか2とかだけ。
ともかく式を立ててみて、それをデータと突き合わせてみる。
いくつかが、1,2くらい誤差があるようなら、小数のまるめこみの可能性を考慮すればよいかと。