C言語の話 - みなのお勉強の部屋

• Arcsinの罠

シミュレーションなどで、たまに、Arcsin(1)となるときがあるのだけれど、
このとき、1が計算結果だったりすると、丸め誤差などのせいで、1.00000000001とかになったりする。
その結果、N/Aとなったりして、計算がうまくいかないことがある。
理論的に1ぴったりになるときでも、コンピューター計算では、「1を超えたら」というチェックをするべき。
これで、僕は相当時間を食いましたとさ。