ROUTE 3390

備忘録的な用途で書いていますが、どなたかの役に立つ事があれば嬉しいです。

2013-01-06から1日間の記事一覧

プログラムでの小数計算で誤差を含んでしまう原因と解決方法

Perlに限らずだいたいのプログラムでは小数点の扱いが苦手。 なぜなら浮動小数点方式というデータの持ち方をしているから。 10進数の0.1を浮動小数点方式では正確に表現出来ない(循環小数となり、途中で丸められてしまう)そのため近似値で扱うことになり、…