14. 浮動小数点演算、その問題と制限

浮動小数点数は、計算機ハードウェアの中では、基数を 2 とする (2進法の) 分数として表現されています。例えば、小数

0.125

は、 1/10 + 2/100 + 5/1000 という値を持ちますが、これと同様に、2 進法の分数

0.001

は 0/2 + 0/4 + 1/8 という値になります。これら二つの分数は同じ値を持っていますが、ただ一つ、最初の分数は基数 10 で記述されており、二番目の分数は基数 2 で記述されていることが違います。

残念なことに、ほとんどの小数は 2 進法の分数として正確に表わすことができません。その結果、一般に、入力した 10 進の浮動小数点数は、 2 進法の浮動小数点数で近似された後、実際にマシンに記憶されます。

最初は基数 10 を使うと問題を簡単に理解できます。分数 1/3 を考えてみましょう。分数 1/3 は、基数 10 の分数として、以下のように近似することができます:

0.3

さらに正確な近似は、

0.33

さらに正確な近似は、

0.333

となり、以後同様です。何個桁数を増やして書こうが、結果は決して厳密な 1/3 にはなりません。しかし、少しづつ正確な近似にはなっていくでしょう。

同様に、基数を 2 とした表現で何桁使おうとも、10 進数の 0.1 は基数を 2 とした小数で正確に表現することはできません。基数 2 では、1/10 は循環小数 (repeating fraction) となります

0.0001100110011001100110011001100110011001100110011...

どこか有限の桁で止めると、近似値を得ることになります。

Python を実行する典型的なコンピュータでは、 Python の float 型は 53bit の精度を持っています。この場合、10進数で 0.1 と書いたときに内部では次のような2進の小数が格納されます。

0.00011001100110011001100110011001100110011001100110011010

これは、 1/10 に近いですが、厳密に同じ値ではありません。

Python は格納されている値の10進小数での近似値を表示するので、格納されている値が元の10進小数の近似値でしか無いことを忘れがちです。もし Python が2進数で近似された 0.1 の近似値をそのまま10進数で表示していたら、その結果は次のようになったでしょう。

>>> 0.1
0.1000000000000000055511151231257827021181583404541015625

これは、ほとんどの人が必要と感じるよりも多すぎる桁数です。なので、Python は丸めた値を表示することで、桁数を扱いやすい範囲にとどめます

>>> 0.1
0.1

現実には、上の表示は錯覚であると気づくのは重要なことです。マシン内の値は厳密に 1/10 ではなく、単に真のマシン内の 表示される値 を丸めているだけなのです。このことは、これらの値に対して演算を行うとすぐに顕在化します。

>>> 0.1 + 0.2
0.30000000000000004

この動作は2進数の浮動小数点にとってはごく自然なものです。これは Python のバグではありませんし、あなたのコードのバグでもありません。ハードウェアの浮動小数点演算をサポートしている全ての言語で同じ種類の問題を見つけることができます (いくつかの言語ではデフォルトの、あるいはどの出力モードを選んでも、この差を 表示 しないかもしれませんが)。

他にも期待と異なるかもしれない場合があります。例えば、 2.675 という値を小数点以下2桁で丸めようとすると、次のような結果になります。

>>> round(2.675, 2)
2.67

組み込み関数 round() のドキュメントには、もっとも近い値に丸め、中央値の場合は 0 から遠い方に丸めると書かれています。10進数の 2.675 は 2.67 と 2.68 のちょうど真ん中なので、結果として 2.68 (の2進数による近似値) を期待するかもしれません。しかし、 10進数の 2.675 は2進数の近似値に変換され、その正確な値は次のようになります。

2.67499999999999982236431605997495353221893310546875

この近似値は 2.68 よりすこし 2.67 に近いので、 2.67 に丸められます。

10 進数で中央値になる値がどちらに丸められるかを制御しないといけない場合は、 decimal モジュールを使うことを検討するべきです。ちなみに、 decimal モジュールは Python の float 値に格納された正確な値を見るためにも利用できます。

>>> from decimal import Decimal
>>> Decimal(2.675)
Decimal('2.67499999999999982236431605997495353221893310546875')

別の重要な例として、 0.1 が正確には 1/10 でないために、 0.1 を10回足しても正確には 1.0 にならないというものがあります。

>>> sum = 0.0
>>> for i in range(10):
...     sum += 0.1
...
>>> sum
0.9999999999999999

2 進の浮動小数点数に対する算術演算は、このような意外性をたくさん持っています。 “0.1” に関する問題は、以下の “表現エラー” の章で詳細に説明します。 2 進法の浮動小数点演算にともなうその他のよく知られた意外な事象に関しては The Perils of Floating Point を参照してください。

究極的にいうと、”容易な答えはありません”。ですが、浮動小数点数のことを過度に警戒しないでください! Python の float 型操作におけるエラーは浮動小数点処理ハードウェアから受けついたものであり、ほとんどのマシン上では一つの演算あたり高々 2**53 分の 1 です。この誤差はほとんどの作業で充分以上のものですが、浮動小数点演算は 10 進の演算ではなく、浮動小数点の演算を新たに行うと、新たな丸め誤差の影響を受けることを心にとどめておいてください。

異常なケースが存在する一方で、普段の浮動小数点演算の利用では、単に最終的な結果の値を必要な 10 進の桁数に丸めて表示するのなら、最終的には期待通りの結果を得ることになるでしょう。 float の表示についてきめ細かな制御をしたければ、 書式指定文字列の文法 にある str.format() メソッドのフォーマット仕様を参照してください。

14.1. 表現エラー

この章では、”0.1” の例について詳細に説明し、このようなケースに対してどのようにすれば正確な分析を自分で行えるかを示します。ここでは、 2 進法表現の浮動小数点数についての基礎的な知識があるものとして話を進めます。

表現エラー(Representation error)は、いくつかの (実際にはほとんどの) 10 進の小数が 2 進法 (基数 2 )の分数として表現できないという事実に関係しています。これは Python (あるいは Perl、 C、 C++、Japa、Fortran 、およびその他多く) が期待通りの正確な 10 進数を表示できない主要な理由です。

>>> 0.1 + 0.2
0.30000000000000004

なぜこうなるのでしょうか? 1/10 と 2/10 は 2 進法の小数で厳密に表現することができません。今日 (2010年7月) のマシンは、ほとんどすべて IEEE-754 浮動小数点演算を使用しており、ほとんどすべてのプラットフォームでは Python の浮動小数点を IEEE-754 における “倍精度(double precision)” に対応付けます。754 の double には 53 ビットの精度を持つ数が入るので、計算機に入力を行おうとすると、可能な限り 0.1 を最も近い値の分数に変換し、 J/2**N の形式にしようと努力します。 J はちょうど 53 ビットの精度の整数です。

1 / 10 ~= J / (2**N)

を書き直すと

J ~= 2**N / 10

となります。 J は厳密に 53 ビットの精度を持っている (>= 2**52 だが < 2**53 ) ことを思い出すと、 N として最適な値は 56 になります:

>>> 2**52
4503599627370496
>>> 2**53
9007199254740992
>>> 2**56/10
7205759403792793

すなわち、56 は J をちょうど 53 ビットの精度のままに保つ N の唯一の値です。 J の取りえる値はその商を丸めたものです。

>>> q, r = divmod(2**56, 10)
>>> r
6

残りは 10 の半分以上なので、最良の近似は丸め値を一つ増やした (round up) ものになります:

>>> q+1
7205759403792794

従って、754 倍精度における 1/10 の取りえる最良の近似は 2**56 以上の値、もしくは

7205759403792794 / 72057594037927936

となります。丸め値を 1 増やしたので、この値は実際には 1/10 より少し小さいことに注意してください; 丸め値を 1 増やさない場合、商は 1/10 よりもわずかに小さくなります。しかし、どちらにしろ 厳密に 1/10 ではありません!

つまり、計算機は 1/10 を “理解する” ことは決してありません。計算機が理解できるのは、上記のような厳密な分数であり、 754 の倍精度浮動小数点数で得られるもっともよい近似は以下になります:

>>> .1 * 2**56
7205759403792794.0

この分数に 10**30 を掛ければ、有効数字 30 桁の十進数の (切り詰められた) 値を見ることができます。

>>> 7205759403792794 * 10**30 // 2**56
100000000000000005551115123125L

これは、計算機が記憶している正確な数値が、10 進数値 0.100000000000000005551115123125 にほぼ等しいということです。 Python 2.7 と Python 3.1 より前のバージョンでは、 Python はこの値を小数点以下 17桁に丸めて ‘0.10000000000000001’ になっていました。現在のバージョンの Python は、元の2進数に正確に戻すことのできる最小の桁数の小数を表示するので、結果は ‘0.1’ になります。