ノート:固定小数点数
出典: フリー百科事典『ウィキペディア(Wikipedia)』
固定小数点は浮動小数点よりも「誤差が少ない」のではなく、誤差の予測がしやすく、よって誤差を制御しやすいことが最大の利点ではないでしょうか。特に金融計算では必要な小数点以下の有効桁数が決まっており、それ未満の端数についても処理の仕方が明確に決められているため、またBCD表現では2進小数で誤差なく表現できない0.1、0.01などが誤差なく表現でき、実質的に2進少数しか扱えない浮動小数点よりも金利計算などに適しているために金融分野でよく使われていると思います。
一方、浮動小数点演算では不注意なプログラミングによって思いがけない誤差の拡大を招くことがあり、その分誤差の予測がしにくく、よって誤差の制御もしにくいと考えられます。いかがでしょうか。Bonk 2005年8月11日 (木) 09:02 (UTC)
おっと書き忘れました。1/3がBCD固定小数点で丸め誤差なく表現できるとは初耳です。10進ではどう考えても0.3333…と無限小数になるため、何かの間違いではないでしょうか。Bonk 2005年8月11日 (木) 09:04 (UTC)