numsup.NET.zip (VB.Netバージョン)
以下の機能を備えたVB.Netのモジュールです。詳しくはzipファイルに含まれているドキュメントをご覧ください。
Single、Doubleの浮動小数点型、Short、Integer、Longの整数型の数について、メモリ上での内部表現を16進数の文字列で返す関数
ある数に対して、メモリ上で1ビットだけ異なる「隣接」した数を返すNextAfter関数。CやC++の<float.h>ライブラリーに含まれるnextafter関数と同様の機能
Single、Doubleの浮動小数点型について、型の精度を保ちながら表現できる最も絶対値の小さい数「正の最小正規数」、1.0に足し算して1.0とは異なる結果を得られる最も小さい数「浮動小数点型の精度」、.Net FrameworkのSystem.Mathに含まれる三角関数が正確に演算できる引数の限界「2の63乗」(Doubleのみ)の各定数の提供 *)下記参照
(ビットパターンは、１バイトごとに16進数2桁で、ビッグエンディアンで表記。実際のメモリ上の配列はリトルエンディアンなので逆順)
正の最小正規数とは、Single型の場合23ビット、Double型の場合52ビットの仮数部の精度を保ちつつ、浮動小数点数として表現できる最も絶対値の小さい正の数です。正確には、実際にはメモリ上にはないものの、暗黙に1と決められた最上位ビットの存在を仮定しているので、Single型の場合24ビット、Double型の53ビットの精度になります。具体的には次の数です。
Single型 : 1.17549435E-38
(ビットパターン 00 80 00 00)
Double型 : 2.2250738585072014E-308
(ビットパターン 00 10 00 00 00 00 00 00)
.Net FrameworkのSingleとDoubleの浮動小数点型では、これよりさらに小さな絶対値の数を扱うことができますが、表現に用いる仮数部のビット数が少なくなるので精度は悪くなります。このような数は非正規数と呼ばれています。非正規数でゼロではないギリギリ表現可能な最も小さい数は、Single.EpsilonとDouble.Epsilonで定数として与えられています。
Single.Epsilon : 1.401298E-45
(精度的に1.4E-45「程度」と考えるべき)
(ビットパターン 00 00 00 01)
Double.Epsilon : 4.94065645841247E-324
(精度的に4.9E-324「程度」と考えるべき)
(ビットパターン 00 00 00 00 00 00 00 01)
これらのEpsilonの定数は、10進数で一見したところ何桁も表示されていて精度があるようですが、ビットパターンを見てみると、最後に使える1ビットだけで表現されています。したがって、精度の非常に悪い(数十%の誤差を含む)定数であることに注意が必要です。
浮動小数点型の精度を10進数で示すためには、仮数部の最上位ビット(上述のとおり暗黙に存在を仮定した1のビット)と最下位ビットが何倍違うのかを示せばよいことになります。Single型の場合は23ビットの差がありますので、2の23乗分の1、Double型の場合は52ビットの差がありますので、2の52乗分の1という値になります。
Single型 : 1.1920929E-07
Double型 : 2.2204460492503131E-16
これらの数を1.0に足し算すると、
Single型(ビットパターン): 3F 80 00 01
Double型(ビットパターン): 3F F0 00 00 00 00 00 01
となり、Single型あるいはDouble型の1.0と比べて、一番下位のビットだけが異なっています。普通に10進数表示をさせても「1」のままで差が見えませんが、メモリ内部ではハッキリと「1とは異なる数」として表現されています。
2の63乗とは、インテルのプロセッサに内蔵されている浮動小数点演算ユニット(FPU)に三角関数の演算を行なわせる場合の引数の上限値です。下限値は2の63乗を負にしたものです。この範囲を超えた値をFPUに渡すと演算をせずに値が戻ります。
この振る舞いが、.Net FrameworkのSystem.Mathクラスの三角関数にも引き継がれていて、注意が必要です。
Double型 : 9.2233720368547748E+18
(ビットパターン 43 DF FF FF FF FF FF FF)
この値のSin関数の結果は0.987341891314351と正常な値になりますが、NextAfter関数で得られる次に大きな数
Double型 : 9.2233720368547758E+18
(ビットパターン 43 E0 00 00 00 00 00 00)
に対してSin関数の結果は9.2233720368547758E+18とまったく変な値になります。この演算では例外はスローされません。したがって、このような大きな数を扱う可能性がある場合は、ここで提供する定数を用いて、事前に引数をチェックする必要があります。
x64アーキテクチャになり.Net Frameworkで三角関数の計算にFPUを使わなくなってからでも、この振る舞いは変化していません。