数値変換とデータ表現－誤差

コンピュータは正確な計算ができると思われがちです。
実際、ミスは極端に少ないわけですが、真の値を出すとなると
なかなか難しいものです。

今回、誤差にはどのようなものがあるかということを見ていきます。

以下のリンクに詳細な解説があります。

http://petapen.doorblog.jp/tag/%E8%AA%A4%E5%B7%AE

ウィキペディア

http://jyouhousyori.net/kiso/kiso_com_scien/kiso_com_scien_level13.html

一番上のサイトは漫画で書かれていて、面白いです。