翻訳と辞書 |
コンピュータの数値表現 : ウィキペディア日本語版 | コンピュータの数値表現[こんぴゅーたのすうちひょうげん] コンピュータの数値表現とは、コンピュータなどのハードウェアやソフトウェアで数を表現する実装方法を指す。 コンピュータに詳しくない人は、コンピュータでの数値計算が無謬(誤りがない)であると誤解していることがある。例えば、 を計算すると正確に 1 が得られると期待するかもしれない。しかし、実際にはコンピュータや電卓では 0.9999999999999999 のような結果となり、場合によっては 0.99999999923475 のような値になることもある。 後者の値はバグの存在を示しているわけではなく、二進法の浮動小数点数による近似の結果生じるのである。十進法の浮動小数点数、数式処理システム、ある種の多倍長整数系では答えが 1 や 0.9999999999999999... になる。 == ビット、バイト、ニブル、符号なし整数 ==
抄文引用元・出典: フリー百科事典『 ウィキペディア(Wikipedia)』 ■ウィキペディアで「コンピュータの数値表現」の詳細全文を読む
スポンサード リンク
翻訳と辞書 : 翻訳のためのインターネットリソース |
Copyright(C) kotoba.ne.jp 1997-2016. All Rights Reserved.
|
|