|
===================================== 〔語彙分解〕的な部分一致の検索結果は以下の通りです。 ・ ー ： [ちょうおん] (n) long vowel mark (usually only used in katakana) ・ 数 ： [すう, かず] 1. (n,n-suf) number 2. figure ・ 数値 ： [すうち] 【名詞】 1. numerical value ・ 値 ： [あたい, ね] 【名詞・形容詞】1.value, variable 2. price, cost 3. worth, merit ・ 表 ： [ひょう] 1. (n,n-suf) table (e.g., Tab 1) 2. chart 3. list ・ 表現 ： [ひょうげん] 1. (n,vs) (1) expression 2. presentation 3. (2) (gen) (math) representation ・ 現 ： [げん] 1. (pref) present 2. current
コンピュータの数値表現とは、コンピュータなどのハードウェアやソフトウェアで数を表現する実装方法を指す。 コンピュータに詳しくない人は、コンピュータでの数値計算が無謬（誤りがない）であると誤解していることがある。例えば、 を計算すると正確に 1 が得られると期待するかもしれない。しかし、実際にはコンピュータや電卓では 0.9999999999999999 のような結果となり、場合によっては 0.99999999923475 のような値になることもある。 後者の値はバグの存在を示しているわけではなく、二進法の浮動小数点数による近似の結果生じるのである。十進法の浮動小数点数、数式処理システム、ある種の多倍長整数系では答えが 1 や 0.9999999999999999... になる。 == ビット、バイト、ニブル、符号なし整数 == 抄文引用元・出典: フリー百科事典『 ウィキペディア（Wikipedia）』 ■ウィキペディアで「コンピュータの数値表現」の詳細全文を読む スポンサード リンク
|