|
(n) significant digits =========================== ・ 有 : [う, ゆう] 1. (n,vs) possession ・ 有効 : [ゆうこう] 1. (adj-na,n) validity 2. availability 3. effectiveness ・ 有効数字 : [ゆうこうすうじ] (n) significant digits ・ 効 : [こう] 【名詞】 1. efficacy 2. benefit 3. efficiency 4. effect 5. result 6. success ・ 数 : [すう, かず] 1. (n,n-suf) number 2. figure ・ 数字 : [すうじ] 【名詞】 1. numeral 2. figure ・ 字 : [じ, あざな] 【名詞】 1. character 2. hand-writing
''n'' 桁の有効数字(ゆうこうすうじ)で丸めるとは、端数処理での一形式である。 ''n'' 桁の有効数字で丸めるという作業は、単に ''n'' 桁に丸めるというだけではなく、異なるスケールの数字を統合して取り扱う点でより重要な技法である。 浮動小数表示というのは、コンピュータ上での有効数字表現に丸める典型例であるが、2進数である点がポイントである。 == 有効数字の桁数(有効桁数) == 0ではない数字に挟まれた0は有効である。例えば、 *60.8 は有効数字3桁である。 *39008 は有効数字5桁である。 0ではない数字より前に0がある場合、その0は有効ではない。例えば、 *0.093827 は有効数字5桁である。 *0.0008 は有効数字1桁である。 *0.012 は有効数字2桁である。 小数点より右にある0は有効である。例えば、 *35.00 は有効数字4桁である。 *8 000.000000 は有効数字10桁である。 小数点がない数の最後にある0については、有効であるとも有効でないとも受け取れ、曖昧である。例えば、1 000 の有効数字は1桁から4桁のどれとでも受け取れる。このように、整数(小数点がない数)の末尾で続いている0を有効数字と見るかどうかは、その文脈によってまちまちである。 この曖昧さは数の後に小数点を置くことで解決できる。例えば、"1 000." と記せば、有効数字4桁であることを意味する〔 〕。 また、有効数字が何桁であるかを明示するためには、科学的記数法を用いることもできる。 *1 × 10 や 1e3 は有効数字が1桁であることが明示される。 *1.000 × 10 は4桁であることが明示される。 なお、有効と見なさない数字というのは非常に重要である。例えば、'0.005' に用いられている0は有効数字とは見なさないが、その桁を表すためには依然として不可欠なものである。 抄文引用元・出典: フリー百科事典『 ウィキペディア(Wikipedia)』 ■ウィキペディアで「有効数字」の詳細全文を読む スポンサード リンク
|