翻訳と辞書 |
端数処理[はすうしょり] 端数処理(はすうしょり)または丸め(まるめ)とは、与えられた数値を、ある一定の丸め幅の整数倍の数値に置き換えることである。常用的には、10の累乗(…、100、10、1、0.1、0.01、…)が丸め幅とされることが多い。 == 丸めの種類 ==
=== 凡例 === 丸めは任意の丸め幅に対し可能だが、以下では特にことわらない限り、丸め幅を1とする。任意の丸め幅で丸めるには、丸める前に丸め幅で割り、丸めた後に丸め幅をかければいい。 記数法が問題になるときには、10進法で表されているものとする。 主に正の数について述べるが、適宜、負の数についても述べる。
抄文引用元・出典: フリー百科事典『 ウィキペディア(Wikipedia)』 ■ウィキペディアで「端数処理」の詳細全文を読む
英語版ウィキペディアに対照対訳語「 Truncation 」があります。
スポンサード リンク
翻訳と辞書 : 翻訳のためのインターネットリソース |
Copyright(C) kotoba.ne.jp 1997-2016. All Rights Reserved.
|
|