|
端数処理(はすうしょり)または丸め(まるめ)とは、与えられた数値を、ある一定の丸め幅の整数倍の数値に置き換えることである。常用的には、10の累乗(…、100、10、1、0.1、0.01、…)が丸め幅とされることが多い。 == 丸めの種類 == === 凡例 === 丸めは任意の丸め幅に対し可能だが、以下では特にことわらない限り、丸め幅を1とする。任意の丸め幅で丸めるには、丸める前に丸め幅で割り、丸めた後に丸め幅をかければいい。 記数法が問題になるときには、10進法で表されているものとする。 主に正の数について述べるが、適宜、負の数についても述べる。 抄文引用元・出典: フリー百科事典『 ウィキペディア(Wikipedia)』 ■ウィキペディアで「端数処理」の詳細全文を読む 英語版ウィキペディアに対照対訳語「 Truncation 」があります。 スポンサード リンク
|