2006-04-21から1日間の記事一覧

コンピュータ数学

数学とコンピュータ数学の比較。 数学int, decimaldouble, float 任意の数字が対象有限桁数が対象有限有効桁数、有限指数が対象 数字以外は計算の対象外最大値、最小値を表せ、計算対象となる最大値、最小値、イプシロン、非数値、+無限大、-無限大を表せ、…