数値・お金の計算
- 数値・お金の計算 丸めの規則:偶数丸め・1.005・消費税の端数処理 数値講座3。round(2.5) が9つのツールで2か3、-2.5 は3通り、1.005 は1.00か1.01。消費税8%・10%の端数を行ごとに切り捨てるか税率ごとに1回かで税額が変わる様子を実行結果で確認。
- 数値・お金の計算 数値の表示と入力:桁区切り・全角数字・万/億をロケール別に 数値講座5。PHPは全角の123を黙って0に、.NETとJavaは「1,5」を15にした。円記号は¥と¥で処理系ごとに別の文字、1234.5円の丸めも別。万・億表示、漢数字、入力を安全に正規化する方法を実行結果で確認。
- 数値・お金の計算 整数オーバーフローと BigInt:言語別の安全な上限 INT_MAX + 1 を C・Java・C#・Swift・Dart・PHP・Python で実行して比較。JSON.parse で 19 桁の ID が変わる理由と文字列・BigInt での対策、SQLite の上限まで確認します。
- 数値・お金の計算 浮動小数点の合計誤差・NaN・-0.0 を実測する 数値講座6。1000万個の合計は396 ulpずれ、Python 3.12のsum()は誤差0。-ffast-mathはKahan補正を消し0/0を1にした。NaNでソートが壊れる様子とシリーズ総まとめ。
- 数値・お金の計算 0.1 + 0.2 が 0.3 にならない理由:浮動小数点数の基礎 0.1 + 0.2 を Python・JavaScript・PHP など 9 つの実行環境で実際に動かし、double が保存している正確な値、表示で誤差が隠れる仕組み、許容誤差での正しい比較、税込価格の切り上げで 1 円ずれる例まで確認します。
- 数値・お金の計算 お金の計算:最小単位の整数か10進型か、割り勘の1円 数値講座4。int(19.99*100) は1998、BigDecimal の 2.0 と 2.00 は不一致、bcmul は小数を落とし、個別に丸めた割り勘は32%で合計ずれ。Decimal の速度コストは2.7〜21倍。実行結果で確認。