본문으로 이동
숫자·금액 계산
-
숫자·금액 계산
반올림 규칙: 은행가 반올림, 1.005, 부가세 원 단위 절사
숫자 강좌 3. round(2.5) 가 9개 도구에서 2 또는 3, -2.5 는 세 갈래, 1.005 는 1.00 또는 1.01. 부가세 포함가를 줄마다 나눌지 합계로 나눌지, 10원 절사까지 실행 결과로 확인.
-
숫자·금액 계산
숫자 표시와 입력: 천 단위 구분·소수점 쉼표·만/억 로캘별 처리
숫자 강좌 5. .NET·Java 는 "1,5" 를 15 로, PHP 는 전각 123 을 0 으로 읽었다. 만·억 표시, ₩ 반올림 차이, 입력값을 안전하게 정규화하는 법을 실행 결과로 확인.
-
숫자·금액 계산
정수 오버플로와 BigInt: 언어별 안전한 한계
INT_MAX + 1 을 C·Java·C#·Swift·Dart·PHP·파이썬에서 실행해 비교합니다. JSON.parse 가 19자리 ID 를 바꾸는 이유, 문자열·BigInt 해법, SQLite 한계까지 확인합니다.
-
숫자·금액 계산
부동소수점 합계 오차, NaN, -0.0 실측
숫자 강좌 6. 1000만 개 합계는 396 ulp 어긋났고 Python 3.12 sum() 은 오차 0. -ffast-math 는 Kahan 보정을 지우고 0/0 을 1 로 만들었다. NaN 정렬 붕괴와 시리즈 총정리.
-
숫자·금액 계산
0.1 + 0.2 가 0.3 이 아닌 이유: 부동소수점 기초
0.1 + 0.2 를 파이썬·자바스크립트·PHP 등 9개 실행 환경에서 돌려 double 이 실제로 담은 값, 출력에서 오차가 숨는 이유, 허용 오차 비교법, 부가세 역산에서 1원이 틀어지는 예까지 확인합니다.
-
숫자·금액 계산
금액 계산: 최소 단위 정수냐 10진 타입이냐, N빵의 1원
숫자 강좌 4. int(19.99*100) 은 1998, BigDecimal 2.0 과 2.00 은 다르고, bcmul 은 소수를 버렸다. 따로 반올림한 N빵은 32% 가 틀렸고 Decimal 비용은 2.7~21배.
↑