STATUS_FLOAT_INEXACT_RESULT 당신의 프로그램에 숨겨진 부동 소수점 비밀 파헤치기
여러분, 혹시 프로그래밍을 하거나 특정 소프트웨어를 사용하다가 예상치 못한 계산 결과에 당황했던 경험 있으신가요? 분명히 1.1 더하기 0.1 이 1.2 여야 하는데, 엉뚱한 숫자가 나오는 바람에 밤샘 코딩을 해야 했던 적은 없었는지 궁금합니다. 이런 현상 뒤에는 바로 ‘부동 소수점 오차’라는 녀석이 숨어있는데요, 그중에서도 는 개발자들이 자주 마주치는 골칫거리 중 하나랍니다. 이 오류는 단순히 숫자가 조금 … Read more