STATUS_FLOAT_INEXACT_RESULT 당신의 코드가 숨기고 있는 미묘한 계산 오류의 진실
요즘 프로그래밍을 하면서 수치 계산 때문에 머리 싸매 본 경험, 다들 있으실 거예요. 특히 소수점을 다루는 순간, 분명 0.1 + 0.2 는 0.3 이 되어야 하는데 엉뚱한 결과가 튀어나와 당황스러웠던 적이 한두 번이 아니죠. 저도 처음에는 ‘이게 왜 이러지?’ 하며 밤샘 디버깅을 하곤 했답니다. 바로 이 미묘한 오차의 중심에 같은 부동 소수점 연산 문제가 숨어 … Read more