STATUS_FLOAT_INEXACT_RESULT 모르면 손해! 부동소수점 오차 완벽 이해하기

프로그래밍을 하다 보면 문득 이런 의문이 들 때가 있습니다. ‘내가 짠 코드는 완벽한데, 왜 이 숫자는 내가 원하는 값이 아닐까?’ 특히 정밀한 계산이 필요한 상황에서 미묘하게 어긋나는 결과 때문에 밤잠 설치셨던 개발자분들이라면 오늘 이야기가 귀에 쏙쏙 들어올 거예요. 바로 ‘STATUS_FLOAT_INEXACT_RESULT’라는 예외 코드 때문인데요. 이 코드는 단순히 오류를 넘어, 컴퓨터가 부동소수점을 어떻게 처리하는지에 대한 깊은 통찰을 … Read more