STATUS_FLOAT_INEXACT_RESULT 오류, 모르면 고생하는 개발자 필독 꿀팁

여러분, 혹시 프로그램을 개발하거나 사용하다가 뜻 모를 오류 메시지에 가슴이 철렁했던 경험, 다들 한 번쯤 있으실 거예요. 특히 숫자를 다루는 작업에서 와 같은 코드를 마주치면 ‘이게 대체 무슨 소리야?’ 하고 한숨부터 나오죠. 저 역시 처음 이 녀석을 만났을 때, 밤새도록 씨름하며 해결책을 찾아 헤매던 기억이 생생합니다. 단순한 숫자 계산처럼 보이지만, 컴퓨터 내부에서는 상상 이상으로 정교한 … Read more

STATUS_FLOAT_INEXACT_RESULT 당신의 코드가 숨기고 있는 미묘한 계산 오류의 진실

요즘 프로그래밍을 하면서 수치 계산 때문에 머리 싸매 본 경험, 다들 있으실 거예요. 특히 소수점을 다루는 순간, 분명 0.1 + 0.2 는 0.3 이 되어야 하는데 엉뚱한 결과가 튀어나와 당황스러웠던 적이 한두 번이 아니죠. 저도 처음에는 ‘이게 왜 이러지?’ 하며 밤샘 디버깅을 하곤 했답니다. 바로 이 미묘한 오차의 중심에 같은 부동 소수점 연산 문제가 숨어 … Read more