개발 작업을 하다 보면 정말 예상치 못한 오류 코드들을 마주할 때가 많죠. 특히 미묘한 계산 결과 때문에 골머리를 앓았던 경험, 저만 있는 건 아닐 거예요. 분명 맞는 것 같은데, 숫자가 살짝 틀어져 있거나 알 수 없는 에러가 튀어나와서 당황스러웠던 적이 있으실 텐데요. 오늘은 많은 분들이 궁금해하시면서도 쉽게 해결책을 찾기 어려웠던 바로 그 문제, ‘STATUS_FLOAT_INEXACT_RESULT’에 대해 … Read more
개발자라면 누구나 한 번쯤, 혹은 지금 이 순간에도 모니터 앞에서 끙끙 앓고 있을 바로 그 순간! 예상치 못한 에러 메시지 하나에 골머리를 앓아본 경험, 다들 있으실 거예요. 특히, 숫자 하나가 전체 시스템을 좌우할 수 있는 정교한 계산 환경에서는 작은 오차 하나가 치명적인 결과를 초래하기도 합니다. ‘STATUS_FLOAT_INEXACT_RESULT’라는 알쏭달쏭한 코드, 혹시 만나보셨나요? 단순히 부동소수점 연산에서 발생할 수 … Read more
요즘 프로그래밍을 하면서 수치 계산 때문에 머리 싸매 본 경험, 다들 있으실 거예요. 특히 소수점을 다루는 순간, 분명 0.1 + 0.2 는 0.3 이 되어야 하는데 엉뚱한 결과가 튀어나와 당황스러웠던 적이 한두 번이 아니죠. 저도 처음에는 ‘이게 왜 이러지?’ 하며 밤샘 디버깅을 하곤 했답니다. 바로 이 미묘한 오차의 중심에 같은 부동 소수점 연산 문제가 숨어 … Read more