실수연산

개발의 길을 걷다 보면 정말 골치 아픈 에러 코드들을 만나곤 하죠. 특히 윈도우 시스템 프로그래밍을 하거나, 복잡한 수치 계산을 다루는 작업을 할 때면 갑자기 툭 튀어나오는 알 수 없는 숫자와 문자들의 조합에 당황한 적이 한두 번이 아닐 거예요. 저 역시 그랬습니다. 저를 밤새도록 잠 못 이루게 했던 녀석 중 하나가 바로 이 STATUS_FLOAT_INEXACT_RESULT인데요. 처음엔 ‘이게 … Read more

개발 작업을 하다 보면 정말 예상치 못한 오류 코드들을 마주할 때가 많죠. 특히 미묘한 계산 결과 때문에 골머리를 앓았던 경험, 저만 있는 건 아닐 거예요. 분명 맞는 것 같은데, 숫자가 살짝 틀어져 있거나 알 수 없는 에러가 튀어나와서 당황스러웠던 적이 있으실 텐데요. 오늘은 많은 분들이 궁금해하시면서도 쉽게 해결책을 찾기 어려웠던 바로 그 문제, ‘STATUS_FLOAT_INEXACT_RESULT’에 대해 … Read more