정확도 쟁탈전: STATUS_FLOAT_INEXACT_RESULT, 개발자가 반드시 알아야 할 모든 것
여러분, 혹시 컴퓨터가 숫자를 다루는 방식에 대해 깊이 생각해 본 적 있으신가요? 우리는 흔히 “1 더하기 1 은 2″라고 너무나 당연하게 생각하지만, 정밀한 계산이 필요한 코드를 짜다 보면 생각지도 못한 오류와 마주하게 된답니다. 특히 ‘실수’를 다루는 프로그램에서 갑자기 나타나는 알 수 없는 에러, 혹시 ‘STATUS_FLOAT_INEXACT_RESULT’라는 녀석 때문에 밤샘 디버깅을 해본 경험, 저만 있는 건 아니겠죠? … Read more