STATUS_FLOAT_INEXACT_RESULT, 개발자라면 반드시 알아야 할 5가지 팁

혹시 여러분도 컴퓨터로 간단한 계산을 했는데, 기대했던 결과가 아니라서 고개를 갸우뚱했던 경험 있으신가요? 분명 0.1 에 0.2 를 더하면 0.3 이 나와야 하는데, 컴퓨터는 고집스럽게 다른 값을 보여줄 때가 있죠. 저도 처음엔 정말 황당하고 답답해서 이 작은 차이가 과연 어떤 문제를 일으킬까 궁금했었답니다. 이게 바로 숫자 뒤에 숨겨진 컴퓨터의 비밀, 바로 ‘부동 소수점 오차’ 때문인데요. … Read more