부동 소수점 오류는 온라인 쇼핑 총액 계산

여러분, 혹시 컴퓨터나 스마트폰에서 계산을 하다가 0.1 더하기 0.2 가 0.3 이 아니라 0.30000000000000004 처럼 미묘하게 다른 결과가 나와서 고개를 갸웃거린 적 있으신가요? “에이, 설마 컴퓨터가 계산 실수를 하겠어?”라고 생각하고 넘기셨을지도 모르지만, 사실 이런 사소한(?) 오차 뒤에는 ‘STATUS_FLOAT_INVALID_OPERATION’이라는 다소 무시무시한 이름의 오류가 숨어있을 수 있답니다. 저도 예전에 한창 코딩 공부할 때 이 녀석 때문에 밤잠 … Read more