정밀계산

“아니, 분명히 계산했는데 왜 결과가 이렇게 나오지?” 개발자라면 한 번쯤은 이런 당혹스러운 순간을 겪어보셨을 거예요. 특히 부동소수점 연산을 다루다 보면 미묘하게 틀어진 값 때문에 밤샘 디버깅을 하곤 하죠. 바로 그 중심에 라는 녀석이 자리 잡고 있답니다. 이 코드를 만날 때마다 “내가 뭘 잘못했지?” 하고 자책하기 쉽지만, 사실 이 친구는 컴퓨터가 숫자를 표현하는 방식과 깊은 관련이 … Read more