곱셈

안녕하세요, 여러분! 코딩하며 숫자를 다루다 보면 가끔 ‘어, 분명 맞는 계산인데 왜 결과가 다르지?’ 하고 고개를 갸웃하게 되는 순간들이 있지 않나요? 특히 중요한 금융 계산이나 정밀한 과학 시뮬레이션에서 이런 미묘한 오차는 정말 골치 아픈 문제를 일으키곤 하죠. 마치 연희동 골목길을 걷다가 예상치 못한 곳에서 길을 잃은 듯한 기분이랄까요? 오늘 제가 이야기할 ‘STATUS_FLOAT_INEXACT_RESULT’라는 에러 코드가 바로 … Read more

개발을 하다 보면 예상치 못한 오류 코드 때문에 밤새 고민하고 머리 싸맬 때가 한두 번이 아니죠? 특히 숫자를 다루는 프로그램에서 마주하는 에러는 그 복잡성 때문에 더욱 난감할 때가 많은데요. 저도 처음 STATUS_FLOAT_INEXACT_RESULT라는 메시지를 만났을 때, ‘이게 대체 무슨 의미일까?’ 싶어 한참을 들여다봤던 기억이 생생합니다. 단순히 계산 결과가 틀렸다는 것을 넘어, 부동 소수점 연산 과정에서 발생할 … Read more