여러분, 혹시 서울 한복판, 견지동 어느 시스템에서 아주 작은 숫자 하나 때문에 큰 문제가 터질 수도 있다는 상상 해보셨나요? 우리 눈에는 보이지 않지만, 디지털 세상의 복잡한 코드 속에는 예상치 못한 ‘오류’들이 숨어있습니다. 그중에서도 오늘은 ‘부동 소수점 오버플로우’라는, 듣기만 해도 어렵게 느껴지는 이 녀석에 대해 이야기해보려 해요. 저도 처음에는 이게 도대체 뭘까 싶었는데, 직접 파고들어보니 정말이지 … Read more
프로그래머라면 꼭 알아야 할 부동소수점 에러의 모든 것 수학적 불능 상태, Invalid Operation 의 정체 여러분, 혹시 코드에서 예상치 못한 계산 결과나 에러 메시지를 만나 당황하신 적 있으신가요? 특히 부동소수점 연산을 다루다 보면 같은 알 수 없는 친구를 마주치곤 합니다. 이 친구는 쉽게 말해, 컴퓨터가 ‘이건 나보고 어쩌라는 거야?’라고 외치는 수학적 불능 상태를 의미해요. 0 … Read more
며칠 전, 컴퓨터 앞에 앉아 중요한 보고서 작업을 하던 중이었어요. 갑자기 화면에 낯선 오류 메시지가 뜨면서 프로그램이 멈춰버리는 거예요. “STATUS_FLOAT_INVALID_OPERATION”이라니, 뭔가 심상치 않은 느낌이 확 들었죠. 저처럼 평소에 컴퓨터와 씨름하는 분들이라면 이런 알 수 없는 오류 메시지에 한 번쯤 당황해 보셨을 거예요. 대체 이 오류는 왜 뜨는 걸까요? 혹시 내 소중한 데이터가 날아가는 건 아닐까, … Read more