소프트웨어개발

STATUS_FLOAT_INEXACT_RESULT의 비밀, 당신의 코드를 지키는 놀라운 방법

by

개발하다 보면 정말 예상치 못한 곳에서 발목을 잡는 오류들이 있죠? 그중에서도 특히 숫자 계산, 특히 소수점 계산을 많이 하는 프로그램에서 ‘STATUS_FLOAT_INEXACT_RESULT’ 같은 알쏭달쏭한 메시지를 만나면 멘붕이 오기 쉽습니다. 저도 예전에 이걸로 밤새워가며 씨름했던 기억이 생생해요. 처음엔 단순히 ‘오차겠지’ 하고 넘겼다가, 나중엔 프로그램의 신뢰성에 큰 구멍이 될 수 있다는 걸 직접 경험했답니다. 최근에는 인공지능이나 데이터 과학 … Read more

목동동 STATUS_FLOAT_OVERFLOW, 지금 당장 알아야 할 치명적 오류의 진실

by

요즘 디지털 세상에서 알 수 없는 오류와 마주친 적 다들 있으시죠? 멀쩡하게 잘 되던 프로그램이 갑자기 멈추거나, 계산 결과가 엉뚱하게 나오는 바람에 당황했던 경험이 저만 있는 건 아닐 거예요. 특히 눈에 보이지 않는 작은 숫자 하나 때문에 시스템 전체가 불안정해지는 경우가 있는데, 바로 ‘부동 소수점 오버플로우’ 같은 녀석들이죠. 이게 대체 뭐길래 우리를 이렇게 골치 아프게 … Read more