반올림/버림 처리

여러분, 컴퓨터를 사용하다가, 혹은 개발을 하다가 갑자기 마주치는 알 수 없는 오류 코드 때문에 머리가 지끈거렸던 경험, 다들 한 번쯤 있으시죠? 저도 그랬습니다. 특히 ‘STATUS_FLOAT_INVALID_OPERATION’이라는 녀석은 처음 만났을 때 정말 당황스러웠어요. 단순히 숫자를 계산하는 것 같은데, 왜 ‘유효하지 않은 부동 소수점 연산’이라는 무시무시한 메시지가 떴을까 하고 말이죠. 요즘처럼 인공지능이 복잡한 데이터를 처리하고, 금융 시스템이 초정밀 … Read more