삼쩜삼에서 부동소수점 다루는 방법

모두 부동소수점은 일하면서 처음 겪으며 에러도 찾지 못해 굉장히 고생했던 경험 있으신가요? 😂

개발에서도 엑셀에서도 가끔 만나게 되는 부동소수점은 컴퓨터가 소수점을 포함한 실수를 표현하는 일반적인 방법입니다. 하지만, 10진수를 2진수로 변환하는 과정에서 정확히 표현되지 못하는 수가 발생하며, 그 결과로 예상과 다른 계산 결과가 나올 수 있습니다. 예를 들어, 0.1과 같은 단순한 수조차도 이진수로는 무한 소수로 표현되기 때문에, 컴퓨터는 이를 근사치로 저장합니다. 이 작은 차이가 반복된 계산에서 점점 더 큰 오차로 누적될 수 있습니다.

아래 포스트를 읽어보고 알아두세요!

https://jaime-note.tistory.com/505