삼쩜삼에서 부동소수점을 다루는 방법
Jaime's 기술 블로그
삼쩜삼에서 부동소수점 다루는 방법
모두 부동소수점은 일하면서 처음 겪으며 에러도 찾지 못해 굉장히 고생했던 경험 있으신가요? 😂
개발에서도 엑셀에서도 가끔 만나게 되는 부동소수점은 컴퓨터가 소수점을 포함한 실수를 표현하는 일반적인 방법입니다. 하지만, 10진수를 2진수로 변환하는 과정에서 정확히 표현되지 못하는 수가 발생하며, 그 결과로 예상과 다른 계산 결과가 나올 수 있습니다. 예를 들어, 0.1과 같은 단순한 수조차도 이진수로는 무한 소수로 표현되기 때문에, 컴퓨터는 이를 근사치로 저장합니다. 이 작은 차이가 반복된 계산에서 점점 더 큰 오차로 누적될 수 있습니다.
아래 포스트를 읽어보고 알아두세요!
https://jaime-note.tistory.com/505
더 많은 콘텐츠를 보고 싶다면?
이미 회원이신가요?
2024년 9월 24일 오후 11:50
댓글 0
함께 읽은 게시물
최악의 리더들이 가진 특징 9가지
1. “다른 사람을 존중하라”고 설교하지만, 정작 자신은 직원들을 신뢰하지도 존중하지도 않습니다.
2019년 저서 <생산성 마스터가 되는 비법(How to be a Productivity Ninja)>으로 인기를 얻은 그레이엄 올콧은 투자은행을 대상으로 연설을 했는데 “친절함이 모든 것의 원동력이 된다. 당신이 친절하면 이긴다. 그게 전부”라고 말했다. 대부분의 청중은 이에 동의했지만, 일부는 매우 강하게 반대했다.
... 더 보기
🚀로켓배송 말고, 쿠팡에 '숨은 경쟁력'은 따로 있다는데요?
쿠
... 더 보기
