삼쩜삼에서 부동소수점 다루는 방법

모두 부동소수점은 일하면서 처음 겪으며 에러도 찾지 못해 굉장히 고생했던 경험 있으신가요? 😂


개발에서도 엑셀에서도 가끔 만나게 되는 부동소수점은 컴퓨터가 소수점을 포함한 실수를 표현하는 일반적인 방법입니다. 하지만, 10진수를 2진수로 변환하는 과정에서 정확히 표현되지 못하는 수가 발생하며, 그 결과로 예상과 다른 계산 결과가 나올 수 있습니다. 예를 들어, 0.1과 같은 단순한 수조차도 이진수로는 무한 소수로 표현되기 때문에, 컴퓨터는 이를 근사치로 저장합니다. 이 작은 차이가 반복된 계산에서 점점 더 큰 오차로 누적될 수 있습니다.


아래 포스트를 읽어보고 알아두세요!


https://jaime-note.tistory.com/505

삼쩜삼에서 부동소수점을 다루는 방법

Jaime's 기술 블로그

삼쩜삼에서 부동소수점을 다루는 방법

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2024년 9월 24일 오후 11:50

댓글 0

    함께 읽은 게시물

    ⚾최강야구와 불꽃야구, 갈등 보다는 가능성에 집중해야 하는 건

    ... 더 보기

    최강야구와 불꽃야구, 그리고 오버타임

    www.openads.co.kr

    최강야구와 불꽃야구, 그리고 오버타임

    무너지고 있는 프론트엔드, 백엔드 직군의 경계에 대한 고찰

    AI 기술이 우리 일상과 산업 전반에 스며들면서 소프트웨어 개발 환경 역시 큰 변화의 물결을 맞이하고 있다. 특히 코딩을 돕는 AI 에이전트의 등장은 개발 생산성에 대한 큰 변화를 만들고 있다. 나 역시 이러한 변화를 체감하며, 나에게 익숙한 소프트웨어 개발의 대표적인 두 축인 프론트엔드와 백엔드 영역에서 AI 기술이 미치는 영향과 그로 인해 변화하는 소프트웨어 엔지니어의 역할에 대해 개인적인 생각을 정리해 본다.

    ... 더 보기

     • 

    저장 31 • 조회 3,268


    《인문 교양에 대한 취미를 닦아야 하는 마땅한 이유》

    ... 더 보기

    조회 425


    👰청첩장 점유율 60% 이상, 바른컴퍼니의 핵심 경쟁력은

    ... 더 보기

    예비부부 3쌍 중 2쌍 택했다…55년 청첩장 파는 이 업체 비결 [비크닉] | 중앙일보

    중앙일보

    예비부부 3쌍 중 2쌍 택했다…55년 청첩장 파는 이 업체 비결 [비크닉] | 중앙일보

    포폴 코칭 시 기억에 남는 대화: 페르소나편

    🧑‍💻 멘티:

    ... 더 보기