부동 소수점 오류

Computer Science

[CS] 부동 소수점 오류

부동 소수점 오류에 대해서 알아보기 전에 부동 소수점이란 무엇일까컴퓨터는 모든 수를 0과 1로 이루어진 2진수로 표현한다. 이것은 정수뿐만 아니라 소수점이 존재하는 실수도 마찬가지이다. 정수의 경우 이러한 표현이 간단하지만, 실수를 2진수로 표현하는 것은 복잡하다. 실수를 표현하기 위한 다양한 방법들이 연구되었고 현재는 크게 2가지 방식이 존재한다.고정 소수점 (fixed point) 방식부동 소수좀 (floating point) 방식 고정 소수점 (fixed point) 방식실수는 보통 정수부와 소수부로 나뉘는다. 실수를 표현하는 방법은 소수부의 자릿수를 미리 정하고, 고정된 자릿수의 소수를 표현하는 것이다. 32비트 CPU에서 고정 소수점 방식을 실수로 표현하면 1비트 -> 부호15비트 -> 정수부1..

Tenacity_Dev
'부동 소수점 오류' 태그의 글 목록