kotlin bigdecimal

Programming Language/Kotlin

[Kotlin] BigDecimal 이란

부동 소수점 오류double, float와 같은 Primitive 변수를 사용하다보면 연산결과가 이상하게 나오는 경우가 있다.가령 예를들어서 0.3 + 0.4를 했을 때 0.70000000000000004 라는 결과가 나오는 경우처럼 말이다.이는 소수점을 다룰 때 부동소수점 오류로 인해 소수점이 제대로 표현되지 않는 문제가 발생하는 것이다.float와 double은 부동소수점 표현방식으로 구현 되어있는데, 부동소수점 표현 방식은 고정 소수점 표현 방식에 비해 표현범위가 넓지만 2진수를 사용하기 때문에 소수를 표현할 때 오차가 발생한다. 그래서 이런 문제를 예방하고자 BigDecimal을 사용한다고 한다. 부동소수점 오류에 대해서는 시간이 된다면 더욱 자세하게 정리를 해보겠다. 오늘은 BigDecimal에..

Tenacity_Dev
'kotlin bigdecimal' 태그의 글 목록