jkyungho07   2년 전

저도 이 부분때문에 틀려서 적어봅니다.

python의 decimal 라이브러리 중 decimal.getcontext().prec를 사용하면 소수점 정확도를 설정해줄 수 있습니다.

그러나, 소수점 이하 decimal.getcontext().prec = 100을 할 경우 소수점 이하 100번째 자리까지 정확하게 처리하는 게 아니라,

(정수부 길이) + (소수부 길이)를 더해서 나온 길이가 100이 되도록 처리하게 됩니다.

예시로 decimal.getcontext().prec = 300으로 정해두고 99.999^100을 계산하게 되면

정확한 값은 정수부분 200자리 + 소수부분 300자리인 수이지만

.prec = 300이기 때문에 정수부분 200자리 + 소수부분 100자리인 수로 소수부분이 잘려서 나오게 됩니다.

댓글을 작성하려면 로그인해야 합니다.