roko   1년 전

테스트 케이스도 통과하고 n,m이 같을경우 다 정상 동작하는거 같은데 어디서 틀린게 있을까요? overflow도 1,30넣었을때 안나와서 잘 모르겠네요...

jtw7913   1년 전

부동소수점 오차 때문에 틀린것 같습니다.

line8을 /=대신 //=을 사용하시면 AC를 받습니다.

roko   1년 전

그렇네요! 감사합니다! 그런데 저는 return에서 int로 감싸면 부동소수점 부분이 해결될거라고 생각했는데 어떤 부분에서 문제가 생기는걸까요?

jtw7913   1년 전

나눗셈 할때 아주작은 오차가 생기면 리턴전에 int시켜도 문제가 생길수 있습니다.

간단한 예로 계산중 미세한 오차로 8.999999가 되버리는 순간 리턴은 8로 되므로 틀리게 됩니다.

https://youtu.be/-GsrYvZoAdA?s...

영상을 보시면 부동소수점에 대해서 이해가능하실 겁니다!

djm03178   1년 전

부동소수점 오차는 부동소수점 연산을 수행하는 순간에 발생합니다. 연산이 이미 수행된 이후 값을 int로 바꿔도 이미 발생한 오차를 되돌릴 수는 없습니다.

roko   1년 전

다들 설명과 참고자료까지 주셔서 감사합니다!

댓글을 작성하려면 로그인해야 합니다.