|
:: 게시판
:: 이전 게시판
|
- PGR21 관련된 질문 및 건의는 [건의 게시판]을 이용바랍니다.
- (2013년 3월 이전) 오래된 질문글은 [이전 질문 게시판]에 있습니다. 통합 규정을 준수해 주십시오. (2015.12.25.)
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
18/05/21 12:18
https://support.microsoft.com/ko-kr/help/78113/floating-point-arithmetic-may-give-inaccurate-results-in-excel
이 문제인것 같은데요. =SUM(B:B) 를 =ROUND(SUM(B:B),1) 이걸로 변경하니 되긴 하는데, 한번 보세요. ^^
18/05/21 13:52
(수정됨) 확률 하나가 0.014 단위인데 이렇게 반올림하면 셀 몇 개 비워도 똑같이 반올림하면 1 나오기 때문에 반올림 하시려거든 round(-, 1)에서 1을 13 정도로 주세요.
18/05/21 13:16
round-off 오차입니다. 실수형 데이터타입을 이용하는 이상 어떤 컴퓨터, 프로그램에서도 생기는 오차입니다.
18/05/21 19:05
답변 고맙습니다. 부동소수점 문제를 들어본 적은 있는데 실제로 어떤 것인지 살펴본 것은 처음입니다.
소수점 저장을 아주 길게 해서 오차를 줄일 뿐, 유리수라도 그 비로 처리하는게 아니라서 생기는 문제군요. 경우의 수 누락을 확률 합으로 확인하려는 것이였고, 이를 합산해서 1로 만들어서 눈으로 보는 것 역시 소수점 처리 문제가 있어서 IF 함수를 사용한 것이였는데, 근본적으로 해결이 안되는 것이니 경우의 수 합으로 확인을 해야 할 것 같습니다.
|
||||||||||