#4-2-2 The Art of Computer Programming - 준수치적 알고리즘

이번 절은 부동소수점 산술의 정확도에 대한 내용이다.

부동소수점 계산은 본질적으로 부정확할 수밖에 없는데 프로그래머는 이를 간과하고 잘못 사용하기가 쉽다.

나도 별생각 없이 소수점 계산에 큰 신경을 쓰지 않는 거 같다.

 

저자의 목표는 오류 전파의 합리적인 분석에 최대한 도움이 되는 방식으로 부동 소수점 산술을 수행하는 방법을 발견하는 것이라고 한다.

 

부동소수점의 곱셈, 뺄셈은 상대오차를 그리 많이 키우지 않지만

덧셈 및 뺄셈은 상대오차를 아주 크게 키울 수 있다.

 

부동소수점 덧셈의 잠재적 불신성에서 결합 법칙이 깨지는 경우를 확인할 수 있다.

 

정밀도 검사를 위해 구간 산술을 사용하기도 한다고 한다.