검색
색인
계산 오차, 計算誤差, calculation error, computing error
①계산 결과에 나타나는 오차. 이 오차는 여러 가지 오차 요인으로 발생된 오차들의 복합된 형태이다. 계산 오차가 발생하는 요인으로는 절대 오차처럼 자료 자체가 오차를 가지고 있는 경우와, 컴퓨터의 계산상의 한계 때문에 나타나는 오차(값이 넘치거나 유효 숫자가 너무 길어서 잘리는 경우 등에서 나타나는 오차)가 있다.
②어떤 계산기든지 숫자를 나타낼 수 있는 비트 수는 유한하기 때문에 계산 숫자가 너무 커지거나 너무 작아지면 그것을 완전히 나타낼 수 없어서 나타나는 오차. 즉 10÷3을 하면 3.333…으로 계속되고 이때 뒤의 숫자는 떨어져 없어지므로 이런 식의 계산이 반복되면 오차는 더욱 커지게 된다.