오블완 챌린지 4일차

 

파이팅 해야지 (Feat. 이영지)

아티스트

부석순 (SEVENTEEN)

앨범

부석순 1st Single Album 'SECOND WIND'

발매일

2023.02.06

역시 어려웠던 부분은 반복적으로 어려워 한다는 걸 다시 느꼈다. 제대로 이해하면 더이상 막히지 않겠지라는 생각에 다시 읽어보았다

 

chap2 - 2 컴퓨터가 이해하는 정보

코드 실행 시 생각하던 답과 다르게 나오는 오차가 발생하는 이유는 무엇일까?

컴퓨터 내부에서는 소수점을 나타내기 위해 대표적으로 부동 소수점(floationg point)표현 방식을 사용하는데, 이 방식의 정밀도에 한계가 있기 때문이다. 그 이유는 10진수로 표현 가능한 수 중에서도 2진수로 딱 맞아떨어지지 않는 수가 있다. 컴퓨터의 저장공간은 한정적이기 때문에 무한히 많은 소주점을 저장할 수 는 없다. 그래서 딱 맞아떨어지지 않는 소수를 표현할 때 일부 소수점을 생략하여 저장하기 때문에 오차가 발생하는 것이다. 

부동소수점은 소수점이 고정되어 있지 않은 소수 표현 방식으로, 필요에 따라 소수점의 위치가 유동적(floating)이라 부동소수점이란 이름이 붙었다.