공부/AI

float 타입의 저장 방식, 부동소수점, IEEE 754

글로벌디노 2024. 12. 4. 18:41

 

부호 : 양수 0, 음수 1

지수 : 2^(지수부 - 1) + 정규화 후 지수

가수 : 정규화 후 가수

 

 

 

정규화

1 + 0.1234 x 10^2 의 형식으로 만든다

 

 

32비트 컴퓨터에서 12.375 가 어떻게 저장되는지 계산해보자

 

12를 이진수로 표현하면 1100

0.375를 이진수로 표현하면 0.011

더하면 1100.011 x 2^0

정규화하면 1.100011 x 2^3

부호는 양수니까 0

지수는 2^(8 - 1) + 3 = 127 + 3 = 130 = 10000010

가수는 1.100011 에서 1을 빼고 100011

결과는 0 10000010 10001100000000000000000

 

32비트, -118.625

118(10) = 1110110(2)

0.625(10) = 0.101(2)

1110110.101 x 2^0

1.110110101 x 2^6

결과 1 10000101 11011010100000000000000

 

 

참고)

https://devocean.sk.com/blog/techBoardDetail.do?ID=165270

https://ko.wikipedia.org/wiki/%EB%B6%80%EB%8F%99%EC%86%8C%EC%88%98%EC%A0%90

반응형

'공부 > AI' 카테고리의 다른 글

CS 과제  (0) 2024.12.07
자료구조 Data Structure  (0) 2024.12.05
컴퓨터 공학 (CSE) - Computational Thinking  (0) 2024.12.04
통계학 Statistics 공부 for AI - 2  (0) 2024.12.01
통계학 Statistics 공부 for AI - 1  (0) 2024.11.30