floating-point number 썸네일형 리스트형 컴퓨터구조(3) Computer Arithmetic 1. 정수의 연산 (1) Overflow 일반적인 수학에서는 무수히 많은 number들을 아무런 제약 없이 표현 가능하다. 그러나 digital systems에서는 number를 일정한 길이의 bits로 표현한다. 예를 들어 8bits, 16bits, 32bits 등 말이다. 8-bit number system의 경우, 표현할 수 있는 숫자의 개수는 28 = 256개다. 양의 정수를 표현하는 경우 표현 가능한 숫자의 범위는 0(0000 0000) ~ 255(1111 1111)이다. 일반적으로 n-bit binary number system에서 unsigned number의 범위는 0 ~ (2n - 1)이다. Digital system에서 addition / subtraction 등 산술 연산 결과 값이 .. 더보기 이전 1 다음
