실수형 변수를 정수형 변수로 변환하는 과정.

FP32 타입의 파라미터를 int8 형태로 변환함. ⇒ 용량 줄임

weight, activation function의 값이 범위 안에 있다는 것 가정하에 모델 경량화.

weight 최솟값 -10을 int8의 최솟값인 0에 대응, weight 최댓값 30을 int8의 최댓값 255에 대응. 32bit 자료형이 8bit 자료형으로 줄어들기 때문에 전체 메모리 사용량 및 수행 속도가 감소하는 효과.

또 정수형이 하드웨어에 좀 더 효율적임.

quantization 하면 round 처리 하면서 버림/올림 하게되서 오차가 발생하는데 이거를 quantization error라고 함.