코덱(Codec) 양자화(Quantization)

양자화(Quantization)란?

양자화는 연속적인 값의 집합을 유한한 개수의 이산적인 값으로 변환하는 과정입니다. 아날로그 신호는 무한한 범위의 값을 가질 수 있지만, 디지털 신호는 제한된 개수의 값만 표현할 수 있기 때문에 반드시 양자화 과정을 거쳐야 합니다.

PAM 신호란?

양자화 과정에서 중요한 개념 중 하나는 PAM(Pulse Amplitude Modulation, 펄스 진폭 변조) 신호입니다. PAM 신호는 아날로그 신호를 일정한 시간 간격으로 샘플링하여 얻어지는 신호로, 디지털 변환의 첫 단계에서 사용됩니다.

PAM 신호는 완전한 디지털 신호가 아니며, 이를 양자화하여 디지털 형태로 저장 및 전송할 수 있도록 변환해야 합니다.

코덱(CODEC) 👆

양자화의 종류

균등 양자화(Uniform Quantization)

균등 양자화는 양자화 간격(Quantization Step Size)이 일정한 방식입니다. 즉, 일정한 크기의 구간을 사용하여 값을 변환합니다.

장점: 구현이 간단하고 계산량이 적음.
단점: 높은 정밀도를 요구하는 신호에서도 동일한 간격을 적용하기 때문에 비효율적일 수 있음.

예: 오디오 신호에서 작은 크기의 값이 중요하지만, 균등 양자화는 모든 값에 동일한 간격을 적용하기 때문에 세밀한 표현이 어려움.

비균등 양자화(Non-Uniform Quantization)

비균등 양자화는 양자화 간격이 비선형적으로 배치된 방식으로, 작은 신호 값에는 작은 양자화 간격을, 큰 신호 값에는 큰 양자화 간격을 적용합니다.

장점: 신호의 특성에 맞게 압축을 최적화할 수 있음.
단점: 구현이 복잡하고 추가적인 연산이 필요함.

비균등 양자화의 대표적인 예시는 A-law와 μ-law 양자화 방식으로, 음성 신호 압축에서 사용됩니다.

디지털 서비스 유닛(DSU: Digital Service Unit) 👆

양자화 오차(Quantization Error)와 신호 대 잡음비(SNR)

양자화 오차(Quantization Error)

양자화 과정에서 발생하는 오차는 다음과 같은 요인으로 인해 발생합니다.

양자화 잡음(Quantization Noise): 연속 신호를 이산화하면서 발생하는 잡음으로, 샘플링된 값이 원래 값과 정확히 일치하지 않기 때문에 발생합니다.
양자화 비트 수(Bit Depth): 비트 수가 많을수록 양자화 간격이 작아지고, 더 높은 정확도로 신호를 표현할 수 있습니다.

신호 대 잡음비(SNR: Signal-to-Noise Ratio)

신호 대 잡음비(SNR)는 양자화의 품질을 평가하는 중요한 지표입니다.

여기서 N은 비트 수를 의미합니다. 즉, 비트 수가 1비트 증가할 때마다 약 6dB의 SNR 향상이 이루어집니다.

8비트 양자화 → 약 50dB의 SNR
16비트 양자화 → 약 98dB의 SNR

따라서 오디오, 비디오 등의 멀티미디어 데이터를 고품질로 유지하려면 적절한 비트 수를 선택해야 합니다.

위상 편이 변조(PSK: Phase Shift Keying) 👆

코덱에서 양자화의 적용

오디오 코덱에서의 양자화

오디오 코덱에서는 일반적으로 PCM(Pulse Code Modulation) 방식과 비손실 또는 손실 압축 코덱을 사용합니다.

PCM (Pulse Code Modulation): 16비트 또는 24비트로 균등 양자화를 수행.
MP3, AAC 등의 손실 압축 코덱: 심리 음향 모델을 적용하여 인지적으로 중요하지 않은 부분을 제거하고 양자화 수준을 조정함.

비디오 코덱에서의 양자화

비디오 압축에서는 DCT(Discrete Cosine Transform) 또는 Wavelet Transform 등의 변환 후 양자화가 적용됩니다.

H.264 / HEVC (H.265) 코덱에서는 양자화 행렬(Quantization Matrix) 을 사용하여 블록 단위로 양자화를 수행.
낮은 주파수 영역은 정밀하게, 높은 주파수 영역은 거칠게 양자화하여 압축률을 높임.

주파수 편이 변조(FSK: Frequency Shift Keying) 👆

양자화 개선 기술

적응형 양자화(Adaptive Quantization): 신호의 특성에 따라 양자화 간격을 동적으로 조정하는 방식.
벡터 양자화(Vector Quantization, VQ): 데이터 샘플을 그룹화하여 더 높은 압축 효율을 제공.
사후 필터링(Post-Processing): 양자화 노이즈를 감소시키기 위한 후처리 기법 적용.

진폭 편이 변조(ASK: Amplitude Shift Keying) 👆

결론

코덱에서 양자화(Quantization) 는 압축의 핵심적인 과정으로, 원본 신호를 디지털 형태로 변환하면서 저장 및 전송의 효율성을 높이는 역할을 합니다. 그러나 양자화 과정에서 정보 손실이 발생할 수 있으므로, 신호의 특성에 맞는 양자화 방식과 비트 수를 적절히 선택하는 것이 중요합니다.

오디오 및 비디오 압축 기술이 발전하면서, 보다 정교한 양자화 기법이 등장하고 있으며, 미래에는 AI 기반의 적응형 양자화 기술이 더욱 발전할 것으로 기대됩니다.

코덱(CODEC)

모뎀(Modulator-Demodulator) 👆