코덱(Codec) 양자화(Quantization)

코덱(Codec) 양자화(Quantization), 압축 과정의 핵심 요소 중 하나입니다. 양자화는 연속적인 아날로그 신호를 유한한 비트수의 디지털 신호로 변환하는 과정을 의미하며, 이 과정에서 원본 데이터의 일부 정보가 손실될 수 있습니다. 이번 글에서는 코덱에서 사용되는 양자화의 개념과 원리, 그리고 적용 방식에 대해 자세히 알아보겠습니다.

Table of Contents

양자화(Quantization)란?

양자화는 연속적인 값의 집합을 유한한 개수의 이산적인 값으로 변환하는 과정입니다. 아날로그 신호는 무한한 범위의 값을 가질 수 있지만, 디지털 신호는 제한된 개수의 값만 표현할 수 있기 때문에 반드시 양자화 과정을 거쳐야 합니다.

PAM 신호란?

양자화 과정에서 중요한 개념 중 하나는 PAM(Pulse Amplitude Modulation, 펄스 진폭 변조) 신호입니다. PAM 신호는 아날로그 신호를 일정한 시간 간격으로 샘플링하여 얻어지는 신호로, 디지털 변환의 첫 단계에서 사용됩니다.

PAM 신호는 완전한 디지털 신호가 아니며, 이를 양자화하여 디지털 형태로 저장 및 전송할 수 있도록 변환해야 합니다.

양자화의 종류

균등 양자화(Uniform Quantization)

균등 양자화는 양자화 간격(Quantization Step Size)이 일정한 방식입니다. 즉, 일정한 크기의 구간을 사용하여 값을 변환합니다.

장점: 구현이 간단하고 계산량이 적음.
단점: 높은 정밀도를 요구하는 신호에서도 동일한 간격을 적용하기 때문에 비효율적일 수 있음.

예: 오디오 신호에서 작은 크기의 값이 중요하지만, 균등 양자화는 모든 값에 동일한 간격을 적용하기 때문에 세밀한 표현이 어려움.

비균등 양자화(Non-Uniform Quantization)

비균등 양자화는 양자화 간격이 비선형적으로 배치된 방식으로, 작은 신호 값에는 작은 양자화 간격을, 큰 신호 값에는 큰 양자화 간격을 적용합니다.

장점: 신호의 특성에 맞게 압축을 최적화할 수 있음.
단점: 구현이 복잡하고 추가적인 연산이 필요함.

비균등 양자화의 대표적인 예시는 A-law와 μ-law 양자화 방식으로, 음성 신호 압축에서 사용됩니다.

양자화 오차(Quantization Error)와 신호 대 잡음비(SNR)

양자화 오차(Quantization Error)

양자화 과정에서 발생하는 오차는 다음과 같은 요인으로 인해 발생합니다.

양자화 잡음(Quantization Noise): 연속 신호를 이산화하면서 발생하는 잡음으로, 샘플링된 값이 원래 값과 정확히 일치하지 않기 때문에 발생합니다.
양자화 비트 수(Bit Depth): 비트 수가 많을수록 양자화 간격이 작아지고, 더 높은 정확도로 신호를 표현할 수 있습니다.

신호 대 잡음비(SNR: Signal-to-Noise Ratio)

신호 대 잡음비(SNR)는 양자화의 품질을 평가하는 중요한 지표입니다.

여기서 N은 비트 수를 의미합니다. 즉, 비트 수가 1비트 증가할 때마다 약 6dB의 SNR 향상이 이루어집니다.

8비트 양자화 → 약 50dB의 SNR
16비트 양자화 → 약 98dB의 SNR

따라서 오디오, 비디오 등의 멀티미디어 데이터를 고품질로 유지하려면 적절한 비트 수를 선택해야 합니다.

코덱에서 양자화의 적용

오디오 코덱에서의 양자화

오디오 코덱에서는 일반적으로 PCM(Pulse Code Modulation) 방식과 비손실 또는 손실 압축 코덱을 사용합니다.

PCM (Pulse Code Modulation): 16비트 또는 24비트로 균등 양자화를 수행.
MP3, AAC 등의 손실 압축 코덱: 심리 음향 모델을 적용하여 인지적으로 중요하지 않은 부분을 제거하고 양자화 수준을 조정함.

비디오 코덱에서의 양자화

비디오 압축에서는 DCT(Discrete Cosine Transform) 또는 Wavelet Transform 등의 변환 후 양자화가 적용됩니다.

H.264 / HEVC (H.265) 코덱에서는 양자화 행렬(Quantization Matrix) 을 사용하여 블록 단위로 양자화를 수행.
낮은 주파수 영역은 정밀하게, 높은 주파수 영역은 거칠게 양자화하여 압축률을 높임.

양자화 개선 기술

적응형 양자화(Adaptive Quantization): 신호의 특성에 따라 양자화 간격을 동적으로 조정하는 방식.
벡터 양자화(Vector Quantization, VQ): 데이터 샘플을 그룹화하여 더 높은 압축 효율을 제공.
사후 필터링(Post-Processing): 양자화 노이즈를 감소시키기 위한 후처리 기법 적용.

결론

코덱에서 양자화(Quantization) 는 압축의 핵심적인 과정으로, 원본 신호를 디지털 형태로 변환하면서 저장 및 전송의 효율성을 높이는 역할을 합니다. 그러나 양자화 과정에서 정보 손실이 발생할 수 있으므로, 신호의 특성에 맞는 양자화 방식과 비트 수를 적절히 선택하는 것이 중요합니다.

오디오 및 비디오 압축 기술이 발전하면서, 보다 정교한 양자화 기법이 등장하고 있으며, 미래에는 AI 기반의 적응형 양자화 기술이 더욱 발전할 것으로 기대됩니다.

코덱(CODEC)