Quantisierung (Signalverarbeitung)

Der einfachste Weg, ein Signal zu quantisieren, besteht darin, den Wert der digitalen Amplitude zu wählen, das der ursprünglichen analogen Amplitude am nächsten liegt. Dieses Beispiel zeigt das ursprüngliche Analogsignal (grün), das quantisierte Signal (schwarze Punkte), das Signal rekonstruiert aus dem quantisierten Signal (gelb) und der Differenz zwischen dem ursprünglichen Signal und dem rekonstruierten Signal (rot). Der Unterschied zwischen dem ursprünglichen Signal und dem rekonstruierten Signal ist der Quantisierungsfehler und in diesem einfachen Quantisierungsschema eine deterministische Funktion des Eingangssignals.

Quantisierungin Mathematik und digitale Signalverarbeitung, ist der Prozess der Abbildung von Eingangswerten von einem großen Satz (oft ein kontinuierlicher Satz) zu Ausgabewerte in einem (zählbaren) kleineren Satz, oft mit einem endlichen Anzahl der Elemente. Rundung und Kürzung sind typische Beispiele für Quantisierungsprozesse. Die Quantisierung ist in nahezu allen digitalen Signalverarbeitung in gewissem Maße beteiligt, da der Prozess der Darstellung eines Signals in digitaler Form normalerweise eine Rundung beinhaltet. Quantisierung bildet auch den Kern von im Wesentlichen allen Verlustige Komprimierung Algorithmen.

Die Differenz zwischen einem Eingangswert und seinem quantisierten Wert (wie z. Rundenfehler) wird bezeichnet als Quantisierungsfehler. Ein Gerät oder Algorithmische Funktion Das führt eine Quantisierung aus, heißt a Quantisierer. Ein Analog-Digital-Wandler ist ein Beispiel für einen Quantisierer.

Beispiel

Zum Beispiel, Rundung a reelle Zahl ${\ displayStyle x}$ Zum nächsten Ganzzahlwert bildet eine sehr grundlegende Art von Quantizer - a Uniform eines. Eine typische (mittelgroß) einheitlicher Quantisierer mit einer Quantisierung Schrittlänge Gleicher Wert ${\ displayStyle \ Delta}$ kann ausgedrückt werden als

$oder$,

wo die Notation ${\ displayStyle \ lfloor \ \ rfloor}$ bezeichnet die Bodenfunktion.

Die wesentliche Eigenschaft eines Quantisierers besteht darin, eine zählbare Ausgabewerte mit einer Reihe von Ausgangswerten zu haben, die kleiner als der Satz möglicher Eingangswerte sind. Die Mitglieder der Ausgangswerte sind möglicherweise ganzzahlige, rationale oder reale Werte. Für die einfache Rundung zur nächsten Ganzzahl die Schrittgröße ${\ displayStyle \ Delta}$ ist gleich 1. mit ${\ displayStyle \ Delta = 1}$ oder mit ${\ displayStyle \ Delta}$ Dieser Quantisierer entspricht jedem anderen ganzzahligen Wert und verfügt über realbewertete Eingänge und ganzzahlige Ausgänge.

Wenn die Quantisierungsschrittgröße (δ) relativ zur Quantisierung des Signals klein ist, ist es relativ einfach zu zeigen, dass die mittlere quadratische Fehler Der von einem solchen Rundungsvorgang erzeugte wird ungefähr sein ${\ displayStyle \ Delta ^{2}/12}$.^{[1][2][3][4][5][6]} Der mittlere quadratische Fehler wird auch als Quantisierung bezeichnet Geräuschleistung. Das Hinzufügen eines Bits zum Quantizer halbiert den Wert von δ, wodurch die Rauschleistung durch den Faktor ¼ reduziert wird. Bezüglich decibelsDie Änderung der Geräuschleistung ist $oder$

Da der Satz möglicher Ausgangswerte eines Quantisierers zählbar ist, kann jeder Quantisierer in zwei unterschiedliche Phasen zerlegt werden, die als die bezeichnet werden können Einstufung Bühne (oder Vorwärtsquantisierung Stufe) und die Wiederaufbau Bühne (oder inverse Quantisierung Stufe), wobei die Klassifizierungsphase den Eingangswert einer Ganzzahl abstellt Quantisierungsindex ${\ displayStyle K}$ und die Rekonstruktionsstufe kartiert den Index ${\ displayStyle K}$ zum Rekonstruktionswert ${\ displayStyle y_ {k}}$ Das ist die Ausgangsnäherung des Eingangswerts. Für den oben beschriebenen Beispiel für ein gleichmäßige Quantisierer kann die Vorwärtsquantisierungsstufe ausgedrückt werden als

$oder$,

und die Rekonstruktionsphase für dieses Beispiel Quantizer ist einfach

${\ displayStyle y_ {k} = k \ cdot \ delta}$.

Diese Zersetzung ist nützlich für das Design und die Analyse des Quantisierungsverhaltens und zeigt, wie die quantisierten Daten über a kommuniziert werden können Kommunikationskanal - a Quellcodierer Kann die Startphase für die Vorwärtsbewegung durchführen und die Indexinformationen über einen Kommunikationskanal und a senden Decoder Kann die Rekonstruktionsphase durchführen, um die Ausgangsnäherung der ursprünglichen Eingangsdaten zu erzeugen. Im Allgemeinen kann die Vorwärts-Quantisierungsstufe jede Funktion verwenden, die die Eingabedaten in den Ganzzahlraum der Quantisierungsindexdaten abbildert, und die inverse Quantisierungsstufe kann konzeptionell (oder buchstäblich) eine Tabellen-Look-up-Operation sein, um jeden Quantisierungsindex zuzuordnen. ein entsprechender Rekonstruktionswert. Diese zweistufige Zerlegung gilt gleich gut für Vektor sowie Skalarquantizer.

Mathematische Eigenschaften

Weil die Quantisierung eine viel bis schwierige Kartierung ist, ist es eine von Natur aus nichtlinear und irreversibler Prozess (d. H. Da der gleiche Ausgangswert durch mehrere Eingangswerte gemeinsam genutzt wird, ist es im Allgemeinen unmöglich, den genauen Eingangswert wiederherzustellen, wenn nur der Ausgabewert angegeben ist).

Der Satz möglicher Eingangswerte kann unendlich groß sein und möglicherweise kontinuierlich und daher unzähliger (wie die Menge aller reellen Zahlen oder aller realen Zahlen innerhalb eines begrenzten Bereichs). Der Satz möglicher Ausgangswerte kann sein endlich oder Zähler Unendlich unendlich.^[6] Die an der Quantisierung beteiligten Eingangs- und Ausgangssätze können auf ziemlich allgemeine Weise definiert werden. Beispielsweise ist die Vektorquantisierung die Anwendung der Quantisierung auf mehrdimensionale (vektorwerte) Eingabedaten.^[7]

Typen

2-Bit-Auflösung mit vier Quantisierungsstufen im Vergleich zu Analogon.^[8]

3-Bit-Auflösung mit acht Ebenen.

Analog-Digital-Wandler

Ein Analog-Digital-Wandler (ADC) kann als zwei Prozesse modelliert werden: Probenahme und Quantisierung. Die Probenahme konvertiert ein zeitvariantes Spannungssignal in a diskretes Signal, eine Folge realer Zahlen. Die Quantisierung ersetzt jede reelle Zahl durch eine Annäherung aus einem endlichen Satz diskreter Werte. Am häufigsten werden diese diskreten Werte als Festpunktwörter dargestellt. Obwohl eine beliebige Anzahl von Quantisierungsniveaus möglich ist, sind gemeinsame Wortlängen 8 Bit (256 Stufen), 16-Bit (65.536 Niveaus) und 24-Bit (16,8 Millionen Niveaus). Das Quantieren einer Reihenfolge von Zahlen erzeugt eine Sequenz von Quantisierungsfehlern, die manchmal als additive Zufallssignal modelliert wird Quantisierungsrauschen wegen seiner stochastisch Verhalten. Je mehr Pegel ein Quantizer verwendet, desto niedriger ist seine Quantisierungsgeräuschleistung.

Rate -Distortion -Optimierung

Rate -Distortion optimiert Quantisierung wird in angetroffen Quellcodierung Für verlustige Datenkomprimierungsalgorithmen, wobei der Zweck darin besteht, Verzerrungen innerhalb der Grenzen des Bitrate Unterstützt von einem Kommunikationskanal oder einem Speichermedium. Die Analyse der Quantisierung in diesem Zusammenhang beinhaltet die Untersuchung der Datenmenge (typischerweise in Ziffern oder Bits oder Bit gemessen Bewertung), die verwendet werden, um den Ausgang des Quantisierers darzustellen und den Präzisionsverlust zu untersuchen, der durch den Quantisierungsprozess eingeführt wird (der als der bezeichnet wird Verzerrung).

Mid-Riser- und mittelgroße Uniformquantizer

Die meisten einheitlichen Quantizer für signierte Eingabedaten können als eines von zwei Typen eingestuft werden: mitten im Streifen und mittelgroß. Die Terminologie basiert auf dem, was in der Region um den Wert 0 geschieht, und verwendet die Analogie zum Betrachten der Eingabe-Output-Funktion des Quantizers als Treppe. Mid-Tread Quantizer haben ein null Wertes Rekonstruktionsniveau (entsprechend a treten eines Treppenweg Steigleitung einer Treppe).^[9]

Die Quantisierung der mittleren Trse beinhaltet Rundung. Die Formeln für die einheitliche Quantisierung mit mittlerer Mitte sind im vorherigen Abschnitt bereitgestellt.

Die Quantisierung mit mittlerer Riser beinhaltet die Kürzung. Die Eingangsausgabeformel für eine gleichmäßige einheitliche Quantisierer mit mittlerer Steigung ist angegeben von:

$oder$,

wo die Klassifizierungsregel gegeben wird durch

$oder$

und die Rekonstruktionsregel ist

${\ displayStyle y_ {k} = \ delta \ cdot \ links (k+{\ tfrac {1} {2} \ rechts)}$.

Beachten Sie, dass einheitliche Mid-Riser-Uniform-Quantizer keinen Nullausgangswert haben-die minimale Ausgangsgröße beträgt die halbe Stufengröße. Im Gegensatz dazu haben Mid-Tread-Quantizer einen Ausgangspegel mit Null. Für einige Anwendungen kann eine Null -Ausgangssignal -Darstellung eine Notwendigkeit sein.

Im Allgemeinen ist ein mittlerer oder mittlerer Quantisierer möglicherweise nicht ein Uniform Quantizer - d. H. Die Größe der Klassifizierung des Quantizers Intervalle Möglicherweise sind nicht alle gleich oder der Abstand zwischen den möglichen Ausgangswerten ist möglicherweise nicht alle gleich. Das Unterscheidungsmerkmal eines mittleren Quantizers besteht darin, dass es einen genau Null ist, und das Unterscheidungsmerkmal eines mittleren Tread-Quantizers ist, dass es einen Rekonstruktionswert hat, der genau Null ist.^[9]

Tot-Zonen-Quantizer

A Sackgasse ist eine Art von Mid-Tread-Quantisierer mit symmetrischem Verhalten um 0. Der Bereich um den Nullausgangswert eines solchen Quantisierers wird als die bezeichnet Todeszone oder Totband. Die tote Zone kann manchmal den gleichen Zweck erfüllen wie a Geräuschtor oder Squelch Funktion. Insbesondere für Komprimierungsanwendungen kann der Sackgasse eine andere Breite als die für die anderen Schritte erhalten. Für einen ansonsten ungleichmäßigen Quantisierer kann die Sackgasse auf jeden Wert eingestellt werden ${\ displayStyle W}$ unter Verwendung der Vorwärtsquantisierungsregel^[10][11][12]

$oder rechts \ rfloor \ rechts)}$,

wo die Funktion ${\ displayStyle \ operatorname {sgn}}$() ist der Zeichenfunktion (auch bekannt als die signalisieren Funktion). Die allgemeine Rekonstruktionsregel für einen solchen Totzonenquantizer ist gegeben durch

$oder )}$,

wo ${\ displayStyle r_ {k}}$ ist ein Rekonstruktions -Offset -Wert im Bereich von 0 bis 1 als Bruchteil der Schrittgröße. Gewöhnlich, ${\ displayStyle 0 \ leq r_ {k} \ leq {\ tfrac {1} {2}}}$ Bei der Quantisierung von Eingabedaten mit einem typischen Wahrscheinlichkeitsdichtefunktion (PDF), das um Null symmetrisch ist und seinen Spitzenwert bei Null erreicht (wie z. Gaußscher, Laplace, oder Verallgemeinerte Gaußsche PDF). Obwohl ${\ displayStyle r_ {k}}$ kann abhängen von ${\ displayStyle K}$ Im Allgemeinen und kann ausgewählt werden, um die nachstehend beschriebene Optimalitätsbedingung zu erfüllen, wird sie oft einfach auf eine Konstante eingestellt, wie z. ${\ displayStyle {\ tfrac {1} {2}}}$. (Beachten Sie, dass in dieser Definition, ${\ displayStyle y_ {0} = 0}$ Aufgrund der Definition der ${\ displayStyle \ operatorname {sgn}}$() Funktion, so ${\ displayStyle r_ {0}}$ hat keine Wirkung.)

Ein sehr häufig verwendeter Sonderfall (z. B. das System, das typischerweise in Finanzbuchhaltung und elementarer Mathematik verwendet wird), besteht darin, festgelegt zu werden ${\ displayStyle w = \ delta}$ und ${\ displayStyle r_ {k} = {\ tfrac {1} {2}}}$ für alle ${\ displayStyle K}$. In diesem Fall ist der Quantisierer der Sackgasse auch ein einheitlicher Quantisierer, da die zentrale Sackgasse dieses Quantisierers die gleiche Breite hat wie alle anderen Schritte, und alle seine Rekonstruktionswerte sind ebenfalls gleichberechtigt.

Rauschen und Fehlereigenschaften

Additiv -Rauschmodell

Eine häufige Annahme für die Analyse von Quantisierungsfehler ist, dass es ein Signalverarbeitungssystem auf ähnliche Weise wie das von Additiv beeinflusst weißes Rauschen - eine vernachlässigbare Korrelation mit dem Signal und einem ungefähr flachen spektrale Leistungsdichte.^{[2][6][13][14]} Das additive Rauschmodell wird üblicherweise für die Analyse von Quantisierungsfehler -Effekten in digitalen Filtersystemen verwendet und kann bei einer solchen Analyse sehr nützlich sein. Es wurde gezeigt, dass es ein gültiges Modell in Fällen von hoher Auflösung ist (klein ${\ displayStyle \ Delta}$ relativ zur Signalstärke) mit glatten PDFs.^[2][15]

Das additive Rauschverhalten ist nicht immer eine gültige Annahme. Quantisierungsfehler (für Quantizer, die wie hier beschrieben definiert sind) hängt deterministisch mit dem Signal und nicht vollständig unabhängig davon zusammen. Daher können periodische Signale periodische Quantisierungsrauschen erzeugen. Und in einigen Fällen kann es sogar verursachen Zyklen begrenzen in digitalen Signalverarbeitungssystemen erscheinen. Eine Möglichkeit, eine effektive Unabhängigkeit des Quantisierungsfehlers aus dem Quellsignal zu gewährleisten, besteht darin, durchzuführen Dithered Quantisierung (manchmal mit Geräuschformung), bei der zufällige hinzugefügt wird (oder Pseudo-Random) Rauschen des Signals vor der Quantisierung.^[6][14]

Quantisierungsfehlermodelle

Im typischen Fall ist das ursprüngliche Signal viel größer als eins niedrigstwertige Bit (LSB). Wenn dies der Fall ist, ist der Quantisierungsfehler nicht signifikant mit dem Signal korreliert und hat eine ungefähr einheitliche Verteilung. Bei der Quantisierung wird der Quantisierungsfehler a bedeuten von null und der quadratischer Mittelwert (RMS) Wert ist der Standardabweichung dieser Verteilung, gegeben durch $oder$. Wenn die Kürzung verwendet wird, hat der Fehler einen Mittelwert ungleich Null von von ${\ displayStyle \ scriptstyle {\ frac {1} {2}} \ mathrm {lsb}}$ und der RMS -Wert ist ${\ displayStyle \ scriptstyle {\ frac {1} {\ sqrt {3}}} \ mathrm {lsb}}$. Obwohl die Rundung einen geringeren RMS -Fehler als Kürzung ergibt, ist der Unterschied nur auf den statischen (DC) Term von zurückzuführen ${\ displayStyle \ scriptstyle {\ frac {1} {2}} \ mathrm {lsb}}$. Die RMS -Werte des Wechselstromfehlers sind in beiden Fällen genau gleich, sodass in Situationen, in denen der Gleichstrombegriff des Fehlers ignoriert werden kann (z. In beiden Fällen ändert sich die Standardabweichung als Prozentsatz des Vollsignalbereichs um den Faktor 2 für jede 1-Bit-Änderung der Anzahl der Quantisierungsbits. Das potenzielle Verhältnis von Signal-zu-Quantisation-Noise-Leistungsverhältnis ändert sich daher um 4 oder ${\ displayStyle \ scriptstyle 10 \ cdot \ log _ {10} (4)}$, ungefähr 6 dB pro Bit.

Bei niedrigeren Amplituden wird der Quantisierungsfehler vom Eingangssignal abhängig, was zu einer Verzerrung führt. Diese Verzerrung wird nach dem Anti-Aliasing-Filter erzeugt, und wenn diese Verzerrungen über 1/2 der Stichprobenrate liegen, werden sie in das interessierende Band zurückkehren. Um den Quantisierungsfehler unabhängig vom Eingangssignal zu machen, wird das Signal durch Hinzufügen von Rauschen zum Signal getötet. Dies reduziert das Signal -Rausch -Verhältnis leicht, kann die Verzerrung jedoch vollständig beseitigen.

Quantisierungsgeräuschmodell

Vergleich der Quantisierung einer Sinus mit 64 Stufen (6 Bit) und 256 Stufen (8 Bit). Das durch 6-Bit-Quantisierung erzeugte additive Rauschen ist 12 dB größer als das durch 8-Bit-Quantisierung erzeugte Rauschen. Wenn die Spektralverteilung flach ist, wie in diesem Beispiel, manifestiert sich die 12 -dB -Differenz als messbare Differenz in den Rauschböden.

Quantisierungsrauschen ist a Modell des Quantisierungsfehlers durch Quantisierung im ADC. Es handelt sich um einen Rundungsfehler zwischen der analogen Eingangsspannung und dem ADC und dem digitalisierten Ausgangswert. Das Rauschen ist nichtlinear und signifikant abhängig. Es kann auf verschiedene Arten modelliert werden.

In einem idealen ADC, bei dem der Quantisierungsfehler gleichmäßig zwischen –1/2 LSB und +1/2 LSB verteilt ist und das Signal eine einheitliche Verteilung hat, die alle Quantisierungsstufen abdeckt, die, die Signal-zu-Quantisation-Noise-Verhältnis (SQNR) kann aus berechnet werden

$oder$

wobei Q die Anzahl der Quantisierungsbits ist.

Die häufigsten Testsignale, die dies erfüllen, sind die vollständige Amplitude Dreieckswellen und Sägezahnwellen.

Zum Beispiel a 16-Bit ADC hat ein maximales Verhältnis von Signal-zu-Quantisation-Nr. Von 6,02 × 16 = 96,3 dB.

Wenn das Eingangssignal eine Vollstation ist Sinus Die Verteilung des Signals ist nicht mehr gleichmäßig und die entsprechende Gleichung ist stattdessen

$oder$

Hier ist das Quantisierungsrauschen wieder einmal vermutet gleichmäßig verteilt sein. Wenn das Eingangssignal eine hohe Amplitude und ein breites Frequenzspektrum aufweist, ist dies der Fall.^[16] In diesem Fall hat ein 16-Bit-ADC ein maximales Signal-Rausch-Verhältnis von 98,09 dB. Die 1,761-Differenz im Signal-R-Rausch-Nutzen erfolgt nur, da das Signal eine Sinuswelle in voller Ebene anstelle eines Dreiecks oder Sägenzahns ist.

Für komplexe Signale in hochauflösenden ADCs ist dies ein genaues Modell. Bei ADCs mit niedriger Auflösung, Signalen mit niedrigem Niveau in hochauflösenden ADCs und für einfache Wellenformen ist das Quantisierungsrauschen nicht gleichmäßig verteilt, wodurch dieses Modell ungenau wird.^[17] In diesen Fällen wird die Quantisierungsrauschverteilung durch die genaue Amplitude des Signals stark beeinflusst.

Die Berechnungen sind relativ zu Eingabe in vollem Maßstab. Für kleinere Signale kann die relative Quantisierungsverzerrung sehr groß sein. Um dieses Problem zu umgehen, analog Kompagieren Kann verwendet werden, aber dies kann Verzerrungen einführen.

Entwurf

Körnige Verzerrung und Überlastungsverzerrung

Oft beinhaltet das Design eines Quantisierers nur einen begrenzten Bereich möglicher Ausgangswerte und die Durchführung des Ausschnitts, um die Ausgabe auf diesen Bereich zu begrenzen, wenn der Eingang den unterstützten Bereich überschreitet. Der Fehler, der durch diesen Ausschnitt eingeführt wird, wird als bezeichnet als Überlast Verzerrung. Innerhalb der extremen Grenzen des unterstützten Bereichs wird die Menge des Abstands zwischen den wählbaren Ausgangswerten eines Quantisierers als ITS bezeichnet Die Granularitätund der Fehler, der durch diesen Abstand eingeführt wird körnig Verzerrung. Es ist üblich, dass das Design eines Quantisierers das ordnungsgemäße Gleichgewicht zwischen körniger Verzerrung und Überlastverzerrung bestimmt. Für eine gegebene unterstützte Anzahl möglicher Ausgangswerte kann die Reduzierung der durchschnittlichen körnigen Verzerrung die durchschnittliche Überlastverzerrung und umgekehrt beinhalten. Eine Technik zur Steuerung der Amplitude des Signals (oder gleichzeitig die Quantisierungsschrittgröße ${\ displayStyle \ Delta}$) Um das entsprechende Gleichgewicht zu erreichen, ist die Verwendung von automatische gewinn Kontrolle (AGC). In einigen Quantizer -Designs gelten jedoch die Konzepte des Granularfehlers und des Überlastungsfehlers möglicherweise nicht (z. B. für einen Quantisierer mit einem begrenzten Bereich von Eingangsdaten oder mit einem zähligen unendlichen Satz wählbarer Ausgangswerte).^[6]

Rate -Distortion Quantizer Design

Ein Skalarquantisierer, der einen Quantisierungsvorgang durchführt, kann normalerweise in zwei Stufen zerlegt werden:

Einstufung

Ein Prozess, der den Eingangssignalbereich einklassifiziert in ${\ displayStyle m}$ nicht überlappend Intervalle ${\ displaystyle \ {i_ {k} \} _ {k = 1}^{m}}$durch Definition ${\ displayStyle m-1}$ Entscheidungsgrenze Werte ${\ displaystyle \ {b_ {k} \} _ {k = 1}^{m-1}}$, so dass ${\ displayStyle i_ {k} = [b_ {k-1} ~, ~ b_ {k})}$ zum ${\ displayStyle k = 1,2, \ ldots, m}$, mit den extremen Grenzen durch definiert durch ${\ displayStyle b_ {0} =-\ infty}$ und ${\ displayStyle b_ {m} = \ infty}$. Alle Eingänge ${\ displayStyle x}$ in einem bestimmten Intervallbereich fallen ${\ displayStyle i_ {k}}$ sind mit demselben Quantisierungsindex verbunden ${\ displayStyle K}$.

Wiederaufbau

Jedes Intervall ${\ displayStyle i_ {k}}$ wird durch a dargestellt Rekonstruktionswert ${\ displayStyle y_ {k}}$ das implementiert die Mapping ${\ displaystyle x \ in i_ {k} \ rightarrow y = y_ {k}}$.

Diese beiden Phasen zusammen sind der mathematische Betrieb von ${\ displayStyle y = q (x)}$.

Entropie -Codierung Techniken können angewendet werden, um die Quantisierungsindizes von einem Quellcodierer zu kommunizieren, der die Klassifizierungsphase mit einem Decoder ausführt, der die Rekonstruktionsphase ausführt. Eine Möglichkeit, dies zu tun, besteht darin, jeden Quantisierungsindex zu assoziieren ${\ displayStyle K}$ mit einem binären Codewort ${\ displayStyle c_ {k}}$. Eine wichtige Überlegung ist die Anzahl der für jedes Codewort verwendeten Bits, die hier von bezeichnet werden ${\ displayStyle \ mathrm {Länge} (c_ {k})}$. Infolgedessen die Gestaltung eines ${\ displayStyle m}$-Level Quantizer und ein zugehöriger Satz von Codenwörtern zur Kommunikation seiner Indexwerte erfordert das Finden der Werte von ${\ displaystyle \ {b_ {k} \} _ {k = 1}^{m-1}}$, ${\ displaystyle \ {c_ {k} \} _ {k = 1}^{m}}$ und ${\ displaystyle \ {y_ {k} \} _ {k = 1}^{m}}$ die einen ausgewählten Satz von Designbeschränkungen optimal erfüllen wie die Bitrate ${\ displayStyle r}$ und Verzerrung ${\ displayStyle d}$.

Angenommen, eine Informationsquelle ${\ displayStyle S}$ erzeugt zufällige Variablen ${\ displayStyle x}$ mit einem zugehörigen PDF ${\ displayStyle f (x)}$, Die Wahrscheinlichkeit ${\ displayStyle p_ {k}}$ dass die Zufallsvariable innerhalb eines bestimmten Quantisierungsintervalls fällt ${\ displayStyle i_ {k}}$ wird gegeben durch:

$oder$.

Die resultierende Bitrate ${\ displayStyle r}$In Einheiten durchschnittlicher Bits pro quantisierter Wert kann dieser Quantisierer wie folgt abgeleitet werden:

$oder Länge} (c_ {k}) \ int _ {b_ {k-1}}^{b_ {k}} f (x) dx}$.

Wenn angenommen wird, dass die Verzerrung mit mittlerer quadratischer Fehler gemessen wird, wird^[a] die Verzerrung D, wird gegeben durch:

${\ displayStyle d = e [(x-q (x))^{2}] = \ int _ {-\ infty}^{\ infty} (x-q (x))^{2} f (x) dx = \ sum _ {k = 1}^{m} \ int _ {b_ {k-1}}^{b_ {k}} (x-y_ {k})^{2} f (x) dx}$.

Eine wichtige Beobachtung ist diese Rate ${\ displayStyle r}$ hängt von den Entscheidungsgrenzen ab ${\ displaystyle \ {b_ {k} \} _ {k = 1}^{m-1}}$ und die Codewortlängen ${\ displayStyle \ {\ mathrm {Länge} (c_ {k}) \} _ {k = 1}^{m}}$während die Verzerrung ${\ displayStyle d}$ hängt von den Entscheidungsgrenzen ab ${\ displaystyle \ {b_ {k} \} _ {k = 1}^{m-1}}$ und die Rekonstruktionsniveaus ${\ displaystyle \ {y_ {k} \} _ {k = 1}^{m}}$.

Nach der Definition dieser beiden Leistungsmetriken für den Quantisierer kann eine typische Rate -Distortion -Formulierung für ein Quantizer -Designproblem auf zwei Arten ausgedrückt werden:

1. Bei einer maximalen Verzerrungsbeschränkung ${\ displayStyle d \ leq d _ {\ max}}$minimieren Sie die Bitrate ${\ displayStyle r}$
2. Bei einer maximalen Bitrate -Einschränkung ${\ displayStyle r \ leq r _ {\ max}}$minimieren Sie die Verzerrung ${\ displayStyle d}$

Oft kann die Lösung für diese Probleme äquivalent (oder ungefähr) exprimiert und gelöst werden, indem die Formulierung in das nicht eingeschränkte Problem umgewandelt wird ${\ displayStyle \ min \ links \ {d+\ lambda \ cdot r \ rechts \}}$ bei dem die Lagrange -Multiplikator ${\ displayStyle \ lambda}$ ist eine nicht negative Konstante, die den geeigneten Gleichgewicht zwischen Rate und Verzerrung festlegt. Das Lösen des nicht eingeschränkten Problems ist gleichbedeutend damit, einen Punkt auf dem zu finden konvexer Rumpf der Lösungsfamilie zu einer äquivalenten eingeschränkten Formulierung des Problems. Jedoch eine Lösung finden - insbesondere a geschlossene Form Lösung - zu diesen drei Problemformulierungen kann schwierig sein. Lösungen, die keine mehrdimensionalen iterativen Optimierungstechniken erfordern, wurden nur für drei PDFs veröffentlicht: die Uniform,^[18] exponentiell,^[12] und Laplace^[12] Verteilungen. Iterative Optimierungsansätze können verwendet werden, um in anderen Fällen Lösungen zu finden.^[6][19][20]

Beachten Sie, dass die Rekonstruktionswerte ${\ displaystyle \ {y_ {k} \} _ {k = 1}^{m}}$ Beeinflussen nur die Verzerrung - sie beeinflussen nicht die Bitrate - und jeder Einzelne ${\ displayStyle y_ {k}}$ leistet einen separaten Beitrag ${\ displayStyle d_ {k}}$ zur Gesamtverzerrung, wie unten gezeigt:

${\ displayStyle d = \ sum _ {k = 1}^{m} d_ {k}}$

wo

$oder$

Diese Beobachtung kann verwendet werden, um die Analyse zu erleichtern - angesichts des Satzes von ${\ displaystyle \ {b_ {k} \} _ {k = 1}^{m-1}}$ Werte, der Wert von jedem ${\ displayStyle y_ {k}}$ kann separat optimiert werden, um ihren Beitrag zur Verzerrung zu minimieren ${\ displayStyle d}$.

Für das Kriterium für das Mittelquadrat-Fehlerverzerrungskriterium kann leicht gezeigt werden, dass der optimale Satz von Rekonstruktionswerten ${\ displaystyle \ {y_ {k}^{*} \} _ {k = 1}^{m}}$ wird angegeben, indem der Rekonstruktionswert festgelegt wird ${\ displayStyle y_ {k}}$ Innerhalb jedes Intervalls ${\ displayStyle i_ {k}}$ zum bedingter erwarteter Wert (auch als die bezeichnet Schwerpunkt) innerhalb des Intervalls, wie angegeben von:

$oder$.

Die Verwendung von ausreichend gut gestalteten Entropie-Codierungstechniken kann zur Verwendung einer Bitrate führen, die dem tatsächlichen Informationsgehalt der Indizes nahe steht ${\ displaystyle \ {k \} _ {k = 1}^{m}}$so effektiv das

$oder$

und deshalb

${\ displayStyle r = \ sum _ {k = 1}^{m} -p_ {k} \ cdot \ log _ {2} \ links (p_ {k} \ rechts)}$.

Durch die Verwendung dieser Näherung kann das Problem der Entropie -Codierungsdesign vom Design des Quantisierers selbst getrennt werden. Moderne Entropie -Codierungstechniken wie z. arithmetische Kodierung Kann Bitraten erreichen, die der tatsächlichen Entropie einer Quelle sehr nahe stehen, angesichts einer Reihe bekannter (oder adaptiv geschätzter) Wahrscheinlichkeit ${\ displaystyle \ {p_ {k} \} _ {k = 1}^{m}}$.

In einigen Entwürfen, anstatt für eine bestimmte Anzahl von Klassifizierungsregionen zu optimieren ${\ displayStyle m}$Das Quantizer -Designproblem kann die Optimierung des Wertes von beinhalten ${\ displayStyle m}$ auch. Für einige probabilistische Quellmodelle kann die beste Leistung erzielt werden, wenn ${\ displayStyle m}$ nähert sich unendlich.

Vernachlässigung der Entropiebeschränkung: Lloyd -Max -Quantisierung

In der obigen Formulierung, wenn die Bitrate -Einschränkung durch Einstellen vernachlässigt wird ${\ displayStyle \ lambda}$ gleich 0 oder äquivalent, wenn angenommen wird, dass ein Code mit fester Länge (FLC) verwendet wird, um die quantisierten Daten anstelle von a darzustellen Code variabler Länge (oder eine andere Entropie -Codierungstechnologie wie die arithmetische Kodierung, die im Raten -Verhältnis -Sinne besser als ein FLC ist), reduziert das Optimierungsproblem auf die Minimierung der Verzerrung ${\ displayStyle d}$ allein.

Die Indizes, die von einem produziert werden ${\ displayStyle m}$-Der Quantizer-Level-Quantizer kann mit einem Code mit fester Länge verwendet werden ${\ displayStyle r = \ lceil \ log _ {2} m \ rceil}$ Bits/Symbol. Zum Beispiel wenn ${\ displayStyle m =}$256 Stufen, die FLC -Bitrate ${\ displayStyle r}$ ist 8 Bit/Symbol. Aus diesem Grund wurde ein solcher Quantisierer manchmal als 8-Bit-Quantisierer bezeichnet. Die Verwendung eines FLC eliminiert jedoch die Kompressionsverbesserung, die unter Verwendung einer besseren Entropie -Codierung erhalten werden kann.

Annahme eines FLC mit ${\ displayStyle m}$ Das Niveau, das Rate -Distortion -Minimierungsproblem kann allein auf die Verzerrungsminimierung reduziert werden. Das reduzierte Problem kann wie folgt angegeben werden: Bei einer Quelle ${\ displayStyle x}$ mit PDF ${\ displayStyle f (x)}$ und die Einschränkung, die der Quantisierer nur verwenden darf ${\ displayStyle m}$ Klassifizierungsregionen, finden Sie die Entscheidungsgrenzen ${\ displaystyle \ {b_ {k} \} _ {k = 1}^{m-1}}$ und Rekonstruktionsniveaus ${\ displaystyle \ {y_ {k} \} _ {k = 1}^{m}}$ Um die resultierende Verzerrung zu minimieren

${\ displayStyle d = e [(x-q (x))^{2}] = \ int _ {-\ infty}^{\ infty} (x-q (x))^{2} f (x) dx = \ sum _ {k = 1}^{m} \ int _ {b_ {k-1}}^{b_ {k}} (x-y_ {k})^{2} f (x) dx = \ sum _ { k = 1}^{m} d_ {k}}$.

Eine optimale Lösung für das obige Problem zu finden, führt zu einem Quantisierer, der manchmal als MMSQE-Lösung (minimaler Mittelwertquantisierungsfehler) bezeichnet wird, und die resultierende PDF-optimierte (ungleichmäßige) Quantisierung wird als als bezeichnet Lloyd -Max Quantizer, benannt nach zwei Personen, die unabhängig iterative Methoden entwickelten^[6][21][22] um die beiden Sätze von gleichzeitigen Gleichungen zu lösen, die aus resultieren ${\ displaystyle {\ partial d/\ partial b_ {k}} = 0}$ und ${\ displaystyle {\ partial d/\ partial y_ {k}} = 0}$, folgendermaßen:

$oder$,

wodurch jede Schwelle zum Mittelpunkt zwischen jedem Paar von Rekonstruktionswerten und und

$oder Over \ int _ {b_ {k-1}}^{b_ {k}} f (x) dx} = {\ frac {1} {p_ {k}} \ int _ {b_ {k-1}} ^{b_ {k}} xf (x) dx}$

Dadurch wird jeder Rekonstruktionswert in den Schwerpunkt seines zugehörigen Klassifizierungsintervalls (bedingter erwarteter Wert) gelegt.

Lloyds Methode I -Algorithmus, ursprünglich 1957 beschrieben, kann auf einfache Weise für die Anwendung auf Vektordaten verallgemeinert werden. Diese Verallgemeinerung führt in der Linde -Buzo -Gray (LBG) oder k-means Klassifikatoroptimierungsmethoden. Darüber hinaus kann die Technik auf einfache Weise weiter verallgemeinert werden, um auch eine Entropiebeschränkung für Vektordaten einzuschließen.^[23]

Einheitliche Quantisierung und 6 dB/Bit -Näherung

Der Lloyd -Max -Quantisierer ist tatsächlich ein gleichmäßiger Quantisierer, wenn der Eingangspdf gleichmäßig über den Bereich verteilt ist ${\ displayStyle [y_ {1}-\ delta /2, ~ y_ {m}+\ delta /2)}$. Für eine Quelle, die keine einheitliche Verteilung aufweist, ist der minimale Quantisierer möglicherweise kein einheitlicher Quantisierer. Die Analyse eines einheitlichen Quantisierers, der auf eine gleichmäßig verteilte Quelle angewendet wird, kann in dem folgen zusammengefasst werden:

Eine symmetrische Quelle X kann mit modelliert werden ${\ displayStyle f (x) = {\ tfrac {1} {2x _ {\ max}}}}}$, zum ${\ displaystyle x \ in [-x _ {\ max}, x _ {\ max}]}$ und 0 anderswo. Die Schrittgröße ${\ displaystyle \ delta = {\ tfrac {2x _ {\ max}} {m}}}$ und die Signal -zu -Quantisierungs -Rauschverhältnis (SQNR) des Quantisierers ist

$oder _ {10} {\ frac {(m \ delta)^{2}/12} {\ delta^{2}/12} = 10 \ log _ {10} m^{2} = 20 \ log _ { 10} m}$.

Für einen Code mit fester Länge mit ${\ displayStyle n}$ Bits, ${\ displayStyle m = 2^{n}}$, ergebend$oder db}}}$Anwesend

oder ungefähr 6 dB pro Bit. Zum Beispiel für ${\ displayStyle n}$= 8 Bit, ${\ displayStyle m}$= 256 Stufen und SQNR = 8 × 6 = 48 dB; und für ${\ displayStyle n}$= 16 Bit, ${\ displayStyle m}$= 65536 und SQNR = 16 × 6 = 96 dB. Die Eigenschaft der 6-dB-Verbesserung der SQNR für jedes zusätzliche Bit, das bei der Quantisierung verwendet wird, ist eine bekannte Verdienstfiguren. Es muss jedoch mit Sorgfalt verwendet werden: Diese Ableitung gilt nur für einen gleichmäßigen Quantisierer, der auf eine gleichmäßige Quelle angewendet wird. Für andere Quellpdfs und andere Quantisiererdesigns kann sich der SQNR je nach Art der PDF, der Art der Quelle, der Quantisierertyp und des Bitrate -Betriebsbereichs etwas von der durch 6 dB/Bit vorhergesagten SQNR unterscheiden.

Es ist jedoch üblich anzunehmen, dass für viele Quellen die Steigung einer Quantizer -SQNR -Funktion bei einer ausreichend hohen Bitrate als 6 dB/Bit angenähert werden kann. Bei asymptotisch hohen Bitraten erhöht das Schneiden der Schrittgröße die Bitrate um ungefähr 1 Bit pro Probe (da 1 Bit erforderlich ist, um anzugeben Der mittlere quadratische Fehler um den Faktor 4 (d. H. 6 dB) basierend auf dem ${\ displayStyle \ Delta ^{2}/12}$ Annäherung.

Bei asymptotisch hohen Bitraten wird die 6 -dB/Bit -Approximation für viele Quellen -PDFs durch strenge theoretische Analyse unterstützt.^[2][3][5][6] Darüber hinaus nähert sich die Struktur des optimalen skalaren Quantisierers (im Sinne der Geschwindigkeitsdachung) der eines einheitlichen Quantisierers unter diesen Bedingungen.^[5][6]

In anderen Bereichen

Viele physikalische Mengen werden tatsächlich von physischen Einheiten quantisiert. Beispiele für Felder, in denen diese Einschränkung gilt Elektronik (wegen Elektronen), Optik (wegen Photonen), Biologie (wegen DNA), Physik (wegen Planck -Grenzen) und Chemie (wegen Moleküle).

Siehe auch

• Beta -Encoder
• Farbquantisierung
• Data binning
• Diskretisierung
• Diskretisierungsfehler
• Posterisierung
• Pulscode-Modulation
• Quantil
• Quantisierung (Bildverarbeitung)
• Regressionsverdünnung - Eine Verzerrung der Parameterschätzungen, die durch Fehler wie die Quantisierung in der erklärenden oder unabhängigen Variablen verursacht werden

Anmerkungen

Verweise

Weitere Lektüre

• Bernard Widrow; István Kollár (2007). Quantisierungsrauschen in digitaler Berechnung, Signalverarbeitung und Steuerung. ISBN 9780521886710.