Kanalkapazität

Kanalkapazität, in Elektrotechnik, Informatik, und Informationstheorie, ist der enge Obergrenze auf der Rate, zu der Information kann zuverlässig über a übertragen werden Kommunikationskanal.

Folgt den Bedingungen der Lauter Kanal-Codierungssatz, die Kanalkapazität eines gegebenen Kanal ist die höchste Informationsrate (in Einheiten von Information pro Zeiteinheit), die mit willkürlich kleiner Fehlerwahrscheinlichkeit erreicht werden können. ^[1]^[2]

Informationstheorie, entwickelt von Claude E. Shannon Definiert 1948 den Begriff der Kanalkapazität und liefert ein mathematisches Modell, mit dem es berechnet werden kann. Das Schlüsselergebnis besagt, dass die Kapazität des Kanals, wie oben definiert, durch das Maximum der angegeben wird gegenseitige Information zwischen Eingang und Ausgabe des Kanals, wobei die Maximierung in Bezug auf die Eingangsverteilung liegt. ^[3]

Der Begriff der Kanalkapazität war von zentraler Bedeutung für die Entwicklung moderner Wirine- und drahtloser Kommunikationssysteme mit dem Aufkommen des Romans Fehlerkorrekturcodierung Mechanismen, die dazu geführt haben, dass die Leistung sehr nahe an den durch Kanalkapazität versprochenen Grenzen erzielt wurde.

Formale Definition

Das grundlegende mathematische Modell für ein Kommunikationssystem ist das folgende:

{\xrightarrow[{\text{Message}}]{W}}{\begin{array}{|c|}\hline {\text{Encoder}}\\f_{n}\\\hline \ End {Array}} {\ xrightarrow [{\ mathhrm {codiert \ atop sequence}] {x^{n}} {\ begin {array} {| c |} \ hline {\ text {Kanal}} \\ \ | |} {{\ text {Kanal}} \\ \\ | p (y | x) \\\ hline \ end {Array}} {\ xrightarrow [{\ mathemmathrm {empfangen \ atop sequence}}] {y^{n}}} {\ begin {array} {| c |} \hline {\text{Decoder}}\\g_{n}\\\hline \end{array}}{\xrightarrow[{\mathrm {Estimated \atop message} }]{\hat {W}}}

wo:

${\ displayStyle W}$ ist die zu übertragende Nachricht;
${\ displayStyle x}$ ist das Kanaleingangssymbol ( ${\ displaystyle x^{n}}$ ist eine Sequenz von ${\ displayStyle n}$ Symbole) in einem aufgenommen Alphabet ${\ displaystyle {\ mathcal {x}}}$ ;
${\ displayStyle y}$ ist das Kanalausgangssymbol ( ${\ displayStyle y^{n}}$ ist eine Sequenz von ${\ displayStyle n}$ Symbole) in ein Alphabet aufgenommen ${\ displaystyle {\ mathcal {y}}}$ ;
${\ displayStyle {\ Hat {W}}}$ ist die Schätzung der übertragenen Nachricht;
${\ displayStyle f_ {n}}$ ist die Codierungsfunktion für einen Längeblock ${\ displayStyle n}$ ;
${\ displayStyle p (y | x) = p_ {y | x} (y | x)}$ ist der laute Kanal, der von a modelliert wird Bedingte Wahrscheinlichkeitsverteilung; und,
${\ displayStyle g_ {n}}$ ist die Dekodierungsfunktion für einen Längeblock ${\ displayStyle n}$ .

Lassen ${\ displayStyle x}$ und ${\ displayStyle y}$ als Zufallsvariablen modelliert werden. Außerdem lassen Sie ${\ displayStyle p_ {y | x} (y | x)}$ sei der Bedingte Wahrscheinlichkeitsverteilung Die Funktion von ${\ displayStyle y}$ gegeben ${\ displayStyle x}$ , was eine inhärente feste Eigenschaft des Kommunikationskanals ist. Dann die Wahl des Randverteilung ${\ displayStyle p_ {x} (x)}$ Bestimmt die Gelenkverteilung ${\ displayStyle p_ {x, y} (x, y)}$ aufgrund der Identität

{\ displaystyle \ p_ {x, y} (x, y) = p_ {y | x} (y | x) \, p_ {x} (x)}

was wiederum a induziert a gegenseitige Information ${\ displayStyle i (x; y)}$ . Das Kanalkapazität ist definiert als

{\ displaystyle \ c = \ sup _ {p_ {x} (x)} i (x; y) \,},}

bei dem die Supremum wird alle möglichen Entscheidungen von übernommen ${\ displayStyle p_ {x} (x)}$ .

Additivität der Kanalkapazität

Die Kanalkapazität ist additiv über unabhängige Kanäle.^[4] Dies bedeutet, dass die Verwendung von zwei unabhängigen Kanälen kombiniert die gleiche theoretische Kapazität bietet wie unabhängig voneinander. Formaler, lassen Sie es ${\ displayStyle p_ {1}}$ und ${\ displayStyle p_ {2}}$ zwei unabhängige Kanäle sein, die wie oben modelliert sind; ${\ displayStyle p_ {1}}$ Ein Eingangsalphabet haben ${\ displaystyle {\ mathcal {x}} _ {1}}$ und ein Ausgangsalphabet ${\ displaystyle {\ mathcal {y}} _ {1}}$ . Idem für ${\ displayStyle p_ {2}}$ . Wir definieren den Produktkanal ${\ displayStyle p_ {1} \ Times p_ {2}}$ wie ${\ displayStyle \ forall (x_ {1}, x_ {2}) \ in ({\ mathcal {x}} _ {1}, {\ mathcal {x}} _ {2}), \; }, y_ {2}) \ in ({\ mathcal {y}} _ {1}, {\ mathcal {y}} _ {2}), \; (p_ {1} \ Times p_ {2}) ( (y_ {1}, y_ {2}) | (x_ {1}, x_ {2})) = p_ {1} (y_ {1} | x_ {1}) p_ {2} (y_ {2} | x_ {2})}$

In diesem Satz heißt es:

{\ displayStyle c (p_ {1} \ times p_ {2}) = c (p_ {1})+c (p_ {2})}}

Nachweisen

Wir zeigen das zuerst $oder$ .

Lassen ${\ displayStyle x_ {1}}$ und ${\ displayStyle x_ {2}}$ zwei unabhängige Zufallsvariablen sein. Lassen ${\ displayStyle y_ {1}}$ eine zufällige Variable sein, die dem Ausgang von entspricht ${\ displayStyle x_ {1}}$ durch den Kanal ${\ displayStyle p_ {1}}$ , und ${\ displayStyle y_ {2}}$ zum ${\ displayStyle x_ {2}}$ durch ${\ displayStyle p_ {2}}$ .

Per Definition $oder }, Y_ {2}))}$ .

Seit ${\ displayStyle x_ {1}}$ und ${\ displayStyle x_ {2}}$ sind ebenso unabhängig wie ${\ displayStyle p_ {1}}$ und ${\ displayStyle p_ {2}}$ , ${\ displayStyle (x_ {1}, y_ {1})}$ ist unabhängig von ${\ displayStyle (x_ {2}, y_ {2})}$ . Wir können die folgende Eigenschaft von anwenden gegenseitige Information: ${\ displayStyle i (x_ {1}, x_ {2}: y_ {1}, y_ {2}) )}$

Im Moment müssen wir nur eine Verteilung finden ${\ displayStyle p_ {x_ {1}, x_ {2}}}$ so dass $oder })}$ . In der Tat, ${\ displayStyle \ pi _ {1}}$ und ${\ displayStyle \ pi _ {2}}$ , zwei Wahrscheinlichkeitsverteilungen für ${\ displayStyle x_ {1}}$ und ${\ displayStyle x_ {2}}$ Erreichen ${\ displayStyle c (p_ {1})}$ und ${\ displayStyle c (p_ {2})}$ , reicht:

oder 1})+i (x_ {2}: y_ {2}) = c (p_ {1})+c (p_ {2})}

dh. $oder$

Lassen Sie uns das nun zeigen $oder$ .

Lassen ${\ displayStyle \ pi _ {12}}$ eine Verteilung für den Kanal sein ${\ displayStyle p_ {1} \ Times p_ {2}}$ Definition ${\ displayStyle (x_ {1}, x_ {2})}$ und die entsprechende Ausgabe ${\ displayStyle (y_ {1}, y_ {2})}$ . Lassen ${\ displaystyle {\ mathcal {x}} _ {1}}$ das Alphabet von sein ${\ displayStyle x_ {1}}$ , ${\ displaystyle {\ mathcal {y}} _ {1}}$ zum ${\ displayStyle y_ {1}}$ und analog ${\ displaystyle {\ mathcal {x}} _ {2}}$ und ${\ displaystyle {\ mathcal {y}} _ {2}}$ .

Per Definition von gegenseitigen Informationen haben wir

$oder 1}, y_ {2} | x_ {1}, x_ {2}) \\ & \ leq h (y_ {1})+h (y_ {2})-h (y_ {1}, y_ {2} | X_ {1}, x_ {2}) \ end {ausgerichtet}}}$

Schreiben wir die letzte Amtszeit von neu Entropie.

$oder _ {1} \ times {\ mathcal {x}} _ {2}} \ mathbb {p} (x_ {1}, x_ {2} = x_ {1}, x_ {2}) H (y_ {1} , Y_ {2} | x_ {1}, x_ {2} = x_ {1}, x_ {2})}$

Per Definition des Produktkanals, $oder \ mathbb {p} (y_ {1} = y_ {1} | x_ {1} = x_ {1}) \ mathbb {p} (y_ {2} = y_ {2} | x_ {2} = x_ {2 })}$ . Für ein bestimmtes Paar ${\ displayStyle (x_ {1}, x_ {2})}$ Wir können neu schreiben ${\ displayStyle h (y_ {1}, y_ {2} | x_ {1}, x_ {2} = x_ {1}, x_ {2})}$ wie:

$oder 1}, y_ {2}) \ in {\ mathcal {y}} _ {1} \ times {\ mathcal {y} _ {2}} \ mathbb {p} (y_ {1}, y_ {2}} = y_ {1}, y_ {2} | x_ {1}, x_ {2} = x_ {1}, x_ {2}) \ log (\ mathbb {p} (y_ {1}, y_ {2} = y_ {1}, y_ {2} | x_ {1}, x_ {2} = x_ {1}, x_ {2}) \\ & = \ sum _ {(y_ {1}, y_ {2}) \ in {\ mathcal {y}} _ {1} \ times {\ mathcal {y}} _ {2}} \ mathbb {p} (y_ {1}, y_ {2} = y_ {1}, y_ {{{1}, y_ {{1}, y_ {{1 2} | x_ {1}, x_ {2} = x_ {1}, x_ {2}) [\ log (\ mathbb {p} (y_ {1} = y_ {1} | x_ {1} = x_ { 1}))+\ log (\ mathbb {p} (y_ {2} = y_ {2} | x_ {2} = x_ {2})]] \\ & = H (y_ {1} | x_ {1 } = x_ {1})+h (y_ {2} | x_ {2} = x_ {2}) \ end {ausgerichtet}}}$

Indem Sie diese Gleichheit über alle summieren ${\ displayStyle (x_ {1}, x_ {2})}$ , wir erhalten $oder )}$ .

Wir können jetzt eine Obergrenze über gegenseitige Informationen geben:

$oder H (y_ {1} | x_ {1})-h (y_ {2} | x_ {2}) \\ & = i (x_ {1}: y_ {1})+i (x_ {2}: y_ {2}) \ end {ausgerichtet}}}$

Diese Beziehung ist im Supremum erhalten. Deswegen

oder

Wenn wir die beiden von uns bewiesenen Ungleichheiten kombinieren, erhalten wir das Ergebnis des Satzes:

{\ displayStyle c (p_ {1} \ times p_ {2}) = c (p_ {1})+c (p_ {2})}}

Shannon -Kapazität einer Grafik

Wenn G ist ein ungerichtete GrafikEs kann verwendet werden, um einen Kommunikationskanal zu definieren, in dem die Symbole die Grafikscheitelpunkte sind, und zwei Codewörter können miteinander verwechselt werden, wenn ihre Symbole in jeder Position gleich oder benachbart sind. Die rechnerische Komplexität, die Shannon -Kapazität eines solchen Kanals zu finden Lovász Nummer.^[5]

Lauter Kanal-Codierungssatz

Das Lauter Kanal-Codierungssatz Gibt an, dass für jede Fehlerwahrscheinlichkeit ε> 0 und für jede Übertragung Bewertung R weniger als die Kanalkapazität CEs gibt ein Codierungs- und Dekodierungsschema, das Daten mit Geschwindigkeit überträgt R deren Fehlerwahrscheinlichkeit ist weniger als ε für eine ausreichend große Blocklänge. Außerdem geht die Fehlerwahrscheinlichkeit am Empfänger auf 0,5, wenn die Blocklänge auf unendlich geht.

Beispielanwendung

Eine Anwendung des Kanalkapazitätskonzepts auf ein Additive weiße Gaußsche Geräusch (AWGN) Kanal mit B Hz Bandbreite und Signal-Rausch-Verhältnis S/n ist der Shannon -Hartley -Theorem:

{\ displaystyle c = b \ log _ {2} \ links (1+{\ frac {s} {n}} \ rechts) \}

C wird in gemessen Bits pro Sekunde Wenn die Logarithmus wird in Basis 2 genommen, oder Nats pro Sekunde wenn die Natürlicher Logarithmus wird verwendet, vorausgesetzt B ist in Hertz; Das Signal und Rauschleistungen S und N werden in einem linearen ausgedrückt Triebwerk (wie Watts oder Volt²). Seit S/n Zahlen werden oft in zitiert dbEs kann eine Konvertierung erforderlich sein. Zum Beispiel entspricht ein Signal-Rausch-Verhältnis von 30 dB einem linearen Leistungsverhältnis von ${\ displayStyle 10^{30/10} = 10^{3} = 1000}$ .

Kanalkapazität in der drahtlosen Kommunikation

Diese Abteilung^[6] Konzentriert sich auf das Single-Antenna-Punkt-zu-Punkt-Szenario. Für die Kanalkapazität in Systemen mit mehreren Antennen finden Sie im Artikel zu Mimo.

BandLimited AWGN Channel

Die AWGN-Kanalkapazität mit dem von Strom beschränkten Regime und bandbreitenbegrenzten Regime wurde angegeben. Hier,

{\ displaystyle {\ frac {\ bar {p}} {n_ {0}}} = 1}

; B und C kann für andere Werte proportional skaliert werden.

Wenn der durchschnittliche Empfangs Strom ist ${\ displayStyle {\ bar {p}}}$ [W] ist die Gesamtbandbreite ${\ displayStyle W}$ in Hertz und das Geräusch spektrale Leistungsdichte ist ${\ displayStyle n_ {0}}$ [W/Hz] ist die AWGN -Kanalkapazität

oder

[Bits/s],

wo ${\ displaystyle {\ frac {\ bar {p}} {n_ {0} W}}}}}}$ ist das empfangene Signal-Rausch-Verhältnis (SNR). Dieses Ergebnis ist als das bekannt Shannon -Hartley -Theorem.^[7]

Wenn der SNR groß ist (SNR ≫ 0 dB), die Kapazität $oder$ ist logarithmisch in Kraft und ungefähr linear in der Bandbreite. Dies nennt man die Bandbreite begrenztes Regime.

Wenn der SNR klein ist (SNR ≪ 0 dB), die Kapazität $oder$ ist linear an der Macht, aber unempfindlich gegenüber Bandbreite. Dies nennt man die Machtbegrenzter Regime.

Das bandbreitenbegrenzte Regime und das Kraft-begrenzte Regime sind in der Abbildung dargestellt.

Frequenz-selektiver AWGN-Kanal

Die Kapazität der frequenzselektiv Kanal wird durch sogenannte gegeben Wasser füllen Leistungszuweisung,

oder } | {\ bar {h}} _ {n} |^{2}} {n_ {0}} \ rechts),},},},}

wo ${\ displaystyle p_ {n}^{*} = \ max \ links \ {\ links ({\ frac {1} {\ lambda}}-{\ frac {n_ {0} {| {\ bar {h}} } _ {n} |^{2}}} \ rechts), 0 \ rechts \}}$ und ${\ displayStyle | {\ bar {h}} _ {n} |^{2}}$ ist der Gewinn von Subchannel ${\ displayStyle n}$ , mit ${\ displayStyle \ lambda}$ ausgewählt, um die Leistungsbeschränkung zu erfüllen.

Langsamer Kanal

In einem Langsamer KanalWenn die Kohärenzzeit größer ist als die Latenzbedarf, gibt es keine eindeutige Kapazität, da die maximale Rate der vom Kanal unterstützten zuverlässigen Kommunikation unterstützt wird. ${\ displayStyle \ log _ {2} (1+ | H |^{2} snr)}$ hängt vom zufälligen Kanalgewinn ab ${\ displayStyle | H |^{2}}$ , was dem Sender unbekannt ist. Wenn der Sender Daten mit Rate codiert ${\ displayStyle r}$ [Bits/S/Hz] besteht eine Wahrscheinlichkeit von ungleich Null, dass die Dekodierungsfehlerwahrscheinlichkeit nicht willkürlich klein gemacht werden kann.

{\ displaystyle p_ {out} = \ mathbb {p} (\ log (1+ | H |^{2} snr) <r)}

,

In diesem Fall soll das System in Ausfall sein. Mit einer Wahrscheinlichkeit von ungleich Null, dass sich der Kanal in tiefem Verblassen befindet, ist die Kapazität des langsam verfüllten Kanals in striktem Sinne Null. Es ist jedoch möglich, den größten Wert von zu bestimmen ${\ displayStyle r}$ so dass die Ausfallwahrscheinlichkeit ${\ displayStyle p_ {out}}$ ist weniger als ${\ displayStyle \ Epsilon}$ . Dieser Wert ist als der bekannt ${\ displayStyle \ Epsilon}$ -Outagekapazität.

Schneller Kanal

In einem schneller Kanal, wo die Latenzbedarf größer ist als die Kohärenzzeit und die Codewortlänge umfasst viele Kohärenzperioden, kann man über viele unabhängige Kanalverläufe durchschnittlich durch eine große Anzahl von Kohärenzzeitintervallen kodieren. Somit ist es möglich, eine zuverlässige Kommunikationsrate von zu erreichen ${\ displayStyle \ mathbb {e} (\ log _ {2} (1+ | H |^{2} snr))}$ [Bits/S/Hz] und es ist von diesem Wert als Kapazität des schnell verfüllten Kanals von diesem Wert zu sprechen.

Siehe auch

Erweiterte Kommunikationsthemen

Externe Links

Verweise

^ Saleem Bhatti. "Kanalkapazität". Vorlesungsnotizen für M.Sc.Datenkommunikationsnetzwerke und verteilte Systeme D51 - Grundlegende Kommunikation und Netzwerke. Archiviert von das Original am 2007-08-21.
^ Jim Lesurf. "Signale sehen aus wie Geräusch!". Informationen und Messung, 2. Aufl..
^ Thomas M. Cover, Joy A. Thomas (2006). Elemente der Informationstheorie.John Wiley & Sons, New York. ISBN 9781118585771.
^ Cover, Thomas M.;Thomas, Joy A. (2006)."Kapitel 7: Kanalkapazität". Elemente der Informationstheorie (Zweite Ausgabe).Wiley-Interscience.S. 206–207. ISBN 978-0-471-24195-9.
^ Lovász, László (1979), "über die Shannon -Kapazität einer Grafik", IEEE -Transaktionen zur Informationstheorie, It-25 (1): 1–7, doi:10.1109/tit.1979.1055985.
^ David Tse, Pramod Viswanath (2005), Grundlagen der drahtlosen Kommunikation, Cambridge University Press, Großbritannien, ISBN 9780521845274
^ Das Handbuch der Elektrotechnik.Forschungs- und Bildungsverein.1996. p.D-149. ISBN 9780878919819.

[1] Saleem Bhatti. "Kanalkapazität". Vorlesungsnotizen für M.Sc.Datenkommunikationsnetzwerke und verteilte Systeme D51 - Grundlegende Kommunikation und Netzwerke. Archiviert von das Original am 2007-08-21.

[2] Jim Lesurf. "Signale sehen aus wie Geräusch!". Informationen und Messung, 2. Aufl..

[3] Thomas M. Cover, Joy A. Thomas (2006). Elemente der Informationstheorie.John Wiley & Sons, New York. ISBN 9781118585771.

[4] Cover, Thomas M.;Thomas, Joy A. (2006)."Kapitel 7: Kanalkapazität". Elemente der Informationstheorie (Zweite Ausgabe).Wiley-Interscience.S. 206–207. ISBN 978-0-471-24195-9.

[5] Lovász, László (1979), "über die Shannon -Kapazität einer Grafik", IEEE -Transaktionen zur Informationstheorie, It-25 (1): 1–7, doi:10.1109/tit.1979.1055985.

[6] David Tse, Pramod Viswanath (2005), Grundlagen der drahtlosen Kommunikation, Cambridge University Press, Großbritannien, ISBN 9780521845274

[7] Das Handbuch der Elektrotechnik.Forschungs- und Bildungsverein.1996. p.D-149. ISBN 9780878919819.

[1]

[2]

[3]

[4]

[5]

[6]

[7]