- (DSC) je nejjednodušší komunikační kanál, jehož vstup je opatřen binárními znaky s předpokladem, že data budou vždy přenášena správně. Tento kanál se často používá v teorii kódování jako jeden z nejjednodušších k analýze... ... Wikipedie

binárně vyvážený kanál- Kanál přenosu dat, ve kterém jsou pravděpodobnosti chyb v symbolech „0“ a „1“ v průměru stejné a předchozí symboly nemají žádný vliv na následující. Spolehlivost přenosu informací nezávisí na tom, co... ...

- (anglický kanál, datová linka) systém technických prostředků a prostředí šíření signálu pro přenos zpráv (nejen dat) od zdroje k příjemci (a naopak). Komunikační kanál, chápaný v užším slova smyslu (komunikační cesta), ... ... Wikipedie

Kanál v teorii informace je jakékoli zařízení určené k přenosu informací. Na rozdíl od technologie je teorie informace abstrahována od specifické povahy těchto zařízení, stejně jako geometrie studuje objemy těles, abstrahovaná od... ...

Komunikační kanál, přechodová funkce k rogo, má tu či onu vlastnost symetrie. Homogenní kanál bez paměti s diskrétním časem a konečnými stavovými prostory Y a složkou signálu na vstupu a výstupu, specifikovanou přechodovou maticí... ... Matematická encyklopedie

I Kanál (z lat. canalis roura, žlab) ve vodním stavitelství umělý kanál (vodovod) pravidelného tvaru s volným pohybem vody, uspořádaný v zemi. K. se konstruuje v otevřeném výkopu nebo v násypu (na křižovatce trámů, roklí atd.), ... ... Velká sovětská encyklopedie

Digitální přenosový kanál- 3.8 Digitální přenosový kanál je soubor technických prostředků a přenosových médií, který zajišťuje přenos digitálního telekomunikačního signálu přenosovou rychlostí charakteristickou pro daný přenosový kanál. Zdroj…

digitální datové spojení- digitální kanál PD Kanál přenosu dat, přes který lze přenášet pouze digitální datový signál. Poznámka Digitální datový kanál je pojmenován v závislosti na typu přenášeného signálu, například binární digitální... ... Technická příručka překladatele

Digitální datové spojení- 164. Digitální datový kanál Digitální kanál PD E. Digitální datový kanál Datový kanál, přes který lze přenášet pouze digitální datový signál. Poznámka. Kanál pro přenos digitálních dat je pojmenován v závislosti na... ... Slovník-příručka termínů normativní a technické dokumentace

Obor matematiky, který studuje procesy ukládání, transformace a přenosu informací. Je založen na určitém způsobu měření množství informací. Na základě problémů teorie komunikace je teorie informace někdy považována za... ... Collierova encyklopedie

GOST R 51385-99: Prvky přenosových procedur a formátů servisních paketů (zpráv) v širokopásmové digitální síti integrovaných služeb s rychlým přepojováním paketů. Požadavky na postupy a formáty- Terminologie GOST R 51385 99: Prvky přenosových procedur a formátů servisních paketů (zpráv) v širokopásmové digitální síti integrovaných služeb s rychlým přepojováním paketů. Požadavky na postupy a formáty původního dokumentu: 2.2... ... Slovník-příručka termínů normativní a technické dokumentace

Satelitní internet vzbuzuje mezi uživateli zájem především díky své univerzální dostupnosti. Přístup k internetu ze satelitu totiž pomáhá tam, kde jsou jiné možnosti připojení k internetu neúčinné nebo vůbec nedostupné.

V době všudypřítomného internetu se pro obyvatele velkých měst jeho absence jeví jako nepochopení, ale jaké možnosti mají obyvatelé privátů a v místech odlehlých od velkých obydlených oblastí? Většina poskytovatelů těží z pokrytí obytnou sítí pouze bytových domů. Pro obyvatele „soukromého sektoru“ je mnohem obtížnější zorganizovat internetový kanál, nemluvě o vzdálených oblastech, kam poskytovatelé v blízké budoucnosti pravděpodobně nepřijdou. Samozřejmě je možné se k internetu připojit i přes mobilního operátora, ale při současném objemu provozu je to velmi drahé.

Důstojná alternativa k nízkorychlostnímu a drahému mobilnímu internetu - Satelitní internet. V poslední době jej využívalo jen málo lidí, ale nyní se tento způsob přístupu k internetu stal mnohem dostupnější.

Satelitní pokrytí internetu

Satelitní internet- jedná se o komunikaci prostřednictvím rádiového kanálu za účasti umělých družic Země, které nejsou nezávislými zdroji ani konečnými přijímači signálu, neboť jsou pouze opakovači, které umožňují obejít omezení vzdálenosti pozemní rádiové komunikace způsobené nerovný terén naší planety. Satelitní internet je tedy pouze způsob, jak dodat signál od pozemního poskytovatele pozemnímu klientovi.

Zvláštností satelitního internetu je, že opakovač je na oběžné dráze a automaticky zvyšuje oblast pokrytí signálem na několik oblastí a regionů. I s přihlédnutím k jejich nákladnosti lze zdůvodnit důvod, proč tento typ komunikace není pro nikoho dostupný. Další funkce satelitního internetu je omezit množství přenášených informací. Pokud by totiž každému účastníkovi musely být přiděleny dva samostatné kanály (pro příjem a vysílání dat), pak by se takové zařízení na satelit jednoduše nevešlo a počet možných účastníků by byl extrémně malý. Aby poskytovatelé nějak optimalizovali náklady, využívají zvláštnosti internetového provozu.

Asymetrický – satelitní internet o 50 %

Pokud mluvíme o statistikách, v průměru příchozí provoz převyšuje odchozí provoz a při navrhování sítí zohledňují právě tento faktor a poskytují různé rychlosti pro příchozí a odchozí kanály. Vezměme si například kanál ADSL (mimochodem tato zkratka znamená „asymetrická digitální linka“), ve kterém je příchozí provoz několikanásobně rychlejší než odchozí provoz. Zároveň se uživatelé cítí docela pohodlně a poskytovatel šetří na frekvenčních zdrojích. Podobná technologie se používá při organizaci satelitní komunikace, pouze zde operátoři využívají příležitosti nejen snížit rychlost zpětného kanálu, ale zcela jej odstranit ze satelitu, to znamená přenést tuto funkci do rukou pozemních poskytovatelů . Toto schéma se nazývá asymetrický kanál. Jako zpětný kanál je zpravidla využívána telefonní linka (pevná linka nebo mobilní připojení), ale tuto roli může sehrát i poskytovatel fungující prostřednictvím lokální sítě nebo bezdrátového přístupu.

Existuje stereotyp, že satelitní internet je zaměřen na regiony se špatně rozvinutou infrastrukturou, což nelze chápat jako úplnou absenci telekomunikací jako takových. Spíše to odkazuje na nedostatek slušných pozemních poskytovatelů s přijatelnými tarify. Tato možnost také umožňuje výrazně zvýšit rychlost přístupu, pokud je například přístup k internetu možný pouze přes telefonní modem nebo pomalý GPRS kanál mobilního internetu.

Zároveň existuje také obousměrný satelitní internet, ale tento jev není zdaleka tak rozšířený. Tato možnost je určena především pro ty, kteří potřebují přístup k internetu při absenci alternativy odkudkoli na světě. Toto řešení je skutečně nezávislé na stávajících sítích, i když k provozu stále vyžaduje elektřinu. Ale kvůli vysokým nákladům na takový kanál se používá hlavně pro nouzové pracovní účely, takže nejčastěji pod satelitní internet To znamená asymetrický kanál, který kombinuje následující:

• satelitní přijímač pro příjem
• služby pozemního poskytovatele (například mobilního operátora) k odesílání požadavků a dat.

Možnosti organizace zpětného kanálu

Existuje mnoho způsobů, jak uspořádat zadní kanál. Samozřejmě, že výběr technologie by měl být primárně určen možnostmi dostupnými v konkrétní geografické lokalitě. Může se jednat nejen o pevnou linku nebo mobilní telefonní linku, ale také o nějaký druh rádiového přístupu. Lokální poskytovatel s „domácí sítí“ (z nějakého důvodu, který vám nevyhovuje jako jediné připojení k World Wide Web) není vyloučen.

Za správnou distribuci dat (kam odeslat požadavek a odkud informace číst) zodpovídá software dodaný provozovatelem satelitního internetu. Bez něj není správná činnost asymetrického kanálu nemožná.

Vlastnosti asymetrického kanálu

Bohužel i s asymetrické schéma pro organizaci přístupu k internetu počet frekvencí pro přenos dat z družice je omezen. To znamená, že není možné poskytnout každému účastníkovi samostatný kanál nejen pro příjem/vysílání, ale také jednoduše pro příjem informací. Navíc jakékoli jiné rozdělení kanálů, například podle času, také není účinné. Proto standard satelitního internetu předpokládá přenos dat pro všechny uživatele, což znamená, že informace přijaté přijímačem obsahují nejen vámi požadované stránky, ale také poštu vašeho souseda, části vašeho příbuzného staženého filmu v jiném městě a dokonce i zprávy. od nějakého cizího posla .

Satelitní přijímač dešifruje příchozí signál ze satelitu na požadovaná internetová data

Přijímač si z této hmoty vybere potřebná data pomocí MAC adresy satelitního terminálu. Poskytovatelé satelitního internetu se samozřejmě uchylují k různým trikům, aby zabránili uživatelům ve čtení informací, které jim nejsou určeny – například kanály jsou šifrovány pomocí různých algoritmů. Ale samotný fakt, že se lze dostat k důvěrným datům, přitahuje spoustu podvodníků a prostě zvědavců. Zábava, která spočívá ve čtení dat jiných lidí, se nazývá „satelitní rybolov“.

Zařízení pro satelitní internet

Nejoblíbenějšími standardy pro organizaci satelitního internetu jsou dnes DVB-S a DVB-S2 (druhá je vylepšená verze prvního). Pro připojení k síti přes satelit pomocí běžného asymetrického schématu budete potřebovat:

• satelitní anténa doporučeného průměru
• převodník signálu
• přijímač (satelitní internetový terminál)
• potřebné kabely
• smlouvu se satelitním operátorem.

Jak jsem řekl dříve, potřebujete také alternativní připojení k „pozemní“ síti a software pro správu datových paketů.

Satelitní antény se neliší od zařízení pro příjem digitální satelitní televize, ale výrazně se liší jak cenou, tak velikostí od antén transceiveru. Obvykle operátor satelitní internet, stejně jako v případě satelitní televize, doporučuje určitý minimální průměr „paraboly“, v závislosti na geografické poloze účastníka (a tedy síle satelitního signálu za ideálních podmínek). Pro přesné informace prosím navštivte webové stránky operátora. Satelitní parabolu si teoreticky můžete nainstalovat sami. Nejčastěji se však doporučuje kontaktovat specialisty, kteří to nasměrují jednoznačně na družici umístěnou na geostacionární dráze.

Převodníky se od sebe mohou lišit v řadě parametrů (například v polarizaci, se kterou pracují), proto se při výběru doporučuje věnovat pozornost seznamům podporovaného hardwaru na webu poskytovatele.

Přijímač ve formátu PCI karty je vložen do systémové jednotky a poskytuje uživateli příchozí provoz ze satelitu i satelitní televize.

Satelitní terminál je deska rozhraní, kterou lze vložit do systémové jednotky počítače (například přes rozhraní PCI) nebo umístit do externí skříně a připojit k počítači přes port USB.

Pozornost! Neměli byste nejprve kupovat zařízení a poté hledat poskytovatele satelitních internetových služeb. Pokud jsou „nádobí“ víceméně univerzální, pak se přístupové terminály nabízené různými operátory velmi často ukazují jako nekompatibilní. Poskytovatel internetových služeb vám obvykle může dodat hardware i software, který má již přednastaveno vlastní nastavení (kódování, proxy atd.).

Obousměrný satelitní komunikační kanál

Symetrický kanál

Je zřejmé, že k uspořádání obousměrného kanálu budete potřebovat nejen přijímací, ale také vysílací zařízení, to znamená dražší anténu transceiveru, vysílací jednotku (kromě přijímací) a také speciální terminál. Kromě vysokých nákladů na všechna tato zařízení a pronájem satelitní kapacity má obousměrný satelitní internet další nevýhody:

• Vzhledem k tomu, že data od vás jsou odesílána vzduchem, musí být vysílací zařízení řádně registrováno u státních úřadů, což může trvat dlouho, ale nejčastěji se o tento problém postarají poskytovatelé.
• Obousměrný satelitní internet je velmi specifický způsob komunikace. S ohledem na dobu, za kterou rádiový signál projde satelitem k poskytovateli a zpět, nemusí být odpovědi na odeslané požadavky vráceny během několika milisekund, jak jsme zvyklí u pozemních poskytovatelů, ale v řádu sekund. Určité zpoždění je také vlastní „asymetrickému“ satelitnímu spojení, ale v tomto případě signál putuje po „dlouhé“ dráze pouze jednou (přes satelit). Při organizaci symetrické linky prochází signál satelitem dvakrát (požadavek poskytovateli a odpověď uživateli), to znamená, že čekací doba se zdvojnásobí a stane se patrnou. To znamená, že byste neměli ani myslet na žádné online počítačové hry, které vyžadují rychlou odezvu.

Je satelitní internet drahý?

Satelitní internet se tradičně vyznačuje vysokými náklady na připojení, protože předplatitel musí platit i za drahé vybavení. S popularizací služby se však objevují stále dostupnější terminály a satelitní paraboly, což nám umožňuje doufat ve snížení cen v blízké budoucnosti. Dnešní náklady symetrický přístup je asi 2-3 desítky tisíc rublů za připojení a nastavení, stejně jako od 1 000 rublů měsíčně za provoz nebo jako poplatek za předplatné.

S asymetrický přístup situace je lepší: náklady na příjem zařízení jsou asi 5000–7000 rublů. Měsíční náklady na provoz nebo poplatky za předplatné v průměru od 500 rublů za připojení bez nižšího prahu garantované rychlosti (CIR) a od 2 000 rublů za připojení s takovým prahem.

Potřebujete satelitní internet?

Satelitní internet může být jedinou šancí, jak se připojit k internetu tam, kde neexistuje spolehlivá mobilní nebo kabelová telefonní služba. A pokud vás cena emise nezastaví, má smysl věnovat pozornost metodě symetrického přístupu. Ale stojí za to vzít v úvahu nevýhody typů satelitní internetové komunikace. Bohužel, takový přístup k internetu, kupodivu, není tak spolehlivý. Vzhledem k tomu, že signál se k satelitu šíří tisíce kilometrů, může se jakýkoli nápadný oblak stát rušením. Proti tomu můžete bojovat použitím větší satelitní antény, která bude dražší. Další nevýhodou takového připojení je potřeba odborné pomoci při instalaci a konfiguraci zařízení, což také vyžaduje peníze.

7.5. Kapacita kanálu

Velikost já(X; Y) hraje zvláštní roli v teorii informace a popisuje přenos informací komunikačním kanálem. Z definice (7.9) vyplývá, že já(X; Y) závisí jak na pravděpodobnostech přechodu kanálu, tak na rozdělení pravděpodobnosti symbolů na vstupu kanálu. Pro další úvahy uvažujme diskrétní kanál bez paměti s pevnou pravděpodobností přechodu a položme si otázku: Jaké je maximální množství informací, které lze tímto kanálem přenést?

Šířka pásma kanál s danými pravděpodobnostmi přechodu je roven maximu přenášené informace přes všechna vstupní rozložení zdrojových symbolů X

Komentář.Rozměr šířky pásma je bitů/symbol. Pokud je například kanálem přenášen jeden symbol za sekundu, můžeme také mluvit o rozměrech bitů/s.

Protože se maximum hledá ze všech platných vstupních zdrojů, propustnost závisí pouze na pravděpodobnosti přechodu kanálu.

Z matematického hlediska se hledání kapacity diskrétního kanálu bez paměti snižuje na hledání rozložení pravděpodobnosti vstupních zdrojových symbolů, které poskytují maximum informací. já(X; Y). Zároveň na pravděpodobnosti vstupních symbolů jsou uložena omezení

V podstatě určení maxima já(x,y) za omezení (7.44) je možné při použití multiplikativu Lagrangeova metoda. Takové řešení je však neúměrně drahé. Ve speciálním případě (symetrické kanály) pomáhá najít propustnost následující věta.

Věta 7.5.1. V symetrických diskrétních kanálech bez paměti je propustnosti dosaženo s rovnoměrným rozdělením pravděpodobnosti vstupních zdrojových symbolů X.

Komentář.Je také poskytnut způsob pro určení, zda je kanál symetrický nebo ne.

7.5.1. Šířka pásma

Bezpaměťový binární diskrétní symetrický kanál (DSC) se určuje pomocí matice pravděpodobnosti přechodu kanálu (7.2). Jediný parametr charakterizující DSC je pravděpodobnost chyby ε. Z rovnoměrného rozložení vstupních symbolů a symetrie kanálových přechodů vyplývá rovnoměrné rozložení výstupních symbolů, tzn.

Pomocí (7.9) získáme

Dosazením číselných hodnot máme

Entropie DSC je určeno prostřednictvím (2.32)

Konečně dostáváme propustnost DSC v kompaktní podobě

Zajímavé jsou dva okrajové případy:

1. Přenos informací tichým kanálem:

A

2. Kanál je zcela hlučný:

A

Důležitým speciálním případem DSC je binární symetrický kanál s výmazy (DSKS) popř binární kanál s mazáním (Binary Erasure Channel, WEIGHT - anglicky). Stejně jako DSC může binární kanál s výmazy sloužit jako zjednodušený model přenosu informací přes kanál S aditivní bílý Gaussův šum (AWGN). Rozhodovací pravidlo v DSKS je na Obr. 7.11. Z obrázku je vidět, že spolu s rozhodováním o vysílaném znaku „0“ nebo „1“ je zde někdy učiněno rozhodnutí o vymazání přijatého znaku „e“ (Erasure). K vymazání dojde, pokud je detekovaný analogový signál PROTI spadá do zóny, pro kterou fungují hodnoty podmíněné hustoty pravděpodobnosti F(V/0) a F(PROTI/1) se blíží nule.

Rýže. 7.11. Funkce podmíněné hustoty pravděpodobnosti detekovaného signálu a oblasti rozhodování.

Komentář.V binárním kanálu s výmazy se místo jednoznačně „tvrdého“ rozhodnutí o přijatém symbolu „O“ nebo „1“ provádí tzv. „měkké“.řešení. V tomto případě máme navíc nějaké informace o spolehlivosti přijatého binárního symbolu. V tomto ohledu se v technologii přenosu dat hovoří o příjmu s „tvrdým“ a „měkkým“ rozhodnutím. „Měkké“ řešení v kombinaci s vhodným kódováním informací umožňuje v některých případech spolehlivější přenos dat. Jeden příklad použití „měkkého“ řešení najdete v druhé části této knihy.

Rýže. 7.12.

Označme pravděpodobnost vymazání pomocí q, a pravděpodobnost chyby nevymazaného symbolu je R.

Schéma přechodu pro capal se dvěma vstupními a třemi výstupními symboly je na Obr. 7.12. Odpovídající kanálová matice obsahující pravděpodobnosti přechodu má tvar

Pojďme najít kapacitu kanálu s výmazy. Protože je kanál symetrický, propustnosti je dosaženo s rovnoměrným rozložením vstupních symbolů

Z toho vyplývá, že pravděpodobnosti výstupních symbolů jsou stejné

Nyní jsou známy všechny potřebné pravděpodobnosti. Pomocí (7.9) máme

Pomocí vlastnosti symetrie kanálu získáme

Jak vidíme, propustnost kanálu s výmazy závisí pouze na pravděpodobností R A q. Plán C =F(p, q) je prostorová trojrozměrná plocha umístěná nad rovinou (p, q). Zde se omezíme pouze na dva důležité speciální případy.

1. Kdy q = 0, máme binární symetrický kanál, o kterém jsme již hovořili dříve. Střídání q = 0 in (7,59), jak se očekávalo, dostaneme (7,49).

2. Kanál obsahuje pouze výmazy, tzn. na p = 0 chyby buď neexistují, nebo je zanedbáváme. V tomto případě

Na Obr. 7.13 ukazuje propustnost DSC (7.49) a binárního kanálu s výmazy (p = 0). Je třeba poznamenat, že s nízkou pravděpodobností chyb je možné volbou optimálních oblastí výmazu v DSCS dosáhnout výrazně vyšší propustnosti než v konvenčních binárních kanálech.

Komentář.Zde vyvstává otázka možnosti zvýšení propustnosti při příjmu s výmazy v praxi. Zde se ukazuje slabina teorie informace. Teorie informace často nemůže nabídnout návrh, který si uvědomuje teoreticky dosažitelné hranice. Malý příklad, který je podrobně probrán ve druhé části této knihy, však ukazuje, že zavedení výmazů může někdy snížit pravděpodobnost chyby. Podívejme se na tento příklad na intuitivní úrovni. Rozdělme tok přenášených informací do bloků obsahujících 7 binární znaky (7 bitů). Ke každému bloku přidáme jeden paritní bit („O“ nebo „1“). Takto zakódované bloky osmi binárních znaků budou vždy obsahovat sudý počet jedniček. Nechť je pravděpodobnost chyby v DSC docela malá. Mazací zónu (obr. 7.11) zavedeme takto:takže chyby se většinou mění ve výmazy. Zároveň bude pravděpodobnost „nevymazané“ chyby zanedbatelná a pravděpodobnost vymazání zůstane poměrně malá. Dostaneme gumovací capal (DSKS), ve kterém budou bloky osmi binárních symbolů v naprosté většině případů buď přijaty správně, nebo budou obsahovat pouze jeden vymazaný binární symbol. Kvalita příjmu se výrazně zlepší, protože jedno vymazání v bloku se sudým počtem jedniček lze vždy opravit.

Rýže. 7.13. Kapacita šířky pásma binárního symetrického kanálu S DSK s možností chyby ε a binární kanál s mazáním S DSKS s pravděpodobností vymazání q a pravděpodobnost chyby R= 0.

Příklad: Binární symetrický kanál s výmazy.

Rýže. 7.14. Binární kanál s výmazy.

Na Obr. Obrázek 7.14 ukazuje přechodový diagram symetrického kanálu s výmazy. Definovat:

1. Kanálová matice

2. Pravděpodobnost rozdělení zdrojových symbolů Y, pokud je známo, že zdrojové symboly X rovnoměrně rozložené, tzn. pa = pí = 1/2;

3. Kapacita kanálu;

4. Diagram informačních toků se všemi entropiemi;

5. Model kanálu s maticí Ры/у.

Řešení.

1. Vezmeme-li v úvahu skutečnost, že součet pravděpodobností v každém řádku matice je roven 1, získáme

2. Na základě rovnoměrného rozdělení pravděpodobnosti symbolů na vstupu podle (7.52) máme

3. Vzhledem k tomu, že uvažovaný kanál je symetrický, propustnosti je dosaženo s rovnoměrným rozložením vstupních symbolů. Z (7,54) s přihlédnutím k (7,56) máme

4. Entropie diskrétního binárního zdroje, bez paměti X s rovnoměrným rozdělením pravděpodobnosti symbolů se rovná

Zdrojová entropie YR Ava

Protože v symetrickém kanálu s rovnoměrné rozložení vstupních symbolů já(X; Y) odpovídá šířce pásma S z (7.58) lze vypočítat společnou entropii a dvě podmíněné entropie pomocí tabulky 7.3. Diagram toku informací je na Obr. 7.15.

Rýže. 7.15. Diagram informačních toků binárního symetrického kanálu s výmazy.

5. Přepočet matice pravděpodobností přechodu kanálu do

Matrix ponecháváme na čtenáři jako samostatné cvičení. Kanálový diagram se vstupním zdrojem Y a víkendy X znázorněno na Obr. 7.16 pro ovládání.

Rýže. 7.16. Binární symetrický kanál s výmazy.

7.6. Věta o kódování pro diskrétní kanály bez paměti

Uvažujme diskrétní kanál bez paměti se šířkou pásma C[bit/symbol], ve kterém je každý symbol přenášen uvnitř T s sek. Pro tento kanál

Nechť entropii nějakého zdroje X, měřeno po dobu několika sekund je H(X) bit. Pak platí následující věta.

Teorém 7.6.1. Věta o kódování kanálů(Chennaultova věta).

Pro zdroj X s rychlostí R = H(X)/ T S [bit/s] a R < С existuje nějaký kód. s pomocí kterého informačního zdroje X lze přenášet na komunikační kanál s kapacitou C 1 [bit/sec] s libovolně nízkou pravděpodobností chyby.*

* Věta o kódování platí nejen pro diskrétní kanály, ale platí i pro přenos diskrétních zpráv přes spojité kanály. Poznámka překlad

Důkaz kódovací věty pro kanál (viz například) je poměrně komplikovaný a přesahuje rámec této knihy, takže se zde omezíme na následující komentáře.

Důkaz kódovacího teorému zahrnuje použití náhodných kódů nekonečné délky a dekodéru maximální věrohodnosti, který zajišťuje minimální pravděpodobnost chyby. Důkaz nepoužívá žádná konstruktivní řešení. Používá pouze statistické vlastnosti a limitní průchody pro blokové kódy s délkami bloků sahajícími k nekonečnu. Důkaz neposkytuje žádnou informaci o návrhu optimálních kódů.

Věta o kódování také definuje horní mez pro přenosovou rychlost R.*

Při dokazování věty se zavádí exponenciální hodnotící ukazatel R 0 , pomocí kterého lze odhadnout technicky dosažitelnou rychlost přenosu dat.

* Zde je potřeba vysvětlení. Existuje věta o inverzním kódování, která to říká. co takhle R> C Neexistuje žádná metoda kódování, která by umožňovala přenos informací s jakoukoli pravděpodobností chyby. Poznámka překlad

Kapitola 8. Kontinuální zdroje a kanály

Kapitola 2 definuje entropii jako míru nejistoty zdroje. Předpokládalo se, že entropie byla měřena náhodnými experimenty. V této kapitole použijeme podobný přístup ke spojitým zdrojům.

Rýže. 8.1. Nepřetržitý zdrojový signál.

Místo zdrojů s konečnou abecedou symbolů budeme uvažovat zdroje, jejichž výstupem jsou spojité signály. Příkladem takových signálů je časově proměnlivé napětí v telefonních kanálech atd. Obrázek 8.1 ukazuje spojitý zdroj X, jehož výstupem je analogový signál X(t), což je nějaká náhodná funkce času t. Hodnoty zvážíme X(t) v některých pevných bodech času jako náhodné experimenty, které nesou nějaké informace o zdroji X.

8.1. Diferenciální entropie

Obrázek 8.2 ukazuje dva spojité zdroje X A Y, připojeno kanálem (podobně jako na obr. 7.4). Zde jsou místo pravděpodobností funkce hustoty pravděpodobnosti stochastických proměnných.

Použití stochastických proměnných a jejich funkcí hustoty pravděpodobnosti nám umožňuje zavést koncept informace, entropie, podmíněné a vzájemné entropie pro dva spojité zdroje analogicky s diskrétními zdroji.

Rýže. 8.2. Dva spojité zdroje bez paměti, propojené kanálem.

Transformace spojitého zdroje X diskrétně. K tomu kvantujeme hodnoty analogového výstupu zdroje s krokem Δ (obr. 8.3).

Rýže. 8.3. Digitalizace spojitého zdroje s kvantizačním intervalem Δ v okamžicích pozorování t 0 , t 1 atd.

Navíc, jak se to v teorii informace obvykle dělá, zdroj včas diskretizujeme. Ve výsledku získáme posloupnost stochastických proměnných Podle tabulky 7.2 určíme vzájemnou informaci symbolů X i, A y j , Kde X i - hodnotu výstupního symbolu v čase t m , A X j - v určitém okamžiku t n

Vzájemnou informaci lze interpretovat jako „odstraněnou“ (ztracenou) nejistotu zásahu proměnné X P v intervalu , když je známo, že proměnná X T patří do intervalu nebo naopak. Funkci hustoty pravděpodobnosti budeme považovat za spojitou funkci. Potom nasměrováním šířky kvantizačního intervalu na nulu získáme

těch. výsledek podobný vyjádření vzájemné informace pro diskrétní zdroje. Předávané informace lze definovat jako matematické očekávání

Komentář.Zde, abychom uvedli zápis této kapitoly do souladu s výsledky v tabulce 7.2 namísto X T použitýXa místo tohoY n - Y.

Zdrojové informace jsou určeny na základě podobné úvahy

Na rozdíl od vyjádření (8.3) pro vzájemnou informaci se v (8.4) objevuje člen, který závisí na kvantizačním intervalu Δ.

Při , hodnota také inklinuje k nekonečnu. Výsledkem je, že výraz pro také inklinuje k ∞. To není překvapivé, protože s klesajícím kvantizačním krokem roste počet jednotlivých událostí (symboly zdrojové abecedy) a následně se zvyšuje i nejistota zdroje.

Velikost nezávisí na zdroji a je pro jeho popis zcela irelevantní, proto se zdá zcela přirozené používat pouze funkci hustoty pravděpodobnosti spojitého zdroje. Přejdeme tedy k další definici.

Průměrná informace spojitého zdroje, tzv diferenciální entropie, definováno jako

Nejprve si všimneme, že taková svévolná definice diferenciální entropie potvrzuje její vhodnost tím, že vztahy entropie pro diskrétní zdroje se ukazují jako platné pro případ spojitých zdrojů a kanálů. Zejména pro spojité zdroje platí vztahy (7.39) - (7.42).

Diferenciální entropie spojitého zdroje tedy závisí pouze na funkci hustoty pravděpodobnosti, která je v obecném případě nekonečnou hodnotou, proto si klademe otázku, jak velká může být hodnota diferenciální entropie. Nejprve si všimneme, že charakteristikou stochastického procesu jsou dvě veličiny: průměrná hodnota, kterou nabývá stochastická proměnná (která má vlastnost linearity) μ a směrodatná odchylka stochastické proměnné σ .

Průměrná hodnota nebo matematické očekávání μ nemá žádný vliv na diferenciální entropii. S růstem σ , zvyšuje se nejistota zdroje, což vede i ke zvýšení diferenciální entropie. V tomto ohledu má smysl porovnávat různé funkce hustoty pravděpodobnosti s ohledem na jejich odpovídající entropii σ .

Komentář.V informačních technologiích se bere počáteční parametrσ 2 - disperze, která určuje průměrnou sílu stochastického procesu[ 10]. Je zřejmé, že s rostoucím výkonem vysílače roste množství přenášených informací a naopak s rostoucím výkonem šumu roste nejistota, tzn. Za jednotku času se přenese méně informací.

Z teorie informace vyplývá, že diferenciální entropie dosahuje svého maxima s Gaussovým rozdělením pravděpodobnosti.

Věta 8.1.1. Pro daný rozptyl σ 2 , maximální diferenciální entropie má zdroj s Gaussovo rozdělení pravděpodobnosti a

Příklad: Diferenciální entropie Gaussova zdroje.

Z (8.5) vyplývá, že diferenciální entropie Gaussova zdroje je rovna

Výraz v hranatých závorkách lze rozšířit na dva integrály. Tak konečně máme

Číselné příklady pro tři nejběžnější rozdělení jsou uvedeny v tabulce 8.1.

Tabulka 8.1. Příklad diferenciální entropie.

Příklad: Telefonie.

Praktickou užitečnost výše uvedených výsledků lze jasně demonstrovat na posouzení dosažené rychlosti přenosu informací (v bitech) na digitálních telefonních linkách. Moderní standardní metody digitálního přenosu řeči (logaritmické PCM) vyžadují 8 bitů pro zakódování jednoho vzorku při vzorkovací frekvenci 8 kHz. Rychlost přenosu hlasu je tedy 64 kbit/s.

Na základě rovnoměrného rozdělení pravděpodobnosti v intervalu [-1,1] experimentálně získáme σ 2 = 1/3. Diferenciální entropie na vzorek tedy je

Protože vzorky jsou odebírány na frekvenci 8 kHz, zjistíme, že požadovaná přenosová rychlost řeči je 8 kbit/s. Při odhadu entropie jsme nebrali v úvahu souvislosti mezi sousedními vzorky (zdrojová paměť) a. proto bude skutečná diferenciální entropie zdroje řeči ještě menší. Ve skutečnosti víme, že moderní algoritmy kódování řeči umožňují přenášet řečový signál rychlostí asi 8 kbit/s s kvalitou srovnatelnou se standardním PCM.

Zpracování informací ve výpočetních systémech není možné bez přenosu zpráv mezi jednotlivými prvky (RAM a procesor, procesor a externí zařízení). Příklady procesů přenosu dat jsou uvedeny v následující tabulce.

	Vysílač	Kanál	Přijímač
Lidé mluví		Vzdušné prostředí. Akustické vibrace	Lidské naslouchátko
Telefonní konverzace	Mikrofon	Dirigent. Střídavý elektrický proud
Přenos dat na internetu	Modulátor	Dirigent. Optický kabel. Střídavý elektrický proud. Optický signál	Demodulátor
Radiotelefon, vysílačka	Rádiový vysílač	Éter. Elektromagnetické vlny	Rádio

Ve výše uvedených přenosových procesech lze vidět určité podobnosti. Obecné schéma přenosu informací je znázorněno na obr. 7.1.

V kanálu je signál vystaven různým vlivům, které narušují proces přenosu. Dopady mohou být neúmyslné (způsobené přirozenými příčinami) nebo speciálně organizované (vytvořené) za nějakým účelem nějakým nepřítelem. Neúmyslné dopady na proces přenosu (rušení) mohou být hluk z ulice, elektrické výboje (včetně blesku), magnetické rušení (magnetické bouře), mlhy, zavěšení (pro optické komunikační linky) atd.

Rýže. 7.1. Obecné schéma přenosu informací

Pro studium mechanismu vlivu rušení na proces přenosu dat a metod ochrany proti němu je potřeba nějaký model. Proces vzniku chyby popisuje model nazvaný binární symetrický kanál (DSC), jehož schéma je na obr. 7.2.

Rýže. 7.2. Binární symetrický kanálový obvod

Při odesílání zprávy Podle DSC v každém bitu zprávy existuje pravděpodobnost, že může nastat chyba, bez ohledu na přítomnost chyb v jiných bitech. Chyba spočívá v nahrazení znaménka 0 1 nebo 1 0.

Některé typy chyb:

Nejčastěji dochází k výměně znamének. Tento typ chyby byl prozkoumán nejvíce.

Způsoby, jak zlepšit spolehlivost přenosu zpráv

Pokud se při kódování zpráv použijí optimální kódy, pak pokud dojde k jediné chybě, může dojít ke zkreslení celé zprávy nebo její významné části. Podívejme se na příklad. Nechat kódování elementární zdrojové zprávy jsou prováděny pomocí kódové tabulky

Zprávy	Kódové slovo

Potom zakódovaná zpráva vypadá jako 011011100110. Pokud dojde k chybě v prvním znaku, bude přijata zpráva 111011100110, která je dekódována do slovo. K úplnému zkreslení zprávy kvůli jedné chybě dochází kvůli tomu, že jeden kód slovo přepne na jiný kód slovo v důsledku nahrazení jednoho nebo více znaků. Příklad ukazuje, že optimální kódování nechrání zprávy dobře před účinky chyb.

V praxi je to nutné kompromis mezi účinností kódu a ochranou proti chybám.

Nejprve se smaže ten „zbytečný“. nadbytek(většinou statistické) a poté přidá „užitečné“ nadbytek, který pomáhá odhalovat a opravovat chyby.

Podívejme se na některé metody pro zvýšení spolehlivosti přenosu dat. Známé způsoby řešení rušení jsou následující:

přenos v kontextu;

duplikace zpráv;

přenos s opětovným dotazem.

Podívejme se blíže na každou z těchto metod.

Přenést v kontextu. S touto známou a obecně uznávanou metodou se setkal každý, kdo se snažil po telefonu sdělit něčí příjmení se špatnou slyšitelností a místo písmen, z nichž se skládají, zavolal některá jména, jejichž první písmena tvoří dané příjmení. V tomto případě ke správné obnově zkresleného sdělení napomáhá znalost jeho sémantického obsahu.

Duplicitní zprávy. Tato metoda je hojně využívána i v každodenní praxi, kdy se pro správné pochopení požadované sdělení několikrát opakuje.

Převod s opětovným dotazem. V případě, kdy má příjemce spojení s zdroj zpráv, ke spolehlivému dešifrování zpráv využívají re-questing, tedy žádají o opakování celé přenášené zprávy nebo její části.

Všechny tyto metody zvyšování spolehlivosti mají společné zavedení redundance, tedy zvýšení tak či onak objemu přenášené zprávy tak, aby mohla být správně dešifrována v případě zkreslení.

Je třeba poznamenat, že zavedení redundance snižuje přenosová rychlost informace, protože pouze část přenášené zprávy je zajímavá pro příjemce a její přebytečná část je zavedena pro ochranu před šumem a neobsahuje užitečné informace.

Je přirozené volit takové formy zavedení redundance, které umožňují zajistit maximální odolnost proti rušení při minimálním zvýšení hlasitosti zpráv.

Diskrétní komunikační kanál s rušením

Budeme uvažovat diskrétní komunikační kanály bez paměti.

Kanál bez paměti je kanál, ve kterém je každý vysílaný signálový symbol ovlivněn rušením bez ohledu na to, jaké signály byly vysílány dříve. To znamená, že interference nevytváří další korelační spojení mezi symboly. Název „bez paměti“ znamená, že během dalšího přenosu se zdá, že si kanál nepamatuje výsledky předchozích přenosů.

V případě rušení je průměrné množství informací v symbolu přijaté zprávy Y, vzhledem k přenášenému - X rovná se:

Pro symbol zprávy X T doba trvání T, skládající se z n elementární symboly průměrné množství informací v přijaté symbolové zprávě - Y T vzhledem k tomu, co bylo přenášeno - X T rovná se:

Já (Y T , X T ) = H(X T ) - H(X T /Y T ) = H(Y T ) - H(Y T /X T ) = n)