Теория на информацията

Клод Шенън

Вход и изход на сигналите в една затворена система, и взаимодействието им в нея.

Основоположник на Теорията на Информацията е, Клод Шенън. Теорията представя описание на информацията като нематериална субстанция.

Същност

Теорията се обуславя от четири основни закона и описва няколко постулата, които я определят като такава. В началото на 20 век е обърнато внимание на ролята и значението на информацията във връзка с използването и в съобщителните системи и с необходимостта от измерването и. Така се появява теорията на Шенън за информацията. В тази теория информацията се разглежда като средство за намаляване на неопределеността. Разпространено е възприетото в теорията на Шенън понятие за количество информация в дадено съобщение, определено като разликата в степените на неопределеност преди и след получаване на съобщението.

Основни направления

Апостерна информация- информация която е получена, известна, налична /преди въвеждането на съответният експеримент /наблюдение, опит//
Апреорна информация- информация получена във резултат на провеждането на определен експеримент. В зависимост от това какво е структурирана в нея, информацията може да бъде кфалифицирана в няколко групи:
събитие - първичен / недеим елемент от представянето на информацията/. Такива форми се явяват 1,0, потвърждение, отрицание, наличие, нещо което не може да се раздели на малки части.
величина- съвкупност от събития, подредени във едно определено измерение. Величината приема определен набор от събития имаме така нар. Дискретни величини. Когато величината приема още брой събития, се приема да бъде непрекъсната.
функция представлява взаимовръзка между 2 величини, между величина и време,величина и пространство. В зависимост от типа на аргумента, функциите биват дискретни и непрекъснати.

Трансформация в системите

Представяне на трансформацията.

Трансформацията е понятие, което описва поведението в системите. Тя описва последователната смяна на състоянието на системата по скалата на времето. Трансформацията се дели на няколко основни вида. Тя може да бъде детерминирана трансформация; трансформация с неопределеност; трансформация със стохастична неопределеност. В най-общия си вид трансформацията изглежда така както е представена на фигурата.

Трансформацията може да се представи по няколко начина:

матрично

чрез кинематичен граф

формулно

Трансформацията се дели на няколко основни вида:

Обща теория

Според Александър Дьомин - През 1996 г. руският учен и последовател на Норбърт Винер, Акад. Александър Дьомин публикува своя научен труд “Парадигма дуализма: Пространство - время, энергия - информация”, с което официално обявява създаваната от него в продължение на 30 години “Обща теория на информацията” и формулира следното определение, което бе регистрирано като откритие: “Информацията е всеобщо нематериално свойство на взаимодействие на материалния свят, определящо посоката на движение на енергията и веществото. Това всеобщо нематериално свойство на взаимодействие включва в себе си първична и вторична информация, като под първична информация се разбира посоката на движението на веществото, при която възниква не само направление на неговото движение в пространството, но и форма, като резултат на насочеността на движение на съставляващите веществото елементи, а вторичната информация е отражение на първичната във вид на поле под формата (структура, модулация) на пространствените сили, съпровождащи всяко движение на веществото.” То за пръв път разкрива същността на информацията като всеобщо свойство на взаимодействие на материалния свят, определящо посоката на движение и развитие и като свързващо звено между енергията, материята, времето и пространството. Под нематериално свойство на материалния свят ще се уговорим да разбираме такива свойства на материята, които не могат да бъдат измерени нито в единици енергия, нито в единици инерциална маса или техни производни единици и поради тази причина съществуват независимо от масата и енергията, без да ги изразходват за своето съществуване. Това съвсем не означава, че тези свойства са “нефизични”, т.е. могат да съществуват извън материалния свят, когото те характеризират.

Сигналите, които постъпват отвън в дадена система, и се използват от нея.

Според Клод Шенън - Американският учен Клод Шенън представя обществената комуникация като система от три елемента (източник, съобщение и адресат) и два процеса кодиране и декодиране. Той е един от създателите на математическата теория на информацията. Основните му трудове са по теория на релейно-контактните схеми, математическата теория на връзките, кибернетика. Шенън завършва Мичиганския университет, където получава две дипломи — по математика и по електротехника. След това в Масачузетския технологичен институт работи под ръководството на професор Ваневар Буш на неговия диференциален анализатор. През 1938 година защитава докторска дисертация, в която разработва принципите на логическото устройство на компютъра, свързвайки булевата алгебра с работата на електрическите схеми. Тази разработка става повратна точка в историята на развитието на съвременната информатика и изчислителна техника. Формулата на Шенън за изчисляване на количеството информация:

По-късно Шенън работи в Bell Telephone Laboratories, където прилага новите принципи в разработката на телефонни станции. През 1948 година публикува своя труд «Математическа теория на връзките», в която представя своята унифицирана теория за предаване и обработка на информацията. Информацията в този контекст включва всички видове съобщения, включително тези, които се предават по нервните влакна в живите организми. Шенън предложил да се измерва информацията в математическия смисъл, свеждайки я към избора между две значения, или двоични разряди, — «да» или «не», полагайки по такъв начин основите на съвременната теория на връзките, която в днешно време играе важна роля в много области.

Концепция за информационния процес.

Принципа за минимума на дисипация

Хороскоп

“При информационното взаимодействие посоката на движение осигурява минимална дисипация на енергията.” Още през 18 век П. Мопертюи е формулирал принцип, който днес се нарича “принцип за най-малкото действие на Мопертюи-Лагранж”. П. Мопертюи го е формулирал така: “Природата, осъществявайки действия, винаги използва най-простите средства...количеството действие винаги е възможно най-малкото.” П. Мопертюи в своето време не е могъл да обясни правилно какво е това “действие на природата” и е предполагал, че справедливостта на този принцип следва от Божия разум. Без да се задълбочаваме в разглеждането на съвременното разбиране не термина “действие” (съществуват математически трактовки на Ейлер, Лагранж, Хамилтън, в оптиката съществува т.н. принцип на Ферма), ще споменем, че този принцип намира приложение в механиката, електродинамиката, оптиката и други области на физиката. Но всички негови пояснения се свеждат само до енергетическо разглеждане на движението на материална точка в потенциално поле и следователно не могат да бъдат използване в термодинамиката. Там съществува друг принцип – принципа на най-малко разсейване на енергията. Той е обоснован в теоремата на Онсагер - една от основните теореми в термодинамиката на неравновесните процеси, установена от американския физик Л. Онсагер. Базирайки се на нея, през 1947 г. белгийският физик И.Р.Пригожин доказваоще една теорема, наречена теоремата на Пригожин, според която при определени външни условия, възпрепятстващи достигането на равновесно състояние, на стационарно (неизменно във времето) състояние на системата съответства минимално производство на ентропия. Ако такива препятствия няма, то производството на ентропия достига абсолютен минимум – става равно на нула. Към изброените до тук принципът на Гаус за най-малкото принуждаване, принципът на Херц за най-малката крива и редица други принципи във физиката. Всички тези принципи доказват стремежа на научната мисъл на човечеството вече няколко столетия да докаже съществуването на някакво универсално, съществуващо и валидно за цялата природа свойство на взаимодействие на материята, което оптимизира разходите на енергия при взаимодействията. Такова свойство не бе намерено до сега, защото всички търсения са се насочвали в енергетичната област, а не в информационната. Самата същност на обектите на изследване – формирането на потока и движението на потока, преместването на материална точка в потенциално поле, действието на сили, определящи посоката на движение – говори за това, че би трябвало да се изследва именно информационната страна на взаимодействията на материята. Защото информацията, а не енергията управлява посоката на движение на веществото и на енергията. Общата теория на информацията утвърждава че съществува информационна страна на взаимодействията на материята, определяща посоката на движение и естествен критерии за избора на посока на движението е минимума на дисипация (разход) на енергия. Принципът за минимум на дисипация на енергията е универсален закон на информационното взаимодействие, които може да бъде обяснен само от позицията на общата теория на информацията.

Приложение

Всеки от домовете на хороскопа конкретизира една или друга сфера на живота, определяйки областта на действие на планетите. Тази конкретизация се осъществява на базата на теория на времето, теория на информацията и дискретна математика.

Вижте още

Източници

Claude E. Shannon, N.J.A. Sloane, Aaron D.Wyner - Claude Elwood Shannon: Collected Papers
Claude E. Shannon and Warren Weaver - Mathematical Theory of Communication
John Robinson Pierce - An Introduction to Information Theory: Symbols, Signals and Noise
G.J. Chaitin - The Limits of Mathematics A Course on Information Theory and the Limits of Formal Reasoning
G. Chaitin - Information, Randomness Incompleteness
David J.C. MacKay - Information Theory, Inference, and Learning Algorithms
Robert M. Losee - A Discipline Independent Definition of Information
Tom Carter - An Introduction to Information Theory and Entropy
G. Chaitin - Algorithmic Information Theory
D. MacKay - A Short Course in Information Theory
C.E. Shannon - A Mathematical Theory of Communication

Външни препратки