Линейната регресия представлява инструмент на стратегическия анализ, който бива използван за предвиждане на бъдещите стойности на базата на съществуващи данни. Методът на линейната регресия позволява да се получи потвърждение на подобни логически изводи. За построяването на дадена регресия е необходимо да се зададат две точки. В линейната регресия, моделите на неизвестните параметри, изчисляващи се от наличните данни, се намират като се използва линейна функция. Тези модели се наричат линейни модели.

Диаграма на разсейване.

Като цяло под регресия се разбира зависимостта между средната стойност на някаква величина от друга величина. За разлика от функционалната зависимост y=f(x), където на всяка стойност на независимата променлива x съответства една определена стойност на величината y. При регресионната връзка на едно и също значение на x могат да съответстват различни значения на величината y. Методът е използван за първи път да се разгледа отношението между височините на бащи и синове.

Тази регресия се опитва да моделира зависимостта между две дадени променливи чрез апроксимация с линейно уравнение на наблюдаваните данни. Винаги едната променлива се разглежда като независима такава, или наречена още обясняваща променлива. Другата се разглежда като зависима променлива. Най-често независимата променлива се отбелязва с x, а зависимата с y.

Линейната регресия се фокусира върху условно вероятностно разпределение на x, а не на общото вероятностно разпределение на x и y, които са част от многовариантния анализ. Регресията е един от първите видове регресионни анализи. Съществуват много практически приложения, които има линейната регресия, част от които попадат в категориите:

При предсказание и прогнозиране, регресията може да бъде използвана, за да се вмести в предсказуем модел на наблюдаваните данни набор от години и Х стойности.
Имайки се в предвид една променлива в години и броят на променливите Х1……Хр, които могат да бъдат свързани с години, могат да се прилагат за количествено определяне на силата на връзката между Y и XJ, да се прецени кои XJ могат да имат някаква връзка с останалите, и за определяне на XK .

Въведение в линейната регресия

Линейната регресия е най-често използвания метод за анализ при изучаването на взаимовръзките между явленията. Тя е най-старият и най-широко използван предсказуем модел. В някои случаи линейната регресия може да се използва като стандартна крива за намиране на нови стойности на x от y или y от x.

Методът на най-малките квадрати (МНМК)

Линейната регресия, основаваща се на МНМК, при която β се определя като резултат от анализа на историческите данни за една от следните зависимости:

Между възвръщаемостта на собствения капитал на компанията и общата възвръщаемост на пазара на акции;
Между изменението в пазарната цена на акциите (с или без отчитане на изплатените дивиденти) и измененията в общата пазарна капитализация.

Самата идея на метода е много проста. Приема се, че връзката между измерените и контролните величини е полином и се търсят такива стойности на коефициентите на полинома, че сумата от квадратичните отклонения на измерените величини от пресметнатите чрез функционалната зависимост да е минимална. В случай на една независима променлива това означава:

2 = min

xi- стойностите на контролната величина;

yi- съответните измерени стойности на резултатната величина;

f(x)- избраната функционална зависимост, която трябва да бъде пасната.

Линейна зависимост между независима контролна величина и една резултатна величина има вида y=ax+ b

Коефициенти на линейна регресия

Коефициентите имат геометричен смисъл. Коефициентът на пропорционалност a е наклонът, а свободният член е b е стойността на наблюдаемата величина при нулева стойност на контролната величина, т.е. точката в която регресионната права пресича абцисната ос.

Математически модел

Математическият модел на формата на зависимостта е права линия. Всяка права намираща се в равнината, може да се представи с помощта на уравнение имащо вида

y=s+ kx , наричащо се декартово уравнение на права, като:

s- отрязък, разстоянието, което правата показва от ординатата Oy

k=tgα - ъглов коефициент на правата- показва наклона на правата спрямо абсцисата Ox

Допускания за регресионният модел

Той се извежда на базата на няколко допускания. Някои от тях се изпълняват в действителност, докато други не. Съществува зависимост, че колкото повече от допусканията са изпълнение, толкова по-голямо доверие можем да имаме към резултатите от анализа. Наричаме един регресионен модел адекватен, ако няма алтернативен, описващ действителността по-добре. При регресионният модел се прилага принципа на Окам, според който най-простото обяснение е и най-вярно, докато не се намери някое по-сложно, което го опровергава. Едни от по-важните допускания са:

X и y са непрекъснати случайни величини, представляващи силните скали;
Корелационната зависимост между x и y е линейна;
Грешките s са некорелирани нормално разпределени величини, които имат случаен характер, с нулево математическо очакване и еднакви дисперсии за всяко x

Предимства на линейната регресия

Линейната регресия един от най-широко използваните методи и един от най-лесните за разбиране;
Обучението на линеен регресионен модел протича много бързо;
Моделът е прост и изисква минимална памет за своето изпълнение

==

Екстраполация

Файл:Image12.jpg

Линейното уравнение е намирането на x и y, което показва права линия при оформянето си.

В случаите, в които линейно регресионният модел е подходящ за група от данни, обхватът от данни трябва да бъде внимателно наблюдаван. Опитът да се използва регресионно уравнение, за да се покажат стойности намиращи се извън този диапазон е неподходящ и в много от случаите дава грешен отговор. Тази практика е известна като екстраполация. Колкото повече стойностите са извън диапазона от стойности, използвани за поставяне на модела, толкова по-рискови за прогнозиране стават, тъй като няма начин да бъде проверено дали връзката е все още линейна. Например, лицата с 9 кг телесна маса се очаква да имат силата на – 4,9 единици. Този факт е абсурден, но това не изисква преразглеждането на модела, тъй като се основава на чистата маса на тялото в интервала 27-71 кг.

Интерполация

С нейна помощ се прави прогноза в диапазона от стойности на прогнозиране, като в пробата се използва генериране на модела. Интерполацията е специфичен случай на създаване на крива, при който функцията трябва да мине точно през дадените числови стойности. Тя може да е и несигурна, тъй като няма начин да се демонстрира линейността на връзката между двете променливи, но такива ситуации са рядко срещани в действителността.

Файл:Interpolaciq.jpg

Интерполация на крайно множество от точки като епитрохоид. Точките, през които кривата е прокарана са червени,а сините са тези, които ги свързват с интерполацията.

Методи за оценка

В практиката има много разработени процедури за оценки и заключения по линейната регресия. Различават се по простотата на алгоритмите, наличието на затворена форма на разтвор, теоретични предположения, необходими за потвърждаването на статистически характеристики, като последователност и асимптотична ефективност.

Част от най-често използваните методи за приблизителна оценка на линейната регресия са:

Метода на обикновените малки квадрати (OLS)

Той е най-простият и следователно най-честият оценител. OLS оценките са най-често използвани за анализ на експерименталните и наблюдателни данни. Методът минимизира сумата от квадратите на остатъците и води до затворена форма израз за прогнозната стойност на неизвестния параметър β

Методът на общите най-малки квадрати (GLS)

GLS е разширение на OLS, който позволява ефективна оценка на β, когато heteroscedasticity или корелацияите, или и двете присъстват сред грешките от гледна точка на модела. За да се справи heteroscedasticity, когато терминологичните грешки са несвързани по между си, GLS намалява претегления аналог на сбора от квадратите на остатъците от регресията OSL.

Инструментална променлива регресия (IV)

Може да се извърши, когато регресорите са взаимно свързани с грешките.

==

Най-слабо абсолютно отклонение (LAD)

Регресията е стабилна оценка на техниката, тъй като е по-малко чувствителна към присъствието на големи различия в стойностите на OSL, но е по-малко ефективна в сравнение с него. Равна е на максималната вероятностна оценка по разпределението на Лаплас

Към методите за оценка на линейната регресия спадат и още много други като :

Квантилна регресия;
Максимална вероятностна оценка;
Адаптивна оценка;
Смесени модели;
Водеща компонентна регресия (PCR);
Общи най-малки квадрати (LPS);

Приложения на линейната регресия

Този вид регресия се използва широко в биологичните, социалните и поведенческите науки, за да може да се опише възможните връзки между променливите.

Trend линия

Тенденциозните линии представляват тенденции, в дългосрочен план на движение в динамичните редове на данни, при положение, че другите компоненти са били отчетени. Той показва дали даден набор от данни се увеличава или намалява през даден период от време. Trend линиите в повечето случаи са прави линии. Много често се използват в бизнес анализите, за да се покажат промените на данните във времето. Използват се, за да се потвърди, че дадено събитие или действие е причинено от наблюдаваните променливи в даден момент от време. Тази техника е сравнително просто и не се нуждае от контролна група. Въпреки всичко се наблюдава липса на научна валидност в случаите, когато други потенциални промени могат да се отразят на данните.

Финанси

В капиталите модела на ценообразуването на активите използва линейна регресия, както и концепцията за β за анализиране и определяне на системния риск на инвестицията.

Като цяло регресията не е най-подходящият начин да се прецени β в областта на финансите, тъй като се предполага, че предоставят на летливост инвестициите по отношение на нестабилността на пазара като цяло. Това изисква двете променливи да се третират по същия начин, както се определят по склона. Вземайки това в предвид, регресията третира всички колебания, които показват, че в инвестицията се връща дадена променлива, като остатъци на дадената зависима променлива.

==

Науки за околната среда

Линейната регресия намира приложение в много науки свързани с околната среда.

Вижте също:

Източници:

Берк, Ричард А.:. регресионен анализ конструктивна критика. Sage. DOI : 10.1177/0734016807304871
Kaw, Autar; Калу, Egwu (2008 г.). "Числени методи с приложения", Глава 6 се занимава с линейна и нелинейна регресия.
Дрейпър, НП "и Смит, Х. Приложни Анализ Уайли Серия регресия в Вероятности и статистика (1998 г.)
Pedhazur, Elazar J (1982). Множествена регресия в поведението изследвания Обяснение и прогнозиране (2-ро изд.). Ню Йорк: Холт, Rinehart и Уинстън. ISBN 0-03-041760-0
http://dw.georgievi.net/ivan/least-squares.html
http://bg.wikipedia.org/wiki/Интерполация

Външни препрадки:

Линейна регресия

Съдържание