Допускане при регресионен анализ
При регресионния анализ се използват решения базирани на допускане.
Класически допускания
- Пробата е представителна за населението, за да се направи прогноза.
- Грешката е случайна величина със средна, равна на нула в зависимост от обяснимите променливи.
- Независимите променливи се измерват без грешка. (Забележка: Ако това не е така, моделирането може да се направи като вместо това се използва грешки-в променливите технически модели).
- Прогнозите са линейно независими, т.е. не е възможно да се изразят всички прогнози като линейна комбинация на останалите. Вижте мултиколинеарност (на англ.Multicollinearity).
- Грешките не са свързани помежду си, което означава, че вариацията-ковариацията на матрицата на грешки е диагонална и всеки ненулев елемент представлява отклонението на грешката.
Това са достатъчни условия за метод на най-малките квадрати за оценка и по-специално, тези допускания предполагат, че оценките на параметъра ще бъдат безпристрастни, последователни и ефективни в класа на линейните безпристрастни оценки. Важно е да се отбележи, че актуалните данни, рядко отговаря на предположенията. Това означава, че този метод се използва, въпреки че предположенията не са верни. Промените в допусканията понякога могат да се използва като мярка за това колко далеч отстои даден модел от това да бъде полезен.
Допусканията включват геометрична подкрепа на променливите необходимо изясняване (Cressie, 1996). Независимите и зависими променливи често се отнасят до стойностите, измерени в точките на установяване на местоположението. Възможно е да има пространствени тенденции и пространствени автокорелации на променливите, които нарушават статистическите предположения на регресията.
Допускане в линейния регресионен анализ
- В линейният регресионен анализ съществуват две основни допускания , които са общи за всички методи за приблизителна оценка.
Дизайнът на матрица X трябва да има пълен ранг на колони p. За това трябва да се приеме n > p, където n е размера на извадката (това е необходимо, но недостатъчно условие). Ако това условие липсва имаме мултиколинеарна регресия. В този случай векторния параметър β ще бъде не идентифициран - най-много ще може да се ограничите до стойност на някое линейно подпространството на Rp.
Разработени са методи за монтиране на линейни модели с мултиколинеарност, но се нуждаят от допълнителни допускания, такива като "ефекта рядкост" - голяма част от ефектите са точно нула.
Просто твърдение е, че трябва да има достатъчно налични данни в сравнение с броя на параметри, които ще бъдат прогнозирани. Ако има твърде малко данни системата от уравнения ще има само едно решение. Вижте най-малките квадрати частична регресия.
- Регресорите xi се предполага, че работят без грешка. Това е така, защото те не са „заразени” с измерените грешки. Въпреки че не е реалистично, допускането на това предположение води до значително по-трудни грешки-в-променливите модели (на англ. errors-in-variables models).
Освен тези две допускания, няколко други статистически характеристики на данните силно влияят върху представянето на различните методи за оценяване:
- Някои методи за приблизителна оценка се основава на липсата на корелация, между n наблюдения. Статистическата независимост на наблюденията не е необходима, въпреки че могат да бъдат използвани, ако се знае, че притежават такава.
- Статистическата връзка между грешните условия и регресията играе важна роля при определянето дали една процедура за оценка, е желателна за вземане на проби, като е безпристрастна и последователна.
- Вариациите на грешните термини могат да бъдат равни на n единици („еднакво разсейване” или на англ. homoscedasticity) или да не бъдат („различно разсейване” или на англ. heteroscedasticity). Някои методи за оценка на линейната регресия дават по-малко точни резултати при оценката и водят до увеличаване количеството на стандартните грешки, когато е налице различно разсейване или хетероскедастичност.
- Режимът, или вероятностното разпределение на независимите променливи х оказва голямо влияние върху точността на прогнозите на β. Пробителите и моделите на експериментите са силно развити подполета на статистическите данни, които дават насоки за събиране на данните по такъв начин, че да се постигне прецизна оценка на β.
Вижте още
Източници
- Draper, N.R. and Smith, H. Applied Regression Analysis Wiley Series in Probability and Statistics (1998)
- Francis Galton. "Regression Towards Mediocrity in Hereditary Stature," Journal of the Anthropological Institute,
- Kaw, Autar; Kalu, Egwu (2008). "Numerical Methods with Applications".
- Cohen, J., Cohen P., West, S.G., & Aiken, L.S. (2003). Applied multiple regression/correlation analysis for the behavioral sciences. (2nd ed.) Hillsdale, NJ: Lawrence Erlbaum Associates
- Lindley, D.V. (1987). "Regression and correlation analysis,"
- Chatfield, C. (1993) "Calculating Interval Forecasts," Journal of Business and Economic Statistics