Autoregressiv ( AR- ) model ( engelsk autoregressiv model ) er en tidsseriemodel , hvor værdierne af tidsserien i øjeblikket lineært afhænger af de tidligere værdier af samme serie. En autoregressiv proces af orden p (AR( p )-proces) er defineret som følger
hvor er modelparametrene (autoregressionskoefficienter), er en konstant (ofte antages at være nul for enkelhedens skyld) og er hvid støj .
Det enkleste eksempel er den førsteordens autoregressive AR(1)-proces:
For denne proces er den autoregressive koefficient den samme som den første ordens autokorrelationskoefficient.
En anden simpel proces er Yule-processen, en AR(2)-proces:
Hvis vi introducerer en lagoperator , kan den autoregressive model repræsenteres som følger
eller
Stationariteten af den autoregressive proces afhænger af rødderne af det karakteristiske polynomium . For at processen kan være stationær [1] , er det tilstrækkeligt, at alle rødderne til det karakteristiske polynomium ligger uden for enhedscirklen i det komplekse plan .
Især for AR(1)-processen , derfor roden af dette polynomium , så stationaritetsbetingelsen kan skrives som , dvs. autoregressionskoefficienten (i dette tilfælde autokorrelationskoefficienten) skal være strengt mindre end 1 modulo .
For en AR(2)-proces kan det påvises, at stationaritetsbetingelserne har formen: .
Stationære AR-processer tillader Wold-nedbrydningen - en repræsentation i form af en uendelig MA-proces :
Det første led er den matematiske forventning til AR-processen. Hvis c=0, så er forventningen til processen også nul.
Det kan vises, at autokovarians- og autokorrelationsfunktionerne i AR(p)-processen opfylder de rekursive relationer:
I det enkleste tilfælde af en AR(1)-proces er middelværdien , variansen er , og autokorrelationen er .
I det generelle tilfælde er udtrykket for den matematiske forventning gennem modelparametrene angivet ovenfor, dog er udtrykket for spredningen af tidsserien meget mere kompliceret. Det kan vises, at variansen af serien og autokovariansvektoren udtrykkes i form af parametre som følger:
,
hvor er parameteren vektor, er rækkefølgen matrix , hvis elementer er defineret som følger. De diagonale elementer er lige store . Elementerne over diagonalen er lige store , og elementerne under diagonalen er lige store . Her forstås det, at hvis indekset overstiger modellens rækkefølge , så sættes den tilsvarende værdi til nul.
Især for en AR(1)-proces er matrixen kun én, hvilket svarer til ovenstående formel.
For -processen er andenordensmatrixen defineret som følger: den første række er ( ;0), den anden er ( ;1). Ved at anvende ovenstående formel kan du få følgende udtryk for variansen af denne proces:
I praksis bruges formler for procesvarians udtrykt i form af modelparametre normalt ikke, men følgende udtryk bruges i form af kovarianser:
Autokorrelationsfunktionen af den autoregressive proces henfalder eksponentielt med mulige svingninger (oscillationer afhænger af tilstedeværelsen af komplekse rødder af det karakteristiske polynomium). I dette tilfælde er den partielle autokorrelationsfunktion for k>p lig med nul. Denne egenskab bruges til at identificere rækkefølgen af AR-modellen fra prøvens partielle autokorrelationsfunktion i tidsserien.
For en AR(1)-proces er autokorrelationsfunktionen en eksponentielt henfaldende funktion (uden svingninger), hvis stationaritetsbetingelsen er opfyldt. Den partielle autokorrelationsfunktion af første orden er r, og for højere orden er den 0.
Under hensyntagen til pariteten af autokorrelationsfunktionen og ved at bruge gentagelsesrelationen for de første p autokorrelationer, opnår vi Yule-Walker ligningssystemet [2] :
eller i matrixform
Hvis vi bruger prøveautokorrelationer i stedet for sande (ukendte) autokorrelationer, vil vi opnå estimater af ukendte autoregressionskoefficienter. Denne estimeringsmetode kan påvises at være ækvivalent med den ordinære mindste kvadraters (OLS) metode . Hvis modellens tilfældige fejl er normalfordelt, så er denne metode også ækvivalent med den betingede maksimumsandsynlighedsmetode . For at opnå mere præcise estimater i sidstnævnte tilfælde kan man bruge metoden med fuld maksimal sandsynlighed, som bruger information om fordelingen af de første medlemmer af serien. For eksempel, i tilfælde af en AR(1)-proces, tages fordelingen af det første led lig med den ubetingede fordeling af tidsserien (normalfordeling med matematisk forventning og ubetinget varians af rækken).
AR-modeller kan bruges til at modellere sæsonbestemte. Sådanne modeller er betegnet SAR (Seasonal AR). For eksempel, givet kvartalsdata og forudsat kvartalsvis sæsonudsving, kunne følgende SAR(4)-model bygges:
Faktisk er dette en almindelig AR-model med en begrænsning på modelparametrene (parametre lig med nul for forsinkelser mindre end 4). I praksis kan sæsonbestemt kombineres med konventionel autoregression, for eksempel:
I nogle tilfælde er sæsonbestemte modeller nyttige, hvor den tilfældige fejl er underlagt en eller anden AR-proces:
Det er let at se, at en sådan model i operatørform kan skrives som:
Sådan en model kaldes .