Invariant teori er en gren af generel algebra , der studerer gruppers handlinger på algebraiske varianter ud fra deres indflydelse på funktioner defineret på disse varianter. Det klassiske spørgsmål om teori er at beskrive polynomier , der ikke ændrer sig eller er invariante i forhold til transformationerne givet af den lineære gruppe .
Teorien om invarianter af endelige grupper har et tæt forhold til Galois teori . Et af de første kendte resultater var den grundlæggende sætning om symmetriske funktioner , som beskriver invarianterne af en symmetrisk gruppe , der virker på en polynomialring ved permutationer af variable.
Teorien om uendelige gruppers invarianter er uløseligt forbundet med udviklingen af lineær algebra , især teorien om kvadratiske former og determinanter . Repræsentationsteorien for semisimple Lie-grupper har sine rødder i invariant teori.