Den modulære gruppe er gruppen af alle Möbius-transformationer af formen
hvor er heltal , og .
Modulgruppen identificeres med faktorgruppen . Her er gruppen af matricer
hvor er heltal , .
Den modulære gruppe er en diskret gruppe af transformationer af det øvre komplekse halvplan ( Lobachevsky-planet ) og tillader en repræsentation ved generatorer
og relationer , det vil sige er et frit produkt af en cyklisk gruppe af orden 2 genereret af , og en cyklisk gruppe af orden 3 genereret af .
For en vilkårlig transformation fra en modulær gruppe gælder følgende lighed:
Da den imaginære del er ikke-nul, og tallene og er heltal ikke lig med nul på samme tid, adskilles værdien fra nul (den kan ikke være vilkårligt lille). Det betyder, at der i ethvert punkts kredsløb er et, hvor den imaginære del når sit maksimum.
Det grundlæggende domæne (kanonisk) i en modulær gruppe er det lukkede domæne
Det er let at kontrollere ved hjælp af (1), at transformationer af modulgruppen ikke øger den imaginære del af punkterne fra . Det følger heraf, at for at to punkter skal høre til , skal deres imaginære del være den samme: . Følgende transformationer og punkter opfylder disse betingelser:
Især alle punkter i regionen har en triviel stabilisator bortset fra tre:
Derudover følger det heraf, at når det øverste halvplan faktoriseres af modulgruppens handling, vises de indre punkter injektivt, mens grænserne er limet til punkterne "spejler" til dem i forhold til linjen .
For at vise, at ethvert punkt fra er kongruent med et eller andet punkt fra , betragter vi i dets kredsløb genereret af transformationerne og , punktet med den maksimale imaginære del, og ved hjælp af et heltalsskift skifter vi, så den reelle del af dets billede bliver nej. mere end 1/2 i absolut værdi. Så hører billedet til (ellers, hvis dets modul var mindre end 1, ville det være muligt strengt at øge den imaginære del ved hjælp af en transformation).
Det er også nemt at vise, at transformationerne og generere hele den modulære gruppe. Lad være en vilkårlig modulær transformation og være et indre punkt i . Som beskrevet ovenfor, lad os finde en transformation, der oversættes til området . Punkterne og ligger i , og er intern, derfor . Så ligger transformationen i punktstabilisatoren , hvilket er trivielt. Derfor ligger i gruppen genereret af transformationerne og .
Interessen for den modulære gruppe er forbundet med studiet af modulære funktioner , hvis Riemann-overflade er kvotientrummet , identificeret med det grundlæggende domæne af den modulære gruppe. Det fundamentale domæne har et begrænset område (i betydningen Lobachevsky-geometri), det vil sige, at den modulære gruppe er en fuchsisk gruppe af den første slags.