(0) S のどんな要素 a, b に対しても a◦b なる S の要素がある (1) S のどんな要素 a, b, c に対しても ( a◦b )◦c = a◦( b◦c ) (2) S に特別な要素 e があって、S のどんな要素 a に対しても a◦e = e◦a = a (この要素 e のことを単位元という) (3) S のどんな要素 a に対しても a◦b = b◦a = e(単位元)となる S の要素 b がある (この b を a の逆元といい、a^(-1) で表す)
このうち (0) が成り立つ集合 S のことを「2項代数」とか「亜群」とか「マグマ」と呼ぶ. (0), (1) が成り立つ集合 S のことを「半群」と呼ぶ. (0), (1), (2) が成り立つ集合 S のことを「モノイド」と呼ぶ. (0), (1), (2), (3)全てが成り立つ集合 S のことを「群」と呼ぶ.
身近な「群」の例としては ●演算 ◦ を + と考えたときの整数全体の集合 ZZ . そのときの単位元は 0 で、整数 a の逆元は -a となる.
●演算 ◦ を×と考えたときの有理数全体の集合から 0 を除いたもの QQ* . そのときの単位元は 1 で、0 でない有理数 a には逆数 a^(-1) が存在するので、これを a の逆元とする.
●行列式が 0 でない n 次実行列全体 GL( n, RR ). 演算 ◦ は通常の行列の積で、単位元は単位行列、逆元は逆行列.
(*)群 S では「 a◦b = b◦a 」は必ずしも成り立たない. (4) S のどんな要素 a, b に対しても a◦b = b◦a が成り立つ群のことを可換群、またはアーベル群という.
◎ 集合 M の部分集合全体 P(M) は演算 ◦ を ⋂ としてモノイドとなる. 実際、M のどんな部分集合 A, B, C に対しても (A ⋂ B) ⋂ C = A ⋂ (B ⋂ C) で (1) が成り立ち、全体集合 M に対しては、どんな部分集合 A についても M ⋂ A = A ⋂ M = A となるから M が単位元となり、(2) が成り立つ. ただ M が空集合でなければ、M に真部分集合 A があり A ⋂ B = M となる B は存在せず、A には逆元がないことになるから (3) が成り立たず、P(M) は群ではない.
以下 G を群とする. 演算 a◦b は単に ab と書くことにし、単位元を e とする. G の空でない部分集合 H が e を含み、G と同じ演算で群となっているとき H を G の部分群という。
H が G の部分群であるとき、G の要素 a, b について a^(-1)b ∈ H であることを a 〜 b と書くことにすると、〜 は G の同値関係となる. というのも a^(-1) a = e ∈ H より a 〜 a. (ア) { a^(-1)b }^(-1) = b^(-1)a ゆえ a^(-1)b ∈ H ならば b^(-1)a ∈ H , よって a 〜 b ⇒ b 〜 a .(イ) また a^(-1)b ∈ H , b^(-1)c ∈ H であるとき a^(-1)c = { a^(-1)b }{ b^(-1)c } ∈ H となるから a 〜 b, b 〜 c ⇒ a 〜 c.(ウ) (ア),(イ),(ウ)より 〜は G の同値関係である.
aH = { ah | h ∈ H } と書くことにすると a 〜 b ⇔ a^(-1)b ∈ H ⇔ b ∈ aH であることから、a の同値類は集合 aH である. 同値類の性質から G は G = ∐ [λ∈Λ] a_λH (★) のように共通部分のない和集合になる.
以下 G を有限群(有限個の要素からなる群)とすると(★)は G = H ⋃ a_1H ⋃ a_2H ⋃ ... ⋃ a_( n-1)H (★★) のように表せる.
i = 1, ... ,n -1 に対し、H と a_iH は同じ個数の要素からなる. というのも h ∈ H を a_ih ∈ a_iH に対応させるとき a_ih = a_ih' ならば両辺に左から ( a_i )^(-1) をかければ h = h' つまりこの対応は 1:1 だからである.
いま集合 S の要素の個数を #S で表すことにすれば (有限群 G について #G は G の位数と呼ばれる) 上記の注意と(★★)から