die Untergruppe O(B) ⊂ GL(n, ℝ) aller linearen Transformationen f : ℝⁿ → ℝⁿ, die eine gegebene nicht ausgeartete symmetrische Bilinearform B : ℝⁿ × ℝⁿ → ℝ invariant lassen.

Eine lineare Transformation α ∈ GL(n, ℝ) gehört genau dann zu O(B), wenn B(α(\({{\mathfrak{x}}}\)), α(𝔶)) = B(x, y) für alle x, y ∈ ℝⁿ gilt.

Man kann zu einer pseudoorthonormierten Basis von ℝⁿ übergehen und voraussetzen, daß B die Gestalt \begin{eqnarray}B({\mathfrak{x}},{\mathfrak{y}})=\displaystyle \sum _{i=1}^{n-k}{x}_{i}{y}_{i}-\displaystyle \sum _{j=n-k+1}^{k}{x}_{j}{y}_{j}\end{eqnarray}

hat, wobei k der Index von B ist. Ist 𝒟_k die Diagonalmatrix \begin{eqnarray}{{\mathcal{D}}}_{k}=\text{diag}\mathop{\underbrace{\text{(1,}\mathrm{...}\text{,1}}}\limits_{n-k\,\text{mal}}\text{,}\mathop{\underbrace{-\text{1,}\mathrm{...}\text{,}-\text{1)}}}\limits_{k\,\text{mal}},\end{eqnarray}

und setzt man voraus, daß die kanonische Basis 𝔢₁, …, 𝔢_n von ℝⁿ pseudoorthonormiert bezüglich B ist, was sich durch einen Basiswechsel stets erreichen läßt, so ist B durch B(\({{\mathfrak{x}}}\), 𝔶) = \({{\mathfrak{x}}}\)^⊤ 𝒟_k 𝔶 als Matrizenprodukt gegeben, wenn \({{\mathfrak{x}}}\), 𝔶 ∈ ℝⁿ als Spaltenmatrizen angesehen werden. Ist ferner A die Matrix der linearen Transformation α ∈ GL(n, ℝ), so gilt α(\({{\mathfrak{x}}}\)) = 𝒜 \({{\mathfrak{x}}}\), und B(α(\({{\mathfrak{x}}}\)), α(𝔶)) = B(\({{\mathfrak{x}}}\), 𝔶) ist gleichwertig zu der Beziehung \begin{eqnarray}\begin{array}{ccc}{{\mathcal{A}}}^{\top}{{\mathcal{D}}}_{k}{\mathcal{A}}={{\mathcal{D}}}_{k}\text{.} & & \text{(1)}\end{array}\end{eqnarray}

Die Gruppe der Matrizen, die die Gleichung (1) erfüllen, wird pseudoorthogonale Gruppe genannt und mit O(n, k) bezeichnet. Die Elemente von O(n, k) heißen pseudoorthogonale Matrizen. Die Untergruppe SO(n, k) ⊂ O(n, k) der Matrizen A mit det(𝒜) = 1 heißt spezielle pseudoorthogonale Gruppe. SO(2, 1) besteht z. B. aus allen Matrizen \begin{eqnarray}{{\mathcal{A}}}_{t}=\pm \left(\begin{array}{ll}\cosh t & -\sinh t\\ -\sinh t & \cosh t\end{array}\right)\,\text{mit}\,t\in {\mathbb{R}}.\end{eqnarray}

Die pseudoorthogonale Gruppe einer jeden nicht ausgearteten symmetrischen Bilinearform B vom Index k auf einem beliebigen n-dimensionalen reellen Vektorraum V ist zu O(n, k) isomorph.

O(n, k) und SO(n, k) sind reelle Lie-Gruppen der gleichen Dimension \(\frac{n(n-1)}{2}\), und SO(n, k) ist eine bezüglich der Toplogie von O(n, k) sowohl offene als auch abgeschlossene Untergruppe