Ein Homomorphismus $f:V\to W$ zwischen Hilberträumen $V$ und $W$ mit Skalarprodukten $\langle -,-\rangle_V$ und $\langle-,-\rangle_W$ heißt Isometrie, wenn immer gilt $\langle f(v),f(v')\rangle_W=\langle v,v'\rangle_V$. Isometrien erhalten Längen, Abstände und Winkel. Eine Isometrie ist injektiv, denn aus $f(v)=0$ folgt $0=\langle f(v),f(v)\rangle_W=\langle v,v\rangle_V$ und damit $v=0$.
Wir interessieren uns hier nur für den Fall, in dem $V=W$ endlich dimensional ist. Dann sind Isometrien bijektiv und bilden bezüglich Verkettung jeweils Gruppen, im Falle ${\mathbb K}=\mathbb R$, die orthogonale Gruppe $O(V)$ und im Falle ${\mathbb K}=\mathbb C$ die unitäre Gruppe $U(V)$. Die Abbildungen in diesen Gruppen heißen orthogonal, beziehungsweise unitär.
Bemerkung. Es sei $A=(a_{ij})$ die einem Endomorphismus $f$ bezüglich einer Orthonormalbasis $e_1,\ldots,e_n$ zugeordnete Matrix. Genau dann ist $f$ eine Isometrie, wenn gilt
\[\bar{A}^tA={\mathbb I}_n.\]
Beweis. Der Endomorphismus $f$ ist genau dann Isometrie, wenn für alle in Frage kommenden Indizes
\[
\langle e_k,e_l\rangle= \langle f(e_k),f(e_l)\rangle
\] gilt. Wir setzen $f(e_k)=\sum_ja_{jk}e_j$ ein und sehen, dass diese Gleichung äquivalent ist zu $\bar{A}^tA={\mathbb I}_n$.
qed
Eine reelle (oder komplexe) $n\times n$-Matrix $A$ heißt orthogonal (oder unitär), wenn gilt $\bar{A}^tA={\mathbb
I}_n$. Orthogonale und unitäre $n\times n$-Matrizen bilden die Gruppen $O(n)$ und $U(n)$. Die Wahl einer geordneten Orthonormalbasis in einem $n$-dimensionalen Hilbertraum $V$ liefert nach obiger Bemerkung einen
Isomorphismus von Gruppen
\[O(V)\cong O(n)\,\,\,\text{beziehungsweise}\,\,\,U(V)\cong
U(n).\] Es gibt eine Inklusion $O(n)\subset U(n)$, da jede orthogonale Matrix auch unitär ist. Für die Determinante einer unitären Matrizen gilt
\[|\det(A)|^2=\overline{\det(A)}\det(A)=
\det(\bar{A}^t)\det(A)=\det(\bar{A}^tA)= \det({\mathbb
I}_n)=1.\] Die Untergruppen
\[SO(n):=\{A\in O(n)\,|\,\det(A)=1\}\,\,\,\text{und}\,\,\,
SU(n):=\{A\in U(n)\,|\,\det(A)=1\}\] heißen spezielle orthogonale und spezielle unitäre Gruppen.
Ein Endomorphismus ist genau dann eine Isometrie, wenn er Orthonormalbasen auf Orthonormalbasen abbildet. Insbesondere bilden die Spalten einer orthogonalen oder unitären Matrix selbst eine Orthonormalbasis bezüglich des Standardskalarproduktes. Schließlich sind diese Spalten die Bilder der Spalteneinheitsvektoren, die eine ONB bezüglich des Standardskalarproduktes bilden.
Ebenso bilden die Zeilen von orthogonalen oder unitären Matrizen Orthonormalbasen: Da $A$ invertierbar ist, gilt mit $\bar{A}^t=A^{-1}$ nach Transposition auch $\bar{A}A^t={\mathbb I}_n.$