Deux vecteurs sont dits orthogonaux si leurs directions sont perpendiculaires.

Exemple : Sur le schéma ci-dessous, \overrightarrow{\mathrm{AB}} est un représentant du vecteur \vec{u} et \overrightarrow{\mathrm{AC}} est un représentant du vecteur \vec{v}. Comme les droites \text{(AB)} et \text{(AC)} sont perpendiculaires, les vecteurs \vec{u} et \vec{v} sont orthogonaux.

Deux vecteurs non nuls sont orthogonaux si, et seulement si, \vec{u} \cdot \vec{v}=0.

Remarque : \overrightarrow{0} est orthogonal à tout vecteur.

Exemple : Soit \vec{u} et \vec{v} deux vecteurs tels que \|\vec{u}\|=3, \|\vec{v}\|=4 et \|\vec{u}+\vec{v}\|=5.
\vec{u} \cdot \vec{v}=\frac{1}{2}\left(5^{2}-4^{2}-3^{2}\right)=\frac{1}{2}(25-16-9)=0. Donc \vec{u} et \vec{v} sont orthogonaux.

On peut conjecturer que \text{ABC} est rectangle en \text{A.}
\overrightarrow{\mathrm{AB}} et \overrightarrow{\mathrm{AC}} ont pour coordonnées \left(\begin{array}{l} 0{,}5-1 \\ -2-1 \end{array}\right) et \left(\begin{array}{l} -8-1 \\ 2{,}5-1 \end{array}\right), soit \overrightarrow{\mathrm{AB}}\left(\begin{array}{c} -0{,}5 \\ -3 \end{array}\right) et \overrightarrow{\mathrm{AC}}\left(\begin{array}{c} -9 \\ 1{,}5 \end{array}\right).

Donc \overrightarrow{\mathrm{AB}} \cdot \overrightarrow{\mathrm{AC}}=-0{,}5 \times(-9)+(-3) \times 1{,}5=4{,}5-4{,}5=0.
Ainsi \overrightarrow{\mathrm{AB}} et \overrightarrow{\mathrm{AC}} sont orthogonaux et donc \text{ABC} est rectangle en \text{A.}