La idea del método de Gauss es la siguiente. Dado un sistema de ecuaciones creamos un sistema equivalente que sea escalonado y nos permita así una fácil resolución del mismo. El método de Gauss propiamente es el camino que seguiremos para la obtención de dicho sistema equivalente.
Sea el sistema: $$$\left\{ \begin{array}{c} 3x+2y+z=1 \\ 5x+3y+4z=2 \\ x+y-z=1 \end{array} \right.$$$
El primer paso es escribir dicho sistema en forma matricial. Véase que matricialmente representamos los coeficientes y los términos independientes. $$$\begin{pmatrix} 3 & 2 & 1 & |1 \\ 5 & 3 & 4 & |2 \\ 1 & 1 & -1 & |1 \end{pmatrix}$$$
Utilizando las reglas ya conocidas debemos conseguir un sistema escalonado, que tendrá el siguiente aspecto: $$$\begin{pmatrix} a_{11} & a_{12} & a_{13} & |b_1 \\ \fbox{} & a_{22} & a_{23} & |b_2 \\ \fbox{} & \fbox{} & a_{33} & |b_3 \end{pmatrix}$$$ Veámoslo $$$\begin{pmatrix} 3 & 2 & 1 & |1 \\ 5 & 3 & 4 & |2 \\ 1 & 1 & -1 & |1 \end{pmatrix}\rightarrow (f3\leftrightarrow f1) \rightarrow \begin{pmatrix} 1 & 1 & -1 & |1 \\ 3 & 2 & 1 & |1 \\ 5 & 3 & 4 & |2 \end{pmatrix}\rightarrow \left\{ \begin{array}{c} f2-3f1 \\ f3-5f1 \end{array} \right.$$$ $$$\rightarrow \begin{pmatrix} 1 & 1 & -1 & | & 1 \\ 0 & -1 & 4 & | & -2 \\ 0 & -2 & 9 & | & -3 \end{pmatrix} \rightarrow f3-2f2 \rightarrow \begin{pmatrix} 1 & 1 & -1 & | & 1 \\ 0 & -1 & 4 & | & -2 \\ 0 & 0 & 1 & | & 1 \end{pmatrix}$$$ Este sistema ya es escalonado, con lo cual uno puede resolverlo. Así pues el sistema ha quedado como sigue: $$$\left\{ \begin{array}{c} x+y-z=1 \\ -y+4z=-2 \\ z=1 \end{array} \right.$$$ Cuya solución es: $$$z=1 \\ y=6 \\ x=-4$$$ Por lo tanto este es un sistema compatible determinado.
Sea ahora el sistema $$$\left\{ \begin{array}{c} 2x-5y+4z+u-v=-3 \\ x-2y+z-u+v=5 \\ x-4y+6z+2+v=10 \end{array} \right.$$$
Que reescribimos $$$\begin{pmatrix} 2 & -5 & 4 & 1 & -1 & | & -3 \\ 1 & -2 & 1 & -1 & 1 &| & 5 \\ 1 & -4 & 6 & 2 & 1 & | & 10 \end{pmatrix}$$$
Uno hace los siguientes pasos: $$$\begin{pmatrix} 2 & -5 & 4 & 1 & -1 & | & -3 \\ 1 & -2 & 1 & -1 & 1 &| & 5 \\ 1 & -4 & 6 & 2 & 1 & | & 10 \end{pmatrix} \rightarrow (f2\leftrightarrow f1) \rightarrow$$$ $$$\begin{pmatrix} 1 & -2 & 1 & -1 & 1 & | & 5 \\ 2 & -5 & 4 & 1 & -1 &| & -3 \\ 1 & -4 & 6 & 2 & 1 & | & 10 \end{pmatrix}\rightarrow \left\{ \begin{array}{c} f2-2f1 \\ f3-f1 \end{array} \right. \rightarrow$$$ $$$\begin{pmatrix} 1 & -2 & 1 & -1 & 1 & | & 5 \\ 2 & -5 & 4 & 1 & -1 &| & -3 \\ 1 & -4 & 6 & 2 & 1 & | & 10 \end{pmatrix} \rightarrow f3-2f2 \rightarrow$$$ $$$\rightarrow \begin{pmatrix} 1 & -2 & 1 & -1 & 1 & | & 5 \\ 0 & -1 & 2 & 3 & -3 &| & -13 \\ 0 & 0 & 1 & -3 & 6 & | & 31 \end{pmatrix}$$$
y obtiene $$z-3u+6v=31$$.
En este caso damos valores cualquiera a $$u$$ y $$v$$ y luego se hallan los valores correspondientes de $$z$$, $$y$$ e $$x$$, todos ellos en función de $$u$$ y $$v$$. Se trata de un sistema compatible indeterminado.
Finalmente veamos un ejemplo de sistema indeterminado $$$\left\{ \begin{array}{c} x+y-z=1 \\ 3x+2y+z=1 \\ 5x+3y+4z=2 \\ -2x-y+5z=6 \end{array} \right.$$$ Que se reescribe: $$$\begin{pmatrix} 1 & 1 & -1 & |1 \\ 3 & 2 & 1 & |1 \\ 5 & 3 & 4 & |2 \\ -2 & -1 & 5 & |6 \end{pmatrix}$$$ Y se hacen los siguientes pasos: $$$\begin{pmatrix} 1 & 1 & -1 & |1 \\ 3 & 2 & 1 & |1 \\ 5 & 3 & 4 & |2 \\ -2 & -1 & 5 & |6 \end{pmatrix} \rightarrow \left\{ \begin{array}{c} f2-3f1 \\ f3-5f1 \\ f4+2f1 \end{array} \right. \rightarrow \begin{pmatrix} 1 & 1 & -1 & | & 1 \\ 0 & -1 & 4 & | & -2 \\ 0 & -2 & 9 & | & -3 \\ 0 & 1 & 3 & | & 8 \end{pmatrix} \rightarrow $$$ $$$\left\{ \begin{array}{c} f3-2f2 \\ f4+f2 \end{array} \right. \rightarrow \begin{pmatrix} 1 & 1 & -1 & | & 1 \\ 0 & -1 & 4 & | & -2 \\ 0 & 0 & 1 & | & 1 \\ 0 & 0 & 7 & | & 6 \end{pmatrix} \rightarrow f4-7f3 \rightarrow$$$ $$$ \begin{pmatrix} 1 & 1 & -1 & | & 1 \\ 0 & -1 & 4 & | & -2 \\ 0 & 0 & 1 & | & 1 \\ 0 & 0 & 0 & | & -1 \end{pmatrix}$$$
Para ver una incompatibilidad: $$0=-1$$.
Este sistema es pues incompatible.
Sistemas homogéneos
Si un sistema de $$m$$ ecuaciones y $$n$$ incógnitas tiene todos los términos independientes nulos se dice que es homogéneo.
Sólo admite la solución trivial: $$$x_1=x_2=\ldots=x_n=0$$$
La condición necesaria y suficiente para que un sistema homogéneo tenga soluciones distintas de la trivial es que el rango de la matriz de los coeficientes sea menor que el número de incógnitas, o dicho de otra forma, que el determinante de la matriz de los coeficientes sea nulo. Por lo tanto, para resolver un sistema homogéneo deberemos imponer que el determinante no sea cero para ver que su solución no es la trivial.