Vou seguir o procedimento apresentado nessa resposta.
1) Derive a função em relação a todas as coordenadas:
\(\frac{\partial f(x_1,x_2)}{\partial x_1}=4x_1-4\), \(\frac{\partial f}{\partial x_2}=-2x_2+8\)
2) Iguale a zero as derivadas:
\(\frac{\partial f(x_1,x_2)}{\partial x_1}=4x_1-4=0\), \(\frac{\partial f}{\partial x_2}=-2x_2+8=0\)
3) Encontre as soluções do sistema de equações:
\(x_1=1\) e \(x_2=4\).
4) Calcule a matriz de segundas derivadas da função:
\[H=\frac{\partial^2 f}{\partial x^2}=\left[\begin{array}{cc} 4 & 0 \\ 0 & -2\end{array} \right]\]
5) Substitua cada ponto encontrado no ítem (3) na matriz hessiana encontrada em (4) e teste para cada caso se a matriz é positiva definida, negativa definida ou indefinida.
Note que
\(|H_1|=4\)
\[|H_2|=\left|\begin{array}{cc} 4 & 0 \\ 0 & -2\\\end{array} \right|=-8\]
Logo, a matriz nem é positiva nem negativa definida implicando que o único ponto crítico da função é ponto de sela.