Vou seguir o procedimento apresentado nessa resposta.
1) Derive a função em relação a todas as coordenadas e iguale essas derivadas a zero:
\(\frac{\partial f(x,y)}{\partial x}=24x^2 + 2y-6x=0\), \(\frac{\partial f}{\partial y}=2x+2y=0\)
2) Encontre as soluções do sistema de equações:
Da segunda equação temos que \(y=-x\). Substituindo esse resultado na primeira equação chegamos a essas duas soluções:
\(0,0)\) e \((1/3,-1/3)\).
3) Calcule a matriz de segundas derivadas da função:
\[H=\frac{\partial^2 f}{\partial x^2}=\left[\begin{array}{cc} 48x-6 & 2 \\ 2 & 2\end{array} \right]\]
4) Substitua cada ponto encontrado no ítem (2) na matriz hessiana encontrada em (3) e teste para cada caso se a matriz é positiva definida, negativa definida ou indefinida.
\[H_{(0,0)}=\left[\begin{array}{cc} -6 & 2 \\ 2 & 2\end{array} \right]\]
com
\(|H_1|=-6\)
\(|H_2|=-16\)
que é um ponto de sela.
\[H_{(1/3,-1/3)}=\left[\begin{array}{cc} 10 & 2 \\ 2 & 2\end{array} \right]\]
\(|H_1|=10\)
\(|H_2|=16\)
que é um ponto de mínimo.