Từ $x^2 + 4y^2 = 2$ Đặt $x = \sqrt{2}\cos u$ và $y=\dfrac{\sqrt{2}}{2}\sin u$ thay vào
$P= x^{3}+8y^{3}-3xy=2\sqrt{2}\cos^{3}u+2\sqrt{2}\sin^{3}u-3\sin u \cos u$ có chu kỳ $2\pi$
Khảo sát hàm số $f(u)=2\sqrt{2}\cos^{3}u+2\sqrt{2}\sin^{3}u-3\sin u \cos u$ trong khoảng $[-\pi,\pi]$
$f'(u)=-6\sqrt{2}\cos^{2} u\sin u+6\sqrt{2}\sin^{2}u \cos u-3(\cos^2 u -\sin^2 u)$
$f'(u)=3(\sin u - \cos u)(2\sqrt{2} \sin u\cos u + \cos u + \sin u)$
$f'(u) = 0$ \Leftrightarrow $\sin u - \cos u = 0$ hoặc $2\sqrt{2} \sin u\cos u + \cos u + \sin u = 0$
1. $\sin u - \cos u = 0$ \Leftrightarrow $u = \dfrac{\pi}{4}$ hoặc $u = -\dfrac{\pi}{4}$
2. $2\sqrt{2} \sin u\cos u + \cos u + \sin u = 0$
Đặt $t = \cos u + \sin u$ \Rightarrow $\sin u\cos u = \dfrac{t^2-1}{2}$ thay vào
$\sqrt{2}(t^2-1)+t=0$ \Leftrightarrow $t= \dfrac{1}{\sqrt{2}}$ hoặc $t= -\sqrt{2}$
* $\sin u + \cos u = \dfrac{1}{\sqrt{2}}$ \Leftrightarrow $u = \dfrac{7\pi}{12}$ hoặc $u = -\dfrac{\pi}{12}$
* $\sin u + \cos u = -\sqrt{2}$ \Leftrightarrow $u = -\dfrac{3\pi}{4}$
Lập bảng biến thiên thu được
$f(u)_{max} = \dfrac{13}{4}$ tại $u = \dfrac{7\pi}{12} + 2k\pi$ hoặc $u = -\dfrac{\pi}{12} + 2k\pi$
$f(u)_{min} = -\dfrac{7}{2}$ tại $u = -\dfrac{3\pi}{4} + 2k\pi$
Từ đó tính ngược lại tìm x và y