Dễ thấy vì [TEX]x^2+y^6 \ge 0[/TEX]; [TEX]\sqrt[5]{x^2-2x+33}>0[/TEX] nên [TEX]x^6+2xy \ge 0[/TEX]
Do đó[TEX] \frac{x^6+2xy}{\sqrt[5]{x^2-2x+33}}=\frac{x^6+ 2xy}{\sqrt[5]{(x-1)^2+32}} \le \frac{x^6+ 2xy}{2}[/TEX]
[TEX]\Leftrightarrow x^6+2xy \ge \frac{2(x^6+2xy)}{\sqrt[5]{x^2-2x+33}}= 2(x^2+y^6)[/TEX]
Tương tự, ta có: [TEX]y^6+2xy \ge 2(y^2+x^6)[/TEX]
Từ đó, ta được [TEX]x^6+y^6+4xy \ge 2(x^6+y^6) + 2(x^2+y^2)[/TEX]
[TEX]\Leftrightarrow x^6+y^6+2(x-y)^2 \le 0[/TEX]
[TEX]\Leftrightarrow x=y=0[/TEX]
Vậy hệ phương trình có nghiệm [TEX]x=y=0[/TEX]