bài giải như sau:
[TEX]x^{2}y + y^{2}x + xy = x^{2} + y^{2}[/TEX]
\Leftrightarrow [TEX]x^{2}(y-1) + x(y^{2} + y) - y^{2} = 0[/TEX]
để có được x, y \Rightarrow phương trình phải có nghiệm
\Rightarrow [tex]\large\Delta[/tex] \geq 0
\Rightarrow [TEX](y^{2} + y)^{2} + 4y^{2}(y-1) \geq 0[/TEX]
\Leftrightarrow [TEX]y^4 + 6y^3 - 3y^2 \geq 0[/TEX]
\Leftrightarrow [TEX]y^{2}(y^{2} + 6y - 3) \geq 0[/TEX]
\Leftrightarrow [TEX]y^{2} + 6y - 3 \geq 0[/TEX]
lập bảng xét dấu:
\Rightarrow [TEX]y \in \ ( -3 - \sqrt{12}, -3 + \sqrt{12})[/TEX]
\Rightarrow x thuộc ...
\Rightarrow xy thuộc ...
\Rightarrow GTLN
bài này ko thấy ai trả lời, mình thử có ý tưởng thế này, không biết sai ở đâu ^^