a, $A=(x^{2}+y^{2})(x^{4}-x^{2}y^{2}+y^{4})=(x^{4}+2x^{2}y^{2}+y^{4})-3x^{2}y^{2}=(x^{2}+y^{2})^{2}-3x^{2}y^{2}$
$=1-3x^{2}y^{2}\leq 1$
Dấu "=" xảy ra$\Leftrightarrow x=0, y=1$ hoặc ngược lại.
b, Áp dụng AM-GM ta có:
$A=x^{2}-4xy+4y^{2}+\dfrac{x}{2}+\dfrac{2}{x}+3=(x-2y)^{2}+\left (...