Ta có [tex](\sqrt{3}xy+y^{2})^{2}\leq (3x^{2}+y^{2})(y^{2}+y^{2})\leq \frac{9(x^{2}+y^{2})^{2}}{4}[/tex] MAX M=[tex]\frac{3}{2},x=\frac{1}{2},y=\frac{\sqrt{3}}{2}[/tex]
M=[tex](ax+\sqrt{3+a^{2}}y)^{2}-a^{2}(x^{2}+y^{2})\geq a^{2}[/tex] với [tex]a^{2}=\frac{-3+\sqrt{12}}{2}[/tex]
Dấu = khi [tex]a^{2}x^{2}=(3+a^{2})y^{2}[/tex] ....tự giải