Gợi ý:
Xét biểu thức:
$$B=\dfrac{A}{4}=\dfrac{2x^2-xy-y^2}{x^2+2xy+3y^2}$$
-Với $y=0$ thì ...
-Với $y\ne 0$ thì chia cả tử và mẫu của $B$ cho $y^2$, ta có:
$$B=\dfrac{2\dfrac{x^2}{y^2}-\dfrac{x}{y}-1}{\dfrac{x^2}{y^2}+2\dfrac{x}{y}+3}\\ =\dfrac{2t^2-t-1}{t^2+2t+3}$$
Với $t=\dfrac{x}{y}$
Đến đây dùng pp miền giá trị để đánh giá $max,min B$, từ đó suy ra $max,min A$