1. pt 2 $\iff x^2+y^2+x+y+xy=2$
$\iff xy = -2$
$\iff y = -\dfrac{2}x$ (do $x \ne 0$)
Thay lên pt 1: $x^2 + \dfrac{4}x^2 + x - \dfrac{2}x = 4$
$\iff x^4 + x^3 - 4x^2 - 2x + 4 = 0$
$\iff x = 1 \vee x = -2 \vee x = \pm \sqrt{2}$
Bạn tự giải ra $y$ nhé
2a. Đặt $\sqrt{x-2} = a$ thì $f(x) = f(a) = a^2 - a - (m-1)^2$
Do $\Delta_a = 1 + 4(m-1)^2 > 0$ nên pt luôn có hai nghiệm $a_1$ và $a_2$. Mà $a_1 + a_2 = 1 > 0$ và $a_1 \cdot a_2 = -(m-1)^2 \leqslant 0$ nên pt có hai nghiệm trái dấu, do đó $f(a) = 0$ luôn có 1 nghiệm $a$ dương, suy ra $f(x) = 0$ luôn có nghiệm với mọi $m$
b. ĐK: $m \geqslant 2$
$f(m) = -\sqrt{m-2} - m^2+3m - 3 < -1 \iff (m-2)(m-1) > -\sqrt{m-2}$. Với $m > 2$ thì $VT \geqslant 0 \geqslant VP$, do đó ta chỉ cần $VT \ne VP$ hay $m \ne 2$
Vậy $m > 2$
3. Nhân chéo ta suy ra $20xy(x^2-y^2) = 3xy(x^2+y^2)$...