1. [tex]\left\{\begin{matrix} x^{2}+m^{2}=4 & \\ x^{2}+(5m+2)x+4m^{2}+2m < 0 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x^2=4-m^2\\ (x+m)(x+4m+2)< 0 \end{matrix}\right.\Rightarrow \left\{\begin{matrix} m\in [-2,2]\\ x^2=4-m^2\\ (x+m)(x+4m+2)< 0 \end{matrix}\right.[/tex]
Dễ thấy [tex]m=-\frac{2}{3}[/tex] thì hệ vô nghiệm.
Hệ vô nghiệm khi [tex]-\sqrt{4-m^2} \leq x_1 \leq x_2 \leq \sqrt{4-m^2}[/tex]
[tex]\Leftrightarrow \left\{\begin{matrix} f(\sqrt{4-m^2}) \geq 0\\ f(-\sqrt{4-m^2})\geq 0\\ x_1\leq 0\leq x_2 \end{matrix}\right.[/tex]
[tex]\Leftrightarrow \left\{\begin{matrix} 4-m^2+(5m+2)\sqrt{4-m^2}+4m^2+2m\geq 0\\ 4-m^2-(5m+2)\sqrt{4-m^2}+4m^2+2m\geq 0\\ 4m^2+2m\leq 0 \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} 3m^2+2m+4+(5m+2)\sqrt{4-m^2}\geq 0\\ 3m^2+2m+4-(5m+2)\sqrt{4-m^2}\geq 0\\ m\in [-\frac{1}{2},0] \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} (\sqrt{4-m^2}-m)(\sqrt{4-m^2}-4m-2)\geq 0\\ m\in [-\frac{1}{2},0] \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} \sqrt{4-m^2}\geq 4m+2\\ m\in [-\frac{1}{2},0] \end{matrix}\right.\Rightarrow \left\{\begin{matrix} 4-m^2\geq 16m^2+16m+4\\ m\in [-\frac{1}{2},0] \end{matrix}\right.\Rightarrow \left\{\begin{matrix} 17m^2+16m\leq 0\\ m\in [-\frac{1}{2},0] \end{matrix}\right.\Leftrightarrow m\in [-\frac{1}{2},0][/tex]
Từ đó [tex]m\in [-2,\frac{-1}{2})\cup (0,2]/{-\frac{2}{3}}[/tex]
2. [tex]\left\{\begin{matrix} x^{2}-(m+3)x+3m< 0 & \\ x^{2}+(m+9)x+9m<0 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} (x-3)(x-m)< 0\\ (x+m)(x+9)< 0 \end{matrix}\right.[/tex]
Dễ thấy [tex]m=3\cup m=-9[/tex] thì hệ vô nghiệm.
Xét các trường hợp:
+ [TEX]m< 3[/TEX]
[tex]\left\{\begin{matrix} x^{2}-(m+3)x+3m< 0 & \\ x^{2}+(m+9)x+9m<0 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x\in (m,3)\\ x\in (-9,-m) \end{matrix}\right.[/tex]
Để hệ có nghiệm thì [TEX]m<-m \Leftrightarrow m < 0[/TEX]
+ [tex]3 < m < 9[/tex]
[tex]\left\{\begin{matrix} x^{2}-(m+3)x+3m< 0 & \\ x^{2}+(m+9)x+9m<0 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x\in (3,m)\\ x\in (-9,-m) \end{matrix}\right.[/tex]
Để hệ có nghiệm thì [tex]-m> 3\Leftrightarrow m< -3[/tex](vô lí)
+ [tex]m > 9[/tex]
[tex]\left\{\begin{matrix} x^{2}-(m+3)x+3m< 0 & \\ x^{2}+(m+9)x+9m<0 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x\in (3,m)\\ x\in (-m,-9) \end{matrix}\right.[/tex]
Dễ thấy hệ vô nghiệm.
Vậy để hệ có nghiệm thì [tex]m < 0[/tex]