[tex]y'=x^{2}+2mx+m^{2}-2m-3[/tex]
Có [tex]\bigtriangleup '=2m+3[/tex]
Xét 2 trường hợp
+ [tex]TH1:\bigtriangleup' \leq 0[/tex]
Có [tex]\left\{\begin{matrix} a=1> 0& \\ \bigtriangleup '=2m+3\leq 0 & \end{matrix}\right.\Rightarrow m\leq -\frac{3}{2}[/tex]
Lúc này $y$ đồng biến [tex]\forall x\in R[/tex]
=> Thỏa mãn ĐK đồng biến trên [tex](0,+\infty )[/tex]
+ [tex]TH2:\bigtriangleup '> 0[/tex]
[tex]\bigtriangleup '> 0\Rightarrow y'=0[/tex] có 2 nghiệm phân biệt [tex]x_{1},x_{2}[/tex][tex](x_{1}< x_{2})[/tex]
Theo ycbt [tex]\Rightarrow \left\{\begin{matrix} \bigtriangleup '> 0& \\ x_{2} < 0& \end{matrix}\right.\Rightarrow \left\{\begin{matrix} m> -\frac{3}{2} & \\ -m+\sqrt{2m+3} > 0& \end{matrix}\right.[/tex]
[tex]\Rightarrow m> -\frac{3}{2}[/tex] và [tex]m > 3[/tex] hoặc $m<-1$
Kết hợp TH1 với TH2 $=>m<-1$ hoặc $m>3$
Bạn sửa lại cho mình chút đoạn trên [tex]x_{2}\leq 0[/tex] nhé
[TEX]f'(x)=x^2+2mx+(m^2-2m-3)>0 \forall x > 0 \Leftrightarrow f(0)>0, f(-m)>0[/TEX]
Chị sửa một chút: [tex]f'(0)\geq 0, f'(-m)\geq 0[/tex]