[tex]\left\{\begin{matrix} x_1+x_2=m-1\\ x_1x_2=-m^2+m-2 \end{matrix}\right.[/tex]
[tex](\frac{x_1}{x_2})^3+(\frac{x_2}{x_1})^3=(\frac{x_1}{x_2}+\frac{x_2}{x_1})(\frac{x_1^2}{x_2^2}+1+\frac{x_2^2}{x_1^2})=(\frac{(x_1+x_2)^2}{x_1x_2}-2)(\frac{(x_1^2+x_2^2)^2}{x_1^2x_2^2}-1)=(\frac{(x_1+x_2)^2}{x_1x_2}-2)[(\frac{x_1^2+x_2^2}{x_1x_2})^2-1]=(\frac{(x_1+x_2)^2}{x_1x_2}-2)(\frac{x_1^2+x_2^2}{x_1x_2}-1)(\frac{(x_1+x_2)^2}{x_1x_2}+1)[/tex]
Đặt [TEX]\frac{(x_1+x_2)^2}{x_1x_2}=t[/TEX] \Rightarrow [tex]A=(t-2)(t-1)(t+1)=(t-2)(t^2-1)=t^3-2t^2-t+2[/tex]
Ta có:[tex]-\frac{8}{7} \leq t=\frac{(x_1+x_2)^2}{x_1x_2}=\frac{m^2-2m+1}{-m^2+m-2} \leq 0[/tex](chứng minh được)
Tới đây thì khó rồi. Max bài này lẻ nên khó tìm lắm. A còn là bậc 3 cơ.