ĐKXĐ: [tex]\begin{bmatrix} x \leq -3 & \\x\geq 1 & \end{bmatrix}[/tex]
[tex](x^2-3x+2)\sqrt{\frac{x+3}{x-1}}=\frac{-x^3}{2}+\frac{15x}{2}-11[/tex]
[tex]\Leftrightarrow 2(x-1)(x-2)\sqrt{\frac{x+3}{x-1}}=-(x-2)(x^2+2x-11)[/tex]
[tex]\Leftrightarrow (x+2)[2(x-1)\sqrt{\frac{x+3}{x-1}}+x^2+2x-11]=0[/tex]
[tex]\Leftrightarrow \begin{bmatrix} x=2 & \\2(x-1)\sqrt{\frac{x+3}{x-1}}+x^2+2x-11=0 (I) & \end{bmatrix}[/tex]
[tex](I)\Leftrightarrow 2\sqrt{(x-1)(x+3)}+x^2+2x-11=0[/tex]
[tex]\Leftrightarrow \sqrt{x^2+2x-3}+x^2+2x-11=0[/tex]
Đặt [tex]\sqrt{x^2+2x-3}=a[/tex]
[tex](I)\Leftrightarrow a^2+2a-8=0[/tex]
[tex]\Leftrightarrow (a-2)(a+4)=0[/tex]
[tex]\Leftrightarrow \begin{bmatrix} a=2 (t/m)& \\a=-4 (kt/m) & \end{bmatrix}[/tex]
[tex]\Leftrightarrow \sqrt{x^2+2x-3}=2 \Leftrightarrow x=(-1-2\sqrt{2};-1+2\sqrt{2})[/tex]
Vậy tập nghiệm của phương trình là [tex]S=(2;-1-2\sqrt{2};-1+2\sqrt{2})[/tex]