[tex]y=\frac{x^{2} -(m+1)x-m^{2}+4m-2}{x-1}\\y'=\frac{x^2-2x+m^2-3m+3}{(x-1)^2}\\y'=0\Leftrightarrow x^2-2x+m^2-3m+3=0[/tex]
Để hàm có cực đại, cực tiểu thì: $ x^2-2x+m^2-3m+3=0$ phải có 2 nghiệm phân biệt hay:
$\Delta'>0 \Leftrightarrow -m^2+3m-2>0 \Leftrightarrow 1<m<2$ (*)
Gọi $x_1;x_2$ là 2 nghiệm của PT, theo định lí Viète:
[tex]\left\{\begin{matrix} & x_1+x_2=2 & \\ & x_1.x_2=m^2-3m+3 & \end{matrix}\right.[/tex]
Tích giá trị cực đại, cực tiểu:
[tex]y_{x_1}.y_{x_2}=\frac{x^{2}_1 -(m+1)x_1-m^{2}+4m-2}{x_1-1}.\frac{x^{2}_2 -(m+1)x_2-m^{2}+4m-2}{x_2-1}\\\Leftrightarrow y_{x_1}.y_{x_2}=\frac{(x_1-mx_1-2m^2+7m-5)(x_2-mx_2-2m^2+7m-5)}{(x_1-1)(x_2-1)}\\\Leftrightarrow y_{x_1}.y_{x_2}=\frac{(m-1)^2(-2m+5-x_1)(-2m+5-x_2)}{x_1x_2-(x_1+x_2)+1}\\\Leftrightarrow y_{x_1}.y_{x_2}=\frac{(m-1)^2((5-2m)^2-(x_1+x_2)(5-2m)+x_1x_2)}{m^2-3m+2}\\\Leftrightarrow y_{x_1}.y_{x_2}=\frac{(m-1)^2(4m^2-20m+25-10+4m+m^2-3m+3)}{(m-1)(m-2)}\\\Leftrightarrow y_{x_1}.y_{x_2}=\frac{(m-1)^2(5m^2-19m+18)}{(m-1)(m-2)}\\\Leftrightarrow y_{x_1}.y_{x_2}=\frac{(m-1)^2(m-2)(5m-9)}{(m-1)(m-2)}\\\Leftrightarrow y_{x_1}.y_{x_2}=(m-1)(5m-9)\\\Leftrightarrow y_{x_1}.y_{x_2}=5m^2-14m+9=5(m-\frac{7}{5})^2-\frac{4}{5} \geq -\frac{4}{5}[/tex]
Dấu "=" xảy ra khi $m= \frac{7}{5}$ thoả mãn (*)