6. Để giá trị lớn nhất của [tex]|\frac{x^2-mx+1}{x^2-2x+2}|[/tex] bằng 3 thì [tex]\frac{x^2-mx+1}{x^2-2x+2} \in [-3,3][/tex]
Đặt [tex]\frac{x^2-mx+1}{x^2-2x+2}=t \Rightarrow x^2-mx+1=tx^2-2tx+2t\Leftrightarrow (t-1)x^2+(m-2t)x+2t-1=0[/tex]
Để tồn tại x thì [tex] \Delta = (m-2t)^2-4(t-1)(2t-1) \geq 0 \Leftrightarrow -4t^2+(12-4m)t+m^2-4 \geq 0[/tex]
Ta có tập giá trị của t là tập con của [TEX][-3,3][/TEX] nên ta phải tìm m sao cho [TEX]-4t^2+(12-4m)t+m^2-4 < 0[/TEX] với mọi [TEX]t \in \mathbb{R}/[-3,3][/TEX]
Khi đó [TEX]f(t)=-4t^2+(12-4m)t+m^2-4 \geq 0[/TEX] phải có nghiệm nên [TEX]-3 \leq \frac{3-m}{2} \leq 3[/TEX] và [TEX]f(-3),f(3) \leq 0[/TEX]