Ta thấy: Đỉnh đồ thị là [tex]-\frac{b}{2a}=2\Rightarrow b=-4a[/tex]
Lại có: Đồ thị đi qua (0,3) và (3,0) [tex]\Rightarrow \left\{\begin{matrix} a.0^2-4a.0+c=3\\ a.3^2-4a.3+c=0 \end{matrix}\right.\Rightarrow \left\{\begin{matrix} a=1\\ c=3 \end{matrix}\right.[/tex]
Quay lại phương trình. Ta có: [tex]f^2(|x|)+(m-2)f(|x|)+(m-3)=0\Leftrightarrow (f(|x|)-1)(f(|x|)+3-m)=0 \Leftrightarrow (x^2-4|x|+2)(x^2-4|x|+6-m)=0[/tex]
Dễ thấy phương trình [TEX]x^2-4|x|+2=0[/TEX] có 4 nghiệm.
Từ đó ta cần tìm m để [TEX]x^2-4|x|+6-m=0(1)[/TEX] có 2 nghiệm.
Đặt [TEX]t=|x| [/TEX]. Phương trình trở thành [TEX]t^2-4t+6-m=0(2)[/TEX]
+ Nếu t > 0 thì ta nhận 2 giá trị của x.
+ Nếu t = 0 thì ta nhận 1 giá trị của x.
+ Nếu t < 0 thì ta nhận 0 giá trị của x.
Từ đó để phương trình (1) có 2 nghiệm khi (2) có 2 nghiệm trái dấu hay 2 nghiệm kép bằng 0.
Dễ thấy trường hợp 2 bị loại.
(2) có 2 nghiệm trái dấu khi [TEX]1.(6-m)<0 \Leftrightarrow m > 6[/TEX]