Đặt [TEX]t=cotx \in [0,1][/TEX]
Vì [TEX]cotx[/TEX] nghịch biến trên [tex][\frac{\pi}{4},\frac{\pi}{2}][/tex] nên ta cần tìm m sao cho [TEX]y=f(t)[/TEX] đồng biến trên [TEX][0,1][/TEX]
[tex]y=\frac{t^2-2mt+2m^2-1}{t-m}\Rightarrow y'=-\frac{t^2-2mt+1}{(t-m)^2}[/tex]
[TEX]f(t)[/TEX] đồng biến khi [TEX]t^2-2mt+1 < 0 (1)[/TEX] với [TEX]t \in [0,1][/TEX]
Dễ thấy nếu t = 0 thì (1) không thỏa mãn nên không tồn tại giá trị của m, hay C là đáp án đúng.