Ta có: [tex]y'=3x^2-2mx-1[/tex], hàm số nghịch biến trên (1;2) thì y'< 0 khi x thuộc (1,2)
[tex]y'<0\Leftrightarrow 3x^2-2mx-1<0\Leftrightarrow 3x^2-1<2mx\Leftrightarrow \frac{3x^2-1}{2x}<m[/tex]
Ta có: max([tex]\frac{3x^2-1}{2x}[/tex]) khi x thuộc [1;2] bằng [tex]\frac{11}{4}[/tex].
Vậy để hàm số nghịch biến trên (1;2) thì [tex]m\geq \frac{11}{4}[/tex]