Bước đầu tiên là ta đi tìm điều kiện xác định: $x^2 - 2x - m > 0$
Để hàm số xác định trên $[2, 3]$ thì ta phải có $x^2 - 2x - m > 0, \forall x \in [2, 3]$
Xét tam thức bậc hai $f(x) = x^2 - 2x - m$.
- Nếu tam thức có $\Delta = 1 + m < 0$ tức $m < -1$ thì $x^2 - 2x - m > 0, \forall x \in \mathbb{R}$ luôn.
- Nếu tam thức có $\Delta = 0$ tức $m = -1$ thì $x^2 - 2x - m = (x - 1)^2 > 0, \forall x \in [2, 3]$ (dấu '=' xảy ra khi $x = 1$ ngoài đk rồi)
- Xét tam thức có $\Delta > 0$ tức $m > -1$, $f(x) = 0$ có hai nghiệm phân biệt $x_1$ và $x_2$. Để ý rằng, do tính chất đồ thị parabol nên bên ngoài đoạn $[x_1, x_2]$, $f(x) \geqslant 0$ và bên trong đoạn, $f(x) \leqslant 0$.
Nói cách khác, để thỏa đk để thì $[2, 3]$ không được giao với $[x_1, x_2]$. Tới đây ta chia trường hợp và sử dụng định lý về dấu của tam thức bậc hai:
- $x_1 < x_2 < 2$. Khi đó $\begin{cases} f(2) = -m > 0 \\ \dfrac{x_1 + x_2}2 = 1 < 2 \end{cases}$ hay $m < 0$.
- $3 < x_1 < x_2$. Khi đó $\begin{cases} f(3) = 3 - m > 0 \\ \dfrac{x_1 + x_2}2 = 1 > 3 \end{cases}$ vô lý rồi.
Vậy kết hợp các điều kiện lại, ta có $m < 0$ thỏa mãn bài toán.
Nếu không hiểu thì bạn hỏi lại nhé. Chúc bạn học tốt!
EDIT: À, một cách khác nữa: ycbt $\iff m < x^2 - 2x, \forall x \in [2, 3]$
Tới đây bạn có thể vẽ đồ thị hàm parabol ra trên $[2, 3]$ và lấy $m$ sao cho đường nằm ngang $y = m$ luôn nằm phía dưới đồ thị hàm parabol là được
