Nếu $M$ là trung điểm $BC$ thì $BM^2 = \frac14 BC^2$, và rõ ràng $\frac14 BC^2 \ne BC^2 - \frac{3}4 AC^2$ (tương đương $AC = BC$)
Chắc đề là: $M$ là trung điểm $AC$. Khi đó thì: $$BM^2 = BA^2 + AM^2 = (BC^2 - AC^2) + \frac{1}4 AC^2 = BC^2 - \frac{3}4 AC^2$$