Biến đổi hệ thức ta được: [tex]MA^2+MB^2-2\overrightarrow{MA}.\overrightarrow{MB}=\overrightarrow{MA}.\overrightarrow{MB}<=>(\overrightarrow{MA}-\overrightarrow{MB})^2=\overrightarrow{MA}.\overrightarrow{MB}<=>AB^2=\overrightarrow{MA}.\overrightarrow{MB}[/tex]
Gọi I là trung điểm AB, ta có :[tex]\overrightarrow{MA}.\overrightarrow{MB}=(\overrightarrow{MI}+\overrightarrow{IA})(\overrightarrow{MI}+\overrightarrow{IB})=MI^2-IA.IB=MI^2-\frac{AB^2}{4}[/tex]
=> [tex]MI^2=\frac{5AB^2}{4}[/tex]. Vậy tập hợp điểm M là đường tròn tâm I, bán kính [tex]\frac{5AB^2}{4}[/tex]