sửa
Giả sử M(a,b,c)
--> [TEX]MA^2+MB^2=(a+2)^2+(b-1)^2+c^2+(a-1)^2+(b+3)^2+(c-2)^2=a^2+b^2+c^2+a+2b-2c+5=0[/TEX]
Mà M thuộc P --> [TEX]a+2b-2c-9=0[/TEX]
--> [TEX]MA^2+MB^2=a^2+b^2+c^2+14 \geq 14[/TEX] với mọi a,b,c
giải thế thì làm gì có dấu ''='' xảy ra theo bạn giải thì GTNN=14 khi M(0,0,0) nhưng lại không thuộc P.
ở đây mình nói ngắn gọn thôi nhé
gọi A',B' lần lượt là hình chiếu của A,B lên mawtl phẳng P
=>2 tam giác AA'M và BB'M vuông tại A' và B'
=> MA^2+MB^2=AA'^2+MA'^2+ BB'^2+ MB"^2
do AA' và BB' không đổi nên ta chỉ cân tìm GTNN MA'^2+MB'^2
ta luôn có.
MA'^2+MB'^2\geq(MA'+MB')^2/4 dấu ''='' xảy ra khi MA'=MB' (1)
mặt khác MA+MB\geq A'B' dấu ''='' xảy ra khi M thuôc A'B' (2)
từ (1) và (2) => M chính là trung điểm của A'B'. từ đây dễ tính được M