Đặt [imath]a=x+y \Rightarrow xy = \dfrac{(x+y)^2 - x^2-y^2}{2} = \dfrac{a^2}{2} - 1[/imath]
Lại có: [imath]2(x^2+y^2) \geq (x+y)^2 \Rightarrow -2 \leq a \leq 2[/imath]
Ta có:
[imath]P = 2(x+y)^3 - 6xy(x+y) - 3xy = 2a^3 - 6a ( \dfrac{a^2}{2} - 1 ) - 3 ( \dfrac{a^2}{2} - 1 ) = -a^3 - \dfrac{3}{2}a^2 +6a+3[/imath]
Xét: [imath]P' = -3a^2 - 3a + 6 = 0 \Rightarrow a=-2[/imath] hoặc a=1$
Vẽ bảng biến thiên, ta có:
[imath]\min P = -7[/imath] tại [imath]a=-2[/imath] (thỏa mãn)
[imath]\max P = \dfrac{13}{2}[/imath] tại [imath]a=1[/imath] (thỏa mãn)
Vậy [imath]M + m = \dfrac{-1}{2}[/imath]
Ngoài ra mời bạn tham khảo thêm tại: Hàm số và ứng dụng của đạo hàm