Đặt x=a+1,y=b+1,z=c+1 thì 0 \leq x,y,z \leq 4 và x+y+z=a+b+c+3=7.
Ta có: a^2+b^2+c^2=(x-1)^2+(y-1)^2+(z-1)^2=x^2+y^2+z^2-2(x+y+z)+3=x^2+y^2+z^2-11
Từ đó ta cần tìm \max x^2+y^2+z^2.
Không mất tính tổng quát, giả sử 0 \leq x \leq y \leq z \leq 4.
Khi đó xy \geq 0.
Ta có x^2+y^2+z^2 \leq...