Đặt [imath]x=a+1,y=b+1,z=c+1[/imath] thì [imath]0 \leq x,y,z \leq 4[/imath] và [imath]x+y+z=a+b+c+3=7[/imath].
Ta có: [imath]a^2+b^2+c^2=(x-1)^2+(y-1)^2+(z-1)^2=x^2+y^2+z^2-2(x+y+z)+3=x^2+y^2+z^2-11[/imath]
Từ đó ta cần tìm [imath]\max x^2+y^2+z^2[/imath].
Không mất tính tổng quát, giả sử [imath]0 \leq x \leq y \leq z \leq 4[/imath].
Khi đó [imath]xy \geq 0[/imath].
Ta có [imath]x^2+y^2+z^2 \leq (x+y)^2+z^2=(7-z)^2+z^2=2z^2-14z+49=2(z-4)(z-3)+25[/imath]
Nếu [imath]3 \leq z \leq 4[/imath] thì [imath]x^2+y^2+z^2 \leq 25[/imath].
Nếu [imath]z \leq 3[/imath].
Khi đó vì [imath]z \geq y \geq x[/imath] nên [imath]7=x+y+z \leq 3z \Rightarrow z \geq \dfrac{7}{3}[/imath]
Từ đó [imath]4 \leq x+y \leq \dfrac{14}{3}[/imath].
Vì [imath]y \leq z \leq 3[/imath] và [imath]x+y \geq 4[/imath] nên [imath]x \geq 1[/imath].
Suy ra [imath]1 \leq x \leq y \leq 3[/imath].
[imath]\Rightarrow \begin{cases} (x-1)(x-3) \leq 0 \\ (y-1)(y-3) \leq 0 \end{cases}[/imath]
[imath]\Rightarrow \begin{cases} x^2 \leq 4x-3 \\ y^2 \leq 4y-3 \end{cases}[/imath]
[imath]\Rightarrow x^2+y^2 \leq 4(x+y)-6 \leq \dfrac{56}{3}-6=\dfrac{38}{3}<16[/imath]
Mặt khác, [imath]z \leq 3 \Rightarrow z^2 \leq 9 \Rightarrow x^2+y^2+z^2<16+9=25[/imath].
Từ đó [imath]\max x^2+y^2+z^2=25[/imath] nên [imath]\max a^2+b^2+c^2=25-11=14[/imath].
Dấu "=" xảy ra chẳng hạn khi [imath]a=-1,b=2,c=3[/imath].
Nếu còn thắc mắc chỗ nào bạn hãy trả lời dưới topic này để được hỗ trợ nhé. Chúc bạn học tốt ^^
Ngoài ra, bạn tham khảo kiến thức tại topic này nha
[Lý thuyết] Chuyên đề HSG : Bất đẳng thức