Với a, b,c là độ dài 3 cạnh của 1 tam giác, đặt:
x=(b+c-a)/2; y=(a-b+c)/2; z=(a+b-c)/2 \Rightarrow x,y,z>0
\Rightarrow a=y+z, b=x+z , c=x+y
\Rightarrow a^2.b(a-b) +b^2.c(b-c) + c^2.a(c-a) = (y+a)^2.(x+z)(y-x) +(x+z)^2.(x+y)(z-y) +(x+y)^2.(y+z)(x-z)
Sau khi nhân tung vế phải rồi thu gọn (cái này bạn chịu khó), ta được:
VP= 2xyz(x^2 /y +y^2 /z +z^2 /x -x-y-z) (1)
Vì 2\leq \x/y + y/x \Rightarrow 2x\leq \x^2/y +y
Tương tự 2y\leq \y^2/z +z
2z\leq \z^2/x +x
\Rightarrow 2(x+y+z)\leqx^2 /y +y^2 /z +z^2 /x +x+y+z
\Rightarrow x^2 /y +y^2 /z +z^2 /x \geq x+y+z (2)
Từ (1) và (2) \Rightarrow biểu thúc đã cho \geq 0
Dấu = xảy ra \Leftrightarrow x=y=z \Leftrightarrow a=b=c