Ta có: [tex]ab\leq \frac{a^2+b^2}{2}\Rightarrow \frac{1}{4-ab}\leq \frac{1}{4-\frac{a^2+b^2}{2}}\leq \frac{2}{8-(a^2+b^2)}[/tex]
Đặt [tex]x=b^2+c^2,y=a^2+c^2,z=a^2+b^2\Rightarrow \frac{1}{4-ab}+\frac{1}{4-bc}+\frac{1}{4-ca}\leq \frac{2}{8-(a^2+b^2)}+\frac{2}{8-(b^2+c^2)}+\frac{2}{8-(c^2+a^2)}\leq \frac{2}{8-x}+\frac{2}{8-y}+\frac{2}{8-z}[/tex]
Lại có: [tex]x^2+y^2+z^2=(a^2+b^2)^2+(b^2+c^2)^2+(c^2+a^2)^2\leq 2(a^4+b^4)+2(b^4+c^4)+2(c^4+a^4)=12\Rightarrow \left\{\begin{matrix} 0< x,y,z< 4\\ x^2+y^2+z^2\leq 12 \end{matrix}\right.[/tex]
Sử dụng phương pháp U.C.T. Ta sẽ chứng minh [tex]\frac{2}{8-x}\leq mx^2+n[/tex]
Tương tự cộng vế theo vế ta có [tex]\frac{2}{8-x}+\frac{2}{8-y}+\frac{2}{8-z}\leq m(x^2+y^2+z^2)+3n\leq 12m+3n[/tex]
Ta đi tìm m,n sao cho [tex]12m+3n=1\Leftrightarrow n=\frac{1}{3}-4m[/tex]
Vậy ta tìm m sao cho [tex]\frac{2}{8-x}\leq mx^2+\frac{1}{3}-4m\Leftrightarrow 2\leq (mx^2+\frac{1}{3}-4m)(8-x)=-mx^3+8mx^2-(\frac{1}{3}-4m)x+\frac{8}{3}-32m\Leftrightarrow -mx^3+8mx^2-(\frac{1}{3}-4m)x+\frac{2}{3}-32m\geq 0\Leftrightarrow (x-2)(-mx^2+6mx-\frac{1}{3}+16m)\geq 0[/tex]
Bây giờ ta tìm m sao cho [TEX]-mx^2+6mx-\frac{1}{3}+16m[/TEX] có nhân tử [TEX]x-2[/TEX]. Thay x = 2 ta có:
[tex]-4m+12m-\frac{1}{3}+16m=0\Leftrightarrow 24m=\frac{1}{3}\Leftrightarrow m=\frac{1}{72}[/tex]
Giờ chỉ cần chứng minh BĐT phụ sau là được: [tex]\frac{2}{8-x}\geq \frac{1}{72}x^2+\frac{5}{18}[/tex] bằng biến đổi tương đương.
Cộng vế theo vế ta có đpcm.