Thay [tex]z=3-x-y[/tex]. Ta chứng minh BĐT phụ sau
[tex]x^2+y^2+4(xy+1)\geq z^{2}-4z+5[/tex]
[tex]x^{2}+y^2+4xy-(3-x-y)^2+4(3-x-y)-1\geq 0[/tex]
[tex]\Leftrightarrow 2(x+y)+2xy+2\geq 0[/tex]
[tex]\Leftrightarrow (x+1)(y+1)\geq 0[/tex] (Luôn đúng)
[tex]P\leq \frac{x^2+y^2-1}{z^2-4z+5}=\frac{(x+y)^2-2xy-1}{z^2-4z-5}\leq \frac{(3-z)^2-2(z-4)-1}{z^2-4z-5}=\frac{z^2-8z-16}{z^2-4z-5}=-\frac{(2z-3)^2}{z^2-4z+5}+5\leq 5[/tex]