Áp dụng BDT Bunhia CopXki ta có:
[tex]Q^2[/tex]=[tex]2(x+y+z)-xyz]^2[/tex] =< [[tex]x^2[/tex]+[tex](y+z)^2[/tex]][[tex](2-yz)^2[/tex]+2]
[tex]Q^2[/tex]=(9+2yz)[[tex]yz^2[/tex]-4yz+8]
Đặt : t=yz ta có [tex]Q^2[/tex]=2[tex]t^3[/tex]+[tex]t^2[/tex]-20t+72
Giả sử:
|x|>|y|>|z|,giả thiết [tex]x^2[/tex]+[tex]y^2[/tex]+[tex]z^2[/tex]= 9 nên [tex]x^2[/tex]>=3
suy ra: |t|=|yz| =< ([tex]y^2[/tex]+[tex]z^2[/tex])/2 = (9-[tex]x^2[/tex])/2 =<2
...đến phần này xét hàm số f(t)=2[tex]t^3[/tex]-2[tex]t^2[/tex]-20t+72 với t thuộc [-2.2]
f'(t)=0 <=> t=0,-2,5/3
thử các giá trị t...có
f(-2)=10 là lớn nhất =>Qmax=10 với x=-1..y=z=2