[tex]ab=1=>b=\frac{1}{a}[/tex]
[tex]=>a+b=a+\frac{1}{a}\geq 2[/tex] mà [tex]a,b<0=>a+\frac{1}{a}\leq -2[/tex]khi
Dấu bằng xảy ra khi và chỉ [tex]a=\frac{1}{a}=>a=b=-1(a,b<0)[/tex]
Thay vào [tex]a^5+b^5-a^3b-ab^3=(-1)^5+(-1)^5-(-1)^3(-1)-(-1)(-1)^3=-4[/tex]