[tex](x^3-\frac{1}{x^2})^2[/tex] có số mũ tối đa là 6 nên ta ko quan tâm đến cái này
Giờ theo yêu cầu đề thì chỉ cần tìm hệ số của $x^{11}$ trong [tex](x-\frac{1}{x^2})^{20}[/tex] là được
SH tổng quát trong khai triển [tex](x-\frac{1}{x^2})^{20}[/tex] là: $C^k_{20}.(-1)^k.x^{20-3k}$
Theo yêu cầu đề thì $k=3$ nên hệ số của SH chứa $x^{11}$ trong A là $-C^3_{20}=-1140$