Gọi số dư của f(x) khi chia cho (x+1)(x^2+1) là [tex]ax^2+bx+c[/tex]
Ta có: [tex]f(x)=p(x)(x+1)(x^2+1)+ax^2+bx+c[/tex]
Vì f(x) chia x + 1 dư 4 nên [tex]f(-1)=4\Rightarrow a-b+c=4[/tex]
Vì f(x) chia x^2 + 1 dư 2x+3 nên [tex]ax^2+bx+c-2x-3\vdots x^2+1\Leftrightarrow ax^2+(b-2)x+c-3\vdots x^2+1\Rightarrow \left\{\begin{matrix} a=c-3\\ b=2 \end{matrix}\right.[/tex]
Kết hợp lại ta có: [tex]\left\{\begin{matrix} a-b+c=4\\ b=2\\ a=c-3 \end{matrix}\right.[/tex]
Từ đó tìm được a,b,c.