Nếu $P(x)$ là đa thức hằng thì $P(x) \equiv 0$ hoặc $P(x) \equiv 1$
Nếu $P(x)$ không là đa thức hằng thì dễ thấy $P(x) = x$ là một nghiệm.
Ta sẽ chứng minh rằng $P(x) = x^n$ với $n \in \mathbb{N^*}$ là tất cả các nghiệm thỏa mãn.
Ta sẽ chứng minh 2 điều:
i) Nếu $P$ là 1 nghiệm thì $P^k$ cũng là 1 nghiệm với $k \in \mathbb{N^*}$
Ta có: $P^k(x^2) = P(x^2).P(x^2).....P(x^2) = [P^k(x)]^2$
ii) Với mỗi k $\in \mathbb{N^*}$ tồn tại duy nhất một đa thức $P(x)$ thỏa mãn
Giả sử tồn tại 1 đa thức $Q(x)$ khác $P(x)$, khác đa thức hằng bậc $k$ cũng thỏa mãn đề bài.
Kí hiệu $Q(x) = P(x) + R(x)$ với $R(x)$ là 1 đa thức có bậc < k và không đồng nhất $0$
Kí hiệu $deg(R) = r$
Thay vào đề bài ta có:
$[P(x)+R(x)]^2=P(x^2)+R(x^2)$
\Leftrightarrow $P^2(x)+2P(x)R(x)+R^2(x) = P(x^2) + R(x^2)$
\Leftrightarrow $2P(x)R(x) = R(x^2)$
Bậc của vế trái là $kr$, bậc của vế phải là $r^2 < kr$.Mâu thuẫn. (vì các hệ số bậc cao nhất đều $\ne 0$)
Khi đó, ii) được chứng minh.
Vậy, bài toán được chứng minh hoàn toàn.
Kết luận: các đa thức $P(x)$ thỏa mãn bài toán là $P(x) \equiv 0$, $P(x) \equiv 1$, $P(x) = x^n$ với $n \in \mathbb{N^*}$