$\int^\frac{\pi}2_0 f'(x) \sin 2x\, \mathrm{d}x = \left. f(x) \sin 2x \right|^\frac{\pi}2_0 - \int^\frac{\pi}2_0 2 f(x) \cos 2x \, \mathrm{d}x$
Suy ra $\int^\frac{\pi}2_0 f(x) \cos 2x \, \mathrm{d}x = \dfrac{\pi}8$
Ngoài ra tính được $\int^\frac{\pi}4_0 \cos^2 2x = \dfrac{\pi}8$
Từ đó: $$\int^\frac{\pi}4_0 f^2(x) \, \mathrm{d}x - \int^\frac{\pi}2_0 2 f(x) \cos 2x \, \mathrm{d}x + \int^\frac{\pi}4_0 \cos^2 2x = 0$$
hay $$\int^\frac{\pi}2_0 (f(x) - \cos 2x)^2 \, \mathrm{d}x + \int^\frac{\pi}4_\frac{\pi}2 ( f^2(x) + \cos^2 2x ) \mathrm{d} x = 0$$
... Từ đó suy ra không có $f(x)$ thỏa đề bài?

Không biết có làm sai chỗ nào không, nhưng mình nghĩ cái giả thuyết kia cũng là $\int^\frac{\pi}4_0$ luôn. Nếu thế thì $f(x) = \cos 2x$ đẹp quá còn gì :3