Đặt [tex]\left\{\begin{matrix} 2(x^2+y^2-3x+2y)-1=a^2\\ 5(x^2+y^2+4x+2y+3)=b^2 \end{matrix}\right.\Rightarrow a^2+b^2=7[(x+1)^2+(y+1)^2]=7(m^2+n^2)[/tex]
Vì 7 có dạng 4k+3 nên theo bổ đề chia hết cho số nguyên tố có dạng 4k+3 thì [tex]a,b \vdots 7[/tex]. Đặt [tex]a=7a_1,b=7b_1\Rightarrow 49(a_1^2+b_1^2)=7(m^2+n^2)\Rightarrow m^2+n^2=7(a_1^2+b_1^2)[/tex]
Tiếp tục như vậy ta thấy nghiệm duy nhất là [tex]a=b=0\Rightarrow x+1=y+1=0\Rightarrow x=y=-1[/tex]
Thử lại thấy không thỏa mãn. Vậy không tồn tại x,y.