ĐKXĐ: [tex]x\geq 1;y\geq 1[/tex]
Từ PT (2) [tex]\Leftrightarrow x+y=x^{2}-xy+2y^{2} \Leftrightarrow x+y=(x+y)(x-2y)\Leftrightarrow (x+y)(x-2y-1)=0\Leftrightarrow x=2y+1[/tex] ( vì x+y >0)
Thế vào PT (1) ta được: [tex]\sqrt{2y}+\sqrt{y-1}=3[/tex]
Đến đây thì đơn giản rồi ta tìm được y=2 rồi suy ra x=5