[tex]\left\{\begin{matrix} x^2-2xy+3y^2=9 & & \\x^2-4xy+5y^2=5 & & \end{matrix}\right.[/tex]
$(I) \left\{\begin{matrix} x^2-2xy+3y^2=9 & (1) \\ x^2-4xy+5y^2=5 & \end{matrix}\right. \Leftrightarrow \left\{\begin{matrix} 5x^2-10xy+15y^2=45 & \\ 9x^2-36xy+45y^2=45 & \end{matrix}\right.$
$\Rightarrow 5x^2-10xy+15y^2= 9x^2-36xy+45y^2 \Leftrightarrow 4x^{2}-26xy+30y^{2}=0 \Leftrightarrow 2x^{2}-13xy+15y^{2}=0$ $(*)$
Khi $y=0$ thì $(*) \Leftrightarrow 2.0^{2}-13.0.y+15y^{2}=0 \Leftrightarrow 15y^{2}=0 \Leftrightarrow y=0$$.$ Thế $x=0,y=0$ vào $(1)$ thì thấy không thỏa$.$
Khi $y \neq 0$ thì $(*) \Leftrightarrow \frac{2x^{2}-13xy+15y^{2}}{y^{2}}=0 \Leftrightarrow 2(\frac{x}{y})^{2}-13\frac{x}{y}+15=0 \Leftrightarrow (\frac{x}{y}-5)(2\frac{x}{y}-3)=0 \Leftrightarrow \left[\begin{matrix} \frac{x}{y}-5=0 & \\ 2\frac{x}{y}-3=0 & \end{matrix}\right. \Leftrightarrow \left[\begin{matrix} \frac{x}{y}=5 & \\ \frac{x}{y}=\frac{3}{2} & \end{matrix}\right. \Leftrightarrow \left[\begin{matrix} x=5y & \\ x=\frac{3y}{2} & \end{matrix}\right.$
$\cdots$
$P/s$ $:$ Bạn tự làm tiếp nhé $($Chỉ cần thế lại phương trình $(1)$ là được$)$ $!$