Nhận thấy $y=0$ không là nghiệm của hệ. Chia hai vế của phương trình thứ nhất của hệ cho ${y^{11}} \ne 0$, ta được:
$${\left( {\frac{x}{y}} \right)^{11}} + \dfrac{x}{y} = {y^{11}} + y$$
Xét hàm đặc trưng: $f\left( t \right) = {t^{11}} + t \Rightarrow f'\left( t \right) = 11{t^{10}} + 1 > 0$. Suy ra hàm $f$ tăng.
Từ phương trình, suy ra: $f\left( {\dfrac{x}{y}} \right) = f\left( y \right) \Rightarrow \dfrac{x}{y} = y \Leftrightarrow x = {y^2}$. Thay vào phương trình thứ hai, ta được:
$$\begin{array}{l}
7y^4+13y^2+8=2y^4\sqrt[3]{\left ( 3y^4+3y^2-1 \right ).y^2}\\
\iff 7x^2+13x+8=2x^2\sqrt[3]{x\left ( 3x^2+3x-1 \right )}\\
\iff \dfrac{7}{x}+\dfrac{13}{x^2}+\dfrac{8}{x^3}=2\sqrt[3]{3+\frac{3}{x}-\frac{1}{x^2}} \end{array}$$
Do $x \neq 0$, tiếp tục đặt $ a=\dfrac{1}{x}$ được
$$\begin{array}{l}
7a+13a^2+8a^3=2\sqrt[3]{3+3a-a^2} \\
\iff -a^2+3a+3+2\sqrt[3]{3+3a-a^2}=8a^3+12a^2+10a+3
\\
\iff -a^2+3a+3+2\sqrt[3]{3+3a-a^2}=(2a+1)^3+2(2a+1)
\\
\iff 2a+1=\sqrt[3]{3+3a-a^2} \\
\iff \left[\begin{matrix} a=-1\\ a=\dfrac{1}{16}\left ( -5-\sqrt{89} \right ) \\
a=\dfrac{1}{16}\left ( -5+\sqrt{89} \right )
\end{matrix} \right. \end{array}$$