Bạn có thể làm theo hướng dẫn sau
Khai triển từng pt ra được : [tex]a^2+3\vec{a}.\vec{b}-4b^2=0<=>3\vec{a}.\vec{b}=4b^2-a^2[/tex]
và [tex]7\vec{a}.\vec{b}=6a^2-5b^2[/tex]
Từ 2pt suy ra pt của a và b: [tex]\frac{4b^2-a^2}{3}=\frac{6a^2-5b^2}{7}<=>43b^2=25a^2<=>a=\frac{\sqrt{43}}{5}b[/tex]
Mà ta có [tex]a^2+3\vec{a}.\vec{b}-4b^2=0<=>\frac{4b^2-a^2}{3ab}=cos(\vec{a},\vec{b})[/tex]
Tới đay thay a theo b vừa mới tính bên trên vào, là ra cos