$\left \{ {{x²+y²=1} \atop {-x²+5xy+2y²=3}} \right.$

Đặt $\begin{cases} x^2+y^2=1(1)\\-x^2+5xy+2y^2=3(2)\\\end{cases}$

 Nhân `3` vào `(1)` ta được:

`3x^2+3y^2=3(3)`

Lấy `(3)` trừ `(2)` ta được:

`4x^2-5xy+y^2=0`

`<=> 4x^2-4xy-xy+y^2=0`

`<=> 4x(x-y)-y(x-y)=0`

`<=>(x-y)(4x-y)=0`

`<=> `\(\left[ \begin{array}{l}x=y\\4x=y\end{array} \right.\) 

`TH_1:` với `x=y` `(4)`

Thế `(4)` và `(1)` ta được:

`y^2+y^2=1`

`<=> 2y^2=1`

`<=> y=\frac{\sqrt{2}}{2}=x`

`TH_2`: với `y=4x“(5)`

Thế `(5)` vào `(1)` ta được:

`x^2+16x^2=1`

`<=> 17x^2=1`

`<=> x=\frac{\sqrt{17}}{17}`

`=> y=4x=\frac{4\sqrt{17}}{17}`

Vậy hệ phương trình có tập nghiệm: `(x,y)=(\frac{\sqrt{17}}{17};\frac{4\sqrt{17}}{17});(\frac{\sqrt{2}}{2};\frac{\sqrt{2}}{2})`