$\left\{\begin{matrix} 8x^{2}+12y^{2}-20xy=0 & & \\ 4x^{2}-6x+1=y^{2}-3y & & \end{matrix} \right$
$\Leftrightarrow \left\{\begin{matrix} 2x^2-5xy+3y^2=0 & & \\ 4x^{2}-6x+1=y^{2}-3y & & \end{matrix}\right$
$\Leftrightarrow \left\{\begin{matrix} (x-y)(2x-3y)=0 & & \\ 4x^{2}-6x+1=y^{2}-3y & & \end{matrix}\right$
$\Leftrightarrow \left\{\begin{matrix} x-y=0 & & \\ 4x^{2}-6x+1=y^{2}-3y & & \end{matrix}\right$ $\left \langle 1 \right \rangle$
hoặc $\left\{\begin{matrix} 2x-3y=0 & & \\ 4x^{2}-6x+1=y^{2}-3y & & \end{matrix}\right$ $\left \langle 2 \right \rangle$
- Xét hệ $\left \langle 1 \right \rangle$ , thay x = y vào phương trình dưới ta được $4y^2-6y+1=y^2-3y.$ $\Leftrightarrow 3y^2-3y+1=0.$ (1)
Phương trình (1) có $\Delta=(-3)^2-4.3.1=-3<0$ nên Phương trình (1) vô nghiệm, tức hệ $\left \langle 1 \right \rangle$ vô nghiệm.
$\Rightarrow$ hệ đã cho vô nghiệm. ( * )
- Xét hệ $\left \langle 2 \right \rangle$ , thay 2x = 3y vào phương trình dưới ta được $9y^2-9y+1=y^2-3y$ $\Leftrightarrow 8y^2-6y+1=0.$ (2)
$\Delta'=(-3)^2-8.1=1$ $\Rightarrow$ phương trình (2) có hai nghiệm $y=\left (\frac{1}{4}; \frac{1}{2} \right )$
$\Rightarrow$ hệ $\left \langle 2 \right \rangle$ có hai nghiệm $(x;y)=(\frac{1}{4};\frac{3}{8});(\frac{1}{2};\frac{3}{4})$
$\Rightarrow$ hệ đã cho có hai nghiệm $(x;y)=(\frac{1}{4};\frac{3}{8});(\frac{1}{2};\frac{3}{4})$ (**)
Kết hợp ( * ) và (**) $\Rightarrow$ hệ đã cho có hai nghiệm $(x;y)=(\frac{1}{4};\frac{3}{8});(\frac{1}{2};\frac{3}{4})$