mathproo

$\displaystyle \frac{ ab(5a^2 + 5b^2 - 2)}{5ab -1}$  là số nguyên dương nên $ab(5a^2 + 5b^2 - 2)\vdots 5ab-1$
$\Leftrightarrow a^2+b^2-2ab\vdots 5ab-1$
$\Leftrightarrow 5a^2+5b^2-2-2(5ab-1)\vdots 5ab-1$ hay $5a^2+5b^2-2\vdots 5ab-1$
Nên $\frac{5a^2+5b^2-2}{5ab-1}=m (m\in\mathbb{N^*})\Rightarrow 5a^2-5bma+5b^2+m-2=0(1)$
Ta có đánh giá: $\frac{5a^2+5b^2-2}{5ab-1}\geq\frac{10ab-2}{5ab-1}=2\Rightarrow m\geq 2$
Ta xem vế trái $(1)$ là phương trình bậc $2$ ẩn $a$. 
Nếu $a\ne b$, giả sử $a>b$ và gọi $(a_{0}, b_{0})$ là bộ số thỏa mãn $a$ nhỏ nhất sao cho $m\in\mathbb{N^*}, m\geq 2$
Khi nay theo hệ thức Viète phương trình còn một nghiệm $k$ khác thỏa $a_{0}k=\frac{5b_{0}^2+m-2}{5}\Rightarrow k=\frac{5b_{0}^2+m-2}{5a_{0}}>a_{0}>b_{0}$, nên $b$ nằm ngoài khoảng hai nghiệm. Theo định lí về dấu tam thức bậc hai ta có $5b_{0}^2-5b_{0}mb_{0}+5b_{0}^2+m-2>0\Leftrightarrow (2-m)(5b_{0}^2-1)>0\Leftrightarrow m<2$ (loại)
Vậy $a=b$