+) TH1: Nếu c=1, ta có $0<a^2+b^2-ab \leq 1$cho các số nguyên dương a,b,c thỏa mãn $0<a^2+b^2-abc \leq c $
CMR: $a^2+b^2-abc $ là số chính phương.
Do đó $a^2+b^2-ab=1$, nên ta có đpcm.
+) TH2: c=2, khi đó hiển nhiên ta có đpcm.
+) TH3: $c>2$. Giả sử $a^2+b^2-abc=n (0<n\leq c$ (1)
GS $(a_0,b_0)$ là một nghiêm của (1) thỏa mãn $a_0<b_0$, và tổng $(a_0+b_0)$ là max trong tất cả các nghiệm.
xét $f(a)=a^2-ab_0c+b_0^2-n$
Khi đó f(a) ngoài nghiệm a0 còn có nghiệm $a_1=\dfrac {b_0^2-n} {a_0}$ là số nguyên.
Với$b_0^2-n<0$. Từ (1) suy ra $a_0^2-a_0b_0c>0$ nên $a_0-b_0c>0$ ( VL với c>2)
Suy ra $b_0^2-n>0$, suy ra $a_1>0$
Theo cách xác định $a_0, b_0)$ ta có $a_1+b_0\geq a_0+b_0$, nên $a_1 \leq a_0 \leq b_0 \Rightarrow f(b_0) \geq 0$
$\Leftrightarrow 2b_0^2-b_0^2c-n \geq 0 \Leftrightarrow n \leq b_0(2-c) <0 $ (do c>2)
$\Rightarrow a^2+b^2-abc=0 (VL)$
Vậy ta luôn có $a^2+b^2-abc$ là số chính phương.