Gọi $ P(x,y)$ là phép thế của phương trình hàm $ f(x^2-y^2)=xf(x)-yf(y)$
$ P(0,0)$ $ \implies$ $ f(0)=0$
$ P(x,0)$ $ \implies$ $ f(x^2)=xf(x)$ suy ra $ P(x,y)$ trở thành $ f(x^2-y^2)=f(x^2)-f(y^2)$ (1)
$ P(0,x)$ $ \implies$ $ f(-x^2)=-xf(x)=-f(x^2)$ (2)
Từ (1) và (2) ta có $ f(x+y)=f(x)+f(y)$ $ \forall x,y$
*Thật vậy, ta có $Q(x,y)$ là phép thế của phương trình hàm $f(x^2-y^2)=f(x^2)-f(y^2)$
$x\ge 0$, $y\ge 0$ : $Q(\sqrt{x+y},\sqrt y)$ $\implies$ $f(x+y)=f(x)+f(y)$
$x\ge 0$, $y\le 0$ : $Q(\sqrt x,\sqrt{-y})$ $\implies$ $f(x+y)=f(x)-f(-y)=f(x)+f(y)$
$x\le 0$ , $y\le 0$ : $Q(\sqrt{-x-y},\sqrt {-y})$ $\implies$ $f(x+y)=f(x)+f(y)$
$x\le 0$ , $y\ge 0$ : $Q(\sqrt y,\sqrt{-x})$ $\implies$ $f(x+y)=f(y)-f(-x)=f(x)+f(y)$
Suy ra $ P(x+1,0)$ $ \implies$ $ f(x^2+2x+1)+(x+1)f(x+1)$ nên $ f(x^2)+2f(x)+f(1)=xf(x)+f(x)+xf(1)+f(1)$, và vì $ f(x^2)=xf(x)$, ta suy ra : $ f(x)=xf(1)$
Vậy $ \boxed{f(x)=ax}$ với hằng số $a$.
Thử lại thấy thỏa mãn.