Ta chứng minh $f$ là đơn ánh. Thật vậy, giả sử $\exists x_1,x_2\in \mathbb{R}:f(x_1)=f(x_2)$
Trong $(1)$ cho $x=0$ được $f(f(y))=y+f^2(0),\;\forall y\in \mathbb{R}$
Từ đó $f(f(x_1))=f(f(x_2))\Rightarrow x_1+f^2(0)=x_2+f^2(0)\Rightarrow x_1=x_2$. Do đó $f$ đơn ánh.
Đặt $f(0)=a$, trong $(1)$ cho $x=y=0$ được $f(a)=a^2=f(-a)$. Do $f$ đơn ánh nên $a=-a$ hay $a=0$
Vậy ta có $f(0)=0$.
Trong $(1)$ cho $y=0$ được $f(x^2+f(0))=f^2(x),\;\forall x\in \mathbb{R}\Leftrightarrow f(x^2)=f^2(x),\;\forall x\in \mathbb{R}\;\;\;(2)$
Trong $(1)$ cho $x=0$ được $f(f(y))=y+f^2(0)=y,\;\forall y\in \mathbb{R}$
Do đó $(1)$ được viết thành :
$f(x^2+f(y))=f(x^2)+f(f(y))\Leftrightarrow f(x+y)=f(x)+f(y)\;\;\forall x,y\in \mathbb{R},x\geq 0$
Trong $(2)$ ta thay $x$ bởi $-x$ được $f(x^2)=f^2(-x),\;\forall x\in \mathbb{R}$. Kết hợp với $(2)$ suy ra $f^2(x)=f^2(-x)\Rightarrow f(-x)=\pm f(x) ,\;x\in \mathbb{R}$. Nếu $f(x)=f(-x),\;\forall x\in \mathbb{R}$ thì do $f$ đơn ánh ta suy ra $x=-x,\;\forall x\in \mathbb{R}$, mâu thuẫn.
Do vậy $f(-x)=-f(x)$.
Do đó với $x\leq 0$ ta có :
$f(y)=f(-x+(x+y))=f(-x)+f(x+y)=-f(x)+f(x+y),\;\forall x,y\in \mathbb{R},x\leq 0$
Vậy ta được
$f(x+y)=f(x)+f(y),\;\forall x,y\in \mathbb{R}\;\;\;(3)$
Ta sẽ tính biểu thức $f((x+1)^2)$ theo $(2)$ và $(3)$ :
$f((x+1)^2)=f^2(x+1)=(f(x)+f(1))^2=f^2(x)+2f(x)f(1)+f^2(1),\;\forall x\in \mathbb{R}$
$f((x+1)^2)=f(x^2+2x+1)=f(x^2)+2f(x)+f(1)=f^2(x)+2f(x)+f(1),\;\forall x\in \mathbb{R}$
Từ hai kết quả này ta suy ra :
$f^2(x)+2f(x)f(1)+f^2(1)=f^2(x)+2f(x)+f(1),\;\forall x\in \mathbb{R}\Rightarrow 2f(x)(1-f(1))=f^2(1)\;\;(*)$
( một bài hàm quen thuộc 
)
bạn trừ lại thử xem 
