Mình cũng có cách này nữa :Đặt P= $b^{2}a-a^{2}b$
$\Rightarrow$ P= ab(b-a)
Vì $0\leq a\leq b\leq 1$ $\Leftrightarrow$ $\left\{\begin{matrix} 0 & \leqslant ab & \leqslant a\\ 0 & \leqslant b-a& \leqslant 1-a \end{matrix}\right.$
Nhân vế theo về ta có: P$\leq$a(1-a)$\leq$$(\frac{a+(1-a)}{2})^{2}$=$\frac{1}{4}$

Dấu "=" $\Leftrightarrow$ $\left\{\begin{matrix} b=1& \\ a=1-a& \end{matrix}\right.$$\Rightarrow$$\Rightarrow \left\{\begin{matrix} a= \frac{1}{2}& \\ b= 1 & \end{matrix}\right.$
Mình ở Bình Long, vừa rồi bạn mình đi thi mình chỉ chép được mấy câu này, để mình mượn đề 

Cho $0\leq a\leq b\leq 1$, CM: $b^{2}a-a^{2}b\leq \frac{1}{4}$

Tìm số tự nhiên x;y biết: $y^{3}=x^{3}+x^{2}+x+1$