Đặt $\sqrt{y+1}=b$; $\sqrt{-4x^{2}+18x-20}=a$
Từ đó ta có: $b> 0$; $a\geq 0$; $2\leq x\leq 2.5$
Từ phương trình đầu tiên ta có:
$1+a=b-\frac{4}{a^{2}+4}$
$\Leftrightarrow b=\frac{a^{3}+a^{2}+4a+8}{a^{2}+4}$
$\Rightarrow b\geq \frac{8}{4}=2$ hay $b^{2}\geq 4$
(Do hàm số $f(a)=\frac{a^{3}+a^{2}+4a+8}{a^{2}+4}$ là hàm đồng biến trên tập xác định (tính đạo hàm ra sẽ thấy))
Từ phương trình thứ hai ta có:
$x^{b^{2}}=\left ( b^{2} \right )^{x}$
$\Leftrightarrow ln\left ( x^{b^{2}} \right )=ln\left ( \left ( b^{2} \right )^{x} \right )$
$\Leftrightarrow b^{2}ln(x)=xln(b^{2})$
$\Leftrightarrow \frac{ln(x)}{x}=\frac{ln\left ( b^{2} \right )}{b^{2}}$
Xét $f(t)=\frac{ln(t)}{t}$ $(t> 0)$
$f'(t)=\frac{1-ln(t)}{t^{2}}$
Từ đó ta có:
Với $0<t<e$ thì $f(t)$ đồng biến
Với $t>e$ thì $f(t)$ nghịch biến
Suy ra:
$\frac{ln(x)}{x}\geq \frac{ln(2)}{2}$ và $\frac{ln(b^{2})}{b^{2}}\leq \frac{ln(4)}{4}=\frac{ln(2)}{2}$
Đẳng thức xảy ra khi: $b=2$; $x=2$ hay $y=3$; $x=2$ (*)
Thay (*) vào phương trình thứ nhất ta thấy thõa mãn
Vậy hệ phương trình có 1 nghiệm là $\left (x;y \right )=\left ( 2;3 \right )$