Theo bất đẳng thức AM-GM, ta có\[(xy+z^2)^2\ge 4xy\cdot z^2.\]\[x^4+y^4 \ge \frac{(x^2+y^2)^2}{2} \ge 2xy\cdot \frac{x^2+y^2}{2}=xy(x^2+y^2).\]Từ đó, suy ra\[(x^4+y^4)(xy+z^2)^3 \ge 4xyz^2 \cdot xy(x^2+y^2)\cdot (xy+z^2)=4x^2y^2z^2[2x^2y^2+z^2(x^2+y^2)],\]hay là\[\frac{{{x}^{3}}{{y}^{4}}{{z}^{3}}}{({{x}^{4}}+{{y}^{4}}){{(xy+{{z}^{2}})}^{3}}} \le \frac{xy^2z}{2x^2y^2+z^2(x^2+y^2)}.\]Đặt $a=xy,\;b=yz,\;c=zx.$ Ta được\[P \le \frac{1}{4}\left (\frac{ab}{2a^2+b^2+c^2}+\frac{bc}{2b^2+c^2+a^2} + \frac{ca}{2c^2+a^2+b^2} \right ).\]Theo bất đẳng thức AM-GM, thì\[\frac{ab}{2a^2+b^2+c^2} \le \frac{ab}{\sqrt{2a^2(b^2+c^2)}}=\frac{1}{\sqrt{2}}\cdot \sqrt{\frac{b^2}{b^2+c^2}}.\]Nên\[P\le \frac{1}{4\sqrt{2}}\left ( \sqrt{\frac{a^2}{a^2+b^2}}+\sqrt{\frac{b^2}{b^2+c^2}}+\sqrt{\frac{c^2}{c^2+a^2}} \right ).\]Mặc khác, ta có một kết quả quen thuộc\[\sqrt{\frac{a^2}{a^2+b^2}}+\sqrt{\frac{b^2}{b^2+c^2}}+\sqrt{\frac{c^2}{c^2+a^2}} \le \frac{3}{\sqrt{2}}.\]Nên $P \le \dfrac{3}{16}.$ Ngoài ra nếu $a=b=c$ hay $x=y=z,$ thì đẳng thức xảy ra. Điều này cho phép ta kết luận $P_{\max}=\dfrac{3}{16}.$
Đoạn đấy không nhất thiết phải quy về bất đẳng thức kia đâu ạ:
Theo AM-GM:
$ab \le \frac{(a+b)^2}{4} $
nên
$\frac{ab}{2a^2+b^2+c^2}\le \frac{1}{4}. \frac{(a+b)^2}{a^2+c^2+b^2+a^2}\le \frac{1}{4}(\frac{a^2}{a^2+c^2}+\frac{b^2}{b^2+a^2})$ (Cauchy-Schwarz)
$\Rightarrow \sum \frac{ab}{2a^2+b^2+c^2}\le \frac{1}{4}(\sum \frac{a^2}{a^2+c^2}+\sum \frac{b^2}{b^2+a^2})$
hay
$\sum \frac{ab}{2a^2+b^2+c^2}\le\frac{1}{4}.\sum (\frac{a^2}{a^2+b^2}+\frac{b^2}{a^2+b^2})=\frac{3}{4}$
$\Rightarrow T \le \frac{3}{16}$
MOD:Không trích lại bài viết quá dài nhé !