Cho a,b,c dương thỏa mãn $a^{2}$ +$b^{2}$ +$c^{2}$ =6
Tìm max của P= $\frac{1}{a^{2}+b^{2}} + \frac{1}{b^{2}+c^{2}} +\frac{1}{c^{2}+a^{2}}-\frac{a^{3}+b^{3}+c^{3}}{12abc}$
Ta có: $\sum \frac{1}{a^{2}+b^{2}}=\sum \frac{1}{6-c^{2}}$
Ta dễ dàng chứng minh được: $\sum \frac{1}{6-c^{2}}\leq \sum (\frac{1}{4}(c^{2}-2)+\frac{1}{4})=\frac{3}{4}$
Theo bđt AM-GM: $\frac{\sum a^{3}}{12abc}\geq \frac{1}{4}$
=>$-\frac{\sum a^{3}}{12abc}\leq -\frac{1}{4}$
Cộng theo vế ta được: $\sum \frac{1}{a^{2}+b^{2}}-\frac{\sum a^{3}}{12abc}\leq \frac{1}{ 2}$
Đẳng thức xảy ra khi: $a=b=c=\sqrt{2}$