Ta có:
$P=\sum \frac{x^2}{3x^2+5xy+3y^2}=\sum \frac{x^2}{3(x+y)^2-xy}\geq\sum\frac{x^2}{3(x+y)^2-\frac{(x+y)^2}{4}}=\frac{4}{11}\sum\frac{x^2}{(x+y)^2}$
Đặt $Q=\sum\frac{x^2}{(x+y)^2}=\sum\frac{1}{\left ( 1+\frac{y}{x} \right )^2}$
Đổi biến: $\left ( \frac{y}{x}, \ \frac{z}{y}, \ \frac{x}{z} \right )=\left ( \frac{bc}{a^2}, \ \frac{ca}{b^2}, \ \frac{ab}{c^2} \right )$ với $a,b,c>0$.
Lúc này: $Q=\sum\frac{1}{\left ( 1+\frac{bc}{a^2} \right )^2}=\sum \frac{a^4}{(a^2+bc)^2}\geq\frac{(a^2+b^2+c^2)^2}{(a^2+bc)^2+(b^2+ca)^2+(c^2+ab)^2}$
Mặt khác, ta cũng có:
$\begin{align*} & \qquad \frac{(a^2+b^2+c^2)^2}{(a^2+bc)^2+(b^2+ca)^2+(c^2+ab)^2}\geq\frac{3}{4} \\ &\Leftrightarrow 4(a^2+b^2+c^2)^2\geq3\left [(a^2+bc)^2+(b^2+ca)^2+(c^2+ab)^2 \right ] \\ &\Leftrightarrow a^4+b^4+c^4+5(a^2b^2+b^2c^2+c^2a^2)\geq6abc(a+b+c) \end{align*}$
Bđt cuối cùng đúng do theo AM-GM thì: $\sum a^4\geq\sum a^2b^2 \geq \sum a^2bc$
Suy ra: $P\geq\frac{4}{11}Q\geq\frac{4}{11}\cdot \frac{3}{4}=\frac{3}{11}$
Đẳng thức xảy ra khi và chỉ khi $x=y=z$.
Vậy $P_{min}=\frac{3}{11}$.