Mình chỉ nghĩ được cách trâu bò cho bài này
Đặt $BM=x,MN=NC=\dfrac{a-x}{2}$. Kẻ $NI \parallel BE \Rightarrow \dfrac{EI}{EC}=\dfrac{a+x}{2a}$.
Ta có $\dfrac{S_{ANC}}{S_{ABC}}=\dfrac{NC}{BC}=\dfrac{a-x}{2a}\Rightarrow S_{ANC}= \dfrac{a-x}{2a}.S$ (1)
Mặt khác $\dfrac{AP}{AN}=\dfrac{AE}{AI}=\dfrac{1}{\frac{AI}{AE}}=\dfrac{1}{1+\frac{a+x}{2a}}=\dfrac{2a}{3a+x}$
Suy ra $\dfrac{S_{APE}}{S_{ANC}}=\dfrac{AE}{AC}.\dfrac{AP}{AN}=\dfrac{1}{2}.\dfrac{2a}{3a+x} \Rightarrow \dfrac{S_{PECN}}{S_{ANC}}=1-\dfrac{a}{3a+x}=\dfrac{2a+x}{3a+x}$ (2)
Từ (1) và (2) suy ra $S_{PECN}=\dfrac{2a+x}{3a+x}.\dfrac{a-x}{2a}.S$.
Bây giờ ta có $\dfrac{DQ}{QM}=\dfrac{DE}{BM}=\dfrac{a}{2x}\Rightarrow \dfrac{DM}{QM}=\dfrac{a+2x}{2x}$.
Và $S_{DBM}=\dfrac{1}{2}.\dfrac{x}{a}.S_{ABC}\Rightarrow S_{BQM}=\dfrac{QM}{DM}.S_{BDM}=\dfrac{x^2}{a(a+2x)}.S_{ABC}$
Vậy $\dfrac{S_{MNPQ}}{S_{ABC}}=\dfrac{1}{2}-\dfrac{x^2}{a(a+2x)}-\dfrac{2a+x}{3a+x}.\dfrac{a-x}{2a}=\dfrac{1}{2}-\dfrac{2a^2+3ax+3x^2}{2(a+2x)(3a+x)}$
Ta cần chứng minh $\dfrac{1}{6}\le \dfrac{1}{2}-\dfrac{2a^2+3ax+3x^2}{2(a+2x)(3a+x)} \le \dfrac{1}{5}$
Hay $\dfrac{3}{10}\le \dfrac{2a^2+3ax+3x^2}{2(a+2x)(3a+x)} \le \dfrac{1}{3}$
Thật vậy, BĐT bên trái tương đương với $a^2-6ax+9x^2\ge 0$ hay $(a-3x)^2\ge 0$
Và BĐT bên phải tương đương với $a\ge x$.