Lời giải:
Ta chứng minh bài toán mạnh hơn là với giả thiết $AM,AN$ là 2 đường đẳng giác trong góc $A$ và $\triangle ABC$ bất kì. Đặt $\alpha\equiv (\overrightarrow{AM};\overrightarrow{AB}) \pmod{2\pi}$.
a) Hạ $AD \perp BC$. Gọi $E,F$ thứ tự là trung điểm $AB,AC$.
Dễ thấy $(A,D,B,H),(A,D,K,C)$ là các bộ đồng viên, và $H,K$ thứ tự nằm trên tia $AM,AN$.
Do đó
$$(DH;DK) \equiv (DH;DB)+(DC;DK) \equiv (AH;AB) +(AC;AK) \equiv 2(AH;AB) \pmod{\pi} \quad (1)$$
Mặt khác $IF=\frac{1}{2}AC=EK$ và tương tự: $FH=EI$.
Ta cũng có \[
\begin{array}{l}
\left( {\overrightarrow {FH} ;\overrightarrow {FI} } \right) \equiv \left( {\overrightarrow {FH} ;\overrightarrow {FB} } \right) + \left( {\overrightarrow {FB} ;\overrightarrow {FI} } \right) \equiv 2\left( {\overrightarrow {AM} ;\overrightarrow {AB} } \right) + \left( {\overrightarrow {AB} ;\overrightarrow {AC} } \right)\left( {\bmod 2\pi } \right) \\
\left( {\overrightarrow {EI} ;\overrightarrow {EK} } \right) \equiv \left( {\overrightarrow {EI} ;\overrightarrow {EC} } \right) + \left( {\overrightarrow {EC} ;\overrightarrow {EK} } \right) \equiv \left( {\overrightarrow {AB} ;\overrightarrow {AC} } \right) + 2\left( {\overrightarrow {AN} ;\overrightarrow {AC} } \right)\left( {\bmod 2\pi } \right) \\
\end{array}
\]
Do đó $\triangle FHI,\triangle EIK$ bằng nhau thuận. Cho nên
\[
\left( {IH;IK} \right) \equiv \left( {FH;EI} \right) \equiv \left( {FH;AB} \right) \equiv 2\left( {AH;AB} \right)\left( {\bmod \pi } \right)
\]
Kết hợp (1), ta có ngay $H,D,I,K$ đồng viên. Vậy $O$ chạy trên trung trực của $KI$: cố định.
b) Nhận xét: $(AC)$ chính là đường tròn qua $A,D,H,B$.
Vậy $(O)$ tiếp xúc $(AC) \Leftrightarrow D \equiv H \Leftrightarrow AH \perp BC \Leftrightarrow \alpha=\frac{\pi}{2} - \widehat{ABC}$.
Tương tự, $(O)$ tiếp xúc $(AB) \Leftrightarrow \alpha=\frac{\pi}{2} -\widehat{ACB}$