Mình có ý này: bạn có thể lượng giác hóa bằng cách đặt a=cos(x), b=sin(y).sin(x), c=cos(y).sin(x). Sau đó thì chuyển về bài toán cực trị lượng giác với hai biến x,y. Có thể đơn giản hơn một chút.
với lại cách này không ổn lắm, vì như vậy |a|,|b|,|c|<=1 rồi còn gì