Trong mặt phẳng toạ độ \(Oxy\), cho tam giác \(ABC\). Gọi \(AM,AD\) lần lượt là đường trung tuyến và đường phân giác trong của tam giác. Các đường thẳng \(AM,AD\) lần lượt có phương trình là \(x - y - 2 = 0,y = 0\). Giả sử \(B(1;3)\). Viết phương trình đường thẳng \(AC\) và xác định toạ độ của điểm \(C\).

Đỉnh \(C\) nằm trên đường thẳng \(y - 4 = 0\) nên giả sử \(C(c;4)\). Giả sử \(G(a;b)\). Vì \(G\) là trọng tâm tam giác nên \(a = \frac{{6 + c}}{3},b = 1\).

Do \(G\) nằm trên đường thẳng \(3x - 2y + 6 = 0\) nên \(3\left( {\frac{{6 + c}}{3}} \right) - 2 + 6 = 0 \Leftrightarrow c =  - 10\). Suy ra \(G\left( { - \frac{4}{3};1} \right)\).

Gọi \({\vec n_{AB}} = (a;b)\left( {{a^2} + {b^2} > 0} \right)\) là vectơ pháp tuyến của đường thẳng \(AB\). Đường thẳng \(AB\) đi qua \(M(0;2)\)nên có phương trình dạng: \(a(x - 0) + b(y - 2) = 0 \Leftrightarrow ax + by - 2b = 0.\)

Đường thẳng \(BC\) vuông góc với \(AB\) nên ta có thể chọn \({\vec n_{BC}} = (b; - a)\) làm vectơ pháp tuyến của đường thẳng \(BC\). Đường thẳng \(BC\) đi qua \(N(5; - 3)\) nên có phương trình dạng:

\(b(x - 5) - a(y + 3) = 0 \Leftrightarrow bx - ay - 5b - 3a = 0.\)

Tứ giác \(ABCD\) là hình vuông nên \(d(P,AB) = d(Q,BC)\). Do đó, ta có: \(\frac{{| - 2a - 2b - 2b|}}{{\sqrt {{a^2} + {b^2}} }} = \frac{{|2b + 4a - 5b - 3a|}}{{\sqrt {{b^2} + {a^2}} }} \Leftrightarrow |2a + 4b| = |a - 3b|{\rm{. }}\)

Suy ra \(a =  - 7b\) hoặc \(3a =  - b\)

Với \(a =  - 7b\)ta chọn \(b = 1,a =  - 7\). Suy ra phương trình đường thẳng \(AB\)là: \( - 7x + y - 2 = 0,d(P,AB) = \sqrt 2 \)

Vậy diện tích hình vuông \(ABCD\)bằng: \({(\sqrt 2 )^2} = 2\)

Với \(3a =  - b\)ta chọn \(a = 1,b =  - 3\). Suy ra phương trình đường thẳng \(AB\) là: \(x - 3y + 6 = 0\)

và \(d(P,AB) = \sqrt {10} \)

Vậy diện tích hình vuông \(ABCD\)bằng \({(\sqrt {10} )^2} = 10\)