Trong không gian \(Oxyz\), cho mặt phẳng \(\left( P \right):x + y - z + 2 = 0\) và hai điểm \(A\left( { - 1;0;0} \right),\) \(B\left( {1;0;1} \right)\). Gọi \(M\) là điểm di động trên mặt phẳng \(\left( P \right)\) sao cho các đường thẳng \(MA,MB\) cùng tạo với mặt phẳng \(\left( P \right)\) các góc bằng nhau. Biết độ dài lớn nhất của \(O{M^2}\) có dạng \(\frac{{a + 24\sqrt b }}{c},\) \(\left( {a,b,c \in {\mathbb{N}^*}} \right)\). Tính tổng \(a + b + c\) ta được kết quả là

Đáp án: 760.

Nhận thấy đường thẳng \(AB\) không vuông góc với mặt phẳng \(\left( P \right)\) và

\(\left( { - 1 + 0 - 0 + 2} \right) \cdot \left( {1 + 0 - 1 + 2} \right) > 0\) nên \(A,B\) nằm cùng phía so với \(\left( P \right)\).

Giả sử \(M\left( {x;y;z} \right)\). Gọi \(A',B'\) lần lượt là hình chiếu vuông góc của \(A,B\) lên mặt phẳng \(\left( P \right)\).

Vì các đường thẳng \(MA,MB\) cùng tạo với mặt phẳng \(\left( P \right)\) các góc bằng nhau nên \(\widehat {AMA'} = \widehat {BMB'}\)

 $\Rightarrow \text{Δ}AM{A}^{\text{'}}\backsim \text{\hspace{0.17em}Δ}BM{B}^{\text{'}}\Rightarrow \frac{MA}{MB}=\frac{A{A}^{\text{'}}}{B{B}^{\text{'}}}=\frac{d\left(A,\left(P\right)\right)}{d\left(B,\left(P\right)\right)}=\frac{\left|-1+2\right|}{\left|1-1+2\right|}=\frac{1}{2}$

\( \Leftrightarrow MB = 2MA \Leftrightarrow M{B^2} = 4M{A^2} \Leftrightarrow {\left( {x - 1} \right)^2} + {y^2} + {\left( {z - 1} \right)^2}\)\( = 4\left[ {{{\left( {x + 1} \right)}^2} + {y^2} + {z^2}} \right]\)

\( \Leftrightarrow 3{x^2} + 3{y^2} + 3{z^2} + 10x + 2z + 2 = 0 \Leftrightarrow {x^2} + {y^2} + {z^2} + \frac{{10}}{3}x + \frac{2}{3}z + \frac{2}{3} = 0\).

Vậy \(M\) nằm trên mặt cầu \(\left( S \right)\) tâm \(I\left( { - \frac{5}{3};0; - \frac{1}{3}} \right)\), bán kính \(R = \sqrt {{{\left( { - \frac{5}{3}} \right)}^2} + {{\left( { - \frac{1}{3}} \right)}^2} - \frac{2}{3}} = \frac{{2\sqrt 5 }}{3}\).

Vì \(\left\{ {\begin{array}{*{20}{l}}{M \in \left( P \right)}\\{M \in \left( S \right)}\end{array} \Rightarrow M \in \left( C \right)} \right.\), với \(\left( C \right) = \left( P \right) \cap \left( S \right)\).

Ta có \(d\left( {I,\left( P \right)} \right) = \frac{{\left| { - \frac{5}{3} + \frac{1}{3} + 2} \right|}}{{\sqrt 3 }} = \frac{2}{{3\sqrt 3 }}\).

Gọi \(E\) là hình chiếu của \(I\) lên \(\left( P \right)\).

Đường tròn \(\left( C \right)\) có tâm là \(E\) và bán kính bằng \(r = \sqrt {{R^2} - {d^2}\left( {I,\left( P \right)} \right)} = \)\(\sqrt {\frac{{20}}{9} - \frac{4}{{27}}} = \frac{{2\sqrt {42} }}{9}\).

Đường thẳng \(IE\) đi qua điểm \(I\) nhận vectơ pháp tuyến của mặt phẳng \(\left( P \right)\) là \(\overrightarrow {{n_{\left( P \right)}}} = \left( {1;1; - 1} \right)\) làm vectơ chỉ phương nên có phương trình \(IE:\left\{ {\begin{array}{*{20}{l}}{x = - \frac{5}{3} + t}\\{y = t}\\{z = - \frac{1}{3} - t}\end{array} \Rightarrow E\left( { - \frac{5}{3} + t;t; - \frac{1}{3} - t} \right)} \right.\).

\(E \in \left( P \right) \Leftrightarrow - \frac{5}{3} + t + t + \frac{1}{3} + t + 2 = 0 \Leftrightarrow t = - \frac{2}{9} \Leftrightarrow E\left( { - \frac{{17}}{9}; - \frac{2}{9}; - \frac{1}{9}} \right)\).

Gọi \(H\) là hình chiếu vuông góc của \(O\) lên mặt phẳng \(\left( P \right)\).

Phương trình đường thẳng \(OH:\left\{ {\begin{array}{*{20}{l}}{x = t'}\\{y = t'}\\{z = - t'}\end{array} \Rightarrow H\left( {t';t'; - t'} \right)} \right.\).

\(H\left( {t';t'; - t'} \right) \in \left( P \right) \Leftrightarrow t' + t' + t' + 2 = 0 \Leftrightarrow t' = - \frac{2}{3} \Leftrightarrow H\left( { - \frac{2}{3}; - \frac{2}{3};\frac{2}{3}} \right)\).

\(\overrightarrow {HE} = \left( { - \frac{{11}}{9};\frac{4}{9}; - \frac{7}{9}} \right) \Rightarrow HE = \sqrt {\frac{{121}}{{81}} + \frac{{16}}{{81}} + \frac{{49}}{{81}}} = \frac{{\sqrt {186} }}{9}\).

Vì \(O{M^2} = O{H^2} + H{M^2}\) nên \(OM_{{\rm{max}}}^2 \Leftrightarrow HM_{{\rm{max}}}^2\).

Mà \(H{M_{{\rm{max}}}} = HE + r = \frac{{\sqrt {186} + 2\sqrt {42} }}{9}\).

Suy ra \(OM_{{\rm{max}}}^2 = \frac{4}{3} + {\left( {\frac{{\sqrt {186} + 2\sqrt {42} }}{9}} \right)^2} = \frac{4}{3} + \frac{{354 + 24\sqrt {217} }}{{81}} = \frac{{462 + 24\sqrt {217} }}{{81}}\).

Do đó \(a = 462,b = 217,c = 81\). Vậy \(a + b + c = 760\).