Trong không gian với hệ tọa độ \(Oxyz\), mặt phẳng đi qua ba điểm \(A\left( {2;3;5} \right)\), \(B\left( {3;{\rm{2}};{\rm{4}}} \right)\) và \(C\left( {4;{\rm{1}};{\rm{2}}} \right)\) có phương trình là

Gọi \(I\) là trung điểm của \(AB\) nên \(I\left( {1;\;2;\;4} \right)\)

\[MA{\,^2} + MB{\,^2} = {\left( {\overrightarrow {MI}  + \overrightarrow {IA} } \right)^2} + {\left( {\overrightarrow {MI}  + \overrightarrow {IB} } \right)^2} = MI{\,^2} + 2\overrightarrow {MI} .\overrightarrow {IA}  + IA{\,^2} + MI{\,^2} + 2\overrightarrow {MI} .\overrightarrow {IB}  + IB{\,^2}\]

                    \( = 2.MI{\,^2} + 2\overrightarrow {MI} (\overrightarrow {IA}  + \overrightarrow {IB} ) + IA{\,^2} + IB{\,^2} = 2.MI{\,^2} + IA{\,^2} + IB{\,^2}\)

\(MA{\,^2} + MB{\,^2}\) đạt giá trị nhỏ nhất Û \(2.MI{\,^2}\) đạt giá trị nhỏ nhất Û \(MI\) đạt giá trị nhỏ nhất.

\(\left( \alpha  \right):x - 2y + z + 5 = 0\) có vectơ pháp tuyến \(\overrightarrow n  = \left( {1;\; - 2;\;1} \right)\)

Do \(M \in \left( \alpha  \right)\) nên \(M\left( {{x_0};\;{y_0};\;{z_0}} \right)\) là hình chiếu vuông góc của \(I\) lên mặt phẳng \(\left( \alpha  \right)\).

Suy ra: \(\left\{ \begin{array}{l}M \in \left( \alpha  \right)\\\overrightarrow {IM}  = k.\overrightarrow n \end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}{x_0} - 2{y_0} + {z_0} + 5 = 0\\{x_0} - 1 = k\\{y_0} - 2 =  - 2k\\{z_0} - 4 = k\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}{x_0} = 0\\{y_0} = 4\\{z_0} = 3\\k =  - 1\end{array} \right.\)

Do \[\left( P \right)\] song song với \[\left( \alpha  \right)\] nên \[\left( P \right)\] có phương trình: \[2x + 3y + z + m = 0\], điều kiện \[m \ne 1\].

Khi đó: \[\left( P \right)\] cắt các tia \[{\rm{O}}x\,,{\rm{O}}y\,,{\rm{O}}z\] lần lượt tại các điểm là: \[A\left( { - \frac{m}{2}\,;0\,;0} \right)\], \[B\left( {0\,; - \frac{m}{3}\,;0} \right)\], \[C\left( {0\,;0\,; - \,m} \right)\], với \[m < 0\].

Thể tích khối tứ diện \[OABC\] bằng \[6\] nên \[\frac{1}{6}OA\,.\,OB\,.\,OC = 6\]

\[ \Leftrightarrow \frac{1}{6}.\left| { - \frac{m}{2}} \right|.\left| { - \frac{m}{3}} \right|.\left| { - \,m} \right| = 6 \Leftrightarrow  - \frac{{{m^3}}}{{36}} = 6\] (do \[m < 0\])

\[ \Leftrightarrow {m^3} =  - \,216 \Leftrightarrow m =  - \,6\] (thỏa mãn).