Trong không gian với hệ trục tọa độ \[Oxyz\], cho hai điểm \(A\left( {1;1;0} \right)\), \(B\left( {0; - 1;2} \right)\). Biết rằng có hai mặt phẳng cùng đi qua hai điểm \(A\), \(O\) và cùng cách \(B\) một khoảng bằng \(\sqrt 3 \). Vectơ nào trong các vectơ dưới đây là một vectơ pháp tuyến của một trong hai mặt phẳng đó.

Chọn B

Gọi \(O = AC \cap BD\).

Tam giác \(SAO\) vuông : \(SO = \sqrt {S{A^2} - A{O^2}}  = \frac{{a\sqrt 6 }}{2}\)

Gắn tọa độ như hình vẽ

\(A\left( {0;0;0} \right)\), \(B\left( {a;0;0} \right)\), \(C\left( {a;a;0} \right)\), \(D\left( {0;a;0} \right)\), \(O\left( {\frac{a}{2};\frac{a}{2};0} \right)\), \(S\left( {\frac{a}{2};\frac{a}{2};\frac{{a\sqrt 6 }}{2}} \right)\).

Vì \(G\) là trọng tâm tam giác \(SCD\) nên \(G\left( {\frac{a}{2};\frac{{5a}}{6};\frac{{a\sqrt 6 }}{6}} \right)\).

Ta có : \(\overrightarrow {AS}  = \left( {\frac{a}{2};\frac{a}{2};\frac{{a\sqrt 6 }}{2}} \right)\) \( = \frac{a}{2}\left( {1;1;\sqrt 6 } \right)\), \(\overrightarrow {BG}  = \left( {\frac{{ - a}}{2};\frac{{5a}}{6};\frac{{a\sqrt 6 }}{6}} \right) = \frac{a}{6}\left( { - 3;5;\sqrt 6 } \right)\).

Góc giữa đường thẳng \(BG\) với đường thẳng \(SA\) bằng:

\(\cos \left( {BG;SA} \right) = \frac{{\left| {\overrightarrow {BG} .\overrightarrow {AS} } \right|}}{{BG.AS}}\)\( = \frac{{\left| { - 3 + 5 + 6} \right|}}{{\sqrt {40} .\sqrt 8 }} = \frac{{\sqrt 5 }}{5}\).

Chọn C

Cách 1:

Chọn hệ trục tọa độ \(Oxyz\) như hình vẽ.

Ta có: \(O\left( {0\,;\,0\,;\,0} \right)\), \(A\left( {0\,;\,a\,;\,0} \right)\), \(B\left( {a\,;\,0\,;\,0} \right)\), \(C\left( {0\,;\,0\,;\,a} \right)\), \(M\left( {\frac{a}{2}\,;\,\frac{a}{2}\,;\,0} \right)\).

Khi đó ta có: $\overrightarrow{BC}=\left(-a;0;a\right), \overrightarrow{OM}=\left(\frac{a}{2};\frac{a}{2};0\right)$

$\Rightarrow \cos \widehat{\left(\overrightarrow{BC};\overrightarrow{OM}\right)}=\frac{\overrightarrow{BC}.\overrightarrow{OM}}{BC.OM}=\frac{-\frac{a^2}{2}}{a.\sqrt{2}.\frac{a\sqrt{2}}{2}}=-\frac{1}{2}\Rightarrow \widehat{\left(\overrightarrow{BC};\overrightarrow{OM}\right)}=120°$

Cách 2:

Ta có \[\left\{ \begin{array}{l}\overrightarrow {OM}  = \frac{1}{2}\left( {\overrightarrow {OA}  + \overrightarrow {OB} } \right)\\\overrightarrow {BC}  = \overrightarrow {OC}  - \overrightarrow {OB} \end{array} \right. \Rightarrow \overrightarrow {OM} .\overrightarrow {BC}  =  - \frac{1}{2}O{B^2} =  - \frac{{{a^2}}}{2}\].

\[BC = \sqrt {O{B^2} + O{C^2}}  = a\sqrt 2 \] và \[OM = \frac{1}{2}AB = \frac{1}{2}\sqrt {O{A^2} + O{B^2}}  = \frac{{a\sqrt 2 }}{2}\].

Do đó: $\cos \left(\overrightarrow{OM},\overrightarrow{BC}\right)=\frac{\overrightarrow{OM}.\overrightarrow{BC}}{OM.BC}=\frac{-\frac{a^2}{2}}{\frac{a\sqrt{2}}{2}.a\sqrt{2}}=-\frac{1}{2}\Rightarrow \left(\overrightarrow{OM}.\overrightarrow{BC}\right)=120°$