Trong không gian với hệ trục tọa độ \[Oxyz\], cho hai điểm \(A\left( {1;1;0} \right)\), \(B\left( {0; - 1;2} \right)\). Biết rằng có hai mặt phẳng cùng đi qua hai điểm \(A\), \(O\) và cùng cách \(B\) một khoảng bằng \(\sqrt 3 \). Vectơ nào trong các vectơ dưới đây là một vectơ pháp tuyến của một trong hai mặt phẳng đó.

Chọn hệ trục tọa độ sao cho \[A \equiv O\], như hình vẽ:

Khi đó ta có:

\[A\left( {0\,;\,0\,;\,0} \right)\], \[B\left( {2a\,;\,0\,;\,0} \right)\], \[D\left( {0\,;\,2a\,;\,0} \right)\], \[C\left( {2a\,;\,2a\,;\,0} \right)\], \[S\left( {0\,;\,0\,;\,a} \right)\], \[M\left( {0\,;\,a\,;\,\frac{a}{2}} \right)\].

\[\overrightarrow {SB}  = \left( {2a\,;\,0\,;\, - a} \right)\],\[\overrightarrow {SC}  = \left( {2a\,;\,2a\,;\, - a} \right)\],\[\overrightarrow {MA}  = \left( {0\,;\, - a\,;\, - \frac{a}{2}} \right)\],\[\overrightarrow {MC}  = \left( {2a\,;\,a\,;\, - \frac{a}{2}} \right)\].

\[\overrightarrow {{n_1}}  = \left[ {\overrightarrow {SB} \,,\,\overrightarrow {SC} } \right]\]\[ = \left( {2{a^2}\,;\,0\,;\,4{a^2}} \right)\] và \[\overrightarrow {{n_2}}  = \left[ {\overrightarrow {MA} \,,\,\overrightarrow {MC} } \right]\]\[ = \left( {{a^2}\,;\, - {a^2}\,;\,2{a^2}} \right)\].

Gọi \[\alpha \](\(0^\circ  \le \alpha  \le 90^\circ \)) là góc tạo bởi hai mặt phẳng \[\left( {AMC} \right)\]và \[\left( {SBC} \right)\].

ta có \[cos\alpha  = \left| {\cos \left( {\overrightarrow {{n_1}} \,,\,\overrightarrow {{n_2}} } \right)} \right|\]\[ = \frac{{\left| {\overrightarrow {{n_1}} \,.\overrightarrow {{n_2}} } \right|}}{{\left| {\overrightarrow {{n_1}} } \right|\,.\left| {\overrightarrow {{n_2}} } \right|}}\] $=\frac{\left|2a^2.a^2 +4a^2.2a^2\right|}{\sqrt{{\left(2a^2\right)}^2+{\left(4a^2\right)}^2}.\sqrt{{\left(a^2\right)}^2+{(-a^2)}^2+{\left(a^2\right)}^2}}$

\[ = \frac{{10{a^4}}}{{\sqrt {20.6.{{\left( {{a^4}} \right)}^2}} }}\]\[ = \frac{5}{{\sqrt {30} }}\].

Mà \[{\tan ^2}\alpha  = \frac{1}{{{{\cos }^2}\alpha }} - 1\]\[ = {\left( {\frac{{\sqrt {30} }}{5}} \right)^2} - 1\]\[ = \frac{5}{{25}}\]. Suy ra \[\tan \alpha  = \frac{{\sqrt 5 }}{5}\].