Cho hình lăng trụ đứng \(ABC.A'B'C'\) có đáy ABC là tam giác cân với \(AB = AC = a\) và góc $\widehat{BAC}={120}^o$ và cạnh bên \(BB' = a\). Gọi \(I\) là trung điểm của \(CC'\). Tính cosin góc giữa hai mặt phẳng \(\left( {ABC} \right)\) và \(\left( {AB'I} \right)\).

Gọi \(O\)là trung điểm của \(BC\). Gắn hệ trục tọa độ như hình vẽ.

Ta có: $OB=AB\sin 60°=\frac{a\sqrt{3}}{2}$; $OA=AB\cos 60°=\frac{a}{2}$.

Giả sử \(a = 1\) suy ra \(A\left( {\frac{1}{2};0;0} \right)\), \(B\left( {0; - \frac{{\sqrt 3 }}{2};0} \right)\),\(C\left( {0;\frac{{\sqrt 3 }}{2};0} \right)\), \(I\left( {0;\frac{{\sqrt 3 }}{2};\frac{1}{2}} \right)\), \(B'\left( {0; - \frac{{\sqrt 3 }}{2};1} \right)\).

Ta có: \(\overrightarrow {{n_1}}  = \left[ {\overrightarrow {AB} ,\overrightarrow {AC} } \right] = \left( {0;0; - \frac{{\sqrt 3 }}{2}} \right)\) và \(\overrightarrow {{n_2}}  = \left[ {\overrightarrow {AB'} ,\overrightarrow {AI} } \right] = \left( { - \frac{{3\sqrt 3 }}{4}; - \frac{1}{4}; - \frac{{\sqrt 3 }}{2}} \right)\)

Gọi \(\alpha \) là góc giữa \(\left( {ABC} \right)\) và \(\left( {AB'I} \right)\). Suy ra: \(\cos \alpha  = \frac{{\left| {\overrightarrow {{n_1}} .\overrightarrow {{n_2}} } \right|}}{{\left| {\overrightarrow {{n_1}} } \right|.\left| {\overrightarrow {{n_2}} } \right|}} = \sqrt {\frac{3}{{10}}}  = \frac{{\sqrt {30} }}{{10}}\).