Cho hình lăng trụ \(ABC.A'B'C'\) có đáy \(ABC\) là tam giác đều cạnh \(a\), tam giác \(A'BC\) đều và nằm trong mặt phẳng vuông góc với mặt phẳng \(\left( {ABC} \right)\). \(M\) là trung điểm cạnh \(CC'\). Tính côsin góc \(\alpha \), biết \(\alpha \) là góc giữa hai vectơ \(\overrightarrow {AA'} \) và \(\overrightarrow {BM} \).

Đáp án đúng là: B

Gọi \(H\) là trung điểm của \(BC\).

Ta có: \(AH = A'H = \frac{{a\sqrt 3 }}{2}\) và \(AH \bot BC,A'H \bot BC\) \( \Rightarrow BC \bot \left( {AA'H} \right) \Rightarrow BC \bot AA'\) hay \(BC \bot BB'\). Do đó, \(BCC'B'\) là hình chữ nhật.

Khi đó, \(CC' = AA' = \frac{{a\sqrt 3 }}{2}.\sqrt 2  = \frac{{a\sqrt 6 }}{2}\) \( \Rightarrow BM = \sqrt {{a^2} + \frac{{{a^2}.6}}{{16}}}  = \frac{{a\sqrt {22} }}{4}\).

Xét \(\overrightarrow {AA'} .\overrightarrow {BM}  = \overrightarrow {AA'} .\left( {\overrightarrow {BC}  + \overrightarrow {CM} } \right) = \overrightarrow {AA'} .\overrightarrow {BC}  + \overrightarrow {AA'} .\overrightarrow {CM}  = 0 + \left| {\overrightarrow {AA'} } \right|.\left| {\overrightarrow {CM} } \right|.\cos 0^\circ  = \frac{{3{a^2}}}{4}.\)

Suy ra \(\cos \alpha  = \cos \left( {\overrightarrow {AA'} ,\overrightarrow {BM} } \right) = \frac{{\overrightarrow {AA'} .\overrightarrow {BM} }}{{\left| {\overrightarrow {AA'} } \right|.\left| {\overrightarrow {BM} } \right|}} = \frac{{\frac{{3{a^2}}}{4}}}{{\frac{{a\sqrt 6 }}{2}.\frac{{a\sqrt {22} }}{4}}} = \frac{{\sqrt {33} }}{{11}}.\)