Cho hình lăng trụ đứng \[ABC.A'B'C'\]có \[AB = AC = a,{\rm{ }}BAC = 120^\circ \]. Gọi \[M,{\rm{ }}N\]lần lượt là trung điểm của \[B'C'\]và \[CC'\]. Biết thể tích khối lăng trụ \[ABC.A'B'C'\]bằng \[\frac{{\sqrt 3 {a^3}}}{4}\]. Gọi \[\alpha \]là góc giữa mặt phẳng \[\left( {AMN} \right)\]và mặt phẳng \[\left( {ABC} \right)\], tính \[\cos \alpha \].

Lấy \[H\] là trung điểm của \[BC\].

Ta có: \[{V_{ABC.A'BC'}} = CC'.{S_{\Delta ABC}} = \frac{{\sqrt 3 {a^3}}}{4} \Rightarrow CC = a\]vì \[{S_{\Delta ABC}} = \frac{{\sqrt 3 {a^2}}}{4}\].

Chọn hệ trục tọa độ \[Oxyz\] như hình vẽ. Ta có \[M \equiv O\].

\[M\left( {0\,;0\,;0} \right),{\rm{ }}A'\left( {\frac{a}{2}\,;0\,;0} \right),{\rm{ }}B'\left( {0\,;\frac{{\sqrt 3 a}}{2}\,;0} \right),{\rm{ C'}}\left( {0; - \frac{{\sqrt 3 a}}{2};0} \right);{\rm{ }}A\left( {\frac{a}{2};0\,;a} \right);{\rm{ }}N\left( {0\,; - \frac{{\sqrt 3 a}}{2};\frac{a}{2}} \right)\].

Ta có: \[\left( {ABC} \right) \bot Oz\] nên \[\left( {ABC} \right)\] có một vectơ pháp tuyến là \[\overrightarrow k  = \left( {0;0;1} \right)\].

Ta có \[\overrightarrow {MA}  = \left( {\frac{a}{2};0;a} \right)\], \[\overrightarrow {MN}  = \left( {0; - \frac{{\sqrt 3 a}}{2};\frac{a}{2}} \right)\].

Gọi \[{\overrightarrow v _1} = \frac{a}{2}\overrightarrow {MA}  \Rightarrow {\overrightarrow v _1} = \left( {1;0;2} \right)\], \[{\overrightarrow v _2} = \frac{a}{2}\overrightarrow {MN}  \Rightarrow {\overrightarrow v _2} = \left( {0; - \sqrt 3 ;1} \right)\].

Khi đó mặt phẳng \[\left( {AMN} \right)\] song song hoặc chứa giá của hai vectơ không cùng phương là \({\overrightarrow v _1}\) và \({\overrightarrow v _2}\) nên có một vectơ pháp tuyến là \[\overrightarrow n  = \left[ {{{\overrightarrow v }_1},{{\overrightarrow v }_2}} \right] = \left( {2\sqrt 3 ; - 1; - \sqrt 3 } \right)\].

Vậy \[\cos \alpha  = \left| {\cos \left( {\overrightarrow k ,\overrightarrow n } \right)} \right| = \frac{{\left| {\overrightarrow k .\overrightarrow n } \right|}}{{\left| {\overrightarrow k } \right|.\left| {\overrightarrow n } \right|}} = \frac{{\sqrt 3 }}{4}\].