Cho hình chóp \(S.ABCD\) có đáy \(ABCD\) là hình vuông cạnh \(a\), mặt bên \(SAB\) là tam giác đều và nằm trong mặt phẳng vuông góc với mặt phẳng \(\left( {ABCD} \right)\). Gọi \(G\) là trọng tâm của tam giác \(SAB\) và \(M,\,N\) lần lượt là trung điểm của \(SC,\,SD\)(tham khảo hình vẽ bên). Tính côsin của góc giữa hai mặt phẳng \(\left( {GMN} \right)\) và \(\left( {ABCD} \right)\).

Chọn hệ trục tọa độ \[Oxyz\] như hình vẽ. Khi đó

\(S\left( {0;\,0;\,\frac{{\sqrt 3 }}{2}} \right)\); \(A\left( {\frac{{ - a}}{2};0;\,0} \right)\); \(B\left( {\frac{a}{2};0;\,0} \right)\);\(C\left( {\frac{a}{2};a;\,0} \right)\); \(D\left( {\frac{{ - a}}{2};a;\,0} \right)\)

suy ra \(G\left( {0;\,0;\,\frac{{a\sqrt 3 }}{6}} \right)\); \(M\left( {\frac{a}{4};\frac{a}{2};\,\frac{{a\sqrt 3 }}{4}} \right)\); \(N\left( { - \frac{a}{4};\frac{a}{2};\,\frac{{a\sqrt 3 }}{4}} \right)\)

Ta có mặt phẳng \(\left( {ABCD} \right)\)có vectơ pháp tuyến là \(\vec k = \left( {0;\,0;\,1} \right)\), mặt phẳng \(\left( {GMN} \right)\)có vectơ pháp tuyến là \(\vec n = \left[ {\overrightarrow {GM} ;\,\overrightarrow {GN} } \right] = \left( {0;\, - \frac{{a\sqrt 3 }}{{24}};\,\frac{a}{4}} \right)\)

Gọi \(\alpha \) là góc giữa hai mặt phẳng \(\left( {GMN} \right)\) và \(\left( {ABCD} \right)\), ta có

\[{\rm{cos}}\alpha  = \frac{{\left| {\vec n.\vec k} \right|}}{{\left| {\vec n} \right|.\left| {\vec k} \right|}}\]\[ = \frac{{\frac{1}{4}}}{{\frac{{\sqrt {39} }}{{24}}}}\]\[ = \frac{{2\sqrt {39} }}{{13}}\].