Cho hình lăng trụ \(ABC.A'B'C'\)có đáy \(ABC\) là tam giác vuông tại \(A\), \(AB = a\),\(AC = a\sqrt 3 \). Hình chiếu vuông góc của \(A'\) lên mặt phẳng \(\left( {ABC} \right)\) là trung điểm \(H\) của \(BC\), \(A'H = a\sqrt 5 \). Gọi \(\varphi \) là góc giữa hai đường thẳng \(A'B\) và \(B'C\). Tính \(\cos \varphi \).

Ta chọn hệ trục tọa độ \(Oxyz\) với \(O \equiv A\) như hình vẽ, chọn \(a = 1\) đơn vị, khi đó ta có tọa độ điểm \(B\left( {1;0;0} \right)\), \(C\left( {0;\sqrt 3 ;0} \right)\) suy ra trung điểm của \(BC\) là \(H\left( {\frac{1}{2};\frac{{\sqrt 3 }}{2};0} \right)\), vì \(H\) là hình chiếu của \(A'\) nên suy ra tọa độ của \(A'\left( {\frac{1}{2};\frac{{\sqrt 3 }}{2};\sqrt 5 } \right)\). Ta tìm tọa độ \(B'\), gọi tọa độ \(B'\left( {x;y;z} \right)\) khi đó ta có \(\overrightarrow {A'B'}  = \overrightarrow {OB} \) nên tọa độ \(B'\left( {\frac{3}{2};\frac{{\sqrt 3 }}{2};\sqrt 5 } \right)\). Ta cũng có \(\overrightarrow {B'C}  = \left( { - \frac{3}{2};\frac{{\sqrt 3 }}{2}; - \sqrt 5 } \right)\) và \(\overrightarrow {A'B}  = \left( {\frac{1}{2}; - \frac{{\sqrt 3 }}{2}; - \sqrt 5 } \right)\). Từ đó ta có \(\cos \varphi  = \frac{{\left| {\overrightarrow {A'B} .\overrightarrow {B'C} } \right|}}{{\left| {\overrightarrow {A'B} } \right|.\left| {\overrightarrow {B'C} } \right|}}\) \( = \frac{7}{{2.\sqrt 6 .\sqrt 8 }} = \frac{{7\sqrt 3 }}{{24}}\).