Trong không gian với hệ trục tọa độ Oxyz, cho hai đường thẳng \({l_1}:x - 1 = \frac{{y + 2}}{2} = - z\) và \({{\rm{l}}_{\rm{2}}}:\frac{{x - 3}}{2} = \frac{{y + 1}}{{ - 1}} = \frac{{z - 1}}{2}\). Gọi \(\left( Q \right)\) là mặt phẳng chứa \({{\rm{l}}_{\rm{1}}}\) và tạo với \({{\rm{l}}_{\rm{2}}}\) một góc lớn nhất là \(\alpha \). Khi đó \(\cos \alpha \) bằng    

Đường thẳng \({{\rm{l}}_{\rm{1}}}\) có một vectơ chỉ phương là \(\overrightarrow {{u_1}} = \left( {1;2; - 1} \right)\) và đi qua điểm \({M_1}\left( {1; - 2;0} \right)\).

Vì \(\left( Q \right)\) chứa \({{\rm{l}}_{\rm{1}}}\) nên đi qua \({M_1}\) và vectơ pháp tuyến của nó vuông góc với \(\overrightarrow {{u_1}} \).

Do đó, ta có thể giả sử phương trình của \(\left( Q \right)\) có dạng

\(A\left( {x - 1} \right) + B\left( {y + 2} \right) + Cz = 0\) với \(1 \cdot A + 2 \cdot B + \left( { - 1} \right) \cdot C = 0\) và \({A^2} + {B^2} + {C^2} > 0\).

Gọi \(\theta \) là góc giữa \(\left( Q \right)\) và \({{\rm{l}}_{\rm{2}}}\). Do vectơ pháp tuyến của \(\left( Q \right)\) là \(\overrightarrow n = \left( {A;B;C} \right) = \left( {A;B;A + 2B} \right)\) vì \(A + 2B = C\), và vectơ chỉ phương của \({{\rm{l}}_{\rm{2}}}\) là \(\overrightarrow {{u_2}} = \left( {2; - 1;2} \right)\) nên ta có

\(\sin \theta = \frac{{\left| {4A + 3B} \right|}}{{3\sqrt {2{A^2} + 4AB + 5{B^2}} }} = \frac{1}{3}\sqrt {\frac{{{{\left( {4A + 3B} \right)}^2}}}{{2{A^2} + 4AB + 5{B^2}}}} \).

Ta xét hai trường hợp.

+) Trường hợp \(B = 0\) thì \(\sin \theta = \frac{{2\sqrt 2 }}{3}\).

+) Trường hợp \(B \ne 0\), ta đặt \(r = \frac{A}{B}\) thì được \(\sin \theta = \frac{1}{3}\sqrt {\frac{{{{\left( {4r + 3} \right)}^2}}}{{2{r^2} + 4r + 5}}} \).

Từ đó, ta xét hàm số \(f\left( r \right) = \frac{{{{\left( {4r + 3} \right)}^2}}}{{2{r^2} + 4r + 5}}\) trên \(\mathbb{R}\).

Ta có \(f'\left( r \right) = \frac{{8\left( {4r + 3} \right)\left( {2{r^2} + 4r + 5} \right) - {{\left( {4r + 3} \right)}^2}\left( {4r + 4} \right)}}{{{{\left( {2{r^2} + 4r + 5} \right)}^2}}} = \frac{{4\left( {4r + 3} \right)\left( {r + 7} \right)}}{{{{\left( {2{r^2} + 4r + 5} \right)}^2}}}\).

Ta có bảng biến thiên

Dựa vào bảng biến thiên ta có giá trị lớn nhất là \(\frac{{25}}{3}\). Khi đó, \(\sin \theta = \frac{{5\sqrt 3 }}{9}\).

+) So sánh hai trường hợp trên, ta thu được \(\sin \alpha = \frac{{5\sqrt 3 }}{9}\). Từ đó \(\cos \alpha = \frac{{\sqrt 6 }}{9}\). Chọn C.