Một nhóm học sinh gồm 5 nam và 5 bạn nữ được xếp thành một hàng dọc. Khi đó:

Số tam giác được tạo từ 3 đỉnh trong 12 đỉnh là \(C_{12}^3\). Vì vậy \(n(\Omega ) = C_{12}^3\).

Gọi \(A\) : "Chọn được tam giác không có cạnh nào là cạnh của đa giác".

Xét số tam giác có 2 cạnh là cạnh của đa giác:

Các tam giác này sẽ có 3 đỉnh là 3 đỉnh liên tiếp của đa giác tức là có 2 cạnh là 2 cạnh liên tiếp của đa giác, 2 cạnh này cắt nhau tại 1 đỉnh, mà đa giác này có 12 đỉnh nên có 12 tam giác thỏa mãn trường hợp này.

Xét số tam giác có 1 cạnh là cạnh của đa giác:

Trước tiên ta chọn 1 cạnh trong 12 cạnh của đa giác nên có 12 cách chọn.

Tiếp theo chọn 1 đỉnh còn lại trong 8 đỉnh (trừ 2 đỉnh tạo nên cạnh đã chọn và 2 đỉnh liền kể với cạnh đã chọn). Do đó trong trường hợp này có \(8.12\) tam giác.

Số tam giác có ít nhất một cạnh là cạnh của đa giác là \(12 + 8.12 = 108\).

Suy ra: \(n(A) = C_{12}^3 - 108 = 112\). Vậy \(P(A) = \frac{{n(A)}}{{n(\Omega )}} = \frac{{28}}{{55}}\).

Giả sử các vị trí của hàng dọc được đánh số thứ tự từ đầu hàng là \(1,2,3,4,5,6,7,8\). Số cách xếp 8 bạn thành một hàng dọc là \(8! = 40320\).

Xếp các bạn nam và bạn nữ đứng xen kẽ nhau có hai trường hợp:

Truờng hợp 1: Các bạn nam đứng ở các vị trí số lẻ còn các bạn nữ đứng ở các vị trí số chẵn. Số cách xếp như vậy là \(4!.4! = 576\).

Truờng hợp 2: Các bạn nữ đứng ở các vị trí số lẻ còn các bạn nam đứng ở các vị trí số chẵn. Số cách xếp như vậy là \(4! \cdot 4! = 576\).

Vậy xác suất của biến cố “Xếp được các bạn nam và bạn nữ đứng xen kẽ nhau" là: \(\frac{{576 + 576}}{{40320}} = \frac{1}{{35}}\)