Hệ số của số hạng chứa \[{x^6}y\] trong khai triển nhị thức \[{\left( {3{x^2} - y} \right)^4}\] là:

Tổng trọng lượng cá thu được sau một vụ là: \(T\left( n \right) = n\left( {360 - 10n} \right) = 360n - 10{n^2}\).

Đây là một tam thức bậc hai với ẩn là \(n\) có hệ số \(a =  - 10 < 0\) và \(b = 360\) \( \Rightarrow \frac{{ - b}}{{2a}} = \frac{{ - 360}}{{2.\left( { - 10} \right)}} = 18\)

Khi đó \(T\left( {18} \right) = 3240\).

Vậy người nuôi cần thả \(18\) con cá trên một đơn vị diện tích để đạt tổng trọng lượng cá lớn nhất là \(3240\) (đơn vị khối lượng).

Trường hợp 1: Lấy \(1\) quả màu vàng và \(2\) quả màu đỏ có: \(C_8^2 = 28\) cách.

Trường hợp 2: Lấy \(1\) quả màu vàng và \(2\) quả màu xanh có: \(C_3^2 = 3\) cách.

Trường hợp 3: Lấy \(1\) quả màu đỏ và \(2\) quả màu xanh có: \(C_8^1.C_3^2 = 24\) cách.

Trường hợp 4: Lấy \(1\) quả màu xanh và \(2\) quả màu đỏ có: \(C_3^1.C_8^2 = 84\) cách.

Số cách để lấy được \(3\) quả cầu có đúng hai màu là: \(28 + 3 + 24 + 84 = 139\) cách.

Cách khác:

Số cách lấy \(3\) quả bất kì: \(C_{12}^3 = 220\).

Số cách lấy \(3\) quả có đủ \(3\) màu: \(C_8^1.C_3^1.C_1^1 = 24\).

Số cách lấy \(3\) quả chỉ có \(1\) màu: \(C_8^3 + C_3^3 = 57\).

Vậy số cách lấy thỏa mãn yêu cầu bài toán là \(220 - 24 - 57 = 139\).