Tìm m để phương trình x³ + 2x² + (m + 1)x + 2(m + 1) = 0  có ba nghiệm lập thành cấp số nhân.

Giả sử phương trình có ba nghiệm phân biệt lập thành cấp số nhân, khi đó:

$\left\{\begin{array}{l}{x}_1{x}_3={x_2}^2\\ x{}_1+x_2+x_3=-2\\ x_1{x}_2+x_2{x}_3+x_3{x}_1=m+1\end{array}\right.$

Từ x₁ + x₂ + x₃ = -2 nên x₁ + x₃ = -2 – x₂

Ta có: x₁x₂ + x₂x₃ + x₃x₁ = m + 1

⇔ x₂(-2 – x₂) + x₂² = m + 1

⇔ -2x₂ = m + 1

⇔ $x_2=-\frac{m+1}{2}$

Thay vào phương trình ta có: ${\left(-\frac{m+1}{2}\right)}^3+2.{\left(-\frac{m+1}{2}\right)}^2+\left(m+1\right)\left(-\frac{m+1}{2}\right)+2\left(m+1\right)=0$

Giải phương trình trên ta được: m = -1; m = 3; m = -4.

+ Ngược lại: Với m = -1 thay vào phương trình đã cho ta được:

x³ + 2x² = 0 ⇔ $\left[\begin{array}{l}{x}_2=x_3=0\\ x_1=-2\end{array}\right.$

Ba nghiệm này lập thành cấp số nhân với công bội q = 0 (thỏa mãn)

+ Với m = 3 thay vào phương trình đã cho ta được: x³ + 2x² + 4x + 8 = 0

⇔ x = -2 (loại)

+ Với m = - 4 thay vào phương trình đã cho ta được: x³ + 2x² – 3x - 6 = 0

⇔ $\left[\begin{array}{l}x=\pm \sqrt{3}\\ x=-2\end{array}\right.$ (không thỏa mãn)

Vậy m = -1.