Cho hàm số $y=x^3+2m{x}^2+\left(m+3\right)x+4\left(C_m\right)$. Giá trị của tham số m để đường thẳng $\left(d\right):y=x+4$cắt $\left(C_m\right)$tại ba điểm phân biệt $A\left(0;4\right),B,C$ sao cho tam giác KBC có diện tích bằng $8\sqrt{2}$với điểm $K\left(1;3\right)$là:

+ Xét phương trình hoành độ giao điểm của đồ thị và đường thẳng ta có:

$x^3+2m{x}^2+(m+3)x+4=x+4$

$\iff x^3+2m{x}^2+(m+2)x=0$

$\iff x(x^2+2mx+m+2)=0$

$\iff \left[\begin{array}{c}x=0\\ x^2+2mx+m+2=0\left(1\right)\end{array}\right.$

Để (d) cắt (Cm) tại 3 điểm phân biệt thì phương trình (1) có 2 nghiệm phân biệt khác 0

$\Rightarrow \left\{\begin{array}{c}\Delta ;>0\\ 0+2m.0+m+2\ne 0\end{array}\right.\iff \left\{\begin{array}{c}{m}^2-m-2>0\\ m\ne -2\end{array}\right.\iff \left\{\begin{array}{c}\left[\begin{array}{c}m>2\\ m<-1\end{array}\right.\\ m\ne 2\end{array}\right.$

Gọi $x_1;x_2$ là 2 nghiệm phân biệt của phương trình (1)

$\Rightarrow B\left(x_1;x_1+4\right);C\left(x_2;x_2+4\right).$

Khi đó áp dụng định lí Vi-ét ta có: $\left\{\begin{array}{c}{x}_1+x_2=-2m\\ x_1.x_2=m+2\end{array}\right.$

Ta có: $S_{KBC}=\frac{1}{2}.d\left(K,BC\right).BC.$

Phương trình đường thẳng $\left(d\right):y=x+4\iff x-y+4=0$

Vì B,C thuộc đường thẳng (d) nên ta có:

$d\left(K,BC\right)=d\left(K;d\right)=\frac{\left|1-3+4\right|}{\sqrt{1^2+{\left(-1\right)}^2}}=\sqrt{2}.$

$\begin{array}{l}BC=\sqrt{{\left(x_2-x_1\right)}^2+{\left(x_2+4-x_1-4\right)}^2}\\ BC=\sqrt{2{\left(x_1-x_2\right)}^2}\\ BC=\sqrt{2}.\sqrt{{\left(x_1+x_2\right)}^2-4x_1{x}_2}\\ BC=\sqrt{2}.\sqrt{4m^2-4\left(m+2\right)}\\ BC=2\sqrt{2}.\sqrt{m^2-m-2}\end{array}$

Theo bài ra ta có:

$\begin{array}{l}{S}_{KBC}=8\sqrt{2}\\ \iff \frac{1}{2}.\sqrt{2}.2\sqrt{2}\sqrt{m^2-m-2}=8\sqrt{2}\\ \iff \sqrt{m^2-m-2}=4\sqrt{2}\\ \iff m^2-m-2=32\\ \iff m^2-m-34=0\\ \iff m=\frac{1\pm \sqrt{137}}{2}\left(tm\right)\end{array}$

Vậy $m=\frac{1\pm \sqrt{137}}{2}$

Đáp án cần chọn là: C