Cho hàm số $y=x^4-2\left(1-m^2\right)x^2+m+1.$ Tìm tất cả các giá trị thực của tham số m để hàm số có cực đại, cực tiểu và các điểm cực trị của đồ thị hàm số lập thành tam giác có diện tích là lớn nhất.

Chọn C.

Hàm số $y=x^4-2\left(1-m^2\right)x^2+m+1={\left(x^2-1+m^2\right)}^2-m^4+2m^2+m$

TXĐ: $D=ℝ$

Ta có: $y\text{'}=4x^3-4\left(1-m^2\right)x=4x\left(x^2-1+m^2\right)$

$y\text{'}=0\iff 4x\left(x^2-1+m^2\right)=0\iff \left[\begin{array}{l}x=0\\ x^2=1-m^2\end{array}\right.$

Hàm số có cực đại, cực tiểu $\iff 1-m^2>0\iff m^2<1\iff -1<m<1$

Khi đó, các điểm cực trị của hàm số là $A\left(0;m+1\right);B\left(\sqrt{1-m^2};-m^4+2m^2+m\right);C\left(-\sqrt{1-m^2};-m^4+2m^2+m\right)$

$\overrightarrow{BC}=\left(-2\sqrt{1-m^2};0\right)\Rightarrow BC=2\sqrt{1-m^2}$

Phương trình đường thẳng BC là $y=-m^4+2m^2+m$ hay $y+m^4-2m^2-m=0$

 Khoảng cách từ A đến BC là $d\left(A,BC\right)=\left|m^4-2m^2+1\right|=\left|{\left(m^2-1\right)}^2\right|={\left(m^2-1\right)}^2$

Diện tích $\Delta ABC$ là $S_{ABC}=\frac{1}{2}BC.d\left(A,BC\right)=\sqrt{1-m^2}.{\left(m^2-1\right)}^2=\sqrt{{\left(1-m^2\right)}^5}\le 1$

Dấu “=” xảy ra khi và chỉ khi $m^2=0\iff m=0$ (thỏa mãn điều kiện)

Vậy khi m = 0 thì hàm số có cực đại, cực tiểu và các điểm cực trị của đồ thị hàm số lập thành tam giác có diện tích là lớn nhất.