Tập nghiệm của bất phương trình \({\log _2}\left( {x\sqrt {{x^2} + 2} + 4 - {x^2}} \right) + 2x + \sqrt {{x^2} + 2} \le 1\) là \(\left( { - \sqrt a ; - \sqrt b } \right].\)

Ta có: \(x\sqrt {{x^2} - 2} - {x^2} = x\left( {\sqrt {{x^2} + 2} - x} \right) = \frac{{2x}}{{\sqrt {{x^2} + 2} + x}}.\)

Ta có: \({\log _2}\left( {x\left( {\sqrt {{x^2} + 2} - x} \right) + 4} \right) + 2x + \sqrt {{x^2} + 2} \le 1\)

\( \Leftrightarrow {\log _2}\left( {x\left( {\sqrt {{x^2} + 2} - x} \right) + 4} \right) + 2x + \sqrt {{x^2} + 2} \le 1.\)

\( \Leftrightarrow {\log _2}\left( {\frac{{2x}}{{\sqrt {{x^2} + 2} + x}} + 4} \right) + 2x + \sqrt {{x^2} + 2} \le 1 \Leftrightarrow {\log _2}\frac{{2\left( {3x + 2\sqrt {{x^2} + 2} } \right)}}{{\sqrt {{x^2} + 2} + x}} + 2x + \sqrt {{x^2} + 2} \le 1,\left( 1 \right)\)

Ta có \(\sqrt {{x^2} + 2} + x >0,\forall x \in \mathbb{R}.\)

Điều kiện: \(3x + 2\sqrt {{x^2} + 2} >0 \Leftrightarrow 2\sqrt {{x^2} + 2} >- 3x \Leftrightarrow \left[ \begin{array}{l}x \ge 0\\\left\{ \begin{array}{l}x < 0\\4{x^2} + 8 >9{x^2}\end{array} \right.\end{array} \right. \Leftrightarrow x >- \sqrt {\frac{8}{5}} .\left( * \right)\)</>

Với điều kiện (*), ta có

\(\left( 1 \right) \Leftrightarrow {\log _2}\left( {3x + 2\sqrt {{x^2} + 2} } \right) + 3x + 2\sqrt {{x^2} + 2} \le {\log _2}\left( {\sqrt {{x^2} + 2} + x} \right) + \sqrt {{x^2} + 2} + x,\left( 2 \right).\)

Xét hàm số \(f\left( t \right) = {\log _2}t + t\) với \(t >0.\) Có \(f'\left( t \right) = \frac{1}{{t.\ln 2}} + 1 >0,\forall t \in \left( {0; + \infty } \right).\)

Hàm số \(f\left( t \right) = {\log _2}t + t\) đồng biến trên \(\left( {0; + \infty } \right),\left( {3x + 2\sqrt {{x^2} + 2} } \right) \in \left( {0; + \infty } \right)\) và \(\left( {\sqrt {{x^2} + 2} + x} \right) \in \left( {0; + \infty } \right).\)

Nên \(\left( 2 \right) \Leftrightarrow f\left( {3x + 2\sqrt {{x^2} + 2} } \right) \le f\left( {\sqrt {{x^2} + 2} + x} \right)\)

\( \Leftrightarrow 3x + 2\sqrt {{x^2} + 2} \le \sqrt {{x^2} + 2} + x \Leftrightarrow \sqrt {{x^2} + 2} \le - 2x \Leftrightarrow \left\{ \begin{array}{l} - 2x \ge 0\\{x^2} + 2 \le 4{x^2}\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}x \le 0\\3{x^2} \ge 2\end{array} \right. \Leftrightarrow x \le - \sqrt {\frac{2}{3}} .\)

Kết hợp với ĐK ta có tập nghiệm bất phương trình là \(\left( { - \sqrt {\frac{8}{5}} ; - \sqrt {\frac{2}{3}} } \right)\) hay \(a.b = \frac{{16}}{{15}}.\)

Đáp án C