$\int \left(2x\sqrt{x^2+1}+x\ln x\right)dx$ có dạng $\frac{a}{3}{\left(\sqrt{x^2+1}\right)}^3+\frac{b}{6}{x}^2\ln x-\frac{1}{4}{x}^2+C$, trong đó $a,b$ là hai số hữu tỉ. Giá trị a bằng:

Theo đề, ta cần tìm $\int \left(2x\sqrt{x^2+1}+x\ln x\right)dx$. Sau đó, ta xác định giá trị của .

Ta có:

$\int \left(2x\sqrt{x^2+1}+x\ln x\right)dx=\int 2x\sqrt{x^2+1}dx+\int x\ln xdx$.

Để tìm $\int \left(2x\sqrt{x^2+1}+x\ln x\right)dx$ ta đặt $I_1=\int 2x\sqrt{x^2+1}dx$ và $I_2=\int x\ln xdx$ và tìm $I_1,I_2$.

*$I_1=\int 2x\sqrt{x^2+1}dx$.

Dùng phương pháp đổi biến.

Đặt $t=\sqrt{x^2+1},t\ge 1$ ta được $t^2=x^2+1,xdx=tdt$.

Suy ra:

$I_1=\int 2x\sqrt{x^2+1}dx=\int 2t^{2}dt=\frac{2}{3}{t}^3+C_1=\frac{2}{3}{\left(\sqrt{x^2+1}\right)}^3+C_1$, trong đó $C_1$ là 1 hằng số.

*$I_2=\int x\ln xdx$.

Dùng phương pháp nguyên hàm từng phần.

Đặt $\left\{\begin{array}{l}u=\ln x\\ dv=xdx\end{array}\right.\Rightarrow \left\{\begin{array}{l}du=\frac{1}{x}dx\\ v=\frac{1}{2}{x}^2\end{array}\right.$, ta được:

$I_2=\int x\ln xdx=\int udv=uv-\int vdu=\frac{1}{2}{x}^2\ln x-\int \frac{1}{2}{x}^2\cdot \frac{1}{x}dx=\frac{1}{2}{x}^2\ln x-\frac{1}{2}\int xdx=\frac{1}{2}{x}^2\ln x-\frac{1}{4}{x}^2+C_2$.

$\int \left(2x\sqrt{x^2+1}+x\ln x\right)dx=I_1+I_2=\frac{2}{3}{\left(\sqrt{x^2+1}\right)}^3+C_1+\frac{1}{2}{x}^2\ln x-\frac{1}{4}{x}^2+C_2=\frac{2}{3}{\left(\sqrt{x^2+1}\right)}^3+\frac{1}{2}{x}^2\ln x-\frac{1}{4}{x}^2+C$.

Suy ra để  $\int \left(2x\sqrt{x^2+1}+x\ln x\right)dx$ có dạng $\frac{a}{3}{\left(\sqrt{x^2+1}\right)}^3+\frac{b}{6}{x}^2\ln x-\frac{1}{4}{x}^2+C$ thì  $a=2\in \mathbb{Q},b=3\in \mathbb{Q}.$

Vậy đáp án chính xác là đáp án B.