b) Tìm giá trị của x để P = 5

Gọi vận tốc của ô tô thứ nhất là $x\left(km/h\right)\left(x>0\right)$

Suy ra vận tốc của ô tô thứ hai là : $x+10(km/h)$

Thời gian ô tô thứ nhất đi hết quãng đường AB là : $\frac{120}{x}\left(h\right)$

Thời gian ô tô thứ hai đi hết quãng đường AB là : $\frac{120}{x+10}\left(h\right)$

Vì ô tô thứ hai đến B trước ô tô thứ nhất 24 phút $=\frac{2}{5}$giờ nên ta có phương trình :

$\begin{array}{l}\frac{120}{x}-\frac{120}{x+10}=\frac{2}{5}\iff 600\left(x+10\right)-600x=2x\left(x+10\right)\\ \iff 600x+6000-600x=2x\left(x+10\right)\\ \iff 2x^2+20x-6000=0\iff x^2+10x-3000=0\end{array}$

Ta có : $\Delta \text{'}={\left(-5\right)}^2+3000=3025={55}^2>0$ nên phương trình có hai nghiệm phân biệt $\left[\begin{array}{l}{x}_1=-5+55=50\left(tm\right)\\ x_2=-5-55=-60\left(ktm\right)\end{array}\right.$

Vậy vận tốc của ô tô thứ nhất: 50km/h và vận tốc của ô tô thứ hai là 60km/h

b) Phương trình (1) có $\Delta ={\left(m-2\right)}^2+32>0$ (với mọi m) nên phương trình (1) luôn có hai nghiệm phân biệt $x_1,x_2$. Khi đó, theo Vi-et ta có :

$\left\{\begin{array}{l}{x}_1+2x_2=-m+2\\ x_1{x}_2=-8\end{array}\right.$. Ta có :

$\begin{array}{l}Q=\left(x_1^2-1\right)\left(x_2^2-1\right)=x_1^2{x}_2^2-\left(x_1^2+x_2^2\right)+1\\ ={\left(x_1{x}_2\right)}^2-{\left(x_1+x_2\right)}^2+2x_1{x}_2+1\\ =64-{\left(-m+2\right)}^2-16+1=-{\left(-m+2\right)}^2+49\le 49\left(\forall m\right)\end{array}$

Vậy $Q_{\max }=49$. Dấu $"="$xảy ra khi m = 2

Vậy giá trị lớn nhất của Q bằng 49 khi m = 2