Trong không gian với hệ tọa độ $Oxyz$ , cho điểm  $A\left(0;8;2\right)$ và mặt cầu $\left(S\right)$  có phương trình $\left(S\right):{\left(x-5\right)}^2+{\left(y+3\right)}^2+{\left(z-7\right)}^2=72$  và điểm $B\left(9;-7;23\right)$ . Viết phương trình mặt phẳng $\left(P\right)$ qua $A$ và tiếp xúc với $\left(S\right)$ sao cho khoảng cách từ $B$ đến $\left(P\right)$  lớn nhất. Giả sử $\overrightarrow{n}=\left(1;m;n\right)\left(m,n\in \mathbb{Z}\right)$  là một vectơ pháp tuyến của $\left(P\right)$ , tính tích $m.n$.

Đáp án D

Cách 1:

Mặt cầu $\left(S\right)$ có tâm  $I\left(5;-3;7\right)$ và bán kính $R=6\sqrt{2}$

 $\overrightarrow{IA}=\left(-5;11;-5\right)\Rightarrow IA=\sqrt{171}>6\sqrt{2}$ nên điểm  $A$ nằm ngoài mặt cầu.

 $\overrightarrow{IB}=\left(4;-4;16\right)\Rightarrow IB=12\sqrt{2}>6\sqrt{2}$ nên điểm $B$  nằm ngoài mặt cầu.

$\Rightarrow$ $A,I,B$ không thẳng hàng.

Mặt phẳng $\left(P\right)$  qua $A$  và tiếp xúc với $\left(S\right)$  nên khi  $\left(P\right)$ thay đổi thì tập hợp các đường thẳng qua $A$  và tiếp điểm tạo thành hình nón.

Gọi $\left(AB,\left(P\right)\right)=\alpha \Rightarrow d\left(B,\left(P\right)\right)=AB.\sin \alpha$  đạt giá trị lớn nhất $A,B,I,H$  đồng phẳng $\iff \left(AIB\right)\perp \left(P\right)$  ( $H$ là hình chiếu của $B$ lên $\left(P\right)$ ).

Mặt phẳng $\left(P\right)$ qua $A$  và nhận $\overrightarrow{n}=\left(1;m;n\right)$  làm vectơ pháp tuyến nên có phương trình $x+my-nz-8m-2n=0$.

Mặt phẳng $\left(P\right)$  tiếp xúc với $\left(S\right)\iff d\left(I,\left(P\right)\right)=R$ .

$\begin{array}{l}\iff \frac{\left|5n-11m+5\right|}{\sqrt{1+m^2+n^2}}=6\sqrt{2}\iff {\left(5n-11m+5\right)}^2=72\left(1+m^2+n^2\right)\\ \iff 49m^2-47n^2-110mn+50n-110m-47=0\left(1\right)\end{array}$

Ta có: $\left[\overrightarrow{IA},\overrightarrow{IB}\right]=\left(156;70;-24\right)$.

Gọi $\overrightarrow{n_1}$  là vectơ pháp tuyến của mặt phẳng $\left(AIB\right)$ , chọn $\overrightarrow{n_1}=\left(13;5;-2\right)$

Do $\left(AIB\right)\perp \left(P\right)\iff \overrightarrow{n_1}.\overrightarrow{n}=0\iff 13+5m-2n=0\left(2\right)$

Thế (2) vào (1) ta được phương trình: $2079m^2+8910m+6831=0\iff \left[\begin{array}{l}m=-1\\ m=-\frac{6831}{2079}\left(l\right)\end{array}\right.$

  Thay $m=-1$  vào (2) suy ra: $n=4$

Vậy $m.n=-4$.

Cách 2:

Mặt cầu $\left(S\right)$ có tâm $I\left(5;-3;7\right)$  và bán kính $R=6\sqrt{2}$

Mặt phẳng  $\left(P\right)$ qua $A$  và nhận $\overrightarrow{n}=\left(1;m;n\right)$  làm vectơ pháp tuyến nên có phương trình $x+my+nz-8m-2n=0$.

Mặt phẳng $\left(P\right)$  tiếp xúc với $\left(S\right)$:

$\begin{array}{l}\iff d\left(I,\left(P\right)\right)=R\iff \frac{\left|5n-11m+5\right|}{\sqrt{1+m^2+n^2}}=6\sqrt{2}\\ \iff d\left(B,\left(P\right)\right)=\frac{\left|21n-15m+9\right|}{\sqrt{1+m^2+n^2}}=\frac{\left|5n-11m+5-4m+16n+4\right|}{\sqrt{1+m^2+n^2}}\\ \le \frac{\left|5n-11m+5\right|+4\left|4n-m+1\right|}{\sqrt{1+m^2+n^2}}\le 6\sqrt{2}+4\frac{\sqrt{\left(4^2+{\left(-1\right)}^2+1^2\right)\left(n^2+m^2+1\right)}}{\sqrt{1+m^2+n^2}}=18\sqrt{2}\end{array}$

Dấu bằng xảy ra khi $\frac{n}{4}=\frac{m}{-1}=\frac{1}{1}\iff m=-1;n=4$

Vậy $m.n=-4$.