Trong không gian với hệ tọa độ Oxyz, cho điểm A(0;8;2) và mặt cầu (S) có phương trình $\left(S\right):{\left(x-5\right)}^2+{\left(y+3\right)}^2+{\left(z-7\right)}^2=72$ và điểm B(9;-7;23). Viết phương trình mặt phẳng (P) qua A và tiếp xúc với (S) sao cho khoảng cách từ B đến (P) lớn nhất. Giả sử $\overrightarrow{n}=\left(1;m;n\right)\left(m,n\in \mathbb{Z}\right)$ là một vectơ pháp tuyến của (P), tính tích m.n.

Đáp án D

Cách 1:

Mặt cầu (S) có tâm I(5;-3;7) và bán kính $R=6\sqrt{2}$.

$\overrightarrow{IA}=\left(-5;11;-5\right)\Rightarrow IA=\sqrt{171}>6\sqrt{2}$ nên điểm A nằm ngoài mặt cầu.

$\overrightarrow{IB}=\left(4;-4;16\right)\Rightarrow IB=12\sqrt{2}>6\sqrt{2}$ nên điểm B nằm ngoài mặt cầu.

$\Rightarrow A,I,B$ không thẳng hàng.

Mặt phẳng (P) qua A và tiếp xúc với (S) nên khi (P) thay đổi thì tập hợp các đường thẳng qua A và tiếp điểm tạo thành hình nón.

Gọi $\left(AB,\left(P\right)\right)=\alpha \Rightarrow d\left(B,\left(P\right)\right)=AB.\sin \alpha$ đạt giá trị lớn nhất A,B,I,H đồng phẳng $\iff \left(AIB\right)\perp \left(P\right)$ ( H là hình chiếu của B lên (P)).

Mặt phẳng (P) qua A và nhận $\overrightarrow{n}=\left(1;m;n\right)$ làm vectơ pháp tuyến nên có phương trình $x+my-nz-8m-2n=0$.

Mặt phẳng (P) tiếp xúc với $\left(S\right)\iff d\left(I,\left(P\right)\right)=R$.

$\begin{array}{l}\iff \frac{\left|5n-11m+5\right|}{\sqrt{1+m^2+n^2}}=6\sqrt{2}\iff {\left(5n-11m+5\right)}^2=72\left(1+m^2+n^2\right)\\ \iff 49m^2-47n^2-110mn+50n-110m-47=0\left(1\right)\end{array}$

Ta có: $\left[\overrightarrow{IA},\overrightarrow{IB}\right]=\left(156;70;-24\right)$.

Gọi $\overrightarrow{n_1}$ là vectơ pháp tuyến của mặt phẳng (AIB), chọn $\overrightarrow{n_1}=\left(13;5;-2\right)$.

Do $\left(AIB\right)\perp \left(P\right)\iff \overrightarrow{n_1}.\overrightarrow{n}=0\iff 13+5m-2n=0\left(2\right)$.

Thế (2) vào (1) ta được phương trình:

$2079m^2+8910m+6831=0\iff \left[\begin{array}{l}m=-1\\ m=-\frac{6831}{2079}\left(l\right)\end{array}\right.$

Thay m=-1 vào (2) suy ra: n=4.

Vậy m.n=-4.

Cách 2:

Mặt cầu (S) có tâm I(5;-3;7) và bán kính $R=6\sqrt{2}$.

Mặt phẳng (P) qua A và nhận $\overrightarrow{n}=\left(1;m;n\right)$ làm vectơ pháp tuyến nên có phương trình $x+my+nz-8m-2n=0$.

Mặt phẳng (P) tiếp xúc với (S):

$\begin{array}{l}\iff d\left(I,\left(P\right)\right)=R\iff \frac{\left|5n-11m+5\right|}{\sqrt{1+m^2+n^2}}=6\sqrt{2}\\ \iff d\left(B,\left(P\right)\right)=\frac{\left|21n-15m+9\right|}{\sqrt{1+m^2+n^2}}=\frac{\left|5n-11m+5-4m+16n+4\right|}{\sqrt{1+m^2+n^2}}\\ \le \frac{\left|5n-11m+5\right|+4\left|4n-m+1\right|}{\sqrt{1+m^2+n^2}}\le 6\sqrt{2}+4\frac{\sqrt{\left(4^2+{\left(-1\right)}^2+1^2\right)\left(n^2+m^2+1\right)}}{\sqrt{1+m^2+n^2}}=18\sqrt{2}\end{array}$

Dấu bằng xảy ra khi $\frac{n}{4}=\frac{m}{-1}=\frac{1}{1}\iff m=-1;n=4$.

Vậy m.n=-4.