Ta có \(M = xy + \frac{9}{{xy}} = xy + \frac{1}{{16xy}} + \frac{{143}}{{16xy}}\)

Áp dụng bất đẳng thức Cô – si ta có

\[{\rm{x}}y + \frac{1}{{16{\rm{x}}y}} \ge 2\sqrt {xy.\frac{1}{{16{\rm{x}}y}}} \]

\[ \Leftrightarrow {\rm{x}}y + \frac{1}{{16{\rm{x}}y}} \ge \frac{1}{2}\,\,\,\,\,\left( 1 \right)\]

Với x, y > 0 ta có: \(x + y \ge 2\sqrt {xy} \) (BĐT Cosi)

Mà x + y ≤ 1 nên \(2\sqrt {xy} \le 1 \Leftrightarrow \sqrt {xy} \le \frac{1}{2} \Leftrightarrow xy \le \frac{1}{4}\)

\( \Leftrightarrow \frac{1}{{xy}} \ge 4 \Leftrightarrow \frac{{143}}{{16}}.\frac{1}{{xy}} \ge \frac{{143}}{{16}}.4 = \frac{{143}}{4}\)

Do đó \(\frac{{143}}{{16xy}} \ge \frac{{143}}{4}\,\,\,\,\left( 2 \right)\)

Từ (1) và (2) suy ra \(xy + \frac{1}{{16xy}} + \frac{{143}}{{16xy}} \ge \frac{1}{2} + \frac{{143}}{4} = \frac{{145}}{4}\)

Do đó \(M \ge \frac{{145}}{4}\)

Dấu “=” xảy ra khi và chỉ khi \(\left\{ \begin{array}{l}xy = \frac{1}{{16xy}}\\x + y = 1\\x = y\end{array} \right. \Leftrightarrow x = y = \frac{1}{2}\)

Vậy M đạt giá trị nhỏ nhất bằng \(\frac{{145}}{4}\) khi \(x = y = \frac{1}{2}\).