Giải hệ phương trình \(\left\{ \begin{array}{l}\sqrt {x - 5} + 3{\left( {y - 1} \right)^2} = 4\\2\sqrt {x - 5} + {y^2} - 2y = 2.\end{array} \right.\)

1) Điều kiện xác định:

\({x^3} + 8 \ge 0,\) hay \(\left( {x + 2} \right)\left( {{x^2} - 2x + 4} \right) \ge 0,\) nên \(x \ge - 2\) (do \({x^2} - 2x + 4 > 0\) với mọi \(x \in \mathbb{R}).\)

Ta có: \(2\left( {{x^2} - 3x + 2} \right) = 3\sqrt {{x^3} + 8} \)

 \(2\left( {{x^2} - 2x + 4} \right) - 2\left( {x + 2} \right) = 3\sqrt {x + 2} \cdot \sqrt {{x^2} - 2x + 4} .\)

Đặt \(u = \sqrt {{x^2} - 2x + 4} \ge \sqrt 3 \) và \(v = \sqrt {x + 2} \ge 0.\)

Ta được phương trình: \(2{u^2} - 2{v^2} = 3uv\)

 \(\left( {2u + v} \right)\left( {u - 2v} \right) = 0\)

\(u = 2v\) (vì \(u \ge \sqrt 3 ,v \ge 0\) nên \(2u + v > 0).\)

Suy ra \(\sqrt {{x^2} - 2x + 4} = 2\sqrt {x + 2} \)

\({x^2} - 2x + 4 = 4\left( {x + 2} \right)\)

\({x^2} - 6x - 4 = 0\)

\(x = 3 + \sqrt {13} \) hoặc \(x = 3 - \sqrt {13} .\)

Ta thấy các giá trị của \(x\) tìm được ở trên đều thỏa mãn điều kiện \(x \ge - 2.\)

Vậy phương trình có hai nghiệm là \(x = 3 + \sqrt {13} ;\,\,x = 3 - \sqrt {13} .\)

2) Ta có: \(P = \frac{3}{{{x^2} + {y^2}}} + \frac{{10}}{{xy}} + 8xy + 3.\)

Theo bất đẳng thức AM-GM, ta có: \[xy \le \frac{{{{\left( {x + y} \right)}^2}}}{4} = \frac{{{2^2}}}{4} = 1.\]

Theo bổ đề trên, ta có:

\(P = \frac{3}{{{x^2} + {y^2}}} + \frac{{10}}{{xy}} + 8xy + 3 = \frac{3}{{{x^2} + {y^2}}} + \frac{3}{{2xy}} + 8xy + \frac{8}{{xy}} + \frac{1}{{2xy}} + 3\)

\( \ge \frac{{3 \cdot 4}}{{{x^2} + {y^2} + 2xy}} + 2 \cdot \sqrt {8xy \cdot \frac{8}{{xy}}} + \frac{1}{2} + 3 = \frac{{12}}{{{{\left( {x + y} \right)}^2}}} + 2 \cdot 8 + \frac{1}{2} + 3\)

\( \ge \frac{{12}}{{{2^2}}} + 16 + \frac{1}{2} + 3 = \frac{{45}}{2}.\)

Dấu bằng xảy ra khi và chỉ khi \(x = y = 1.\)

Vậy giá trị nhỏ nhất của \(P\) bằng \(\frac{{45}}{2}\) khi \(x = y = 1.\)