a) Tìm tất cả các cặp số nguyên dương \(\left( {x;y} \right)\) thỏa mãn \[\left( {{x^2} - x - 1} \right)\left( {{y^2} + xy - 9} \right) = 2x + 1.\]

b) Cho \(n\) là số nguyên dương lẻ sao cho \({3^n} + {7^n}\) chia hết cho \(11\). Tìm số dư khi chia \({2^n} + {6^n} + {2023^n}\) cho \(11.\)

a)Phương trình có hai nghiệm phân biệt \({x_1}\) và \({x_2}\) \[ \Leftrightarrow \Delta ' = 1 - m > 0 \Leftrightarrow m < 1.\]

Xét \(2\left| {{x_1} + {x_2}} \right| = \left| {{x_1} - {x_2}} \right|\) \[ \Leftrightarrow 4{\left( {{x_1} + {x_2}} \right)^2} = {\left( {{x_1} - {x_2}} \right)^2}\]\[ \Leftrightarrow 3{\left( {{x_1} + {x_2}} \right)^2} + 4{x_1}{x_2} = 0.\]

Áp dụng định lý Vi–ét, ta có: \[\left\{ \begin{array}{l}{x_1} + {x_2} = 2\left( {m - 1} \right)\\{x_1}{x_2} = {m^2} - m\end{array} \right.\]

Ta được \[12{\left( {m - 1} \right)^2} + 4\left( {{m^2} - m} \right) = 0\]\[ \Leftrightarrow 4{m^2} - 7m + 3 = 0.\]

\( \Leftrightarrow \left[ \begin{array}{l}m = 1\\m = \frac{3}{4}\end{array} \right.\). Kết hợp với điều kiện, giá trị \[m = \frac{3}{4}\] thỏa mãn.

b)Ta có: \(\frac{1}{y} - \frac{2}{x} = \frac{3}{{2x + y}} \Leftrightarrow \left( {x - 2y} \right)\left( {2x + y} \right) = 3xy \Leftrightarrow 2{x^2} - 6xy - 2{y^2} = 0.\)

\( \Leftrightarrow \frac{x}{y} = \frac{{3 + \sqrt {13} }}{2}\) hoặc \(\frac{x}{y} = \frac{{3 - \sqrt {13} }}{2}.\)

Với \(\frac{x}{y} = \frac{{3 + \sqrt {13} }}{2} \Rightarrow \frac{y}{x} = \frac{2}{{3 + \sqrt {13} }} = \frac{{ - 3 + \sqrt {13} }}{2}\). Ta được \(P = \frac{{{x^2}}}{{{y^2}}} + \frac{{{y^2}}}{{{x^2}}} = {\left( {\frac{x}{y} + \frac{y}{x}} \right)^2} - 2 = 11.\)

Với \(\frac{x}{y} = \frac{{3 - \sqrt {13} }}{2} \Rightarrow \frac{y}{x} = \frac{2}{{3 - \sqrt {13} }} = \frac{{ - 3 - \sqrt {13} }}{2}\). Ta được \(P = \frac{{{x^2}}}{{{y^2}}} + \frac{{{y^2}}}{{{x^2}}} = {\left( {\frac{x}{y} + \frac{y}{x}} \right)^2} - 2 = 11.\)

Sử dụng bất đẳng thức: Với \(a,b,c \ge 0,\) ta có \(\sqrt a + \sqrt b + \sqrt c \le \sqrt {3(a + b + c)} .\)

Áp dụng bất đẳng thức trên ta có:

\(Q = \sqrt {1 - \frac{4}{{{x^2}}}} + \sqrt {1 - \frac{4}{{{y^2}}}} + \sqrt {1 - \frac{4}{{{z^2}}}} \le \sqrt {3\left[ {3 - 4\left( {\frac{1}{{{x^2}}} + \frac{1}{{{y^2}}} + \frac{1}{{{z^2}}}} \right)} \right]} = \sqrt {9 - 12\left( {\frac{1}{{{x^2}}} + \frac{1}{{{y^2}}} + \frac{1}{{{z^2}}}} \right)} \)

Lại có \[\frac{1}{{{x^2}}} + \frac{1}{{{y^2}}} + \frac{1}{{{z^2}}} \ge \frac{1}{3}{\left( {\frac{1}{x} + \frac{1}{y} + \frac{1}{z}} \right)^2}.\]

Suy ra \(Q \le \sqrt {9 - 4{{\left( {\frac{1}{x} + \frac{1}{y} + \frac{1}{z}} \right)}^2}} .\)

Từ giả thiết \(4xyz = 9(x + y + z) + 27 \Leftrightarrow 9\left( {\frac{1}{{xy}} + \frac{1}{{yz}} + \frac{1}{{zx}}} \right) + \frac{{27}}{{xyz}} = 4\,\,(*)\)

Với \(\frac{1}{{xy}} + \frac{1}{{yz}} + \frac{1}{{zx}} \le \frac{1}{3}.{\left( {\frac{1}{x} + \frac{1}{y} + \frac{1}{z}} \right)^2}\)và \(\frac{1}{{xyz}} \le \frac{1}{{27}}.{\left( {\frac{1}{x} + \frac{1}{y} + \frac{1}{z}} \right)^3}\)

Từ (*) ta có \[3{\left( {\frac{1}{x} + \frac{1}{y} + \frac{1}{z}} \right)^2} + {\left( {\frac{1}{x} + \frac{1}{y} + \frac{1}{z}} \right)^3} \ge 4{\rm{ }}\left( {**} \right)\]

Đặt \(t = \frac{1}{x} + \frac{1}{y} + \frac{1}{z} > 0\).

Khi đó \((**) \Leftrightarrow \) \[{t^3} + 3{t^2} - 4 \ge 0 \Leftrightarrow \left( {t - 1} \right){\left( {t + 2} \right)^2} \ge 0 \Leftrightarrow t \ge 1\] (do \({\left( {t + 2} \right)^2} > 0\)).

Suy ra \(Q \le \sqrt {9 - 4{{\left( {\frac{1}{x} + \frac{1}{y} + \frac{1}{z}} \right)}^2}} \le \sqrt {9 - {{4.1}^2}} = \sqrt 5 .\)

Dấu “=” xảy ra khi và chỉ khi \(x = y = z = 3.\)

Vậy giá trị lớn nhất của \(Q\) là \(\sqrt 5 .\)