1)    Tìm tất cả cặp số nguyên \(\left( {x,y} \right)\) sao cho \(xy\) là số chính phương và \({x^2} + xy + {y^2}\) là số nguyên tố.

2)    Với các số thực không âm \(a,b\) và \(c\) thỏa mãn \(a + 2b + 3c = 1,\) tìm giá trị lớn nhất và giá trị nhỏ nhất của biểu thức \(P = \left( {a + 6b + 6c} \right)\left( {a + b + c} \right).\)

2)\({x^3}y - {x^2}y - 4{x^2} + 5xy - {y^2} = 0 \Leftrightarrow xy\left( {{x^2} - x + 1} \right) = {\left( {2x - y} \right)^2}\,\,(1)\)

Gọi \(d = \left( {x;y} \right) \Rightarrow x = da;y = db\) với \(\left( {a;b} \right) = 1\) và \(a,b,d\) nguyên dương.

Khi đó (1) trở thành \({d^2}ab\left( {{d^2}{a^2} - da + 1} \right) = {d^2}{\left( {2a - b} \right)^2} \Leftrightarrow ab\left( {{d^2}{a^2} - da + 1} \right) = {\left( {2a - b} \right)^2}.\)

Suy ra \({\left( {2a - b} \right)^2} \vdots a\) và \({\left( {2a - b} \right)^2} \vdots b\)

Ta có \({\left( {2a - b} \right)^2} \vdots a\) mà \(\left( {a;b} \right) = 1\)\( \Rightarrow \left( {2a - b;a} \right) = 1 \Rightarrow \left( {{{\left( {2a - b} \right)}^2};a} \right) = 1\) do đó \(a = 1.\)

Từ \({\left( {2a - b} \right)^2} \vdots b\)\( \Rightarrow 4{a^2} \vdots b\) mà \(\left( {a;b} \right) = 1\)\( \Rightarrow 4 \vdots b \Rightarrow \left[ {\begin{array}{*{20}{c}}{b = 1}\\{b = 2}\\{b = 4}\end{array}} \right.\,\,({\rm{do}}\,\,b > 0)\)

+) TH1: \(a = b = 1 \Rightarrow x = y = d.\)

Thay vào giả thiết ta được \({d^4} - {d^3} = 0 \Rightarrow d = 1\) (do \(d\) nguyên dương)\( \Rightarrow \left\{ {\begin{array}{*{20}{c}}{x = 1}\\{y = 1}\end{array}.} \right.\)

+) TH2: \(a = 1;b = 2\) không thỏa mãn.

+) TH3: \(a = 1;b = 4\) suy ra \(x = d;y = 4d\)

Thay vào giả thiết ta được \({d^4} - {d^3} = 0 \Rightarrow d = 1\)(do \(d\) nguyên dương)\( \Rightarrow \left\{ {\begin{array}{*{20}{c}}{x = 1}\\{y = 4}\end{array}.} \right.\)

Thử lại ta thấy cặp số \(\left( {x;y} \right) \in \left\{ {\left( {1;1} \right);\left( {1;4} \right)} \right\}\) thỏa mãn yêu cầu bài toán.