a) Tìm tất cả các cặp số nguyên \((x;y)\) thỏa mãn \({x^2} + 2{y^2} - 2xy - 2x - 4y + 6 = 0\).

b) Tìm tất cả các số nguyên tố \(p\) sao cho \(\frac{{{p^2} - p}}{2} - 1\) là lập phương của một số tự nhiên.

a) Ta có:

\(\begin{array}{*{20}{l}}{{x^2} + 2{y^2} - 2xy - 2x - 4y + 6 = 0}\\{ \Leftrightarrow \left( {{x^2} + {y^2} + 1 - 2xy - 2x + 2y} \right) + \left( {{y^2} - 6y + 9} \right) = 4}\\{ \Leftrightarrow {{(x - y - 1)}^2} + {{(y - 3)}^2} = 4}\\{{\rm{ V\`i  }}x,y \in \mathbb{Z} \Rightarrow \left\{ {\begin{array}{*{20}{l}}{{{(x - y - 1)}^2} = 4}\\{{{(y - 3)}^2} = 0}\end{array}\quad {\rm{ hoac }}\left\{ {\begin{array}{*{20}{l}}{{{(x - y - 1)}^2} = 0}\\{{{(y - 3)}^2} = 4}\end{array}} \right.} \right.}\end{array}\)

Trường hợp: \(\left\{ {\begin{array}{*{20}{l}}{{{(x - y - 1)}^2} = 4}\\{{{(y - 3)}^2} = 0}\end{array} \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}{{{(x - 4)}^2} = 4}\\{y = 3}\end{array} \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}{x = 6}\\{y = 3}\end{array}} \right.} \right.} \right.\) hoặc \(\left\{ {\begin{array}{*{20}{l}}{x = 2}\\{y = 3}\end{array}} \right.\).

Trường hợp: \(\left\{ {\begin{array}{*{20}{l}}{{{(x - y - 1)}^2} = 0}\\{{{(y - 3)}^2} = 4}\end{array} \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}{x = y + 1}\\{y = 5}\\{y = 1}\end{array} \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}{x = 6}\\{y = 5}\end{array}} \right.} \right.} \right.\) hoặc \(\left\{ {\begin{array}{*{20}{l}}{x = 2}\\{y = 1}\end{array}} \right.\).

Vậy phương trình đã cho có bốn nghiệm \((x;y) = (6;3),(2;3),(6;5),(2;1)\).

b) Ta có: \(\frac{{{p^2} - p}}{2} - 1 = {a^3}\) với \(a \ge 0\). Khi đó:

\(\frac{{{p^2} - p}}{2} - 1 = {a^3} \Leftrightarrow p(p - 1) = 2(a + 1)\left( {{a^2} - a + 1} \right).\)Vì ưcln \((p;p - 1) = 1\) nên \(p(p - 1)\) chia hết cho \((a + 1) \Leftrightarrow p\) chia hết cho \((a + 1)\) hoặc \(p - 1\) chia hết cho \((a + 1)\).

- Xét \(p:(a + 1) \Rightarrow p = k(a + 1)\). Mà \(p\) là số nguyên tố suy ra: \(\left[ {\begin{array}{*{20}{l}}{k = 1}\\{a + 1 = 1}\end{array} \Leftrightarrow \left[ {\begin{array}{*{20}{l}}{k = 1}\\{a = 0}\end{array}} \right.} \right.\).

Với \(a = 0 \Rightarrow p = 2\).

Nếu \(k = 1 \Rightarrow p = a + 1 \Rightarrow a(a + 1) = 2(a + 1)\left( {{a^2} - a + 1} \right)\), vô nghiệm.

Xét \(p - 1:(a + 1) \Rightarrow p = m(a + 1) + 1\). Khi đó ta có:

\(m(a + 1)p = 2(a + 1)\left( {{a^2} - a + 1} \right) \Leftrightarrow mp = 2\left( {{a^2} - a + 1} \right){\rm{ }}{\rm{. }}\)Ta có: \({a^2} - a + 1 = a(a - 1) + 1\) là một số lẽ. Suy ra: ưcln \(\left( {2;{a^2} - a + 1} \right) = 1\).

Nên \(2\left( {{a^2} - a + 1} \right):m \Leftrightarrow 2:m\) hoặc \(\left( {{a^2} - a + 1} \right):m\).

Nếu \(2:m \Rightarrow \left[ {\begin{array}{*{20}{l}}{m = 1}\\{m = 2}\end{array}} \right.\).

Với \(k = 1 \Rightarrow 2\left( {{a^2} - a + 1} \right) = a + 2 \Leftrightarrow 2{a^2} - 3a = 0 \Leftrightarrow a = 0\)

Với \(k = 2 \Rightarrow {a^2} - a + 1 = 2(a + 1) + 1 \Leftrightarrow {a^2} - 3a - 1 = 0\), vô nghiệm.

Nếu \({a^2} - a + 1:m \Rightarrow {a^2} - a + 1 = mn\). Khi đó ta có: \(m(a + 1) + 1 = 2n\).

Mặt khác \(p = m(a + 1) + 1 = 2n\) là số nguyên tố suy ra \(p = 2,n = 1 \Rightarrow a = 0\).

Tóm lại \(p = 2\) là số nguyên tố cần tìm.