Giải hệ phương trình:

\[\left\{ \begin{array}{l}5{x^2} + 2{y^2} + 2xy = 26\\3x + \left( {2x + y} \right)\left( {x - y} \right) = 11\end{array} \right.\]

\[\left\{ \begin{array}{l}5{x^2} + 2{y^2} + 2xy = 26\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\left( 1 \right)\\3x + \left( {2x + y} \right)\left( {x - y} \right) = 11\,\,\,\,\,\left( 2 \right)\end{array} \right.\]

Phương trình (2) viết lại như sau:

3x + 2x² ‒ 2xy + xy ‒ y² = 11

2x² ‒ xy ‒ y² + 3x = 11

4x² ‒ 2xy ‒ 2y² + 6x = 22.

Cộng từng vế của phương trình trên với phương trình (1) ta được:

(5x² + 2y² + 2xy) + (4x² ‒ 2xy ‒ 2y² + 6x) = 26 + 22

9x² + 6x = 48

9x² – 18x + 24x – 48 = 0

9x(x – 2) + 24(x – 2) = 0

(x – 2)(9x + 24) = 0

x – 2 = 0 hoặc 9x + 24 = 0

x = 2 hoặc \(x = - \frac{8}{3}.\)

⦁ Thay x = 2 vào phương trình (1) ta được:

5.2² + 2y² + 2.2.y = 26

20 + 2y² + 4y = 26

2y² + 4y ‒ 6 = 0

y = 1 hoặc y = ‒3.

Do đó các cặp số (2; 1); (2; ‒3) là nghiệm của hệ phương trình.

⦁ Thay \(x = - \frac{8}{3}\) vào phương trình (1) ta được:

\[5 \cdot {\left( { - \frac{8}{3}} \right)^2} + 2{y^2} + 2 \cdot \left( { - \frac{8}{3}} \right) \cdot y = 26\]

\[\frac{{320}}{9} + 2{y^2} - \frac{{16}}{3}y = 26\]

18y² – 48y + 86 = 0 (phương trình vô nghiệm).

Vậy hệ phương trình có hai nghiệm là (2; 1), (2; ‒3).