解説

方針・初手

与えられた2次方程式から $\alpha$ が無理数であることを確認し、次数下げの等式 $\alpha^2 = 2\alpha + 1$ を導く。その後、与式 $(a+b\alpha)(b+c\alpha) = 1$ を展開して $\alpha$ の1次式に整理する。$\alpha$ が無理数であり、$a, b, c$ が整数（有理数）である性質を利用して係数比較を行い、連立方程式を立てて整数解を絞り込む。

解法1

方程式 $x^2 - 2x - 1 = 0$ を解くと、

$$ \alpha = 1 \pm \sqrt{2} $$

となる。$\sqrt{2}$ は無理数であるから、$\alpha$ も無理数である。 また、$\alpha$ は方程式の解であるから、$\alpha^2 - 2\alpha - 1 = 0$、すなわち

$$ \alpha^2 = 2\alpha + 1 $$

が成り立つ。

与えられた等式 $(a+b\alpha)(b+c\alpha) = 1$ の左辺を展開すると、

$$ (a+b\alpha)(b+c\alpha) = ab + ac\alpha + b^2\alpha + bc\alpha^2 $$

となる。ここに $\alpha^2 = 2\alpha + 1$ を代入して整理すると、

$$ \begin{aligned} ab + ac\alpha + b^2\alpha + bc(2\alpha + 1) &= 1 \\ ab + bc + (ac + b^2 + 2bc)\alpha &= 1 \\ (ab + bc - 1) + (ac + b^2 + 2bc)\alpha &= 0 \end{aligned} $$

を得る。

ここで、$a, b, c$ は整数であるから、$ab + bc - 1$ および $ac + b^2 + 2bc$ も有理数（整数）である。 もし $ac + b^2 + 2bc \neq 0$ であると仮定すると、

$$ \alpha = -\frac{ab + bc - 1}{ac + b^2 + 2bc} $$

となる。右辺は有理数であるが、これは $\alpha$ が無理数であることに矛盾する。 したがって、$ac + b^2 + 2bc = 0$ でなければならない。 このとき、$(ab + bc - 1) + 0 \cdot \alpha = 0$ となることから、$ab + bc - 1 = 0$ も成り立つ。

以上より、次の連立方程式が得られる。

$$ \begin{cases} b(a+c) = 1 \\ ac + b^2 + 2bc = 0 \end{cases} $$

$a, b, c$ は整数であるから、$b(a+c) = 1$ を満たす組 $(b, a+c)$ は $(1, 1)$ または $(-1, -1)$ のいずれかである。

**(i)** $b = 1$ かつ $a+c = 1$ のとき $c = 1 - a$ であり、これを $ac + b^2 + 2bc = 0$ に代入すると、

$$ \begin{aligned} a(1 - a) + 1^2 + 2 \cdot 1 \cdot (1 - a) &= 0 \\ a - a^2 + 1 + 2 - 2a &= 0 \\ a^2 + a - 3 &= 0 \end{aligned} $$

この2次方程式の解は $a = \frac{-1 \pm \sqrt{13}}{2}$ となるが、これらは整数ではないため不適である。

**(ii)** $b = -1$ かつ $a+c = -1$ のとき $c = -1 - a$ であり、これを $ac + b^2 + 2bc = 0$ に代入すると、

$$ \begin{aligned} a(-1 - a) + (-1)^2 + 2 \cdot (-1) \cdot (-1 - a) &= 0 \\ -a - a^2 + 1 + 2 + 2a &= 0 \\ a^2 - a - 3 &= 0 \end{aligned} $$

この2次方程式の解は $a = \frac{1 \pm \sqrt{13}}{2}$ となるが、これらも整数ではないため不適である。

以上 **(i)**, **(ii)** より、条件を満たす整数の組 $(a, b, c)$ は存在しない。

解説

無理数を含む等式から未知の有理数（整数）を決定する典型問題である。与えられた方程式の解 $\alpha$ を用いて次数下げを行い、等式を $A + B\alpha = 0$ （$A, B$ は有理数）の形に整理することが第一歩となる。

本問の最大のポイントは、導かれた連立方程式を解いた結果、「条件を満たす整数が存在しない」という結論に至ることである。入試問題で「すべて求めよ」と問われて解なしとなるケースは心理的な不安を煽るが、論理に飛躍や計算ミスがないことを確認し、自信を持って「存在しない」と結論づける力が求められる。

なお、解答では $\alpha$ が無理数であることを直接利用して係数比較を行ったが、$\alpha = 1 \pm \sqrt{2}$ を式に代入して $\sqrt{2}$ について整理し、「$P, Q$ が有理数のとき、$P + Q\sqrt{2} = 0 \iff P=0, Q=0$」という性質を利用しても、全く同じ連立方程式が得られる。

答え

条件を満たす整数の組 $(a, b, c)$ は存在しない。