解説

方針・初手

(1)、(3) は与えられた定義に従って素直に計算を進める問題です。(2)、(4) は合成関数 $f(f(x))$ に関する性質を利用します。方程式 $f(x) = x$ の解が方程式 $f(f(x)) = x$ の解にも含まれることに着目し、(4) で得られる4次方程式の因数分解に活用するのが本問の最大のポイントです。

解法1

**(1)**

方程式 $f(x) = x$ は以下のようになる。

$$ x^2 - \frac{4}{5} = x $$

両辺を5倍して整理する。

$$ 5x^2 - 5x - 4 = 0 $$

解の公式を用いて解くと、以下のようになる。

$$ x = \frac{-(-5) \pm \sqrt{(-5)^2 - 4 \cdot 5 \cdot (-4)}}{2 \cdot 5} = \frac{5 \pm \sqrt{25 + 80}}{10} = \frac{5 \pm \sqrt{105}}{10} $$

$\alpha, \beta$ はこの方程式の解であり、$\alpha < \beta$ であるから、

$$ \alpha = \frac{5 - \sqrt{105}}{10}, \quad \beta = \frac{5 + \sqrt{105}}{10} $$

**(2)**

$\alpha$ は $f(x) = x$ の解であるから、$f(\alpha) = \alpha$ を満たす。 したがって、

$$ f(f(\alpha)) = f(\alpha) = \alpha = \frac{5 - \sqrt{105}}{10} $$

**(3)**

関数 $f(f(x))$ は以下のようになる。

$$ \begin{aligned} f(f(x)) &= f\left(x^2 - \frac{4}{5}\right) \\ &= \left(x^2 - \frac{4}{5}\right)^2 - \frac{4}{5} \\ &= x^4 - \frac{8}{5}x^2 + \frac{16}{25} - \frac{20}{25} \\ &= x^4 - \frac{8}{5}x^2 - \frac{4}{25} \end{aligned} $$

**(4)**

方程式 $f(f(x)) = x$ を解く。(3) の結果より、

$$ x^4 - \frac{8}{5}x^2 - \frac{4}{25} = x $$

整理して両辺を25倍する。

$$ x^4 - \frac{8}{5}x^2 - x - \frac{4}{25} = 0 $$

$$ 25x^4 - 40x^2 - 25x - 4 = 0 $$

ここで、(1), (2) で確認したように、$f(x) = x$ を満たす $x$ （すなわち $\alpha$ と $\beta$）は $f(f(x)) = x$ も満たす。 よって、多項式 $25x^4 - 40x^2 - 25x - 4$ は、$f(x) - x = 0$ の左辺である $5x^2 - 5x - 4$ を因数にもつ。 実際に割り算を行うと、次のように因数分解できる。

$$ (5x^2 - 5x - 4)(5x^2 + 5x + 1) = 0 $$

したがって、方程式の解は $5x^2 - 5x - 4 = 0$ または $5x^2 + 5x + 1 = 0$ を満たす $x$ である。

$5x^2 - 5x - 4 = 0$ の解は (1) より、

$$ x = \frac{5 \pm \sqrt{105}}{10} $$

$5x^2 + 5x + 1 = 0$ を解くと、

$$ x = \frac{-5 \pm \sqrt{5^2 - 4 \cdot 5 \cdot 1}}{2 \cdot 5} = \frac{-5 \pm \sqrt{5}}{10} $$

以上より、求める方程式の解はこれら4つの値となる。

解説

合成関数の方程式 $f(f(x)) = x$ を解く際、そのまま展開すると高次方程式（本問では4次方程式）となり、解くのが困難になることがよくあります。 しかし、「$f(x) = x$ を満たす $x$ は必ず $f(f(x)) = x$ を満たす」という事実（$f(x)=x$ ならば $f(f(x))=f(x)=x$）を利用すると、高次方程式の因数の一つが $f(x) - x$ に由来する式であることが分かります。これにより次数を下げて解を求めることができるという、大学入試で頻出の重要なテーマです。(1) と (2) は、この事実に気づかせるための誘導となっています。

答え

(1) $$ \alpha = \frac{5 - \sqrt{105}}{10}, \quad \beta = \frac{5 + \sqrt{105}}{10} $$

(2) $$ \frac{5 - \sqrt{105}}{10} $$

(3) $$ f(f(x)) = x^4 - \frac{8}{5}x^2 - \frac{4}{25} $$

(4) $$ x = \frac{5 \pm \sqrt{105}}{10}, \quad \frac{-5 \pm \sqrt{5}}{10} $$