解説

方針・初手

（1） は、示すべき多項式を $g(x)=f(f(x))-x$ とおき、$x=a$ を代入して $g(a)=0$ を確認すればよい。多項式が $x-a$ で割り切れることと、$x=a$ を代入して $0$ になることは同値である。

（2） は、まず （1） の結果から $f(x)=x$ を満たす値が解になることに注目する。さらに、この問題では $f(f(x))-x$ を直接変形するときれいに因数分解でき、すべての解を求められる。

解法1

**(1)**

$$ g(x)=f(f(x))-x $$

とおく。

仮定より

$$ f(a)=a $$

であるから、$g(a)$ を計算すると

$$ g(a)=f(f(a))-a=f(a)-a=a-a=0 $$

となる。

したがって、多項式 $g(x)$ は $x=a$ を根にもつ。ゆえに因数定理より

$$ g(x)=f(f(x))-x $$

は $x-a$ で割り切れる。

以上より、$f(a)=a$ が満たされるとき、$f(f(x))-x$ は $x-a$ で割り切れることが示された。

**(2)**

$$ f(x)=x^2-x-20 $$

であるから、

$$ f(f(x))-x=(f(x))^2-f(x)-20-x $$

である。

ここで

$$ f(x)=x^2-x-20 $$

より

$$ f(x)+x+20=x^2 $$

が成り立つので、

$$ \begin{aligned} f(f(x))-x &=(f(x))^2-f(x)-20-x \\ &=(f(x))^2-{f(x)+x+20} \\ &=(f(x))^2-x^2 \\ &=(f(x)-x)(f(x)+x) \end{aligned} $$

となる。

さらに

$$ f(x)-x=x^2-2x-20,\qquad f(x)+x=x^2-20 $$

であるから、

$$ f(f(x))-x=(x^2-2x-20)(x^2-20) $$

と因数分解できる。

よって、方程式 $f(f(x))-x=0$ は

$$ (x^2-2x-20)(x^2-20)=0 $$

となるので、これを解けばよい。

まず

$$ x^2-2x-20=0 $$

より

$$ x=\frac{2\pm\sqrt{4+80}}{2}=1\pm\sqrt{21} $$

である。

また

$$ x^2-20=0 $$

より

$$ x=\pm2\sqrt{5} $$

である。

したがって、求める $x$ の値は

$$ x=1\pm\sqrt{21},\ \pm2\sqrt{5} $$

である。

解説

（1） は因数定理そのものを使う典型問題である。$f(a)=a$ という条件は、$a$ が $f$ の不動点であることを意味し、そのとき $f(f(a))-a=0$ も直ちに従う。

（2） では （1） により $f(x)=x$ を満たす値が解になることが分かるが、それだけでは4次方程式の解をすべて求めたことにはならない。実際には

$$ f(f(x))-x=(f(x)-x)(f(x)+x) $$

とまとまり、$f(x)=x$ と $f(x)=-x$ の2つの場合に分かれる。この見方が本質である。

答え

**(1)**

$f(f(x))-x$ は $x-a$ で割り切れる。

**(2)**

$$ x=1\pm\sqrt{21},\ \pm2\sqrt{5} $$