解説

方針・初手

まず $f(f(x))-x$ を $f(x)-x$ でくくれる形に変形する。すると

$$ f(f(x))-x=(f(x)-x)\times \text{(2次式)} $$

と因数分解できる。

（2） ではこの因数分解を用いて、4次方程式 $f(f(x))-x=0$ を2つの2次方程式に分ける。あとは、それぞれが異なる2実根をもち、しかも共通解をもたない条件を調べればよい。

解法1

$f(x)=ax^2-b$ であるから、

$$ f(f(x))-x=a{f(x)}^2-b-x $$

である。ここで $a x^2$ を入れて引くと、

$$ \begin{aligned} f(f(x))-x &=\left(a{f(x)}^2-a x^2\right)+\left(a x^2-b-x\right) \\ &=a(f(x)-x)(f(x)+x)+(f(x)-x) \\ &=(f(x)-x){a(f(x)+x)+1}. \end{aligned} $$

したがって $f(f(x))-x$ は $f(x)-x$ で割り切れる。よって （1） は示された。

次に （2） を考える。上の因数分解より、

$$ f(f(x))-x=0 $$

は

$$ (f(x)-x){a(f(x)+x)+1}=0 $$

と同値である。$f(x)=ax^2-b$ を代入すると、

$$ (ax^2-x-b)(a^2x^2+ax-ab+1)=0 $$

となる。よって解は、次の2つの2次方程式の解の合併である。

$$ ax^2-x-b=0 $$

$$ a^2x^2+ax-ab+1=0 $$

（1） 第1の2次方程式の解の個数

$ax^2-x-b=0$ の判別式は

$$ D_1=(-1)^2-4a(-b)=1+4ab $$

であり、$a>0,\ b>0$ より

$$ D_1=1+4ab>0 $$

である。したがってこの方程式は常に異なる2実根をもつ。

（2） 第2の2次方程式の解の個数

$a^2x^2+ax-ab+1=0$ の判別式は

$$ \begin{aligned} D_2 &=a^2-4a^2(-ab+1) \\ &=a^2(4ab-3). \end{aligned} $$

したがって、この方程式が異なる2実根をもつための必要十分条件は

$$ 4ab-3>0 $$

すなわち

$$ ab>\frac34 $$

である。

（3） 2つの2次方程式が共通解をもたない条件

4つの実数解がすべて異なるためには、上の2つの2次方程式が共通解をもたないことも必要である。

そこで、$x$ が両方の方程式の共通解であるとする。すると

$$ ax^2-x-b=0 $$

より

$$ ax^2=x+b $$

である。これを

$$ a^2x^2+ax-ab+1=0 $$

に代入すると、

$$ a(x+b)+ax-ab+1=0 $$

すなわち

$$ 2ax+1=0 $$

を得る。よって

$$ x=-\frac{1}{2a} $$

である。これを再び $ax^2-x-b=0$ に代入すると、

$$ a\left(\frac{1}{4a^2}\right)+\frac{1}{2a}-b=0 $$

すなわち

$$ \frac{3}{4a}-b=0 $$

となるから、

$$ ab=\frac34 $$

を得る。

逆に $ab=\dfrac34$ のとき、$x=-\dfrac{1}{2a}$ を代入すると両方の方程式を満たす。したがって、2つの2次方程式が共通解をもつのは

$$ ab=\frac34 $$

のときに限る。

したがって、4つの異なる実数解をもつための必要十分条件は、第2の2次方程式が異なる2実根をもち、かつ共通解をもたないこと、すなわち

$$ ab>\frac34 $$

である。

解説

この問題の要点は、合成関数 $f(f(x))$ をそのまま展開し切ることではなく、

$$ f(f(x))-x $$

を $f(x)-x$ を使って整理することである。実際、

$$ f(f(x))-x=\bigl(f(x)-x\bigr){a(f(x)+x)+1} $$

と因数分解できるため、4次方程式が2つの2次方程式に分かれる。

そのうえで、4つの異なる実数解をもつ条件は

• それぞれの2次方程式が異なる2実根をもつこと
• 2つの方程式が共通解をもたないこと

の2点に分解して調べればよい。共通解の判定まできちんと行うことが重要である。

答え

**(1)**

$$ \begin{aligned} f(f(x))-x &=a{f(x)}^2-b-x \\ &=\left(a{f(x)}^2-a x^2\right)+\left(a x^2-b-x\right) \\ &=(f(x)-x){a(f(x)+x)+1} \end{aligned} $$

より、$f(f(x))-x$ は $f(x)-x$ で割り切れる。

**(2)**

$$ f(f(x))-x=(ax^2-x-b)(a^2x^2+ax-ab+1) $$

であり、$ax^2-x-b=0$ は常に異なる2実根をもつ。

また $a^2x^2+ax-ab+1=0$ が異なる2実根をもつ条件は

$$ ab>\frac34 $$

である。さらに共通解をもつのは $ab=\dfrac34$ のときに限るから、方程式 $f(f(x))-x=0$ が異なる4つの実数解をもつための条件は

$$ ab>\frac34 $$

である。