解説

方針・初手

$f(f(x)) > 0$ という合成関数の不等式がすべての実数 $x$ で成り立つ条件を考える。

$X = f(x)$ と置き換えて、$X$ のとりうる値の範囲において $f(X) > 0$ となる条件を求めるアプローチと、式をそのまま $f(f(x)) = (f(x)+a)(f(x)+2)$ と変形し、因数が $0$ にならないための条件を考えるアプローチの2つが考えられる。

解法1

$X = f(x)$ とおき、$X$ のとりうる値の範囲を求める。

$$ f(x) = x^2 + (a+2)x + 2a = \left(x + \frac{a+2}{2}\right)^2 - \frac{(a-2)^2}{4} $$

$x$ がすべての実数をとるとき、$X$ のとりうる値の範囲は

$$ X \geqq -\frac{(a-2)^2}{4} $$

となる。この範囲にあるすべての $X$ に対して、$f(X) > 0$ が成り立てばよい。

ここで、$f(X) = (X+a)(X+2)$ である。 $a \geqq 2$ より $-a \leqq -2$ であり、放物線 $Y = f(X)$ は下に凸であるから、$f(X) > 0$ を満たす $X$ の範囲は

$$ X < -a, \quad -2 < X $$

である。 区間 $\left[ -\frac{(a-2)^2}{4}, \infty \right)$ に含まれるすべての $X$ が上記の範囲を満たすための条件を考える。 $-\frac{(a-2)^2}{4} \leqq 0$ であり、$X \to \infty$ の範囲を含むことから、$X < -a$ の区間に含まれることはあり得ない。したがって、区間全体が $-2 < X$ の範囲に含まれる必要がある。 ゆえに、求める条件は

$$ -\frac{(a-2)^2}{4} > -2 $$

となる。これを解くと、

$$ (a-2)^2 < 8 $$

$$ -2\sqrt{2} < a-2 < 2\sqrt{2} $$

$$ 2 - 2\sqrt{2} < a < 2 + 2\sqrt{2} $$

問題の条件 $a \geqq 2$ と合わせて、求める範囲は

$$ 2 \leqq a < 2 + 2\sqrt{2} $$

解法2

$f(f(x))$ を因数分解した形に代入すると、

$$ f(f(x)) = (f(x)+a)(f(x)+2) $$

これがすべての実数 $x$ に対して正になる条件を考える。 $y = f(x)+2$ は下に凸の2次関数であり、十分に大きい $x$ に対しては正の値をとる。 もし、ある実数 $x$ に対して $f(x)+2 \leqq 0$ となると仮定する。このとき、関数 $f(x)+2$ は連続であるから、ある実数 $c$ において $f(c)+2 = 0$ となる。 すると $f(f(c)) = (f(c)+a) \cdot 0 = 0$ となり、すべての実数 $x$ で $f(f(x)) > 0$ となるという条件に反する。 したがって、すべての実数 $x$ に対して $f(x)+2 > 0$ でなければならない。

また、$a \geqq 2$ であるから、すべての実数 $x$ に対して

$$ f(x)+a \geqq f(x)+2 $$

が成り立つ。 ゆえに、すべての実数 $x$ に対して $f(x)+2 > 0$ が成り立てば、同時に $f(x)+a > 0$ も成り立ち、$f(f(x)) > 0$ を満たす。 以上より、求める条件は、すべての実数 $x$ について

$$ x^2 + (a+2)x + 2a + 2 > 0 $$

が成り立つことである。 この2次方程式の判別式を $D$ とすると、$D < 0$ となればよい。

$$ D = (a+2)^2 - 4(2a+2) = a^2 - 4a - 4 $$

$$ a^2 - 4a - 4 < 0 $$

これを解いて、

$$ 2 - 2\sqrt{2} < a < 2 + 2\sqrt{2} $$

$a \geqq 2$ の条件とあわせて、

$$ 2 \leqq a < 2 + 2\sqrt{2} $$

解説

合成関数の不等式の処理に関する標準的な問題である。 解法1のように内側の関数を文字で置き換え、その文字のとりうる範囲を定義域として外側の関数を評価する手法は、合成関数を扱う際の王道のアプローチである。 一方で、本問は $f(x)$ の式が具体的に与えられているため、解法2のように因数分解された形にそのまま代入し、各因数の符号を考察することで非常にすっきりと解くことができる。

答え

$$ 2 \leqq a < 2 + 2\sqrt{2} $$