解説

方針・初手

与式が $x, y$ の対称式であることに着目し、基本対称式 $x+y$ と $xy$ で表す。 すでに $x+y=4$ が与えられているため、$xy=t$ とおき、与式を $t$ の1変数関数として表すのが見通しがよい。 その際、$x, y$ が条件を満たす実数として存在するための条件から、$t$ のとり得る値の範囲（定義域）を正しく求めることが重要である。

解法1

基本対称式を用いて $xy=t$ と置き換える。

$x+y = 4$ である。ここで、$xy = t$ とおく。 $x, y$ は実数であるから、解と係数の関係より、$x, y$ は $X$ についての2次方程式

$$X^2 - 4X + t = 0$$

の2つの実数解である。 この2次方程式の判別式を $D$ とすると、実数解をもつ条件は $D \geqq 0$ であるから、

$$\frac{D}{4} = (-2)^2 - t \geqq 0$$

$$4 - t \geqq 0$$

$$t \leqq 4$$

が成り立つ。 また、$x \geqq 0, y \geqq 0$ であるから、$xy \geqq 0$ より、

$$t \geqq 0$$

である。 したがって、$t$ のとり得る値の範囲は

$$0 \leqq t \leqq 4$$

となる。

次に、与式を $t$ で表す。 対称式の変形を行うと、

$$x^2y^2 + x^2 + y^2 + xy = (xy)^2 + (x+y)^2 - 2xy + xy$$

$$= (xy)^2 + (x+y)^2 - xy$$

となる。 これに $x+y = 4, xy = t$ を代入し、この式を $f(t)$ とおくと、

$$f(t) = t^2 + 4^2 - t$$

$$= t^2 - t + 16$$

$$= \left( t - \frac{1}{2} \right)^2 + \frac{63}{4}$$

となる。 $0 \leqq t \leqq 4$ における関数 $y = f(t)$ のグラフは、下に凸の放物線の一部である。 軸は直線 $t = \frac{1}{2}$ であり、これは定義域 $0 \leqq t \leqq 4$ に含まれる。 したがって、$f(t)$ は頂点である $t = \frac{1}{2}$ のとき最小値をとり、軸からより遠い端点である $t = 4$ のとき最大値をとる。

最小値は、

$$f\left(\frac{1}{2}\right) = \frac{63}{4}$$

である。 最大値は、

$$f(4) = 4^2 - 4 + 16 = 28$$

である。

解法2

1文字を消去して考える。

$x+y = 4$ より、$y = 4-x$ である。 $x \geqq 0, y \geqq 0$ であるから、$x \geqq 0$ かつ $4-x \geqq 0$ より、$x$ のとり得る値の範囲は

$$0 \leqq x \leqq 4$$

である。 与式に対称式の変形を用いて $y = 4-x$ を代入する。計算を工夫するため、$x(4-x)$ のかたまりを作る。

$$x^2y^2 + x^2 + y^2 + xy = (xy)^2 + (x+y)^2 - xy$$

$$= \{x(4-x)\}^2 + 4^2 - x(4-x)$$

ここで、$x(4-x) = t$ とおくと、

$$t = -x^2 + 4x = -(x-2)^2 + 4$$

となる。 $0 \leqq x \leqq 4$ における $t$ のとり得る値の範囲を求めると、$x=2$ のとき最大値 $4$、$x=0, 4$ のとき最小値 $0$ をとるので、

$$0 \leqq t \leqq 4$$

である。 与式を $t$ で表すと、

$$t^2 - t + 16$$

となる。以降は解法1と同様に平方完成を行い、$0 \leqq t \leqq 4$ における最大値と最小値を求めればよい。

解説

対称式の最大・最小を求める典型問題である。 基本対称式 $x+y, xy$ を用いて式を1変数関数に帰着させる手法が極めて有効である。 この際、消去した文字が実数として存在するための条件（判別式 $D \geqq 0$）を忘れないことが最も重要である。これを忘れると、関数を最大化・最小化する際にとり得ない範囲まで考えてしまうことになる。 本問のように、さらに $x \geqq 0, y \geqq 0$ などの符号の条件が加わる場合は、積 $xy$ の符号も考慮して定義域を絞り込む必要がある。

答え

最小値: $\frac{63}{4}$

最大値: $28$