解説

方針・初手

与式も条件式も $x,y$ の対称式であるから、

$$ s=x+y,\quad p=xy $$

とおいて整理するのが自然である。すると条件式から $p$ を $s$ で表せるので、求める式は $s$ だけの式に落ちる。あとは、実数 $x,y$ が存在するための条件を用いて $s$ の範囲を定め、その区間で 1 変数関数の最大・最小を調べればよい。

解法1

求める式を

$$ E=x^2y+xy^2-x^2-2xy-y^2+x+y $$

とおく。

まず、

$$ x^2y+xy^2=xy(x+y),\qquad x^2+2xy+y^2=(x+y)^2 $$

であるから、

$$ E=xy(x+y)-(x+y)^2+(x+y) $$

となる。ここで

$$ s=x+y,\quad p=xy $$

とおくと、

$$ E=ps-s^2+s $$

である。

一方、条件 $x^2+xy+y^2=6$ は

$$ x^2+xy+y^2=(x+y)^2-xy=s^2-p $$

より、

$$ s^2-p=6 $$

すなわち

$$ p=s^2-6 $$

となる。したがって、

$$ E=s(s^2-6)-s^2+s=s^3-s^2-5s $$

である。

次に、実数 $x,y$ が存在する条件を調べる。$x,y$ は 2 次方程式

$$ t^2-st+p=0 $$

の 2 解であるから、その判別式が $0$ 以上でなければならない。よって

$$ s^2-4p\geqq 0 $$

である。ここに $p=s^2-6$ を代入すると、

$$ s^2-4(s^2-6)\geqq 0 $$

すなわち

$$ 24-3s^2\geqq 0 $$

となるから、

$$ s^2\leqq 8 $$

よって

$$ -2\sqrt{2}\leqq s\leqq 2\sqrt{2} $$

である。

以上より、$E$ の範囲は関数

$$ f(s)=s^3-s^2-5s \qquad \left(-2\sqrt{2}\leqq s\leqq 2\sqrt{2}\right) $$

の値域に一致する。

そこで微分すると、

$$ f'(s)=3s^2-2s-5=(3s-5)(s+1) $$

であるから、極値をとる候補は

$$ s=-1,\quad s=\frac53 $$

である。これらと端点での値を調べると、

$$ f(-2\sqrt2)=(-2\sqrt2)^3-(-2\sqrt2)^2-5(-2\sqrt2) =-16\sqrt2-8+10\sqrt2 =-8-6\sqrt2 $$

$$ f(-1)=-1-1+5=3 $$

$$ f\left(\frac53\right)=\frac{125}{27}-\frac{25}{9}-\frac{25}{3} =\frac{125-75-225}{27} =-\frac{175}{27} $$

$$ f(2\sqrt2)=(2\sqrt2)^3-(2\sqrt2)^2-5(2\sqrt2) =16\sqrt2-8-10\sqrt2 =6\sqrt2-8 $$

したがって、この区間での最大値は $3$、最小値は $-8-6\sqrt2$ である。

よって求める値の範囲は

$$ -8-6\sqrt2\leqq E\leqq 3 $$

である。

解説

この問題の本質は、対称式を $x+y,\ xy$ で処理することにある。直接 $x,y$ のまま扱うと見通しが悪いが、$s=x+y,\ p=xy$ とおけば条件式からすぐに $p=s^2-6$ が得られ、求める式も 1 変数の 3 次関数に変わる。

ただし、それだけでは不十分である。$s$ を自由な実数としてよいわけではなく、実数 $x,y$ が実際に存在する条件、すなわち判別式 $s^2-4p\geqq 0$ を必ず課さなければならない。ここを落とすと値域を誤る。

答え

$$ x^2y+xy^2-x^2-2xy-y^2+x+y $$

のとりうる値の範囲は

$$ -8-6\sqrt2\leqq x^2y+xy^2-x^2-2xy-y^2+x+y\leqq 3 $$

である。