解説

方針・初手

まず角条件を内積で式に直す。点 $P$ は $z=0$ 平面上を動くので、$\angle OAP=30^\circ$ から $x,y$ の関係式を導き、その上で $(x+1)(y+1)$ の最大・最小を調べる。

解法1

点 $A$ を始点とするベクトルを考えると、

$$ \overrightarrow{AO}=(0,-1,-1),\qquad \overrightarrow{AP}=(x,y-1,-1)

$$

である。したがって

$$ \overrightarrow{AO}\cdot\overrightarrow{AP}=2-y

$$

また、

$$ |\overrightarrow{AO}|=\sqrt{2},\qquad |\overrightarrow{AP}|=\sqrt{x^2+(y-1)^2+1}

$$

である。$\angle OAP=30^\circ$ より、

$$ \frac{2-y}{\sqrt{2}\sqrt{x^2+(y-1)^2+1}}=\cos 30^\circ=\frac{\sqrt{3}}{2}

$$

となる。これを整理すると、

$$ 2(2-y)^2=3{x^2+(y-1)^2+1}

$$

すなわち

$$ 3x^2+y^2+2y-2=0

$$

である。よって

$$ 3x^2+(y+1)^2=3

$$

を得る。

ここで

$$ u=y+1

$$

とおく。条件 $y\geqq 0$ より $u\geqq 1$ であり、上の式は

$$ 3x^2+u^2=3

$$

となる。求める量は

$$ (x+1)(y+1)=u(x+1)

$$

である。

関数

$$ F=u(x+1)

$$

を、制約条件

$$ 3x^2+u^2=3,\qquad 1\leqq u\leqq \sqrt{3}

$$

のもとで調べる。

内部で極値をとる場合、ラグランジュの未定乗数法を用いると、

$$ \nabla F=\lambda \nabla(3x^2+u^2)

$$

より

$$ u=6\lambda x,\qquad x+1=2\lambda u

$$

である。$x=0$ とすると第1式から $u=0$ となり、$u\geqq 1$ に反するので $x\neq 0$ である。したがって

$$ \lambda=\frac{u}{6x}

$$

とおけるから、

$$ x+1=\frac{u^2}{3x}

$$

すなわち

$$ 3x(x+1)=u^2

$$

である。一方、制約条件より

$$ u^2=3-3x^2

$$

なので、

$$ 3x(x+1)=3-3x^2

$$

となる。これを整理すると、

$$ 2x^2+x-1=0

$$

よって

$$ x=\frac{1}{2},\ -1

$$

である。

$x=-1$ のときは制約条件から $u=0$ となり、$u\geqq 1$ に反する。したがって内部の候補は

$$ x=\frac{1}{2},\qquad u^2=3-3\cdot\frac14=\frac94

$$

より

$$ u=\frac32

$$

である。このとき

$$ F=\frac32\left(\frac12+1\right)=\frac94

$$

となる。

次に端点を調べる。

**(i)**

$u=1$ のとき

$$ 3x^2+1=3

$$

より

$$ x=\pm\sqrt{\frac23}

$$

である。したがって

$$ F=1\cdot(x+1)=1\pm\sqrt{\frac23}

$$

となる。

**(ii)**

$u=\sqrt{3}$ のとき

$$ 3x^2+3=3

$$

より

$$ x=0

$$

である。したがって

$$ F=\sqrt{3}

$$

となる。

以上の候補を比較すると、

$$ 1-\sqrt{\frac23}<\sqrt{3}<1+\sqrt{\frac23}<\frac94

$$

であるから、最大値は

$$ \frac94

$$

最小値は

$$ 1-\sqrt{\frac23}

$$

である。

解説

角条件をそのまま扱うのではなく、$\overrightarrow{AO}$ と $\overrightarrow{AP}$ のなす角として内積に直すのが初手である。すると、点 $P$ の軌跡は

$$ 3x^2+(y+1)^2=3

$$

という楕円の一部になる。

条件 $y\geqq 0$ を忘れると、楕円全体で最大・最小を探してしまい、余計な点を含めることになる。ここでは $u=y+1$ とおくことで、制約が

$$ 3x^2+u^2=3,\qquad 1\leqq u\leqq \sqrt{3}

$$

となり、端点の確認も明確になる。

答え

最大値は

$$ \frac94

$$

最小値は

$$ 1-\sqrt{\frac23}

$$

である。