解説

方針・初手

$\overrightarrow{AB}$ と $\overrightarrow{AC}$ が直交するので、内積が $0$ になることを用いて $a$ を求める。

その後、求めた $a$ を代入して平面 $ABC$ の方程式を作り、点 $P(2,3,b)$ がその平面上にある条件から $b$ を求める。

解法1

まず、

$$ \overrightarrow{AB}=B-A=(1-1,;1-2,;1-0)=(0,-1,1)

$$

である。また、

$$ \overrightarrow{AC}=C-A=(0-1,;-1-2,;a-0)=(-1,-3,a)

$$

である。

$\overrightarrow{AB}$ と $\overrightarrow{AC}$ のなす角が $90^\circ$ であるから、

$$ \overrightarrow{AB}\cdot\overrightarrow{AC}=0

$$

である。よって、

$$ (0,-1,1)\cdot(-1,-3,a)=0

$$

より、

$$ 0+3+a=0

$$

となる。したがって、

$$ a=-3

$$

である。

次に、$a=-3$ として、平面 $ABC$ の方程式を求める。このとき

$$ \overrightarrow{AB}=(0,-1,1),\qquad \overrightarrow{AC}=(-1,-3,-3)

$$

である。

平面 $ABC$ の法線ベクトルは、$\overrightarrow{AB}$ と $\overrightarrow{AC}$ の両方に垂直なベクトルである。外積を用いると、

$$ \overrightarrow{AB}\times\overrightarrow{AC} = \begin{vmatrix} \mathbf{i} & \mathbf{j} & \mathbf{k}\\ 0 & -1 & 1\\ -1 & -3 & -3 \end{vmatrix} =(6,-1,-1)

$$

となる。

したがって、平面 $ABC$ は点 $A(1,2,0)$ を通り、法線ベクトル $(6,-1,-1)$ をもつ平面であるから、

$$ 6(x-1)-(y-2)-z=0

$$

すなわち、

$$ 6x-y-z-4=0

$$

である。

点 $P(2,3,b)$ がこの平面上にあるので、

$$ 6\cdot2-3-b-4=0

$$

となる。これを解くと、

$$ 12-3-b-4=0

$$

より、

$$ 5-b=0

$$

したがって、

$$ b=5

$$

である。

解説

直交条件は内積 $0$ に直すのが基本である。ここでは $\overrightarrow{AB}$ と $\overrightarrow{AC}$ を成分で表し、内積からすぐに $a$ が求まる。

後半は、平面上に点がある条件を使う問題である。平面 $ABC$ を扱うには、平面内の2本のベクトル $\overrightarrow{AB}$、$\overrightarrow{AC}$ に垂直な法線ベクトルを作るのが自然である。平面方程式を作れば、点 $P(2,3,b)$ を代入するだけで $b$ が決まる。

答え

$$ \boxed{⑤=-3}

$$

$$ \boxed{⑥=5}

$$