解説

方針・初手

2つのベクトルの両方に垂直なベクトルは、外積 $\vec a \times \vec b$ の方向にある。したがって、まず外積を求め、それを長さ $1$ に正規化する。

解法1

$\vec a=(1,-1,-1),\ \vec b=(3,1,-1)$ とする。

$\vec a$ と $\vec b$ の両方に垂直なベクトルは、$\vec a \times \vec b$ に平行である。

$$ \begin{aligned} \vec a \times \vec b &= \begin{vmatrix} \vec i & \vec j & \vec k \\ 1 & -1 & -1 \\ 3 & 1 & -1 \end{vmatrix} \\ &= \bigl((-1)(-1)-(-1)\cdot 1,\ -{1\cdot(-1)-(-1)\cdot 3},\ 1\cdot 1-(-1)\cdot 3\bigr) \\ &=(2,-2,4). \end{aligned}

$$

よって、両方に垂直なベクトルの方向は

$$ (2,-2,4)=2(1,-1,2)

$$

である。

$(1,-1,2)$ の大きさは

$$ \sqrt{1^2+(-1)^2+2^2}=\sqrt{6}

$$

であるから、単位ベクトルは

$$ \pm \frac{1}{\sqrt{6}}(1,-1,2)

$$

である。

解法2

求める単位ベクトルを $\vec x=(x,y,z)$ とおく。

$\vec x$ が $\vec a=(1,-1,-1)$ に垂直であることから

$$ x-y-z=0

$$

である。

また、$\vec x$ が $\vec b=(3,1,-1)$ に垂直であることから

$$ 3x+y-z=0

$$

である。

この2式を連立すると

$$ \begin{aligned} x-y-z&=0,\\ 3x+y-z&=0. \end{aligned}

$$

第1式から $x=y+z$ である。これを第2式に代入して

$$ 3(y+z)+y-z=0

$$

より

$$ 4y+2z=0

$$

だから

$$ z=-2y

$$

である。したがって

$$ x=y+z=y-2y=-y

$$

となる。

よって

$$ \vec x=(-y,y,-2y)=y(-1,1,-2)

$$

である。これは $(1,-1,2)$ に平行である。

単位ベクトルであるためには

$$ |\vec x|=1

$$

が必要であるから、方向ベクトル $(1,-1,2)$ を正規化して

$$ \vec x=\pm \frac{1}{\sqrt{6}}(1,-1,2)

$$

を得る。

解説

両方に垂直なベクトルを求める問題では、外積を使うのが最も直接的である。ただし、高校数学の範囲で外積を使わない場合は、未知数を置いて内積が $0$ になる条件を連立する方法でも処理できる。

注意すべき点は、「単位ベクトル」とあるので、垂直方向を求めるだけで終わらず、長さを $1$ にそろえることである。また、ある方向の単位ベクトルは正負の2つ存在する。

答え

$$ \boxed{\pm \frac{1}{\sqrt{6}}(1,-1,2)}

$$