解説

方針・初手

球の中心を $O$ とし，底面 $B_1B_2B_3B_4$ を含む平面と $O$ との距離を変数で置く。

底面の4点は同一平面上かつ球面上にあるので，底面の正方形はその平面と球の交わりでできる円に内接する。このことから，底面積はその平面の位置だけで決まる。

また，体積は

$$ \frac13\times \text{底面積}\times \text{高さ} $$

であり，高さも底面平面の位置によって評価できる。したがって，体積を1変数関数にして最大値を求めればよい。

解法1

球の中心を $O$，底面 $B_1B_2B_3B_4$ を含む平面を $\Pi$ とする。 $O$ から $\Pi$ までの距離を $t$ とおく。ただし対称性より

$$ 0\le t\le 1 $$

としてよい。

底面積を求める

平面 $\Pi$ と半径1の球との交わりは半径

$$ \sqrt{1-t^2} $$

の円である。

正方形 $B_1B_2B_3B_4$ はこの円に内接するから，その対角線はこの円の直径に等しい。したがって，正方形の1辺の長さを $s$ とすると

$$ s\sqrt{2}=2\sqrt{1-t^2} $$

より

$$ s=\sqrt{2}\sqrt{1-t^2}. $$

よって底面積 $S$ は

$$ S=s^2=2(1-t^2) $$

である。

高さを求める

四角錐の高さは，点 $A$ から平面 $\Pi$ までの距離である。

球面上の点のうち，平面 $\Pi$ から最も遠い点は，$O$ を通って $\Pi$ に垂直な直線と球面との交点のうち，$\Pi$ と反対側にある点である。このとき距離は

$$ 1+t $$

となる。

したがって，四角錐の高さを $h$ とすると

$$ h\le 1+t $$

であり，等号は $A$ がその最遠点にあるときに成り立つ。

体積を最大化する

四角錐の体積 $V$ は

$$ V\le \frac13\cdot 2(1-t^2)\cdot (1+t) $$

すなわち

$$ V\le \frac23(1-t^2)(1+t). $$

ここで

$$ f(t)=(1-t^2)(1+t)=(1-t)(1+t)^2 $$

とおくと，

$$ f(t)=1+t-t^2-t^3 $$

なので

$$ f'(t)=1-2t-3t^2. $$

これより

$$ f'(t)=0 \iff 3t^2+2t-1=0 \iff t=\frac13 \ \text{または}\ -1. $$

ただし $0\le t\le 1$ であるから，

$$ t=\frac13 $$

のとき極値をとる。端点も調べると

$$ f(0)=1,\quad f(1)=0,\quad f\left(\frac13\right)=\left(1-\frac19\right)\left(1+\frac13\right)=\frac89\cdot\frac43=\frac{32}{27}. $$

したがって最大体積は

$$ V_{\max}=\frac23\cdot \frac{32}{27}=\frac{64}{81}. $$

この値は，底面平面が中心から距離 $\frac13$ にあり，$A$ がその平面から最も遠い球面上の点にあるときに実現する。

解説

この問題の本質は，底面の正方形を直接動かして考えるのではなく，「底面平面の位置」を1つの変数で表すことである。

底面の4点が球面上にある以上，底面の正方形は必ず球の平面切断円に内接する。したがって底面積は切断円の半径からすぐに決まる。また高さは，その平面から球面上の点までの最大距離として求められる。

つまり，空間図形の問題であっても，最終的には1変数関数の最大値問題に帰着する。この見通しを立てられるかどうかが重要である。

答え

四角錐 $AB_1B_2B_3B_4$ の体積の最大値は

$$ \frac{64}{81} $$

である。