解説

方針・初手

円の中心は $C(1,1)$、半径は $1$ である。したがって $A,B$ は円周上の点であり、

$$ CA=CB=1 $$

が成り立つ。

よって （1） では、三角形の面積を 「2辺とその間の角」で表すのが自然である。

また （2） では、直線 $y=mx$ を円の方程式に代入して交点の $x$ 座標を求め、2点間距離を計算する。

（3） では、（1） の結果と （2） の結果を結びつければよい。

解法1

（1） $S$ の最大値とそのときの $\angle ACB$

三角形 $ABC$ において $CA=CB=1$ であるから、面積 $S$ は

$$ S=\frac12 \cdot CA \cdot CB \cdot \sin \angle ACB =\frac12 \sin \angle ACB $$

と表される。

ここで $\angle ACB$ は三角形の内角であるから

$$ 0<\angle ACB<\pi $$

であり、したがって

$$ \sin \angle ACB \le 1 $$

である。等号は

$$ \angle ACB=\frac{\pi}{2} $$

のときに成り立つ。

よって、

$$ S_{\max}=\frac12 $$

であり、そのとき

$$ \angle ACB=\frac{\pi}{2}=90^\circ $$

である。

（2） $m>1$ のとき、線分 $AB$ の長さ

直線 $y=mx$ を円

$$ (x-1)^2+(y-1)^2=1 $$

に代入すると、

$$ (x-1)^2+(mx-1)^2=1 $$

すなわち

$$ (1+m^2)x^2-2(1+m)x+1=0 $$

を得る。

この2解を $x_A,x_B$ とすると、判別式は

$$ \begin{aligned} D&={-2(1+m)}^2-4(1+m^2)\cdot 1 \\ &=4(1+m)^2-4(1+m^2) \\ &=8m \end{aligned} $$

であるから、2解の差は

$$ |x_B-x_A|=\frac{\sqrt{D}}{1+m^2} =\frac{2\sqrt{2m}}{1+m^2} $$

となる。

点 $A,B$ はともに直線 $y=mx$ 上にあるので、

$$ AB=\sqrt{(x_B-x_A)^2+(mx_B-mx_A)^2} =\sqrt{1+m^2},|x_B-x_A| $$

である。したがって

$$ AB=\sqrt{1+m^2}\cdot \frac{2\sqrt{2m}}{1+m^2} =2\sqrt{\frac{2m}{1+m^2}} $$

となる。

（3） $S$ が最大値をとるときの $m$

（1） より、$S$ が最大になるのは

$$ \angle ACB=90^\circ $$

のときである。

このとき三角形 $ABC$ は

$$ CA=CB=1,\quad \angle ACB=90^\circ $$

を満たすので、三平方の定理より

$$ AB=\sqrt{1^2+1^2}=\sqrt{2} $$

である。

一方、（2） より

$$ AB=2\sqrt{\frac{2m}{1+m^2}} $$

であるから、

$$ 2\sqrt{\frac{2m}{1+m^2}}=\sqrt{2} $$

となる。両辺を2乗して整理すると、

$$ \frac{8m}{1+m^2}=2 $$

$$ 4m=1+m^2 $$

$$ m^2-4m+1=0 $$

よって

$$ m=2\pm \sqrt{3} $$

を得る。ここで条件 $m>1$ より、

$$ m=2+\sqrt{3} $$

である。

解説

この問題の本質は、$A,B$ が円周上にあるため

$$ CA=CB=1 $$

が常に成り立つ点にある。したがって面積は

$$ S=\frac12 \sin \angle ACB $$

と一気に表せ、最大値の議論が非常に簡単になる。

そのうえで、直線 $y=mx$ と円の交点から弦 $AB$ の長さを $m$ で表せば、面積最大のときの条件 「$\angle ACB=90^\circ$」を具体的な $m$ の値に落とし込める。

答え

$$ \text{（1） }; S_{\max}=\frac12,\qquad \angle ACB=90^\circ $$

$$ \text{（2） }; AB=2\sqrt{\frac{2m}{1+m^2}} $$

$$ \text{（3） }; m=2+\sqrt{3} $$